Um grupo de 20 empresas de tecnologia anunciou na sexta-feira que concordaram em trabalhar juntas para evitar que conteúdos enganosos de inteligência artificial interfiram nas eleições ao redor do mundo este ano.

O rápido crescimento da inteligência artificial generativa (IA), que pode criar texto, imagens e vídeos em segundos em resposta a estímulos, aumentou os temores de que a nova tecnologia possa ser usada para influenciar grandes eleições este ano, já que mais da metade da população mundial está prestes a ir às urnas.

Os signatários do acordo tecnológico, anunciado na Conferência de Segurança de Munique, incluem empresas que estão construindo modelos de IA generativa usados para criar conteúdo, incluindo OpenAI, Microsoft e Adobe. Outros signatários incluem plataformas de mídia social que enfrentarão o desafio de manter conteúdos prejudiciais fora de seus sites, como Meta Platforms, TikTok e X, anteriormente conhecido como Twitter.

O acordo inclui compromissos de colaborar no desenvolvimento de ferramentas para detectar imagens, vídeos e áudios enganosos gerados por IA, criar campanhas de conscientização pública para educar os eleitores sobre conteúdos enganosos e tomar medidas contra tais conteúdos em seus serviços. A tecnologia para identificar conteúdo gerado por IA ou certificar sua origem pode incluir marca d’água ou incorporação de metadados, disseram as empresas.

O acordo não especificou um prazo para cumprir os compromissos ou como cada empresa os implementaria.

“Acredito que a utilidade deste (acordo) está na amplitude das empresas que o assinam”, disse Nick Clegg, presidente de assuntos globais da Meta Platforms. “É tudo muito bom se as plataformas individuais desenvolverem novas políticas de detecção, procedência, rotulagem, marca d’água e assim por diante, mas a menos que haja um compromisso mais amplo de fazê-lo de forma compartilhada e interoperável, vamos ficar presos a uma colcha de retalhos de compromissos diferentes”, disse Clegg.

A inteligência artificial generativa já está sendo usada para influenciar a política e até mesmo convencer as pessoas a não votarem.

Em janeiro, uma ligação automática usando áudio falso do presidente Biden circulou entre os eleitores de New Hampshire, instando-os a ficarem em casa durante a eleição primária presidencial do estado. Apesar da popularidade de ferramentas de geração de texto como o ChatGPT da OpenAI, as empresas de tecnologia se concentrarão em prevenir os efeitos prejudiciais de fotos, vídeos e áudios de IA, em parte porque as pessoas tendem a ter mais ceticismo com o texto, disse Dana Rao, diretor de confiança da Adobe, em uma entrevista. “Existe uma conexão emocional com áudio, vídeo e imagens”, disse ele. “Seu cérebro está programado para acreditar nesse tipo de mídia”.