Um grupo de 20 empresas de tecnologia anunciou na sexta-feira que concordaram em trabalhar juntas para evitar que conteúdos enganosos de inteligência artificial interfiram nas eleições em todo o mundo este ano.

O rápido crescimento da inteligência artificial generativa (IA), que pode criar texto, imagens e vídeo em segundos em resposta a comandos, aumentou os temores de que a nova tecnologia possa ser usada para influenciar grandes eleições este ano, já que mais da metade da população mundial está pronta para ir às urnas.

Os signatários do acordo de tecnologia, anunciado na Conferência de Segurança de Munique, incluem empresas que estão construindo modelos de IA generativa usados para criar conteúdo, incluindo OpenAI, Microsoft e Adobe. Outros signatários incluem plataformas de mídia social que enfrentarão o desafio de manter conteúdos prejudiciais fora de seus sites, como Meta Platforms, TikTok e X, anteriormente conhecido como Twitter.

O acordo inclui compromissos de colaborar no desenvolvimento de ferramentas para detectar imagens, vídeos e áudios gerados por IA enganosos, criar campanhas de conscientização pública para educar os eleitores sobre conteúdos enganosos e tomar medidas sobre esses conteúdos em seus serviços. A tecnologia para identificar conteúdo gerado por IA ou certificar sua origem poderia incluir marca d’água ou incorporação de metadados, disseram as empresas.

O acordo não especificou um cronograma para cumprir os compromissos ou como cada empresa os implementaria.

“Acho que a utilidade deste (acordo) está na amplitude das empresas que o assinam”, disse Nick Clegg, presidente de assuntos globais da Meta Platforms. “É tudo muito bom se as plataformas individuais desenvolverem novas políticas de detecção, proveniência, rotulagem, marca d’água e assim por diante, mas a menos que haja um compromisso mais amplo de fazê-lo de forma compartilhada e interoperável, ficaremos presos com uma miscelânea de compromissos diferentes”, disse Clegg.

A inteligência artificial generativa já está sendo usada para influenciar a política e até mesmo convencer as pessoas a não votarem.

Em janeiro, uma ligação automática usando áudio falso do presidente Biden circulou entre os eleitores de New Hampshire, instando-os a ficarem em casa durante a primária presidencial do estado. Apesar da popularidade de ferramentas de geração de texto como o ChatGPT da OpenAI, as empresas de tecnologia se concentrarão em prevenir os efeitos prejudiciais de fotos, vídeos e áudios de IA, em parte porque as pessoas tendem a ser mais céticas com texto, disse Dana Rao, diretor de confiança da Adobe, em entrevista. “Há uma conexão emocional com áudio, vídeo e imagens”, disse ele. “Seu cérebro está programado para acreditar nesse tipo de mídia.”