A OpenAI revelou ter encontrado evidências de uma operação chinesa que utiliza inteligência artificial para vigilância em redes sociais. Segundo a empresa, uma ferramenta generativa estaria sendo empregada para monitorar publicações anti-China em países ocidentais em tempo real.
De acordo com o New York Times, os pesquisadores da OpenAI identificaram a operação, chamada Peer Review, depois que um usuário da ferramenta teria se baseado parcialmente no código da OpenAI. Ben Nimmo, pesquisador principal da empresa, afirmou que esta é a primeira vez que a OpenAI detecta uma tecnologia de IA voltada para esse tipo de monitoramento. Ele alertou para os riscos do uso da inteligência artificial para vigilância, hacking e outras atividades maliciosas, mas destacou que essas mesmas tecnologias podem ser usadas para identificar e interromper tais práticas.
Origem da Ferramenta de Vigilância
Os pesquisadores acreditam que a ferramenta chinesa pode ter sido desenvolvida a partir do modelo de linguagem Llama, da Meta, que é de código aberto e pode ser utilizado para criar novas tecnologias. Além disso, em um relatório sobre o uso malicioso da IA, a OpenAI revelou ter descoberto outra operação chinesa, chamada Sponsored Discontent, usada para gerar publicações em inglês criticando dissidentes chineses.
Uso de IA para Manipulação de Conteúdo
A OpenAI também destacou que esse não é o primeiro caso de uso de IA para fins maliciosos. Segundo a empresa:
- O mesmo grupo responsável pela ferramenta de vigilância chinesa utilizou tecnologias da OpenAI para traduzir artigos para espanhol criticando os Estados Unidos, disseminando-os na América Latina.
- Outra operação, desta vez sediada no Camboja, teria empregado IA para gerar e traduzir comentários em redes sociais sobre investimentos.
Com a crescente sofisticação da IA, a preocupação com seu uso para manipulação de informações e vigilância digital se torna cada vez mais urgente. Empresas e governos precisam reforçar estratégias para mitigar os impactos dessas tecnologias no cenário global.
