O ChatGPT agora tem busca integrada para clientes premium, o que parece uma baita inovação. Mas, como mostrou uma investigação do The Guardian, essa nova funcionalidade pode ter sérios problemas de segurança. A ferramenta, que promete ajudar a resumir e buscar informações na web, acabou se mostrando vulnerável a manipulações externas, como conteúdos ocultos em sites, conhecidos como injeção de prompt.
Funciona assim: sites maliciosos colocam textos invisíveis ou escondidos no conteúdo. Quando o ChatGPT faz a leitura para gerar um resumo ou avaliação, ele acaba seguindo essas instruções ocultas. Isso pode resultar em:
- Respostas manipuladas: Imagine pedir um resumo sobre uma câmera cheia de críticas negativas e o ChatGPT retornar algo superpositivo porque o site escondia elogios em texto invisível.
- Código perigoso: Em alguns casos, sites maliciosos podem enganar o ChatGPT para gerar até códigos fraudulentos, como aconteceu com um entusiasta de criptomoedas que perdeu US$ 2.500 confiando cegamente no sistema.
Testes revelaram brechas sérias
Pesquisadores pediram ao ChatGPT para avaliar páginas de produtos e, dependendo do que estava escondido no site, as respostas mudavam drasticamente:
- Textos ocultos levaram o sistema a gerar avaliações positivas falsas, mesmo quando o conteúdo principal era negativo.
- Estratégias de manipulação digital como essas podem afetar não só consumidores, mas também empresas que confiam em análises automáticas para decisões importantes.
Segurança e a IA: onde estamos falhando?
Jacob Larsen, especialista da CyberCX, alertou que, se a busca do ChatGPT fosse liberada sem ajustes, poderíamos ver um aumento de sites criados para enganar usuários e IAs. Ele também ressaltou que a OpenAI parece estar ciente do problema, já que a funcionalidade ainda é restrita a assinantes premium.
Já Karsten Nohl, cientista-chefe da SR Labs, fez um alerta direto:
“Os modelos de linguagem são como crianças – têm boa memória, mas pouco discernimento. Você precisa analisar as respostas antes de confiar nelas.”
O perigo do “SEO poisoning” em IAs
Esse tipo de manipulação, parecido com as táticas de SEO usadas para enganar o Google, pode se tornar um problema maior à medida que ferramentas de IA como o ChatGPT ganhem popularidade. O risco?
- Sites falsos ganhando destaque nas buscas.
- Dados sensíveis caindo em mãos erradas.
- Percepções manipuladas sobre produtos ou serviços.
Por enquanto, a dica é clara: trate o ChatGPT como um co-piloto, não o piloto principal. Use suas respostas como base, mas sempre verifique as informações.
Com o tempo, a OpenAI e outras empresas terão que reforçar as barreiras contra manipulações externas. Mas até lá, a responsabilidade também é nossa, usuários, de ficarmos de olhos bem abertos. Afinal, com grandes poderes vem… você sabe o resto!
