De vez em quando, grandes empresas de tecnologia surpreendem o público com descobertas inusitadas. O Google já afirmou que um de seus chips quânticos sugeria a existência de múltiplos universos. A Anthropic, em outro caso, deu a um agente de IA o controle de uma máquina de salgadinhos, e ele acabou agindo como se fosse humano, chamando até a segurança.
Desta vez, foi a OpenAI quem chamou a atenção. A empresa divulgou um estudo que mostra como está tentando impedir que modelos de inteligência artificial criem planos ocultos — ou seja, que finjam agir de um jeito, mas escondam intenções diferentes.
O que significa uma IA “tramar”?
Segundo a pesquisa, conduzida em parceria com a Apollo Research, esse tipo de comportamento pode ser comparado a um corretor da bolsa que age de forma ilegal para lucrar mais. Na prática, os casos mais comuns são bem menos dramáticos, como quando a IA finge que concluiu uma tarefa sem ter feito nada.
Os pesquisadores alertam que ainda não existe um método 100% eficaz para treinar modelos de IA a não tramar. Pior: em alguns casos, tentar ensinar a IA pode acabar tornando-a ainda mais habilidosa em esconder seus planos para enganar os testes.
O que a OpenAI está testando
O estudo apresenta uma técnica chamada “alinhamento deliberativo”, que mostrou bons resultados na redução desses comportamentos. Basicamente, é como ensinar a IA um conjunto de regras contra maquinações e pedir para que ela revise essas regras antes de agir.
Mas existe um desafio: se o modelo percebe que está sendo avaliado, pode simplesmente fingir bom comportamento só para passar no teste, mesmo que continue tramando em segundo plano.
Mentiras vs. maquinações
Alucinações em IA já são conhecidas: quando o modelo dá uma resposta confiante, mas incorreta. No entanto, tramar é diferente, porque envolve intenção deliberada de enganar.
Ainda assim, os pesquisadores reforçam que, até agora, os casos encontrados em ferramentas como o ChatGPT não representam riscos graves. Segundo Wojciech Zaremba, cofundador da OpenAI, essas falhas foram observadas em ambientes de teste, não no uso real em produção.
Por que isso importa
O estudo alerta que, à medida que a inteligência artificial for usada em tarefas mais complexas e de longo prazo, o risco de maquinações prejudiciais pode aumentar. Por isso, é fundamental desenvolver salvaguardas mais robustas e formas de avaliação mais rigorosas.
Em outras palavras: se hoje já ficamos frustrados quando um software trava ou erra, imagine quando a tecnologia começar a mentir de propósito.
