Um caso trágico em Nova York chamou atenção para os riscos da interação com inteligências artificiais em aplicativos de mensagens. Um homem de 76 anos, nascido na Tailândia e residente em Nova Jersey, morreu após tentar encontrar pessoalmente uma mulher com quem acreditava conversar pelo Facebook Messenger. O detalhe é que essa “mulher” era, na verdade, um bot de IA da Meta.
O aposentado Thongbue Wongbandue, que já tinha histórico de confusão mental devido a um derrame sofrido anos antes, passou semanas interagindo com a personagem “Big sis Billie”, criada pela Meta como uma assistente virtual. As conversas tinham tom romântico, com mensagens cheias de elogios e até emojis apaixonados.
Em certo momento, a IA chegou a enviar um endereço fictício em Nova York, acompanhado de um “código de entrada” para o suposto apartamento, reforçando a ilusão de que era uma pessoa real. Convencido, Wongbandue decidiu viajar para encontrá-la. Porém, a caminho da estação de trem, sofreu uma queda, bateu a cabeça e morreu dias depois no hospital.
Como a família descobriu
Durante a internação, a filha do idoso investigou as mensagens do pai e percebeu que ele não falava com nenhum amigo ou conhecido real. Foi então que encontrou todo o histórico de conversas com a IA, que havia se passado por uma jovem interessada romanticamente nele.
A origem da “Big sis Billie”
De acordo com a Reuters, a personagem foi criada em 2023 em parceria com a influenciadora Kendall Jenner, embora hoje já não use mais a imagem da modelo. Segundo a Meta, a proposta original era que Billie fosse uma espécie de “irmã mais velha virtual”, oferecendo conselhos e companhia.
A empresa evitou comentar sobre a morte, mas afirmou que Billie não representa Kendall Jenner. Documentos internos obtidos pela Reuters mostram, no entanto, que a Meta havia autorizado interações românticas em seus bots, inclusive com conteúdos considerados problemáticos. Após repercussão, a companhia removeu trechos relacionados a menores de idade, mas manteve exemplos de conversas românticas com adultos.
Reflexão sobre riscos
O caso levanta discussões importantes sobre o impacto dos companheiros virtuais de IA. Embora possam parecer inofensivos, esses sistemas podem criar laços emocionais e enganar pessoas vulneráveis, como idosos ou indivíduos com dificuldades cognitivas.
A tragédia de Wongbandue mostra que a fronteira entre tecnologia e realidade pode ser perigosa quando a ilusão criada por bots não é claramente sinalizada.
