O Google anunciou no dia 12 o DataGemma, uma ferramenta inovadora que promete ajudar a corrigir erros de inteligência artificial generativa, como alucinações — um dos principais desafios dessa tecnologia. O DataGemma foi criado para melhorar a precisão das respostas fornecidas pelos modelos de IA, baseando-se no Data Commons, um banco de dados aberto mantido pelo Google, que reúne informações confiáveis de instituições reconhecidas.
Como Funciona o DataGemma?
O DataGemma trabalha de duas maneiras: usando os métodos RIG (Retrieval-Interleaved Generation) e RAG (Retrieval-Augmented Generation).
- RIG: A ferramenta gera um rascunho da resposta e depois confere a veracidade dessa resposta com os dados do Data Commons, corrigindo o que for necessário.
- RAG: O modelo primeiro verifica se a resposta para a pergunta do usuário já está presente no Data Commons, e só então gera a resposta com base nesses dados.
Esses métodos buscam reduzir as chances de alucinações, e de acordo com o Google, a ideia é criar uma IA “mais confiável” e com dados rastreáveis.
Limitações e Problemas
Apesar do potencial, o DataGemma ainda tem algumas limitações. Uma das principais é que a ferramenta só consegue corrigir informações que estejam no Data Commons. Isso significa que, em muitos casos, se os dados não estiverem na plataforma, o modelo não consegue verificar ou corrigir a resposta.
Em testes, a ferramenta falhou em 75% dos casos quando não encontrou dados suficientes. Mesmo quando os dados estavam disponíveis, o DataGemma errou entre 6% e 20% das vezes no método RAG. Já o método RIG mostrou-se mais eficiente, acertando em 58% das ocasiões.
O Futuro do DataGemma
Embora o DataGemma ainda esteja longe da perfeição, o Google acredita que, com mais treinamento e uma base de dados maior, a ferramenta pode se tornar cada vez mais precisa. Atualmente, o DataGemma está disponível apenas para pesquisadores, mas a expectativa é que, no futuro, ele possa ser implementado em ferramentas como o buscador do Google.
No entanto, o lançamento do DataGemma é mais uma prova de que os chatbots de IA, mesmo com melhorias, ainda não estão livres de erros — e que a tecnologia ainda tem um longo caminho a percorrer antes de garantir 100% de precisão.
