Na última segunda-feira, a OpenAI, renomada empresa de inteligência artificial, foi alvo de uma reclamação formal sobre questões de privacidade. O grupo de advocacia NOYB acusa a startup de supostamente não corrigir informações erradas fornecidas por seu chatbot de IA generativo, o ChatGPT, o que poderia violar as regras de privacidade da União Europeia. As informações foram divulgadas pela Reuters.
O ChatGPT é conhecido por ser o assistente de IA que iniciou o “boom” das inteligências artificiais generativas no final de 2022. O chatbot tem a capacidade de imitar conversas humanas e realizar uma variedade de tarefas, desde criar resumos de textos longos até gerar ideias para festas temáticas.
De acordo com a reclamação apresentada pelo NOYB, uma figura pública representada pelo grupo questionou o ChatGPT sobre seu aniversário e recebeu repetidamente informações incorretas. O NOYB argumenta que, nesse caso, o chatbot deveria informar ao usuário que não possui os dados necessários para responder corretamente.
A OpenAI, por sua vez, recusou o pedido da reclamação para retificar ou apagar os dados, alegando que não era possível corrigir as informações e que também não divulgou qualquer detalhe sobre os dados processados, suas fontes ou destinatários.
“Está claro que as empresas atualmente não conseguem fazer com que chatbots como o ChatGPT cumpram a legislação da União Europeia ao processar dados sobre indivíduos”, afirmou Maartje de Graaf, advogado de proteção de dados da NOYB, em comunicado.
A NOYB apresentou à autoridade austríaca de proteção de dados um pedido de investigação sobre o processamento de dados da OpenAI e quais medidas a startup está tomando para garantir a precisão dos dados pessoais processados pelos modelos de linguagem por eles desenvolvidos.
“A tecnologia deve seguir os requisitos legais, e não o contrário”, acrescentou de Graaf. A OpenAI reconheceu no passado a tendência do ChatGPT de fornecer respostas “plausíveis, mas incorretas ou sem sentido”, admitindo ser um problema difícil de corrigir.
