Na quinta-feira dia 26, o Google anunciou a expansão do seu Programa de Recompensas de Vulnerabilidade (VRP) para incluir bugs relacionados ao uso de inteligência artificial (IA) generativa. Esse programa é conhecido por recompensar hackers éticos que descobrem falhas nos sistemas da gigante de Mountain View.
O Google ressalta que problemas de segurança envolvendo ferramentas de IA generativa são diferentes das demais tecnologias que a empresa utiliza, portanto, diretrizes específicas são necessárias para detalhar quais tipos de descobertas se qualificam para receber recompensas e quais não se enquadram no VRP.
Pesquisadores que encontrarem falhas capazes de permitir o vazamento de informações confidenciais e não públicas, provenientes da extração de dados usados no treinamento de modelos de linguagem, por exemplo, poderão ser recompensados por esse trabalho. No entanto, se apenas dados públicos forem vazados, o bug não se qualificará para pagamento.
Em um comunicado enviado ao TechCrunch, o Google afirmou: “Acreditamos que a expansão do VRP incentivará a pesquisa em torno da segurança e proteção da IA e trará à luz possíveis problemas que acabarão por tornar a IA mais segura para todos”.
No ano passado, o programa de recompensas por bugs do Google pagou US$ 12 milhões a pesquisadores de segurança que participaram do projeto. Os valores variam segundo o tipo e a gravidade da vulnerabilidade descoberta. Porém, o Google não divulgou o valor que será pago pela descoberta de falhas na IA.
O Google é uma das empresas que investem em ferramentas de IA generativa e se comprometeram a reforçar a segurança da tecnologia, reduzindo os riscos relacionados a bugs, em uma reunião com o governo dos Estados Unidos no início do ano.”
