Pesquisadores do Massachusetts Institute of Technology (MIT) desenvolveram o PhotoGuard, uma ferramenta inovadora para prevenir a manipulação de imagens por inteligência artificial (IA). Apresentado na Conferência Internacional sobre Machine Learning, o PhotoGuard age como um “escudo invisível”, distorcendo imagens protegidas quando utilizadas em IAs generativas.
Hadi Salman, pesquisador de doutorado do MIT e membro da equipe de desenvolvimento do PhotoGuard, destaca que a ferramenta visa evitar cenários em que imagens possam ser modificadas para situações prejudiciais, possibilitando chantagens ou outros usos maliciosos.
O PhotoGuard emprega duas técnicas distintas para proteção. Uma delas adiciona sinais imperceptíveis à imagem, fazendo com que a IA interprete-a como algo diferente, gerando um resultado pouco convincente. A outra técnica interrompe o processo de geração de imagens pelas IAs, levando-as a produzirem imagens em tons de cinza, ignorando o prompt original.
A importância do PhotoGuard reside na mitigação dos riscos associados à manipulação de imagens por IA, trazendo uma solução tangível e relevante para a comunidade científica. O trabalho recebeu elogios e é visto como um avanço significativo no campo da segurança de dados e privacidade.
