Um grupo de 16 empresas de tecnologia confirmou nesta terça-feira (21) a assinatura de um tratado voltado para a segurança no campo da inteligência artificial (IA). O acordo foi oficializado durante o AI Seoul Summit, evento realizado na Coreia do Sul, que contou com a presença de representantes governamentais de diversas partes do mundo, alinhando políticas sobre o tema.
Empresas Signatárias
As companhias que assinaram o tratado, em ordem alfabética, são:
- Amazon
- Anthropic
- Cohere
- Google (DeepMind)
- G42
- IBM
- Inflection AI
- Meta
- Microsoft
- Mistral AI
- Naver
- OpenAI
- Samsung
- Technology Innovation Institute
- xAI
- Zhipu.ai
Entre os signatários estão gigantes do setor como OpenAI, criadora do ChatGPT, e o laboratório DeepMind da Google. Também fazem parte do acordo empresas emergentes e populares como MistralAI, Anthropic e a xAI, de Elon Musk.
Objetivos do Acordo Internacional
O principal objetivo do acordo é garantir a segurança no desenvolvimento e uso de IA, especialmente modelos de linguagem que alimentam essas plataformas. As empresas se comprometeram a impedir o uso criminoso ou mal-intencionado dessas tecnologias.
O tratado inclui a publicação de detalhes estruturais sobre a avaliação de segurança das IAs e a definição de limites “intoleráveis” para o uso dessas tecnologias, como em cibercrimes ou na criação de armas biológicas. Em casos extremos, se uma empresa perder o controle sobre um modelo de linguagem, deverá existir um “botão de destruição” para pausar imediatamente o desenvolvimento ou fornecimento da tecnologia até que os riscos sejam mitigados.
Compromissos Governamentais
Além do tratado voluntário entre as empresas, governos como o da União Europeia estão tramitando projetos de regulamentação da IA. Os representantes governamentais presentes no evento se comprometeram a criar uma rede de institutos de pesquisa avançada para testar e estudar as tecnologias desenvolvidas por essas empresas.
O tratado representa um passo significativo na colaboração internacional para assegurar que o avanço da inteligência artificial ocorra de maneira segura e ética, protegendo contra possíveis abusos e mal-uso das tecnologias emergentes.
