Diversos executivos do setor de tecnologia, entre eles o dono do Twitter, solicitaram aos laboratórios de inteligência artificial (IA) que interrompam imediatamente o treinamento de sistemas mais poderosos do que o recém-lançado GPT-4, da OpenAI. O pedido está em uma carta aberta divulgada pelo Future of Life Institute dia 29.
Sediada em Cambridge, nos Estados Unidos, no documento iniciado pela organização sem fins lucrativos, os signatários afirmam que as ferramentas de IA capazes de rivalizar com a inteligência ao nível humano representam riscos para a sociedade e a humanidade. Diante disso, sugerem a paralisação dos trabalhos por pelo menos seis meses.
“Os sistemas de IA contemporâneos estão se tornando competitivos em tarefas gerais, e devemos nos perguntar: devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?”, questiona a carta. Na sequência, a entidade cita outros perigos ao abusar da tecnologia.
“Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?”, continua o documento.
Protocolos de segurança
A pausa no desenvolvimento de novos sistemas de IA generativa sugerida por Musk e os demais executivos deve ser usada para o desenvolvimento e a implementação de protocolos de segurança em relação ao uso da tecnologia. Tais normas precisam ser auditadas e supervisionadas por especialistas independentes, conforme o documento.
Esses protocolos servirão para garantir que os futuros mecanismos de inteligência artificial sejam “seguros além de qualquer dúvida razoável”. Os signatários sugerem ainda que as autoridades governamentais intervenham e instituam uma moratória, caso os laboratórios de IA não paralisem as atividades por vontade própria.
Além Musk, também assinam a carta aberta Steve Wozniak, Evan Sharp, Jaan Tallinn, Jonh J. Hopfield, entre outros executivos e especialistas. O documento e a lista completa de assinaturas estão disponíveis no site do Future of Life Institute.
