Um edital que previa compra e instalação de 20 mil câmeras de reconhecimento fácil, foi suspendido pelo Tribunal de Justiça de São Paulo (TJSP) no dia 18. O juiz Luis Manuel Fonseca Pires, da 3ª Vara de Fazenda Pública, argumentou em sua decisão que a tecnologia pode reproduzir racismo estrutural.
A prefeitura da capital paulista abriu o edital Smart Sampa e o pregão aconteceria na terça-feira dia 23. O magistrado que suspendeu a licitação considera que a vigilância pode violar a Lei Geral de Proteção de Dados.
“A dimensão do impacto que o sistema tecnológico de monitoramento por reconhecimento facial produz impõe a responsabilidade ao Poder Público de apenas considerar o seu uso após a definição de regras legais precisas que ponderem os objetivos da segurança pública com os direitos fundamentais”, diz trecho da decisão destacado pela Agência Brasil.
A justiça de São Paulo, destacou que pesquisadores apontam há algum tempo ris da IA que detectam rostos reproduzirem preconceitos. O treinamento das máquinas é feito com produções culturais humanas e acabam refletindo diversos vieses, dentre eles visões racistas.
A desenvolvedora do ChatGPT a OpenIA, alertou sobre o assunto e diz trabalhar para diminuir esses vieses para tentar eliminar estereótipos preconceituosos nas respostas.
Interpelação jurídica
O edital Smart Sampa estabelecia a compra de pelo menos 20 mil câmeras de reconhecimento facial para São Paulo. Os equipamentos seriam instalados próximo a parques, hospitais, praças de grande circulação e nas entradas e saídas da cidade, por exemplo.
Uma das contestações, foi apresentada pela Bancada Feminista, mandato coletivo do PSOL. Por nota enviada à Agência Brasil, o coletivo justificou a tese contrária ao edital.
“A anulação do pregão irá evitar que a cidade aprofunde o racismo estrutural por parte da administração municipal”, pontuou a covereadora Silvia Ferraro. “Já é de conhecimento mundial que as câmeras de reconhecimento facial são máquinas de punir injustamente o povo negro”, afirmou.
A prefeitura de São Paulo informou que ainda não havia sido notificada da decisão judicial, mas que “irá adotar todas as medidas judiciais cabíveis para a reforma da decisão, a fim de garantir a realização do pregão eletrônico do programa Smart Sampa, previsto para terça-feira dia 23”.
