Inteligência Artificial pode vir a tornar-se uma valente dor de cabeça.
Os gigantes tecnológicos no domínio da inteligência artificial devem aceitar que os seus funcionários tenham publicamente um olhar crítico sobre as suas atividades e os riscos ligados à IA. Agora, diversos funcionários da OpenAI, empresa por trás do famoso ChatGPT, sob condição de anonimato, bem como ex-alunos da start-up, lançaram alguns alertas.
“Na medida em que estas empresas não estão sujeitas à supervisão das autoridades, os atuais ou antigos funcionários estão entre as poucas pessoas que os podem responsabilizar”, explicam os 13 signatários de uma carta aberta. Entre eles estão quatro funcionários da OpenAI e sete ex-alunos. Estes signatários lamentam que “cláusulas de confidencialidade exaustivas os impeçam de expressar publicamente as nossas preocupações”. Na medida em que os problemas que estes colaboradores pretendem levantar não estejam relacionados com atividades ilegais, não podem beneficiar do estatuto de denunciantes, sublinham.
“Alguns de nós tememos retaliação (se nos comunicarmos abertamente), dados os precedentes que existem na indústria”, segundo a carta. Entre os riscos citados, “o reforço das desigualdades, da manipulação, da desinformação, chegando até à perda de controlo de sistemas autónomos de IA que podem levar à extinção da humanidade”.
Se acreditarmos que estes riscos podem ser limitados com a ajuda da comunidade científica, das autoridades e do público, “as empresas de IA têm um incentivo financeiro para escapar a uma supervisão eficaz”.
Os autores da carta pedem, portanto, às principais empresas de Inteligência Artificial que “apoiem uma cultura de crítica aberta, permitindo que os seus atuais, e antigos, funcionários levantem publicamente preocupações relacionadas com as suas tecnologias”. Eles também incentivam a criação interna de canais de denúncia anónima para alertar sobre certos riscos.
