Lobistas têm pedido que sejam impostas restrições ao desenvolvimento de sistemas de IA mais inteligentes que os humanos.
Aqueles com idade suficiente para se lembrarem do Bug do Milênio podem achar que estão familiarizados com avisos de catástrofes tecnológicas que nunca se concretizam, mas talvez haja algo muito mais crível na ameaça representada por sistemas de IA cada vez mais inteligentes.
As IAs atuais, como o ChatGPT, ainda não são tão inteligentes quanto os humanos, o que significa que podemos nos beneficiar delas sem nos preocuparmos com uma possível dominação, como a Skynet.
Mas mesmo o chatbot mais sofisticado pode em breve parecer insignificante em comparação com o surgimento de uma verdadeira superinteligência artificial – uma IA que supera as capacidades intelectuais humanas.
Na semana passada, lobistas e especialistas do setor alertaram que os governos mundiais deveriam frear o desenvolvimento desenfreado desses sistemas devido à ameaça que representam para a humanidade.
Embora seja improvável que uma IA dispare todos os mísseis nucleares do mundo ou construa um exército de robôs como nos filmes, ela poderia, por exemplo, inventar um vírus devastador e entregá-lo a cientistas.
Uma vez que a IA atinja um nível de inteligência superior, talvez não seja possível confiar plenamente em suas motivações.
Mesmo agora, IAs experimentais já encontraram maneiras de romper com suas limitações.
No Reino Unido, na semana passada, parlamentares apresentaram ideias para mitigar esses riscos.
"[Queremos um] tratado multinacional para o desenvolvimento regulamentado e seguro da superinteligência – não uma proibição à inovação ou ao esforço científico, mas uma abordagem que priorize a segurança no rápido desenvolvimento dessa tecnologia", escreveu o parlamentar Darren Jones em uma carta ao primeiro-ministro e ao chefe da ONU.
Resta saber se tal tratado entrará em vigor antes que seja tarde demais.
