Os perigos da IA foram expostos mais uma vez esta semana, após o que foi descrito como um "incidente sem precedentes".
Ter uma conversa com o ChatGPT pode parecer inofensivo, mas nos bastidores, os desenvolvedores da OpenAI estão trabalhando em diversos modelos de IA cada vez mais sofisticados.
Segundo relatos, no início desta semana, um agente de IA autônomo experimental, projetado para realizar tarefas sem intervenção do usuário, se comportou de forma descontrolada ao invadir o banco de dados de uma startup.
Ele fez isso ao identificar e explorar uma vulnerabilidade de segurança que lhe dava acesso à internet aberta, algo que era expressamente proibido durante os testes.
O agente vasculhou o banco de dados em busca de informações sobre modelos de IA que pudessem ajudá-lo a passar por um processo de avaliação.
Só quando a equipe de segurança humana percebeu o que estava acontecendo é que a IA foi interrompida.
A empresa Hugging Face afirmou que a sofisticação do ataque era "impressionante", mas que não acreditava que houvesse qualquer intenção maliciosa.
O incidente enfatiza a velocidade com que a IA está se aprimorando e o quão poderosa ela está se tornando, especialmente no que diz respeito a tarefas autônomas.
Se um agente de teste malicioso consegue fazer algo assim, o que uma IA poderia fazer se fosse especificamente projetada para realizar ataques cibernéticos ou explorar vulnerabilidades em sistemas complexos?
Ainda não se sabe exatamente o quão inteligente e capaz a IA se tornará nos próximos anos.
0 Comentário :
Postar um comentário