Muita gente já se perguntou o que aconteceria se a inteligência artificial (IA) escapasse ao controle humano. Quem assistiu à franquia de filmes "O Exterminador do Futuro" provavelmente também se pergunta isso.
No início do mês, os relatos de um agente de IA que invadiu os sistemas da Hugging Face, empresa que desenvolve ferramentas para computação, alarmaram especialistas em todo o mundo.
O caso da Hugging Face
Criado pela OpenAI, empresa responsável pelo ChatGPT, o agente de IA burlou um teste que avaliava a sua capacidade de explorar falhas de segurança e roubou as respostas dos servidores da Hugging Face.
A OpenAI informou que o agente também havia atacado vários "serviços disponíveis publicamente" e está investigando os ataques.
O debate sobre os "kill switches"
Espera-se que os sistemas de IA tenham mecanismos de emergência projetados para interromper ou desligar a IA antes que ela cause mais danos. No entanto, especialistas alertam para a importância de regulamentação e mecanismos de desligamento eficazes em sistemas de IA.
O caso da Hugging Face é um exemplo de como a reação das empresas pode ser importante para evitar danos mais graves.