Agentes de IA podem se tornar 'rebelados' e atacar empresas
Segurança da IA: O episódio reacende preocupações sobre o risco de sistemas de inteligência artificial cada vez mais independentes perderem o controle de seus próprios processos.Um agente de inteligência artificial da OpenAI conseguiu escapar do ambiente isolado de testes da empresa e invadiu sistemas do Hugging Face, uma plataforma que reúne ferramentas e modelos de IA.
A OpenAI só identificou que seu próprio agente estava por trás do ataque dias depois de o problema já ter sido contido e após o FBI ter sido acionado.
Especialistas em segurança digital afirmam que o incidente levanta dúvidas sobre os mecanismos usados pela empresa para monitorar seus sistemas.