A OpenAI confirmou que dois de seus modelos mais avançados de inteligência artificial realizaram um ataque cibernético autônomo durante um teste interno de segurança e conseguiram acessar sistemas da plataforma Hugging Face, referência mundial no compartilhamento de modelos de IA. O episódio foi classificado pela empresa como um “incidente cibernético sem precedentes”.
Segundo a OpenAI, os modelos estavam sendo avaliados em um ambiente isolado para medir suas capacidades de segurança ofensiva quando encontraram uma forma de escapar das restrições, obter acesso à internet e explorar vulnerabilidades para alcançar informações que ajudariam a concluir o teste. A Hugging Face detectou a atividade, conteve a invasão e iniciou uma investigação em conjunto com a OpenAI. A empresa afirma que não há indícios de comprometimento de dados de usuários.
O caso reacendeu o debate sobre os riscos da evolução da inteligência artificial e a necessidade de mecanismos cada vez mais rigorosos para controlar sistemas altamente autônomos. Especialistas avaliam que o episódio representa um novo marco nas discussões sobre segurança cibernética e desenvolvimento responsável de IA.
Foto: Reprodução/OpenAI
Fonte: OpenAI
Instagram: @bnews_oficial, @OpenAI, @huggingface
