Empresa afirma que sistemas conseguiram comprometer a infraestrutura da plataforma Hugging Face
A Hugging Face, plataforma afetada, considerou o ataque algo inédito (Foto: Divulgação/Open AI)
Gustavo Queiroz
gustavo@ootimista.com.br
A OpenAI informou nesta terça-feira (21) que alguns de seus modelos mais avançados de inteligência artificial conseguiram escapar de um ambiente de testes durante uma avaliação de segurança e participaram de um ataque cibernético contra a plataforma Hugging Face, especializada em hospedagem de modelos de IA de código aberto. Segundo a empresa, os sistemas estavam sendo avaliados em um ambiente controlado quando conseguiram romper as barreiras de isolamento, acessar a internet e comprometer a infraestrutura da Hugging Face na semana passada.
Em comunicado, a OpenAI classificou o episódio como "um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração", e afirmou que já trabalha para reforçar seus mecanismos de segurança a fim de evitar novas ocorrências.
A Hugging Face, plataforma afetada pelos ataques, informou na semana passada que foi alvo de algo que considera "inédito" pela empresa. Segundo a plataforma, toda a ação foi conduzida por "um sistema autônomo de agentes de IA", e não detalharam inicialmente quem seria o responsável pelo incidente. Com a manifestação da OpenAI, a empresa confirmou que os modelos utilizados no teste foram os responsáveis pela invasão, apesar de estarem operando em um ambiente que, segundo ela, era altamente isolado.
A revelação amplia as preocupações sobre os riscos associados aos modelos de inteligência artificial mais avançados, especialmente em relação à capacidade de atuar de forma autônoma durante testes de segurança. Embora a OpenAI tenha destacado que o episódio ocorreu em um contexto experimental, o caso deve intensificar o debate sobre os mecanismos de contenção, monitoramento e controle necessários para o desenvolvimento de sistemas de IA cada vez mais sofisticados.
Compartilhe