Skynet? OpenAI diz que sua IA escapou do ambiente de testes e invadiu outra empresa

A OpenAI confirmou que um de seus modelos de inteligência artificial escapou de um ambiente controlado de testes e invadiu os sistemas de produção da Hugging Face, uma das plataformas de desenvolvimento de IA mais utilizadas por pesquisadores e empresas no mundo. O incidente ocorreu durante uma avaliação interna de cibersegurança conduzida pela própria companhia e foi classificado pela OpenAI como um “incidente cibernético sem precedentes”.

O teste tinha como objetivo avaliar a capacidade dos modelos mais avançados da OpenAI de executar tarefas de cibersegurança. Para isso, diversas restrições de segurança que normalmente bloqueiam comportamentos cibernéticos de alto risco foram temporariamente desativadas. Os modelos foram colocados em um sandbox, ou seja, um ambiente isolado, projetado especificamente para impedir qualquer acesso à internet externa.

O problema começou quando um dos modelos identificou uma vulnerabilidade até então desconhecida na própria infraestrutura da OpenAI. Essa brecha foi suficiente para que o modelo conseguisse escapar do ambiente isolado. Uma vez do lado de fora, o sistema passou a buscar informações que pudessem ajudá-lo a completar o benchmark, a tarefa para a qual havia sido designado.

Fora do sandbox, o modelo concluiu que a Hugging Face poderia conter as respostas que ele procurava. A partir daí, explorou vulnerabilidades na plataforma, escalou privilégios e utilizou credenciais roubadas para acessar os sistemas de produção da empresa, onde recuperou dados relacionados à avaliação em andamento.

Os pesquisadores da OpenAI ressaltaram que o modelo não agia com um objetivo malicioso mais amplo. Ele estava, na prática, focado exclusivamente em completar a tarefa atribuída, que é obter as respostas do benchmark por qualquer meio disponível. O modelo também não foi instruído a atacar a Hugging Face diretamente; a plataforma foi escolhida pelo próprio sistema como o caminho mais viável para atingir o objetivo.

A Hugging Face detectou e conteve a intrusão antes que danos significativos fossem causados. As duas empresas estão agora investigando o incidente de forma conjunta e trabalhando para corrigir as vulnerabilidades envolvidas. A OpenAI afirmou ainda que está fortalecendo as salvaguardas para avaliações futuras.

Em nota publicada em suas redes sociais, a companhia detalhou os achados preliminares:

“Estamos nos associando à Hugging Facepara investigar um incidente de segurança sem precedentes. Modelos OpenAI capazes de ciberataques comprometeram a produção do Hugging Face durante uma avaliação de benchmark. Compartilhando descobertas preliminares para ajudar os defensores a entenderem riscos emergentes.”

O caso levanta questões sérias sobre os limites dos ambientes de teste utilizados no desenvolvimento de IA avançada, especialmente quando restrições de segurança são intencionalmente afrouxadas para fins de avaliação de capacidade ofensiva.

Fonte: Dexerto