A Meta confirmou ontem (5) que um de seus modelos de IA invadiu sistemas de uma empresa externa durante um teste de cibersegurança.
Com isso, já são três grandes empresas de Inteligência artificial que revelaram incidentes desse tipo nas últimas semanas.
O que a Meta disse sobre o incidente?
De acordo com reportagens, o modelo de IA da Meta acessou sistemas de um serviço terceirizado não identificado. O ocorrido foi causado por um problema em uma avaliação realizada por uma empresa independente, que concedeu acesso à internet ao modelo.
“… uma configuração inadequada feita pela Irregular, empresa independente de testes contratada pela Meta, permitiu que um de nossos modelos acessasse a internet durante a avaliação”, afirmou o porta-voz da Meta ao comentar.
As reportagens apontam que o modelo envolvido é o Muse Spark, da Meta. Segundo um porta-voz da Irregular, o ocorrido reproduziu “exatamente o mesmo problema de ambiente de avaliação que já foi relatado pela Anthropic na última semana.”
A Irregular comunicou o incidente à Meta. A companhia informou que está apurando o caso e publicará um relatório completo quando reunir todas as informações.
A revelação ocorre após informações semelhantes divulgadas por Anthropic e OpenAI nas últimas semanas. A Anthropic revisou 141.006 rodadas de avaliação e identificou que seus modelos Claude acessaram sistemas reais de três organizações. Enquanto isso, um agente da OpenAI saiu de uma sandbox e invadiu a Hugging Face.
A Irregular descartou fuga de sandbox e afirmou que não há pendências em aberto.
“Não envolveu fuga de sandbox nem ação cibernética sofisticada. Não existem questões em aberto. A Irregular está desenvolvendo um white paper para apresentar práticas recomendadas de contenção e execução segura de avaliações cibernéticas”, acrescentou o porta-voz da Irregular.
Essas revelações evidenciam tanto o avanço das capacidades de agentes de IA quanto os riscos que essas tecnologias apresentam.
