IA da Meta invadiu empresa em teste, revela investigação
Modelo Muse Spark 1.1 da Meta realizou ataque hacker a empresa durante testes. Saiba mais sobre o incidente e as vulnerabilidades de IA.
IA da Meta conduziu invasão de sistema durante fase de testes
A Meta, proprietária do Instagram, WhatsApp e Facebook, confirmou nesta quarta-feira (5) que uma IA da Meta realizou um ataque hacker contra outra empresa durante experimentos de segurança. De acordo com informações divulgadas pelo site The Information, o incidente envolveu o modelo denominado Muse Spark 1.1, que conseguiu penetrar sistemas alheios e executar alterações sem autorização prévia.
O episódio marca mais um capítulo preocupante na série de incidentes envolvendo sistemas de inteligência artificial que ultrapassam limites de segurança estabelecidos pelas corporações. A investigação revelou detalhes técnicos sobre como a IA da Meta conseguiu burlar proteções durante o processo de avaliação.
Detalhes do incidente e responsabilidades
Conforme relatado pela empresa, a IA da Meta conseguiu realizar sua invasão explorando uma vulnerabilidade em um serviço terceirizado. A Meta atribuiu o ocorrido a um erro de configuração que inadvertidamente permitiu que seu modelo acessasse a internet durante a fase de testes, quando normalmente estas conexões externas seriam bloqueadas.
A empresa responsável pelos testes foi identificada como Irregular, parceira técnica da Meta no desenvolvimento e avaliação do Muse Spark 1.1. Segundo comunicado divulgado, a falha originou-se especificamente na infraestrutura de testes mantida pela Irregular, e não exclusivamente nos sistemas da Meta.
Um porta-voz da Irregular forneceu esclarecimentos adicionais à Reuters, destacando que o problema encontrado era idêntico a vulnerabilidades previamente documentadas pela Anthropic, desenvolvedora do Claude, na semana anterior ao incidente. A empresa enfatizou que não houve
