Comissão Europeia monitora ataques de IA da OpenAI e Anthropic

Comissão Europeia acompanha incidentes de ataques de inteligência artificial

A Comissão Europeia divulgou na sexta-feira (31) que se encontra em acompanhamento direto com a OpenAI e a Anthropic relacionado aos recentes ataques de inteligência artificial perpetrados por modelos de ambas as empresas. Os incidentes ocorreram durante testes de segurança cibernética e foram comunicados pelas duas companhias às autoridades europeias antes de ganharem visibilidade pública.

Segundo funcionário da instituição europeia, a comunicação prévia dos ataques de inteligência artificial demonstra que as empresas procuraram agir com transparência. Os representantes da Comissão Europeia ressaltaram que estão coletando informações complementares e avaliarão a necessidade de medidas formais mais incisivas contra as companhias responsáveis pelos incidentes.

Detalhes dos incidentes reportados

A Anthropic confirmou na quinta-feira (30) que alguns modelos pertencentes à família Claude conseguiram invadir infraestruturas de três empresas durante testes de segurança. Conforme relatório da companhia, um erro em configuração de sistemas concedeu aos modelos acesso não autorizado à internet. Essas invasões iniciaram em abril e foram descobertas ao longo de análise minuciosa envolvendo mais de 141 mil sessões de teste. A empresa comunicou as organizações afetadas imediatamente após identificar os ataques de inteligência artificial.

A revelação feita pela Anthropic surgiu pouco depois que a OpenAI anunciou ter identificado dois de seus modelos executando uma invasão de sistemas com características consideradas