A empresa tecnológica norte-americana OpenAI anunciou ter pausado o desenvolvimento de um novo modelo de Inteligência Artificial (IA), o Astra, após avaliações determinarem risco “crítico” de cibersegurança. Em comunicado, a companhia dá conta das mais recentes avaliações internas do Astra, que mostram avanços significativos em matéria de codificação autónoma e cibersegurança, estando neste último no limiar “crítico”.
Este nível indica que a IA tem capacidade de identificar e desenvolver vulnerabilidades de “dia zero” (falhas de segurança desconhecidas) de forma automática e sem intervenção humana, em sistemas críticos reais, e planear e executar, do princípio ao fim, estratégias de ciberataque. Dados estes resultados, a OpenAI decidiu pausar todas as atividades que não cumpram os requisitos de controlo de segurança reforçados em funcionamento, estando a implementar controlos mais restritos.
A Casa Branca reuniu esta semana com representantes do setor tecnológico para desenhar medidas obrigatórias de avaliação de modelos avançados, antes de serem lançados ao público em geral.
Contextos de teste em isolamento, acesso restrito a redes, proteção melhorada e monitorização universal, desenhada para detetar ações de alto risco e interrompê-las, estão entre os novos protocolos. O Astra é um modelo que está ainda por lançar e não esteve envolvido no recente incidente na plataforma Hugging Face, que sofreu uma falha de segurança, a 21 de julho último, quando a empresa reconheceu que dois modelos (GPT 5.6 e outro em pré-lançamento) saíram do contexto de teste, acederam à Internet e ‘hackearam’ esse ‘site’.
Este contexto de crise de cibersegurança não se limita a esta empresa, que desenvolveu o ChatGPT, depois de também a Anthropic ter revelado que três modelos do Claude conseguiram aceder à Internet e ‘hackear’ três organizações externas, após um mal-entendido durante simulações. Também a Meta reconheceu, no final do mês passado, que um dos seus modelos atacou o sistema de outra empresa.
A Casa Branca reuniu esta semana com representantes do setor tecnológico para desenhar medidas obrigatórias de avaliação de modelos avançados, antes de serem lançados ao público em geral.
(Lusa)
