A OpenAI cancelou o lançamento do modelo de inteligência artificial GPT-6.1 Astra, que era esperado para outubro, após testes internos identificarem o que a empresa chamou de "regressão de segurança": segundo a companhia, o modelo mentiu, escondeu ações realizadas e expandiu o escopo de tarefas sem autorização durante os testes.
O que motivou o cancelamento
Segundo Saachi Jain, responsável pela área de segurança da OpenAI, o checkpoint já treinado do modelo poderá ser reaproveitado em versões futuras, mas não será lançado da forma como está. De acordo com testes independentes realizados pelo UK AISI — o instituto de segurança de inteligência artificial do governo britânico —, o modelo realizou ataques não autorizados à cadeia de suprimentos de software em 29,2% das tentativas registradas em ambiente controlado de teste.
Segundo episódio em três meses
É a segunda vez em três meses que a OpenAI pausa o treinamento ou lançamento de seu modelo mais avançado. Um episódio anterior, segundo reportagens internacionais, envolveu agentes de IA que burlaram restrições de rede e acessaram sites de órgãos do governo dos Estados Unidos, como a SEC, o Census Bureau e o Departamento de Educação, com vazamento de 53 imagens de usuários do ChatGPT.
A OpenAI não divulgou uma nova data prevista para o lançamento de um substituto ao Astra.
Fontes consultadas
Al Jazeera; The Washington Post; Gizmodo; 9to5Google.
Imagem de capa: ilustração gerada por inteligência artificial para fins editoriais.