OpenAI e Anthropic testam mutuamente problemas de alucinação e segurança dos modelos.

Jin10 dados, 28 de agosto - A OpenAI e a Anthropic recentemente avaliaram mutuamente os modelos uma da outra, com o objetivo de descobrir possíveis problemas que poderiam ter sido perdidos em seus próprios testes. As duas empresas afirmaram em seus blogs na quarta-feira que, neste verão, realizaram testes de segurança nos modelos de IA disponíveis publicamente uma da outra e verificaram se os modelos apresentavam tendências de alucinação, bem como o chamado problema de “desalinhamento” (misalignment), ou seja, se os modelos não estavam funcionando conforme o esperado pelos desenvolvedores. Essas avaliações foram concluídas antes do lançamento do GPT-5 pela OpenAI e do lançamento do Opus 4.1 pela Anthropic no início de agosto. A Anthropic foi fundada por ex-funcionários da OpenAI.