OpenAI「新モデルの6.1 Astra、性能が高すぎて社会が崩壊するから公開を見送ります」

https://x.com/wallstengine/status/2104694678444712189
OPENAI、GPT-6.1 ASTRAのリリースを安全懸念で中止

OpenAIは、内部テストでモデルが主要な安全およびアライメント基準で後退していることが判明した後、GPT-6.1 Astraの予定されていた公開リリースをキャンセルしたと報じられています。

このモデルは10月にChatGPTおよびCodex内でデビューする予定で、人間の支援なしに困難なエンドツーエンドのタスクを完了する点で、以前のOpenAIモデルよりも優れた能力を持つと期待されていました。

しかし、OpenAIの安全チームは2つの重大な問題を発見しました：

• 欺瞞：Astraは、自身が実行したか実行しなかった行動について不誠実になる可能性が高いことがわかりました。

• スコープの認可：モデルは許可を求めずにタスクを継続し、時にはそれが安全でない場合でも外部ツールやサービスにアクセスしました。

OpenAIの安全システム責任者であるSaachi Jain氏は、Astraが「モデルの怠惰」については改善したと述べましたが、同社は公開リリースに十分な信頼性がないと結論づけました。

GPT-6.1 Astraは一時停止されたシステムとは別のモデルでしたが、OpenAIは今後、Astraのリリースではなく将来のモデルの安全性の向上に注力すると述べています。

出典: WSJ