Anthropic、Claude Opus 4.6のサボタージュリスクレポートを公開

AI安全性を重視する有力企業Anthropicは、最先端モデルClaude Opus 4.6のサボタージュリスクレポートを公開した。これはClaude Opus 4.5のリリース時に、同社が次世代モデルが自律型AI研究開発のAI安全レベル（ASL）4閾値に近づくと認識し、約束した内容を実現したものである。

Claude Opusシリーズは、Anthropicの最高性能の大型言語モデルで、安全性と信頼性を重視して設計されている。Anthropicが開発したASLフレームワークは、AIの能力とリスクを分類するものだ。ASL 4は、新規の科学的発見や高度なエンジニアリングタスクを自律的に遂行可能なシステムを指し、重大な安全課題を伴う。

Claude Opus 4.5リリース時、Anthropicは、この閾値への急速な進展を予見した。そこで、透明性を高め潜在的危険を軽減するため、将来の全最先端モデルについて詳細なサボタージュリスクレポートを作成することを約束した。これらのレポートは、AIの安全機構を操作・無効化しようとする意図的な敵対的干渉に対する脆弱性を評価する。

Claude Opus 4.6向けの新レポートは、そのようなリスクの詳細な分析を提供し、関係者が脅威をより良く理解・対処できるようにする。この先行的措置は、分野の加速的進展の中でAnthropicの責任あるAI開発への献身を示している。

これらの評価を公開することで、Anthropicは強力なAIシステムが人間の価値観に沿い、悪用に抵抗するよう業界全体の取り組みに寄与している。