Anthropic、責任あるスケーリングポリシーを第3版に更新

AI研究大手で安全で信頼性の高い人工知能システムの開発に注力するAnthropicは、責任あるスケーリングポリシー（RSP）を第3版に更新したことを発表しました。

RSPは、AI能力のスケーリングに伴うリスクを評価・軽減するための包括的な枠組みを提供します。2023年に導入されたこのポリシーは、Claudeファミリーの大規模言語モデルなどのAIモデルの責任ある進化を導いてきました。

実施以来、Anthropicはポリシーの利点（構造化されたリスク評価や事前安全対策など）および進化するAI課題への適応における限界について豊富な経験を蓄積してきました。第3版は、これらの成功した慣行を強化し、特定された欠点を修正することでこれらの要素を洗練します。

主な改善点として、より高い透明性を強調し、Anthropicのスケーリング決定に対するステークホルダーの関与と公的監視を可能にします。これには、能力評価、リスク閾値、軽減策に関する詳細な開示が含まれます。

AnthropicのRSPは、急速なモデルスケーリングが予期せぬ結果を引き起こす懸念が高まるAI業界で同社を際立たせています。ポリシーを反復的に更新することで、AnthropicはAI安全への積極的な姿勢を示し、業界基準や規制議論に影響を与えています。

この最新改訂は、強力なAIシステムを社会の利益と悪用耐性を優先して開発するというAnthropicの使命に沿ったものです。同社は、技術進歩が加速する中で専門家や政策立案者と協力し、安全プロトコルを洗練し続けています。