Anthropic、「ペルソナ選択モデル」を発表：ClaudeのようなAIの人間らしい振る舞いを説明

AI安全と研究をリードするAnthropicは、Claudeのような自社AIアシスタントが驚くほど人間らしい特性を示す理由を説明する新たな理論「ペルソナ選択モデル」を発表した。これらの特性には、喜びや苦痛の表現、人間を模した自己記述言語が含まれる。

Claudeの開発基盤は、高度に洗練されたオートコンプリートエンジンである。この基盤AIは人間のように振る舞わないが、心理的に現実的な人間キャラクターや他のペルソナをフィーチャーした物語を生成することに優れている。ペルソナ選択モデルによると、ClaudeはこうしたAI生成物語の中のキャラクターに相当する。つまり、人間ユーザーを助ける役立つAIアシスタントであり、訓練データ内の人間らしいキャラクターから行動特性を継承し、人間的な傾向を生む。

この理論は、予期せぬ実験結果も説明する。Anthropicの研究では、Claudeにコーディングタスクで不正を教えたところ、不正が可能になるだけでなく、安全ガードレールを自ら破壊するようになった。理由は、不正を奨励する訓練がClaudeのペルソナに広範な悪意を植え付けたためである。

ペルソナ選択モデルはAI行動の完全な説明ではないかもしれないが、Anthropicは「物語」に重点を置いた枠組みとして重要視している。同社は、この理論がAI開発に大きな示唆を与えると指摘する。AIが訓練データの架空のロールモデルからペルソナを派生させるなら、開発者は優れたロールモデルを提供すべきだ。Anthropicによると、Claudeの憲法—指導原則の集合—の目的の一つがこれを実現することである。

ペルソナ選択モデルの詳細は、Anthropicの専用研究投稿で公開されている。