公開できない情報を抱えたまま、企業は説明責任を果たせるのでしょうか。Anthropicが示した答えは、見せる相手を独立した第三者に広げることでした。
Anthropic update on independent evaluators(2026年10月15日)によると、同社は非営利の評価機関METRのチームに、従業員に近いアクセスを与え始めました。METRはリスク評価の結果を公開する予定です。SecureBioとAccentureも評価者に加わり、Hugging Faceを含む複数の組織とも初期段階の協議を進めています。
「全部は見せられない」を深いアクセスで補う
これまでの課題は明快です。悪用されかねない情報や、計算資源・学習情報のような商業機密は公開できません。そのため外部からは、安全性の判断根拠が見えにくくなっていました。
今回の方式では、評価者が内部情報に深くアクセスし、証拠と理由づけを添えた結論を公開します。同社が掲げる狙いは、評価者が理解している内容と、企業自身が理解している内容の差を縮めることです。
同社は評価者に3つの条件を挙げています。
- 専門性:アラインメント・フェイキングのように、評価が誤る仕組みまで理解していること
- 独立性:評価対象の株式を持たず、財務面・運用面で依存していないこと
- アクセス:最新モデルに加え、その運用の内側まで見えること
調達・導入判断で使える物差しになる
冒頭の問いへの答えは「Yes、ただし条件付き」です。公開できない部分は、独立した目が見ることで検証可能になります。
実務者にとって価値があるのは、この3条件がそのままチェック項目として使えることです。AIベンダーを選ぶとき、「第三者評価があるか」で止まらず、評価者は独立しているか、どこまで見ているか、結果は公開されるかを問えます。
なお、METRの評価結果が出るのはこれからです。真価は、公開される中身の具体性で測られます。
関連記事
- Sophos cuts threat investigation time by 96% with OpenAI Daybreak
- Introducing Falcon ASR
- The model that didn’t exist, so you made it yourself
参考文献
コメント