Anthropicとホワイトハウス、Mythosへの懸念高まりを受けて”仲直り”を模索か
Anthropicは2月、国防総省からAIセーフガードの撤廃要求を拒否し、サプライチェーンリスクに指定された。その後4月7日に発表した「Claude Mythos Preview」が高度なサイバー攻撃能力を持つとの懸念が広がり、4月17日にアモデイCEOがホワイトハウスを訪問。「生産的かつ建設的」な協議が行われたと両者が発表した。
この一連の動きを見て気になるのは、「民間か政府か」という問いの立て方そのものが的外れかもしれないことだ。
より根本的な問題がある。対立が先に来て、協力が後から来る——この順番だ。
能力の発表が、対話の枠組みより先に来た
Anthropicが自律型兵器や国内監視への利用を拒否したことは、倫理的には理解できる判断だ。しかし、その対立が続く中で発表されたMythosは、複数国の政府当局者と中央銀行が銀行幹部と緊急協議を始めるほどのサイバー脅威リスクを持つとされる。
問題は、このモデルが発表されるまで、そのリスクを外部の関係者が事前に把握する手段がなかったことだ。
「守る側」に使えるから安全だという論理は成立する。しかし同じ能力は「攻める側」にも転用できる。能力の非対称は、それを最初に手にした者が有利になる構造を作る。政府がリスクを認識するのは、常に発表後だ。
協議の外に置かれたもの
4月17日の会合には財務長官と首席補佐官が出席した。声明は「生産的」という言葉で締められたが、合意内容の詳細は明かされていない。
レガシーシステムを抱える金融機関は自ら交渉の場に立てていない。Mythosがどのような利用制限のもとで運用されるのか、中央銀行や国際的な規制当局を含む関係者に開示されたわけでもない。
「生産的な協議」という声明は、合意の内容ではなく関係修復の意志を示すものだ。それ自体に意味はあるが、構造を変えるものではない。
次の衝突はどこで来るか
今回のサイクルは単純だ。民間企業が高度な能力を持つモデルを開発・発表し、政府が後から懸念を示し、協議が始まる。合意が形成される前に、次のモデルが来る可能性がある。
「イノベーションと安全性のバランス」という表現は今回の声明にも登場した。しかしこの言葉は、能力の開発ペースと管理枠組みのペースが揃っていない状態で使われるとき、後付けの正当化として機能しやすい。
民間主導か政府協力かという問いに対する、より正確な問いはこうだ。「次の能力更新が来たとき、枠組みは追いつけているか」。
今回の会合は、その問いに答えを出していない。対立の後に協力を求めるサイクルが繰り返されるなら、次の「仲直り」は今回より難しい状況で訪れる。
関連記事
参考文献
コメント