AnthropicのAIモデルへのアクセスを制限する米国の命令が批判を呼ぶ

ニューヨーク：米政府がAnthropicに対し、同社の最も強力な人工知能モデルの取り下げを命じたことは、AI規制の賛成派・反対派の双方から批判の波を巻き起こした。

金曜日の夜、サンフランシスコに拠点を置く同社は、米商務省が「国家安全保障」上の理由からMythos 5とFable 5の停止を命じたと発表したが、詳細については明らかにされなかった。

制限なしで少数のパートナーのみが利用可能だったMythos 5とは異なり、Fable 5は重大な悪用、特にサイバー攻撃や化学・生物兵器の開発に使用されないよう厳重に保護されていた。

しかしAnthropicは、身元を明かさないある組織が、Fable 5をサイバー攻撃に使用されないよう設計された安全対策を回避する方法を発見したとトランプ政権に報告したと述べた。

Anthropicは、この第三者——複数のメディアがAmazonと特定——が発見した抜け穴を「限定的」と表現し、そこで露呈したソフトウェアの脆弱性は「軽微」なものだとした。

この指令は外国籍の利用者によるアクセスにのみ適用されるものだったが、Anthropicは国籍に基づいてユーザーを識別することができないとし、そのためモデルをオフラインにせざるを得なかったと述べた。

政府が国内企業の開発した高度なAIモデルを全面的に禁止することは前例のないことである。

中国は最も高性能な西側のAIモデルへのアクセスを遮断し、主要な国内AI企業にも制限を課しているが、それらの制限は一般にモデルがリリースされる前に組み込まれている。

「衝動的」な決定

起業家のマーティン・バルサフスキー氏は、この命令の影響は「計り知れない」と述べた。

「フロンティアモデルを開発しているスタートアップはどこも政府に左右される」とXでコメントした。「したがって、この命令はAnthropicを罰するだけでなく、業界全体のルールを変えることになる。」

研究者のゲイリー・マーカス氏は、金曜日の政府発表まで、AIレースにおいて米国と中国が「引き分け」の様相を呈していると見ていたと述べた。

「トランプ政権が米国の取り組みを後ろから足止めするとは思いもしなかった」とマーカス氏は語った。「しかし、まさにそれが起きた。」

一部のオブザーバーは、Anthropicが最先端AIモデルに関するリスクについて何年も警告してきたことを踏まえ、今回の苦境に対して同社がかなりの責任を負うと主張している。

水曜日、AnthropicのCEOダリオ・アモデイ氏は改めて政策立案者に対し、「ここから驚くほど急速に複合化するリスクと機会に対処するため、遅くて脆弱な政策機構を動かす」よう呼びかけた。

ほんの数週間前まで、トランプ政権と同様にAI規制に強く反対していたトランプ大統領の支持者数名が、この指令を擁護しようとしている。

その中には、影響力のある投資家マーク・アンドリーセン氏や元ホワイトハウスAIアドバイザーのデイビッド・サックス氏も含まれる。

しかし、元トランプ政権AIアドバイザーのディーン・ボール氏を含む他の人々は、彼らが元大統領ジョー・バイデン政権下での規制の取り組みを激しく批判していたことを指摘し、知的誠実さに欠けると非難した。

規制推進グループ「Americans for Responsible Innovation」は、この規模の決定は「衝動的」に下されたり「政治的えこひいき」の対象となるべきではないと主張した。

Anthropicは現在、同社との政府契約をすべて打ち切ったトランプ政権と対立している。

多くのオブザーバーは、AIがより大きな政府の関与を必要とする新たな時代に入ったという点では一致しているが、今回の措置の実施方法に強く異議を唱えている。

「機能している政権であれば、このような措置で誰もが不意を突かれることなどなかっただろう」と、新興技術に特化したシンクタンク「Institute for Progress」のベン・マーフィー氏は述べた。

「政府はただAnthropicにリリース前の追加テストやより多くの安全対策の追加を求めるだけで済んだはずだ」と彼はXに書いた。

AIの急速な加速と少数の企業への影響力の集中が、各国政府の不意を突いたと、バージニア大学のモナ・スローン教授は述べた。

それは、AIモデルに対する政府による停止命令が再び「見られる可能性がある」ことを意味すると彼女は語った。