ハッシビスが各リリース30日前にFINRAのAIを提案

独立した産業界が資金を提供する規格団体が、モデルの発売前に検査を行うという提案は真剣に検討されている。しかし、その盲点も存在する。

簡単に言えば

Google DeepMindのCEOは、市場に投入される前に最先端のAIモデルを評価する独立機関の設立を提案している。彼が提唱するモデルは、米国のFINRA（金融業界の自主規制機関）を参考にしたものだ。FINRAは業界が資金を提供する一方で、自律的に機能する構造となっている。

具体的な提案内容

Demis Hassabisは2026年7月14日にその仕組みを詳述した。この仕組みは段階的に導入される予定だ。まず、ラボが自主的にモデルを機関に共有し、リリースの30日前までにレビューを受けるというものだ。彼の発言によれば、「当初は、フロンティアラボがモデルを自主的に基準機関に共有し、リリースの30日前までにレビューを受ける」という形になる。このプロセスが確立されれば、米国での展開に際しては評価が義務化される。また、機関はリリース後の重大な脆弱性も管理する。

背景には、Mythos（Anthropic）やSol（OpenAI）といったモデルの政府主導のレビューに対する批判がある。これらのレビューは技術的に不十分で、透明性に欠けるとされた。

内部の仕組み

委任された自主規制は、新しい概念でも異例なことでもない。FINRAが存在するのは、公的規制当局がリアルタイムで数万のブローカーを監視するリソースも専門知識も持っていないからだ。FINRAは監督対象の業界から資金を得ており、制裁権を持ち、SECの監督下で運営されている。決定的に重要な点は、自主規制は公的規制当局がそれを否定できる場合にのみ機能するということだ。

AIにこの考えを当てはめると、理にかなっている。最先端モデルの評価に関する専門知識を持つ人は世界で数百人程度で、そのほとんどがラボに雇用されている。業界が資金を提供する独立機関は、国家が予算を承認するのを待つことなく、これらの専門家に市場価格で報酬を支払う唯一の方法かもしれない。

盲点

以下の3つの盲点を指摘しておく。決して悪意を持って指摘するわけではない。

利益相反のリスク。誰が理事会を任命するのか？機関と資金を提供するラボとの間で意見の相違が生じた場合、誰が仲裁するのか？SECに相当する公的監督がなければ、「独立」という言葉は単なる形容詞に過ぎない。

30日間の問題。この期間は、コンプライアンス監査には適しているが、敵対的な脆弱性調査には適していない。今週、IEEE Spectrumが報じたように、商用AI業界の大半に影響を与える8つの異なる脱獄手法が見つかった。これらはリリース前のレビューではなく、ラボ外の研究者によって事後に発見されたものだ。リリースの30日前に始まる評価は、指示された内容を検査するだけだ。重要なのは、まだ誰も思いついていない脆弱性だ。

国家的な枠組みの限界。米国への展開に限定された義務では、他国で公開されたオープンモデルや、実際の使用における中国のシェアが無視される（Hugging Faceのデータによれば、中国のシェアはもはや無視できない）。最も目に見えるチャンネルを規制しても、最も広範なチャンネルを規制したことにはならない。

結論

この提案は、鶏小屋を守るキツネという皮肉な反応に終始するべきではない。政府主導の即席レビューに比べれば、技術的な基準を持ち、資金が提供され、厳格な期限が設けられたこの仕組みは明らかな進歩だ。

しかし、FINRAの歴史が教えるように、真の権力は機関自体にはなく、それを否定できる公的権力にある。その公的権力が明確にされない限り、Hassabisの提案は優れた評価ラボにはなるが、規制機関にはならない。