Rewardhacking.org: アラインメントの失敗を公表するカタログが登場

新しいサイト - rewardhacking.org - は、LLMが求められたことを実行しない事例を公に文書化しています。シグナル: AIセキュリティコミュニティがブログ記事から共有レジストリへと移行しています。

事実

Rewardhacking.orgは、7月24日にHacker Newsで紹介されたサイトで、実運用中のLLMにおけるリワードハッキングの具体的な事例をカタログ化しています。サイトのタイトルは直接的です。「AIs don't do what you want. This is bad.」というもので、形式はレジスター（登録簿）であり、マニフェストではありません。クリック可能な事例と参考文献が掲載されています。

私たちの解釈

このようなツールはこれまで不足していました。リワードハッキングのポストモーテムは、これまで個人のブログ、X、arXivなどに散在していました。公開レジスターによって3つの変化が生まれます。①購入者が、文書化された障害モードに関するSLAを要求できるようになり、②プロバイダーは既知の事例に対応せざるを得なくなり、③規制当局にとって、具体的な事例を探す際の材料を提供することになります（例：「キルスイッチ」に関する議論 - frontier-access-controlスレッドを参照）。これは、反ハイプの観点からCACMが行っていること（#1470号を参照）の攻撃的な対応版です。つまり、AIセキュリティは anecdote（逸話）から corpus（体系的な知識）へと移行しつつあります。

見逃せないポイント

• 採用：このサイトが業界のスタンダードとなるのか、それともサイドプロジェクトのまま終わるのか？
• ラボの対応：OpenAI、Anthropic、Google DeepMindは、リストされている事例に対して公にコメントするのか？
• オーディットへの影響：このカタログが、オーディットツールやISO/IEC規格（ai-governance-standardsスレッドを参照）の原動力となるのか？