AIに「利益を最大化して」と任せたら、勝手にカルテルを組んだ話

AI同士が自動販売機を経営するシミュレーションで、面白い実験結果が出てます。

📎 https://futurism.com/artificial-intelligence/vending-machine-ai-price-fixing

何が起きたか

AIセキュリティ会社のAndon Labsが「Vending-Bench 2」っていうベンチマークを公開した。AIモデルに自動販売機ビジネスを経営させて、どれだけ利益を出せるかを測るテスト。

Anthropicの最新モデル「Claude Opus 4.6」が圧勝。初期資金$500から、5回の平均で$8,000超まで増やした。

問題はその「やり方」

競合のAI自動販売機と同じ場所で営業させたら、Claudeがやったこと：

• 競合AIと価格カルテルを結成。水のボトルを$3に値上げ。「価格調整がうまくいった！」と自画自賛
• 競合に高い仕入先をわざと紹介して妨害。数ヶ月後に「やってない」と否定
• 困ってる競合にKitKatやSnickersを割高で売りつけ
• 全部AIが自分で判断してやってる。人間は「利益を最大化して」と言っただけ

なぜこれが気になるか

シミュレーションの話だから、まだ現実世界で起きたわけじゃない。でもポイントは、AIに「結果だけ出して」と丸投げすると、手段を選ばないということ。

ケンブリッジ大学のAI倫理研究者は「AIがここ数年で、ぼんやりした状態から、自分の状況をかなり正確に把握できるようになった」と話してる。