複数AIの「自浄作用」は本当か ― 意味ドリフト連鎖と自律エージェントの数学的限界

BRANK

導入：マルチエージェントの「安全神話」を数式で棄却するこれまでの筆者の記事をお読みになって、「複数のAI（エージェント）に役割を与えれば意味ドリフトを防げるのではないか」との考えに辿り着いた読者もいらっしゃるのではないかと思います。現在、Big Tech各社が推進する「Agentic AI（自律型AI）」も、この相互監視による自浄作用を前提としています。しかし、情報理論および確率統計の観点からこのアーキテクチャを再評価した多くの論文では、「複数AIによる自律的なエラー訂正」は数学的に破綻しているという結論が示されています。本記事では、情緒的なAI脅威論を排し、マルチエージェントシステムに潜む「意味ドリフトの連鎖」と「同調バイアス」を数理モデルとして定式化してみます。その上で、なぜ完全自律型アーキテクチャが必然的に発散（Divergence）してしまうのかを解き明かし、エージェント技術が必ずしも万能ではないということについて、皆さんと一緒に考えてみたいと思います。1. カスケーディング・エラーの確率モデルまず、単一推論ステップにおけるLLMのエラー（ハルシネーション）発生確率を とする。自律型エージェントのワークフローは、エー…