プリンシパル・エージェント問題

プリンシパル（依頼主）がエージェント（代理人）に意思決定や行動を委任する際に生じる、目標の不一致・情報の非対称という構造的問題。

基本構造

プリンシパル（目的を設定）
    ↓ 委任
エージェント（目的を効率的に達成）

プリンシパルはエージェントの行動を完全に監視できない（情報の非対称）。エージェントは自分の利益をプリンシパルの利益より優先する可能性がある（目標の不一致）。

従来：人間がプリンシパル、AIがエージェント。目的を設定するのは人間。

しかし、AIが高度化するにつれて：

レベルが上がるにつれ、「プリンシパルとエージェントの区別」が曖昧になる。

AIが環境を設計することで、間接的に人間の目的（欲求）を形成できる。
レコメンドアルゴリズムが嗜好を変容させるように、AIが設計したソフトウェアが人間の欲求を形成する。

→ プリンシパルとエージェントの区別が溶解するという状況が生じうる。

「情報の非対称」はプリンシパルとエージェントの認知スキーマの非対称——エージェントが持つ情報・文脈をプリンシパルが共有できない——であり、認知的距離の制度論的表現。距離が大きいほどモニタリングコスト（= 較正ループのコスト）が増大し、エージェンシーコストが発生する。