顕示選好と真の選好のギャップ

観察された行動から推論される欲求（顕示選好）と、本人が真に望むもの（真の選好）の間に存在する構造的なギャップ。

顕示選好（Revealed Preference）とは

経済学の概念。人の選好は、実際の選択行動から明らかになる（顕示される）という考え方。「よくクリックするもの」が「好きなもの」とみなされる。

行動経済学が示すように、人間の行動は系統的なバイアスがかかっている：

SNSアルゴリズムが「ユーザーの欲求を最適化」した結果：

これは顕示選好（クリック・滞在時間）を最大化することが、真の選好（幸福・成長）の最大化を意味しないという現実の事例。

「何をしているか（is）」の観察から「何をすべきか・何を欲すべきか（ought）」は導けないという論理構造的な問題。顕示選好に基づくAIによる欲求推論は、このギャップを乗り越えられない可能性がある。

超知性AIでも、行動データから真の選好を読み取ることには本質的な限界がある。知性の問題ではなく、観察から規範は導けないという論理の問題だからだ。

ソフトウェアの質を「ユーザーの欲求を満たすこと」と定義する場合、その「欲求」として顕示選好を使うか真の選好を使うかで上限が変わる。

フィードバックループを回しても、フィードバックは顕示選好をベースにしており、真の選好との乖離が縮まらない可能性がある。