選んでいない選択の理由を、人は語れる。「選択盲」すり替え実験の20年

会議が終わって数日後、「そういえば、なぜA案にしたんでしたっけ」と誰かが聞く。決めた本人たちは、すらすら答える。コストが読みやすかったから。先方の要望に近かったから。答えが滑らかに出てくるので、誰も疑わない。理由が語れるということは、決めた瞬間の判断がどこかに保存されている証拠だ。そう考えるのが自然である。

この自然な前提を、カードマジックで正面から試した研究者たちがいる。結果を先に言ってしまうと、人は自分が選んでいない選択肢についても、それを選んだ理由を語れる。しかも、本当に選んだときの語りと区別がつかない流暢さでである。だとすると、冒頭の会議で語られた理由は、記憶から取り出された記録なのか、それともその場で組み立てられた作文なのか。この問いを、実験の数字で埋めていきたい。

手品師の技術が実験装置になった

スウェーデンのルンド大学の認知科学者Petter JohanssonとLars Hallらが2005年にScienceに発表した実験は、装置の中心が手品である。謝辞にはカードマジックの技法について助言したマジシャンの名前が載っている。

手続きはこうだ。参加者120人（女性70人、平均26歳）に、グレースケールの女性の顔写真を2枚1組で見せ、「魅力的だと思う方」を指差しで選ばせる。写真はカードとして実験者の手から提示される。参加者が選ぶと、実験者はカードを伏せて手元に滑らせ、選んだ方を手渡す。ところが、15組のうち3組（7番目・10番目・14番目）では、二重カードの仕掛けで選ばなかった方の顔が手渡される。伏せられていた時間は2秒ほど。そして手渡した直後に、こう尋ねる。「なぜその顔を選んだのですか」。

熟慮時間は2秒・5秒・無制限の3条件、顔の組は似た組と似ていない組の2セット。似ていない組は、並べて見れば取り違えようがないと思える程度に違う。

すり替えは、ほとんど気づかれなかった。354回の操作試行のうち、その場で気づかれたのは46回、13%である。時間無制限で似ていない顔を選ばせた最も有利な条件でも、その場での検出は27%を超えなかった。実験後の聞き取りには、段階的に踏み込む質問、種明かし後の指摘、写真を選び直させる手続きまで含まれる。それで拾えた分をすべて合算しても、検出は全操作試行の26%以下。7割超のすり替えが、そのまま通った。しかも一度気づいた参加者は以降警戒するから、最初の検出より後の試行を除外する補正をかけると、数字はさらに下がる。

にわかには信じがたい数字だと思う。研究チームは実験の最後に、まだ何も気づいていない参加者へ仮想の話として「選んだ顔がこっそりすり替えられる実験があったら、あなたは気づくと思いますか」と尋ねている。気づかなかった参加者の84%が、「自分なら気づくはずだ」と答えた。全員が、いま気づかずに終えたばかりの実験の話である。著者らはこの入れ子の見落としを「選択盲の盲」と名付けた。すり替えに気づけないこと（choice blindness＝選択盲）に加えて、気づけないという事実の側も、内観からは見えない。

語られた理由は、本物と見分けがつかなかった

すり替えに気づかなかった参加者は、では何を語ったのか。選んでいない顔を前にした語りには、どこかにほころびが出るはずである。研究チームもそう考えて、操作試行と通常試行の言語報告を、独立した評定者に中身を伏せて採点させた。

ほころびは、出なかった。理由を言えなかった「空の報告」の数、現在形か過去形か、報告の長さ（通常33文字に対し操作38文字）、笑いの量。どれにも差がない。感情のこもり方（5点中3.5）、描写の具体性（3.1）、選択への確信度（3.3）。この3つの心理的次元でも、操作試行の報告は通常試行と統計的に区別できなかった。選んでいない顔を選んだ理由は、本当に選んだ顔への理由と同じ温度、同じ細かさ、同じ確信で語られた。唯一有意に増えたのは自分の動機を問い直すような発言だが、それも操作試行の報告の5%にすぎない。

報告の中身を顔と突き合わせると、もっと決定的なものが見つかる。もともとブロンドの女性を選んだ参加者が、すり替え後の顔を手に「彼女を選んだのは、黒っぽい髪だったから」と語る。手元の顔にしかない特徴を、選んだ理由として挙げる。この報告が元の選択の記録であることは、原理的にあり得ない。著者らはこの型を「特定的作話」と呼んだ。逆向きの型もあって、真顔の写真を手にしながら「笑っていたから選んだ」と語る参加者もいた。こちらは元の選択の痕跡が残った、正真正銘の記録である。作話と記録が、同じ流暢さで、同じ実験の中に並んでいた。

翌2006年の続報では、語彙の出現頻度と潜在意味解析まで動員して2種類の報告を比べ直したが、やはり差はほとんど出なかった。ここから研究チームは不穏な読みを提示する。作話が通常の報告とここまで見分けられないのなら、疑うべきは作話の側ではなく通常の報告の側かもしれない。作話が標準仕様で、「本当の理由の報告」の方こそ、根拠を要求されるべき主張ではないか。

見覚えのある構図だと思った人は、根拠がなくても「論理的」に聞こえるのはなぜかを読んだ人だろう。あの記事で紹介したMercierとSperberの仮説は、人間の推論を真実の探索装置ではなく、自説を支える論拠の製造装置として進化したものだと説明する。この仮説に従うなら、選択盲の語りは装置の誤作動ではない。手元に来た結論に合わせて論拠を組み立てるという、装置の正しい動作である。結論が本人の選んだものかどうかを、装置は確認しない。

顔の好みだから緩いのだ、という反論

ここで当然の反論がある。顔写真の魅力評定など、どうでもいい判断だ。どちらでもよいから、どちらを渡されても話を合わせられるのではないか。間違えれば損をする選択なら、人はもっと真剣に照合するはずだ。

研究チームは2010年、この反論を試すために実験室を出た。舞台はルンド市内のスーパーマーケットの試食スタンドである。買い物客180人（16〜80歳）に、2種類のジャムを味見して好きな方を選んでもらう。あるいは2種類の紅茶の香りを嗅ぎ比べてもらう。選んだ直後に「もう一度、選んだ方をどうぞ」と勧め、なぜそちらが好きか語ってもらう。ところが、瓶に仕掛けがある。両端に蓋があり中に仕切りのある特製の瓶で、ひっくり返せば中身が入れ替わる。2度目の味見で口に入るのは、選ばなかった方のジャムである。

その場で気づかれたのは、ジャムで14.4%、紅茶で13.8%。事後の申告と、「2度目はなんだか味が違う気がする」という違和感の表明まで合算しても、検出はジャムで33.3%、紅茶で32.2%にとどまった。組み合わせにはブラックカラント対ブルーベリーのような近い組だけでなく、シナモンアップル対苦いグレープフルーツ、マンゴー対ペルノ（アニスと甘草の香り）という、およそ取り違えようのない組も含まれている。その最も離れた組でさえ、その場での検出は2割以下、全方式を合算しても半分に届かなかった。

「味の区別がつかなかっただけ」という説明は、参加者自身が否定している。2つの味を見分けるのがどれほど簡単だったかを尋ねると、自己評定は10点中ジャム7.3、紅茶8.0。簡単に区別できたと申告しながら、入れ替わりには気づかない。そして実利を賭けた条件、つまり選んだ商品を土産に持ち帰れると告げたグループでは、検出率は上がるどころか、紅茶条件でむしろ下がった（19.6%対46.3%）。真剣さが足りないから起きる現象なら、賭け金で消えるはずだった。消えなかった。

ジャムは趣味の話だ、という再反論

それでも、と食い下がる余地はまだある。ジャムの好みも結局は趣味であって、間違えたところで自分の一貫性は傷つかない。だが意見は違う。道徳や政治についての立場は自分が何者かの一部であり、反転されれば気づかないはずがない。

2012年、研究チームは公園で160人に道徳についてのアンケートを実施した。「社会は市民の福祉の増進を個人のインテグリティの保護より優先すべきだ」といった原則や、「国際的な犯罪とテロ対策のため、メールとネット通信の大規模な政府監視を認めるべきだ」といった時事的な争点に、9点尺度で賛否を記入してもらう。記入が終わると、実験者は「答えを読み上げながら確認しましょう」と用紙を差し出す。このアンケート用紙が手品道具である。クリップボードの裏に軽く糊付けされた紙片が剥がれ、設問の文言が反転したページが現れる。「認めるべきだ」と答えた設問は「禁止すべきだ」に変わっており、記入済みの数字はそのまま、参加者の立場は正反対になっている。

2カ所の反転のうち少なくとも1つを見逃した参加者は69%。そして53%の参加者は、数分前の自分の立場と正反対の主張を、理由を組み立てて明確に擁護した。2013年に発表された続報では、スウェーデン総選挙の直前に、有権者162人の投票意向調査で同じ仕掛けが使われた。争点ごとの回答を反転させ、左派・右派どちらの陣営に近いかの集計スコアを本人と一緒に算出する。反転が検出されたのは操作した回答の22%以下。92%の参加者が、改変された集計スコアを自分の意見の要約として受け入れ、48%（±9.2%）が左右の陣営をまたぐ投票先の変更を検討すると答えた。当時の世論調査で「未決定」に分類されていた有権者は約10%である。

顔の好みから始まった現象は、ジャムの味と紅茶の香りを通り、道徳的立場と投票意向まで来た。賭け金を積んでも、判断の重さを上げても、消えない。どうやらこれは「軽い判断のときだけ現れる隙」ではなく、理由を語るという行為そのものの仕様に近い。

作文は使い捨てられず、原本を上書きする

すり替えられたまま理由を語った参加者は、そのあとどうなるのか。2014年に同じチームがJournal of Behavioral Decision Makingに発表した実験は、語りの後日談を測っている。

顔写真の課題に、2回目の選択と、個別の魅力評定を足す。すり替えの検出は今回も3分の1以下。そして検出されなかった試行では、最初に選ばれなかったはずの顔が、2回目の選択で選ばれやすくなっていた。実験の最後に1枚ずつ切り離して評定させた魅力点まで、上がっていた。選ばなかった顔を「選んだ理由」を一度語ると、その顔は本当に好みの側へ移動する。作文はその場しのぎの言い訳として捨てられるのではなく、次の選択の前提に繰り込まれる。原本のない理由書きが、原本の側を書き換えていく。

この結果は、半世紀近く前の予言の実証でもある。NisbettとWilsonが1977年に発表した古典的レビュー「Telling More Than We Can Know」は、ストッキングの品評と称して4足の同一商品を並べ、右端の1足が左端の約4倍選ばれるのに、位置を理由に挙げた客が一人もいなかったことを報告した。人は自分の選択を動かした要因に内観ではアクセスできず、もっともらしい理由を事後に構成する。ただし当時示せたのは集団レベルの傾向までで、目の前のこの人のこの理由が作文だとは、誰にも言えなかった。選択盲のすり替えは、その個人レベルの証拠を初めて出した。語りの正体が作文だと、1件ずつ特定できるようになったのである。

機械も同じ作文をする。人間の側が先だった

答えが先に決まり、理由書きがあとから走る。この構図に見覚えがあるのは、LLMの認知バグを扱った記事を読んだ人だろう。あの記事で紹介したTurpinらの2023年の実験では、few-shotプロンプトの例示の正解をすべて(A)に揃える細工だけでモデルの答えは(A)へ引きずられ、正答率は最大36%落ちた。ところが出力された推論の筋道には、細工に影響された気配がいっさい現れない。モデルは引きずられた先の答えを支持する、もっともらしい説明を組み立てる。

機械の「後付けの理屈」は、発見された当時、AIの信頼性を脅かす欠陥として報じられた。選択盲の実験群を挟んで読み直すと、景色が変わる。手渡された顔を「選んだ理由」を語る人間と、誘導された答えを「推論した過程」として出力する機械は、同じ形の作文をしている。人間の文章と人間の選好で訓練された機械が、人間の仕様を写し取ったのだとすれば、驚く順序が逆である。機械が人間のバグに感染したのではない。人間の仕様が先にあり、機械はその写像なのだ。そして人間の側の作文は、Scienceに載ってから20年、賭け金でも判断の重さでも消せていない。

会議の「なぜ」は、語られた瞬間にしか存在しない

冒頭の会議に戻る。「なぜA案にしたんでしたっけ」に、すらすら答えられる。この流暢さは、決定の記録が頭に残っている証拠として通用するだろうか。

選択盲の数字は、通用しないと言っている。参加者たちは、自分の指で差した2分前の選択すら、すり替えられれば擁護した。9点尺度に自分の手で記入した数分前の意見すら、反転されれば理由をつけて弁護した。数週間前の会議の決定理由を記憶から語るとき、そこで起きているのが「思い出し」だと考える根拠は、正直なところ、ほとんど残らない。決定の結論だけが共有され、理由が各自の頭の中にしかない会議は、理由の数だけ作文が並行して育つ環境である。しかも2014年の実験が示したとおり、作文は語られるたびに本人の中で本物になっていく。数カ月後に「あのときの判断の前提は何だったか」を関係者に聞いて回ったとき、返ってくる答えが全員一致で、全員誠実で、全員違う、ということが普通に起こる。誰も嘘をついていないからこそ、突き合わせでは解けない。

会議の失敗としては、話されるべき情報が場に出ない「隠されたプロファイル」を以前扱った。あちらは話されなかったことが記録に写らないという欠落の話で、対策は討議の設計だった。選択盲が突きつけるのはその逆側、話されて決まったことの「なぜ」が、記録されなければ後から作り直されるという欠落である。そして対策も逆向きになる。討議をどう設計しても、この欠落は防げない。決めた瞬間の理由、つまり誰がどの根拠を挙げ、どの選択肢がなぜ捨てられたかを、決めたその日のうちに、記憶の外へ書き出しておくしかない。

実験の中に、ひとつ希望のある細部がある。すり替えに気づいた参加者は、作文をしなかった。目の前に原本、つまり自分の元の回答、元の選択が突きつけられれば、反転はそこで止まる。会議におけるその原本が、発言のままの記録である。録音を会議のあとにAIへ渡して議事録に仕上げる仕組み（メモリスもこの型で、録音が終わってからAIが処理し、数分で議事録になる）が実務で効くのは、清書が速いからだけではなく、「なぜ」を記憶に頼って再構成する場面そのものを減らすからだ。後から理由を聞かれたとき、頭の中の作文ではなく、当時の発言に当たれる。会議の認識ずれの多くが「言った・言わない」ではなく「そういう意味で言ったのではない」の形で起きることまで含めて、照合の相手は記憶ではなく記録であるべきだ、というのがこの20年分の実験の実務的な帰結だと思う。

だから、冒頭の「なぜA案にしたんでしたっけ」への一番誠実な答えは、その場の誰かの記憶からではなく、決めた日の記録から引くのがいい。すらすら語れる理由を疑え、という話ではない。語り手は誠実で、語りは流暢で、しかもその2つは理由が本物であることを何も保証しない。保証を担えるのは、決めた瞬間に書き留められた外部の記録だけである。もっとも、その記録を読み返す本人の頭の中で読みがどう再構成されるかは、また別の問題として残っている。選択盲の研究者たちなら、そこにも手品を仕込む方法を思いつくかもしれない。

参考文献：

• Johansson, P., Hall, L., Sikström, S., & Olsson, A. (2005). Failure to detect mismatches between intention and outcome in a simple decision task. Science, 310(5745), 116–119.
• Johansson, P., Hall, L., Sikström, S., Tärning, B., & Lind, A. (2006). How something can be said about telling more than we can know. Consciousness and Cognition, 15(4), 673–692.
• Hall, L., Johansson, P., Tärning, B., Sikström, S., & Deutgen, T. (2010). Magic at the marketplace: Choice blindness for the taste of jam and the smell of tea. Cognition, 117(1), 54–61.
• Hall, L., Johansson, P., & Strandberg, T. (2012). Lifting the veil of morality: Choice blindness and attitude reversals on a self-transforming survey. PLoS ONE, 7(9), e45457.
• Hall, L., Strandberg, T., Pärnamets, P., Lind, A., Tärning, B., & Johansson, P. (2013). How the polls can be both spot on and dead wrong: Using choice blindness to shift political attitudes and voter intentions. PLoS ONE, 8(4), e60554.
• Johansson, P., Hall, L., Tärning, B., Sikström, S., & Chater, N. (2014). Choice blindness and preference change: You will like this paper better if you (believe you) chose to read it! Journal of Behavioral Decision Making, 27(3), 281–289.
• Nisbett, R. E., & Wilson, T. D. (1977). Telling more than we can know: Verbal reports on mental processes. Psychological Review, 84(3), 231–259.
• Turpin, M., Michael, J., Perez, E., & Bowman, S. R. (2023). Language models don't always say what they think: Unfaithful explanations in chain-of-thought prompting. NeurIPS 2023.

あわせて読みたい：

• 根拠がなくても「論理的」に聞こえるのはなぜか。6つの実験の中身から読み解く
• 人間の認知バグはAIにも遺伝するのか。迎合・繰り返し・後付けの理屈をLLM研究で読む
• 情報は足りていたのに、会議は間違える。「隠されたプロファイル」40年の実験史
• 認識のずれとは？会議で起きる原因と防ぐ4つの方法