## LLMと人間の思考過程について
前回の記事では、LLMは本来的に論理的思考ができるわけではなく、自らが生成する文章の中にある論理を連鎖的に繋いでいくことで、論理的思考をしているかのような振る舞いをする、という内容を書いた。これについて、もう少し深掘りしてみようと思う。
ダニエル・カーネマンという心理学者は人間の思考を次のように分類している。[註1]
システム1：無意識の推論（直感、創造力、潜在意識）
システム2：意識的推論（熟慮による推論）
例えば、人に突然「おはよう」と話しかけられ、「おはようございます」と返すのはシステム1の働きである。一方、会議中に違和感がある決定がなされそうなとき、過去の議事録を調べ破綻してしまうリスクがあることを整理し、根拠を元にその決定をしない方が良いと発言するのはシステム2の働きだろう。一見、システム1は動物的で程度の低い行為ではないかと思うがそういうわけでもない。例えばブルースのセッションで、ドラムのアドリブのフィルに合わせ、即興のギターソロフレーズを入れるのもシステム1の働きであるが、良い即興を入れるには多くの練習や経験を要するだろう。
システム1、システム2は人間の思考に対しての分類であったが、LLMの挙動についての説明にもよく用いられる。LLMのワンショットの返答はシステム1である。これはLLMが大量のデータから学習した人間の文章のパターンに基づいて、確率的に生成した文章であり、反射的な返答のようなものである。一方で、最近のAIチャットなどは、thinking modeと呼ばれる、一定量自問自答を繰り返すことで正確な回答をするような振る舞い[註2]をするが、それはシステム2を模倣していると言われている。
ここまでは、世間一般で最近そう言われているよ、という話である。が、個人的にはAIと人間のシステム2の思考プロセスが本当に似たものなのだろうか？が気になっている。まずはAIの思考過程をみてみよう。Claude Opus4.8、thinking mode、Effort Maxで実験する。
*
## 入力
江戸川橋のレストランでどこが一番優れていると思う？
## 思考過程
- The user is asking about the best restaurants near Edogawabashi in Tokyo, so I should search for places in that area to give them accurate recommendations. I'll need to use the places search tool to find what's actually available there rather than guessing. I'm leaning toward searching for top-rated restaurants in Edogawabashi first to give a grounded recommendation, then presenting the standouts across different cuisines while noting that "best" really depends on what they're looking for. This balances being helpful with acknowledging the ambiguity in their question. I'll run a broad search using a few different queries to surface the best-rated restaurants in the area, then present the results with my recommendation. Since the user wrote in Japanese, I'll respond in Japanese as well.
- 江戸川橋 レストラン 人気 高評価 で検索
- Looking at the restaurant options near Edogawabashi, I'm identifying the standouts based on their ratings and reputation. Ristorante La Barrique Tokyo stands out with a 4.6 rating and 153 reviews—it's an Italian spot in a detached house known for white truffle pasta. There's also Shinga, which appears to be another notable option in the area. The user is asking for my opinion on which restaurant is best, so I should give a direct recommendation rather than just listing options. Since "best" is subjective, I'll acknowledge that it depends on what they're looking for, then give my reasoned pick based on culinary achievement and reputation. I'm thinking of using a map display to show the top contenders—La Barrique, Edogawa Ishibashi, Shinga, and Abats seem like the strongest recommendations to highlight. I'm leaning toward La Barrique as my top pick since it has the highest rating and offers a full fine dining experience, though I'll acknowledge that Edogawa Ishibashi's Michelin recognition makes it the prestige choice for those seeking traditional excellence. Now I'm pulling together the restaurant data with their exact coordinates to display on the map.
- Now I'm organizing my analysis to highlight the two standout options while mentioning some alternatives, then I'll give my personal recommendation with reasoning before wrapping up with a concise summary in Japanese, keeping it brief since the user prefers not to read lengthy responses. Now I'm organizing this into a clear, concise format with a summary at the end so the recommendation is easy to follow.
## 回答
江戸川橋エリアの評価上位・注目店を地図にまとめました。「一番」はジャンルや目的で変わるので、まず候補を見てもらえればと思います。
「優れている」の軸で結論が2つに割れます。正直な見立てはこうです。
格式・完成度で選ぶなら 江戸川 石ばし。ミシュランに掲載された老舗のうなぎ割烹で、伝統的な日本家屋の佇まいと、数十年使い込まれた漆器を使った丁寧なコースが評判です。ただコース1.5万円ほどと安くはなく、「うなぎを名店で味わいたい」という目的向き。火・木は昼夜営業、月・日休みです。
総合的な満足度・評価の高さなら Ristorante La Barrique。エリアで最高の**4.6（153件）**で、一軒家の本格イタリアン。白トリュフのパスタが名物で、丁寧なソースはフランス料理にも近いと評されるレベル。記念日や特別な一食にはこちらが一番手堅いです。ディナーは18〜23時、月・日休み。
カジュアルで一番愛されているのは 信華（中華）。口コミ877件で4.4、ニラらーめんと炒飯が名物の人気町中華で、行列必至。価格帯は最安で、日常使いのコスパ王です。
補足として、Abats.は本格フレンチのシャルキュトリー（基本テイクアウト）、CRAZY BRAVOはミシュラン・ビブグルマンですが評価は3.7と賛否が分かれます。
要点（僕の結論）
一番「優れている」を一つ選ぶなら → 特別な食事は La Barrique（評価最高・全方位対応）、格式・伝統重視なら 江戸川 石ばし（ミシュランのうなぎ）
気軽さ・コスパなら 信華
どれが合うかは「特別な日か／普段使いか」「和・洋・中どれか」で決まります。目的を教えてもらえれば1店に絞れます
*
回答の良し悪しは置いておいて、思考過程（英語部分）に注目してみよう。自分の率直な感想は、かなり文章量が多いな、である。自分が毎月号で書いている記事ほどの文字数の文章を数秒で生成しているほどの勢いである。思考過程はより複雑なタスクであればもっと長くなるであろうし、ここに転記したのはClaudeDesktopで参照できたものだけなので、Claudeがモデル内に組み込んでいるため表示されていない文字列もあるかもしれない。自分は何かを推論するときこんなに頭の中で喋っていない気がする、というのが生成AIの思考過程に対する一番の違和感である。
わかりやすいところで言うと、Googleで検索する、と言うアクションは、私たち人間は一つの所作としてある程度無意識的に行うことができる。（世代にもよるだろうが）こういうアクションについても、LLMを使ったAIではいちいち自然言語で定義しないといけないため、これほど文字数が増えてしまうのだろう。ただ、自分でもそれが何なのか理解できていないのだが、人間の推論とAIの推論はもっと本質的な部分で違っている部分があるようにも思える。
例えば数学者の岡潔は、システム2の極致のようなことをしなければ解けないような数学の難題を解いたことで知られているが、「春宵十話」という著書の中で、交感神経と副交感神経の交互の働きが発見には必要なのではないか？というようなことを言っている。これについて、自分は岡潔ほどの偉業を成し遂げたことはないものの、なんとなくわかる気がする。自分はシステムエンジニアだが、真面目に設計レビューをしている時よりも、なぜか休日に商店街をただぶらついたりしているときに、ソフトウェアの重要な設計ミスに気づいたりするものである。LLMにはこういうような作用は全くないだろう。仮にLLMの思考過程がどれだけ手の込んだ、本数冊分の試思考をするようなものになったとしても、人間の推論の働きとは交差しない、むしろ遠ざかっていくような気がするのである。つまり、人間の推論はLLMの推論とは別物であり、論理的思考の分野においても何か価値が残るのではないだろうか。
[註1] https://ja.wikipedia.org/wiki/%E4%BA%8C%E9%87%8D%E9%81%8E%E7%A8%8B%E7%90%86%E8%AB%96
[註2] https://www.anthropic.com/news/visible-extended-thinking