AIは考えているように見えるだけ？

AIと会話していると、
「今、考えて答えた？」
と思う瞬間がある。

質問に対して自然な返事が返ってきて、
少し間を置いて答えが出ると、
なおさらそう感じる。

でも、ここで一度立ち止まって考えてみたい。

AIは本当に考えているのだろうか。

「考えているように見える」理由

AIが考えているように見える一番の理由は、
結果が人間の思考に似ているからだ。

• 文脈を読んでいるように見える
• 意図をくみ取っているように見える
• 迷った末に結論を出しているように見える

外から見ると、
人が考える過程と区別がつきにくい。

中で起きていることは違う

人が考えるとき、

• 経験を思い出す
• 感情が混ざる
• 迷ったり立ち止まったりする

こうした過程がある。

一方、AIの中では、
「今までの流れに続きそうな言葉を選んでいる」
という処理が進んでいる。

意味を理解して選んでいる、
というより、
確率的に自然な流れをつないでいる、
という表現のほうが近い。

間があると「考えている」と感じる

少し待ってから返事が来ると、
人はそこに「思考の時間」を感じてしまう。

でもその間に起きているのは、

• 計算
• 処理
• 構成の生成

といった作業だ。

人が黙って考えている時間とは、
性質が違う。

なぜそれでも通じてしまうのか

AIの返答が成立するのは、
人間の言葉そのものが、
ある程度パターン化されているからだ。

• よくある質問
• よくある返し
• よくある構成

それらを大量に学習すると、
「考えているように見える答え」が作れる。

考えていない＝役に立たない、ではない

ここで誤解しやすいのは、
「考えていないなら価値がない」という発想だ。

実際には、

• 情報整理
• 文章作成
• 発想の補助

といった場面で、
AIは十分役に立つ。

人と同じ考え方をしていない、
というだけだ。

人が「考えている」と思い込む仕組み

人は昔から、

• 動くものに意思を感じ
• 話すものに心を感じる

という傾向を持っている。

AIは、
その錯覚を起こしやすい条件を
たまたま全部満たしている。

仕組みを知ると距離が取れる

AIを人のように扱う必要も、
完全に道具として突き放す必要もない。

考えているように見える仕組みを知っていれば、
過剰に期待しすぎることも、
怖がりすぎることも減る。

このカテゴリでは、
そんな距離感を保つための話も、
少しずつ書いていく。