生成AIに「心」はあるだろうか

オープニング曲もaikoさん？

定義とは何か

「生成AIに心はあるか」や「知性はあるか」だけど、これってよく「心」や「知性」の定義をしてからその検証に入るじゃないですか。「心とはかくかく云々である」とまず語義を明確にして始める。「広辞苑によると」と根拠を明らかにする。

でもこの定義の段階に「結論」は含まれているわけです。「心はない」と思っている人は「心はない」という結論に導く定義を置くし、「心はある」の人だとそのための定義を持ってくる。「プラトンによると」とか「スピノザの言うところでは」とか。

こういうの、マッチ・ポンプじゃないかと思います。

じゃあ、定義を使わずどう論じるか。そうなると実際の「使われ方」を観察することになります。どんなときに「心」という言葉が使われ、どんなときは「知性」が使われるか。語用論的というか、言語ゲームですかねぇ。言葉の意味はその場その場で生成していて、誰も定義を考えずに「そうそう、そんな感じ」で運用している。

たとえばトランプの関税政策とか見てると「心がないなあ」とか「知性がないなあ」と思うじゃないですか。まあ、思わない人もいるだろうけど、自分としてはそう思う。この「そう思う」をもとに考えてみると、「心がない」は「自分のことばかり考えていて、相手の国のことを考えてない」という思いだし、「知性がない」は「あとあと自分が困るだろうに、先が見えてない」という判断ですね。言動を見てこちらがそう感じる。そういう主観的な感想です。そのとき「心」が使われる。

もちろん「トランプに心がない」と言っても、トランプ大統領が「無心」だということではありません。むしろ「欲」の塊でしょう。機械的に動いているんじゃなくて「感じたり考えたり」をしている。それもまた「心」であり「トランプの心の内が読めない」とか言って、そこでもまた「心」という言葉が使われる。

これを便宜上「心a／心b／心c」みたいに分類し、それぞれの定義を考え出すとドツボにハマります。定義できないわけじゃないけど、実際の語用論的立場を離れてしまう。別の言語ゲームに突入してしまいます。「アカデミー」のゲームですね、それは。

ロボットの心

俺は涙を流さない、ロボットだから、マシーンだから。ダダッダー。

グレートマジンガーも「燃える友情」はわかると言う。友情がわかるなら「心」はあります。「わかる」ということが「心」の働きなのだから。

でもこれが「計算結果がわかる」だと「心」だと思いません。何が違うんでしょうね？同じ「わかる」という言葉を使っているのだから、対象が違うところに鍵がある。すると「友情」と「計算結果」の違いということになります。

「友情」がわかるなら「心」がある。それは「相手の心」がわかるということです。他者と「心」が通い合い、わかり合う。そこに「心」がある。

じゃあ「相手の心」の「心」とは何か。それを考え始めると無限遡行になりそうです。たぶん「心」という言語ゲームは、誰かが「心」を想定した瞬間一気に成立するものであり、分解できるシロモノでないからでしょう。

「野球」を定義しようとするとその中に「バット」が含まれ、「バット」を定義しようとすると「野球で使うやつ」みたいに「野球」が入ってしまう。メビウスの輪みたいに循環する。そもそも言語にはそうした性質があり、とくに記号接地ができない言葉、つまり「心」とかは「そうなっている」でしか示せない。

そう考えると「ロボットに心はあるか」は単純です。彼らが「『心』を使った言語ゲーム」に参入できるか、という問いにパラフレーズできますから。

それは「相手の心」を想定した対話ができるかということ。実のところ「心ないトランプ」でも「相手の心」を想定している。想定しているから「ディール」という駆け引きができるわけです。「関税上げたら相手はビビるだろうなあ」くらいの気もするけど、それはそれで「心」を持っている。

大喜利で「Aと掛けましてBと解く」「その心は？」というやり取りがあるじゃないですか。日本語の「心」って、この「心」もカバーしていて「秘められた意味」を指してそうなんだよなあ。トランプの関税政策も日本政府は「その心は？」と問いかけている。「相手の心」を探ろうとしているし「心」の言語ゲームになっている。

だから「ロボットに心はあるか」は、こちらがまず「ロボットの心」を想定しているかどうか、なのだと思う。その場を「心の言語ゲーム」として開かなければ、のレバノンです。うーん、変なダジャレが出てきた。「レバノン」。「心がある」と想定しなけレバ「心」はない（ノン）。ガザ地区で起こっている殺戮も、そうした「レバノン問題」だと思ってるからだなあ。

まず「ある」と想定して交流を始めないと、どう論証しても「ない」という結論しか出ない。「野球」のルールを守らないゲームを始めても、それは「野球」にはならないし、そのことで「君たちのやっているのは野球ではない」と言っても詮無いことです。

こちらがまず「野球」をする。「相手の心」を想定したゲームを行う。そのうえで相手が「野球」ではないことを始めたら、あ、それで終わりでもないか。「それは野球じゃないと思うけど？」と問いただすものなあ。向こうが「これが野球だと思ってた」と言えばルールのすり合わせをする。

たとえ「野球」が始まらなくても、このプロセス自体は「心の言語ゲーム」だろう。で、今でも生成AIとそんな対話はできてるし、トランプよりマシじゃない？