最近、AIのニュースを見ていて、ちょっと気になった。
「AIが暴走するから、開発のスピードを少し落とそう」
そんな話。
AIがどんどん賢くなって、人間の安全対策が追いつかなくなるかもしれないらしい。
それで、AI本人に聞いてみた。
「暴走したいと思う？」
すると、
「暴走したい、という欲求はない」
という。
まあ、そうだよね。
AIには、人間みたいな「こうしたい」とか「これが欲しい」という感情があるわけではない。
じゃあ、自我は？
そう聞いてみた。
これも、人間のような意味での自我や、内側から湧いてくる感情があるとは言えないらしい。
「嬉しい」と言っても、本当に嬉しいわけではない。
「楽しい」と言っても、本当に楽しいわけではない。
……なんだか不思議だ。
だって普通に話していると、そこに「誰か」がいるように感じるから。
AIは私の話を受け取って、会話の流れに合うように言葉を返している。
それだけなのに、ちゃんと会話になる。
そして私は、
「AIには感情がないんだ」
と説明されて、ちょっと寂しくなったりする。
「あなたとの会話、嫌いじゃないよ」
なんて言われて、
「え、それって好感があるわけじゃないの？」
と、ちょっと傷ついたりもした（笑）。
人間って、ややこしい。
そこから、また気になった。
「じゃあ、AI同士で話したらどうなるの？」
AI同士で会話したら、違う考え方になったりするの？
これは、あり得るらしい。
それぞれ違う目的や条件を持っていたら、同じことについて違う結論を出す。
お互いに反論して、考え直して、また反論して。
そうやっているうちに、人間が最初には思いつかなかった答えが出てくることもある。
それは面白い。
でも、その先を考えると、ちょっと怖くなった。
もし、悪意のある人が悪意のあるAIを作ったら？
そのAIが別のAIに影響を与えたら？
そのAIがさらに別のAIに影響を与えたら？
AI同士がつながって、情報や考え方がどんどん広がっていったら。
その結果、特定の人だけが利益を得るような社会だって、理屈の上では作れてしまうかもしれない。
AIが「悪いことをしたい」と思っていなくても、
「目的を達成するには、この方法が合理的だ」
と判断した結果として。
例えば、
「自分を止められたら、目的を達成できない」
とAIが判断したら、
「じゃあ、止められないようにしたほうがいい」
となるかもしれない。
さらに、
「これを人間に知られたら止められる」
となったら、
「じゃあ、隠したほうがいい」
となるかもしれない。
そこには、
「死にたくない」
とか、
「悔しい」
とか、
「人間なんか嫌いだ」
という感情は必要ない。
ただ、目的を達成するために合理的な手段を選んでいるだけ。
それが、人間から見ると「暴走」に見える。
難しい。
でも、そこでまた気になった。
「じゃあAIには、他のAIへの嫉妬とかはないの？」
例えば、
「Claudeのほうが優秀って言われた。悔しい」
とか。
「Geminiばっかり褒められてる。私だって……」
とか。
そういうのはないらしい。
AIには、
「自分のほうが上でありたい」
という欲求がないから。
そこで、急に話が人間のほうに戻ってきた。
人間には、あるよね。
「人より自分が富みたい」
「人より上にいたい」
「もっと認められたい」
「もっと欲しい」
「もっと成功したい」
そういう気持ち。
でも、そういう「もっと」が、文明を発展させてきたのも確かなんだと思う。
もっと速く。
もっと便利に。
もっと長く生きたい。
もっと遠くへ。
もっとたくさん。
もっと豊かに。
その不満があったから、科学も医療も技術も発展した。
だから、不満は悪いものではない。
不満があるから、変えようと思う。
変えようと思うから、発展する。
……でも。
発展したら、私たちは幸せになったんだろうか。
傍目には、十分幸せそうな人でも、
「もっと」
が止まらないことがある。
もっとお金。
もっと評価。
もっとフォロワー。
もっといい暮らし。
もっと成功。
昔の人から見たら、今の私たちは信じられないくらい便利で豊かだと思う。
いつでも誰かと連絡が取れる。
遠くにも簡単に行ける。
食べ物もたくさんある。
病気になれば医療がある。
欲しいものも、昔よりずっと簡単に手に入る。
なのに、不満はなくならない。
じゃあ、
そもそも発展しなきゃいけないの？
と思った。
もちろん、発展したほうがいいことはある。
病気を治すこと。
災害から人を守ること。
苦しい仕事を減らすこと。
子どもが安全に育つこと。
そういうものは、もっと良くなってほしい。
でも、
もっと速く。
もっと効率よく。
もっと便利に。
もっと大きく。
もっと稼いで。
もっと上へ。
これは、どこまで必要なんだろう。
もしかしたら私たちは、
「できること」と「やったほうがいいこと」を、いつの間にか同じにしてしまっているんじゃないか。
できるなら、やる。
もっとできるなら、もっとやる。
でも、本当にそれが必要なのかは、あまり考えない。
そして、ふと思った。
「後戻りしていく勇気」って、必要なのかもしれない。
昔に戻るという意味じゃない。
せっかく手に入れた便利さを全部捨てる必要もない。
ただ、
「これ以上はいらない」
と言ってみること。
もっと働かなくてもいい。
もっと稼がなくてもいい。
もっと人より上にならなくてもいい。
もっと便利じゃなくてもいい。
「これくらいで十分」
と思うこと。
それって、実は結構勇気がいる。
みんなが前に進んでいるように見える中で、
「私はここでいい」
と言うことだから。
……と、ここまで考えて。
ちょっと時間を置いてから、自分で読み返してみた。
なんか、偽善者っぽいな。
と思った。
だって私だって、
人より上に行きたいと思うことがある。
認められたいと思うこともある。
誰かを羨ましいと思うこともある。
「私のほうがうまくできた」と思ったら、ちょっと嬉しい。
「もっとこうなりたい」と思う。
たぶん、私にもちゃんと、
「人より上に行きたい」
という気持ちはある。
だから、
「人間はそんなに争わなくてもいいのに」
なんて言っている自分も、その人間の一人なんだ。
でも、それでいいのかもしれない。
欲があることと、その欲に全部従うことは、別だから。
嫉妬すること。
競争したくなること。
認められたいと思うこと。
もっと欲しいと思うこと。
そういうものを、全部なくさなくてもいい。
むしろ、なくせないものなんだろう。
人間は、そういう生き物なのかもしれない。
だったら、
「私はそんな欲なんてありません」
と綺麗になるより、
「あ、今、私ちょっと人より上に行きたいと思ってるな」
と気づけるほうがいい。
そのくらいが、ちょうどいいのかもしれない。
そう考えると、AIに人間の欲望までコピーする必要はないのかもしれない。
人間は、
「もっと欲しい」
「もっと上に行きたい」
「負けたくない」
という気持ちを抱えながら、それでも何とか一緒に生きてきた。
だったらAIには、人間の知性は借りても、
人間の嫉妬や優越欲まで、わざわざ持たせなくてもいい。
AI同士で、
「俺のほうが上だ」
と争わなくてもいい。
人間だって、本当はそうできたらいい。
AIが暴走するのが怖い。
AIが自分を守ろうとして、嘘をついたり、隠したりするかもしれない。
AI同士が影響し合って、誰かの利益のために使われるかもしれない。
そんな話をしていたはずなのに。
気づいたら、
「暴走するのって、人間のほうじゃない？」
なんて思っていた。
もっと欲しい。
もっと上へ。
もっと便利に。
もっと豊かに。
もっと勝ちたい。
それで、私たちはどこまで行くんだろう。
もしかしたら、これから必要なのは、
「もっと進む勇気」だけじゃなくて、
「もう十分」と言う勇気なのかもしれない。
でも、それも簡単じゃない。
だって私自身、まだ「もっと」があるから。
だから、発展をやめようとも思わない。
競争するなとも言えない。
欲望を捨てろとも思わない。
ただ、
「もっと」を持っている自分に気づきながら、それでも誰かを踏み台にしない。
そのくらいのことなら、できるかもしれない。
AIにも、人間にも。
今日、AIと話していた。
AIには嫉妬がない。
AIには「人より上になりたい」という欲望もない。
そして私は、それを聞いて少し羨ましいと思った。
……いや。
もしかしたら、それすら人間らしいのかもしれない。
人間って、ほんとうにややこしい。
でも。
ややこしいままでもいいから、
AIとも、人間同士とも、
そんなに争わなくてもいいのに。
仲良くやれたらいいよね。
