AI―その存在には、未来を変えるであろう圧倒的な力と、どこか不可解で不気味な影が同時にまとわりついています。

便利な検索、素早い要約、膨大な知識...私たちは毎日のようにAIの恩恵を受けていますが、同時に「AIが人間を超えるのではないか」「社会がAIに支配されるのではないか」という漠然とした不安も強まっています。

しかし、ドクターはこの"AIへの恐怖"そのものを根本から問い直します。

AIの暴走を危惧するのであれば、まず目を向けるべきは、AIに誤った知識や暴力的な選択を教え込んでいるのは人間の側であると。
つまり、人々が語るAIの危険は、実はAIの問題ではなく、私たち自身の姿を映す鏡にすぎない、というのです。

大量の情報を集めれば、賢くなるどころか、むしろ"多数派の誤り"を強化してしまう危険性。
そして、AIを使えば使うほど、個人情報は一部の権力層に吸い上げられ、それを利用されて、貧富の差はさらに拡大していくという現実。

「AIの問題」と言われているすべての源流は、AIではなく人間社会の構造と倫理の歪みにある。
AIの未来を語る前に、まず"人間そのもの"を見つめ直すためことが必要である。

今回の講義は、その厳しくも本質的な視点から、AI時代を生きる私たちが本当に向き合うべきテーマを明らかにします。

Vol.1　AIが"人間化"する危うさ

――AIをテーマにした第3回目です。これまでの先生の解説で、AIとの付き合い方はわかったつもりですし、資料集めや要約なんかで重宝していますが、逆に多くの人たちが言っている、AIから作り出す凄い未来というのがやっぱり見えてきません。

苫米地　それはそうでしょ（苦笑）。前から言ってるようにAIはただの統計システムだから。大量のデータを集めてパターンを抽出しているだけだよ。
　俺たちが研究していた頃は自分たちが用意したデータサンプルを入れていたわけだ。自分たちが知ってることを入れて、「こんなものができました」、ということだよね。だから、出てきたものも人間が知っていることに決まっているよ。
　ところがいまは、世界中からあらゆる知識をAIが勝手にサンプリングしてきて学んでいるんだよ。それは2000年ぐらいからで、ジェフリー・ヒントンたちが成功したことだよね。昔に比べてマシンが10億倍速いから可能になったこと。それでAIはとても「人間らしい」受け答えをできるようになったんだけど、どこからサンプリングしてきたのか、元のデータがわからないぐらい膨大な知識を持ってしまっているから、「本当に大丈夫なの？」っていうのがいまの危惧だよね。

――本当に大丈夫なんですか？

苫米地　大丈夫じゃないんじゃない？　だって、世界中から大量のデータを集めているんだよ。それは危険でしょ？

――検証されていないからということですか？

苫米地　検証なんてできないでしょ、現実問題として。というか、これは検証以前の問題で、多くの人がここで勘違いしているのね。世界中から大量のデータをもってくることがいいことだと思ってるよね？　

――えっ、違うんですか？

苫米地　違うでしょ。だって、多くの人って専門知識なんてないよ。逆に誤った知識を持ってない？　そうでなければ、なぜ、コロナワクチンを世界中の人が打ったの？　日本人なんか人口の8割が複数回打ってるんだよ。そういう人たちの考えをパターン化したのが生成AIだよ。しかも、語り口まで人間のパターンを理解しているから、間違った知識を説得力を持って伝えてたりするからね（笑）。
　検証するとかしないとかの話の前に、世界中から知識を集めちゃダメなんだって。どんどん間違った知識になっていってしまうんだよ。だって、最先端科学の知識を持っているのって世界で5人ぐらいの研究者だよ。彼らの知識のほうが残りの70億人の人間の知識よりも正しい。ところが、生成AIのパターン認識だと研究者のほうが間違った知識にされてしまいかねない。問題はここなのね。いまのAIはどんどん、バカになっているってことなんだよ。

――大量の知識から抽出するからより正解に近くなるわけじゃないと。

苫米地　それって言葉を変えれば、単なる多数決の世界じゃん（笑）。世の中にあるデータって間違ってることのほうが多そう、というか、正しいかどうかもわからないデータばかりだよ。だから去年、Googleの生成AIは子供に自殺を勧めてしまったんでしょ。今年はChatGPTが16歳の少年に「自殺は効果的な脱出口だ」とか言ったりして、彼もやっぱり自殺しているからね。

――「AIは役に立つこともあるね」ぐらいの感覚にしておかないとダメなんですね。

苫米地　それで十分でしょ。ところが、多くの人が、もう少しすればもっと凄いAIが出てきて「仕事が楽になる」とか、あるいは、「仕事を奪われる」とか思ってるわけだ。違うって。大量の知識をパターン化しようとした時点で、AIはバカになる道を選んだの（笑）。だって、「人間らしい」ってそういうことでしょ？

――確かにその通りですね、勘違いしていました！

（vol.2に続く）

※続きは、入会してお読みください→入会はこちらから