「AIとは何か？」を考えるときの考え方

2024年1月18日2024年3月29日

AIは「アニメと同じだろう」とザックリ考えた

　ChatGPTの登場でますます注目を集めているAIについて、様々な人が期待や不安について語っています。世界を変えてしまうほどのインパクトをもった革新的な技術であるというのは多くの人の一致するところですが、人間を超える能力を持ったAIに支配されてしまうのではないかという懸念がある一方、知的労働からも解放された人間はよりクリエイティブなことに携われるようになるいう楽観論もあります。
　先日、アニメなどのオタク文化についての著作もある批評家がAIについてコメントしてました。AIが教師となって人に教える場面を想定して「相手が人間か否か」がやはり重要なのではないか？というものです。つまりAIは人間ではないので人間の教師に教えられた場合とでは、やはり何か違うのではないか？というものです。
　これを聞いて、私は直ぐにアニメーションのことを思いました。アニメーションはセルロイドにインク（今は電子データでしょうが）で着色したスライドを連続投影することでストーリーを生成するものです。人間が演じるストーリーではなく、セルロイドとインクが演じるストーリーに私達は感動し多くを学んでいます。人生が変わってしまうほどの影響を受けた人もたくさんいるでしょう。
　つまり、感動や学習には人間が伝えるか否かは関係ないのでは？という思いが浮かんだのです。そして、AIはアニメーションのようなメディアと同じなのではないかとも思いました。メディアというとテレビや新聞やラジオなどが思いつきますが、情報をユーザーに伝えるための手段のことなので、書籍や映画もメディアの一種です。アニメーションも創作する人がいて、創作者が伝えたい情報を伝えるための手段です。

　「アニメーションはAIとは違って創作する人、人間が関わっているじゃないか！」
　という指摘があるかもしれません。しかし、いま世間で話題になっているChatGPTには情報ソースがあって、それはインターネット上の情報です。インターネットの情報は人間が創作したものです。なのでChatGPTは人間が創作した情報を基に加工・変換してユーザーに届けるメディアと考えることもでき、アニメーションと同じようにも感じます。
　そうすると、AIもテレビやラジオや映画と同じように情報を変換・加工してユーザーに伝える機能なので、何も恐れることはなく、私達が経験してきた新しいメディアの登場という歴史の繰り返しとも考えられます。
　さらに、この考えを進めると「言葉」もメディアの一種であることに気付きます。10万年ほど前の人類は自分の感情や周りの状況を言葉として相手に伝えることを始めました。「言葉」こそはメディアの原型であり、現在のあらゆるメディアの基盤になっているものです。
　そう、私達が慣れ親しんでいる「言葉」と「AI」はメディアという点では同じものなのです。どちらも情報を加工・変換して相手に伝える機能を持っているからです。

　このように考えてくると、AIはメディアの一種なので、言葉と同じで、その発展形である新聞やラジオやテレビと同類のものだから、それとおなじように受入れればいいじゃないか。という結論になってきます。

その「考え方」で本当にいいのか？

　さて、本当にそれで良いのでしょうか
　ここまでの推論は多分正しいものです。しかし、この考え方には、結局は私達は「言葉」でしか世界を理解できないし表現できないのだから、その発展形としてAIが登場したことによって世界がどのように変容しようが、それを「真実」として、あるいは「正しい事」として受け入るしかない。というニヒリスティックな結論しかないようにも感じます。つまり、思考停止になるのです。AIの本質（らしきもの）を捉えても、それだけでは、思考停止に陥ってしまうのです。
　このような考え方は、どんなに優れて的を射たものでも、アクションに繋がりません。
　では、どうすれば、良いか？
　一つの方法としてはAIという新しいメディアと既存のメディアとの「違い」を詳細に検証することでしょう。冒頭で批評家の発言の上げ足を取って「アニメもAIも同じじゃないか！」ということを書きましたが、アニメとAIの違いを見つめることこそが多分とても重要なのです。
　アニメの製作にはたくさんの人が関わりますが、伝える価値観やストーリーは多くの場合、監督という立場にある一人の人が決定的な役割を担います。一方、AIは様々なソースから情報を入手しており、変換・加工する場合は利用者に最適化されるものです。つまりAI自体に伝えたい情報の価値観や優先順位があるわけではなく、AIが推察する利用者の嗜好に応える（忖度？）かたちで提供されます。
　AIの発する情報はアニメのように何等かの価値観を持った人間が提供しているのではなく、複数の無名の人間が発した情報から生成されいて、それは受け取る利用者に向けて最適化されている、つまり、この場合の「監督」は利用者自身であって、「製作スタッフ」はインターネットに情報を流し続ける世界中の人々とAIそのものであるということです。アニメでは「監督」→「観客」という構造ですが、AIでは「監督」と「観客」が同じ人であるような奇妙な構造になっているのです。
　冒頭の教師がAIだった場合に置き換えると、人間の教師は生徒の理解を促すために努力するでしょうが、必ずしも生徒に最適化されようとは思っていません。生徒の質問に答えないこともあるでしょうし、生徒の望みと関係なく自分の教えたいことを優先して教えることもあるでしょう。AI教師はそのような構造にはなっておらず、ここでも「教師」≒「生徒」のような奇妙な構造が生まれるのです。

　では「事実」を伝えるという点ではどうでしょう？
　伝統的に「事実」を伝えてきたのは新聞ですが、新聞との比較でAIを考えてみます。AIの「フェイク」がよく問題になっていますが、新聞にも誤報はたくさんあり、すべてが事実とは限りません。また、高級紙と言われる新聞は「事実」が前提ということでしょうか、いわゆるスポーツ紙などは、そのことに大きな拘りは持っていないようです。読者を楽しませる記事が中心で、読者も全てが事実とは思っていません。
　新聞では「事実」らしさのレベルはグラデーションになっていて、読者がそれを判断してどの新聞を読むか選択しているようです。一方、AIの方はそんなことにはなっておらず、「AIなんだから事実なんだろ」という前提で接している人が多いのでないでしょうか。なのでAIの発する情報が誤っていると、現在の利用者には大きな問題だと受け取られてしまいます。
　新聞の読者は新聞が発する情報が事実か否かは、新聞の種類によっても記事によっても、その時々で変わることを理解していますが、AIの利用者はそんな「免疫」は持っておらず、現時点ではかなり純粋にAIの発する情報に接しているようです。AIにおいてはユーザーの鍛えられ方（練度）が足りていないようです。

　さて、ここまで「AIはメディアの一種」だろうという観点から、同じメディアであるアニメと新聞との違いについて考えてみました。このように考えるとAIについてどのような脅威があるのか？或いは、ないのか？が朧げに見えてくるのではないでしょうか。

　このように考えることで、やっと対策について意見を持ったり、他の人の意見を聞く準備ができます。
　ここでは「AI」というお題を「メディアの一種」という括りで捉え、メディアの一種である「アニメ」や「新聞」との差異から考えました。最初のお題が「AI」である必要はありません。「少子化」でも「地球温暖化」でも同じです。また、「AI」を「メディアの一種」と括るのも必須ではありません。「情報技術」と括ることもできるでしょうし「脳機能」の一形態と括ることもできるでしょう。
　でも、考えるときの考え方は基本的に一緒になるはずです。大事なのは、誰かの発言の上げ足を取って終わるのではなく、その先に考えを進めることなのです。