Loading...

ABOUT THIS SITE

科学の忘れもの

この世界で起こることすべては、いずれ科学で説明がつき、技術で再現することができる、という考え方があります。
もしそれが本当だとしても、実現できるのは遠い将来のこと。
おそらく科学や技術が進歩するほど、世界の謎は深まるばかりという方が、ありそうな未来です。
すでに科学技術によって解決済みとされているテーマにしても、よくよく見直してみれば、落としものや忘れものだらけ。
しかもそれらは、いちばん大切で、しかも日々の生活のすぐそばにあったりするようです。
たとえば、勘や気配や予感をはじめ、合理的に説明されたように思えても、どこか腑に落ちないものは、決して少なくありません。
思えば現代文明はずいぶんたくさんの忘れものをしてきてしまいました。
しばしの間、立ち止まって、あれこれ思い出してみるときが来ているのかもしれません。
来るべき科学や技術の種は、そんな忘れものの中で、見つけられるのを、いまや遅しと待っているのです。

堀場製作所

真っ赤な戦車とAI忖度|荒俣 宏[作家・博物学者]

最後のAI体験から

半世紀ほど昔、ある企業のコンピュータルームに勤務していましたが、コンピュータ関係の人間の多くは、当時からAIに関心を持っていました。ただ当時は期待ばかりで、どんなシステムにして、何をやろうかということがなかなか見えていませんでした。そういう者の目から見ると、近年の状況は凄いと思います。

簡単に言うと、使い方自体が変わった。かつてはあくまでも論理の体系の中で模索していましたが、いくら論理で押しても行き詰まる。それが質から量に変わった。いまのAIは、数をこなすことで目的に近づくというやり方です。昔は、言葉と物の関係はどうなってるのかとか、論理はあらゆる対象に適応できるかとか、ある種の言語哲学的なアプローチをしていたわけです。結合術のようなものに関心を持っていたAI研究者も多かった。そうしてつくられたものは、実装するとバグだらけで、翻訳システムにしてもお話にならない。AI開発はこれまで何度も頓挫しましたが、いちばんのどん底の時代が、私にとっての最後のAI体験です。第五世代プロジェクト前後でした。

ロジックではなくセンス

機械に哲学をやらせようとしても、結局はうまくいかず、せいぜい「シーマン(SEAMAN)」みたいな育成シミュレーションゲームでお茶を濁すしかない。AIは、ある程度は「当たらない」と意味がないから、昔のAIは当たらなくても大丈夫な領域、人間が勝手に解釈してくれることを利用した曖昧な領域に逃げたわけです。詐欺師のコールドリーディングと同じで、「こいつは怒っているな」と判断したら慰めるような言葉を返して、なぜ怒っているかは一切問わないまま応答する。

コンピュータは、機械ならではの脳だと割り切ることで、ブレークスルーが起こった。それがいいか悪かはともかく、いくらか使い道のあるものに転じました。特に将棋や囲碁みたいなものでは、人間より優れている。同じ手順を繰り返すということでは彼らの方が圧倒的に早いし、疲れない。しかも現代の道具はほとんど機械だから、もともとAIとの相性もいいわけです。

そういう成果がもたらされたのは、やはりセンサーの力が大きいでしょう。ロジックではなく、センサーなんです。人間の脳ではなく五感に対応するものを獲得したことが、いちばんの勝因かもしれません。痛いということなら、別に脳が選別しなくても、同じ反応を繰り返すことで、関連づけが行われます。それは実は、人間が知を獲得するプロセスと似たようなものです。人間も感覚の鋭い時代に懸命に言葉を覚える。いまはコンピュータが人間の幼児期のスタイルを見つけた段階じゃないでしょうか。

8K映像と拡張する感覚

NHKでは4K、8Kの映像技術が確立したことで、かつてのフィルムをあらためてデジタル化している。精細になれば感覚的にもきれいだし、それまでに見えなかったものも見えてくる。かつてのフィルムは、情報価値はもちろん、量的にも桁違いに大きい。4K、8K化でフィルムが持っていた膨大な情報を拾えるようになった。以前放映されたものでは真っ暗な部屋に一人の男がいるように見えたのに、実はその背後に何人もいたことまでわかるようになる。

これはまさに感覚が拡張して、それまでは感じられなかったことを感じ、そのままデータとして取り込めるようになったということです。とくにモノクロフィルムに色をつけるのは、AIの得意分野です。しかも人力でやったら一ケ月かかるものを数秒で完了させる。「おはなはん」という初期の朝ドラをカラー化した作品を見ましたが、空は空らしく木々は木々らしく見事に彩色されている。ところがどこかに違和感がある。これからお見合いするという主人公の樫山文恵の和服の色がしっくりこない。淡い浅葱色で帯が金襴。初夏くらいの季節だったので、ちょっと浴衣っぽい浅葱色はさわやかでいいのですが、それに金ぴかの帯という組合せがおかしい。しかもこれから見合する女性が、浴衣地のような着物を着ているというのも変です。参照データの不備ということでしょう。

もっと極端な例もあります。戦争中のドキュメンタリーフィルムにAIに色をつけさせたら、戦車が真っ赤だったそうです。なぜかAIが迷彩色やカーキ色の色付けを拒絶するらしい。いろいろ条件を変えて調整しても戦車は赤のまま。参照データをチェックしてみると、大型車両のデータが消防車でした。AIが戦車を消防車の一種だと判断したのです。戦車の色の情報を何百枚か入力して、はじめて戦車らしい色になった。でもコンピュータが持っている情報の量が人間を凌駕している場合、戦車の色が赤になる可能性がある。人間の好みとかこれまでに培ってきた、見合いのときは浴衣じゃないだろうというような発想は、インプットされないかぎりわからないし、それが必ずしもインプットされるとはかぎらない。そういう「体験」が欠落したまま他の情報体験がどんどん増えてAIの力になると、人間の感性とは異なる感性をもちはじめ、衝突が起こるかもしれません。

機械も体験の偏りによってだんだん好みが出てくる。そのとき機械と人間の好みをどう摺り合わせるか。機械にお願いするしかなくなってくる。機械が何をすると喜ぶかということを人間が考えなくてはいけなくなる。これまでは人間関係が職場でも重要なテーマだったけれど、これからはAI関係が重要になって、仕事をうまく進めるためには、能力的には人間よりはるかにすぐれている機械に対し、AI忖度をしなくてはいけなくなる。放っておくと向こうがサーブ権を持って、「戦車は赤、あなたたちが迷彩色にするというのは間違っている」と押し通されるようになる。シンギュラリティの大きな問題はそこだと思います。戦車づくりも機械が管理すると、実際の戦車まで赤くなってしまう。これは単純で極端な例ですが、すぐにはわからない部分で、そういうことが充分起こる世界になりはじめている。

シンギュラリティは知らない間にやってくる

人によっては、もうシンギュラリティが来ているといいます。AIづきあいやAI忖度を身につけないと、すでに人間関係さえ円滑にまわらない。M・マクルーハンが指摘したように、システムから多様性が消える。「いいね」を押すという行為が前提になり、押さないと何とか押させようとするシステムが加わる。そういうデータを裏で何かが拾っている。それを牛耳っているのもAIです。つい十年くらい前までは、パソコンもちょっと馬鹿だけど扱いやすい存在だったのに、いまはいろんなところに隠しバナーがあったり、いきなり広告を見せられたりする。パソコンを立ち上げた時点で、機械to機械のコミュニケーションが始まっている。人間のコミュニケーションに割り込んできて、向うの言う通りにされる。感受性も他者とのつき合い方もどんどん変わる。「いいね」グループに入らない人は、はじめからいないことになってしまう。

コンピュータ誕生以前から、こういう世界になることは、実は多くの人が予測していた。予測通りに、しかも予測よりも早いスピードで進んでいる。かつては幻想文学にしてもSFにしても、「反世界」を担保できた。この酷い世界とは別にもっといい世界がある、あるいはもっと酷い世界があると思えた。だからセンサーが働いて、そろそろヤバいという信号が点滅する。我々の世代にとっては、最近は赤信号が点灯しっぱなしです。しかし若い世代にとってはそういう状況が前提となっているから、彼らのセンサーが赤信号を点滅させるのはずっと先の話だと思う。

昔は我々も赤い信号がつかない状況にいたけれど、戦前世代にとってはすでに信号がついていた。同じことが繰り返されている。かつては二世代の猶予があったので、伝承も残る。いまは一世代ない。そのスピード感がすべてを解決する。リセットされれば問題は存在しないことになり、反対者も消える。不戦勝です。シンギュラリティが始まる前に、ぐちゃぐちゃ言う奴はいなくなる。ぐちゃぐちゃ言う奴がいなくなるから、シンギュラリティが来るという言い方もできるかもしれません。AIが勝ちでオッケーという人が大多数になれば、シンギュラリティを乗り越えるかどうかはどうでもいい。赤い戦車でいいという世界では、問題は自動的に消滅します。

半端な国の幸福

この先、日本的な伝統といわれるものが活かされる余地もないでしょう。侘び寂びにしても今では商品用語になってしまった。スタイルでしかない。何もかもが知らないうちに突然切り替わるから、侘び寂びの実感はない。気がつくから侘び寂びです。だんだん古くなる、淋しくなる、夕暮や紅葉のプロセスがある。そのプロセスがないと侘びも寂びもない。電気をつければいきなり昼だし、エアコンつければいきなり夏です。

でも日本は、比較的呑気でいられる国でもあります。テクノロジーが使えるかどうかということについては、日本がいちばん鷹揚です。欧米は食うや食わずか、テクノロジーのおかげで安穏としているかどっちか。多少の貧乏を我慢すれば、中途半端に暮らせる日本は幸福かもしれない。そういう意味では、日本には最後の望みがある。かつて日本のセンシティビティは、外国人にはクレイジーといわれていたのに、クールジャパンとかいわれるようになり、急に三〇〇〇万人もの人が見物に来るような国になった。日本のような緩い社会は、もともとシステムに乗りにくい。高度テクノロジーがありつつ半端な状態でも許されていける、不思議でハイブリッドな国なのかもしれません。何年か前に首相がITのことを「イット」と言いいました。いい国だなあと思います。

AInterview