人工知能を「鏡」にして「意識」を考える

クオリアと人工意識　茂木健一郎　講談社現代新書

赤いマジックペンのフタはなぜ赤いのだろう。赤ペンだから赤いのは当たり前ですが、なぜ「赤」に見えるのでしょう。

それは、フタの材料が、赤以外の光を吸収して、赤い光のみを反射しているからです。

ではその反射する元となった光はどこから来るのか。たいていは部屋の蛍光灯からの光や太陽の光でしょう。

いわゆる白色光はあらゆる色の光を含みます。プリズムなどで光を分けてみたり（分光）、空の水滴によって太陽光が虹色に分かれるのをみたりすると、納得できます。

さて、最初の話に戻りますが、赤く見えるのは、「赤」と我々が認識する波長の光（電磁波）が、我々の網膜に届いて、脳で処理されたからです。

別な波長の電磁波であれば、青であったり、緑であったりとして認識されます。

この、無味変哲な電磁波を、波長によって「赤い」「青い」と認識すること、あるいは水を、その温度（分子運動の程度）によって「冷たい」「暖かい」と認識すること、それが「クオリア」（感覚のもつ質感）です。

「クオリア」は主観的なものであり、認識する人、あるいは他の生物によっても異なると思います。

我々が「赤い」と感じている波長の光を、昆虫も同じように「赤い」と感じているかはわかりません。

あるいは、我々は紫外線を認識することができません。一方、昆虫のハチやチョウなどは花の花弁に「紫外色！？」を認識して、それを頼りにミツを集めます。

同じ一人の人間でも、時と場合によって認識は異なります。クーラーの温度設定にしても、「22℃」は夏にはかなり強烈な冷房ですが、冬には強めの暖房です。

＊

今回ご紹介する本は、そんな「クオリア」をキーワードとして「意識」「脳機能」を研究されている茂木氏による著書です。

「人工意識」とタイトルにあるように、人工知能（AI）の可能性や、そこから見えてくる人間の脳機能についても深く考察されています。

ここに引用した中にも、みなさん日頃考えていることにひっかかる内容が、あるのではないでしょうか。

言葉や意識をはじめとする脳機能はもちろん、人間とは、人工知能はどうなるのか、あるいは哲学、宗教的なことまで、広く考えさせてくれる一冊です。

人工知能のカバーする範囲は、常に特定の「部分」である。それに対して、意識は包括的かつ潜在的なものを志向する。
（P82）

人工知能は、しょせんキカイだから人間のように幅広く、奥深く考えることができないと思います。ま、人間にもキカイのような人はいますけどね。

しかし、ここで指摘されているように人間の意識というものは、常に周囲の刻々と変わる状況を俊敏に、ときには鈍感に把握して対応します。

俊敏で良いこともあれば悪いこともあり、鈍感で困ることもあればときには良いこともあります。

人間の意識は周囲の状況を自分にとって意味があるかないか、あるいは有用か無用かにかかわらず、すべて拾い上げます。

そして、必要な情報は使いますし、不要な情報は使わないとしても、頭の中に潜在的に残って、ときにピンと来て役立つこともあります。

人工知能は、周囲の状況を把握し、その状況にピンポイントで対応可能な「部分」による解決を考えるのだと思います。

的を射てズバリと解決しますが、それだけのことです。そこにはその問題に対する解決しか得られません。

「瞑想」を宗教的文脈から切り離せば、そこにはメタ認知の高度化のためのノウハウがたくさん詰まっているといえるだろう。意識研究者には、日々の「瞑想」によるメタ認知のアップデートが必要なのだ。
(P94)

「メタ」な見地というのは、あたかもドローンかなにかで自分とその周囲の状況を上空から眺めるような状態です。

自分と周囲を幅広く客観的に見ることです。どうしても人間は自分を取り囲む周囲の状況や自分の中から湧いてくる思考、思念への対応でいっぱいいっぱいとなり、周囲が見えなくなります。

そういったときに、フト自分と周囲を大きく眺めると、ちょっとしてヒントや解決が転がっていることもあります。

「瞑想」はそんなメタ認知を高度化するための、とても有用なツール、スキルだと思います。

マインドフルネスが流行しています。これは目をつむり周囲の状況から少し自分を切り離し、さらに次々に自分の中から湧き起こる思考、思念をその都度客観的に対応していくことからなっています。

「意識」というものを扱っていると、つい自分に当てはめて考えてしまいがちです。常に客観的に考えるために、「瞑想」といった作業によるアップデートが必要です。

「ウィノグラード・スキーマ・チャレンジ」が巧みなのは、ビッグデータには帰着できないような、文章のローカルで固有な「意味」の理解自体を問うからである。
（P147）

「言葉」が示すものは、その「言葉」が示すもの以外にもあります。分かりにくくなってしまいました。

たとえば「りんご」という言葉を聞くと、あの秋に出てくる「赤い甘酸っぱい果物」が思い起こされることが多いでしょう。

しかし、人によっては、「青りんご」だったり、「りんごの歌」だったり、「青森」だったり、「りんごダイエット」など出てくるかもしれません。はたまた、「ビートルズ」や「パソコン」が思い浮かぶかもしれません。

さらに抽象的な言葉、たとえば「愛」であったり、「努力」であったりといって言葉は、言う人、聞く人、言われた人、の状況や考え方によって、どのようにでもとらえられる可能性があります。

人工知能には、ビッグデータの中にあるパターンしか活用することができません。こういった、「言葉」の奥にある幅広い意味、そして聞く人によって異なる「意味」づけは人間にしかできないでしょう。

「道具」としての人工知能は、私たち人間にとって何が大切なのか、どのような属性が私たち人間の「本質」なのか、そのような自己像を映し出す。だからこそ、人工知能は私たちにとっての「鏡」である。
（P218）

人工知能研究のメリットの一つは、その研究によって逆に人間について分かってくることです。

人工知能に同じことをやらせようとすると、これこれこういった機構やフィードバック、反応が必要だ、となります。

それを実際に人間の脳は、どこでどのようにやっているのかを調べてみると、ああ、ここはこういう働きをしていたんだ、ということが分かります。

理想の完成型（人間）をよく見てよく見て人工知能を作ろうとするから、人間をよく見ることによって、より人間に対する理解が深まるのだと思います。

何ごとを見るにも、見る“姿勢”が違うと見えるものが違うものです。

このような論調に端的に欠けているのは、「身体性」である。言い換えればいかに物質に接地させるかという方法論である。身体性を真剣に考えていないこと、それがもたらす限界を考慮に入れていないこと。これが、現状の人工知能の研究の精神性の限界だろう。
（P340）
今後、アルファゼロのような人工知能が必要とするエネルギーは減少するかもしれないが、現時点では、対局中、お昼ごはんを食べるだけで機能を維持できる人間の棋士の方がはるかにエネルギー効率がすぐれている。
（P345）

一見、人間をはじめとする生物は、エネルギー効率が悪いように思えます。食物連鎖でも、より上位の生命は多くの下位生命を消費する必要があります。

しかし、膨大な電力や資源を必要とするキカイ、人工知能に比べると、行動に対するエネルギー効率は、かえって良いのかもしれません。

人間のエネルギー消費は、生きるためのこと以外にも、たとえば妄想や視索だとか、喜怒哀楽だとか、生命活動に直接関係しないことにも費やされているでしょう。

しかしむしろ、そうした冗長性や一見無駄と思われる活動が、ときに創生を起こしたり、人々に感動を与える芸術を生み出したりするのではないでしょうか。

また、生命もちろん人間には寿命があります。（半永久的に使用可能な）キカイと違って、寿命があるということも、この人間の生活を彩っていると思います。

寿命があると思うから、ちょっとがんばって仕事をしたり、楽しい時間を過ごそうとしたり、より良く人生を送ろうとしたりするのです。

廣松渉が「学問の修業の際には一日に何千ページも読むようでなければダメだ」と言っていたと聞いたときに私たちの心の中に立ち上がる凛とした緊張感や、長い道を行こうという志向性のたのもしさは、GPT-2がシェークスピアの全作品の数千倍のテクスト」をビッグデータとして統計的に学習した時に立ち上がるものとは全く異なっている。
（P350）

その身震いや使命感などなど、これらこそが、人間の「生きている喜び」の一つではないかと思います。

どうぞ、AI殿。一瞬でシェークスピアの全作品を記憶してください。

我々は、その何万分の一かの一文を読んだだけでも、あなたには思いも及ばないアイデアや妄想、あるいは情熱が湧出するのです。

どうぞ、AI殿。いずれはスイッチ一つで難解な手術をこなしてください。静かに、時間通りに。

我々は、その手術をすることになると、いろいろ考えて、相談して、調べて、ドキドキします。術中にときどき時計を眺めては、世界最速で流れる時間に汗も出ます。

そういった経過、経験が自分や同僚の成長に関わり、それが我々の生き甲斐のひとつです。

そして、ビッグデータの隅々まで探しても決して存在しない、「暗黙知」や「背中が語ること」が、後輩に伝わることもあります。

情熱を教育につなげたり、新たな治療法の発展につなげることもできるのです。

＊＊＊＊＊

人工知能については、『人間のトリセツ』の記事もご参照ください。

「クオリア」を、人工知能はどのように認識するのでしょうか。我々と異なり、ハチやチョウに認識可能な紫外線を認識できるかもしれません。

あるいは、犬のように鋭敏な嗅覚やコウモリのように発達した超音波利用能力により、世界を認識することができるかもしれません。