AIが意識を持つかどうかは証明されていない
カーツワイルは、第3章「私は誰？」で、この意識という難問を取り上げている。AIはそもそも人間の脳の模倣である。その模倣のうえに「わたし」という意識、自己認識ができるのだろうか？
カーツワイルは、脳のニューラルネットワークを完璧に再現し、それがさらに発達すれば、そこに意識は宿るとしている。宿るか宿らないかは別として、AIが人間と同じように振る舞えば、そこに意識があると誰もが思う。
アバターは人間ではない。人間の複製だが、それを意識、感情があるものとして、未来の人間は受け入れるはずだというのが、最新の考え方だという。
とはいえ、イーロン・マスクのBMIは、まだ、脳とAIの接続の最初の段階を試しているだけで、マシンが脳のようなニューロン（神経細胞）集合体と完全に接続できるのかは未知の領域である。
さらに、「シンギュラリティがすぐに来ることなどない」と断言するコンピュータの権威、スタンフォード大学教授のジェリー・カプランのような人物もいる。
カプランは、現時点では、AIが独自の目標や欲求などの自我を持つことは科学的に証明されていないとし、「それは誇張された話」「AIは人間ではないので、人間と同じようには考えない」と述べている。
ジョン・R・サールの「生物学的自然主義」
AIが人間と同じように思考しない。意識を持たないとする考え方は、かなり以前に、UCバークレー教授のジョン・R・サールが提唱している。（余談だが、2019年、彼はセクハラでUCバークレーを追放された）
サールは「強いAI」「弱いAI」とう考え方を示し、その後、各種論文、講演で、「AIは人間のような意識などの心の特性を持ちえない」と述べている。
サールは、胃が胃液を分泌したり、植物が光合成を行ったりするように、脳の生物学的な条件によって意識が生み出されると考えた。この考え方は、「生物学的自然主義」（biological naturalism）と呼ばれ、テクノロジーがいくら進歩しようと到達できないとされる。
たとえば、対話型チャットボットは、その受け答えの自然さから感情、意識を持っているように思える。しかし、それは統計的な推論から回答をしているだけにすぎない。突き詰めれば、ただのプログラムなのだ。
人間の言語活動は人間の生物的な神経回路によって生じる感覚を基盤にしているので、それはコンピュータに移植できるわけがないと、サールの考え方に立つ研究者、学者は多い。
AIは人間のような意識、感情を持ちえない
このような現状で、はっきりしていることは、まだAGIが出現していないので、結論は出せないということだ。
現在あるテクノロジーでは、AIは人間の意識、感情を模倣することは可能だが、それを持つことはできていない。なぜなら、人間は、それを生きながら、経験によって獲得していくからだ。私は、この見方に共感している。
「ChatGPT」は便利で、利口な文章をつくってくれるが、それは知識の集合体、論理であって、そこに感情の起伏はない。また、批判的思考（Critical Thinking）を欠いている。使って見れば、そのことは明瞭だ。
AGIの可能性について、イスラエルの歴史学者ユヴァル・ノア・ハラリは、人間を含めて生物はアルゴリズムにすぎないのかという疑問を提示している。もしそうならば、生物も機械も同じになってしまう。
ただ、シンギュラリティ肯定派の1人、精神科医・神経科学者ジュリオ・トノーニは、「統合情報理論」を提唱し、意識とは多様な情報の統合によって生まれるとしている。
「まったくの空論」「神経科学劇場」という酷評
さて、イーロン・マスクのBMIはどこまで進んでいるのか？ トランプの側近となったことで、ニューラリンクはますます発展するとされ、投資家はマスクの企業群に多大な投資をするようになった。
ニューラリンクはまだ上場していないので、市場で株を買うことはできない。
ただし、プライベート資金調達のラウンドは行われており、投資家は勇んで応募している。また、ストックオプションに応募した従業員は、上場を待ち望んでいると報道されている。
しかし、昨年2月にFDAの認可が下り、脳への埋め込み（インプラント）の臨床試験が始まるまでは、各方面からさまざまに批判が出ていた。また、社内での内紛も伝えられ、集められた多くの研究者、従業員が会社を辞めている。
ニューラリンクのBMIにもっとも批判的だったのは、マサチューセッツ工科大学（MIT）の権威ある科学技術誌『MITテクノロジーレビュー』で、「まったくの空論」「神経科学劇場」と酷評した。
この続きは2月7日（金）発行の本紙（メルマガ・アプリ・ウェブサイト）に掲載します。
※本コラムは山田順の同名メールマガジンから本人の了承を得て転載しています。
山田順
ジャーナリスト・作家
1952年、神奈川県横浜市生まれ。
立教大学文学部卒業後、1976年光文社入社。「女性自身」編集部、「カッパブックス」編集部を経て、2002年「光文社ペーパーバックス」を創刊し編集長を務める。2010年からフリーランス。現在、作家、ジャーナリストとして取材・執筆活動をしながら、紙書籍と電子書籍の双方をプロデュース中。主な著書に「TBSザ・検証」（1996）、「出版大崩壊」（2011）、「資産フライト」（2011）、「中国の夢は100年たっても実現しない」（2014）、「円安亡国」（2015）など。近著に「米中冷戦 中国必敗の結末」（2019）。
山田順の「週刊 未来地図」その他の記事
山田順プライベートサイト
