Ｐ１９

　ある程度の教育を受けた入間は最低限、意味の通る文章を簡単に書くことができます。小説においても、プロと素人の差はあったとしても、それなりのものができます。どうしてそんなことが可能なのか、その条件は何かと聞かれれば、誰も説明できません。私たちはどうしてかが分からないまま、文章を書き、評価しているのです。

　それゆえ、私たちには、現在のコンピュータに文章の書き方をプログラムする方法がまったく分かりません。長文を「人に読める形」で生成するプログラムとなれば、もはや誰もがお手上げ状態です。

　そして、もしもこの「文章における意味を規定するルール」が分かり、プログラムをつくることができれば、ＡＩ作家の実現はもちろん、誰にでも「作家のような文章が書けるコツ」が分かります。さらにそれがスマートフォンなどにテキスト作成補助機能として搭載されれば（その時、人類がスマートフォンを使っているかは分かりませんが）、メールからソーシャルメディアへの投稿まで見事に洗練された文章が作成できて、たちまち一億総作家時代の到来ということになるかもしれません。

　Ｐ１２６

　そもそも、私たちの持つ知能の本質は、未知の状況に直面した際に、うまく対応し、生き延びるために身につけてきた適応能力です。未知の状況というのは、前もって予測がつかないということです。現在の将棋や囲碁、さらに小説創作に用いられているＡＩは、すべてが個別の”既知”の状況に対応する知能です。つまり、いくらディープラーニングがすばらしいといっても、人間の知能の持つ本質から見れば、まだまだ初歩的で、個別の問題を解いている段階なのです。

　Ｐ１４０

　現在ですら、ＡＩが人間の知能を凌駕することが本格的に視野に入ウつつあります。ひとたび凌駕してしまうと、ＡＩは人間の手を離れ、コントロールすることが難しくなってしまいます。将棋ＡＩが、人間の棋士には理解することはできないが、明らかに人間の棋士よりも強力な新手を編み出し、人間の棋士のあり方に大きな影響を与えているという現状から、そのコントロールの難しさは容易に予測できると思います。今後、さまざまな分野で、こうした状況は数多く生じてくるはずです。

　Ｐ１４２

　汎用ＡＩに心は宿るのか。鉄腕アトムのようなロボットをつくったとして、私たちはそのロボットに心があると感じるのでしょうか？私の答えは「ＹＥＳ」です。
　これは人間側の認知の問題です。たとえば目の前に首尾よくフレーム問題が解決された汎用ＡＩを搭載したアトムが現れたとします。その時、アトムと話をし、コミュニケーションしていく中で、私たちがそのアトムに「心がある」と認識した方が便利であれば、あるいは心を仮定せざるを得ないほどの状況に居合わせたのであれば、そのアトムには心があると考えてよいのだと慰います。

　哲学的な命題ではありますが、私たちはどうしたわけか、「私と同じ心をあなたも持っている」ということを証明することができません。それと同様に、アトムの中に心があるということを証明することは、誰にもできないはずです。

　つまり私たちは、自分と同じ心を相手も持っていると仮定してコミュニケーションした方が便利だからそうしているにすぎないと私は考えます。アトムに対しても心があると仮定した方が接しやすければ私たちはそうします。そしてその時、私たちはアトムの申に心があることを感じるのだと考えられます。