ちょき☆ぱたん　お気に入り紹介　(chokipatan.com)

第１部　本

脳＆心理＆人工知能

AIにはできない（栗原聡）

『AIにはできない 人工知能研究者が正しく伝える限界と可能性 (角川新書)』2024/11/8
栗原 聡 (著)

（感想）
　人工知能研究の専門家の栗原さんが、AIの「現在の限界」をわかりやすく解説し、その先にある「次世代AIの可能性」を探っている本で、主な内容は次の通りです。
第1章 AI開発の歴史は未来のためにある
第2章 生成AIには何ができ、何ができないか
第3章 AIは経済の浮揚に寄与するのか
第4章 AIを使うか、AIに使われるか
第5章 社会が生成AIを受け入れるための課題
第6章 人とAIの共生
第7章 AIのスケール化と日本の未来
　　　＊
「第1章 AI開発の歴史は未来のためにある」では、アリに知能があることが紹介されています。AIの本でアリ？　と思ってしまいましたが、アリは集団で群れることで巧妙に列を作る知能を「創発」でき、創発とは、多数の個が群れることで群れを一つの個とする能力が生まれる現象のことを指し、この創発が、我々の脳でも起きていると書いてありました。
「（前略）脳も一つの塊ではなく超多数の脳神経細胞の集合体である。我々の脳はだいたい1.5リットル程度の大きさで、およそ2000億個もの脳神経細胞が集合しているのだ。しかも脳神経細胞はお互いがシナプスで接合された超大規模で複雑なネットワーク構造を有し、もしシナプスを繋いで１本にすると地球を25周もできるほどの長さになる。重要なことは、アリと同様に個々の脳神経細胞がやっていることはしごく単純なことであり、個々の神経細胞が文字を認識したり感情を動かすような知能を持っているわけではない。しかし、膨大な数の神経細胞が群れてネットワークで繋がることで、明らかに知能が創発されるのだ。アリが群れて最短な列を創発するのも、神経細胞が群れて脳として高い知能を創発することも、起きる現象は異なるものの、「群れることで創発が起こる」という基本原理は同じである。そしてこのような知能のことを「群知能」と呼ぶ。」
　……ああ、なるほど……私たちの脳は「群知能」なんですね……すると……私たちのニューロンを模倣しているAIも同じように「群知能」ってことなんだ……。
　続く「第2章 生成AIには何ができ、何ができないか」では、人間の棋士に勝利したことで知られるゲームAIの知的レベルは「指数関数的に向上」し、こうなるとAIの未来予測は困難になると書いてありました。
　これはゲームAIだけでなく、生成AIも同じような展開を見せているようで、例えばGoogleの研究者たちは、2倍、3倍と生成AIのサイズを大きくしたのではなく、10倍、100倍と指数関数的にサイズを大きくしたのだとか。すると10の23乗というサイズになった途端、いきなりAIの性能が唐突に向上したそうです……そうだったんだ……なんか、ちょっと怖いような気も……。
　そして本書で最も参考になったのは、「第5章 社会が生成AIを受け入れるための課題」から「第7章 AIのスケール化と日本の未来」にかけて。
　内部でどう処理して答えをだしているのかが分からない生成AIのブラックボックス性が問題視されていますが、実はパソコンやスマホのOSのプログラムも大規模すぎて、すべてを詳細に把握できる人など一人もいないという状況にすでにあると指摘しています。そして……
・「（前略）「やってみないとわからない」AIは、100％安全でなくとも社会投入して実際に運用してみないと、うまくいくかわからないのだ。実際、米国テスラ社の自動運転車が社会投入されて以降、人が運転していた場合に比べての事故発生率はかなり減少しているという報告もあり、確実にAIの社会投入の効果はあったようだ。」
・「では米国でAIが問題を起こした場合、どのような対応をとっているのだろうか？　これはAIに限らず、100％動作を保証することが難しい技術全般に対しての仕方であるが、平たく言えば「問題を起こしてしまったことに対して訴追されるものの、メーカーや自動運転車に乗っていたユーザーが、今後の事故再発の防止に向けた調査や原因究明に真摯に取り組むことをもって訴追を延期したり、訴追しないという約束を取り付け」（訴追延期合意制度）といった、事実上免責するような対応をとると聞いたことがある。これは理にかなっている。」
　……確かに、その通りですね……。
「第7章 AIのスケール化と日本の未来」でも……
・「世界に先駆けてEVを製造・販売する米国テスラ社であるが、今や1年に100万台を超えるEVを販売しており、残念ながらそれなりに事故も起こしている。しかしテスラ社は営業を継続しており、CEOであるイーロン・マスク氏は公式に謝罪したことはないのだそうだ。テスラ社のEVが搭載する自動運転AIであるオートパイロット（運転支援システム）は明らかに社会レベルの安全に寄与しているから、というのがその理由だ。マスク氏は「個人のスケール」ではなく、「社会のスケール」としての自動運転システムの有効性を主張しているということだ。」
・「（前略）肝心の、我々がAIのその判断を受け入れるかどうかであるが、そうなるまでには時間を要するだろう。ただ、容易な問題から難しい問題まで「AIの判断を受け入れることが結果的によかった」という成功体験を多く積むことで、AIへの信頼も増していくのだと思われる。」
　……これも、その通りだと思います。
　さて、生成AIを手軽に試せるようになった現在、「もっともらしい嘘をつく」こともあるものの、生成AIの能力の高さに驚かされている人も多いのではないでしょうか。賢い生成AIに、「面倒なデータ処理・分析作業」や「ルールが決まっている事務処理」を任せたり、アイデアを出すための「壁打ち」になってもらったりしているうちに、私たちは自然にAIと共生していくような気がします。
　未来社会の中核を担う技術であることが確実視されている巨大AIの開発に関しては、残念ながら日本は後れをとっていますが、それに対して栗原さんは、日本は小粒AIの開発を進めたらどうかと次のように語っています。
「（前略）一つの巨大AIを作るのではなく、小粒AIを束ねてスケール化することで、上位のスケールとして大粒を超える性能のAIを構築しようという戦略である。
　それぞれ特徴の異なる小粒AIの集合体のほうが、多様性の観点において単体の巨大AIよりも高い性能を発揮できる可能性すらある。」
　……とても現実的な戦略だと思います。
　ところで本書の『AIにはできない』というタイトルに関しては、AIには（現在は）できないこととして、「新たなものを発見し、生み出し、問題を解決して生存し続けようとする能力」や「省エネで答えを出すこと（現在の生成AIは膨大な電力・資源を消費している）」などがあげられているようでした。
　そしてAIと共生する社会を生きる子どもたちには、次の能力を高めるような教育をすべきだと提言しています。
・「明らかに言えることは、これまで以上に人本来の能力である創造力や状況認識能力、共感力、感性、そして人とのコミュニケーション力といった社会性を高めることの重要性である。
　これらは、現在のAIはまだまだ苦手とする能力である。」
・「（前略）問題を解決する方法は一つではなく、複数あると考え、柔軟に発想できること、物事を俯瞰的に見る能力も重要である。そしてこれらの能力は、基本的に身体動作を伴う作業や人とのコミュニケーションなど、社会の一員として成長することで獲得される。逆に言えば、初等教育においての過度な情報教育は、繋ぐ能力の成長にとってはマイナスの効果が大きいかもしれない。」
　　　＊
『AIにはできない 人工知能研究者が正しく伝える限界と可能性』……今後、確実に来るはずのAIと共生する社会をどう生きるべきかを考える上で、とても参考になる本でした。生成AIは今後もどんどん賢さを増していくと思われ、「油断するとすぐにAIからの出力を鵜呑みにしようというダークサイドに落ちてしまうことになる」ことを、私自身もしっかり肝に銘じたいと思います。みなさんも、ぜひ読んでみてください。
　　　＊　　　＊　　　＊
　なお社会や科学、IT関連の本は変化のスピードが速いので、購入する場合は、対象の本が最新版であることを確認してください。

Amazon商品リンク

興味のある方は、ここをクリックしてAmazonで実際の商品をご覧ください。（クリックすると商品ページが開くので、Amazonの商品を検索・購入できます。）