AIにはできない〜限界と可能性を正しく理解し、未来を共創する〜

2025年10月25日開催のVUCA Laboのテック分科会で発表したスライドです。
『ＡＩにはできない　人工知能研究者が正しく伝える限界と可能性』を読んで学んだ内容を共有しました。
https://amzn.to/43Erp11
#vucalabo

Transcript

1. AIにはできない〜限界と可能性を正しく 理解し、未来を共創する〜 人工知能研究者が正しく伝える「AIの真の姿」 VUCA Labo（Tech分科会）
2. 本書の核心：AIは「道具」か「パートナー」か？ 本書は、現在のAIを「道具」と位置づけつつ、将来的には自ら考え行動する「自律型AI」との 「共助」 が、人類の課題解決の 鍵になると提唱しています。 現在のAI：「道具」として 明確な指示に従って作業を効率化 定型作業やデータ処理の自動化 人間の能力を補完するためのツール 「道具」としてのAIは、人間が設定した目的を効率的に達成するための存 在です。 未来のAI：「パートナー」として 自ら考え行動する「自律型AI」 人間の「自助」では解決が難しい課題に共助 「おもてなし」の心をもった存在との共生 「パートナー」としてのAIは、人間の目標達成をサポートし、新しい可能 性を一緒に創り出す存在です。 AIの進化は、人間が自らの能力を高め、より高度な創造や意思決定に集中するための道しるべです。
3. 本書の核心：AIは「道具」か「パートナー」か？ 本書は、現在のAIを「道具」と位置づけつつ、将来的には自ら考え行動する「自律型AI」との 「共助」 が、人類の課題解決の 鍵になると提唱しています。 現在のAI：「道具」として 明確な指示に従って作業を効率化 定型作業やデータ処理の自動化 人間の能力を補完するためのツール 「道具」としてのAIは、人間が設定した目的を効率的に達成するための存 在です。 未来のAI：「パートナー」として 自ら考え行動する「自律型AI」 人間の「自助」では解決が難しい課題に共助 「おもてなし」の心をもった存在との共生 「パートナー」としてのAIは、人間の目標達成をサポートし、新しい可能 性を一緒に創り出す存在です。 AIの進化は、人間が自らの能力を高め、より高度な創造や意思決定に集中するための道しるべです。
4. 【第1章】AI開発の歴史から学ぶ「失敗は成功のもと」 AIの歴史は、期待と失望を繰り返しながらも着実に進化を遂げてきました。3度のブームと2度の「冬の時代」を経験し、過去の失敗から現代の 生成AIブームが生まれました。 第1次AIブームの教訓 「推論」や「探索」中心の研究は、計算能力の限 界により「冬の時代」に。しかし、斬新なアイデ アが次への基礎となった。 第2次AIブームの教訓 エキスパートシステムは「常識」の壁にぶつかり 、「冬の時代」に。しかし、知識の重要性が明ら かになった。 第3次AIブームの教訓 Deep Learningの登場により「民主化・社会変革」 が進み、過去の失敗から生まれた基礎研究の重要 性が再認識された。 「失敗は成功のもと」：過去のAIの冬は、その後のブームのための「種」を生きた。生成AIの今が、過去の失敗の積み重ねです。
5. AIブームの変遷：何が進化を阻み、何がブレークスルーを生んだのか 第1次AIブーム 特徴：「推論」や「探索」が中心、パズルや迷 路といった「トイプロブレム」を解く研究 終焉の理由：コンピュータ性能の限界 当時の計算能力では、実用的な問題解決にはほど遠か ったため「冬の時代」に突入 第2次AIブーム 特徴：専門家の知識をコンピュータに教え込む 「エキスパートシステム」が開発 終焉の理由：常識の壁 専門知識だけでなく、人間が当たり前のように持つ「 常識」をAIに教えることが困難に直面 第3次AIブーム 特徴：「Deep Learning（深層学習）」が主役、 2011年から産業界での実用化が進む 成功の要因：3つの要素が揃った 産業界での実用化から火が付いた点が従来とは異なる 第3次AIブームの花開き要因 大量のデータ インターネットの普及によるビッグデータの収集 コンピュータ性能 GPU（画像処理装置）などの発達 技術革新 研究者によるアルゴリズムの改良 過去のブームは失敗と評されますが、そこで生まれたアイデアや課題意識が、後のインフラ整備によって花開きました。 「直近の成果だけでな く、多くの種を生み出し続ける基礎研究こそがイノベーションの源泉」
6. 【第2章】生成AIの正体：ChatGPTは何がすごいのか？ 第3次AIブームの中核であるDeep Learningと、 その発展形である生成AIは、 伝統的なAIが直面していた「常識」の壁をどう乗り越えたのかを解 説します。 表現学習：AIが自ら特徴を見つける力 Deep Learningの最大の画期性は、「表現学習」と呼ばれる能力にあります 。 これは、AIが人間から明示的にルールを教え込まれることなく、 大量の データの中から自ら重要な特徴を抽出し、学習する能力です。 例：Googleの「猫のAI」（2012年）は、数百万枚の画像から猫の特徴を自ら学習 産業界からの実用化の火種 これまで研究室でのみ開発されていたAI技術が、 第3次AIブームでは産業界 での実用化から火が付きました。 これにより、実際の課題解決に向けた開 発が加速しました。 2011年の音声認識コンテストでのDeep Learningの圧勝が契機となり、 産業界での 応用が本格化 生成AIが可能になった3つの要素 大量のデータ インターネットの普及によるビッグデータ の収集 コンピュータ性能の向上 GPU（画像処理装置）などの発達 地道な技術革新 研究者によるアルゴリズムの改良 「過去の成果だけでなく、多くの種を生み出し続ける基礎研究こそがイノベーションの源泉」
7. 技術の進化：ChatGPTを支える3つのブレークスルー 生成AIの驚異的な能力は「表現学習」「Transformer」「スケーリング則」という3つの技術革新によって実現されました。 これらが組み合わさ り、ChatGPTのような高性能な生成AIが可能になっています。 表現学習 大量のデータから自ら重要な特徴を抽出す る能力 人間が特徴を明示的に教える必要がない 猫を識別する際、瞳孔の縦長や顔の丸さを 人間が教える必要なし 例：Googleの「猫のAI」（2012年）は画像から猫の 特徴を自ら学習 Transformer 自然言語を効率的に処理するためのアーキ テクチャ 文脈の関係性を正確に理解し、生成する能 力 大量のパラメータを持ち、複雑なパターン を捉える 例：GPT系列やDALL-Eなどの基盤技術 スケーリング則 モデルの規模を増やしたときの性能向上の 法則 パラメータ数やデータ量を増やすことで精 度が向上 特定の規模に達すと段階的に能力が飛躍的 に向上 例：GPT-3やPaLMなどの大規模モデルの開発 3つの技術の組み合わせが、生成AIの画期的な能力を可能にしました
8. ChatGPTの限界：「道具」としてのAIにできない4つのこと ChatGPTは万能ではありません。高度な論理思考、状況に応じた適応、他者理解、省エネ性という4つの大きな限界が存在します。 高度な論理思考 ChatGPTは与えられた情報から複雑な論理構造を構築する能力を持っていま せん。例えば、数学的証明や法的文書の解釈など、厳密な論理が必要な作 業では限界があります。 ※ 理論的な一貫性を保つことが難しい場合があります 状況に応じた適応 ChatGPTは状況や文脈を深く理解し、それに適応する能力を持っていません 。例えば、緊急事態や例外的な状況の処理では、適切な判断ができないこ とがあります。 ※ 常に一般的な回答を優先する傾向があります 他者理解 ability ChatGPTは人間の感情や動機、本当の意図を深く理解する能力を持っていま せん。そのため、人間同士のコミュニケーションでは不十分な場合があり ます。 ※ 感情やニュアンスを正確に捉えられないことがあります 省エネ性 ChatGPTは膨大な計算資源を消費し、効率的なエネルギー使用がなされてい ません。これにより、環境への影響やコスト面での課題があります。 ※ 高コストかつ高エネルギー消費が問題視されています ChatGPTの限界を理解し、適切に活用するためには、これらの特性を把握することが重要です。
9. 【第3章】AIは日本経済を救うか？「効率化」と「創造性」の二重奏 圧倒的な効率化 定型業務の自動化（文書作成、データ処理） 業務の約3割でAIを活用し、作業時間短縮 人間が高度な意思決定や戦略立案に集中できるようになる 創造的作業の支援 膨大な知識（アイデアの「種」）を提供 人間の創造性を刺激し、イノベーションを加速 「繋ぐ能力」を高める「壁打ち相手」の役割を果たす なぜ日本のAI活用は遅れているのか 他国と比べて生成AI利用率が低い（日本：9.1%、米国：43%） DX化が進まない背景に、日本人の勤勉さやモラルの高さが影響 AIによる効率化の投資対効果が、経営層にとって見えにくい課題 も AIの活用は、日本経済の課題解決と成長促進に重要な鍵となる可能性があります
10. AIによる創造性の加速：「繋ぐ能力」を刺激する究極の壁打ち相手 AIはゼロから創造はできませんが、人間の「アイデアの種を繋ぐ能力」を刺激します。 人間の創造性とは、偶発的な発見や、既 存のアイデaの種を「繋ぐ」ことで生まれると定義されます。 AIと人間の創造プロセス 1. AIの支援 膨大な知識（アイデアの「種」）を提供 2. 人間の参加 AIが提示する種を「繋ぐ」ことで新しい価値を生み出す 3. イノベーション 「弱い紐帯（ショートカット）」による新しい発見 TEZUKA2023プロジェクトの「御用聞きAI」 『ブラックジャック』の新作制作に成功 クリエイターと生成AIを仲介するAIの開発 プロレベルのシナリオ生成に必要な数千字のプロンプトを自動 生成 クリエイターのAIリテラシーに依存せず利用可能 インタラクティブな創造性 「御用聞きAI」は3分以内の瞬時フィードバックで、クリエイターの思考を深化させ、 「繋ぐ能力」が刺激される「思考の仕方が変わ る感覚」を提供します。 「AIとの対話的なやり取りが、人間の思考を深化させ、創造性を引き出す鍵となるのです」
11. 【第4章】AIを使うか、使われるか：問われる「人間力」 AIに仕事を奪われる本質は、人間が「面倒な作業」から解放されることです。むしろ、人間自身が思考停止に陥る「AI化」こそが 本当の危機です。 人間力の重要性 創造性とイノベーション 共感力と感情の理解 未知への探究心 人間が持つ「繋ぐ能力」はAIには到底再現でき ない価値です。 AIの役割 面倒な作業の自動化 膨大な情報の処理 作業の効率化と補助 AIは人間の能力を拡張するための道具に過ぎま せん。 思考停止の危機 AIの出力に頼りっきり 思考せずに従順に行動 自らの判断力を失くす AI化する人間は、人間らしさを失った存在です 。 AIを使いこなすのではなく、「人間らしさ」を大切にしながらAIを使うことが、本当の課題です。
12. 格差拡大は必然か？AI時代の3つの格差是正策 AIが加速させる格差の拡大 AIは富の「冪分布」を加速させ、既存の格差を広げていきます。この傾向を防ぐため、本書は以下の3つの是正策を提唱しています。 行政・教育での活用 行政機関におけるAIの活用を加速 教育機会の均等化を促進 デジタルリテラシーの向上を推進 公的機関によるAIの活用は、格差を埋める力となる 逆転の発想による富の再分配 富の再分配を促進する制度の導入 AI技術の利潤を社会に還元 課税や配分の仕組みの改革 逆転の発想により、AIの富集を防ぐ仕組みを構築 社会的企業とNPOの活性化 社会的企業の育成と支援 NPO活動の拡大と資金援助 地域社会のAIリテラシー向上 社会的責任を果たす企業とNPOの重要性が増す
13. 【第5章】AIを社会に実装する壁：著作権と安全性 生成AIを社会に導入するには、著作権や100%保証できない技術の安全性という課題があります。 特に、失敗に不寛容な日本の文化が技術発展 のブレーキになる可能性を本書は指摘しています。 著作権の課題 膨大なデータを学習するAIが、著作権で問題となる可能性 作業ログの記録が重要であるとの指摘 将来的には「データ市場」が形成される可能性 「生成物の著作権は、プロンプトの創意工夫の度合いや、生成後に人間がどれだけ加 筆修正したかによって判断されるべき」 安全性の課題 AI技術は100%の安全性を保証することが困難 自動運転車（レベル3）のような「やってみないとわからない」技術 米国では「免責的な法制度」が存在 「現代のOSのように数千万行のコードで書かれたシステムは、もはや一人の人間が全 体を完全に把握することはできません」 日米の対応比較 項目 日本の傾向 米国の傾向 失敗への受容度 低い（ゼロリスク志向） 高い（失敗を許容し、運用しながら改善） 法制度の考え方 厳格な責任追及 免責的な制度（技術発展を優先） AI技術のチャレンジを阻むのではなく、適切なリスク管理と法制度の整備が求められます
14. 【第6章】人とAIの共生：未来のパートナー「自律型AI」とは 人類の課題解決には、道具を超えた「自律型AI」との 「共助」 が必要です。AIが人間から「信頼」を得るための条件は、日本的 な「おもてなし」の心にあります。 自律型AIの特徴 自動 vs 自律 あらかじめ決められたルールから脱却し、状況を自ら理解して最適な行 動を選択 抽象的な目的の実現 「家を快適に保つ」などのメタ目的を与えることで、AIが自ら最適な行 動を判断 人間力の補完 人間の創造力、共感力、状況認識能力と連携し、より高度な課題解決を 可能に 「おもてなし」の心 信頼の構築 AIが人から「搾取しない」こと、すなわち「人のために能動的に問題解 決する」態度 相手の意図を先読み 頼まれなくても適切なタイミングで介入し、相手の目的達成を支援する 心遣い 場の空気を読む能力 ChatGPTの「常識」を活用し、状況における適切な行動を推測する能力 自律型AIに必要な能力 メタ目的の理解と実行 強化学習による適応 アフォーダンスの知覚 非合理性の理解 身体性と省エネ性 「自律型AIは、人間が『持っているように感じる振る舞い』ができれば十分である」
15. 【第7章】日本のAI戦略：なぜ「森を見る」思考が武器になるのか 挑戦的な状況 巨大AI開発競争で米中に勝てない日本。しかし、「群知能」アプ ローチは、 日本の東洋的思考の強みを活かす可能性を秘めていま す。 日本独自の戦略の必要性 大粒AIの開発競争では資金力や計算能力で対抗が困難 小粒AIの連携による群知能の優位性が期待される 日本独自の優位性 「森を見る」東洋的思考：全体のバランスと調和を重視 多様な要素の連携と統合を得意とする文化 『ドラえもん』のような人ならざる存在の受容文化 「群知能」アプローチの仕組み 小粒AIの連携：特定の機能や知識に特化したAIを多数用意し、相互に協 力させる 創発：個々のAIの能力の総和以上の、新たな知能や機能が生まれる現 象 事例：日本発のスタートアップ「sakana.ai」が群知能アプローチを実践
16. まとめ：AIにできないこと、人間にしかできないこと AIがどれほど進化しても「人」にはなれません。AI時代に価値を持つのは、AIを使いこなし、判断し、新たな価値を創造する「人 間力」です。 AIにできないこと 自らの意思で選択を下す 感情や意識を持ち続ける 「繋ぐ能力」を真に持つ 倫理的判断を自己決定する AIはあくまで「道具」であり、人間の創造性や意思決定を代わりに行うこ とはできません。 人間にしかできないこと 複雑な状況を的確に判断する 人間の感情や非合理性を理解する 新しい価値やアイデアを創造する 「おもてなし」の心をもって振る舞う 人間はAIの進化に乗っ取らず、自らの「人間力」を高めることで価値を創 り出します。 AIを恐れるのではなく、その特性を正しく理解し、人間ならではの強みを最大限に活かすことで、 AIを強力なパートナーとして、より豊かな社 会を築くことができるでしょう。