Tweet
Tweet

Slide 1

Slide 1 text

1 Dario Amodei saids Dario Amodei saids Machines of Loving Grace Machines of Loving Grace - AIはどのように世界をより良く変えるか - - AIはどのように世界をより良く変えるか -

Slide 2

Slide 2 text

元文 Machines of Loving Grace How AI Could Transform the World for the Better - October 2024 https://darioamodei.com/machines-of-loving-grace#3-economic-development-and-poverty 2

Slide 3

Slide 3 text

目次 はじめに ▶ 基本的な前提と枠組み ▶ 各パート ▶ 1. 生物学と健康 - 2. 神経科学と精神 - 3. 経済発展と貧困 - 4. 平和とガバナンス - 5. 仕事と意味 - まとめ ▶ 用語集 ▶ 3

Slide 4

Slide 4 text

想定読者 AI の未来に関心を持つ一般読者 ▶ AI 開発に携わる技術者・研究者 ▶ 政策立案者・政府関係者 ▶ 医療・生物学分野の専門家 ▶ 経済・社会政策の専門家 ▶ 倫理学者・哲学者 ▶ 4

Slide 5

Slide 5 text

1. はじめに 5

Slide 6

Slide 6 text

AI のリスクを強調する理由 AI の利点についての議論を控えてきた理由 AI の利点とリスクの両方が現状では過小評価 ▶ リスクへの対処は必然的でなく、我々の行動次第 ▶ リスク対策の成功が素晴らしい未来への鍵 ▶ 市場原理で実現される利点よりリスク対策が重要 ▶ AI 企業による利点の強調はプロパガンダと見なされる ▶ AI の未来を予言者的に語ることへの懸念 ▶ SF 的な未来像による現実味の喪失を避ける ▶ 6

Slide 7

Slide 7 text

2. 基本的な前提と枠組み 7

Slide 8

Slide 8 text

強力なAI の定義 ノーベル賞受賞者を超える知性 ▶ 未解決の数学的定理の証明 - 高品質な小説の執筆 - 複雑なコードベースの開発 - 高度な工学的問題解決 - 包括的なインターフェース制御 ▶ テキスト、音声、映像の処理 - インターネットアクセスと操作 - 実験指示や材料注文の実行 - 8

Slide 9

Slide 9 text

AI の能力と特徴 自律的なタスク遂行 ▶ 数週間単位のプロジェクト管理 - 人間のような判断と明確化要求 - 物理的制御能力 ▶ 既存ロボットの制御 - 実験装置の操作 - 新規ロボットの設計 - 大規模並列処理 ▶ 数百万インスタンスの同時実行 - 人間の10-100 倍の処理速度 - 9

Slide 10

Slide 10 text

知性の限界要因 外部世界の速度制約 ▶ 生物学的プロセスの時間制約 - 物理的実験の所要時間 - データの質と量の制約 ▶ 本質的な複雑さと予測不可能性 ▶ 人間社会からの制約 ▶ 法規制 - 倫理的制限 - 物理法則による制約 ▶ 10

Slide 11

Slide 11 text

1. 生物学と健康 11

Slide 12

Slide 12 text

生物学研究の現状と課題 生物学は人類の生活の質を直接的に改善できる分野 ▶ 主な制約要因 ▶ データの質的制約 - 10,000 以上の交絡因子からの分離が困難 - 因果関係の特定が困難 - 間接的・ノイズの多い測定 - 物理的世界の時間制約 - 細胞培養や化学反応に数日から数週間 - 動物実験に数ヶ月 - 人間の実験に数年から数十年 - 本質的な複雑性 - システムの一部分の分離が困難 - 正確で予測可能な介入が困難 - 人的制約（臨床試験の官僚制と規制要件） - 12

Slide 13

Slide 13 text

AI の可能性に対する認識の転換 従来の悲観的見方 ▶ AI はデータ分析ツールに過ぎない - データの質は改善できない - "garbage in, garbage out" - 新しい見方の必要性 ▶ AI を仮想生物学者として捉える - 実験設計から実施まで全プロセスの加速 - データ分析以上の役割 - 13

Slide 14

Slide 14 text

生物学の進歩を加速する要因 重要な発見の特徴 ▶ 年間約1 件の主要な発見が進歩の50% 以上を牽引 - 測定ツールや技術に関連 - 本質的な複雑性とデータ制約を克服 - 代表的な技術革新例 ▶ CRISPR ：生体内での遺伝子編集 - 各種顕微鏡技術 - ゲノム配列決定と合成 - 光遺伝学技術 - mRNA ワクチン - CAR-T 細胞療法 - 病原体理論や免疫系と癌の関連等の概念的洞察 - 14

Slide 15

Slide 15 text

生物学の進歩を加速する要因( つづき) 発見の加速可能性を示唆する要因 ▶ 少数の研究者による発見が多い - より早期の発見が技術的に可能だった - 創意工夫が重要で、必ずしも大規模資源が不要 - 多くの発見が並行して可能 - 15

Slide 16

Slide 16 text

AI による加速の予測 今後50-100 年分の進歩を5-10 年で達成 ▶ 制約要因 ▶ 実験の必要最小時間 - ハードウェア設計の反復 - 臨床試験の時間 - 16

Slide 17

Slide 17 text

期待される成果（5-10 年以内） 感染症 ▶ ほぼ全ての自然感染症の予防と治療 - mRNA ワクチン技術の発展 - がん ▶ 死亡率と発症率の95% 以上の削減 - 個別化治療の拡大 - 一部の稀少がんは残存の可能性 - 17

Slide 18

Slide 18 text

期待される成果（5-10 年以内） 遺伝性疾患 ▶ 胚スクリーニングによる予防 - CRISPR 進化型による治療 - 全身性疾患は課題として残る - その他の疾患 ▶ アルツハイマー病の予防 - 糖尿病、肥満、心臓病、自己免疫疾患の改善 - 18

Slide 19

Slide 19 text

期待される成果（5-10 年以内） 生物学的自由 ▶ 体重、外見、生殖等の制御 - 個人の選択の拡大 - 寿命 ▶ 人間の寿命の倍増（150 歳程度） - 老化の信頼できるバイオマーカーの開発 - 「エスケープ速度」到達の可能性 - 19

Slide 20

Slide 20 text

影響と展望 人類の苦難の大幅な軽減 ▶ 医療費と社会保障制度への影響 ▶ 新技術へのアクセス確保が新たな課題に ▶ 20

Slide 21

Slide 21 text

2. 神経科学と精神 21

Slide 22

Slide 22 text

神経科学の現状と展望 精神的健康の重要性 ▶ 数億人が深刻な精神疾患に苦しむ（依存症、うつ病、統合失調症、低機能自閉症、PTSD 、サイコパシー、知的障害） - さらに多くの人々が軽度の障害を抱える - 精神的健康は身体的健康以上に生活の質に直結 - 神経科学の技術的進歩 ▶ 計測・介入ツールの発見が進歩を牽引（光遺伝学、CLARITY 、拡張顕微鏡法） - 20 世紀の大きな進展（1950 年代にニューロンの発火機序を解明） - AI による加速で5-10 年で100 年分の進歩が期待 - 22

Slide 23

Slide 23 text

AI からの知見の活用 解釈可能性研究の応用可能性 ▶ 生物学的・人工ニューロンの差異（スパイク通信、時間要素、細胞生理学、神経伝達物質） - 分散型ネットワークの計算原理は共通 - AI での実験が容易で迅速な知見獲得が可能 - マウスの脳でAI の計算メカニズムが再発見された実例 - スケーリング仮説の重要性 ▶ 単純な目的関数と大量データによる複雑な行動の創発 - 計算神経科学者の多くがまだ十分に認識していない - 知能の進化に関する高レベルの説明となる可能性 - 人間の脳の特殊性（生物物理学的制約、進化の歴史、トポロジー、運動・感覚入出力）との組み合わせが重要 - 23

Slide 24

Slide 24 text

進歩が期待される4 つの経路 伝統的な分子生物学・化学・遺伝学 ▶ 神経伝達物質を調節する薬剤の開発 - 精神疾患の遺伝的基盤の解明 - 生物学一般と同様のAI による加速 - 精密な神経計測と介入 ▶ 光遺伝学と神経プローブによる生体での測定・介入 - 分子タイムスタンプによる多数のニューロンの発火パターン読み取り - 原理的に可能な高度な方法の開発 - 24

Slide 25

Slide 25 text

進歩が期待される4 つの経路( つづき) 先端的計算神経科学 ▶ 精神病や気分障害の原因・動態の解明 - 現代AI の具体的洞察と全体像の応用 - システム神経科学の問題解決 - 行動介入 ▶ 20 世紀に開発された精神医学・心理学的介入の高度化 - 新手法の開発と既存手法の遵守支援 - AI コーチによる個人の最適化支援 - 25

Slide 26

Slide 26 text

期待される成果 精神疾患の治療 ▶ PTSD 、うつ病、統合失調症、依存症などの効果的治療 - 生化学的要因と神経ネットワーク要因の複合的理解 - 生体でのツールによる測定・介入で迅速な進歩 - 構造的問題への対応 ▶ サイコパシー等の神経解剖学的差異（特定脳領域の小型化・未発達） - 早期からの共感性欠如等の永続的特徴 - 成人脳の可塑性誘導による再構築の可能性 - AI の発明能力による楽観的展望 - 26

Slide 27

Slide 27 text

期待される成果( つづき) 遺伝的予防 ▶ 多くの精神疾患の部分的遺伝性 - 全ゲノム関連解析による要因特定の進展 - 胚スクリーニングによる予防可能性 - 多遺伝子性による複雑さと正の特性との相関解明の必要性 - 27

Slide 28

Slide 28 text

期待される成果( つづき) 日常的な問題の解決 ▶ 怒り、集中力、眠気、不安、変化への対応等 - 既存の薬物（カフェイン、モダフィニル、リタリン）以上の可能性 - 光刺激や磁場など新たな介入モダリティの開発 - より充実した日常体験の実現 - 人間の基準体験の向上 ▶ 啓示、創造的インスピレーション、共感、充実感、超越、愛、美、瞑想的平安の経験 - 個人間・個人内での体験の差異 - 薬物による誘発可能性は体験の幅広さを示唆 - より多くの特別な瞬間の実現 - 認知機能の全般的改善 - 28

Slide 29

Slide 29 text

総括 精神疾患の治療と認知・感情能力の拡張 ▶ 人間の経験する世界の質的向上 ▶ 政治的・経済的問題を含む社会問題の緩和に寄与 ▶ マインドアップロードは5-10 年の枠外 ▶ 29

Slide 30

Slide 30 text

3. 経済発展と貧困 30

Slide 31

Slide 31 text

課題認識 技術革新の恩恵を全世界に届けることの重要性 ▶ 現状の深刻な経済格差 ▶ サブサハラアフリカのGDP ：約2,000 ドル/ 人 - アメリカのGDP ：約75,000 ドル/ 人 - AI による格差是正の困難さ ▶ 経済は人的要因や複雑性が高い - 社会主義的計算問題の解決は困難 - 腐敗の悪循環が存在 - 31

Slide 32

Slide 32 text

健康・医療分野での展望 疾病撲滅への期待 ▶ 過去の成功例（天然痘、ポリオ、ギニア虫病） - AI による疫学モデルの高度化 - 物流の最適化 - 分配システムの改善 ▶ ワクチン一回接種による簡素化 - 遺伝子操作による媒介生物の制御 - 5-10 年で最貧国にも50% 程度の医療改善が波及する可能性 ▶ 32

Slide 33

Slide 33 text

経済成長への貢献 東アジアの高度成長（年10% ）の前例 ▶ AI による経済政策立案の可能性 ▶ 成長促進要因 ▶ 疾病撲滅による生産性向上 - 技術の自然な普及（携帯電話の例） - 課題 ▶ 自動化による産業化への影響 - 政府の採用意欲 - 33

Slide 34

Slide 34 text

重点分野での展望 食料安全保障 ▶ AI による第二の緑の革命 - 作物技術の向上 - サプライチェーンの効率化 - 気候変動対策 ▶ 大気中炭素除去技術 - クリーンエネルギー - 代替肉の開発 - 34

Slide 35

Slide 35 text

国内格差への対応 先進国での見通し ▶ 市場メカニズムによるコスト低下 - 政治制度による普遍的アクセスの実現 - 技術拒否（オプトアウト）問題 ▶ 意思決定能力の低い層の技術拒否 - 格差拡大の可能性 - 歴史的に技術拒否は限定的 - 35

Slide 36

Slide 36 text

総括 医療技術の普及に関して楽観的 ▶ 経済成長の加速に期待 ▶ 目標：年間20% の成長率 - 10 年でサブサハラアフリカが現在の中国水準に - 完全な格差解消は困難だが、改善の方向へ ▶ 人類の尊厳と平等に向けた努力の必要性 ▶ 36

Slide 37

Slide 37 text

4. 平和とガバナンス 37

Slide 38

Slide 38 text

現状認識と課題 経済発展と技術革新は民主主義と平和をもたらす傾向があるが、その相関は弱い ▶ 20 世紀初頭の平和への期待は世界大戦で裏切られた - 「歴史の終わり」は実現していない - 中国の自由化は失敗し、権威主義ブロックが台頭 - インターネット技術が権威主義体制を有利にする可能性 ▶ AI は構造的に民主主義や平和を促進するとは限らない ▶ 宣伝や監視などの独裁者のツールとして機能する可能性 - 民主主義と個人の権利のために積極的な取り組みが必要 - 38

Slide 39

Slide 39 text

国際的な課題への対応 民主主義国がAI 開発で主導権を握ることが重要 ▶ 「協商戦略」の提案 ▶ 民主主義国の連合によるAI サプライチェーンの確保 - 軍事的優位性の確保（ムチ） - AI 技術の恩恵の共有（アメ）を通じた支持拡大 - 最終的に敵対国を交渉テーブルに着かせることが目標 - 39

Slide 40

Slide 40 text

各国内の民主主義強化 民主主義促進要因 民主主義国によるAI 管理が実現した場合の展望 ▶ 情報戦での優位性確保 - プロパガンダへの対抗 - 自由な情報環境の創出 - 生活水準の向上 ▶ 精神衛生、幸福度、教育の改善は民主主義を促進 - 自由な情報流通 ▶ 検閲されないAI は権威主義体制を弱体化 - 反体制活動を支援するツールとしての可能性 - 40

Slide 41

Slide 41 text

民主主義の質的向上への貢献 法制度・司法制度の改善 ▶ AI による公平な判断の実現可能性 - 人権侵害の監視 - 透明性の確保 - 市民参加の促進 ▶ 意見集約と合意形成の支援 - 市民の情報リテラシー向上 - 行政サービスの改善 ▶ 公平なサービス提供 - 手続きの簡素化 - 政府への信頼向上 - 41

Slide 42

Slide 42 text

展望 具体的な実現可能性は不確実 ▶ 野心的なビジョンを持つことの重要性 ▶ AI を活用した自由と権利の保護者としての新しい政体の可能性 ▶ 42

Slide 43

Slide 43 text

5. 仕事と意味 43

Slide 44

Slide 44 text

課題認識 AI が全てを行う世界において、人間はいかに意味を見出し、経済的に生存するかという問題 ▶ 他の課題と比べて予測が困難 ▶ 社会構造に関わる問題は時間をかけて分散的に解決される性質を持つため - 狩猟採集社会が現代社会を想像できなかったのと同様 - 44

Slide 45

Slide 45 text

意味に関する考察 AI が人間より優れているという理由で、その活動が無意味になるわけではない ▶ 現在でも大半の人間は世界一になれていないが、それは問題となっていない - 経済的価値を生まない活動からも人々は意味を見出している - 意味の源泉は主に人間関係や繋がりにある ▶ 経済的労働ではない - 達成感や競争心は依然として追求可能 ▶ 研究プロジェクトや俳優、起業などと同様の困難な課題に挑戦できる - 45

Slide 46

Slide 46 text

経済的課題 短期的な見通し ▶ 比較優位の原理により人間の関与は継続する - AI が90% の仕事をこなしても、残り10% で人間の生産性は向上 - 物理的世界での優位性は当面維持される - 長期的な課題 ▶ AI の性能向上と低コスト化により、現行の経済システムは機能しなくなる - 新たな経済システムの必要性 - UBI の導入 - AI 主導の資本主義経済 - 人間価値に基づく二次的経済システム - Whuffie ポイント制 - 解決には試行錯誤が必要 - 搾取的・ディストピア的な方向性の回避が重要 - 46

Slide 47

Slide 47 text

Appendix: 用語集 47

Slide 48

Slide 48 text

AI ・技術関連 生物学関連 AGI (Artificial General Intelligence) ：人間レベルまたはそれ以上の汎用人工知能 ▶ スケーリング仮説：モデルの規模拡大による性能向上の理論 ▶ 解釈可能性：AI システムの判断過程を理解・説明する能力 ▶ mRNA ワクチン：メッセンジャーRNA を用いた新世代ワクチン技術 ▶ CRISPR ：高精度な遺伝子編集を可能にする技術 ▶ 光遺伝学：光感受性タンパク質を用いた神経細胞制御技術 ▶ 48

Slide 49

Slide 49 text

経済・社会関連 医療・健康関連 比較優位：他者と比較して相対的に効率的に生産できる能力 ▶ 普遍的基本所得：すべての市民に無条件で提供される定期的な給付金 ▶ 状態能力：政府が政策を効果的に実行する能力 ▶ バイオマーカー：生物学的状態を示す測定可能な指標 ▶ 個別化医療：個人の遺伝的特徴に基づいてカスタマイズされた治療 ▶ エピジェネティクス：遺伝子発現の環境による制御機構 ▶ 49

Slide 50

Slide 50 text

政治・国際関係 倫理・哲学 アントラント戦略：民主主義国家連合による技術管理戦略 ▶ ソフトパワー：強制でなく魅力による影響力 ▶ 情報戦：情報操作による政治的影響力の行使 ▶ 生物学的自由：自身の生物学的特性を制御する能力 ▶ 認知的増強：人間の認知能力を技術的に向上させること ▶ 技術決定論：技術が社会変化を決定するという考え方 ▶ 50