$30 off During Our Annual Pro Sale. View Details »

Machines of Loving Grace - AIはどのように世界をより良く変えるか -

ymgc
October 22, 2024
38

Machines of Loving Grace - AIはどのように世界をより良く変えるか -

以下元文の要約です。
Machines of Loving Grace - How AI Could Transform the World for the Better - October 2024
https://darioamodei.com/machines-of-loving-grace#3-economic-development-and-poverty

ymgc

October 22, 2024
Tweet

Transcript

  1. 1 Dario Amodei saids Dario Amodei saids Machines of Loving

    Grace Machines of Loving Grace - AIはどのように世界をより良く変えるか - - AIはどのように世界をより良く変えるか -
  2. 元文 Machines of Loving Grace How AI Could Transform the

    World for the Better - October 2024 https://darioamodei.com/machines-of-loving-grace#3-economic-development-and-poverty 2
  3. 目次 はじめに ▶ 基本的な前提と枠組み ▶ 各パート ▶ 1. 生物学と健康 -

    2. 神経科学と精神 - 3. 経済発展と貧困 - 4. 平和とガバナンス - 5. 仕事と意味 - まとめ ▶ 用語集 ▶ 3
  4. AI のリスクを強調する理由 AI の利点についての議論を控えてきた理由 AI の利点とリスクの両方が現状では過小評価 ▶ リスクへの対処は必然的でなく、我々の行動次第 ▶ リスク対策の成功が素晴らしい未来への鍵

    ▶ 市場原理で実現される利点よりリスク対策が重要 ▶ AI 企業による利点の強調はプロパガンダと見なされる ▶ AI の未来を予言者的に語ることへの懸念 ▶ SF 的な未来像による現実味の喪失を避ける ▶ 6
  5. 強力なAI の定義 ノーベル賞受賞者を超える知性 ▶ 未解決の数学的定理の証明 - 高品質な小説の執筆 - 複雑なコードベースの開発 -

    高度な工学的問題解決 - 包括的なインターフェース制御 ▶ テキスト、音声、映像の処理 - インターネットアクセスと操作 - 実験指示や材料注文の実行 - 8
  6. AI の能力と特徴 自律的なタスク遂行 ▶ 数週間単位のプロジェクト管理 - 人間のような判断と明確化要求 - 物理的制御能力 ▶

    既存ロボットの制御 - 実験装置の操作 - 新規ロボットの設計 - 大規模並列処理 ▶ 数百万インスタンスの同時実行 - 人間の10-100 倍の処理速度 - 9
  7. 生物学研究の現状と課題 生物学は人類の生活の質を直接的に改善できる分野 ▶ 主な制約要因 ▶ データの質的制約 - 10,000 以上の交絡因子からの分離が困難 -

    因果関係の特定が困難 - 間接的・ノイズの多い測定 - 物理的世界の時間制約 - 細胞培養や化学反応に数日から数週間 - 動物実験に数ヶ月 - 人間の実験に数年から数十年 - 本質的な複雑性 - システムの一部分の分離が困難 - 正確で予測可能な介入が困難 - 人的制約(臨床試験の官僚制と規制要件) - 12
  8. AI の可能性に対する認識の転換 従来の悲観的見方 ▶ AI はデータ分析ツールに過ぎない - データの質は改善できない - "garbage

    in, garbage out" - 新しい見方の必要性 ▶ AI を仮想生物学者として捉える - 実験設計から実施まで全プロセスの加速 - データ分析以上の役割 - 13
  9. 生物学の進歩を加速する要因 重要な発見の特徴 ▶ 年間約1 件の主要な発見が進歩の50% 以上を牽引 - 測定ツールや技術に関連 - 本質的な複雑性とデータ制約を克服

    - 代表的な技術革新例 ▶ CRISPR :生体内での遺伝子編集 - 各種顕微鏡技術 - ゲノム配列決定と合成 - 光遺伝学技術 - mRNA ワクチン - CAR-T 細胞療法 - 病原体理論や免疫系と癌の関連等の概念的洞察 - 14
  10. 期待される成果(5-10 年以内) 感染症 ▶ ほぼ全ての自然感染症の予防と治療 - mRNA ワクチン技術の発展 - がん

    ▶ 死亡率と発症率の95% 以上の削減 - 個別化治療の拡大 - 一部の稀少がんは残存の可能性 - 17
  11. 期待される成果(5-10 年以内) 遺伝性疾患 ▶ 胚スクリーニングによる予防 - CRISPR 進化型による治療 - 全身性疾患は課題として残る

    - その他の疾患 ▶ アルツハイマー病の予防 - 糖尿病、肥満、心臓病、自己免疫疾患の改善 - 18
  12. 期待される成果(5-10 年以内) 生物学的自由 ▶ 体重、外見、生殖等の制御 - 個人の選択の拡大 - 寿命 ▶

    人間の寿命の倍増(150 歳程度) - 老化の信頼できるバイオマーカーの開発 - 「エスケープ速度」到達の可能性 - 19
  13. 神経科学の現状と展望 精神的健康の重要性 ▶ 数億人が深刻な精神疾患に苦しむ(依存症、うつ病、統合失調症、低機能自閉症、PTSD 、サイコパシー、知的障害) - さらに多くの人々が軽度の障害を抱える - 精神的健康は身体的健康以上に生活の質に直結 -

    神経科学の技術的進歩 ▶ 計測・介入ツールの発見が進歩を牽引(光遺伝学、CLARITY 、拡張顕微鏡法) - 20 世紀の大きな進展(1950 年代にニューロンの発火機序を解明) - AI による加速で5-10 年で100 年分の進歩が期待 - 22
  14. AI からの知見の活用 解釈可能性研究の応用可能性 ▶ 生物学的・人工ニューロンの差異(スパイク通信、時間要素、細胞生理学、神経伝達物質) - 分散型ネットワークの計算原理は共通 - AI での実験が容易で迅速な知見獲得が可能

    - マウスの脳でAI の計算メカニズムが再発見された実例 - スケーリング仮説の重要性 ▶ 単純な目的関数と大量データによる複雑な行動の創発 - 計算神経科学者の多くがまだ十分に認識していない - 知能の進化に関する高レベルの説明となる可能性 - 人間の脳の特殊性(生物物理学的制約、進化の歴史、トポロジー、運動・感覚入出力)との組み合わせが重要 - 23
  15. 進歩が期待される4 つの経路 伝統的な分子生物学・化学・遺伝学 ▶ 神経伝達物質を調節する薬剤の開発 - 精神疾患の遺伝的基盤の解明 - 生物学一般と同様のAI による加速

    - 精密な神経計測と介入 ▶ 光遺伝学と神経プローブによる生体での測定・介入 - 分子タイムスタンプによる多数のニューロンの発火パターン読み取り - 原理的に可能な高度な方法の開発 - 24
  16. 進歩が期待される4 つの経路( つづき) 先端的計算神経科学 ▶ 精神病や気分障害の原因・動態の解明 - 現代AI の具体的洞察と全体像の応用 -

    システム神経科学の問題解決 - 行動介入 ▶ 20 世紀に開発された精神医学・心理学的介入の高度化 - 新手法の開発と既存手法の遵守支援 - AI コーチによる個人の最適化支援 - 25
  17. 期待される成果 精神疾患の治療 ▶ PTSD 、うつ病、統合失調症、依存症などの効果的治療 - 生化学的要因と神経ネットワーク要因の複合的理解 - 生体でのツールによる測定・介入で迅速な進歩 -

    構造的問題への対応 ▶ サイコパシー等の神経解剖学的差異(特定脳領域の小型化・未発達) - 早期からの共感性欠如等の永続的特徴 - 成人脳の可塑性誘導による再構築の可能性 - AI の発明能力による楽観的展望 - 26
  18. 期待される成果( つづき) 日常的な問題の解決 ▶ 怒り、集中力、眠気、不安、変化への対応等 - 既存の薬物(カフェイン、モダフィニル、リタリン)以上の可能性 - 光刺激や磁場など新たな介入モダリティの開発 -

    より充実した日常体験の実現 - 人間の基準体験の向上 ▶ 啓示、創造的インスピレーション、共感、充実感、超越、愛、美、瞑想的平安の経験 - 個人間・個人内での体験の差異 - 薬物による誘発可能性は体験の幅広さを示唆 - より多くの特別な瞬間の実現 - 認知機能の全般的改善 - 28
  19. 課題認識 技術革新の恩恵を全世界に届けることの重要性 ▶ 現状の深刻な経済格差 ▶ サブサハラアフリカのGDP :約2,000 ドル/ 人 -

    アメリカのGDP :約75,000 ドル/ 人 - AI による格差是正の困難さ ▶ 経済は人的要因や複雑性が高い - 社会主義的計算問題の解決は困難 - 腐敗の悪循環が存在 - 31
  20. 健康・医療分野での展望 疾病撲滅への期待 ▶ 過去の成功例(天然痘、ポリオ、ギニア虫病) - AI による疫学モデルの高度化 - 物流の最適化 -

    分配システムの改善 ▶ ワクチン一回接種による簡素化 - 遺伝子操作による媒介生物の制御 - 5-10 年で最貧国にも50% 程度の医療改善が波及する可能性 ▶ 32
  21. 経済成長への貢献 東アジアの高度成長(年10% )の前例 ▶ AI による経済政策立案の可能性 ▶ 成長促進要因 ▶ 疾病撲滅による生産性向上

    - 技術の自然な普及(携帯電話の例) - 課題 ▶ 自動化による産業化への影響 - 政府の採用意欲 - 33
  22. 重点分野での展望 食料安全保障 ▶ AI による第二の緑の革命 - 作物技術の向上 - サプライチェーンの効率化 -

    気候変動対策 ▶ 大気中炭素除去技術 - クリーンエネルギー - 代替肉の開発 - 34
  23. 総括 医療技術の普及に関して楽観的 ▶ 経済成長の加速に期待 ▶ 目標:年間20% の成長率 - 10 年でサブサハラアフリカが現在の中国水準に

    - 完全な格差解消は困難だが、改善の方向へ ▶ 人類の尊厳と平等に向けた努力の必要性 ▶ 36
  24. 現状認識と課題 経済発展と技術革新は民主主義と平和をもたらす傾向があるが、その相関は弱い ▶ 20 世紀初頭の平和への期待は世界大戦で裏切られた - 「歴史の終わり」は実現していない - 中国の自由化は失敗し、権威主義ブロックが台頭 -

    インターネット技術が権威主義体制を有利にする可能性 ▶ AI は構造的に民主主義や平和を促進するとは限らない ▶ 宣伝や監視などの独裁者のツールとして機能する可能性 - 民主主義と個人の権利のために積極的な取り組みが必要 - 38
  25. 各国内の民主主義強化 民主主義促進要因 民主主義国によるAI 管理が実現した場合の展望 ▶ 情報戦での優位性確保 - プロパガンダへの対抗 - 自由な情報環境の創出

    - 生活水準の向上 ▶ 精神衛生、幸福度、教育の改善は民主主義を促進 - 自由な情報流通 ▶ 検閲されないAI は権威主義体制を弱体化 - 反体制活動を支援するツールとしての可能性 - 40
  26. 民主主義の質的向上への貢献 法制度・司法制度の改善 ▶ AI による公平な判断の実現可能性 - 人権侵害の監視 - 透明性の確保 -

    市民参加の促進 ▶ 意見集約と合意形成の支援 - 市民の情報リテラシー向上 - 行政サービスの改善 ▶ 公平なサービス提供 - 手続きの簡素化 - 政府への信頼向上 - 41
  27. 経済的課題 短期的な見通し ▶ 比較優位の原理により人間の関与は継続する - AI が90% の仕事をこなしても、残り10% で人間の生産性は向上 -

    物理的世界での優位性は当面維持される - 長期的な課題 ▶ AI の性能向上と低コスト化により、現行の経済システムは機能しなくなる - 新たな経済システムの必要性 - UBI の導入 - AI 主導の資本主義経済 - 人間価値に基づく二次的経済システム - Whuffie ポイント制 - 解決には試行錯誤が必要 - 搾取的・ディストピア的な方向性の回避が重要 - 46
  28. AI ・技術関連 生物学関連 AGI (Artificial General Intelligence) :人間レベルまたはそれ以上の汎用人工知能 ▶ スケーリング仮説:モデルの規模拡大による性能向上の理論

    ▶ 解釈可能性:AI システムの判断過程を理解・説明する能力 ▶ mRNA ワクチン:メッセンジャーRNA を用いた新世代ワクチン技術 ▶ CRISPR :高精度な遺伝子編集を可能にする技術 ▶ 光遺伝学:光感受性タンパク質を用いた神経細胞制御技術 ▶ 48