責任2.0 ∼ AI が主体となる世界で ∼ / Responsibility 2.0: In a World Where AI Takes Responsibilities

2026年7月23日(木)、オンラインで開催された DeruQui ゼミにて使用したスライドです。

Transcript

1. 『責任少女 A』. . . generated by Stable Image Core DeruQui ゼミ 責任 2.0 ∼ AI が主体となる世界で ∼ 早稲田大学大学院経営管理研究科 (早稲田大学ビジネススクール) 教授 斉藤 賢爾 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.1/15
2. はじめに 近頃の AI の発展はめざましいですね！ AI はもはや、人間のエージェント (代理人) として、数時間から数日にわたって 与えられた課題に取り組み、困難を自分で克服してゴールを達成するような、 自律性を身に付けつつあります では、AI が成し遂げた、あるいは「やらかした」ことに対する責任は、どこにある？ 人間が代理人である場合には、代理人にだって代理人としての責任があります 責任という概念は、誰が主体かを定義づけます だからこそ「責任は誰が負うか」は、権力の問いの底にあります 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.2/15
3. アイスブレーク Q1. 他にない (つまりユニークな) 表現で短く自分を描写してください Q2. 最近、責任を感じた事は？ Q3. その責任を 果たしていない場合は、今からなら、どのように果たしたいですか？ 果たした場合は、どのように果たしましたか？ 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.3/15
4. 当日ワーク 1 : 責任ってなんだっけ？を考える (1)『責任少女 A』の責任を考える (2) 責任の取り方にはどんなものがあるかを考える 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.4/15
5. (1)『責任少女 A』の責任を考える 『責任少女 A』(表紙の画像) は、画像生成 AI である Stable Image Core によって 生成された架空の存在ですが . . . 「人間と AI が共存する未来社会を責任をもって考える」と主張している、 匿名の未成年の女性だと仮定してください この『責任少女 A』という存在が抱える矛盾点や問題点を、 Zoom のチャットに 書き出してください 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.5/15
6. (1)『責任少女 A』の責任を考える 『責任少女 A』(表紙の画像) は、画像生成 AI である Stable Image Core によって 生成された架空の存在ですが . . . 「人間と AI が共存する未来社会を責任をもって考える」と主張している、 匿名の未成年の女性だと仮定してください この『責任少女 A』という存在が抱える矛盾点や問題点を、 Zoom のチャットに 書き出してください それらの矛盾点や問題点は、どうやったら (どう考えたら) 解消できるでしょうか？ Zoom のチャットに書き出してください 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.5/15
7. (2) 責任の取り方にはどんなものがあるかを考える 責任の取り方にはどんなものがあるか、Zoom のチャットに書き出してください 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.6/15
8. 責任 2.0 AI について『「最終的な責任」は誰が負うのか』と聞くと、 大抵、「(当然)(やはり)(100%) 最終的な責任は人間が担う」という答えが返ってきます 10 人に聞いて 9 人以上が同じ答えを返す場合、おそらくその答えは間違っているか不正確 ↑ 当たり前だと思われているところにこそ、新たな議論が拓かれる可能性がある、という意味 ↑ 日和るなー！ AI の責任について考えることは . . . 人間が責任から逃れることではなく、主体が常に人間であることへのチャレンジ 人間を丸ごと特権的な位置から引きずり下ろせるでしょうか 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.7/15
9. 当日ワーク 2 : 罪と罰 — ふたつの責任の物語 手塚治虫『火の鳥 宇宙編』 斉藤賢爾『不思議の国の NEO』 (ひぃ〜並べて書くなんて恐れ多い . . .) あなたへの問い 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.8/15
10. 手塚治虫『火の鳥 宇宙編』 宇宙飛行士の牧村は、自らの心の弱さから、 ある惑星で鳥のような容姿の住民たちを 虐殺する 生命をないがしろにした罪で、牧村には 「火の鳥」によって永遠の命が与えられ、 成長と赤ん坊への逆行を永久に繰り返し ながら、流刑地で罪を償い続けることになる そこでは、火の鳥が一種の「暴力装置」と して働き、罰を強制している 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.9/15
11. 斉藤賢爾『不思議の国の NEO』 中心を持たない「不思議の国」に、中央集権 を旨とする団長マナカが率いる「真ん中団」 が中央銀行を設立することで侵略を企てる 結果的にその侵略は失敗し、「真ん中団」は 崩壊する マナカは罰を受けることを覚悟する しかし「暴力装置」を持たない「不思議の 国」にはそういう仕組みは無く、ただマナカ がその後どう行動するかだけが問われる マナカはおもちゃ屋を始め、残りの生涯を こどもたちのために捧げる決意をする 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.10/15
12. あなたへの問い miro で回答してください (1) 『火の鳥 宇宙編』の牧村は責任を取っているのでしょうか、 それとも罰を受けているだけなのでしょうか？ (2) 『不思議の国の NEO』のマナカは責任を取っているのでしょうか、 それとも赦されているだけなのでしょうか？ (3) どちらが「責任」として厳しいと思いますか？その理由は？ (4) もし AI が苦痛を感じないなら、AI はどうやって責任を取れば よいのでしょうか？ 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.11/15
13. 責任の 4 形態と AI 1 責任をもってやり抜く (遂行) → AI はすでに人間よりよほどやり抜いてくれる気が . . . 2 責任をもって説明する (報告) → Explainable AI は技術的課題として進展中 → 人間側の理解を超越するという課題 3 責任をとって辞任する (停止) → AI を止められる機構を維持し続ける必要がある (引き続き注視！) 問題を引き起こした思考をその場から取り除く、という意味で辞任には実用的な意味がある 4 責任をもって償う (賠償) → 法人・国家が賠償責任を負うように、AI が負うかは制度設計の問題 なんだ、AI にだって責任は取れそうじゃないか 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.12/15
14. 当日ワーク 3 : 自律システムの責任を考える 自動運転車が事故を起こしたら？ ちょっと先の未来の、人間の介入がほとんど起きずに済むように作られた、 流しの自動運転車を人々が利用する仕組みだと思って考えてください 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.13/15
15. 自動運転車が事故を起こしたら？ miro で回答してください (1) あなたが考える、人間と機械、それぞれ責任を負うべき登場人物 (?) は？ 登場する人間 (法人を含む) : 登場する機械 (ソフトウェアを含む) : (2) 遂行 / 報告 / 停止 / 賠償 の責任は、それぞれどんな風に表れますか？ 遂行 : 報告 : 停止 : 賠償 : (3) あなたが考えた、この責任の仕組みは . . . そもそも何を達成するためにあるのですか？ そのことを同等以上に達成できる、他の方法はありませんか？ 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.14/15
16. おつかれさまでした 人間が、より人間らしく生きられるためには、人間と AI との関係をどう置くのが よいでしょうか 私たちが今、生きている社会の常識に囚われずに、自由に発想していけるなら、 可能性が拡がりますね 責任 2.0 ∼ AI が主体となる世界で ∼ — 2026-07-22 – p.15/15