自己紹介& 『宇宙・動物・資本主義── 稲葉振一郎対話集』へのコメント 北海道大学大学院情報科学院D3 日本学術振興会特別研究員 竹下昌志 2024年8月15日 @本屋B&B

自己紹介 研究分野：自然言語処理（AI）、倫理学（主に応用倫理） AI研究： ● AIの社会的バイアス（ジェンダーバイアスなど）の分析 ● AIへの道徳の実装 倫理学研究： ● AI倫理・AI哲学 ○ AIの哲学的直観、AIによる道徳的エンハンスメントの倫理など ● 動物倫理 ○ 非ヒト動物の道徳的地位、ヴィーガニズム、動物実験の是非など ● 功利主義の応用的研究：効果的利他主義など 2

AIの技術的研究 3 AIの種差別バイアスの分析 (Takeshita, M., et al.. (2022). Speciesist language and nonhuman animal bias in English Masked Language Models. Information Processing & Management, 59(5), 103050.) AIの道徳理解能力 評価用データセットの構築

倫理学研究 4

『宇宙・動物・資本主義──稲葉振一郎対話集』 お先まっくらのだれも歩いたことのない未来を肯定す る──まえがきにかえて 第１部　人間像・社会像の転換 01　新世紀の社会像とは？（×大屋雄裕） 02　〈人間〉の未来／未来の〈人間〉（×吉川浩満） 03　社会学はどこまで行くのか？（×岸政彦） 第２部　動物・ロボット・AIの倫理 04　動物倫理学はいま何を考えるべきか？（×田上孝 一） 05　AI「が」創る倫理──SFが幻視するもの（×飛浩隆 ×八代嘉美×小山田和仁） 第３部　SF的想像力の可能性 06　学問をSFする――新たな知の可能性？（×大澤博隆×柴田勝家 ×松崎有理×大庭弘継） 07　SFと倫理（×長谷敏司×八代嘉美） 08　思想は宇宙を目指せるか（×三浦俊彦） 第４部　文化・政治・資本主義 09　ポップカルチャーを社会的に読解する──ジェンダー、資本主 義、労働（×河野真太郎） 10　「新自由主義」議論の先を見据えて（×金子良事） 11　中国・村上春樹・『進撃の巨人』（×梶谷懐） 12　どうしてわれわれはなんでもかんでも「新自由主義」のせいにし てしまうのか？（×荒木優太×矢野利裕） 5

全体を通しての印象 ● タイトルの「宇宙」「動物」「資本主義」はどこに？ ○ 印象として、「宇宙」と「動物」は独立の章があるが言及は少なく、 「資本主義」は新自由主義の話で言及はあるが、表面上はあまり出てこない ○ このタイトルにした意図を聞きたい ● SFへの言及が多い ○ 第3部はもちろん、他の各章でも多数 ○ 私はSFを全く読んでこなかったが、関心を持ち、『ソラリス』を読み始めた ● AIへの言及も多い ○ 独立した章（第2部5章）に加え、他でも度々言及がある ○ 今のAIというより、汎用人工知能（AGI）や「強いAI」の類への言及 6

個別トピックで気になったところ：AI倫理について 懸念されているAIの形態は、現時点のそれよりは将来のAI ● 主にボストロム等の懸念に由来する、超知能AI ● SF作品でモチーフにされる人と同等のAI・ロボット だがAI研究者の多くは今の（直近未来の）AIについて懸念してる ● アルゴリズムバイアス、公平性 ● 企業製品のAIの説明責任と透明性 このギャップをどう考えるか 7

個別トピックで気になったところ：AI倫理について ありうる方向性（cf. 『宇宙倫理学入門』） ● 今のAI研究者の懸念はショートレンジ ● 本書で取り扱われている懸念はミドル・ロングレンジ だがこの違いを明確につけられるかはよくわからない ● 超知能AIの誕生をショートレンジで考える人がいる一方、 AI技術研究者の大勢（私含め）はミドル・ロングレンジで考える ● そもそもショート・ミドル・ロングという区別がここで有用か？ 8

個別トピックで気になったところ：動物倫理について 大きく取り扱われてるのは第2部04の田上孝一さんとの対談 「動物倫理はいま何を考えるべきか」 動物権利論や功利主義を前提にしたらどうなるかという議論がメイン 『宇宙倫理学入門』ではデイヴィドソン＝ヒース的道徳的実在論が提示 されていたが、これは話ができる理性的主体同士の倫理に見える では稲葉さん自身の立場はどうなのか？ 9

個別トピックで気になったところ：動物倫理について 後で扱う効果的利他主義や長期主義との関係 功利主義では非ヒト動物の問題は重大な問題 だが効果的利他主義運動や長期主義運動では非ヒト動物の扱いは冷遇 マッカスキル『見えない未来を変える「いま」 〈長期主義〉倫理学のフ レームワーク』ではより顕著。 非ヒト動物の長期主義的問題をほぼ扱ってない 10

11 Historical EA funding dataおよびFunding by Cause Area (Public)より https://docs.google.com/spreadsheets/d/1IeO7NIgZ-qfSTDyiAFSgH6dMn1xzb6hB2pVSdlBJZ88/edit?gi d=1410797881#gid=1410797881