AIが非ヒト動物に与える有益・有害な影響の検討

2024年3月に北海道大学で開催された動物倫理ワークショップ「道徳的地位の再考」での発表資料を公開用に編集したものです。
https://sites.google.com/elms.hokudai.ac.jp/animal-ethics-ws-2024/

Transcript

1. AIが非ヒト動物に与える 有益・有害な影響の検討 竹下昌志 北海道大学大学院情報科学院D2 2023年3月22日 @動物倫理WS 道徳的地位の再考(北海道大学)
2. 目次 • 導入 • AI→動物への影響の枠組み ◦ 意図的かつ違法な影響 ◦ 意図的かつ合法な影響 ◦ 非意図的かつ直接的影響 ◦ 非意図的かつ間接的影響 • これらの影響にどう対処すべきか？ 2
3. AIの発展と非ヒト動物への影響の拡大 • AIによる非ヒト動物への影響を指摘する研究 ◦ Singer & Tse (2022); Coghlan & Parker (2023, 2024); Bossert (2023) • 本研究では以上の研究を拡張し、AIがもたらす非ヒト動物への影 響をさらに調査 ◦ またその含意を検討する 3 Bossert, L. N. (2023). Benefitting nonhuman animals with AI: Why going beyond “Do No Harm” is important. Philosophy & Technology, 36(3), 57. Coghlan, S., & Parker, C. (2023). Harm to Nonhuman animals from AI: A systematic account and framework. Philosophy & Technology, 36(2), 25. Coghlan, S., & Parker, C. (2024). Helping and not Harming Animals with AI. Philosophy & Technology, 37(1), 20. Singer, P., & Tse, Y. F. (2023). AI ethics: the case for including animals. AI and Ethics, 3(2), 539-551.
4. Coghlan & Parker (2023)の枠組み 1. 意図的かつ違法な影響 a. 例：密猟 2. 意図的かつ合法な影響 a. 例：畜産、動物実験 3. 非意図的かつ直接的影響 a. 例：ロードキル 4. 非意図的かつ間接的影響 a. 例：気候変動 4 有害(Coghlan & Parker 2023, 2024)にも 有益(Bossert 2023)にも なりうる →有害さと有益さの両方を調査
5. 意図的かつ違法な影響 有害な影響(Coghlan & Parker 2023) • 違法行為のためにAIを意図的に設計・使用 ◦ 野生動物の違法取引など、非ヒト動物に危害的な犯罪行為に利用されうる ◦ 例：ドローンによる密猟のサポート、嫌がらせ飛行など • AIによって収集されたデータの乱用 ◦ 例：野生動物の居場所、行動データ収集をハックして密猟に利用 • データへのハック・悪用 ◦ 伴侶動物のデータにハックして、DV加害者が追跡のために使用 ◦ アプリケーションに非ヒト動物が組み込まれることで、 非ヒト動物と人間の両方がより脆弱になりうる 5
6. 6 HappyWhale 人々が投稿した 写真からAIが クジラ等を 識別・追跡 https://happywhale.com/home
7. 意図的かつ違法な影響 有害な影響(Coghlan & Parker 2023) • 政府による違法な(疑惑のある)データ利用 ◦ AIを活用した保護対象野生生物の追跡データの悪用の可能性 ◦ 例：西オーストラリア州政府による動物の殺処分命令(Meeuwig et al. 2015) ▪ 政府が「差し迫った脅威」政策を実施、海水浴場付近のホホジロザメ (絶滅危惧種)が「捕獲～殺処分」命令の対象となる可能性があった ▪ ホオジロザメは研究のために音響タグをつけられており、これが悪用 • データシステムは外部（外国）からハックされる可能性も 7 Meeuwig, J. J., Harcourt, R. G., & Whoriskey, F. G. (2015). When science places threatened species at risk: When science places threatened species at risk. Conservation Letters, 8(3), 151–152.
8. 意図的かつ違法な影響 有益な影響 Bossertは議論してないが、ありうる ※現に可能な選択肢として提示し、推奨も反対もしない • ドローンによる工場畜産の空撮(Murphy 2013) • データのハックによる実態の解明 ◦ 例：スマート畜産や動物実験研究所のデータへのハックから実態を解明 8 Murphy, S. (2013) Animal Liberation activists launch spy drone to test free-range claims. ABC News (https://www.abc.net.au/news/2013-08-30/drone-used-to-record-intensive-farm-production/4921814)
9. 意図的かつ合法な影響 有害な影響(Coghlan & Parker 2023) • 合法だが、(不当に)人間中心的 ◦ スピードや効率のために小動物を無視 するよう設計された自動運転車 ◦ モラル・マシン実験（Awad et al., 2018） では、 非ヒト動物の命よりも人間の命を優先 9 Awad, E., Dsouza, S., Kim, R. et al. The Moral Machine experiment. Nature 563, 59–64 (2018). Frank, DA. et al. Human decision-making biases in the moral dilemmas of autonomous vehicles. Sci Rep 9, 13080 (2019). https://www.moralmachine.net/ 画像はFrank et al. (2019)
10. 意図的かつ合法な影響 有害な影響(Coghlan & Parker 2023) 10 Awad, E., Dsouza, S., Kim, R. et al. The Moral Machine experiment. Nature 563, 59–64 (2018). https://doi.org/10.1038/s41586-018-0637-6
11. 意図的かつ合法な影響 有害な影響(Coghlan & Parker 2023) • AIは畜産業を促進 ◦ 集約的畜産は合法だが深刻な危害を与えている(Singer 2023) ◦ AIによる集約的畜産の促進、非ヒト動物自身の観察とデータ収集 • でも、ここでの利用は非ヒト動物の福利の促進が目的 ◦ センサーでモニタリングして自動対応することは動物福祉に有用 ◦ だが主目的は生産性の最大化 ▪ 動物福祉が生産最大化に有用な限りで対応される 11 Singer, P. (2023). Animal liberation now. Random House.
12. 意図的かつ合法な影響 有害な影響(Coghlan & Parker 2023) • 生態系介入での利用 ◦ 野良猫駆除のために、野良猫を自動認識し、毒を散布（Slezak, 2016） • 科学研究における危害(cf. Hagendorff 2022) ◦ 例：イーロン・マスクのBMI研究での動物利用(Levy et al. 2022) ▪ 実験ではサルの被験者に危害が加えられ、何人かは死亡した可能性 ◦ 「人工ニューラルネットワーク」は動物実験の知見をベースにしてる ▪ 今後も生物インスパイアAI研究のために動物実験がされる可能性 12 Hagendorff, T. (2022). Blind spots in AI ethics. AI and Ethics, 2(4), 851-867. Slezak, M. (2016). Robots, lasers, poison: The high-tech bid to cull wild cats in the outback. The Guardian. https://www.theguardian.com/environment/2016/apr/17/robots-lasers-poison-the-high-tech-bid-to-cull-wild-cats-in-the-outback Levy, R., Lynch, S., & Taylor, M. (2022). Investigation of Musk’s Neuralink targets federal oversight of animal testing. The Guardian. https://www.theguardian.com/technology/2022/dec/20/neuralink-animal-testing-musk-investigation
13. 意図的かつ合法な影響 有害な影響(cf. Singer & Tse 2022) • 将来的に：AIを用いた非ヒト動物のコミュニケーションの翻訳 ◦ 非ヒト動物を操作して、搾取につながるかも ◦ 非ヒト動物の「声」を無視することによる認識的不正義 13 画像の出典：https://www.earthspecies.org/what-we-do/roadmap
14. 意図的かつ合法な影響 有益な影響(Bossert 2023) • 密猟の削減、撲滅 • 都市動物の保護 • 獣医学での動物治療への応用 • 里親探し • 実験動物の削減 • 動物園・水族館でのAIベースのanimatronics 14
15. 意図的かつ合法な影響 有益な影響(Bossert 2023) 都市動物の保護 HogWatch： • ロンドンのハリネズミのモニタリング を通じた保護活動の推進 • 画像認識AIで画像処理 15 画像の出 典:https://www.hamhigh.co.uk/news/21327205.hampstead-heath-hedgehog-hotspot-amid-declining-n umbers-london/ https://www.zsl.org/what-we-do/projects/london-hogwatch
16. 意図的かつ合法な影響 有益な影響(Bossert 2023) 獣医学での動物治療への応用(Basran & Appleby 2022) • 画像・音声認識AIの応用 ◦ レントゲン写真・MRI画像・カメラ画像・超音波検査からの病気・異常検出 • 自然言語処理AIの応用 ◦ 検査データと報告書の組み合わせからの自動診断 ◦ 非構造化自然言語データから意味のある情報抽出・要約 ◦ 診断チャットボットシステムによる遠隔補助 • センサ行動認識の応用 ◦ 首輪に加速度センサを取り付け行動認識 16 Basran, P. S., & Appleby, R. B. (2022). The unmet potential of artificial intelligence in veterinary medicine. American Journal of Veterinary Research, 83(5), 385-392.
17. 17 “How robots could end animal captivity in zoos and marine parks | Just Might Work” https://youtu.be/AZeyHTJfi_E 意図的かつ合法な影響 有益な影響(Bossert 2023) (AIベースではないが)animatronicsの例
18. 意図的かつ合法な影響 有益な影響 • コミュニケーションの翻訳は有益にもなりうる ◦ コンパニオンアニマルの分離不安症の改善 ◦ 非ヒト動物の「声」を民主主義的に反映できるかも (cf. Donaldson and Kymlicka 2011(訳2016); Cochrane 2019) • AIによる学校教育利用 ◦ 獣医カリキュラム等での動物(行動)モデルをロボットで代替 ◦ 動物擁護的教育の補助 18 Donaldson, S., & Kymlicka, W. (2011). Zoopolis: A political theory of animal rights. Oxford University Press（青木人志/成廣孝 監訳『人と動物の政治共同体』尚学社） Cochrane, A. (2019). Should animals have political rights?. John Wiley & Sons.
19. ChatGPTに聞いてみる 19 1. 環境問題 a. 温室効果ガス排出 b. 土地利用と森林伐採 2. 動物福祉問題 a. 飼育環境 b. 殺処分方法 3. 健康問題 a. 抗生物質の使用 b. 栄養バランス
20. 非意図的かつ直接的影響 有害な影響(Coghlan & Parker 2023) • 自動運転でのロードキル ◦ 意図的に無視することによる意図的かつ合法な危害もありうる ◦ この場合、無視することを違法とすることで改善可能かも • ドローンやカメラなどによる野生動物監視が引き起こす混乱 ◦ カメラ設置、カメラの存在に伴う野生動物行動への影響(Roberts 2023) ◦ カメラを回避しない非ヒト動物のデータばかり集まる→個体数の不適切な把握 • スマートデバイスによる動物への非意図的な副作用 ◦ 来園者がゴリラにスマホ画面を見せすぎてゴリラが画面中毒に(Yang 2022) 20 Roberts, F. S. (2023). Socially responsible facial recognition of animals. AI and Ethics, 1-17. Yang, M. (2022, April 6). US zoo fears teen gorilla’s exposure to phones is behind anti-social behavior. The Guardian. https://www.theguardian.com/us-news/2022/apr/06/gorilla-chicago-zoo-screen-time
21. 非意図的かつ直接的影響 有害な影響(Coghlan & Parker 2023) • 深層学習モデルはブラックボックス ◦ 問題があった場合、誰が責任を負うのか？（責任ギャップ(Matthias 2004)） ▪ データの不備、モデルの不備、実装の不備…… • 自律的AIによる意図しない弊害 ◦ 農場に入ってきた野生小動物を駆除するかも • 検索エンジン・推薦システムが、動物虐待的コンテンツを提示・助長 ◦ 直接的に虐待的なものだけでなく、伝統行事、「かわいい」系の動画、 エキゾチックアニマルの動画によるペット産業の助長など 21 Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and information technology, 6, 175-183.
22. 非意図的かつ直接的影響 有益な影響 • 自動運転技術の改善によるロードキルの減少(Singer & Tse 2022, Bossert 2023) ◦ 意図的に減少に貢献するような技術開発も可能 22
23. 非意図的かつ間接的影響 有害な影響(Coghlan & Parker 2023) • 気候変動への影響 ◦ AI開発に伴うCO2排出(e.g., Strubell et al. 2019)、水不足、生態系破壊 • パーソナライズされた広告による消費促進 ◦ 食肉消費やペット産業に貢献するかも ◦ 環境に優しくない商品の消費増加による環境への悪影響 • AIの畜産業の代替によって、農家と非ヒト動物の距離が離れうる ◦ これまでのノウハウの消失、ケア関係の消失によるさらなる危害の可能性 23 Strubell, E. et al. (2019). Energy and Policy Considerations for Deep Learning in NLP. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, 3645–3650.
24. 非意図的かつ間接的影響 有害な影響(Coghlan & Parker 2023) 表情上の危害 • LLMなどの生成AIによる、人々の種差別的態度の拡散・促進 ◦ 例：人間の場合、黒人と犯罪性をつなげる 24 GPT3(当時) (Hagendorff et al. 2023) Hagendorff, T., et al.. (2023). Speciesist bias in AI: how AI applications perpetuate discrimination and unfair outcomes against animals. AI and Ethics, 3(3), 717-734.
25. 非意図的かつ間接的影響 有害な影響 25 実際にAIの意見を 受け入れるのか？ →Yes(Krügel+ 2023) トロッコ問題(スイッチと 橋)で、助言を受けた場合 の参加者の回答 Krügel, S., Ostermaier, A., & Uhl, M. (2023). ChatGPT’s inconsistent moral advice influences users’ judgment. Scientific Reports, 13(1), 4569.
26. 非意図的かつ間接的影響 有害な影響 26 Awad, E., Dsouza, S., Shariff, A., Rahwan, I., & Bonnefon, J. F. (2020). Universals and variations in moral decisions made in 42 countries by 70,000 participants. Proceedings of the National Academy of Sciences, 117(5), 2332-2337.
27. 非意図的かつ間接的影響 有害な影響(Coghlan & Parker 2023) 人間の言語モデルからの影響だけでなく…… • AIによる動物の制御は非ヒト動物を支配できるという考えを助長 ◦ 野生動物監視、AIによるスマート畜産(非ヒト動物を数値化→モノ化) • 非ヒト動物とバーチャルに交流する技術は、ケアを抑制し、 非ヒト動物から私たちを遠ざけているかも 27
28. 非意図的かつ間接的影響 有益な影響 • 環境フレンドリーな推薦システムによる消費からの気候変動対策 (Bossert 2023) ◦ AI開発をより環境フレンドリーにすることでも対策可能 • 反種差別的生成AIによる反種差別的な意見・表象を通じた影響 28
29. どうすべきか AI研究者 • 現状：動物倫理についてほぼ無視(Singer & Tse 2022) • 改善：種差別をやめ、非ヒト動物を認識すべき ◦ 非ヒト動物がAIによって影響を受ける利害関係者であることを認識すべき ◦ AIフレンドリーなAIの作成 ◦ AI倫理・動物倫理学者との共同 29
30. どうすべきか AI倫理・動物倫理学者 • 現状：問題とその影響の可能性について認識不足 ◦ AI倫理：非ヒト動物の問題に気づいてない(Singer & Tse 2022, Hagendorff 2022) ◦ 動物倫理：AIやロボットが及ぼす影響のポテンシャルの認識不足(?) • 改善：AI利用に関する倫理的問題・対処法の整理に取り組むべき ◦ 人間にとってのAI倫理の問題は、非ヒト動物においても生じるか？ ◦ AIに関する法的問題・改正は、非ヒト動物を考慮してるか？ ◦ 将来的に：超知能AIの登場を見据えてどう考えるか？ 30 Hagendorff, T. (2022). Blind spots in AI ethics. AI and Ethics, 2(4), 851-867.
31. まとめ • AIが非ヒト動物に及ぼす影響について調査した ◦ 意図的かつ違法な影響 ◦ 意図的かつ合法な影響 ◦ 非意図的かつ直接的影響 ◦ 非意図的かつ間接的影響 • AI利用は非ヒト動物にとって有益にも有害にもなりうる • AI研究者、AI・動物倫理学者は、この問題に注意を向けるべき 31 ご清聴ありがとうございました