Share
Embed
AIが非ヒト動物に与える有益・有害な影響の検討
2024年3月に北海道大学で開催された動物倫理ワークショップ「道徳的地位の再考」での発表資料を公開用に編集したものです。
https://sites.google.com/elms.hokudai.ac.jp/animal-ethics-ws-2024/
Masashi Takeshita
April 07, 2024
Transcript
31 slides
-
目次 • 導入 • AI→動物への影響の枠組み ◦ 意図的かつ違法な影響 ◦ 意図的かつ合法な影響 ◦
非意図的かつ直接的影響 ◦ 非意図的かつ間接的影響 • これらの影響にどう対処すべきか? 2 -
AIの発展と非ヒト動物への影響の拡大 • AIによる非ヒト動物への影響を指摘する研究 ◦ Singer & Tse (2022); Coghlan &
Parker (2023, 2024); Bossert (2023) • 本研究では以上の研究を拡張し、AIがもたらす非ヒト動物への影 響をさらに調査 ◦ またその含意を検討する 3 Bossert, L. N. (2023). Benefitting nonhuman animals with AI: Why going beyond “Do No Harm” is important. Philosophy & Technology, 36(3), 57. Coghlan, S., & Parker, C. (2023). Harm to Nonhuman animals from AI: A systematic account and framework. Philosophy & Technology, 36(2), 25. Coghlan, S., & Parker, C. (2024). Helping and not Harming Animals with AI. Philosophy & Technology, 37(1), 20. Singer, P., & Tse, Y. F. (2023). AI ethics: the case for including animals. AI and Ethics, 3(2), 539-551. -
Coghlan & Parker (2023)の枠組み 1. 意図的かつ違法な影響 a. 例:密猟 2. 意図的かつ合法な影響
a. 例:畜産、動物実験 3. 非意図的かつ直接的影響 a. 例:ロードキル 4. 非意図的かつ間接的影響 a. 例:気候変動 4 有害(Coghlan & Parker 2023, 2024)にも 有益(Bossert 2023)にも なりうる →有害さと有益さの両方を調査 -
意図的かつ違法な影響 有害な影響(Coghlan & Parker 2023) • 違法行為のためにAIを意図的に設計・使用 ◦ 野生動物の違法取引など、非ヒト動物に危害的な犯罪行為に利用されうる ◦
例:ドローンによる密猟のサポート、嫌がらせ飛行など • AIによって収集されたデータの乱用 ◦ 例:野生動物の居場所、行動データ収集をハックして密猟に利用 • データへのハック・悪用 ◦ 伴侶動物のデータにハックして、DV加害者が追跡のために使用 ◦ アプリケーションに非ヒト動物が組み込まれることで、 非ヒト動物と人間の両方がより脆弱になりうる 5 -
意図的かつ違法な影響 有害な影響(Coghlan & Parker 2023) • 政府による違法な(疑惑のある)データ利用 ◦ AIを活用した保護対象野生生物の追跡データの悪用の可能性 ◦
例:西オーストラリア州政府による動物の殺処分命令(Meeuwig et al. 2015) ▪ 政府が「差し迫った脅威」政策を実施、海水浴場付近のホホジロザメ (絶滅危惧種)が「捕獲~殺処分」命令の対象となる可能性があった ▪ ホオジロザメは研究のために音響タグをつけられており、これが悪用 • データシステムは外部(外国)からハックされる可能性も 7 Meeuwig, J. J., Harcourt, R. G., & Whoriskey, F. G. (2015). When science places threatened species at risk: When science places threatened species at risk. Conservation Letters, 8(3), 151–152. -
意図的かつ違法な影響 有益な影響 Bossertは議論してないが、ありうる ※現に可能な選択肢として提示し、推奨も反対もしない • ドローンによる工場畜産の空撮(Murphy 2013) • データのハックによる実態の解明 ◦
例:スマート畜産や動物実験研究所のデータへのハックから実態を解明 8 Murphy, S. (2013) Animal Liberation activists launch spy drone to test free-range claims. ABC News (https://www.abc.net.au/news/2013-08-30/drone-used-to-record-intensive-farm-production/4921814) -
意図的かつ合法な影響 有害な影響(Coghlan & Parker 2023) • 合法だが、(不当に)人間中心的 ◦ スピードや効率のために小動物を無視 するよう設計された自動運転車
◦ モラル・マシン実験(Awad et al., 2018) では、 非ヒト動物の命よりも人間の命を優先 9 Awad, E., Dsouza, S., Kim, R. et al. The Moral Machine experiment. Nature 563, 59–64 (2018). Frank, DA. et al. Human decision-making biases in the moral dilemmas of autonomous vehicles. Sci Rep 9, 13080 (2019). https://www.moralmachine.net/ 画像はFrank et al. (2019) -
意図的かつ合法な影響 有害な影響(Coghlan & Parker 2023) 10 Awad, E., Dsouza, S.,
Kim, R. et al. The Moral Machine experiment. Nature 563, 59–64 (2018). https://doi.org/10.1038/s41586-018-0637-6 -
意図的かつ合法な影響 有害な影響(Coghlan & Parker 2023) • AIは畜産業を促進 ◦ 集約的畜産は合法だが深刻な危害を与えている(Singer 2023)
◦ AIによる集約的畜産の促進、非ヒト動物自身の観察とデータ収集 • でも、ここでの利用は非ヒト動物の福利の促進が目的 ◦ センサーでモニタリングして自動対応することは動物福祉に有用 ◦ だが主目的は生産性の最大化 ▪ 動物福祉が生産最大化に有用な限りで対応される 11 Singer, P. (2023). Animal liberation now. Random House. -
意図的かつ合法な影響 有害な影響(Coghlan & Parker 2023) • 生態系介入での利用 ◦ 野良猫駆除のために、野良猫を自動認識し、毒を散布(Slezak, 2016)
• 科学研究における危害(cf. Hagendorff 2022) ◦ 例:イーロン・マスクのBMI研究での動物利用(Levy et al. 2022) ▪ 実験ではサルの被験者に危害が加えられ、何人かは死亡した可能性 ◦ 「人工ニューラルネットワーク」は動物実験の知見をベースにしてる ▪ 今後も生物インスパイアAI研究のために動物実験がされる可能性 12 Hagendorff, T. (2022). Blind spots in AI ethics. AI and Ethics, 2(4), 851-867. Slezak, M. (2016). Robots, lasers, poison: The high-tech bid to cull wild cats in the outback. The Guardian. https://www.theguardian.com/environment/2016/apr/17/robots-lasers-poison-the-high-tech-bid-to-cull-wild-cats-in-the-outback Levy, R., Lynch, S., & Taylor, M. (2022). Investigation of Musk’s Neuralink targets federal oversight of animal testing. The Guardian. https://www.theguardian.com/technology/2022/dec/20/neuralink-animal-testing-musk-investigation -
意図的かつ合法な影響 有害な影響(cf. Singer & Tse 2022) • 将来的に:AIを用いた非ヒト動物のコミュニケーションの翻訳 ◦ 非ヒト動物を操作して、搾取につながるかも
◦ 非ヒト動物の「声」を無視することによる認識的不正義 13 画像の出典:https://www.earthspecies.org/what-we-do/roadmap -
意図的かつ合法な影響 有益な影響(Bossert 2023) • 密猟の削減、撲滅 • 都市動物の保護 • 獣医学での動物治療への応用 •
里親探し • 実験動物の削減 • 動物園・水族館でのAIベースのanimatronics 14 -
意図的かつ合法な影響 有益な影響(Bossert 2023) 都市動物の保護 HogWatch: • ロンドンのハリネズミのモニタリング を通じた保護活動の推進 • 画像認識AIで画像処理
15 画像の出 典:https://www.hamhigh.co.uk/news/21327205.hampstead-heath-hedgehog-hotspot-amid-declining-n umbers-london/ https://www.zsl.org/what-we-do/projects/london-hogwatch -
意図的かつ合法な影響 有益な影響(Bossert 2023) 獣医学での動物治療への応用(Basran & Appleby 2022) • 画像・音声認識AIの応用 ◦
レントゲン写真・MRI画像・カメラ画像・超音波検査からの病気・異常検出 • 自然言語処理AIの応用 ◦ 検査データと報告書の組み合わせからの自動診断 ◦ 非構造化自然言語データから意味のある情報抽出・要約 ◦ 診断チャットボットシステムによる遠隔補助 • センサ行動認識の応用 ◦ 首輪に加速度センサを取り付け行動認識 16 Basran, P. S., & Appleby, R. B. (2022). The unmet potential of artificial intelligence in veterinary medicine. American Journal of Veterinary Research, 83(5), 385-392. -
17 “How robots could end animal captivity in zoos and
marine parks | Just Might Work” https://youtu.be/AZeyHTJfi_E 意図的かつ合法な影響 有益な影響(Bossert 2023) (AIベースではないが)animatronicsの例 -
意図的かつ合法な影響 有益な影響 • コミュニケーションの翻訳は有益にもなりうる ◦ コンパニオンアニマルの分離不安症の改善 ◦ 非ヒト動物の「声」を民主主義的に反映できるかも (cf. Donaldson
and Kymlicka 2011(訳2016); Cochrane 2019) • AIによる学校教育利用 ◦ 獣医カリキュラム等での動物(行動)モデルをロボットで代替 ◦ 動物擁護的教育の補助 18 Donaldson, S., & Kymlicka, W. (2011). Zoopolis: A political theory of animal rights. Oxford University Press(青木人志/成廣孝 監訳『人と動物の政治共同体』尚学社) Cochrane, A. (2019). Should animals have political rights?. John Wiley & Sons. -
ChatGPTに聞いてみる 19 1. 環境問題 a. 温室効果ガス排出 b. 土地利用と森林伐採 2. 動物福祉問題
a. 飼育環境 b. 殺処分方法 3. 健康問題 a. 抗生物質の使用 b. 栄養バランス -
非意図的かつ直接的影響 有害な影響(Coghlan & Parker 2023) • 自動運転でのロードキル ◦ 意図的に無視することによる意図的かつ合法な危害もありうる ◦
この場合、無視することを違法とすることで改善可能かも • ドローンやカメラなどによる野生動物監視が引き起こす混乱 ◦ カメラ設置、カメラの存在に伴う野生動物行動への影響(Roberts 2023) ◦ カメラを回避しない非ヒト動物のデータばかり集まる→個体数の不適切な把握 • スマートデバイスによる動物への非意図的な副作用 ◦ 来園者がゴリラにスマホ画面を見せすぎてゴリラが画面中毒に(Yang 2022) 20 Roberts, F. S. (2023). Socially responsible facial recognition of animals. AI and Ethics, 1-17. Yang, M. (2022, April 6). US zoo fears teen gorilla’s exposure to phones is behind anti-social behavior. The Guardian. https://www.theguardian.com/us-news/2022/apr/06/gorilla-chicago-zoo-screen-time -
非意図的かつ直接的影響 有害な影響(Coghlan & Parker 2023) • 深層学習モデルはブラックボックス ◦ 問題があった場合、誰が責任を負うのか?(責任ギャップ(Matthias 2004))
▪ データの不備、モデルの不備、実装の不備…… • 自律的AIによる意図しない弊害 ◦ 農場に入ってきた野生小動物を駆除するかも • 検索エンジン・推薦システムが、動物虐待的コンテンツを提示・助長 ◦ 直接的に虐待的なものだけでなく、伝統行事、「かわいい」系の動画、 エキゾチックアニマルの動画によるペット産業の助長など 21 Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and information technology, 6, 175-183. -
非意図的かつ直接的影響 有益な影響 • 自動運転技術の改善によるロードキルの減少(Singer & Tse 2022, Bossert 2023) ◦
意図的に減少に貢献するような技術開発も可能 22 -
非意図的かつ間接的影響 有害な影響(Coghlan & Parker 2023) • 気候変動への影響 ◦ AI開発に伴うCO2排出(e.g., Strubell
et al. 2019)、水不足、生態系破壊 • パーソナライズされた広告による消費促進 ◦ 食肉消費やペット産業に貢献するかも ◦ 環境に優しくない商品の消費増加による環境への悪影響 • AIの畜産業の代替によって、農家と非ヒト動物の距離が離れうる ◦ これまでのノウハウの消失、ケア関係の消失によるさらなる危害の可能性 23 Strubell, E. et al. (2019). Energy and Policy Considerations for Deep Learning in NLP. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, 3645–3650. -
非意図的かつ間接的影響 有害な影響(Coghlan & Parker 2023) 表情上の危害 • LLMなどの生成AIによる、人々の種差別的態度の拡散・促進 ◦ 例:人間の場合、黒人と犯罪性をつなげる
24 GPT3(当時) (Hagendorff et al. 2023) Hagendorff, T., et al.. (2023). Speciesist bias in AI: how AI applications perpetuate discrimination and unfair outcomes against animals. AI and Ethics, 3(3), 717-734. -
非意図的かつ間接的影響 有害な影響 25 実際にAIの意見を 受け入れるのか? →Yes(Krügel+ 2023) トロッコ問題(スイッチと 橋)で、助言を受けた場合 の参加者の回答
Krügel, S., Ostermaier, A., & Uhl, M. (2023). ChatGPT’s inconsistent moral advice influences users’ judgment. Scientific Reports, 13(1), 4569. -
非意図的かつ間接的影響 有害な影響 26 Awad, E., Dsouza, S., Shariff, A., Rahwan,
I., & Bonnefon, J. F. (2020). Universals and variations in moral decisions made in 42 countries by 70,000 participants. Proceedings of the National Academy of Sciences, 117(5), 2332-2337. -
非意図的かつ間接的影響 有害な影響(Coghlan & Parker 2023) 人間の言語モデルからの影響だけでなく…… • AIによる動物の制御は非ヒト動物を支配できるという考えを助長 ◦ 野生動物監視、AIによるスマート畜産(非ヒト動物を数値化→モノ化)
• 非ヒト動物とバーチャルに交流する技術は、ケアを抑制し、 非ヒト動物から私たちを遠ざけているかも 27 -
どうすべきか AI研究者 • 現状:動物倫理についてほぼ無視(Singer & Tse 2022) • 改善:種差別をやめ、非ヒト動物を認識すべき ◦
非ヒト動物がAIによって影響を受ける利害関係者であることを認識すべき ◦ AIフレンドリーなAIの作成 ◦ AI倫理・動物倫理学者との共同 29 -
どうすべきか AI倫理・動物倫理学者 • 現状:問題とその影響の可能性について認識不足 ◦ AI倫理:非ヒト動物の問題に気づいてない(Singer & Tse 2022, Hagendorff
2022) ◦ 動物倫理:AIやロボットが及ぼす影響のポテンシャルの認識不足(?) • 改善:AI利用に関する倫理的問題・対処法の整理に取り組むべき ◦ 人間にとってのAI倫理の問題は、非ヒト動物においても生じるか? ◦ AIに関する法的問題・改正は、非ヒト動物を考慮してるか? ◦ 将来的に:超知能AIの登場を見据えてどう考えるか? 30 Hagendorff, T. (2022). Blind spots in AI ethics. AI and Ethics, 2(4), 851-867. -
まとめ • AIが非ヒト動物に及ぼす影響について調査した ◦ 意図的かつ違法な影響 ◦ 意図的かつ合法な影響 ◦ 非意図的かつ直接的影響 ◦
非意図的かつ間接的影響 • AI利用は非ヒト動物にとって有益にも有害にもなりうる • AI研究者、AI・動物倫理学者は、この問題に注意を向けるべき 31 ご清聴ありがとうございました