知識社会マネジメント 4月19日 第2回 「科学技術の兆しと未来洞察」 佐々木一 Hajime Sasaki Ph.D. 東京大学 特任准教授 未来ビジョン研究センター Innovation management in knowledge society 2024夏学期講義金曜2限（10:25〜12:10）

Contents •適応課題（前回課題のフォローアップ） •新興技術と先見的なガバナンスの重要性 •ホライゾンスキャニング、フォーサイトにむけた書誌情報分析 •AIによる科学研究（知識生産） •人とAIのハイブリッドインテリジェンス

芸術や科学のように創造的な活動を「ヒトらしい」特質を反映するものであり、代 替不可能な聖域だと信じてきました。 しかしAIと向きあう現在、こうした人間性をめぐる古典的な理解を再検討する必 要がでてきたといえます。 「AIがヒトと同じ価値をもつようになった」と言いたいのではありません。 むしろ、私たちはヒトの価値や特徴を表面的にとらえていないか、という問いかけ です。 どちらが優れているかという問題でもありません。

激動の知識社会におけるシステムリーダーとしての素養 •ディシプリン（分野）の垣根を越える（Lieth）ことができる。 特定の分野の知を前提に、隣接分野や社会との接点にある課題に目を向ける。 •（「答え」方よりもむしろ）洗練された「問い」方を身につけている。 解くべき問題とその背後の本質を見出し、枠組みの中で解消する仕組みを提起する 「問題解決者」＝プロブレムソルバーから「課題設定者」＝アジェンダシェイパーへ。 •「あの人達」の問題から「僕、私」の問題への視点を有している。 自分がシステムの中にいることはもとより、自らがシステムの起点となることを理解してい る。と同時にそれを気づかせることができる。 •主張と傾聴による対話を通じて問題の本質を特定できる。 本質的な解決には価値観の異なる者同士の視点が不可欠であることを理解している。 •内省を通じて自らのリーダーシップを更新し続ける。

システムリーダーシップ •複雑かつ動的な社会のなかで、解決策やビジョンを示して先頭に 立つ(英雄的な)リーダーが解決に挑むことの限界。 •システムリーダー： 問題に関わる人を支援しつつ”自分も変わるべきシステムの一部 である”と気づかせそれぞれが変化を起こせるように導く人材。集 合的なリーダーシップを生み出すリーダー。 •「今ほど求められている時代は歴史上存在しない」(ピーター・センゲら, 2022)

前回ふりかえり 履修される方向け： 初回練習ワーク この講義で整理すべき下記の問題について 、ご自身の研究テーマに関連した事例をそれぞれ挙げてください。 講義用チャットボットを用いてみてください。 • 従順な問題 Tame problem • 厄介な問題 Wicked problem • 参考：Rittel, H. W., & Webber, M. M. (1973). Dilemmas in a general theory of planning. Policy sciences, 4(2), 155-169. • 適応課題 Adaptive challenge • 参考： Heifetz, R., & Linsky, M. (2017). Leadership on the line, with a new preface: Staying alive through the dangers of change. Harvard Business Press. 提出先： sasaki@ifi.u-tokyo.ac.jp メールタイトル： 知識社会マネジメント初回ワーク提出 本文中に学籍番号を記載のこと。 締め切り： 本日 12:30

問題点 技術的問題 （≒Tame problem） 適応課題(Adaptive challenge) テレワークの実現 オンラインツールの購⼊や⾃宅 内でのワークスペース確保 幼児の育児に追われる妻の理解 を得ること 創業100周年を機に本社移転 新オフィスのコンセプト設計や 物件探し、オフィス家具の選定 や発注 古い設備を強いられている⼯場 のひがみや引っ越しを伴う社員 の対応 ⼤企業の合併の成功 ITシステムやオフィスを統合す ること 組織を統合してシナジーを⽣み 出すために、それぞれの企業の 価値観や業務の進め⽅を変更す ること ⾼齢の⺟親に⾞の運転をやめさ せる ⺟親の移動⼿段を確保すること （タクシー代を払う、友⼈に送 迎を頼むなど） ⺟親が「⾼齢でも⾃⽴して⽣活 できる⼥性」というアイデン ティティの喪失と向き合い、⾃ 分で運転ができないという不便 に慣れること 適応課題 Adaptive challenges︓⾃分⾃⾝のものの⾒⽅や、周囲と の関係性が変わらないと解決できない問題。⾃分も当事者であり、 問題の⼀部である。

みなさんからの適応課題 Adaptive challengesをいく つか • 人口減少や高齢化に伴う交通需要の変化への対応。脱炭素化や災害レジリエンス向上といっ た社会的要請への対応 （研究テーマ：交通計画） • ECの普及による配送の小口化や再配達の多さによる輸送効率低下。自身もそれを促進する 消費者の立場になる。 （研究テーマ：在庫管理戦略と物流問題） • 紛争鉱物資源取引規制を策定するにあたり、紛争鉱物が発掘される地域のみならず、それを 利用する先進国等も紛争の資金源を結果的に供給している可能性がある （研究テーマ：紛争 鉱物資源(ダイアモンド等)の取引規制） • ガバナンス方法やチェーンそのものを変える必要に迫られる場面も存在する。その場合、権力 分布が変化する、DAOでの行動形態を変化させる必要が生じるなどといった課題 （研究 テーマ：DAO） • DXシステムを導入する際に職員から反対や不満がでる問題。（研究テーマ：未定（AI系？））

適応課題 Adaptive challenges : •Wicked problem の中でも特に⾃分を含む関係性（社会 システム）を意識したときに⾒える課題。 “リーダーが犯す最も⼤き く頻繁に犯す過ちは、 適応を要する課題を解決し ようとするときに技術的⼿ 段(=Tame problem) を⽤いてしま うことである” ロナルド・ハイフェッツ リーダーシップ論 Harvard Univ.

Contents •適応課題（前回課題のフォローアップ） •新興技術と先見的なガバナンスの重要性 •ホライゾンスキャニング、フォーサイトにむけた書誌情報分析 •AIによる科学研究（知識生産） •人とAIのハイブリッドインテリジェンス

新興技術（Emerging technology） の定義 Definition (elaborated or adopted) Study Domain 活⽤により経済や社会の幅広い分野に利益をもたらす技術 Martin (1995) 科学技術政策 新しい産業を創出したり既存の産業を変⾰する可能性のある科学に基づくイノベーション。⾮連続的な技術や、別々に⾏われて いた研究が収束されてできた進化的技術が含まれる。 Day and Schoemaker (2000) マネジメント 今後およそ15年の間に経済的な影響⼒を⼤幅に⾼める可能性のある技術。 Porter et al. (2002) 科学技術政策 その出現は、技術的、制度的、社会的変化の進化的プロセスとして概念化されており、個々の企業や研究所のレベル、社会的・ 制度的背景のレベル、知識の性質と進化および関連する技術体制のレベルの3つのレベルで同時に発⽣する。 Corrocher et al. (2003) 進化経済 競争の基盤を変える可能性がまだ⽰されていないコア技術 Hung and Chu (2006) 科学技術政策 開発の初期段階にある技術。これは技術の特性や使⽤状況、アクターネットワークの構成や関連する役割など、いくつかの側⾯ がまだ不確かで具体的でないことを意味する。 Boon and Moors (2008) 科学技術政策 源泉、特徴、影響の３つの観点で概念化される。 源泉︓新興技術の「リレー的進化」と「応⽤による⾰新」。特徴︓クロックス ピード性、コンバージェンス、ドミナント・デザイン、ネットワーク効果。影響︓バリューチェーンの変化、商品のデジタル化、 イノベーションの場所の変化（企業内から企業外へ） Srinivasan (2008) マネジメント ⾼い可能性を⽰しているがその価値の実証や何らかのコンセンサスに落ち着いていない技術。次の4点にまとめられる。(1)最近 急速に成⻑している、(2)移⾏や変化の過程にある、(3)市場や経済の潜在⼒がまだ⼗分に活⽤されていない、(4)科学的根拠が⾼ まっている Cozzens et al. (2010) 科学技術政策 今後10年から15年の間に社会的に重要な役割を果たす可能性のある技術。現在時点で開発プロセスの初期段階にあることを意味 する。またすでに純粋な概念の段階を超えている。しかし明確に定義されていおらず、その正確な形態、能⼒、制約、⽤途はま だ流動的である Stahl (2011) 科学技術政策 ある概念や構造が、専⾨家コミュニティのメンバーによって採⽤され反復されることで、⼈間の理解や能⼒に根本的な変化（ま たは⼤幅な拡張）をもたらす段階 Alexander et al. (2012) 科学技術政策 特徴は不確実性、ネットワーク効果、⽬に⾒えない社会的・倫理的懸念、コスト、特定の国への限定、調査・研究の不⾜ Halaweh (2013) マネジメント 創発に関連する2つの特性、すなわち新規性と成⻑ Small et al. (2014) 計量書誌 Rotolo, D., Hicks, D., & Martin, B. R. (2015). What is an emerging technology?. Research policy, 44(10), 1827-1843.

新興技術（Emerging technology） の定義5箇条 Rotolo, D., Hicks, D., & Martin, B. R. (2015). What is an emerging technology?. Research policy, 44(10), 1827-1843.

ペーシング問題（Abott 2013） 「科学技術のペースと、新興技術を統治するため に社会が依存している法的および倫理的監視の遅 れた対応⼒との間のギャップの拡⼤」

コリングリッジのジレンマ 「技術の影響⼒を予測し完全に予防することは難しい」という情報の問題 VS 「既に普及した技術は問題が起きても取り返しがつかない」というチカラの問題 • 「情報の問題」「⼒の問題」の間でバランスをとり適切な段階で舵を切る（ガバナンス） 。 • 研究や技術の設計の段階から、社会的、倫理的、法的、経済的、政治的、政策的影響を⾒通す。 OECD Observatory of Public Sector Innovation

研究者「リスクについて積極的に議論したくない」の心理 新技術の社会導⼊時 →明確なリスクエビデンスが存在しない。（コリングリッジのジレンマ） リスクの可能性の議論やリスクを想定した研究。 →曲解、切り取り、誤った印象（当該技術⾃体がリスクが有る等）に。 ようするに 研究者に情報提供や取り組みを⾏うインセンティブがない。 →情報が集まらない。リスクに対する取り組みが遅れる。 ⼈⼯ナノマテリアルに関す る⾃主的報告スキーム , 農 村地域省（DEFRA） ナノスケール物質のスチュワードシップ プログラム（Nanoscale Materials Stewardship Program）, 環境保護庁（EPA） ⾃主的なデータ・情報の収集/提供枠組 みの必要（例えばナノテク） （物理化学的特性、有害性情報、ばく露情報、リスク管理対策の情報など） ⽇本︓ナノマテリアル情報 収集・発信プログラム、経 産省（METI）

新興技術のガバナンスへの課題 1. ペーシング問題（Abott 2013） • 技術発展の速度 が急激である場合にガバナンスの対応が追い付いていくことがで きるのか。 2. 応⽤領域（scope of applications）の拡⼤ • ⾷品、健康医療、エネルギー、交通、⾦融、防衛等。AIは、多くの応⽤領域におい て、同時進⾏的に応⽤が拡⼤。 3. ガバナンスにおける関⼼領域（scope of concerns）の拡⼤ • 安全性から環境、⼈権、公正性、安全保障、気候変動等へ 4. 「原則（principles）」から「実践（practices）」へという課題 • AIの分野等で定式化されてきたprinciplesを以下に、practiceに、implementationして いくのか。 5. 新興技術の融合（convergence） • バイオテクノロジーとAIが相互に融合しつつ、研究速度が⾼速化。医薬品開発だけ でなく⽣物兵器などの側⾯。特定の集団にターゲットを絞った兵器も。 城⼭(2023) 新興技術ガバナンスの構造, IFIワーキングペーパー

先見的イノベーションガバナンスの必要性 •１）知り得る世界の範囲内で想定外の事態に対処する。（適応レジリエンス） •2)想定外の世界の到来に備えて予め即応・準備しておく（先見的イノベーショ ン） 多⾯的イノベーションモデル The Observatory of Public Sector, OECD

Popper, R. (2008). Foresight methodology. The handbook of technology foresight, 44-88

Forecasting, Backcasting and Scenarios • 未来について仮定を⽴てるという ⽬的。 • 可能な開発経路とそれらの将来の 結果の探求。 • 将来の発展の可能性について、そ してこれらの発展に望ましい⽅向 に影響を及ぼす可能性のある特定 の⾏動について、政策⽴案者に情 報を提供することを⽬的とする。 • 最も有り得べき未来を提⽰するもの • 想定されうる社会を変⾰するドライ バのみを考慮。 • 未来の幅は限定的であり与えられた 条件がなりたつことが前提。 • 過去のデータに依存するもの。 • すなわち、過去の継続として未来を 扱うという性質が利点でもあり⽋点 でもある。 • 現在から望ましい未来への架け橋を 回顧的に構築すること • その未来につながる中間的なステッ プを特定すること。 • 将来のビジョンを現在の意思決定に 結びつけ、現在および近い将来にな されなければならない重要な選択を 提⽰する。 Robinson, J., Burch, S., Talwar, S., O'Shea, M. and Walsh, M., 2011. Envisioning sustainability: Recent progress in the use of participatory backcasting approaches for sustainability research. Technological Forecasting and Social Change, 78(5), pp.756-768

複数の「起こりうる」客観的な未来を想定する シナリオ分析 特定の未来の予測をするのではなく、幅広い様々な未来像を考え、政策やビジネスの意思決定に活⽤ する。 ランド研究所︓戦略⽴案 →ビジネス領域。 例）シェル⽯油︓⽯油価格⾼騰の可能 性についての準備 「想定外」は本当に想定外か。 例） ・東⽇本⼤震災 ・ Covid-19 ・⽣成系AIの台頭 Known UnknownとUnknow unknownの違い

先見的なガバナンスの構築をする上で検討すべき事項 1. 検討の前提としての情報収集：ホライゾンスキャニングとフォーサイト 2. 将来的な技術の社会影響の評価と対応 (1) テクノロジー・アセスメント（TA） (2) レギュラトリーサイエンス・規制ギャップ調査 松尾 真紀⼦(2023) 新たなバイオテクノロジー (エンジニアリング・バイオロジー) の社会導⼊ 先⾒的ガバナンスを確保する上での統合的・俯瞰的な連携・ 調整体制の必要性 変化の予兆の把握 ⽅向性の選択肢の特定 技術の社会的影響評価 法規制を含めた個別分野 ごとの管理体制の構築 俯瞰とフィードバック 技術萌芽段階 基礎研究 技術発展段階 応⽤研究 技術導⼊段階 製品化 技術定着段階 製品 政策プロセス ホライゾンスキャニング フォーサイト テクノロジーアセスメント（TA） 規制ギャップ調査 規制影響評価 リスク・アプローチ

先見的なガバナンスの構築をする上で検討すべき事項 1. 検討の前提としての情報収集：ホライゾンスキャニングとフォーサイト 2. 将来的な技術の社会影響の評価と対応 (1) テクノロジー・アセスメント（TA） (2) レギュラトリーサイエンス・規制ギャップ調査 松尾 真紀⼦(2023) 新たなバイオテクノロジー (エンジニアリング・バイオロジー) の社会導⼊ 先⾒的ガバナンスを確保する上での統合的・俯瞰的な連携・ 調整体制の必要性 変化の予兆の把握 ⽅向性の選択肢の特定 技術の社会的影響評価 法規制を含めた個別分野 ごとの管理体制の構築 俯瞰とフィードバック 技術萌芽段階 基礎研究 技術発展段階 応⽤研究 技術導⼊段階 製品化 技術定着段階 製品 政策プロセス ホライゾンスキャニング フォーサイト テクノロジーアセスメント（TA） 規制ギャップ調査 規制影響評価 リスク・アプローチ

PMDA科学委員会事務局, 「PMDAにおける科学委員会およびホライゾ ン・ スキャニングの取組との関わりについて」より

ホライゾンスキャニング定義 定義 組織 現在利⽤可能な情報に基づいて、起こりつつある科学技術の新しい動向と それがもたらすインパクトを様々な⾓度（社会、技術、環境、政策、倫理 等）から分析し、エマージングイシューをエビデンスに基づき探索し、評 価や優先順位付けを⾏う。 欧州議会調査局 情報の体系的な調査であり、潜在的な脅威やリスク、また、新たに出現し た課題や機会を特定し、⼗分な準備と政策策定プロセスへの軽減策の取り 込みを可能にする。 英国政府ホライズ ンスキャニングプ ログラムチーム 現時点の思考や計画の境界にある、潜在的な脅威、機会、望ましい将来の 発展に関する体系的な調査である。持続的な動向ばかりでなく、想定外の 事項も探索する。 英国省庁横断レ ビュー 政府の政策やプログラムに影響を与える国内外の環境変化を特定する。 オランダ研究開発 会議顧問委員会 (COS) 潜在的な政策問題やチャンスを特定し、政策決定者に提供する。 カナダ政府ポリ シーホライズン ホライズン・スキャニングに向けて〜海外での実施事例と科学技術・学術政策研究所における取組の⽅向性〜

ホライゾンスキャニングとフォーサイトの関係 ホライズン・スキャニングに向けて〜海外での実施事例と科学技術・学術政策研究所における取組の⽅向性〜

•英国 • 各省のホライズン・スキャニングを調整する組織を内閣府に設置：科学・ イノベーシ ョ ン投資枠 組2004-2014 • 「人口変化が経済市場に与える影響」、「ビッグデー タ」、「資源ナショナリズム」、「若者世代の社 会的態度」 •オランダ • 研究開発会議顧問委員会（COS） • 「社会インフラの未来」、「変化する経済的・政治的世界秩序」、「感染症 への世界規模での取組」、 「新しい文脈における労働 と教育」、「ロボティクスと相互接続化」、「場所の創造と利用」（都市と 地方）、「紛争と安全保障政策」、 「工学的または人的操作による人体の変異」、「加速する新エネ ルギー源開発」、「高齢化社会」 •欧州議会 • 科学フォーサイトユニット （STOA）：ホライズン・スキャニングを含む科学フォーサイトに向けた取 組に関する報告書(2015) • 「生活を変える10 の技術」：自動運転、グラフェン、3D プリンティング、大規模 公開オンライ ン講座（MOOCs）、バーチャル通貨 （ビットコイン）、ウェアラブル技術、ドローン、アクアポ ニックシステム、スマートホーム、電力貯蔵 （水素）

技術ロードマップとは “A consensus articulation of scientifically informed vision of attractive technology futures” 技術ロードマップの機能 ① 技術の将来像の提⽰ ② 対話の⼿段 ③ 産業界や政府を引きつける⼿段 ④ 技術への刺激と技術進歩の監視 ⑤ 技術の「可能性(＝限界)｣を⽰す指標 〜 Galvin (Motorola) 〜Branscomb （元⽶国⼤統領科学技術顧問） ex. ＡｒＦ露光→ＡｒＦ液浸→Ｆ２は不要で次はＥＵＶ 領域・セクターを超えた協働 有望技術や⽬標を明⽰化 現状の技術の達成度を明⽰化 現⾏技術の理論的限界・ 現実的な困難度を明⽰化 魅⼒的な技術の未来像を科学的根拠に基づいたコンセンサスで表現するもの

科学技術と（人文）社会科学との協働の必要性 •我が国では、科学技術基本計画の根拠となる法律、「科学 技術基本法」を2020年 6 月に改正し、「科学技術・イノ ベーション基本法」へと名称を変え、人文・社会科学の振興 とイノベーションの創出を法の振興対象に加えた。 •これは、科学技術・イノベーション政策が、科学技術の振興 のみならず、社会的価値を生み出す人文・社会科学の「知」 と自然科学の「知」の融合による「総合知」により、人間や 社会の総合的理解と課題解決に資する政策となったこと を意味する。 科学技術のみならず⼈⽂社会科学を含めた統合的な知識の融合

計量書誌学の重要性 •従来のディシプリン（領域）だけでは不十分。 •Inter-discipline：分野と分野の接点 •Trans-discipline：科学技術と社会との接点 •複雑な社会で従来の科学技術だけではないメタな科学技術の必要性。 •Science of science policy (SoSP) •Science of Science （科学技術のための科学） •計量書誌学(Bibliometrics)： •論文、特許、SNS、webなど言語で書かれたデータおよびそれに付随する データを定量的に扱う分野 •その中でも、科学論文を用いるものを特にScientometrics、特許論文を 用いるものをPatentomericsなどと呼ぶ。

Patient Access Prescribing Clinical Trials Basic Research and Technology Non- Clinical Studies 背景 Ø 近年、⾰新技術を利⽤した医薬品・医療機器・再⽣医療等製品が注⽬ ⇨ 従来の開発・評価の考えが適応出来ない場合が想定される ⇨医療に応⽤される⾰新的技術の早期の特定が求められている 従来の開発コンセプトや規制 の枠組に課題 開発ガイドライン策定や 新たな規制の検討 ü 患者の医療へのアクセス の向上 ü ベネフィット/リスクの向上 した製品の利⽤ ホライゾン・スキャニング 2024/4/19 30 ⼤塚 et al(2022) 組織⼯学分野における⽂献引⽤ネットワーク分析を⽤いたホライゾン・スキャニング

研究の背景 ü 従来のホライゾン・スキャニング⼿法は専⾨家意⾒に依存 ⇨ 結果が主観的である可能性が⾼い • ⼤規模データを客観的に評価するホライゾン・スキャニング体制を⽬指して ⇨ ⽂献引⽤ネットワーク分析の活⽤について検討してきた ­ これまでに、AI関連技術と免疫分野を対象に、本⼿法がホライゾン・ スキャニングの⼀次スクリーニングとして有⽤である可能性を報告 本研究の⽬的 • 新たに、学際的活動領域を持つ組織⼯学と、その事例の1つである 細胞・組織の三次元積層を対象に⽂献引⽤ネットワーク分析を実施 ⇨ 学際的研究活動領域で本⼿法を適⽤する際の留意点を検討 材料⼯学及び細胞化学・細胞⽣理学等を 組合わせて⼈⼯的に組織/臓器を作製する技術 3D印刷を⽤いて⼈⼯的に 組織/臓器を作製する技術 2024/4/19 31 ⼤塚 et al(2022) 組織⼯学分野における⽂献引⽤ネットワーク分析を⽤いたホライゾン・スキャニング

ü Web of Science Core Collection から233,968件の論⽂を取得 − 三次元積層の研究活動領域を内包する 領域から論⽂を取得 クラスタリング 最⼤連結成分の抽出 ネットワーク構造の形成 78のクラスタ 197,948件 paper citation 可視化 クラスタの情報など クラスタごとの情報の利⽤ u 論⽂数ごとの被引⽤数 u テキストマイニング（特徴的単語抽出 等） u 組織、ジャーナル、著者の単純集計 組織⼯学＆再⽣医療、Biofabrication、付加製造 クエリ: ((tissue OR organ) AND engineering) OR (regenerative AND (medicine OR therapy)) OR ((bio* AND fabrication) OR biofabrication) OR ((rapid AND prototyping) OR (rapid AND manufacturing) OR (additive AND fabrication) OR (additive AND manufacturing)) 2024/4/19

近年出版された論⽂を多く含むクラスタ Sub- Cluster No. 論⽂数 2019~2021年に出 版された論⽂（%） Sub-Clusterの概要 No.1-10 340 44.4 エレクトロスピニング法 No.1-12 178 46.6 多孔質ゼイン No.2-2 3,771 40.7 間葉系幹細胞による拒絶反応抑制効果 No.3-2 4,214 43.9 注射可能なハイドロゲル No.3-3 2,776 47.8 Bioprinting No.4-1 2,680 50.8 マイクロ流体⼯学における3D printing技術 No.4-3 2,429 54.8 環境刺激による時間変化を考慮した3D印刷 No.5-13 315 50.1 組織⼯学に使⽤する導電性ポリマー No.7-1 2,642 48.4 ⾻インプラントのための⾦属の付加製造 No.9-3 1,221 45.7 iPS細胞を利⽤した⼼筋組織作製 − 組織⼯学に⽤いる⾜場、マイクロ流体⼯学、3D bio-printingの印刷 技術等、組織/臓器作製に必要な構成要素となる技術が多い 33

研究機関や国の評価 • 国家機関や国際機関が使用するレポート群は大量の学術書誌情 報に基づいている。 影響⼒のある国は科学技術⼒が⾼い。 250万論⽂の調査による

Contents •適応課題（前回課題のフォローアップ） •新興技術と先見的なガバナンスの重要性 •ホライゾンスキャニング、フォーサイトにむけた書誌情報分析 •AIによる科学研究（知識生産） •人とAIのハイブリッドインテリジェンス

欧州委員会（EC）に諮問を受けた科学的助言メカニズム（SAM）、「科学へのAI の導入（uptake of AI in Science）」のための欧州の戦略提言と、その背景 となるエビデンス報告書 2024年4月15日。 第1章.イントロ 第2章.AI研究とイノベーションの展望 第3章.科学におけるAIの機会と利点 第4章.科学におけるAIの課題とリスク 第5章.科学者や研究者の職場環境、キャリア、スキル、教育への影響 第6章.エビデンスに基づく政策オプション https://scientificadvice.eu/scientific-outputs/ai-in-science-evidence-review-report/ Successful and timely uptake of artificial intelligence in science in the EU(2024)

あらゆる分野の研究（知識⽣産）を変えていくAI • AlphaFold︓数千のタンパク質の構造を90%以上の精度 で予測 (従来は、単⼀のタンパク質の3次元構造形成を 探求するのに何年もの研究が必要 (Jumper et al, 2021)。 • 新しい抗⽣物質ファミリーの発⾒。 (Wong et al, 2023)。 • 天気予報︓GraphCast︓GNNを⽤いた全球中期気象予報 モデル。気象機関がほぼ独占的に使⽤していた計算機 による数値予報モデルの精度と速度を上回る。数分で 正確な気象条件の予測 (Voosen、2023)。 • ⼈⽂科学︓歴史家が過去400年間の匂いの歴史と遺産 をテキストと画像で追跡する (van Erp et al, 2023)。計 算⽀援型⼈⽂科学研究。 • ITHACAプロジェクト(Assael et al, 2022)古代ギリシャ語 の碑⽂。⼿書きの⽂書や初期の印刷物、初期の⾔語、 ⽅⾔のパターン。 ITHACA (Assael et al, 2022) Graphcast (Voosen、2023) Successful and timely uptake of artificial intelligence in science in the EU(2024)

AIによって変化するサイエンス活動 • ⽂献からのアイデア⽣成を⾃動化 Semantic scolar SemNet︓量⼦物理学の意味論ネットワーク • シミュレーションの⾼速化、分析の促進 美術史研究︓⽂化遺産データベース。画像間の共通パターン(Gefen et al、2020)。 Materials Genome Initiative︓材料間のつながり発⾒のリポジトリ • ⾼度な実験制御 • 核融合トカマクプラズマ制御(Degrave et al, 2022) • 量⼦コンピュータにおけるスケールアップ実験のキャリブレ (Ares, 2021) • 実験データからの発⾒ • ニューラルネットワークモデルで系外惑星を検出(Pearson et al, 2017) • 遺伝⼦変異の発⾒(Alharbi & Rashid, 2022) • 220万以上の無機結晶の安定構造の発⾒(Merchant et al, 2023)。 • 科学ワークフローの⾃動化 • AIA-Lab︓材料合成実験の設計、結果解釈 • Coscientist︓⽣物学や創薬の⽤途でロボットリキッドハンドラーを使⽤ • 研究成果の普及改善 • ⾔語強化、剽窃チェック、査読プロセスをサポート • 科学者に取って代わるのではなく、反復的なタスクの⾃動化に役⽴つ Successful and timely uptake of artificial intelligence in science in the EU(2024)

AI主導の科学研究における理解の幻想 39 AIツールが評価するのが得意な 仮説のサブセットを検証可能 な仮説の全セットであると⾒ なしてしまう。 AIツールによって⽣み出される 新しい発⾒の洪⽔に気を取ら れ、探索空間が狭まっている ことに気づかない。 知識を他⼈(アルゴリズム)に 頼ることで、⼈はその知識を ⾃分の知識と過⼤評価する。 無批判に予測に最適化された モデルを説明⽬的で使⽤する が、実際のデータ⽣成プロセ スとはほとんど関係がない可 能性すらある。 トレーニングされたデータで⾒つかっ た視点のみを反映しており、それらの データで⾒つかったバイアスを採⽤す る。 科学プロジェクトには多様な⽴場が必 要であるという正しい認識が、 「客 観的」なAIツールによって、再び後退 するかもしれない。科学的⽣態系を再 度ホモソーシャルに。 Messeri, L., Crockett, M.J. Artificial intelligence and illusions of understanding in scientific research. Nature 627, 49–58 (2024).

論文も特許も破壊的な知識が減少傾向 Park, M., Leahey, E. & Funk, R.J. Papers and patents are becoming less disruptive over time. Nature 613, 138–144 (2023). • この傾向は、科学者や発明家が既存の知識の狭いセットに依存していることに⼀因がある。 • 知識の成⻑のプロセスが展開されるためには、現存する幅広い知識との関わりが必要。 • 狭い知識に頼ることは個⼈のキャリアに利益をもたらすかもしれないが、科学の進歩とはいえない。

Contents •適応課題（前回課題のフォローアップ） •新興技術と先見的なガバナンスの重要性 •ホライゾンスキャニング、フォーサイトにむけた書誌情報分析 •AIによる科学研究（知識生産） •人とAIのハイブリッドインテリジェンス

芸術や科学のように創造的な活動を「ヒトらしい」特質を反映するものであり、代 替不可能な聖域だと信じてきました。 しかしAIと向きあう現在、こうした人間性をめぐる古典的な理解を再検討する必 要がでてきたといえます。 「AIがヒトと同じ価値をもつようになった」と言いたいのではありません。 むしろ、私たちはヒトの価値や特徴を表面的にとらえていないか、という問いかけ です。 どちらが優れているかという問題でもありません。

「AIは人間を超えるか？」という問い自体を見直す •AI将棋："強さ”を図るなら同条 件。何をもって同条件なのか。 • CPUや膨大なメモリ。エネルギー。せめて人間の持 ち時間を長くしたり検討用の将棋盤を「持ち込みあ り」に？ •AIによる研究で「人間の棋士の 強さ」のもつ意味も変わった。 • 棋士の研究にAIが使われることで、常識外の新種 の発見と実戦での使用。自身はAIを使わない棋士 も、ソフト由来の新手への対策をとらなくてはいけ なくなる。 私たちは機械ではない、決して完全には形式化されない自己をもつのだ。そう呟きながら、 私たちは日々せっせと機械に自らの情報を喰らわせている。 （久保明教: 機械カニバリズム） 「『機械＝人間』と『機械≠人間』という二枚舌」： 機械になりたい、でも自分は絶対に機械じゃない。この矛盾した願いが、「人工知能は人間を超えるか？」と いうおしゃべりがとまらなくなることの背景にある。

44 https://jpn.nec.com/ai/ainopurin/index.html Hirota (2024) Japan Marketing Journal Vol. 43 No. 3 (2024), 44-54

45

人とAIのハイブリッドインテリジェンスによる遠隔探索 46 AIの知識 ユーザーの知識 ユーザーが保有していながらも すぐに思いつかなかった知識 知識を保有しないため 決して思いつかない知識 ⽬⽴たない知識 AI から出⼒された知識と ユーザーが予想した解答が 重なる領域 遠隔探索 Hirota(2024) Japan Marketing Journal Vol. 43 No. 3 (2024), 44-54を元に著者編集 ⽬⽴つ知識 Yamakawa & Kiyokawa (2020) ⼈参と⽩ワイン

問空間と解空間において近接探索だけに陥ることを避ける 47 Bouschery, S. G., Blazevic, V., & Piller, F. T. (2023). Augmenting human innovation teams with artificial intelligence: Exploring transformer‐based language models. Journal of Product Innovation Management, 40(2), 139-153. Discover Define Develop Deliver 遠隔探索 より多くの問題と解決 の組合せを⽣み出す

ハイブリッドインテリジェンス 48 (a)⼈間が単独で意思決定を⾏う。 - 判断・解釈能⼒（「常識」）、倫理基準、⽬的の特定、創造性、柔軟性、感情的知性 - 技術的に不⼗分である可能性があり時間がかかる。 (b)情報は機械によって準備されるが、実際の意思決定は⼈間が⾏う（「拡張知能」） - AI&MLのパターン認識やスピードなどの能⼒を利⽤する場合、⼈間の判断が⽀配的要因になる - 機械の予測・処⽅の受容は、解釈、規範違反、分配効果、⾮透明性によって害される (c)⼈間は機械に情報を提供するが、⾃律的な意思決定は機械が⾏う - 事前に選択された、あるいは事前にラベル付けされたデータを提供するなど、⼈間による開始（プロセス の制御） - 解決策には⼈間のバイアスが含まれる可能性がある。 (d) 機械と⼈間の知能が統合され、意思決定プロセスやタスク実⾏中に協働する - 機械によるパターン認識とシミュレーション。⼈間からののフィードバックに基づいて、⼈間と機械の間 で反復学習が⾏われる。 - 機械の意思決定パターンが、⻑期的に⼈間の意思決定戦略を形成する。 (e) 意思決定が⾃律的な機械に完全に委ねられる - スピード、スケーラビリティ、⼤量のデータの処理。客観性（すなわち、⼈間のバイアスから解放され る）。 - 技術的に実現可能とは限らない。歪んだデータや不完全なデータによる誤った（偏った）決定。 Piller, F. T., Nitsch, V., & van der Aalst, W. (2022).

ハイブリッドインテリジェンスチームの出現 • ハイブリッドインテリジェンス：それぞれが別々に達成できたより も優れた結果に到達し、互いに学習することで継続的に改善する • ハイブリッドインテリジェンスチームにおけるプロジェクトリーダー の役割。 • AIをチームメンバーとして取り⼊れる。⼈間同⼠がチーム内で対話す る⽅法が変える。 • ⼈間とAI双⽅の特性を理解し、相互のコラボレーションを考慮。 • ⼈間はコンテキストを提供し望ましい結果に向けてAIを誘導。AIによる出⼒をよ り⼤きなイノベーションの全体像に埋め込む上で主要な役割。 • AIは⼤量のテキストの処理を必要とする多くのタスクを⾼速化し、⼈間には⾒え ないデータのパターンから⽬⽴たない知識を接続。 • 何が本質的な（解くべき）課題であるかを決める。 49 Bouschery, S. G., Blazevic, V., & Piller, F. T. (2023). Augmenting human innovation teams with artificial intelligence: Exploring transformer‐based language models. Journal of Product Innovation Management, 40(2), 139-153.

ハイブリッドインテリジェンス 50 (a)⼈間が単独で意思決定を⾏う。 - 判断・解釈能⼒（「常識」）、倫理基準、⽬的の特定、創造性、柔軟性、感情的知性 - 技術的に不⼗分である可能性があり時間がかかる。 (b)情報は機械によって準備されるが、実際の意思決定は⼈間が⾏う（「拡張知能」） - AI&MLのパターン認識やスピードなどの能⼒を利⽤する場合、⼈間の判断が⽀配的要因になる - 機械の予測・処⽅の受容は、解釈、規範違反、分配効果、⾮透明性によって害される (c)⼈間は機械に情報を提供するが、⾃律的な意思決定は機械が⾏うに責任を追わせようとする - 事前に選択された、あるいは事前にラベル付けされたデータを提供するなど、⼈間による開始（プロセス の制御） - 解決策には⼈間のバイアスが含まれる可能性がある。 (d) 機械と⼈間の知能が統合され、意思決定プロセスやタスク実⾏中に協働する - 機械によるパターン認識とシミュレーション。⼈間からののフィードバックに基づいて、⼈間と機械の間 で反復学習が⾏われる。 - 機械の意思決定パターンが、⻑期的に⼈間の意思決定戦略を形成する。 (e) 意思決定が⾃律的な機械に完全に委ねられる - スピード、スケーラビリティ、⼤量のデータの処理。客観性（すなわち、⼈間のバイアスから解放され る）。 - 技術的に実現可能とは限らない。歪んだデータや不完全なデータによる誤った（偏った）決定。

「これはAIが出した結果です。」をどう捉えるか。 • EBM(エビデンスに基づく医療) にみる、エビデンスによる「説明責任への横滑 り」(今井2018) • 応答責任(Responsibility )：⾃律的に果たすものであるとされており、プロ フェッ ショナリズムや倫理観、近代科学以外の要素に依拠。 • 説明責任(Accountability )：基本的に外部から官僚的に統制する考え⽅であり、 客観的なデータ等が説明のために活⽤される。 • EBMは元来、臨床疫学を個々の医療実践に応用することを目的 としていた。しかし現場にとっては具体的な判断プロセス材料。 • いつの間にか従わなければいけない「ガイドライン」に。 • 本来、ベテランによるKKD（勘、経験、度胸）に対抗した脱権威主 義を目指していたエビデンスが権威化。 • 責任の外部化。外注、コンサルと異なり（信頼を毀損する）相手が居ない。 51 杉⾕和哉. (2020). エビデンスに基づく政策における責任論の再考 医療・教育学のエビデンス論を参考に. 医療福祉政策研究, 3(1), 85-100.

チャットボットとの付き合い方？ •トランザクティブメモリー「誰が何を知っているかを、認識 すること」(by Prof.Daniel Wegner) •個々が持つ「知識」や「情報」を組織で有効活用するための、組 織内で働くメカニズム •AIをメンバーとしてカウントするなら、何がRAGとして学 習されているか。を認識することの重要性。 •チャットボットとの良好な対話：目次、適切な用語、表現。 の認識が前提。 •ハルシネーションを起こすのは人もAIもおなじ。

No content

講義用チャットボット（第2回） https://x.gd/bsM3w RAG情報 SAPEA, Evidence review report, Successful and timely uptake of artificial intelligence in science in the EU, 15 April 2024 doi:10.5281/zenodo.10849579 https://scientificadvice.eu/scientific-outputs/ai- in-science-evidence-review-report/

•次回は4/2６(金) 10:25- です。 •ChatGPT にログインできるよう にしておいてください。 •ゲストファシリテーターとして、株 式会社ラーニングプロセス代表の 矢吹さんをお招きします。遅れないでね。 良い週末をJ 佐々木一 sasaki@ifi.u-tokyo.ac.jp 講義関連共有フォルダ https://qr.paps.jp/1rawC