new engineering 2024 our remaining work

Transcript

1. AIの時代で我々はどのようにコー ドを書くのか 藤村大介 2024/09/25 STORES Tech Conf 2024 “New Engineering”
2. 自己紹介 2 藤村大介 フジムラダイスケ
 
 STORES 株式会社 CTO
 
 
 • 2020年4月 STORES株式会社 入社
 • 新卒でSAP導入支援企業に入社、エンジニアになる 
 • その後スタートアップでWeb開発全般とマネジメントを担当 
 • 哲学科出身
 x.com/ffu_ github.com/fujimura
3. 何が起こっているのか 3 AIがコードを書けるようになっている AIが「合理的」と感じられる判断を行える 我々の仕事がなくなるのでは？ …しかし、人間にしかできないこともあるのでは？
4. AIの時代で我々はどのようにコー ドを書くのか 藤村大介 2024/09/25 STORES Tech Conf 2024 “New Engineering”
5. AIの時代で我々はどのようにコー ドを書くのか 残された仕事 藤村大介 2024/09/25 STORES Tech Conf 2024 “New Engineering”
6. この話の概要 6 - 合理主義：理性と「一つの答え」 - AI：合理的な「動く理性」 - 合理主義の限界：悲劇と限定性 - 残された仕事 Disclaimerとネタバレ - 実践的なTipsはあまりない。深く考える材料にしてほしい - 哲学的な単純化が随所にあるのはご容赦を - アイザイア・バーリンの多元主義、マーサ・ヌスバウムの悲劇についての議論が主な元ネタ
7. 何が起こっているのか 7 AIがコードを書けるようになっている AIが「合理的」と感じられる判断を行える 我々の仕事がなくなるのでは？ …しかし、人間にしかできないこともあるのでは？
8. 何が起こっているのか 8 AIがコードを書けるようになっている AIが「合理的」と感じられる判断を行える 我々の仕事がなくなるのでは？ …しかし、人間にしかできないこともあるのでは？
9. 合理主義：理性と「一つの答え」 After Frans Hals, Public domain, via Wikimedia Commons

10. 合理的（Rational）とは、理性（Reason）とは 10 1637年、ヨーロッパ デカルト「我思う、ゆえに我あり」 理性の誕生 ニュートンの万有引力、コペルニクスの地動説、などなど 科学革命：理性の力の証明 合理主義＝世界のことを、科学を中心とした一つの体系で解 明できる、という考え。理性をその源泉とする
11. 社会についての合理主義：啓蒙思想（Enlightenment） 11 「理性によって人や社会のあるべき姿は解明できる、それに より人類は進歩できる」という考え 人や社会についての理性的／合理主義的な世界観とも言える
12. 合理主義：理性と「一つの答え」 12 理性：人間の論理的思考や推論の能力で、知識の源 合理主義：世界のことを、科学を中心とした一つの体系で解 明できる、という考え。理性をその源泉とする 啓蒙思想：理性によって人や社会のあるべき姿は解明でき る、それにより人類は進歩できる、という考え 共通するもの： 「何事も答えがあり、それには一つの体系がある」 ※ このまとめは単純化してあります。「一つの体系がある」という考えはギリシャ哲学の時代からある、とバーリンは 「理想の追求」などで主張しています。また、近代の科学の発達、啓蒙思想ともに経験主義の影響も大きいです。
13. AI：合理的な「動く理性」 Daniel White, CC BY-SA 4.0 <https://creativecommons.org/licenses/by-sa/4.0>, via Wikimedia Commons

14. 導入：AI（LLM）とは 14 - LLMとは？ - 大規模なテキストデータから学習されたAIモデル - 自然言語を理解。広範囲な知識を統合、推論 - 動作メカニズム - 言語のパターンを学習し、文脈に基づいて最適な応答 を確率的に予測 - ユースケース - 文書要約、プログラムの補完・生成、情報検索 etc.
15. 再掲 合理主義：理性と「一つの答え」 15 理性：人間の論理的思考や推論の能力で、知識の源 合理主義：世界のことを、科学を中心とした一つの体系で解 明できる、という考え。理性をその源泉とする 啓蒙思想：理性によって人や社会のあるべき姿は解明でき る、それにより人類は進歩できる、という考え 共通するもの： 「何事も答えがあり、それには一つの体系がある」
16. 再掲 合理主義：理性と「一つの答え」 16 理性：人間の論理的思考や推論の能力で、知識の源 合理主義：世界のことを、科学を中心とした一つの体系で解 明できる、という考え。理性をその源泉とする 啓蒙思想：理性によって人や社会のあるべき姿は解明でき る、それにより人類は進歩できる、という考え 共通するもの：「何事も答えがあり、それには一つの体系が ある」
17. AI as 動く合理主義を支える技術 17 - 合理主義（科学を中心とした知識の体系）の習得 - 近代合理主義の知識体系をクソデカテンソルにエン コードして理解 - 理性（論理的思考・推論）の高度な模倣 - テンソル上での確率的な連想ゲームで論理的思考・推 論を模倣 - LLMって…もはや動く合理主義じゃないですか！？
18. 動く合理主義に全部やらせればよくね？からの、人間全員失業…！？ 18 - 世界のことをだいたい知っていて推論できるAIは「動く 合理主義」なのかもしれない - 現在の能力は限られているが、能力の向上は止まる確証 はない - 止まらない確証もないが…
 - 「唯一の解」があるなら、大体のことはAIにやらせても よさそう - たしかに人間の仕事はAIに奪われるのかもしれない ※ ここでいう「動く合理主義」は合理主義という営み自体を遂行し、科学や社会、人間のあり方を追求するものではな く、あくまで合理主義という営みが生んだ知識体系を全部覚えていてその範囲内で推論できるものを意図しています。
19. これまでのまとめ 19 - 合理主義と理性 - 推論をもとにした理性という知識の源 
 - 世界を理解するための、科学を中心とした一つの体系 
 - 啓蒙主義により社会や政治にも適用 
 - AIとLLM - LLM：膨大な知識をもち、自然言語を理解し生成する能力を持つ AI
 - 動く合理主義としてのAI - 合理主義の体系と推論スタイルを限定的ながら実現している LLMは「動く合理主義」と言 えるかもしれない
 - 問い - 「動く合理主義」としてのAIは成立するか？するなら人間の仕事はなくなるか？ 

20. でも… 20 「何事も答えがあり、それには一つの体系がある」という合理主義の前提って…？
21. 合理主義の限界：悲劇と限定性 Pierre-Narcisse Guérin, Public domain, via Wikimedia Commons 

22. アイスキュロス『アガメムノン』 22 アガメムノンはギリシャの王。トロイアとの戦争中、女神ア ルテミスの怒りを買い、悪天候に見舞われ出港できなくな る。 風を得て出航するためには、アガメムノンは自分の娘イーピ ゲネイアを生贄として捧げなければならない、と告げられ る。
23. 一つの体系では解が出ない問い 23 - 戦争に負けるか、娘を生贄に捧げるか - 道徳的ジレンマがあるが、選び、結果を引き受けないと いけない - ここに「解」はない。合理主義の一つの体系がすべてを 説明する、という仮定の綻びがある
24. 一つの体系では解が出ない問い 実践編 24 - 国内スタートアップでCTO vs 外資Tech Giant - 国内スタートアップ - 小さくない会社でのCTOという未知の挑戦、魅力 的なチーム、好きな事業 - 外資 Tech Giant - グローバル環境、明らかな高給、未知のレベルの エンジニアとの協業
25. 一つではない解：多元主義 25 - アイザイア・バーリン - 両立しない価値がある、という立場 - 悲劇はこれの典型例 - 「何事も答えがあり、それには一つの体系がある」とい う合理主義（啓蒙思想含む）への強烈な反論 - 両立しないが、対話もできるし、共感もできるし、妥 協もできる、という立場でもある
26. 一つの体系では解が出ない問い…？ 26 - 機能追加 vs リファクタリング - 機能追加 - 短期的な収益。眼の前にある顧客のニーズを満た せる - リファクタリング - 長期的な収益。変更容易性で長期的な生産性を向 上させる
27. すべてわかるわけではない：限定合理性 27 - ハーバート・サイモン - 前提：経済学では人は合理的であると考えられていた - 数理モデルのシンプルさ、合理主義・啓蒙思想の影響、そ もそものアダム・スミスの前提など
 - そもそも完全な合理性は現実的に無理という理論 - 情報の不完全性、時間の制約、認知能力の限界がある
 - これはLLMも同じ

28. 限定合理性の例 28 - 機能追加 vs リファクタリング - 機能追加
 - 積み増しの実装が持続可能なコードベースになるかわ からない
 - リファクタリング
 - 長期的な価値を正確に計算する情報と時間がない

29. これまでのまとめ 29 - 合理主義 - 理性と科学を中心とした一つの体系で世界を理解できる - 動く合理主義としてのAI - AIは合理主義の体系と推論ができる「動く合理主義」かも - 問い - 「動く合理主義」としてのAIは成立するか？するなら人間の仕事はなくなるか？ - 合理主義への反論：多元主義 - そもそも両立しない複数の価値がある - 合理主義への反論：限定合理性 - そもそも完全に合理的な判断はできない - → 完全な合理主義は難しそう
30. 「だいたい動く合理主義」で我慢プラン 30 - 問い - 「動く合理主義」としてのAIは成立するか？するなら人間の仕事はなくなるか？ - 合理主義への反論：多元主義 - そもそも両立しない複数の価値がある - → 見解が一致している価値もありそうだよね？ - → 両立しなくても提案くらいはできるのでは？ - 合理主義への反論：限定合理性 - そもそも完全に合理的な判断はできない - → 人間も限定的な合理性で満足しているし、これでよくない？ - → 「だいたい動く合理主義」はいけるかもしれない - では、残された仕事は…？
31. 残された仕事 Paul Gauguin, Public domain, via Wikimedia Commons 

32. 我々の仕事 32 創造的破壊
33. 我々の仕事：創造的破壊 33 「…現実の資本主義で重要になるのは、そうした類 の競争ではない。鍵を握るのは新製品、新技術、ま た新しい供給地や新しい組織形態（巨大な管理装置 など）が仕掛ける競争だ。これはコスト・品質面で 圧倒的に優位に立つことが求められる競争であり、 従来型企業の利益・生産の限界部分ではなく、企業 の基盤・生命そのものを攻撃する競争だ」 ヨーゼフ・シュンペーター『資本主義、社会主義、民主主義 Ⅰ』日経BP社 p.214 Image available for free publishing from the Volkswirtschaftliches Institut, Universität Freiburg, Freiburg im Breisgau, Germany. Copyrighted free use., CC BY-SA 3.0, via Wikimedia Commons
34. 我々の仕事：創造的破壊 34 「…現実の資本主義で重要になるのは、そうした類 の競争ではない。鍵を握るのは新製品、新技術、ま た新しい供給地や新しい組織形態（巨大な管理装置 など）が仕掛ける競争だ。これはコスト・品質面で 圧倒的に優位に立つことが求められる競争であり、 従来型企業の利益・生産の限界部分ではなく、企業 の基盤・生命そのものを攻撃する競争だ」 ヨーゼフ・シュンペーター『資本主義、社会主義、民主主義 Ⅰ』日経BP社 p.214 Image available for free publishing from the Volkswirtschaftliches Institut, Universität Freiburg, Freiburg im Breisgau, Germany. Copyrighted free use., CC BY-SA 3.0, via Wikimedia Commons
35. 我々の仕事 35 創造的破壊 本質：新しく何かを作ること
36. 合理主義への反論 36 - 多元主義：複数の両立しない価値の体系がある - これにより解を出せない問いが生まれる。ただ一つの 答えがある単一の体系は作れない - 限定合理性：完全な合理性には到達できない - 情報の不完全性、時間の制約、認知能力の限界がある
37. 合理主義への反論の逆説 37 - 多元主義：複数の両立しない価値の体系がある - しかし人間は選択し、行動し、それによる結果を引き 受けて、未来に進むことができる - 限定合理性：完全な合理性には到達できない - しかし人間は選択し、行動し、それによる結果を引き 受けて、未来に進むことができる
38. 残された仕事 38 何を作るか。どう作るか。どう作ると上手か。コードの何を 美とするか。答えはないし、あっても到達できない。限定的 な状況で、答えのない問いに真摯に向き合い、わからないな りに精一杯考えて答えを出し、私たちエンジニアは、新しく 何かを生み出す。 つまり、
40. おわり
41. 参考文献とブックガイド（１） 41 • アイザイア・バーリン、ラミン・ジャハンベグロー著、河合秀和訳（1993）『ある思想史家の回想』みすず書房 • バーリンは20世紀を代表する思想史家であり政治哲学者です。バーリンが自身の思想を対談形式で語ったも のです。歴史的なアプローチで多元主義を理解するのに役立ちます。哲学、政治、芸術など多岐にわたるト ピックがわかりやすく語られています。思想史に限らず幅広い分野に興味がある方におすすめです。 • アイザイア・バーリン著、川出良枝訳（2022）『マキアヴェッリの独創性』岩波書店 • 「合理主義＝世界のことを、科学を中心とした一つの体系で解明できる」という中心的な仮説は、この本の 「理想の追求」という論文の議論をもとにしています。バーリンの論文は博覧強記と大胆な飛躍で読み手へ の要求が高いものが多いですが、この論文は比較的読みやすく、バーリンの多元主義とその発想がコンパク トに表現された論文なので、初めての方にもおすすめです。 • ジョン・グレイ著、河合秀和訳（2009）『バーリンの政治哲学入門』 • 日本語で読めるバーリンの政治哲学の入門書です。論点の整理のために度々参考にしました。初心者向けで はないと思いますが、必ずしも体系化されているわけではないバーリンの思想を体系的に理解するためには 有益です。
42. 参考文献とブックガイド（２） 42 • Nussbaum, Martha and Moyers, Bill “Applying the Lessons of Ancient Greece”, A World of Ideas, 1988 • ヌスバウムは古代ギリシャをスタート地点に倫理学、政治哲学、フェミニズムなど多岐にわたる影響力をも つ現代アメリカを代表する哲学者です。この対談で、ヌスバウムはアガメムノンを題材にギリシャ悲劇にお ける道徳的なジレンを指摘しています。価値の多元性とその帰結が見事に表現されています。全文が公開さ れており、動画もYouTubeにあります。ヌスバウム自身の語りに非常に説得力があるので、英語がある程度 できる方は是非動画を見てみてください。この文献リストで一番おすすめです。 • https://billmoyers.com/content/martha-nussbaum / https://www.youtube.com/watch?v=tWfK1E4L--c • アイスキュロス著、久保正彰訳（1998）『アガメムノーン』岩波書店 • 題材としたアガメムノーンの和訳です。ギリシャにおける三大悲劇詩人による悲劇の名作です。壮絶な呪わ れたドラマは現代の私たちにも衝撃的で、ページを繰る手が止まらない一作です。解説が充実しており、前 提知識を補いながら読めます。発表ではアガメムノーンは悲劇の主人公であり気の毒な雰囲気ですが、実際 はけっこうろくでもないです。 • ヨーゼフ・シュンペーター著、大野一訳『資本主義、社会主義、民主主義 Ⅰ』日経BP社 • 経済学の巨人であるシュンペーターがそれぞれの社会のあり方とその可能性について語った本です。「創造 的破壊」をはじめて本格的に語り、有名にしたのがこの作品です。それ以外にも社会や経済についての広範 な議論が比較的読みやすくされています。一方で予言の書としては現代のコンピューターを中心とした高度 な知識産業から見ると外してないか？ってところもあるので、その対比をしながら読むと楽しいはずです。