複雑系科学を知ろう Introduction to Complex Systems

株式会社ニューロジカのテックブログを公開しました。

採用ポジション：https://speakerdeck.com/neurogica/recruitment-position
HP：https://neurogica.com
お問い合わせ：info@neurogica.com

Transcript

1. 複雑系科学を知ろう 株式会社ニューロジカ 開発部 佐藤太陽 複雑系科学を知ろう
2. @Neurogica Inc. ⽬次 1. 複雑系とは a. 背景と概要 b. 創発と⾃⼰組織化 2. 複雑系の現象 a. フラクタル b. カオス c. カオスの縁 3. 複雑適応系 a. 進化と遺伝的アルゴリズム b. ニューラルネットワーク ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ 4. AI応⽤ a. フラクタルを活⽤した画像認識モデル の学習（CVPR 2022） b. カオスの縁を活⽤したLLMの学習 （ICLR 2025） 5. まとめ
3. @Neurogica Inc. 複雑系：背景と概要 ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ 背景 システムを構成する要素の振舞いのルールが，全体の⽂脈によって動的に変化するシステム 1980年代の第⼆次AIブーム（⼈⼯⽣ 命が流⾏った時代）に提唱 従来のアプローチでは説明が困難で あった，多数の要素が相互に作⽤する 複雑なシステム（⾃然，⽣命，社会， 経済など）を理解するため 複雑系という⾔葉 複雑は，complicated（ごちゃごちゃした） ではなく，complexの⽅． つまり複雑系は，バラバラにできる要素の 単純な組み合わせで構成されるシステム （complicated system）ではなく， バラバラにすると本質が抜け落ちてしまう ようなシステム（complex system）．
4. @Neurogica Inc. 創発と⾃⼰組織化 創発（Emergence） 要素間の局所的な相互作⽤から，要素の総和を超えた ⾼次の機能や知能が⼤域的な秩序として現れる現象 例：神経細胞の相互作⽤から知能や意識が⽣まれる ⾃⼰組織化（Self-organization） 外部からの指⽰や中央制御なしに，個々の要素の⾃律的な 相互作⽤によって，全体として秩序ある構造やパターン， 機能が⾃然に形成される現象 複雑系は，創発的で⾃⼰組織化する振舞いを⽰すシステムとも定義できる． ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
5. @Neurogica Inc. フラクタル フラクタル 自己相似性 を有する幾何学的構造のこと． ➡一部を拡大した時に，全体と同じ構造をもつ． 自然界で見られるフラクタルの例 • 植物の枝分かれ • 海岸線 • 雲の形 • 人体における血管や肺の分岐 • 銀河の空間的分布 など… マンデルブロ集合 https://commons.wikimedia.org/wiki/File:Self-Similarity-Zoom.gif ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
6. @Neurogica Inc. カオス カオス 決定論的な規則に従っているにもかかわらず，⾮ 常に複雑で不規則な振舞いをする現象． 初期値鋭敏性 初期値の微⼩な差で結果が⼤きく変わる性質． バタフライ・エフェクトとも呼ばれる． ➡「ブラジルでの蝶の⽻ばたきが， テキサスでトルネードを引き起こすか？」 というローレンツの発⾔からこう呼ばれた 2重振り⼦でみる初期値鋭敏性 ⾚→橙→緑→⽔→⻘の順に0.001%だけ初 期位置をずらして計算している https://www.youtube.com/watch?v=vg-4HKEOMqI ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
7. @Neurogica Inc. カオスの縁 カオスの縁 秩序とカオスの境界に位置する領域． 柔軟な組織を維持するために重要とされる． セル・オートマトン 並んでいるセルが，近傍の状態に基づき時間ス テップで状態を更新する計算モデル． 時刻 t 時刻 t+1 時刻 t 時刻 t+1 8つのパターンの遷移ルール例 Wolframの4クラス分類 クラスI：秩序（定常） クラスII：秩序（周期） クラスIII：カオス クラスIV：カオスの縁 ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
8. @Neurogica Inc. 進化と遺伝的アルゴリズム 複雑適応系 ⽣物の情報処理のシステムに着⽬して， ⽣物をモデル化したもの． 遺伝的アルゴリズム ⽣物の進化の過程を模倣した最適化⼿法 • 遺伝⼦：最適化したい個々のパラメータ （例：関数の変数） • 個体：遺伝⼦の集合体．解の候補そのもの． 簡単な流れ ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
9. @Neurogica Inc. ニューラルネットワーク 脳の模倣：⽣物学的原点 もともと，⽣物学的ニューロンの発⽕と，神経細胞間 のシナプス結合を数理的にモデル化したもの． 複雑系としての側⾯ • 個体と全体：単⼀ニューロンは単純な閾値関数だが， その結合体として「認識」や「推論」を創発させる． • ⾃⼰組織化としての学習：局所的な重みの更新が， ネットワーク全体の「知能」というマクロな秩序を形 成する． ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
10. @Neurogica Inc. フラクタルを活⽤した画像認識モデルの学習(1) Replacing Labeled Real-Image Datasets with Auto-Generated Contours (CVPR 2022, 産総研) 背景：実画像データセットの限界 ⼤規模実画像データセットは画像認識モデル の発展に不可⽋だが，以下の致命的な課題を 抱えている． • プライバシーや肖像権 • 膨⼤なアノテーション作業のコスト • データの偏りから⽣じるバイアス ⼿法：フラクタルによる⾃動⽣成 • フラクタル⽣成に使われるIFSという式を⽤ いて，パラメータを変更することで10000 クラスの画像を⾃動⽣成． • パラメータそのものがラベルとなるため， アノテーションコストはゼロとなる． ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
11. @Neurogica Inc. フラクタルを活⽤した画像認識モデルの学習(2) 実験結果 ⽐較⼿法：実画像データセットで事前学習 提案⼿法①：フラクタル幾何による画像 提案⼿法②：輪郭幾何による画像 驚異的な転移性能：フラクタルのみで事前 学習したモデルが，実データで学習したモ デルに匹敵，あるいは⼀部凌駕する． 示唆 AIは物体のテクスチャではなく，幾何学的な「輪郭の本質」を学習している． ⾃然界の物体の境界（エッジ）は，本質的にフラクタル性を持っており，数理的に再現した 「複雑なエッジ」を学ぶだけで，実世界の物体を特徴つける空間フィルターが構築される． ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
12. @Neurogica Inc. カオスの縁を活⽤したLLMの学習(1) Intelligence at the Edge of Chaos (ICLR 2025, イェール⼤学など) 背景と動機 LLMの能⼒は、⼈間が作成した膨⼤な知的 データに依存していると考えられてきた． • 従来の前提：知能は，⼈間による論理的 ・構造的な記述からのみ継承される． • 本研究の問い：知能は，単純なルールか ら⽣まれる「複雑なシステムを」予測・モ デル化する過程だけで創発しうるのか？ ⼿法 初等セル・オートマトンを学習データとして利⽤ • データ⽣成：秩序（規則的），カオスの縁（複雑）， カオス（ランダム）の各領域のデータを⽣成 • モデル学習：LLM（Transformer）に対し，これら ECAの「次の状態」を予測するよう事前学習を⾏う． ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
13. @Neurogica Inc. カオスの縁を活⽤したLLMの学習(2) 実験結果：複雑性と推論能⼒の相関 ECAの複雑性のレベルが、モデルの獲得する 「知能」の質を決定する． • 秩序的：単純すぎて、モデルは高度な内部表 現を獲得できない． • カオス的：無秩序すぎて、モデルは予測ルー ルを見いだせず、知能が創発しない． • カオスの縁 ：最も高い推論能力を示した． 示唆 知性は「複雑性を予測する能力」から創発する可能性があり，知的な振舞いを生み出すた めには必ずしも人間が作成した高度なデータが必要なわけではない． ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
14. @Neurogica Inc. まとめ • 複雑系は，個々の要素の局所的な相互作⽤から、全体の総和を超えた⾼次の 機能や知能が「創発」し、「⾃⼰組織化」するシステム • 1990年代に⼤きな盛り上がりを⾒せ，物理学、⽣物学だけでなく経済学や 哲学、ビジネス界まで巻き込む巨⼤なブームとなった． • 計算リソースや，理論と実機の乖離などの問題により衰退 • 計算リソースの拡⼤や，深層学習，LLMの登場により，複雑系が再度注⽬ されるかもしれない ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ
15. @Neurogica Inc. 参考⽂献 • 井庭 崇, 福原義久, “複雑系⼊⾨ 知のフロンティアへの冒険,” NTT出版株式会社, 1998. • S Zhang, et al., “Replacing labeled real-image datasets with auto-generated contours,” in Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 2022. https://hirokatsukataoka16.github.io/Replacing-Labeled-Real-Image-Datasets/ • Shiyang Zhang, et al., “Intelligence at the Edge of Chaos,” in Proceedings of the International Conference on Learning Representations, 2025. https://arxiv.org/abs/2410.02536 ⽬次 複雑系とは 複雑系の現象 複雑適応系 AI応⽤ まとめ