LLMの開発と社会実装の今と未来 / AI Builders' Community (ABC) vol.2

Transcript

1. LLMの開発と社会実装の 今と未来 Masanori Hirano, Preferred Networks, Inc.
2. 自己紹介 Preferred Networks 金融チーム Researcher (TL) 博士(工学)、CMA 経歴： • ~2023/09 東京大学大学院工学系研究科 博士課程 • 2023/10~ 現職 学会活動等： • IEEE CIFEr 2026 Organizing Committee • JSAI SigFin幹事 (2024~) • IIAI AAI CDEF General Chair (2025~) • NLP若手の会(Yans) 運営委員 (2021-2023) • Other many PCs... 専門：Multi-agent Simulation; NLP 平野 正徳 Masanori Hirano https://mhirano.jp 2 採用強化中!!!
3. 3 PFNの事業: AI技術のバリューチェーンを垂直統合 ソリューション・製品 計算基盤 AIチップ PFNは、チップ、計算基盤、生成AI基盤モデル、ソリューション・製品まで、AI技術のバリュー チェーンを垂直統合し、ソフトウェアとハードウェアを高度に融合することで、競争力の高い技術の 開発および産業応用を進めています。 生成AI基盤モデル 様々な産業・消費者向けのソリューション・製品 MN-Core MN-Core 2 GPUクラスタ MN-3 (MN-Core クラスタ) PLaMo Prime（国産LLM） PLaMo Lite（エッジ向けSLM） MN-Core 次世代 MN-Core 2を 計算資源とした クラウドサービス 物質のエネルギー計算モデル PFP 生成AI（推論）向け MN-Core L1000 （2026年提供予定）
4. GPTやClaude、Geminiではだめなのか？ • とりあえずのところ、GPTやClaude、Geminiで良いとは思われる • GPT-4o-miniなどは、非常に安価であり、さまざまなアプリケーションに組み込 むには非常に取り回しがよい • 一方で、自分たちでモデルを抱えるメリットも大きい • LLMの開発を通じたノウハウや新たな技術の開発 • 出力物のライセンスの縛りを受けない(再学習可能) • オンプレミスでの利用が可能である ← 日本市場ではかなり重要 • 個別のドメインや用途に応じた特化型のLLMの構築可能性 4
5. ★ ★ 1 3 ★ 1 ★ 2 ★ 3 © Google Maps 東京駅近くの フレンチレストランで おすすめを教えて 国産化による違い ★ 2 ChatGPT (web検索なし)
6. 国産化は必要なのか？ • 現状の段階においては、部分的にYes (多くの場合No) • グローバルなモデルを代替するモデルとして充分な性能を提供できるAPIが PLaMoくらいしかなく、選択肢が狭い。 • 若干の性能差もまだ残っている • 将来的には国産モデルが重要になる可能性もある • GPTはまだビジネスメールが流暢とは言えないシーンもある • 日本文化にフォーカスしたLLMは非常に重要 • たくさんの言語を知っている分、膨大なパラメータが必要であるため、計算コス トが大きい • Token効率が最大化されていない • 日本語において、特定のドメイン/タスクに特化したモデルの必要性 • 日本固有の法規制などを踏まえた学習が必要になる局面も増えてきている 6
7. 特化型モデルの意義 (現状イメージ) 7 特定分野・タスク における性能 汎用超高性能 モデル 自社モデル ドメイン/タスク特化で 向上できる性能 まだまだ日本語スク ラッチモデルの性能差 は大きい
8. 特化型モデルの意義 (将来イメージ) 8 特定分野・タスク における性能 汎用超高性能 モデル 自社モデル ドメイン/タスク特化で 向上できる性能 徐々に性能差は詰まり つつある (モデルのアップデー トでの性能向上も少な くなりつつある)
9. 金融機関向け大規模言語モデルPLaMo-fin-baseへ • PLaMoにドメイン特化の学習を行うことで、日本語で金融に特化した モデルの開発に成功。 • すでに、金融関連の各社に提供を開始。 • アライメント対応を実施中 9 https://www.preferred.jp/ja/news/pr20250127/
10. 金融におけるLLMの応用の今後の発展可能性 • 現状では、LLMの特性が金融分野において完全には明らかではない • (特に日本語では)LLMの性能を引き上げるということがまだ重要である • 「情報抽出機」としての役割はすでに、社会実装につながってきている • ESG投資における文書分類 • センチメント分析 (BERT時代からすでに自動化が行われている) • 大量の文書のスクリーニング • これからは「情報出力機」としての役割をどこまで社会実装できるか？ • アナリストレポートの自動生成 • 決算短信・有価証券報告書・統合報告書の自動生成 • チャットボットによる投資家等の支援 10
11. まとめ • PFNでは、日本語に特化したフルスクラッチのモデルを構築している • 自社でモデルを抱えるメリットもそれなりにある • 日本語に特化したモデルを構築するメリットもある • 日本語におけるドメイン/タスク特化のLLMの取り組みも重要になって きている • 自社でモデルを持っているからこそ取り組める • 実際に、PFNでの取り組みの実例として、金融分野特化モデルを作って いる • 特に金融分野では、これからの社会実装で「情報出力機」の機能が求め られる。 11
12. Thank you for listening! 12 We’re hiring!!!