Slide 1

Slide 1 text

LLM機能を自作して分かる Snowflake Cortex AIの強み データ事業本部 鈴木那由太

Slide 2

Slide 2 text

自己紹介 名前:鈴木那由太 (すずきなゆた) 所属:データ事業本部 ビジネスソリューション部 業務:データ分析基盤の構築・AI機能構築 AWS・Google Cloud・Snowflakeなど 所属:大阪 受賞:2026 Snowflake Partner Champion (25年 Award) 2

Slide 3

Slide 3 text

この発表のテーマ SnowflakeのCortex AIは進化が速く、ビジネス場面の 分析・意思決定の様々な課題に適用できるようになっている。 過去に自作した分析向けのLLM機能と比較しつつ、 どんな機能を提供しているかと進化のスピード感をご紹介する。 直近の新しい機能もご紹介したい。 3

Slide 4

Slide 4 text

目次 ●Snowflakeについて ●これまで作ってみたデータ分析場面のAI機能 vs Snowflake Cortex AI ●今後気になる機能 4

Slide 5

Slide 5 text

Snowflakeについて

Slide 6

Slide 6 text

Snowflake = AIデータクラウド 6 データからより多くの価値を引き出すよう設計されたSaaSサービス。 ● 高いパフォーマンスで大規模なデータを処理できる。 ● データ活用の主要課題(メタデータや品質管理・データセキュリティ・ 外部データの調達・AI/MLなど)に対応したアプローチを持つ。 ● データの80〜90%を占めるといわれる非構造化データも処理・活用できる。 https://www.snowflake.com/ja/why-snowflake/what-is-data-cloud/ より

Slide 7

Slide 7 text

Snowflake Cortex AI 7 SnowflakeのAI機能。例えば以下の機能がある。 AI 関数 Cortex Agents Cortex Analyst SQL から AI 機能を利用 分類・翻訳・OCR等も AI エージェントを構築 Text2SQL 機能 Cortex Search CoWork CoCo (Cortex Code) ベクトルデータベース 検索 API エージェント向けの UI Snowflake ネイティブの コーディングエージェント

Slide 8

Slide 8 text

CoWorkからの分析イメージ Cortex AgentsにSnowflakeに格納済みのデータ などを分析するツールを設定しておくことで、 ドキュメントを使ったRAGやText2SQLで取得した データを使った回答を生成できる。 https://docs.snowflake.com/en/user-guide/snowflake-cortex/snowflake-cowork より 8

Slide 9

Slide 9 text

Snowflake Cortex AIの進化の歴史 9 AIエージェント機能はGA後まだ1年経っていないが、 非常に強力にデータ分析場面におけるAI活用を牽引している。 2022年 1月 2022年 11月 2023年 11月 2024年 8月 2025年 2月 2025年 11月 InstructGPT ChatGPT Snowflake Cortex AI Cortex Analyst Cortex Analyst Cortex Agents Cortex Agents Snowflake Intelligence OpenAI APIの既定モデ ルに 公開(Research Preview) Public Preview開始 Private Previewで公開 GA GA Public Preview開始 GA 2022年11月 LlamaIndex 前身のGPT Index公開 2023年 3月 2024年 6月 2024年 11月 2025年 8月 Claude Snowflake Cortex AI Snowflake Intelligence (現CoWork) Snowflake Intelligence Anthropicが発表 GA発表 Cortex Analyst 公開発表 Public Preview 発表 生成AI業界 Snowflake

Slide 10

Slide 10 text

これまで作ってみたデータ分析場面のAI機能 vs Snowflake Cortex AI

Slide 11

Slide 11 text

これまで作ってみたAI機能 ① AIによるレコード単位の分析関数(分類・要約など) ② Text2SQL機能 ③ チャットUI 11

Slide 12

Slide 12 text

作ってみた機能① レコード単位の分析関数 DWHから呼び出し可能な大規模な並列実行ができるコンピュートをホストし、 LLMを提供するサービスのAPIを呼び出す。 ※今では多くのクラウドDWHで自製品のLLM機能と統合されているケースが多い。 分析イメージ 課題 構成イメージ • サービスによってLLMのロケーションが固定しにくい。 • LLMを提供するサービスと接続するための大規模に DATA WAREHOUSE 並列実行可能なインフラが必要。 Function AI API • 呼び出しに最適化されていないため実行時間がかかる 場合がある。 12

Slide 13

Slide 13 text

Snowflakeでの実現方法: AI関数 13 AI_COMPLETE()などネイティブのAI関数が用意されており、SQLなどから利用できる。 使用されるLLMはClaudeなども利用できる。 良い点 AI Function DATA WAREHOUSE • LLMのロケーションをアカウントパラメータから設定可能。 • モデルも自動的に追加(呼び出し側は要改修) • スループットが最適化されており高速に処理が可能。 • (6000レコードを処理するのに2分程度の例も) 翻訳やドキュメント向けのAI OCRなども用意されている。 AI_FILTER()など、意味的な検索条件や集約が可能な関数もある。

Slide 14

Slide 14 text

作ってみた機能② Text2SQL機能 14 テーブル定義やリレーションなどをプロンプトとして持たせてSQLを生成していた。 分析向けの集計クエリは文字数が多くなりがちで、生成難度が高かった。 課題 検証したプロンプト例 • SQLエンジンの仕様に合わせたクエリを 生成させづらい • 集計定義やメタデータなどまで含めるとプロンプトが 長くなる • 結合などもある複雑な集計クエリだと生成が失敗し、 構文エラーになることがあった ※ https://arxiv.org/pdf/2305.12586 より

Slide 15

Slide 15 text

Snowflakeでの実現方法: Semantic View / Cortex Analyst 15 Cortex AgentsおよびCortex AnalystからSemantic Viewを経由してテーブルを分析できる。 自然言語から自動でSQLを作成し、クエリを実行できる。 良い点 • Autopilotにてビュー定義を自動生成 できるようになった。改善案も提案 してくれる。 • Snowflakeの文法に合わせたクエリ を高速に生成でき、エラーにも ならない。 • 集計定義を共通化できる。 https://www.snowflake.com/en/developers/guides/getting-started-with-cowork/ を参考

Slide 16

Slide 16 text

作ってみた機能③ チャットUI 16 Streamlit in SnowflakeとCortex AgentsによるチャットUIを構築した。 課題 StreamlitアプリによるチャットUI例 • フロントエンドの知見が必要でデータエンジニアの スキルセットと合いづらい • 初回アクセス時のサーバー起動待ちが発生する、 または起動しぱなしにする必要がある。 • アプリからエージェントに問い合わせる際の権限制 御が複雑(アプリオーナー権限・呼び出し元権限な ど) ※ https://www.snowflake.com/en/developers/guides/frosty-llm-chatbot-on-streamlit-snowflake/ より

Slide 17

Slide 17 text

Snowflakeでの実現方法: CoWork 17 1からチャットUIを用意しなくても、既にCortex Agentsを利用可能なUIが提供されている。 Snowflakeユーザーで透過的にエージェントを利用可能で、会話履歴も保存される。 良い点 • UI構築の工数が0で済むようになった。 • ユーザーのロールが透過的に適用される。 • エージェントのフィードバックもできる。 • グラフや会話履歴の保存も可能。 • サーバーの起動待ちもなし。 https://www.snowflake.com/en/developers/guides/getting-started-with-cowork/#0 より

Slide 18

Slide 18 text

今後気になる機能

Slide 19

Slide 19 text

App Runtime(GA) 19 ● 1コマンドでSnowflake上にアプリをデプロイできる。(認証・ガバナンスも適用される) ● CoCoからSkillsで誰でも簡単にアプリを実装できる。 ● プレビュー公開のCoCo Agents SDKでエージェントループも実装できる。 deploy ( snow app deploy ) 開発者 Snowflake App Runtime Application Service Webアプリ実行 Cortex Code / Snowflake CLI / 3rd Party IDE snowflake-apps skills Snowflakeデータ Tables / Warehouse RBAC / SSO / RLS Next.js / Node.js アプリ 利用者の ブラウザ https://docs.snowflake.com/en/user-guide/cortex-code/cortex-code-desktop/building-apps より

Slide 20

Slide 20 text

Cortex Sense(近日中にPrPr予定) 20 ● Cortex AIのAIエージェントがユーザーの業務や、Snowflakeに格納されているデータに 関する情報を利用できる、フルマネージドなコンテキストレイヤが提供される予定。 期待しているポイント • AIエージェントが業務プロセスに沿って 分析を行うときに、固定のInstruction ではなく業務のコンテキストをもとに 動いてくれるようになりそうなこと。 • Semantic Viewを作らなくても分析できる テーブルが増えること。 https://www.snowflake.com/en/blog/enterprise-ai-agents-grounded-context/ より

Slide 21

Slide 21 text

まとめ ● Snowflake Cortex AIは急速に進化しており、さまざまな ビジネスの分析・意思決定をサポートできるようになった。 ● CoWork・Cortex Agentsを使って簡単に組織で AIエージェントを利用できる。 ● 軽量アプリ開発の民主化やAIエージェントへの コンテキストレイヤの機能は今後期待したい。 21

Slide 22

Slide 22 text

No content