Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
TROCCO今昔
Search
gtnao
July 18, 2025
Technology
0
270
TROCCO今昔
Data Engineering Study #30
primeNumber inc. Sponsor LT
https://primenumber.com/
gtnao
July 18, 2025
Tweet
Share
More Decks by gtnao
See All by gtnao
ClaudeCodeにキレない技術
gtnao
1
1.2k
PaaSとSaaSの境目で信頼性と開発速度を両立する 〜TROCCO®︎のこれまでとこれから〜
gtnao
8
18k
0 -> 1でフロントエンドのテストを 書く文化を作っている話
gtnao
2
2.6k
ZetaSQLを使って、 カラムリネージ機能を作った話
gtnao
3
1.8k
Other Decks in Technology
See All in Technology
[CV勉強会@関東 CVPR2025 読み会] MegaSaM: Accurate, Fast, and Robust Structure and Motion from Casual Dynamic Videos (Li+, CVPR2025)
abemii
0
180
Devinを使ったモバイルアプリ開発 / Mobile app development with Devin
yanzm
0
180
AIとTDDによるNext.js「隙間ツール」開発の実践
makotot
5
660
Yahoo!ニュースにおけるソフトウェア開発
lycorptech_jp
PRO
0
330
アジャイルテストで高品質のスプリントレビューを
takesection
0
110
LLM時代の検索とコンテキストエンジニアリング
shibuiwilliam
2
1.1k
実践アプリケーション設計 ②トランザクションスクリプトへの対応
recruitengineers
PRO
2
130
つくって納得、つかって実感! 大規模言語モデルことはじめ
recruitengineers
PRO
19
4.8k
Figma + Storybook + PlaywrightのMCPを使ったフロントエンド開発
yug1224
2
120
歴代のWeb Speed Hackathonの出題から考えるデグレしないパフォーマンス改善
shuta13
6
600
VPC Latticeのサービスエンドポイント機能を使用した複数VPCアクセス
duelist2020jp
0
180
Webアクセシビリティ入門
recruitengineers
PRO
1
210
Featured
See All Featured
Bash Introduction
62gerente
614
210k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
656
61k
The Invisible Side of Design
smashingmag
301
51k
Gamification - CAS2011
davidbonilla
81
5.4k
Facilitating Awesome Meetings
lara
55
6.5k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
Producing Creativity
orderedlist
PRO
347
40k
Balancing Empowerment & Direction
lara
2
590
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
It's Worth the Effort
3n
187
28k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
15
1.6k
Git: the NoSQL Database
bkeepers
PRO
431
65k
Transcript
TROCCO今昔 Data Engineering Study #30 primeNumber inc. Sponsor LT
本スライドは Claude CodeとMarpのみで 作成されました
AGENDA 1. 自己紹介 2. TROCCOとは 3. 年表 4. 黎明期(2018年) 5.
成長期(2019年〜2023年) 6. 転換期(2024年) 7. 現在地(2025年)
Naotaka Nakane @gtnao primeNumber プロダクト開発本部 CTO室 室長 Staff Software Engineer
2018年11月入社(TROCCOリリースと同じ月!) 色々つくってきました ワークフロー プログラミングETL dbt連携 データカタログ(旧 COMETA) Self-Hosted Runner etc...
TROCCOとは 点在するデータの「統合」を自動化。 「統合」を軸にデータ基盤の構築や運用を支援するSaaSプロダクト。 データをビジネスに活用するまでのステップ
TROCCOの機能 統合の他にも、データ加工を手間なく実現できるデータマート機能や、 データ処理のプロセスを管理するワークフロー機能等も搭載し、 データ基盤の構築・運用を総合的に支援します。
7年前までタイムスリップ 🕑
TROCCO年表 2018 Next 2018.11 TROCCOリリース Embulkベースの転送機能のみを 備えたSaaSとしてローンチ 2019 夏 データマート機能
転送後の変換処理を シンプルなSQL実行機能として サポート 2020 春 ワークフロー機能 複雑な依存関係をGUIで定義し データパイプラインの構築が可能に 2022 夏 データカタログ機能 メタデータ領域に進出 2024 春 ブランドイメージ刷新 COMETA誕生 Connect 100+プロジェクト 2025 現在 最新アップデート コネクタ爆増中 Self-Hosted Runner COMETA AI
黎明期:2018年
プレスリリース(2018年11月8日)
初期のトップページ
初期の転送設定画面
初期のプレビュー画面
初期の特徴 転送設定とスケジュール実行のみのシンプルな構成 コネクタ(10個前後) DWH:BigQuery、Redshift Database:MySQL、PostgreSQL ストレージ:S3、GCS、SFTP ※ SalesforceなどのSaaS系や広告系コネクタはまだ無し
成長期:2019年〜2023年
2019年:データマート機能 データ転送後の変換処理を、シンプルなスケジュールドSQL機能として提供 SQLが書ければすぐに使える dbtよりも手軽に始められる TROCCOの屋台骨を支える機能として、2025年現在も広く使われている
2020年:ワークフロー機能 ついに本格的なワークフロー機能が登場 各転送機能の依存関係を定義可能 GUIでドラッグ&ドロップ、DAGを直感的に構築 複雑なデータパイプラインの可視化と管理 💡 実は2020年(ローンチ2年後)までワークフロー機能は存在しませんでした...
初期のワークフロー画面
以前はどうしてた? ジョブ依存機能 各設定単位で、依存する設定を定 義できる機能があった 全体を俯瞰して、フローを組める 機能はなかった
その他機能の拡充 SaaS、広告系コネクタの拡充 プログラミングETL スキーマ追従機能 変更ロールバック機能 マネージドデータ転送機能 ワークフローのループ実行 データチェック機能 dbt連携 データカタログ機能
ラベル機能 チーム機能 SAML認証・2要素認証・IP制限 監査ログ etc..
転換期:2024年
COMETAリリース TROCCOのデータカタログ機能がCOMETAとして生まれ変わる
ブランドリニューアル 親しみやすさは残したまま、信頼性の感じられるデザインへ
(参考) ブランドアイデンティティの再構築 https://note.com/kotaki_kazumasa/n/nc9fe25adbb6a
Connect 100+ 構想スタート 会計、人事、決済、RevOpsといった領域で 1年で100以上の新しいコネクタを提供する 野心的なプロジェクト
現在地:2025年
コネクタの爆発的増加 Connect 100+ プロジェクトの成果 2024年11月:110程度 2025年7月現在:170程度 9ヶ月で約60個増加 SAPなどのエンタープライズ向け コネクタもサポート
(参考) Connect 100+ を支える技術 https://speakerdeck.com/kanyamaguc/connect-100-plus-wozhi-eruji-shu
Self-Hosted Runner Dockerがあれば、どこでも転送ジョブを実行 SaaS版TROCCOとハイブリッド構成 データ転送はコンテナ内で完結 通信はコンテナから開始(セキュアな設計) ネットワーク制約を柔軟に回避
データカタログからAIデータプラットフォームへ COMETA AIチャット メタデータ自動生成
Coming Soon... ワークフローの条件分岐機能 より柔軟なフロー制御が可能に
多様な条件分岐に対応 指定可能な条件 実行時刻 ジョブの完了ステータス HTTPタスクのレスポンスコード
あらゆるデータを、ビジネスの力に変えるべく これからも開発していきます🚀
Happy Data Engineering!