Autonomous Driving with E2E and Generative AI 3人で1000GPU超を統合運用する？ マルチクラウド＆オンプレを跨ぐ、構築と運用のリアル！ Platform Engineering Kaigi 2026 Turing 株式会社 大戸 一希 CFP提出時(2026-06時点)と状況が一部変わったため、Proposalと内容が一部異なるところがあります © 2026 TURING, INC. 

イントロ 自己紹介 大戸 一希 Turing 株式会社 Staff Software Engineer Turingでは、GPU学習基盤・マルチクラウド基盤の設計と運用 MLOpsでは、データセット管理・学習高速化・可観測性を改善に従事 通信事業者でのResearch Engineer（Security / Network）からキャリアを開始 過去には、国内事業者（Security / 事業開発）、外資ベンダー2社（クラウドSA / 海外 部署所属 SRE）、国内AI deep tech（ML Platform / 推論基盤）などを経験 2 

イントロ 今日の流れ 会社・チーム・学習基盤 話すこと 02 少人数運用の経緯と限界 少人数で複数基盤を運用する工夫 共通化の判断とAI活用の実態 自動化の途中経過と残る判断 03 構成管理と運用の自動化 01 話さないこと 04 AIエージェントの利用実態/ 知識共有 05 まとめ 構築手順・障害対応の詳細 個別の構築・障害対応は、一部をTech Blogで公開 3 

イントロ 会社紹介 Co-Founder, CEO 山本 一成 将棋AI「Ponanza」開発 将棋名人に初めて勝利 HEROZで上場を経験 名称 Turing 株式会社 創業 2021年8月20日 事業内容 完全自動運転 AI の開発 本社 東京都大田区平和島 代表取締役 山本 一成 写真：CEO 山本 一成 大きな産業で世界と戦う 企業を目指して 2021年に創業 出典：tur.ing/about/（2026-09-24確認） 資本金 3000万円 社員数 106名 4 

イントロ 自動運転動画 公式動画：youtube.com/watch?v=9GBO0jtLaT0 5 

イントロ 組織紹介 自動運転の開発 第1グループ 第2グループ 第3グループ 第4グループ Driving AI Driving System インフラ MLOps モデル開発 Edge/ 組み込み 学習基盤 開発効率向上 出典：jobs.tur.ing/company/organization/ （2026-09-24現在） 2026/7 にインフラ専任へ （2025/10 MLOpsとして採用） 6 

イントロ 既存環境関連業務 チーム紹介 4つの学習基盤の運用・障害対応 4 他チームからの機能追加要望への対応 人のインフラチーム タイトルの3人はCFP提出時の体制 既存環境での他チームとの連携 次期GPU計算基盤に関する活動 オンプレミスに強みのある エンジニア中心に、次期基盤の 構築関連業務にも注力 参考：Turing TechTalk #36 turipo.tur.ing/LpxotJKK/ 7 

イントロ TuringのGPUインフラ 1000基超 GPU / 全環境でSlurm Gaggle 96 オンプレ GMO クラウド 国内 IaaS AWS 以降、Gaggleは「GC1」GMO クラウドは「GMO」Google Cloudは「GCP」と略記 パブリッククラウド Google Cloud 240 パブリッククラウド 単位：GPU基数｜社内資料・2026-09-24時点 (正確な全量は、社内ポリシーにより非公開) 参考：Slurm（オープンソース ワークロード マネージャー）/ GMO GPU クラウド（GPUベアメタルサービス） 8 

イントロ データの流れ 整形済み走行データ データセット生成 学習データ 動画・ログ ／ Amazon S3 Databricks Amazon S3 各環境でデータを取得 GC1 GMO AWS GCP オンプレ 国内 IaaS パブリッククラウド パブリッククラウド Slurm Slurm Slurm Slurm ベアメタル ベアメタル SageMaker HyperPod Compute Engine マウント マウント マウント マウント Lustre Lustre Lustre Lustre 参考：turipo.tur.ing/techtalk42、turipo.tur.ing/techtalk45/ インフラチーム担当 9 

本題 少人数で、要望に応える余力を作る 02 少人数運用の経緯と限界 なぜ、改善に使える時間が足りなかったか 03 構成管理と運用の自動化 何を揃え、どこに環境差を残したか 04 AIエージェントの利用実態と知識共有 運用者に残る判断と、利用者に必要な知識は何か これまでの取り組みをPlatform Engineeringの実践として振り返る（Platform Engineering は社内認知は低い） 10 

経緯と限界 チームとクラスター数の変遷 2024/4 2025/10 期間省略 人数 1人 クラスター数 1 チーム 立ち上げ 2人 2026/1 2人 2026/4 2人 3人 2026/8 4人 … 3 … 大戸入社 3 2 AWS撤退 GCP構築 MLOpsとして クラウドを支援 GCP 2026/5 GC1 / GMO AWS GC1 / GMO GC1 / GMO GCP 主な時点を抜粋／横軸の間隔は経過月数に比例しない（同一クラスターの再構築は省略） 4 4 AWS構築 チーム増員 大戸が兼務開始 中途社員が入社 大戸は7月に専任 GC1 / GMO AWS / GCP GC1 / GMO AWS / GCP 11 

経緯と限界 計算基盤の用途 用途 運用の実態 社内の学習基盤 高額なGPUを 止めたままにしたくない 顧客向けサービスや 推論を動かす基盤ではない 24時間365日の対応保証や、正式なSLOを示すものではない 勤務時間外も長時間の学習が続く 停止は学習・開発の遅れにつながる 12 

経緯と限界 学習・実験に集中できる基盤の提供 GPU使用率の推移（社内ダッシュボード／2026年8月） GC1 AWS GMO GCP 障害・計画停止で GPU使用率が低下 利用上の制約も学習の妨げに データ配置を最適化 コスト・権限を考えて配置 安定稼働を維持 迅速な復旧で学習中断を抑制 利用者ニーズに対応 機能改善で試行錯誤を支援 環境の増加で運用負荷が増大し、機能要望も増えたため GC1・GMOを含めた運用の効率化が急務に 13 

構成管理と自動化 GC1・GMOでも自動化を進める GC1 GMO オンプレ 国内 IaaS 先行担当者が構築 既存環境へ展開 AWS GCP パブリッククラウド 現環境は大戸が構築（1人で担当） IaC・CI/CDを整備済 GCPの構築・運用はブログで公開 AWSの詳細も近日公開予定 GCP構築・運用の記事：zenn.dev/turing_motors/articles/fd34d82e0e56d7 14 

構成管理と自動化 AWS/ GCP で実現できていたこと 構成をコード化 (Gitで管理) CI/CD (GitHub Actions) AI Agent (Claude/ Devin) 障害調査 (Datadog/ SSH) 構成変更 (失敗はSlack通知) GC1・GMOへの展開と、調査から実行までの連携を進める 社内では、業務に必要なあらゆるAIサービスを会社負担利用でき( Turing Unlimited AI制度 )、Devin なども整備されている 15 

構成管理と自動化 共通化できない部分 GC1・GMO AWS・GCP 物理基盤・提供側の制約 サービス仕様による制約 Turingだけでは変更できない範囲も 例：FWルール設定変更など Terraform / Terragruntで構成を変更 マネージドサービスの仕様には制約 同じにできない部分は受け入れ、できる範囲で構成変更を共通化 16 

構成管理と自動化 ノード内の構成変更を3層に分ける 01 02 03 Boot image 再起動を伴う基本構成 カーネル・ドライバなど Startup script ノード固有の初期化 マウント・NIC・Account DB接続など Ansible 稼働中の設定変更 原則、ジョブを止めずに適用 17 

構成管理と自動化 設計思想は揃え、実装は環境に合わせる GC1 Boot image Startup script Ansible NVIDIA DGX OS なし 段階適用予定 GMO AWS GCP 既存OS Packer AMI Packer image なし スクリプト ＋Ansible スクリプト ＋Ansible 段階適用中 未適用を検出 して適用 未適用を検出 して適用 AWS：SageMaker HyperPodでノードを管理 GCP：Cluster ToolkitでVMを構築 18 

構成管理と自動化 実行中の学習ジョブを中断せずに変更する Boot image / Startup scriptの変更（クラウドの例） 新規割当を停止 (Drain) ジョブ終了を待つ VMの再作成 復旧 再起動が不要な設定変更 稼働中ノードへAnsibleで適用 mainへのマージ時に自動実行 技術状態の基準日：2026-09-24 GC1・GMOは変更時の自動適用を 整備予定／手動適用の部分が残る 19 

構成管理と自動化 再作成されるVMへの設定変更 ノードを置換 AWS・GCP 適用版を確認 設定を適用 動作を確認 1. 適用状況を定期確認（AWSは5分ごと） 2. 最新のplaybookが適用済みか確認 3. 未適用のノードにplaybookを適用 GC1・GMOでは、再作成後の定期再適用は行わない ノード交換のたびに、ディスクが初期化される構成ではない 再構成はインフラチームが計画する作業で、頻度も低い 20 

構成管理と自動化 障害調査業務の効率化 Datadog 監視 監視設定：Terraform Datadog Agent：Ansible ランブック 対応手順 人とAIが 調査 監視と手順はセットで整備 (ex. ゾンビプロセス発生やOOMと学習 ジョブの関連を調査) 障害記録（Notion）からランブック（Markdown）を作り 次の調査に活用する 21 

構成管理と自動化 課題解決までAIを活用する構想 DevinとSemaphore-UIの連携は実装中（一部実現） Semaphore-UI インフラチーム用 AIエージェント 他チーム用 Devin 未確立のランブック または影響が大きい操作 人が判断 承認後に実行 定義済みの定型作業 自動実行 都度承認不要 Devinにroot権限や、クラウドの強い変更権限は持たせない 参考: Semaphore-UI（GUI/ APIで複数の自動化ツールを呼び出せるツール） 22 

AIエージェントの利用実態 MLエンジニアが自分で一次調査できる AWS・GCPで利用開始 GC1・GMOは引き続き インフラチームへ依頼 Slackで依頼 Devinが調査 Datadog・ノードへの SSH（コマンド制限あり） ノードへのログインはクラウドの一部のみ／許可したコマンドで調査 23 

AIエージェントの利用実態 調査回答の先に必要なこと 回答あり 約97% Semaphore-UI連携の実現で ある程度解決する予定 原因の見当がついても、 復旧を実行する権限はない Devinの回答例（9/15） 66 / 68件 Devinだけで決着 約26% 18 / 68件 社内Slack 68スレッド｜4/15〜9/9（2026年）、9/15集計｜工数削減率ではない 24 

AIエージェントの利用実態 回答結果の解釈には知識が要る ストレージやネットワークの前提を 知らないと、次の確認が難しい Devinの調査途中の回答（抜粋） 最終診断ではない インフラチームが 改めて調査することも 25 

AIエージェントの利用実態 PRを作れても、採否の判断は残る そのままでは、運用効率向上の 銀の弾丸にはなり得ない 良かったこと 運用者に残ったこと 利用者の要望から、 Devinが実装案・PRを作れる 共有基盤への影響と保守負担を確認 採用・修正・不採用を判断する 例：一時領域の変更案は不採用にし、要望には別実装で対応した 影響を確認する分、利用者からは対応が遅く見えることもある 26 

利用者との知識共有 効率的な基盤運用とは？ 登壇者が観察した一部の行動(私見) ユーザ内で自律的に運用が 回るのが最も好ましい 27 

利用者との知識共有 各環境のユーザーガイドを整備 AWS 人もAIも参照できるよう、ドキュメントの整備を進める GCP 28 

利用者との知識共有 社内インフラ勉強会の実施 ネットワーク 次回は「クラウドとは？」を予定 ストレージ 資料はコーディングエージェントにも渡せる形で配布 社内勉強会資料の表紙 29 

まとめ 仕組みは組み上げつつあるが、道半ば 整えてきた土台 ● ● ● ● 構成をコードで管理 監視とランブック 利用者自身による一次調査 ドキュメントの充実/ 知見共有 全環境への展開と、実行系の連携は引き続き整備中 引き続き進めること ● ● ● GC1・GMOへの構成管理の展開 DevinとSemaphore UIの連携を運 用へ 知見共有の継続的な実施 30 

まとめ 自動化への道のりは、思っていたより遠い ● ● ● 環境差を受け入れ、共通化する範囲を決める 要望と運用負担を見て、採否を判断する 利用者と、基盤を使うための知識を共有する 発表までに形にしたかったが、想定外のトラブルが続いた 行動指針：tur.ing/values/ 31 

最後に 私たちと一緒に働きませんか？ SRE・クラウドの経験を GPU基盤の運用改善へ ML Platform Engineering・SRE （GPUクラスタ） インフラエンジニア 募集要項・応募 jobs.tur.ing 定期的に試乗会を開催 turing.connpass.com 32