メルカリにおけるAI時代の高速プロトタイピング基盤「Arca」

メルカリにおけるAI時代の高速プロトタイピング基盤「Arca」株式会社メルカリ荒井良太 X @ryot_a_rai ・ GitHub @ryotarai

の発達で、プロトタイプを作りやすくなった AI プロトタイプやアプリの作成が、エンジニア以外でもできるようになった。コーディングエージェントに指示すれば、動くものができるコードを書けることが前提ではなくなった PdMやデザイナーも、自分のアイデアを自分で形にできる「これ、どこで動かせばいいですか？」

： AIエージェント時代のVPS Arca Inspired by exe.dev 簡単に永続ボリュームがついたVPSのような環境
エージェント、社内ツール連携を標準装備安全に環境にガードレールを組み込み会社アカウントでのログインが必須共有できるを送るだけで共有複数人で共同開発も可能 URL

社内での使われ方プロトタイピング以外の用途にも広がっているアイデア検証新機能や改善案を触れる形にする社内向けダッシュボード検索・レコメンドの指標ユーザーリサーチの結果
チームの入口ページ社内ハッカソン全社的に利用アイデア募集から成果物の公開まで Arca上で

「簡単に」始められる工夫

全体のアーキテクチャ：マシンができるまでインターネットへ Arca HTTP プロキシ透過プロキシエージェント <machine>.arca.example.com アプリ利用者 Cloud
IAP AI プロキシ Arca arcad アプリマシン (Pod) Arca arca.example.com アプリ作成者 Cloud IAP コンソール / API Arca 作成 Google Kubernetes Engine 永続ボリューム (/home)

エージェント入りの環境プロンプトを送ると、エージェント入りのマシンが起動するメモ起動を高速化するためマシン用サービスアカウントを事前作成しプールしている準備済みのディスクイメージから永続ボリュームを作成し、GKE Sandbox (gVisor)のPodを起動する各プロダクト用にイメージを作っておくことで、開発環境をセットアップした状態でマシンを起動できる
エージェント専用の、消えない1台永続ボリューム付きなので、VPSのようにその場ですぐサービスを動かせる DB, Redisなどのステートフルなコンポーネントも気軽に中で動かせる

エージェントがすぐに作業を始められるなどのガイドラインをあらかじめ配置環境固有の手順を知った状態で始められる社内標準の技術スタック（例: Go）とデザインシステムをデフォルトで使う Linear、GitHub、LiteLLMなどの社内ツールと連携済み社内で共有されているClaude Codeプラグイン、エージェントスキルをプリインストール AGENTS.md

手元のエージェントから操作できる（）とエージェント用のスキルを提供している各個人のClaude Codeなどのエージェントから、Arcaの全ての操作ができるマシンの作成や共有の設定なども、コンソールを開かずに行える CLI arcactl

「安全に」使える工夫

エージェントに任せるには、安全な環境が必要エージェントは自律的にコマンドを実行し、外部と通信する指示の解釈違いやプロンプトインジェクションで、意図しない操作をすることもある手元のPCや社内の認証情報をそのまま渡すと、影響範囲が大きい APIキーやトークンの漏えい、社内データの外部送信通信とキーを基盤側で制御し、影響範囲を閉じ込める

全体のアーキテクチャ：外に出る経路は1本インターネットへ Arca HTTP プロキシ透過プロキシエージェント <machine>.arca.example.com アプリ利用者 Cloud

プロキシの実装 HTTP で実装し、コントロールプレーンの中で動かしているマシン側（arcad） 80/443番への通信をiptablesでリレーに転送し、プロキシへCONNECTするリレーは通信元プロセスのUIDを特定して伝えるプロキシ側独自CAでTLSを終端し、リクエストの中身を検査するマシン内のプロセス
Go iptables のリレー・UIDを特定 arcad CONNECT プロキシ・検査と認証情報の付加 HTTP インターネット

許可されていない通信への応答許可されていないエンドポイントには、HTTP 403と案内のメッセージを返す This environment restricts outbound destinations to keep
AI agent usage safe. If you need an additional destination allowed, please reach out on Slack at #arca. エージェントがメッセージを認識し、人間に案内できるルールはCEL (Common Expression Language) で、メソッド・ホスト・パスなどを条件に書ける TLSを終端しているので、HTTPSでもパスやヘッダーまで見て判定できる method == "POST" && host == "example.com" && path == "/some/specific/endpoint"

キーをマシン内に置かない API キーの流出リスクを抑えるため、マシンにはキーを置かない各種APIキーはHTTPプロキシで自動付加する GitHubには、リポジトリ単位でread/writeを絞ったトークンを付加する git / REST /
GraphQLを検査し、社内Organization以外への書き込みは許可しない個人ごとに紐づいたキーを付加するケースもある個人ごとにLinuxユーザーを分け、通信元のUIDで特定するエージェントキーなしでリクエストプロキシ HTTP キーを付加などのAPI GitHub

の受け付け Webhook マシンの設定で、外部からのWebhookを受け付けられるマシンごとに、トークン付きのエンドポイントを発行するエンドポイントへのリクエストに、マシンは直接応答しない事前に設定したステータスコードやボディを、Arcaが代わりに返すマシン上のアプリに脆弱性があっても、外部に悪用されるリスクを抑える受け付けたリクエストは、非同期でマシンに配送される

の権限 Google Cloud 各マシンはユニークなGoogle Cloudのサービスアカウントを持つユーザーはマシンのサービスアカウントに権限を付与できる複数のマシンで共有するサービスアカウントも作れるマシンはその共有サービスアカウントの権限を
借用できる各プロダクトのアプリを動かす前に、必要な権限を揃えておけるユーザーマシンとして動作権限付与マシンのSA 借用共有SA 権限付与

「共有できる」工夫

全体のアーキテクチャ：URLで届くインターネットへ Arca HTTP プロキシ透過プロキシエージェント <machine>.arca.example.com アプリ利用者 Cloud

簡単に共有できる既定は非公開、Google Driveのように権限を付与して URLを送るだけ URLはマシン内の特定のポートに自動でプロキシされるプロトタイプのページに直接コメントしてフィードバックできる認可はコントロールプレーンのプロキシでおこなう

権限に応じた共有社内のメンバー管理システムと連携し、個人やチーム単位で共有できる Viewer アプリを使えるページに直接コメントできる作成者に通知が届く Editor マシンの中に入って変更できるエージェントを使って一緒に開発できる
1つのマシンを複数人で共同開発

コストを抑える工夫

マシンの自動停止マシンは起動中ずっとリソースを確保する CPUはオーバーコミット、メモリは保証 24時間トラフィックがないマシンは自動停止マシンが停止されると、Podが削除される /home (PersistentVolume) は永続化され、次回起動時に復元される停止中マシンのURLにアクセスすると、その画面から起動できる

マシンの自動停止を少ないノードに詰めて配置できる（ビンパッキング）マシンが起動し続けると、Kubernetesノード上のPodの配置が断片化する自動停止によって、適宜再配置できるマシン用に、MostAllocated strategyのkube-schedulerをデプロイして使用 Pod

永続ボリュームの自動スナップショットマシン停止時に、永続ボリュームを自動でスナップショットへ移行するコスト削減 Hyperdisk Balanced Snapshot 約4割のコスト減 → Standard ゾーンを跨いで起動
ディスクは特定のゾーンに紐づく任意のゾーンで復元できるノードを有効活用できる特定のゾーンのリソース枯渇に対応できる

のコスト管理 LLM と連携しているマシン上のエージェントは、LiteLLM経由でLLMを呼び出すマシンごとに予算を設定できるエージェントを自由に動かしても、コストの上限をコントロールできる予算を超えると、エラーレスポンスに予算申請の案内を入れて返すエージェントがメッセージを読んで、人間に申請方法を案内できる LiteLLM

利用の広がり

続々と利用が広がっている 1,029人ユニークアクセス数 346名でアプリを作った人数 Arca 631台マシン数

基盤の外でやったこと利用者のSlackチャンネルで、つまずきに毎日答えたスタートアップのように手厚いサポートを提供するできるだけ速いレスポンスを心がけるエージェント自身が案内役になるようにメッセージを提供する例: 弾かれた通信先や予算超過など社内ハッカソンで全社的に使ってもらった

まとめアイデアを形にして共有するハードルが下がった職種を問わず、多くのメンバーに浸透した当初想定していたユースケースを超えて、様々な用途で使われている

ありがとうございました We are hiring!

メルカリにおけるAI時代の高速プロトタイピング基盤「Arca」

メルカリにおけるAI時代の高速プロトタイピング基盤「Arca」

Ryota Arai

More Decks by Ryota Arai

Other Decks in Technology

Featured

Transcript