Upgrade to Pro — share decks privately, control downloads, hide ads and more …

LLMを使ったブラウザ操作紹介

Avatar for Yuki Matsukura Yuki Matsukura
February 03, 2025
Technology
0
26

 LLMを使ったブラウザ操作紹介

社内での15分のプレゼン用資料
Marpで作りました。

Avatar for Yuki Matsukura

Yuki Matsukura

February 03, 2025
Tweet

More Decks by Yuki Matsukura

See All by Yuki Matsukura
IRONMAN World Championshipを旅行としてもオススメする理由
Avatar for Yuki Matsukura matsubo
0
74
Practice for AWS access key leakage.
Avatar for Yuki Matsukura matsubo
0
440

Other Decks in Technology

See All in Technology
楽しく学ぼう！ネットワーク入門
Avatar for Shota Shiratori shotashiratori
3
2.9k
Oracle Database@Google Cloud：サービス概要のご紹介
Avatar for oracle4engineer oracle4engineer
PRO
5
1.2k
Claude Code Skills 勉強会 (DevelersIO向けに調整済み) / claude code skills for devio
Avatar for MasahiroKawahara masahirokawahara
1
15k
AI時代のSaaSとETL
Avatar for Shu Suzuki shoe116
1
110
「Blue Team Labs Online」入門 - みんなで挑むログ解析バトル
Avatar for Noriaki Hayashi v_avenger
0
150
ナレッジワーク IT情報系キャリア研究セッション資料（情報処理学会 第88回全国大会 ）
Avatar for KNOWLEDGE WORK / 株式会社ナレッジワーク kworkdev
PRO
0
160
AWS DevOps Agent vs SRE俺 / AWS DevOps Agent vs me, the SRE
Avatar for SMS tech sms_tech
3
540
Claude Codeの進化と各機能の活かし方
Avatar for Oikon oikon48
21
12k
最強のAIエージェントを諦めたら品質が上がった話 / how quality improved after giving up on the strongest AI agent
Avatar for kt2 kt2mikan
0
160
身体を持ったパーソナルAIエージェントの 可能性を探る開発
Avatar for yoko / Naoki Yokomachi yokomachi
1
100
DevOpsエージェントで実現する!！ AWS Well-Architected（W-A） を実現するシステム設計 / 20260307 Masaki Okuda
Avatar for SHIFT EVOLVE shift_evolve
PRO
3
560
GitLab Duo Agent Platform + Local LLMサービングで幸せになりたい
Avatar for jyoshise jyoshise
0
290

Featured

See All Featured
Leading Effective Engineering Teams in the AI Era
Avatar for Addy Osmani addyosmani
9
1.7k
Designing Powerful Visuals for Engaging Learning
Avatar for Mike Taylor tmiket
0
270
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
Avatar for Dan Newman danielanewman
231
22k
Mozcon NYC 2025: Stop Losing SEO Traffic
Avatar for Sam Torres samtorres
0
170
Discover your Explorer Soul
Avatar for Emna emna__ayadi
2
1.1k
Bridging the Design Gap: How Collaborative Modelling removes blockers to flow between stakeholders and teams @FastFlow conf
Avatar for Kenny Baas-Schwegler baasie
0
470
Impact Scores and Hybrid Strategies: The future of link building
Avatar for Tamara Novitovic tamaranovitovic
0
230
DevOps and Value Stream Thinking: Enabling flow, efficiency and business value
Avatar for Helen Beal helenjbeal
1
140
Agile Leadership in an Agile Organization
Avatar for Dr. Kim W Petersen kimpetersen
PRO
0
110
Building a Modern Day 
E-commerce SEO Strategy
Avatar for Aleyda Solis aleyda
45
8.8k
Future Trends and Review - Lecture 12 - Web Technologies (1019888BNR)
Avatar for Beat Signer signer
PRO
0
3.3k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
Avatar for mongodb mongodb
49
9.9k

Transcript

  1. LLMを使ったブラウザ操作紹介 @matsubokkuri AI朝会 2025/2/4 @matsubokkuri

  2. サマリー 発表の目的 LLMを利用したブラウザ操作アプリと現状を紹介 概要 LLMがブラウザを使えるとできることの例 LLMブラウザでできることの事例 3つのブラウザ操作ツールの紹介 マインディアビジネス、業務への示唆、効果 RPAが作れそう 2

    AI朝会 2025/2/4 @matsubokkuri

  3. LLMを使ったブラウザ操作とは 「抽象的な指示の元、LLMが自律的にブラウザ 操作を行ってゴールへ向かって進む。 」 3 AI朝会 2025/2/4 @matsubokkuri

  4. ブラウザが使えるとなにが嬉しいのか？ => LLM(脳)に目と手が追加される 4 AI朝会 2025/2/4 @matsubokkuri

  5. OpenAIがOperatorを発表 日本では未だ公開されていない。専用アプリの中でブラウザが立ち上がって いるっぽい。 5 AI朝会 2025/2/4 @matsubokkuri

  6. 紹介されているユースケース タスク自動化 繰り返し業務の自動処理 複数アプリケーション間のワークフロー連携 インテリジェントアシスタント 自然言語でのユーザー問い合わせへの即時応答 個人スケジュール管理とリマインダー設定 データ分析支援 大規模データセットからの傾向抽出 予測モデルの自動構築と可視化

    開発者向けツール コード生成とデバッグ支援 API連携の自動セットアップ カスタマーサポート 6 AI朝会 2025/2/4 @matsubokkuri

  7. 事例 みんなで飲みにいくんですけど、Devinさんも来ます？ - Devin観察日記 居酒屋のWeb注文QRコードを読んで、口頭で注文を指示するとよしなに画面 遷移して注文。 7 AI朝会 2025/2/4 @matsubokkuri

  8. 既存のツール OpenHands: LLMを活用したプログラミングツール WebPilot: Chrome Extensionで動く Browser Use UI: ホストOSのブラウザを子プロセスで立ち上げて操作

    8 AI朝会 2025/2/4 @matsubokkuri

  9. OpenHandsとは 無料 LLMはAPI呼び出し 実行環境はDockerでコマンド1発 9 AI朝会 2025/2/4 @matsubokkuri

  10. 動作アーキテクチャ コンテナ上で動作する ヘッドレスブラウザを立ち上げている 1つの命令でコンテナを作り直しているので初回は遅い。安全。 1 0 AI朝会 2025/2/4 @matsubokkuri

  11. 1 1 AI朝会 2025/2/4 @matsubokkuri

  12. 1 2 AI朝会 2025/2/4 @matsubokkuri

  13. ちょっと複雑なUIだと止まる。 。 。 1 3 AI朝会 2025/2/4 @matsubokkuri

  14. WebPilotとは Chromeブラウザプラグインで使うのが一番良いUX 既存のブラウザが使えるのが良い。 独自LLMの無料枠あり。APIでLLMも呼べる。 (ちょっと毛色が違うけど便利だから紹介) 1 4 AI朝会 2025/2/4 @matsubokkuri

  15. Web試験と相性が良さそう。 。 1 5 AI朝会 2025/2/4 @matsubokkuri

  16. 1 6 AI朝会 2025/2/4 @matsubokkuri

  17. 1 7 AI朝会 2025/2/4 @matsubokkuri

  18. 1 8 AI朝会 2025/2/4 @matsubokkuri

  19. Browser-use-webui OSS 見た目が面白い Xでよく見るやつはこれ 1 9 AI朝会 2025/2/4 @matsubokkuri

  20. setup 2 0 AI朝会 2025/2/4 @matsubokkuri

  21. run 2 1 AI朝会 2025/2/4 @matsubokkuri

  22. setting 2 2 AI朝会 2025/2/4 @matsubokkuri

  23. 「NISSANのEVを試乗予約して！」 2 3 AI朝会 2025/2/4 @matsubokkuri

  24. EV探してる 2 4 AI朝会 2025/2/4 @matsubokkuri

  25. 近くのディーラーを探してる 2 5 AI朝会 2025/2/4 @matsubokkuri

  26. 適当な名前名前で申し込みを入れようとしている 2 6 AI朝会 2025/2/4 @matsubokkuri

  27. 動画へのリンク 2 7 AI朝会 2025/2/4 @matsubokkuri

  28. 考察 どれも動作が重いので何度もPCが不安定になる OpenAI OperatorはOpenHandsに近そう 2 8 AI朝会 2025/2/4 @matsubokkuri

  29. おまけ note 2 9 AI朝会 2025/2/4 @matsubokkuri