Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
APIを使わずWinActorでAIを使ってみた話
Search
たまい
December 19, 2023
Technology
1.6k
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
APIを使わずWinActorでAIを使ってみた話
たまい
December 19, 2023
More Decks by たまい
See All by たまい
シナリオを作る前に行うべきこと2点
tamai_63
0
310
自治体×RPAの世界、のぞいてみませんか?
tamai_63
0
300
自治体業務における RPA活用のリアル
tamai_63
0
68
WinActor_バージョンアップや環境変化への注意点
tamai_63
0
560
WinActor ver7.6.0 新機能紹介
tamai_63
0
790
業務ヒアリングと知識の呪い
tamai_63
0
760
どこよりも遅めなWinActor Ver.7.5.0 新機能紹介
tamai_63
0
1.2k
今のうちにデータを整理しておこう
tamai_63
1
1.1k
技術サポートでよく見かけるパターンと便利な活用方法
tamai_63
0
920
Other Decks in Technology
See All in Technology
20260903 Tokyo Jazug Night #62 | Azure エンジニアよ、 その環境は本当にセキュアか?
olivia_0707
1
610
PM領域でのAI Agentの活用
lycorptech_jp
PRO
0
270
コスト最適化の「めんどくさい」を AWS FinOps Agent でチョット楽にする
classmethod_kaz
0
160
Genie Code ワークショップ 基礎編 / Genie-Code-Workshop-fundamental
databricksjapan
PRO
0
350
「重なり」は迎える側がつくる ― 人もAIエージェントも歓迎するプロダクトエンジニアリング ―
go0517go
PRO
0
230
grill-me(grilling):AI駆動開発を超助けてくれるSkill / grill me
mathbullet
0
100
こんなアーキテクチャ図は嫌だ BEYOND THE TIME: 半年後の自分へ贈る15のメッセージ / 15 of Anti-pattern in AWS Architecture Diagrams
naospon
3
230
どんな手を使っても絶対間に合わせるスケジューラ
asari194617
0
1.6k
[DroidKaigi 2026] Making UI specifications visible: Android UI development in the AI agent era supported by Compose Screenshot Testing and galleries
syarihu
0
570
Autonomous AI Databaseサービス・アップデート(FY27)/ adb-service-update-jp-fy27
oracle4engineer
PRO
0
110
いま、生成AIにKaggleをどこまで 任せられるか — ROGIIコンペでの進め方とTips
k951286
3
1.4k
推論の観測、できていますか? 〜 Google Cloud Gemini Enterprise Agent Platformで 3つの Gemini モデルを実測して踏んだ、評価の罠 〜
shukob
PRO
0
140
Featured
See All Featured
Marketing to machines
jonoalderson
1
5.7k
Impact Scores and Hybrid Strategies: The future of link building
tamaranovitovic
0
430
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
49
3.5k
Information Architects: The Missing Link in Design Systems
soysaucechin
1
1.1k
The SEO Collaboration Effect
kristinabergwall1
1
550
Max Prin - Stacking Signals: How International SEO Comes Together (And Falls Apart)
techseoconnect
PRO
0
450
Abbi's Birthday
coloredviolet
3
9.8k
Money Talks: Using Revenue to Get Sh*t Done
nikkihalliwell
0
490
Highjacked: Video Game Concept Design
rkendrick25
PRO
1
450
A Guide to Academic Writing Using Generative AI - A Workshop
ks91
PRO
1
420
The Cost Of JavaScript in 2023
addyosmani
55
10k
Applied NLP in the Age of Generative AI
inesmontani
PRO
4
2.4k
Transcript
APIを使わず WinActorでAIを 使ってみた話
目次 1. 本日の内容と作ろうと思ったきっかけ 2. 無料の生成AIチャットサービスについて 3. どうやってUIを操作するか 4. 実際にWinActorで自動化してみた 5.
まとめ
1.本日の内容と作ろうと思ったきっかけ
1.本日の内容と作ろうと思ったきっかけ ① WinActorで無料の生成AIチャットサービスを操作 ② 今回はAPIがないのでWinActorでUI操作を自動化 ③ プロンプトで指定しても想定外の回答が出ることもある
1.本日の内容と作ろうと思ったきっかけ 企業ブログを作ることになったよ! SEO対策もしてがっつり作るから 下調べしてから記事を書いてね♪ めんどくさいにゃ~… はい、よろこんで! ……たまいさん! 本音が駄々洩れですよ。 作成にあたってのルールもあるので マニュアルを参考に作ってください
1.本日の内容と作ろうと思ったきっかけ チートシートを作成 マニュアルをいちいち見なくていいし、 リンクをまとめたから調査しやすく なったぞ! ……でも調査結果をコピー&ペースト で まとめる作業が手間だなぁ~。 コピペ作業をWinActorで自動化したい!
2.無料の生成AIチャットサービスについて
2.無料の生成AIチャットサービスについて 今回使用するサービスについて 無料・回数制限なしのアプリなのでいろんなプロンプトを試せる! ◆ 無料で生成回数など制限なしで利用可能。 ◆ 生成物は個人的用途、商業的用途を問わず利用可能。 ◆ 日本語向けに最適化されている。 ◆
用途別にカスタマイズされた生成ツールが多数用意 されており、プロンプトを試行錯誤しなくても意図 した文章を得られる。 ◆ 今後以下の機能が追加される予定。 私だけの生成AIツールツールビルダー 画像も生成可能な便利なチャット 文書ファイルも認識するスマートチャット
3.どうやってUIを操作するか
3.どうやってUIを操作するか プロンプトをチャットに入力して生成されたコードブロックをコピー
4.実際にWinActorで自動化してみた
3.どうやってUIを操作するか 上図の手順で自動化したWinActorのシナリオの動画をご覧ください メモ帳からプロンプトをコピー 得られた記事をメモ帳へ上書き保存 プロンプト.txt
5.まとめ
まとめ ① WinActorで無料の生成AIチャットサービスを操作 • 意外とUI操作は可能だったがブラウザ操作関連の知識や代替の手段が必要だった • 無料かつ回数制限なしのサービスなので試行錯誤しやすかった • ただし「現段階」の話なので利用規約が変わり有料になることも考慮する必要がある ②
今回はAPIがないのでWinActorでUI操作を自動化 • APIがなくてもUI操作で自動化は可能 • アプリがどこまで自動化の操作ができるかWinActorで探る必要がある • APIでしか実現できないこともあるので今回の方法がベストでない場合もある ③ プロンプトで指定しても想定外の回答が出ることもある • そもそも生成AIでの回答が正しいとは限らない • プロンプトでコントロールできる部分は書き方の基本と試行錯誤が必要 • 今回のブログ記事も「たたき台」として生成しあとで自分で内容を精査する