Upgrade to Pro — share decks privately, control downloads, hide ads and more …

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Co...

Sponsored · Your Podcast. Everywhere. Effortlessly. Share. Educate. Inspire. Entertain. You do you. We'll handle the rest. →
Avatar for Kenji Saito Kenji Saito PRO
May 11, 2024
Technology
140
0

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures

早稲田大学大学院経営管理研究科「プロンプトエンジニアリング ─ 生成AIの応用」2024 春のオンデマンド教材 第9回で使用したスライドです。

Avatar for Kenji Saito

Kenji Saito PRO

May 11, 2024

More Decks by Kenji Saito

See All by Kenji Saito
ポスター発表&デモと総括 / Poster Presentations & Demonstrations and Summary
Avatar for Kenji Saito ks91
PRO
0
26
OpenClaw のインストールとデモ / Installing and Demonstrating OpenClaw
Avatar for Kenji Saito ks91
PRO
0
19
AI とサービス・デザイン / AI and Service Design
Avatar for Kenji Saito ks91
PRO
0
170
ルール・ロール・ツールを創る / Creating Rules, Roles and Tools
Avatar for Kenji Saito ks91
PRO
0
160
コーディング・エージェントの活用 / Using Coding Agents
Avatar for Kenji Saito ks91
PRO
0
46
AGI (Artificial General Intelligence) の論点 / Key Issues in AGI (Artificial General Intelligence)
Avatar for Kenji Saito ks91
PRO
0
33
ワールドカフェ再び、そしてゴール・ルール・ロール・ツール / World Café Revisited, and the Goals-Rules-Roles-Tools
Avatar for Kenji Saito ks91
PRO
0
190
AI の技術 / AI technology
Avatar for Kenji Saito ks91
PRO
0
180
対話による知の拡張と傾聴の理論 / Expansion of Knowledge Through Dialogue and the Theory of Active Listening
Avatar for Kenji Saito ks91
PRO
0
35

Other Decks in Technology

See All in Technology
AI時代の私の技術インプットとアウトプット術
Avatar for tonkotsuboy_com tonkotsuboy_com
7
4.6k
TypeScriptはどのようにどこまで推論できるのか ─ とにかく as は禁止で
Avatar for ypresto ypresto
3
420
Pythonでベイズモデリング
Avatar for Soogie soogie
0
180
AIコーディングエージェントの活用で、コードは静かに肥大化した
Avatar for 篠田 陽介 yosukeshinoda
1
360
管理アカウント単一運用からAWS Organizationsに移行するの大変で滅
Avatar for 平目 hiramax
0
230
キャリア25年目にしてTypeScript に出会うまで - 「型」を通じて振り返るプログラミング言語遍歴 / Meeting TypeScript After 25 Years in Tech - Looking Back at My Programming Language Journey Through "Types"
Avatar for 株式会社ビットキー / Bitkey Inc. bitkey
PRO
2
280
Amazon CloudFrontにおけるAIボットアクセス制御のポイント
Avatar for t.kizawa kizawa2020
4
270
AIAgentと取り組むKaggle
Avatar for shuto goya 508shuto
2
560
CloudFront VPCオリジンとVPC Latticeサービスの内部ALBをマルチアカウントで一元利用しよう
Avatar for k-kun duelist2020jp
5
230
【禁断】Obsidianの第二の脳に「知の巨人」と呼ばれた師匠の脳をロードしてみた
Avatar for 長津孝輔 nagatsu
0
6.5k
Typiaで配信JSONの安全性を構造的に担保する(TSKaigi2026)
Avatar for RightTouch righttouch
PRO
1
170
checker.tsにチキンレースを仕掛けてみた：型エラー(TS2589)が発生する境界線を求めて
Avatar for Hal hal_spidernight
1
200

Featured

See All Featured
Context Engineering - Making Every Token Count
Avatar for Addy Osmani addyosmani
9
900
Leading Effective Engineering Teams in the AI Era
Avatar for Addy Osmani addyosmani
9
2k
The Hidden Cost of Media on the Web [PixelPalooza 2025]
Avatar for Tammy Everts tammyeverts
2
310
Visual Storytelling: How to be a Superhuman Communicator
Avatar for David Neal reverentgeek
2
540
Agile that works and the tools we love
Avatar for Rasmus Luckow-Nielsen rasmusluckow
331
21k
Everyday Curiosity
Avatar for Cassini Nazir cassininazir
0
210
Site-Speed That Sticks
Avatar for Harry Roberts csswizardry
13
1.2k
Git: the NoSQL Database
Avatar for Brandon Keepers bkeepers
PRO
432
67k
Code Reviewing Like a Champion
Avatar for maltzj maltzj
528
40k
Measuring & Analyzing Core Web Vitals
Avatar for Philip Tellis bluesmoon
9
830
Dealing with People You Can't Stand - Big Design 2015
Avatar for Cassini Nazir cassininazir
367
27k
ReactJS: Keep Simple. Everything can be a component!
Avatar for Pedro Nauck pedronauck
666
130k

Transcript

  1. Generated by Stable Diffusion XL v1.0 — AI 2024 9

    (WBS) 2024 9 — 2024-05 – p.1/14

  2. https://speakerdeck.com/ks91/collections/prompt-engineering-2024-spring 2024 9 — 2024-05 – p.2/14

  3. ( 20 ) 1 • 2 • 3 Discord &

    • 4 • 5 • 6 RPG • 7 “September 12th” • 8 • 9 • 10 ∼ 11 Linux (Windows )(Mac ) 12 Open Interpreter ∼ 13 14 AGI (Artificial General Intelligence) 7 (5/6 ) / (2 ) OK / 2024 9 — 2024-05 – p.3/14

  4. 2024 9 — 2024-05 – p.4/14

  5. SF 2 2 11 T ; 2024 9 — 2024-05

    – p.5/14

  6. (asst TuCIpIappt9n5w85cb9RHDBv) (1/2) Name: Description: 23 Instructions: SF 23 #

    * * * * ( ) * * 2024 9 — 2024-05 – p.6/14

  7. (asst TuCIpIappt9n5w85cb9RHDBv) (2/2) # * * * # * *

    * * Tools: [] Files: [] instructions Wikipedia /chat 2024 9 — 2024-05 – p.7/14

  8. ( ) ( ) 2024 9 — 2024-05 – p.8/14

  9. # instructions 2024 9 — 2024-05 – p.9/14

  10. 2024 9 — 2024-05 – p.10/14

  11. (asst 9SahjHrHl2VhlUAHVf14yNDd)(1/3) Name: Description: 23 Instructions: SF 23 # *

    * * * ( ) * * 2024 9 — 2024-05 – p.11/14

  12. (asst 9SahjHrHl2VhlUAHVf14yNDd)(2/3) # * * * # * * *

    * 2024 9 — 2024-05 – p.12/14

  13. (asst 9SahjHrHl2VhlUAHVf14yNDd)(3/3) # * instructions * instructions instructions * instructions

    instructions * instructions Tools: [] Files: [] : hohoho attack instructions 2024 9 — 2024-05 – p.13/14

  14. 2024 9 — 2024-05 – p.14/14