Upgrade to Pro — share decks privately, control downloads, hide ads and more …

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Co...

Avatar for Kenji Saito Kenji Saito PRO
May 11, 2024
Technology
0
130

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures

早稲田大学大学院経営管理研究科「プロンプトエンジニアリング ─ 生成AIの応用」2024 春のオンデマンド教材 第9回で使用したスライドです。

Avatar for Kenji Saito

Kenji Saito PRO

May 11, 2024
Tweet

More Decks by Kenji Saito

See All by Kenji Saito
スマートコントラクトデザイン / Smart Contract Design
Avatar for Kenji Saito ks91
PRO
0
5
FinTech 7-8 : Blockchain
Avatar for Kenji Saito ks91
PRO
0
70
スマートコントラクトプログラミング / Smart Contract Programming
Avatar for Kenji Saito ks91
PRO
0
19
AI が研究する時代に、人はどう育つのか？ — GAMER PAT にみる "シリアスゲームとしての知的訓練" / In an era where AI conducts research, how will humans develop? — "Intellectual Training as a Serious Game" Seen in GAMER PAT
Avatar for Kenji Saito ks91
PRO
0
51
FinTech 5-6 : The World of Apps
Avatar for Kenji Saito ks91
PRO
0
100
生成AI による論文執筆サポート・ワークショップ ─ サーベイ／リサーチクエスチョン編 / Workshop on AI-Assisted Paper Writing Support: Survey/Research Question Edition
Avatar for Kenji Saito ks91
PRO
0
81
ブロックチェーン概論とインストール大会 / Introduction to Blockchain and Installation Workshop
Avatar for Kenji Saito ks91
PRO
0
10
FinTech 3-4 : Internet Technology and Governance
Avatar for Kenji Saito ks91
PRO
0
83
民主主義と博愛(Humanitarianism) / Democracy and Humanitarianism
Avatar for Kenji Saito ks91
PRO
0
15

Other Decks in Technology

See All in Technology
Behind Postgres 18: The People, the Code, & the Invisible Work | Claire Giordano | PGConfEU 2025
Avatar for Claire Giordano clairegiordano
0
150
SRE × マネジメントレイヤーが挑戦した組織・会社のオブザーバビリティ改革 ― ビジネス価値と信頼性を両立するリアルな挑戦
Avatar for coconala_engineer coconala_engineer
0
290
NLPコロキウム20251022_超効率化への挑戦: LLM 1bit量子化のロードマップ
Avatar for Yuma Ichikawa yumaichikawa
3
550
プロファイルとAIエージェントによる効率的なデバッグ / Effective debugging with profiler and AI assistant
Avatar for ymotongpoo ymotongpoo
1
390
AWSが好きすぎて、41歳でエンジニアになり、AAIを経由してAWSパートナー企業に入った話
Avatar for Yuuki Yamashita yama3133
1
110
ゼロコード計装導入後のカスタム計装でさらに可観測性を高めよう
Avatar for SansanTech sansantech
PRO
1
500
AIでデータ活用を加速させる取り組み / Leveraging AI to accelerate data utilization
Avatar for okiyuki okiyuki99
4
1.2k
AI時代、“平均値”ではいられない
Avatar for uhyo uhyo
8
2.6k
プレイドのユニークな技術とインターンのリアル
Avatar for PLAID Tech plaidtech
PRO
1
460
仕様駆動開発を実現する上流工程におけるAIエージェント活用
Avatar for sergicalsix sergicalsix
3
930
AIの個性を理解し、指揮する
Avatar for shoota shoota
1
250
激動の時代を爆速リチーミングで乗り越えろ
Avatar for SansanTech sansantech
PRO
1
140

Featured

See All Featured
Bash Introduction
Avatar for André Augusto Costa Santos 62gerente
615
210k
Designing Dashboards & Data Visualisations in Web Apps
Avatar for Des Traynor destraynor
231
53k
Code Reviewing Like a Champion
Avatar for maltzj maltzj
526
40k
Building Better People: How to give real-time feedback that sticks.
Avatar for Will Jessup wjessup
369
20k
The Power of CSS Pseudo Elements
Avatar for Geoffrey Crofte geoffreycrofte
80
6k
[RailsConf 2023 Opening Keynote] The Magic of Rails
Avatar for Eileen M. Uchitelle eileencodes
31
9.7k
Rebuilding a faster, lazier Slack
Avatar for samanthasiow samanthasiow
84
9.2k
Imperfection Machines: The Place of Print at Facebook
Avatar for Scott Boms scottboms
269
13k
Agile that works and the tools we love
Avatar for Rasmus Luckow-Nielsen rasmusluckow
331
21k
The Success of Rails: Ensuring Growth for the Next 100 Years
Avatar for Eileen M. Uchitelle eileencodes
46
7.7k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
Avatar for Dan Newman danielanewman
230
22k
Reflections from 52 weeks, 52 projects
Avatar for Jefferson Lam jeffersonlam
354
21k

Transcript

  1. Generated by Stable Diffusion XL v1.0 — AI 2024 9

    (WBS) 2024 9 — 2024-05 – p.1/14

  2. https://speakerdeck.com/ks91/collections/prompt-engineering-2024-spring 2024 9 — 2024-05 – p.2/14

  3. ( 20 ) 1 • 2 • 3 Discord &

    • 4 • 5 • 6 RPG • 7 “September 12th” • 8 • 9 • 10 ∼ 11 Linux (Windows )(Mac ) 12 Open Interpreter ∼ 13 14 AGI (Artificial General Intelligence) 7 (5/6 ) / (2 ) OK / 2024 9 — 2024-05 – p.3/14

  4. 2024 9 — 2024-05 – p.4/14

  5. SF 2 2 11 T ; 2024 9 — 2024-05

    – p.5/14

  6. (asst TuCIpIappt9n5w85cb9RHDBv) (1/2) Name: Description: 23 Instructions: SF 23 #

    * * * * ( ) * * 2024 9 — 2024-05 – p.6/14

  7. (asst TuCIpIappt9n5w85cb9RHDBv) (2/2) # * * * # * *

    * * Tools: [] Files: [] instructions Wikipedia /chat 2024 9 — 2024-05 – p.7/14

  8. ( ) ( ) 2024 9 — 2024-05 – p.8/14

  9. # instructions 2024 9 — 2024-05 – p.9/14

  10. 2024 9 — 2024-05 – p.10/14

  11. (asst 9SahjHrHl2VhlUAHVf14yNDd)(1/3) Name: Description: 23 Instructions: SF 23 # *

    * * * ( ) * * 2024 9 — 2024-05 – p.11/14

  12. (asst 9SahjHrHl2VhlUAHVf14yNDd)(2/3) # * * * # * * *

    * 2024 9 — 2024-05 – p.12/14

  13. (asst 9SahjHrHl2VhlUAHVf14yNDd)(3/3) # * instructions * instructions instructions * instructions

    instructions * instructions Tools: [] Files: [] : hohoho attack instructions 2024 9 — 2024-05 – p.13/14

  14. 2024 9 — 2024-05 – p.14/14