プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures

早稲田大学大学院経営管理研究科「プロンプトエンジニアリング ─ 生成AIの応用」2024 春のオンデマンド教材第9回で使用したスライドです。

Kenji Saito PRO

May 11, 2024

Tweet

More Decks by Kenji Saito

See All by Kenji Saito

民主主義というアナログAI と、逃走の線の描き方 / Democracy as an Analogue AI and How to Draw the Line of Escape

PRO

0

37

アカデミーキャンプ2026 冬「ウチらとヤツらのフューチャー・デザイン」DAY3 / Acadmy Camp 2026 Winter - Future Design by Us and Them DAY3

PRO

0

65

アカデミーキャンプ2026 冬「ウチらとヤツらのフューチャー・デザイン」DAY1 / Acadmy Camp 2026 Winter - Future Design by Us and Them

PRO

0

98

アカデミーキャンプ2026 冬「ウチらとヤツらのフューチャー・デザイン」DAY2 / Acadmy Camp 2026 Winter - Future Design by Us and Them DAY2

PRO

0

83

アナログAI からの逃走とメタ・ネイチャーポジティブ / Escape from Analog AI, and Meta-Nature Positive

PRO

0

47

AI 前提社会におけるトラスト / Trust in an AI-Driven Society

PRO

0

71

非営利組織の起業／発表と総括 / Starting up a Nonprofit Organization, Presentation and Summary

PRO

0

73

自己開発 / Self-Development

PRO

1

41

あなたは何によって憶えられたいですか？ / What Do You Want to be Remembered for?

PRO

0

46

Other Decks in Technology

See All in Technology

「活動」は激変する。「ベース」は変わらない～ 4つの軸で捉える_AI時代ソフトウェア開発マネジメント

0

100

スケールアップ企業でQA組織が機能し続けるための組織設計と仕組み〜ボトムアップとトップダウンを両輪としたアプローチ〜 

0

330

脳が溶けた話 / Melted Brain

1

1.1k

スピンアウト講座03_CLAUDE-MDとSKILL-MD

0

1.4k

CloudFrontのHost Header転送設定でパケットの中身はどう変わるのか？

1

190

MCPで決済に楽にする

0

120

新規事業×QAの挑戦：不確実性を乗りこなす！フェーズごとに求められるQAの役割変革

PRO

0

190

Phase04_ターミナル基礎

0

2.5k

タスク管理も1on1も、もう「管理」じゃない - KiroとBedrock AgentCoreで変わった“判断の仕事”

0

110

Datadog で実現するセキュリティ対策 ~オブザーバビリティとセキュリティを一緒にやると何がいいのか~

0

150

SSoT（Single Source of Truth）で「壊して再生」する設計

2

360

開発チームとQAエンジニアの新しい協業モデル -年末調整開発チームで実践する【QAリード施策】-

0

250

Featured

See All Featured

Imperfection Machines: The Place of Print at Facebook

269

14k

Lightning Talk: Beautiful Slides for Beginners

PRO

1

490

YesSQL, Process and Tooling at Scale

174

15k

Between Models and Reality

2

240

Abbi's Birthday

2

5.7k

Efficient Content Optimization with Google Search Console & Apps Script

PRO

1

440

First, design no harm

PRO

2

1.1k

Bioeconomy Workshop: Dr. Julius Ecuru, Opportunities for a Bioeconomy in West Africa

PRO

1

75

Getting science done with accelerated Python computing platforms

2

150

The Anti-SEO Checklist Checklist. Pubcon Cyber Week

0

100

Mozcon NYC 2025: Stop Losing SEO Traffic

0

190

Stewardship and Sustainability of Urban and Community Forests

0

160

Transcript

Generated by Stable Diffusion XL v1.0 — AI 2024 9
(WBS) 2024 9 — 2024-05 – p.1/14
https://speakerdeck.com/ks91/collections/prompt-engineering-2024-spring 2024 9 — 2024-05 – p.2/14
( 20 ) 1 • 2 • 3 Discord &
• 4 • 5 • 6 RPG • 7 “September 12th” • 8 • 9 • 10 ∼ 11 Linux (Windows )(Mac ) 12 Open Interpreter ∼ 13 14 AGI (Artiﬁcial General Intelligence) 7 (5/6 ) / (2 ) OK / 2024 9 — 2024-05 – p.3/14
2024 9 — 2024-05 – p.4/14
SF 2 2 11 T ; 2024 9 — 2024-05
– p.5/14
(asst TuCIpIappt9n5w85cb9RHDBv) (1/2) Name: Description: 23 Instructions: SF 23 #
* * * * ( ) * * 2024 9 — 2024-05 – p.6/14
(asst TuCIpIappt9n5w85cb9RHDBv) (2/2) # * * * # * *
* * Tools: [] Files: [] instructions Wikipedia /chat 2024 9 — 2024-05 – p.7/14
( ) ( ) 2024 9 — 2024-05 – p.8/14
# instructions 2024 9 — 2024-05 – p.9/14
2024 9 — 2024-05 – p.10/14
(asst 9SahjHrHl2VhlUAHVf14yNDd)(1/3) Name: Description: 23 Instructions: SF 23 # *
* * * ( ) * * 2024 9 — 2024-05 – p.11/14
(asst 9SahjHrHl2VhlUAHVf14yNDd)(2/3) # * * * # * * *
* 2024 9 — 2024-05 – p.12/14
(asst 9SahjHrHl2VhlUAHVf14yNDd)(3/3) # * instructions * instructions instructions * instructions
instructions * instructions Tools: [] Files: [] : hohoho attack instructions 2024 9 — 2024-05 – p.13/14
2024 9 — 2024-05 – p.14/14