プロンプトに対する攻撃と対策 / Attacks Against Prompts and Co...

Kenji Saito PRO

May 11, 2024

150

プロンプトに対する攻撃と対策 / Attacks Against Prompts and Countermeasures

早稲田大学大学院経営管理研究科「プロンプトエンジニアリング ─ 生成AIの応用」2024 春のオンデマンド教材第9回で使用したスライドです。

Kenji Saito PRO

May 11, 2024

More Decks by Kenji Saito

See All by Kenji Saito

Fall 2026: A Guide & Workshop on Using AI for Academic Paper Writing

PRO

0

35

FinTech 5-6 : The World of Apps

PRO

0

54

終わらない幼年期とそのための下部構造・社会資本 / The Never-Ending Childhood and the Infrastructure and Social Capital Needed to Support It

PRO

0

28

FinTech 3-4 : Internet Technology and Governance

PRO

0

72

2026 秋生成AI を活用した論文執筆ガイド／ワークショップ / Fall 2026: Guide and Workshop on Writing Papers Using Generative AI

PRO

0

140

AIとビジネス・メガトレンド〜サイバネティクス的経営観 / AI and Business Megatrends: A Cybernetic Perspective on Management

PRO

0

43

FinTech 1-2 : Overview of FinTech

PRO

0

160

アカデミーキャンプ 2026秋「位置ゲーに秀でよ！ウチらとヤツらのゲーム・デザイン」DAY 4 / Academy Camp 2026 Fall - Excel at Location-Based Games! Our and Their Game Design DAY 4

PRO

0

65

アカデミーキャンプ 2026秋「位置ゲーに秀でよ！ウチらとヤツらのゲーム・デザイン」DAY 3 / Academy Camp 2026 Fall - Excel at Location-Based Games! Our and Their Game Design DAY 3

PRO

0

75

Other Decks in Technology

See All in Technology

Running Kotlin + Quarkus with Lambda

1

3.7k

スキマバイトという雇用形態は存在しないので、雇用期間1日のアルバイト契約を事業者とワーカーが結ぶ手続きを支えるのがタイミーなんです

0

200

サブエージェントと Claude Mods で作る独自 Advisor ツールの話

2

160

10年後、Engineering 行為を剥奪されるとして、わたしたちは、どう、何を創ればいいだろうか。 / If Engineering Is Taken Away in 10 Years, How and What Should We Create?

PRO

1

190

Persisting Massive Data with Rails ~Designing for 60 billion rows, and fighting the bottlenecks~ Railsで挑む大量データ永続化〜600億件を永続化するための設計とボトルネックとの戦い〜

0

730

パッチ更新でterraform initが落ちた日

1

140

Post AI時代のリファクタリング実践記 / Refactoring in the post AI era

1

230

今さら理解するウェブフォントver.2026

3

770

AI × アーキテクト第1・2章｜生成AIの課題とアーキテクトの素養

0

170

実践！ SRE × AI - ABEMA における AIOps -

8

3.1k

AI駆動で「他アプリの音を加工できる」アプリを作った

satomasahiro2005

0

150

「事実」を「計測」して、「解釈」する〜AWS Lambdaのメモリ最適解の見つけ方〜

0

170

Featured

See All Featured

The Power of CSS Pseudo Elements

82

6.6k

ReactJS: Keep Simple. Everything can be a component!

666

130k

Tell your own story through comics

1

1.1k

The Success of Rails: Ensuring Growth for the Next 100 Years

47

8.4k

Test your architecture with Archunit

2

2.4k

技術選定の審美眼（2025年版） / Understanding the Spiral of Technologies 2025 edition

PRO

120

120k

Into the Great Unknown - MozCon

41

2.8k

[SF Ruby Conf 2025] Rails X

3

1.5k

brightonSEO & MeasureFest 2025 - Winning Strategies for Black Friday CRO & PPC - Christian Goodrich

3

870

How STYLIGHT went responsive

100

6.3k

Conquering PDFs: document understanding beyond plain text

PRO

4

3.2k

JAMstack: Web Apps at Ludicrous Speed - All Things Open 2022

1

640

Transcript

Generated by Stable Diffusion XL v1.0 — AI 2024 9
(WBS) 2024 9 — 2024-05 – p.1/14
https://speakerdeck.com/ks91/collections/prompt-engineering-2024-spring 2024 9 — 2024-05 – p.2/14
( 20 ) 1 • 2 • 3 Discord &
• 4 • 5 • 6 RPG • 7 “September 12th” • 8 • 9 • 10 ∼ 11 Linux (Windows )(Mac ) 12 Open Interpreter ∼ 13 14 AGI (Artiﬁcial General Intelligence) 7 (5/6 ) / (2 ) OK / 2024 9 — 2024-05 – p.3/14
2024 9 — 2024-05 – p.4/14
SF 2 2 11 T ; 2024 9 — 2024-05
– p.5/14
(asst TuCIpIappt9n5w85cb9RHDBv) (1/2) Name: Description: 23 Instructions: SF 23 #
* * * * ( ) * * 2024 9 — 2024-05 – p.6/14
(asst TuCIpIappt9n5w85cb9RHDBv) (2/2) # * * * # * *
* * Tools: [] Files: [] instructions Wikipedia /chat 2024 9 — 2024-05 – p.7/14
( ) ( ) 2024 9 — 2024-05 – p.8/14
# instructions 2024 9 — 2024-05 – p.9/14
2024 9 — 2024-05 – p.10/14
(asst 9SahjHrHl2VhlUAHVf14yNDd)(1/3) Name: Description: 23 Instructions: SF 23 # *
* * * ( ) * * 2024 9 — 2024-05 – p.11/14
(asst 9SahjHrHl2VhlUAHVf14yNDd)(2/3) # * * * # * * *
* 2024 9 — 2024-05 – p.12/14
(asst 9SahjHrHl2VhlUAHVf14yNDd)(3/3) # * instructions * instructions instructions * instructions
instructions * instructions Tools: [] Files: [] : hohoho attack instructions 2024 9 — 2024-05 – p.13/14
2024 9 — 2024-05 – p.14/14