プロンプトエンジニアリングと最近の生成AI動向

研究室合同研究会の際に使用したプロンプトエンジニアリングと最近の生成AI動向と活用事例についてLTした際の資料です。

Transcript

1. 自己紹介 • 松石侑樹 | きつね🦊 • 京都産業大学 河合研究室 B4 • エンジニアコミュニティ あまてく代表 • SOI cafe 運営・企画 • 25卒キャリアアドバイザー, イベント企画 SNS • X, Instagram：@kitsune_yk • Github：@yk-mt12 自己紹介
2. • エンジニアコミュニティ ◦ B1〜B4, 80人くらい ◦ 去年の10月に立ち上げ • 直近のイベント（9, 10月） ◦ ベガコーポレーションアイディアソン ◦ Kyoto Innovation Hackathon ◦ DMM合同LT会 ◦ GDSC meetup ◦ MIXI合同LT会 ◦ Tech Train meetup京都 あまてくについて
3. 神山シャトルンβ ワンタップで到着時刻をすぐ確認！ シャトルバスはLINEで♪ @kyosan_bu s @kyosan_bu s 時刻表アプリ 追加して 使ってみる！ https://lin.ee/oWjPF
4. 研究の目的 • その地点の一番ドラマチックな景色を生成する • 4月の鴨川→桜の景色 • 11月の嵐山→紅葉の景色
5. 研究の流れ API (今回はこっち) Google Colab
6. アジェンダ 1. ChatGPT, プロンプトエンジニアリングとは？ 2. 最近の生成AI事情 ◦ 面白い事例 ◦ セキュリティ ◦ スタートアップ 3. 研究について（目的・流れ） 4. FastAPIを用いたAPIの解説 ◦ コードレビュー ◦ Postmanを使ったAPI検証 5. GCPにAPIをデプロイ 6. Q&Aセッション
7. プロンプトエンジニアリングとは？ • より欲しい回答を引き出すための手法
8. これでもいいが・・ →回答精度を下げてしまうケースも少なくない zero-shot prompting
9. デモの数が多ければ多いほど、適切な回答を出力する確率が 高まる few-shot prompting
10. • ロールの付与 • input形式を明示的に指定する その他
11. • おすすめ
12. • ChatGPTなどのシステムに悪意のあるプロンプトを入力し て、不正利用する攻撃手法 • 元スレ プロンプトインジェクション
13. • プロンプトエンジニアで年収500万、海外なら3000万 • chatGPT v4が良すぎる件 ◦ Python動きます ▪ スライド作ってくれたり ▪ 勝手にエラーも修正リトライしてくれる 最近
14. • 最近の面白い事例 最近
15. アーキテクチャ
16. FastAPIを用いたAPIの解説 • FastAPI選定の理由 ◦ 型定義 ◦ IDEでの型補完が期待できる ◦ 非同期処理 ◦ パフォーマンス面での考慮が必要な可能性が高い • APIの主な機能 ◦ /api/get_geo_image ▪ 画像取得 ◦ /api/get_info ▪ キーワード, プロンプト（センテンス）取得
17. • Postman知ってますか？ ◦ APIのテストツール ◦ curlコマンドなんて使わない（使えない🙇） 実際にAPIを叩いてみる
18. • main.py ◦ APIの全体像 • utils/select_keyword_in_tfidf.py ◦ キーワード→プロンプト生成 • deploy.sh ◦ 本当は、Github Actionsでデプロイを自動化したい（テストも回した い）→エゴでしょうか・・ コードレビュー TIME
19. Cloud RunにAPIをデプロイ • Cloud Runとは ◦ フルマネージドのサーバーレス プラットフォームであらゆる言語 （Go、Python、Java、Node.js、.NET、Ruby）で記述されたスケーラ ブルなコンテナ型アプリを構築してデプロイできます。
20. デプロイ方法 1. GCP上で任意のプロジェクトを作成 2. ターミナルにてgcloud の設定 3. Dockerイメージを作成 4. GCRにpushする ◦ GCR：コンテナを格納するレジストリ 5. Cloud runにデプロイ 参考資料 • https://laid-back-scientist.com/cloud-run-python#toc6
21. まとめ • chatGPTをうまく使いこなそう • プロンプトエンジニア目指そう • 型付き言語が好きならFast APIがおすすめ ◦ 保守性も上がるかも？ • GCPデプロイは意外に簡単 余談 • 研究系ならGCP > AWS • あまてくにも入ろう（） ◦ まじで強くなれるかも ◦ イベントにも参加したい人はぜひ！
22. Q&A