© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成系 AI で成長を生成した 1 週間 Machine Learning Developer Relations Takahiro Kubo アマゾン ウェブ サービス ジャパン合同会社

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 2 自己紹介 アマゾン ウェブ サービス ジャパン合同会社 Machine Learning Developer Relations 久保隆宏 (Kubo Takahiro) ミッション 「機械学習を実用するなら AWS 」という認知を拡大すること。 10 年以上の業務コンサルタント経験、また研究開発していたテーマをプロダクトと してリリースした経験をもとにお話しします。

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. コミュニティ向けに執筆している記事 3 Qiita : 技術記事 note : 機械学習を活かすプロダクトマネジメント

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 今年の取り組み : ML Enablement Workshop 4 機械学習を本番で活用するための ワークショップ。 Amazonや Spotify 、 Uber と いった海外の著名プロダクトでの データサイエンス活用事例をまと めた資料も掲載しています。 ワークショップの資料には、AWS の知見だけでなく最新の海外事例 の知見が反映されています。 https://github.com/aws-samples/aws-ml-enablement-workshop

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成系 AI による成長の消失はないか ? 5

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成系 AI に生成を任せることで積極的学習の機会が減る ? 積極的学習は、自分の記憶や考えを積極的に引き 出す(=回収する) 学習方法。より深く学習する (= 成長する) のに効果的な方法。 • 一度読んだ内容を思い出しながら要約する • 読んでいて浮かんだ疑問をメモする • 学んだ内容について他者と議論する 6 LEARN LIKE A PRO p71 を参照

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Case: 論文を読んでまとめる 7 個人的なまとめるステップ (大体) 1. Abstract を読む 2. Introduction で課題とアプローチをつかむ 3. 特筆すべき点は何か ? 考える 1. 課題の目の付け所 ? アプローチ ? 実験手法 ? 4. 実験結果を見る 5. 課題 / アプローチ / 解決の流れを組み立てる 6. 言語化する 7. まとめを書いて記録する Stable Video Diffusion

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Case: 論文を読んでまとめる 8 個人的なまとめるステップ (大体) 1. Abstract を読む 2. Introduction で課題とアプローチをつかむ 3. 特筆すべき点は何か ? 考える 1. 課題の目の付け所 ? アプローチ ? 実験手法 ? 4. 実験結果を見る 5. 課題 / アプローチ / 解決の流れを組み立てる 6. 言語化する 7. まとめを書いて記録する 積極的学習 ポイントが多数

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Case: 論文を読んでまとめる 9 生成系 AI を使う場合 1.PDF をアップロードして要約を生成・・・だけ！ 積極的学習 ポイントが消失

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成系 AI の直接的活用が向くケース・向かないケース 10 読むべき論文を絞り込む 論文を読んで理解する 翻訳、要約によりぱっと見どんな論文か すぐにわかるようにして、読むべき論文 に当たりをつける。 応用例 • arXiv と連携した論文紹介 Bot • 海外ブログ記事 News Feed 翻訳、要約をさせてそれだけ読む場合、 積極的学習の機会を奪う可能性がある。 ハルシネーションにも注意が必要。 (学習にとって) NG 応用例 • 論文 to ペライチ Generator • 複数論文 to サーベイ結果 理解の促進 = 成長の生成 には使い方の工夫が必要

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成系 AI により成長も生成する方法 11

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 成長も生成する生成系 AI の使い方 from 1 週間試行錯誤 12 前提 : 論文は自分でまず目を通す。そのうえで・・・ 1. 疑問点を確認する • 積極的に理解を深める+疑問点で長時間つまらないようにする 2. 理解度を確認する • 読み違い、誤解がないかを確認する 3. 応用方法を議論する • どんな発展的な応用があり得るか議論する

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 実践で使うモデル : Anthropic Claude 13 Claude は約百ページ超の最大 200,000 トークンを扱えるだけでなく、 GPT-3.5 / GPT 4 と近しい精度を (日本語でも) 持つモデル (※1, 2 参照)。 ※1 https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard ※2 https://yuzuai.jp/benchmark Claude.ai に登録する とすぐ使える

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 実践 : (前段) 自分で読みつつ生成 AI にも読ませる 14 理解するための要約というより、議論の 土台になる情報を読ませる。 プロンプトの例 : Read the document carefully because it will be asked questions later. ※英語のプロンプトのほうが利くので英 語でプロンプトを書いてます。 Stable Video Diffusion の論文を使いました

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 実践① : 疑問点を確認する 15 疑問点があれば聞く。 自分で一定時間考え、わからなければ聞 くことで時間を節約。 例示を交えかなり丁寧に教えてくれる (ハルシネーションには注意) 今回は Introduction に「既存の研究は時間 的なレイヤを空間的なレイヤとどう揃えるか の議論に終始していた」という言及があった ので意味を確認 ( 先行研究では今回の議論は ほぼ考慮されていない強い主張だったので )。

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 実践① : 疑問点について確認する 疑問点を聞いて嘘を教えられても困る。 ハルシネーションを抑制したい。 説明の根拠となる論文の箇所を抜粋させる と良い。 プロンプトの例 : First, find the quotes from the document then answer the question. 16

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 実践② : 理解度を確認する 自分で理解した内容を確認する。この時、 間違っている点や見落としている点がな いかを確認。 プロンプトの例 (末尾) : ・・・ If I have misunderstood, please let me know. 17

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 実践③ : 応用方法を議論する なにに使えるか ? 懸念点はないか ? な どを議論。 今回の場合、バイアスへの対処や生成の速度な どは気になるところ。 Claude だと「 Goode question! 」とめっちゃ ほめてくれてテンションが上がる・・・のと、 論文中にない場合「 not explicitly discuss 」 とちゃんとないことを回答したのを確認。 18

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 19 Anthropic Claude は Amazon Bedrock から利用可能 Model Context Prompt ( 入力 ) Completion ( 出力 ) token per 1M token per 1M token GPT-3.5 4k $1.00 $2.00 GPT-4 8k $30.00 $60.00 GPT-3.5 16k $3 $4 GPT-4 32k $60.00 $120.00 GPT-4-turbo 128k $10 $30 Claude Instant (*1) 100k(*2) $1.63 $5.51 Claude (2.0) 100k(*2) $11.02→$8.00 $32.68→$24 Claude (2.1) 200k(*2) $11.02→$8.00 $32.68→$24 *1 : US East (N. Virginia) ・ US West (Oregon) の価格。東京リージョンでは価格が若干高い。 *2 : 東京リージョンでは 18k までのモデルが使用可能。

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. 20 Amazon Bedrock で利用する方法 https://qiita.com/icoxfog417/items/869e2093e672b2b8a139

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. まとめ 21 • 生成系 AI で成長が消失しないよう注意が必要 • 成長を生成する 3 つの使い方 • 疑問点を確認する • 理解度を確認する • 応用方法を議論する • Anthropic Claude は論文のような長文を扱える高性能なモデル • Claude.ai からすぐに利用できる • Amazon Bedrock でセキュアにアプリケーションへ組み込める

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Advent Calendar 開催中！！ 22 https://qiita.com/advent-calendar/2023/anthropic-claude

© 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Thank you! © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.