Amazon Bedrock超入門を読んで用語整理してみた

Transcript

1. Amazon Bedrock超⼊⾨を読んで ⽤語整理してみた 2024.03.27 すごい広島 IT初⼼者の会 SATOSHI KANEYASU
2. ⾃⼰紹介 ⽒名︓兼安 聡 職種︓クラウドエンジニア 担当︓PM、スクラムマスター、DevOps 趣味︓サックス、筋トレ、CS ゲーム 資格︓ X(Twitter)︓@satoshi256kbyte
3. ２⽉末発売の 本を読みました
4. 本を読んだ理由 ⽣成AI系のPJを経験したんだけど、 まだ⽤語の整理できてないな・・・って
5. なので 整理してみます
6. AIモデル • AIモデルは機械学習のモデル • 本来は学習させねばならない • ⼤量の⾃然⾔語データを学習したAIモデルは、⼤規模⾔語モデル （LLM）または基盤モデルと呼ばれる。 • AIモデル＝LLM＝基盤モデル（多分）
7. AIプラットフォーム • ChatGPのGPTは、GPTというAIモデルが使われてるという意味 • 様々なAIモデルを実⾏する基盤がAIプラットフォーム • 主要なクラウドサービスにはAIプラットフォームがある • AWSのAmazon Bedrock • AzureのAzure AI • GCPのGoogle VertexAI
8. Amazon Bedrockで提供している AIモデル • Amazon Titan • AI21 Labs/Jurassic-2 • Anthropic/Claude • Cohere/Command • Meta/Llama 2 • Stability AI/Stable Diffusion XL
9. Amazon Bedrockと Amazon Kendraの違い • Amazon Kendraは機械学習を利⽤した検索サービス ⾃然⾔語でドキュメントを検索 • Amazon Bedrockは、 Kendraで⾒つかったドキュメントから回答を⽣成する • 役割が違う
10. ハルシネーションとRAG • ハルシネーション︓AIが不正確な回答をする現象 • RAG（Retrieval-augmented Generation）︓AIモデルに追加情報を 提供し、回答の精度を⾼める⼿法
11. Ragas • Ragas（RAG Assessment）︓RAGを使⽤した回答の効果を評価す るフレームワーク
12. LangChain • LangChain︓異なるAIモデル間の⼊出⼒形式の差を吸収し、対話形 式のやり取りを可能にするツール
13. 気になったこと • 現状の現場だと、 Bedrock＋Kendraはほぼセットで、いきなりRAGの話になる （個⼈の感想です） • PJをこなすだけでは正しい知識が得られないこともある • PJ開始時にチームで読み合わせをしてもよいのでは