Amazon Bedrock超⼊⾨を読んで ⽤語整理してみた 2024.03.27 すごい広島 IT初⼼者の会 SATOSHI KANEYASU

⾃⼰紹介 ⽒名︓兼安 聡 職種︓クラウドエンジニア 担当︓PM、スクラムマスター、DevOps 趣味︓サックス、筋トレ、CS ゲーム 資格︓ X(Twitter)︓@satoshi256kbyte

２⽉末発売の 本を読みました

本を読んだ理由 ⽣成AI系のPJを経験したんだけど、 まだ⽤語の整理できてないな・・・って

なので 整理してみます

AIモデル • AIモデルは機械学習のモデル • 本来は学習させねばならない • ⼤量の⾃然⾔語データを学習したAIモデルは、⼤規模⾔語モデル （LLM）または基盤モデルと呼ばれる。 • AIモデル＝LLM＝基盤モデル（多分）

AIプラットフォーム • ChatGPのGPTは、GPTというAIモデルが使われてるという意味 • 様々なAIモデルを実⾏する基盤がAIプラットフォーム • 主要なクラウドサービスにはAIプラットフォームがある • AWSのAmazon Bedrock • AzureのAzure AI • GCPのGoogle VertexAI

Amazon Bedrockで提供している AIモデル • Amazon Titan • AI21 Labs/Jurassic-2 • Anthropic/Claude • Cohere/Command • Meta/Llama 2 • Stability AI/Stable Diffusion XL

Amazon Bedrockと Amazon Kendraの違い • Amazon Kendraは機械学習を利⽤した検索サービス ⾃然⾔語でドキュメントを検索 • Amazon Bedrockは、 Kendraで⾒つかったドキュメントから回答を⽣成する • 役割が違う

ハルシネーションとRAG • ハルシネーション︓AIが不正確な回答をする現象 • RAG（Retrieval-augmented Generation）︓AIモデルに追加情報を 提供し、回答の精度を⾼める⼿法

Ragas • Ragas（RAG Assessment）︓RAGを使⽤した回答の効果を評価す るフレームワーク

LangChain • LangChain︓異なるAIモデル間の⼊出⼒形式の差を吸収し、対話形 式のやり取りを可能にするツール

気になったこと • 現状の現場だと、 Bedrock＋Kendraはほぼセットで、いきなりRAGの話になる （個⼈の感想です） • PJをこなすだけでは正しい知識が得られないこともある • PJ開始時にチームで読み合わせをしてもよいのでは