Slide 21
Slide 21 text
Copyright © MILIZE Inc. All rights reserved Confidential
実践的な例 : Langchainとの統合
20
LangchainはDatabricksの各種機能をサポートしており、これまで紹介した機能を⽣かした
RAGベースのチャットボットを簡単に実装できる。
from langchain.vectorstores import DatabricksVectorSearch
from langchain.embeddings import DatabricksEmbeddings
from langchain.chat_models import ChatDatabricks
from langchain.chains import RetrievalQA
embedding_model = DatabricksEmbeddings(endpoint='multilingual-e5-large-embedding-endpoint')
vs_index = vs_client.get_index(endpoint_name=vs_endpoint_name, index_name=index_name)
# Create the retriever
vectorstore = DatabricksVectorSearch(
vs_index, text_column="combined_news", embedding=embedding_model, columns=["NewsDate","NewsTitle","NewsBody"]
).as_retriever(search_kwargs={'k': 4})
chat_model = ChatDatabricks(endpoint="databricks-llama-2-70b-chat", max_tokens = 1000)
qa = RetrievalQA.from_chain_type(llm=chat_model, chain_type="stuff", retriever=retriever)
chatモデル指定