Share
Embed
Transcript
25 slides
-
ɾ3"(ΤʔδΣϯτͷύϑΥʔϚϯεͷ࠷దԽ ɾΤϯϓϥάϨʔυͷςΩετੜͰϋΠύϑΥʔϚϯεΛൃشग़དྷΔΑ ͏ઃܭ テキストモデル名 Maxトークン 料金(入出力1,000トークン) Titan Text G1 -
Premier (New!!) 32K 0.0005USD/0.0015USD Titan Text G1 - Express 8K 0.0002USD/0.0006USD Titan Text G1 - Lite 4K 0.00015USD/0.0002USD IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POUJUBOUFYUQSFNJFSBNB[POCFESPDL "NB[PO5JUBO5FYU1SFNJFS͕(" -
IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXLOPXMFEHFCBTFTBNB[POCFESPDLDPOGJHVSF QBSBNFUFST φϨοδϕʔεͰਪύϥϝʔλͷઃఆ͕Մೳʹ "inferenceConfig": { "textInferenceConfig": { "maxTokens": number,
"stopSequences": [ "string" ], "temperature": number, "topP": number } } -
モデル名 概要 Mistral 7B Instruct 2023年9月リリースされたモデル Mixtral 8x7B Instruct SMoE(Sparse
Mixtures of Experts)採用モデル Mistral Large 高複雑度タスク向けの最高レベルモデル Mistral Small (New!!) 低レイテンシワークロード向けのコスパ重視モデル IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POCFESPDLNJTUSBMTNBMMGPVOEBUJPONPEFM .JTUSBM"*ͷ.JTUSBM4NBMM͕(" -
#FESPDL൛GVODUJPODBMMJOH ରԠϞσϧ IUUQTEPDTBXTBNB[PODPNCFESPDLMBUFTUVTFSHVJEFUPPMVTFIUNM 5PPMVTF͕༻Մೳʹ 提供 対応モデル名 "OUISPQJD $MBVEFNPEFMT .JTUSBM"*
.JTUSBM-BSHFͱ.JTUSBM4NBMM $PIFSF $PNNBOE3ͱ$PNNBOE3 -
IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXDMBVEFTPOOFUIBJLVBNB[POCFESPDLGSBOLGVSU SFHJPO リージョン 4POOFU )BJLV N. Virginia YES YES
Oregon YES YES Mumbai YES YES Sydney YES YES Canada YES YES Frankfurt (New!!) YES YES Ireland YES YES London YES YES Paris YES YES São Paulo YES YES $MBVEF4POOFUͱ)BJLV͕ϑϥϯΫϑϧτϦʔδϣϯͰ(" -
୯Ұͷ"1*ͰʮϞσϧ*%ʯΛม͑Δ͚ͩͰ༷ʑͳϞσϧΛ༻Ͱ͖Δ IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POCFESPDLOFXDPOWFSTFBQJ client = boto3.client("bedrock-runtime") modelId = "anthropic.claude-3-5-sonnet-20240620-v1:0" client.converse(
modelId=model_id, messages=[{ "role": "user", "content": [{"text": prompt}], }] ) ˢϞσϧ*%Λม͑Δ͚ͩͰ0, $POWFSTF"1*Λൃද -
従来 アップデート後 全てのコレクションタイプの最小単位 1 OCU 0.5 OCU 本番用途(冗長構成) 最低4つのOCU 最低2つのOCU
0QFO4FBSDI4FSWFSMFTTΛ༻͍ͨຊ൪͚3"(ڥͰخ͍͠ʂ IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POPQFOTFBSDITFSWFSMFTTFOUSZDPTUIBMG DPMMFDUJPOUZQFT "NB[PO0QFO4FBSDI4FSWFSMFTTͰɺ࠷খ୯Ґ͕0$6ʹ -
IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POCFESPDLMPOEPOTBPQBVMPDBOBEB DFOUSBMSFHJPOT リージョン #FESPDL N. Virginia YES Oregon YES
Mumbai YES Singapore YES Sydney YES Tokyo YES Canada (New!!) YES Frankfurt YES Ireland YES London (New!!) YES Paris YES São Paulo (New!!) YES "NB[PO#FESPDL͕ϩϯυϯɺαϯύϩɺΧφμͰ(" -
guardrail_config = { “guardrailIdentifier”: guardrail_id, "guardrailVersion": guardrail_version, "trace": "enabled" }
response = bedrock_client.converse( modelId=model_id, messages=messages, guardrailConfig=guardrail_config ) ˡΨʔυϨʔϧ*%Λࢦఆ ˡΨʔυϨʔϧόʔδϣϯΛࢦఆ IUUQTEPDTBXTBNB[PODPNCFESPDLMBUFTUVTFSHVJEFHVBSESBJMTVTFDPOWFSTFBQJIUNM $POWFSTF"1*ͰΨʔυϨʔϧΛ༻Ͱ͖ΔΑ͏ʹ -
IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBNB[POCFESPDLDPNQSFTTFEFNCFEEJOHT DPIFSFFNCFE ɾϕΫτϧσʔλϕʔεຒΊࠐΈͱΠϯσοΫεΛϝϞϦʹอଘ͢Δ ɾ௨ৗ࣍ݩͷຒΊࠐΈʹ όΠτ όΠτඞཁ ɾ༻ϝϞϦݮʹ࣍ݩݮ͕༗ޮ͚ͩͲɺύϑΥʔϚϯεͱτϨʔυΦϑ ɾ࣍ݩ͋ͨΓͷόΠτΛݮΒ͢ํ͕͍͍ ѹॖຒΊࠐΈ
ɾѹॖຒΊࠐΈ ݩͷݕࡧ࣭Λҡ࣋͠ͳ͕ΒϝϞϦΛഒݮʂ $PIFSF&NCFE͔ΒͷѹॖຒΊࠐΈ JOU͓ΑͼόΠφϦ Λαϙʔτ -
IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXLOPXMFEHFCBTFTBNB[POCFESPDLPCTFSWBCJMJUZ MPHT Knowledge Bases for Amazon Bedrock CLoudWatch Logs
S3 Amazon Kinesis Data Firehose φϨοδϕʔεͰΦϒβʔόϏϦςΟϩά͕ར༻Մೳʹ -
IUUQTBXTBNB[PODPNKQBCPVUBXTXIBUTOFXBJMBCTKBNCBJOTUSVDUNPEFMBNB[POCFESPDL "*-BCTͷ+BNCB*OTUSVDUϞσϧ͕(" モデル名 Maxトークン数 料金(入出力1,000トークン) Jurassic-2 Mid 8K 0.0125USD/0.0125USD
Jurassic-2 Ultra 8K 0.0188USD/0.0188USD Jamba-Instruct (New!!) 256K 0.0005USD/0.0007USD ίϯςΩετΟϯυ͕ैདྷͷಉࣾϞσϧ͔Βେ͖͘6Qʂ ରԠݴޠӳޠ ˞+BNCB")ZCSJE5SBOTGPSNFS.BNCB-BOHVBHF.PEFM छྨͷχϡʔϥϧωοτϫʔΫΞʔΩςΫνϟΛΈ߹ΘͤͨݴޠϞσϧ