#LLM 서빙 프레임워크
LLM 서빙 프레임워크 도입 경험과 프레임워크 성능 최적화 기술을 쉽게 설명합니다. 어떤 LLM 서빙 프레임워크를 도입해야 할지 고민인 분들께 추천합니다.
발표자 : ari.see, kyou.sd (ari.see) 카카오페이 선행기술개발TF팀에서 AI 서비스를 개발하고 있습니다. (kyou.sd) 카카오페이 선행기술개발TF팀에서 금융관련 모델을 개발하고 있습니다.