https://speakerdeck.com/carpedm20 2023-02-28 07:31:49 -0500 3개월 전부터 Diffusion 모델을 zero부터 학습하는 프로젝트를 시작했습니다. 매 실험마다 천만원 이상의 GPU를 쓰는 경험을 몇 년만에 했기 때문에, 큰 스케일의 학습 과정이 활발하게 공유되고 있는 LLM 논문을 많이 참고하며 실험을 해 왔습니다. LLM에 많은 관심이 쏠린 지금, Large-scale diffusion model 학습은 - 시각적이기 때문에 global scale이 용이하고 - 시장에 충분한 기회가 있으나 관심이 적고 - 큰 모델 학습에 관련된 경험이 거의 없기 때문에 그 과정에서 수많은 엔지니어링 문제를 푸는 것이 도전적이고 즐거운 것 같습니다! 저희와 함께 Domain-specific 지식으로 전문가가 쓸 수 있는 fine-grained 이미지 생성 모델을 만들고 싶으신 분은 언제든 편하게 연락주세요! SHIFT UP AI Labs: https://bit.ly/shiftup-ai * 이미지 생성 모델에 대한 Discussion이나 저희 팀에 관심이 있는 분이 계신 곳이라면 언제든 가서 Talk을 할 의향이 있으니 편하게 연락주세요! 3개월 전부터 Diffusion 모델을 zero부터 학습하는 프로젝트를 시작했습니다. 매 실험마다 천만원 이상의 GPU를 쓰는 경험을 몇 년만에 했기 때문에, 큰 스케일의 학습 과정이 활발하게 공유되고 있는 LLM 논문을 많이 참고하며 실험을 해 왔습니다. LLM에 많은 관심이 쏠린 지금, Large-scale diffusion model 학습은 - 시각적이기 때문에 global scale이 용이하고 - 시장에 충분한 기회가 있으나 관심이 적고 - 큰 모델 학습에 관련된 경험이 거의 없기 때문에 그 과정에서 수많은 엔지니어링 문제를 푸는 것이 도전적이고 즐거운 것 같습니다! 저희와 함께 Domain-specific 지식으로 전문가가 쓸 수 있는 fine-grained 이미지 생성 모델을 만들고 싶으신 분은 언제든 편하게 연락주세요! SHIFT UP AI Labs: https://bit.ly/shiftup-ai * 이미지 생성 모델에 대한 Discussion이나 저희 팀에 관심이 있는 분이 계신 곳이라면 언제든 가서 Talk을 할 의향이 있으니 편하게 연락주세요! Fri, 29 Mar 2024 00:00:00 -0400 https://speakerdeck.com/carpedm20/llmeseo-baeuneun-imiji-saengseong-model-zerobuteo-hagseubhagi https://speakerdeck.com/carpedm20/llmeseo-baeuneun-imiji-saengseong-model-zerobuteo-hagseubhagi 지난 6개월 간 Diffusion model로 MVP를 만들면서 했던 최적화에 대한 고민과 MLops 경험을 공유합니다. Diffusion에 익숙치 않은 분들을 위해 전반부에 간략한 소개와 발전 과정도 정리했습니다. 최근에 Generative AI로 멋진 제품을 만들고자 하는 분들이 많이 보입니다. 모두가 같은 기술에 접근할 수 있는 상황인 만큼 어떻게 다른 가치를 세상에 설득할 것인가 고민을 더 하게 되는 것 같습니다. 그동안 했던 시행 착오가 누군가에겐 도움이 되었으면 좋겠네요. 지난 6개월 간 Diffusion model로 MVP를 만들면서 했던 최적화에 대한 고민과 MLops 경험을 공유합니다. Diffusion에 익숙치 않은 분들을 위해 전반부에 간략한 소개와 발전 과정도 정리했습니다. 최근에 Generative AI로 멋진 제품을 만들고자 하는 분들이 많이 보입니다. 모두가 같은 기술에 접근할 수 있는 상황인 만큼 어떻게 다른 가치를 세상에 설득할 것인가 고민을 더 하게 되는 것 같습니다. 그동안 했던 시행 착오가 누군가에겐 도움이 되었으면 좋겠네요. Wed, 01 Mar 2023 00:00:00 -0500 https://speakerdeck.com/carpedm20/diffusion-saengseong-modele-daehan-sogaewa-geue-pilyohan-enjinieoring https://speakerdeck.com/carpedm20/diffusion-saengseong-modele-daehan-sogaewa-geue-pilyohan-enjinieoring