Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
2024年における生成AIエンジニアとは何者か
Search
yudai yamamoto
August 08, 2024
Technology
11
3.6k
2024年における生成AIエンジニアとは何者か
yudai yamamoto
August 08, 2024
Tweet
Share
More Decks by yudai yamamoto
See All by yudai yamamoto
安全性を高めるAzure AI Content Safety について
yyo616
1
250
コンテンツモデレーション入門の入門
yyo616
2
140
大規模言語データの前処理とLLM-as-a-Judge の活用
yyo616
4
1.4k
Docusaurus を使った開発ドキュメントの作成と運用
yyo616
0
450
Playwrightでテストを楽に実装したい
yyo616
0
60
Other Decks in Technology
See All in Technology
知っててうれしい HTTP Cookie を使ったセッション管理について
greendrop
1
110
ZOZOTOWN の推薦における KPI モニタリング/KPI monitoring for ZOZOTOWN recommendations
rayuron
1
880
The future we create with our own MVV
matsukurou
0
1.4k
信頼されるためにやったこと、 やらなかったこと。/What we did to be trusted, What we did not do.
bitkey
PRO
0
1.6k
Oracle Exadata Database Service(Dedicated Infrastructure):サービス概要のご紹介
oracle4engineer
PRO
0
12k
AWS re:Invent 2024 ふりかえり勉強会
yhana
0
700
AIエージェントに脈アリかどうかを分析させてみた
sonoda_mj
2
130
Amazon Q Developerで.NET Frameworkプロジェクトをモダナイズしてみた
kenichirokimura
1
130
AWS re:Invent 2024 Recap in ZOZO - Serverless で好きなものをしゃべってみた
chongmyungpark
0
1.1k
サーバーなしでWordPress運用、できますよ。
sogaoh
PRO
0
170
AI×医用画像の現状と可能性_2024年版/AI×medical_imaging_in_japan_2024
tdys13
0
1.2k
スケールし続ける事業とサービスを支える組織とアーキテクチャの生き残り戦略 / The survival strategy for Money Forward’s engineering.
moneyforward
0
240
Featured
See All Featured
We Have a Design System, Now What?
morganepeng
51
7.3k
Embracing the Ebb and Flow
colly
84
4.5k
Reflections from 52 weeks, 52 projects
jeffersonlam
348
20k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
656
59k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
191
16k
Mobile First: as difficult as doing things right
swwweet
222
9k
Automating Front-end Workflow
addyosmani
1366
200k
Designing on Purpose - Digital PM Summit 2013
jponch
116
7k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5.1k
Producing Creativity
orderedlist
PRO
343
39k
Documentation Writing (for coders)
carmenintech
67
4.5k
It's Worth the Effort
3n
183
28k
Transcript
2024年における ⽣成AIエンジニアとは何者か Generative AI/LLM Engineer Career Meetup #1 Yudai Yamamoto
(@yyo616)
👦 ⾃⼰紹介 ⼭本 雄⼤ (@yyo616) ⽣成AIエンジニア • NTT Communications •
LLMに関する研究開発、新規プロダクト開発 • フロントエンド → ⽣成AI のキャリアチェンジ • 最近は刃⽛にハマっている @yyo616
🙇 おことわり • 最近⽣成AIの業界に参⼊した素⼈の意⾒ • 客観性弱め、主観性強め、⽂字多め • ⽣成AIエンジニア = LLMエンジニア
= AI Engineer として話します • あくまで参考程度に
❓⽣成AIエンジニアとは何者か
• 国産⽇本語LLMが⾬後の筍のように誕⽣ • 業界・会社の規模問わずに⽣成AI活⽤が加速 • 社内ドキュメント検索から⽣成AIをコアに据えたプロダクト開発のフェーズへ突⼊ 📈 最近の⽣成AI活⽤の状況 https://layerx.co.jp/news/20240610/ https://www.nikkei.com/article/DGXZQOTG13CRV0T10C24A5000000/
https://group.ntt/jp/magazine/blog/tsuzumi20240325/ https://exawizards.com/archives/27549/
🐣 ⽣成AIエンジニアという職種の出現 • ⽣成AIの社会実装に向けた専属⼈材、専属チームを各社が配置 • LLMエンジニア、⽣成AIエンジニアという職種が出現 • エンジニア界隈での注⽬度も上がってきている
• 前提 : 業界的に⽣成AIエンジニアの役割についてコンセンサスは取れていない • The Rise of the AI
Engineer (Shawn Wang, 2023) を参考にすると「AIをうまく 評価、適⽤、製品化するための専⾨のエンジニア」と役割を定義できそう • ⽣成AIの製品化で特に課題となる、モデルの評価、外部ツール (chains, search tool, agents) とのオーケストレーション、最新研究の調査が典型的な業務内容 🧑💻 ⽣成AIエンジニアの役割 https://www.latent.space/p/ai-engineer
🧐 従来的なMLエンジニアリングとの差分 • モデル構築ではなくモデル適応技術に重点を置く • プロンプトエンジニアリングやFine Tuning など適応技術の⽅に⽐重が移った • 従来的なMLエンジニアリングには含まれない専⾨性が必要
• AI開発のフローが変化 • 基盤モデルやAPI、周辺ツールを組み合わせた価値検証を最初に⾏う • 相対的にアプリケーション側の開発の重要性が増加 • モデル評価の重要性が増加 • モデル評価の難易度と複雑性が増加する⼀⽅でその重要性はより増加 https://www.latent.space/p/ai-engineer
*求⼈サイトで記載されていた各社(21社)のLLMエンジニアの必須スキル項⽬(テクニカルスキルに限定)をカテゴリ分けして独⾃に集計 • ソフトウェアエンジニアのスキル + ⾃然⾔語処理・機械学習に関する知識 • Web開発の経験、コンピュータサイエンスの基本知識は must-have • 前職でWebエンジニアやSEだった⼈の割合は⾼め
• 特にバックエンドやソフトウェアアーキテクチャに関する知⾒があると強い • ⾃然⾔語処理・機械学習に関する知識や経験も⼀定レベル必要 • ゼロつく①② 辺りの内容は理解しているレベル • must-have ではなく nice-to-have の求⼈も実は存在する 🧐 ⽣成AIエンジニアのテクニカルスキルの要件 16 15 11 3 1 0 2 4 6 8 10 12 14 16 18 機 械 学 習 の 関 連 経 験 W eb開 発 経 験 プ ロ グ ラ ミ ン グ ⾔ 語 ス キ ル ク ラ ウ ド サ ー ビ ス 経 験 そ の 他 *求⼈における必須スキル項⽬の集計結果
• 常にアンテナを張り続けキャッチアップしていく姿勢 • 素早く情報に反応して試⾏錯誤する姿勢が重要 • 技術だけでなくビジネス価値に向き合う必要性 • 各社が社内検索をRAGで実装して、次に何に取り組むかを模索中 • AIで何を解決するのか、AIならではの体験とは何か
• ⼀般的なエンジニアよりも顧客視点、ビジネス視点を求められる ❤ ⽣成AIエンジニアに必要なマインドセット https://layerx.connpass.com/event/324728 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/016_03_00.pdf
• 評価パイプラインの構築・運⽤のスキル • 数ある基盤モデルからユースケースに最適なモデルを効率的に選定する必要 がある • 独⾃データセットの作成・評価を必要とするケースが増加 • プロンプトやRAGなどのLLM特有の要素に対応する必要がある •
従来的なMLエンジニアリングのスキル • LLMと従来的な機械学習モデルを適材適所で使うハイブリッドなアプローチが 現時点では⼀番有望に⾒える • 「AIで作る or AI で作らない」「LLMを使う or LLMを使わない」 の審美眼 と⼿札をいかに備えることができるか • nice-to-have として挙げた従来的なMLエンジニアリングの専⾨性が⽣成AI エンジニアにとっての⼤きな差別化要因になる 🧐 今後重要となるスキルの予想(妄想)
📣 宣伝
担当できるスコープ • 実は NTTコミュニケーションズも結構⽣成AIに取り組んでいます • 新規プロダクト開発、研究開発、⽣成AIに関する技術⽀援 • フロントエンド〜インフラ • RAG、ファインチューニング、継続事前学習、評価、データセット作成など
• もしも興味ある⽅いればお話ししましょう︕ https://www.latent.space/p/ai-engineer
🙇 ご清聴ありがとうございました