Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
清水宏太_ポートフォリオ資料_2023年11月時点
Search
Lemio
November 06, 2023
Programming
0
100
清水宏太_ポートフォリオ資料_2023年11月時点
Lemio
November 06, 2023
Tweet
Share
More Decks by Lemio
See All by Lemio
20250520_Dify_Meetup_Tokyo__5_LT資料_アプリケーションが動かなくなったらバージョンを見よう_.pdf
lemio
1
1k
0からDifyを学ぶには_Dify Meetup Tokyo #4
lemio
0
1.9k
生成AIの社内導入やってみて_SaySyaMeetUpVol3
lemio
0
89
第2回saysayオフ会LT_清水れみお
lemio
0
210
開発した生成AI活用アプリ
lemio
0
180
遅刻しなAI_LT資料
lemio
0
110
Other Decks in Programming
See All in Programming
テーブル定義書の構造化抽出して、生成AIでDWH分析を試してみた / devio2025tokyo
kasacchiful
0
270
The Past, Present, and Future of Enterprise Java
ivargrimstad
0
590
CSC509 Lecture 08
javiergs
PRO
0
240
Pythonに漸進的に型をつける
nealle
1
120
contribution to astral-sh/uv
shunsock
0
510
Foundation Modelsを実装日本語学習アプリを作ってみた!
hypebeans
1
120
TFLintカスタムプラグインで始める Terraformコード品質管理
bells17
2
350
What Spring Developers Should Know About Jakarta EE
ivargrimstad
0
430
Six and a half ridiculous things to do with Quarkus
hollycummins
0
210
コードとあなたと私の距離 / The Distance Between Code, You, and I
hiro_y
0
190
エンジニアインターン「Treasure」とHonoの2年、そして未来へ / Our Journey with Hono Two Years at Treasure and Beyond
carta_engineering
0
410
Android16 Migration Stories ~Building a Pattern for Android OS upgrades~
reoandroider
0
130
Featured
See All Featured
Making Projects Easy
brettharned
120
6.4k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
9
990
Making the Leap to Tech Lead
cromwellryan
135
9.6k
The Cost Of JavaScript in 2023
addyosmani
55
9.1k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
21
1.2k
Into the Great Unknown - MozCon
thekraken
40
2.1k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
162
15k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
52
5.7k
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
9
930
Scaling GitHub
holman
463
140k
Gamification - CAS2011
davidbonilla
81
5.5k
How to Think Like a Performance Engineer
csswizardry
27
2.1k
Transcript
AIは 考える×作る×聞く×話す×見る =無限∞のアイデア そして私はアイデアマンです。
アイデアに価値はない 形にできなければそれは寝言と同じだ。 by 清水 亮 出典
なので作りました。
考える×作る
5 遅刻しなAI アプリ紹介 自然言語からスケジュール登録と 移動スケジュールも同時に登録 LINE友達登録URL WEB簡易版
スケジュールURL生成 アーキテクチャ図 6 GPT-3.5-turbo-instruct スケジュール情報 Googleカレンダー 登録URL プロンプトにて 日付/時間/場所/イベント 名/イベント内容を分類
URLをZero Shotで生成 https://www.google.com/calendar/event?action=TEMPLATE&text=LLM+Application+Meetup+vol.99&dates =20231212T100000Z/20231212T120000Z&details=https://llm-app.connpass.com/event/297732/&location= 品川グランドセントラルタワー+日本マイクロソフト品川本社+31F+セミナールーム+A&trp=false <URL生成例> Olemi-llm-apprentice/Dont_be_late_AI: 遅刻しなAI (github.com)
乗換経路生成 アーキテクチャ図 7 GPT-3.5-turbo-instruct スケジュール情報 + 出発地 出発地 目的地 緯度経度
到着時刻 (日本標準時) URL合成 https://www.google.com/maps/dir/35.6896067,139.7005713/35.6267695,139.7404376/am=t/ data=!4m9!4m8!1m1!4e1!1m0!2m3!6e1!7e2!8j1702407000!3e3?entry=ttu <URL生成例>
プロンプトの一部
現状見えている課題と対応策 ・音声認識機能追加→ Whisper ・複数人同時で扱うとバグが発生→UserIDをDBで管理 ・車やサイクリング経路探索機能追加→GoogleMap API ・スクリーンショットや画像からスケジュール作成→日本語OCRモデルの勉強 ・セキュリティ設定→これから
聞く×考える×作る
動画→議事録化AIエージェント(11月末無料公開目標) Web会議 録画 レポート 議事録 現場打合せ 録音 様々な動画や音声データ
動画→議事録化AI アーキテクチャ図 12 GPT-3.5-turbo 動画 .mp4 音声 .mp3 文字起こし 全文
テキスト 分割 テキスト 要約 要約 テキスト 合成 合成 テキスト マークダウン 記事化 議事録化 全体要約 テキスト 分割 テキスト 分割 テキスト 分割 テキスト 要約 テキスト 要約 テキスト 要約 ffmpeg GPT-3.5-turbo Olemi-llm-apprentice/-whisper_test- (github.com)
生成例
動画に一語一語字幕(形態素解析) カラオケのように字幕が単語ごとに強調 (形態素解析したものは日本初?) 出展:https://www.youtube.com/watch?v=Gh0xzbgCIgg&pp=ygUc44K944OV44OI44OQ44Oz44KvIOWtq-ato-e-qQ%3D%3D
一語一語字幕 アーキテクチャ図 動画 .mp4 文字 起こし .json フォント 付字幕 .ass
ffmpeg WhisperX 単語から 形態素解析 .json janome 字幕付き 動画 .mp4
二つを合成して目指す最終系 M365 CopilotのTeams会議議事録機能 <機能> ・動画記録 ・議事録、タスク化 ・話者認識 ・会議内容をRAGでAI チャット ・議事録から動画の再生
場面へジャンプ ・ネガポジ発言探知
現状見えている課題と対応策 ・話者認識機能→ WhisperX ・文字起こしテキストをベクトル化→LangChain ・RAG_AIチャット機能→LangChain ・議事録からと動画のタイムスタンプ動機→これから ・ネガポジ発言探知モデルの追加→これから ・文字起こしおよび字幕焼き付け処理をローカルに飛ばすためのサーバー設定 およびセキュリティ設定→これから ・UI作成→これから(VercelV0を試したい)
生成AI系 MeetUpイベント 参加実績 ※オンライン含む
生成AI系 MeetUpイベント LT登壇実績 MicrosoftにてLT登壇 生成AI高専人会を 主催しLT登壇
今後つくりたいもの(個人として) 聞く×考える×話す ・3歳児向けおしゃべりぬいぐるみ(クリスマス目標) ・どんな時でも肯定的に励ましてくれる話せるAIアシスタント(12月末目標) 見る×考える×作る ・プラモデルの棚卸アプリ(1月末目標) ・チラシからお買い得商品通知+献立レシピ提供アプリ(3月末目標) 見る×考える×作る ・リアルおままごとレジ打ち(1月末目標)
考える×作る×聞く×話す×見る AIで 日本の生産性を革命的に向上させる プロダクトを作りたい