20250823_LT_爆速AI_Cerebrasから考える未来

https://chatgptclub.connpass.com/event/365565/

Transcript

1. LT : 爆速AI Cerebrasから 想像する未来 2025/8/23 @doradora09
2. Copyright © 2025 NOB DATA All Rights Reserved. ⾃⼰紹介 ⼤城信晃(twitter @doradora09) NOB DATA株式会社 代表取締役社⻑ / データサイエンティスト協会九州⽀部 ⽀部⻑ / ASI未来社会研究所 所⻑代理 / iU 情報経営イノベーション専⾨職⼤学 客員教員 ・住まい 沖縄 -> 東京 -> 福岡 ・職歴 ヤフー-> DATUM STUDIO -> LINE Fukuoka -> NOB DATA(株) 創業 ・運営コミュニティ ・Tokyo.R(2010-2016) ・fukuoka.R、PyData.Fukuoka、 オモシロAIごった煮勉強会、ChatGPT部、 AGI福岡、GenAIアナリティクス＠東京、他 ChatGPTは登場の３⽇後の 2022/12/2からほぼ毎⽇利⽤
3. Cerebrasとは？ https://www.cerebras.ai/
4. とりあえず、 チャット速度 を体感 • https://inference.cerebra s.ai/ • OSSのモデルが動きます
5. とりあえず、 チャット速度 を体感 • １万⽂字で書いてもらう よう指⽰ • 実際は2000字のアウト プット • 所要時間は約３秒 ( 1102トークン/秒 ) • 爆速です
6. 速度⽐較(Llama-3.1-70B) https://gigazine.net/news/20240828-cerebras-inference/ • NvidiaのH100と⽐べると • 速度22倍 • コスト1/5 で処理できるようです
7. なぜこれができるの？ => 専⽤チップがめっちゃでかい https://zenn.dev/jnst/articles/cerebras-is-my-fave • クレイジー (褒め⾔葉)としか⾔ いようがない １枚の チップがこれ
8. 個⼈的な所感 • 余りにも爆速。もっとはやくなるかもしれない( コピペする感 覚 ) • ただ、OSSモデルではまだ性能不⾜は否めない -> とはいえ２年もすればおそらく現時点の最⾼性能のものが OSSになるはず -> 「なんでもリアルタイム⽣成」の時代が来るかも・・？
9. 思考実験①： そもそも、Webサイトは必要なのか？ • 「ボタンをクリッ ク」したら次の画 ⾯を「⽣成」もリ アルタイムにでき るようになるはず • 「データ」をどう 残すかは⼀つ課題 だが、ブラウザ側 に記憶させると か？ クリック時に ⽣成(2-3秒)
10. 思考実験②： 例えば、GoogleのAIエージェントでの アプリ開発等への掛け合わせ • Google AI Studio • Buildで勝⼿にア プリ開発 • ⾼速化すれば、 必要なアプリが 瞬時に作れるよ うになるか も？？
11. 思考実験②： 例えば、GoogleのAIエージェントでの アプリ開発等への掛け合わせ • 簡易的なものでGeminiで ⼤体５分(300秒)くらいか かってる ( ファイル⽣成が多め ) • 20倍速になれば15秒。 htmlファイル１つなら もっと早いかも。 • ドラえもんあれ出して、 でポケットから少し探し てる時間、くらいでどん どんアプリができる時代 が来るかも・・？？
12. 思考実験③：めちゃくちゃでかいコンテ キスト⻑のモデルができたら？ • 今は確かgoogleの200万 トークンが最⼤のコンテ キスト⻑( 150万⽂字く らい？ ) • 動画だと２時間程度 • 12倍になれば、24時間 (１⽇)の動画を丸っと処 理できるかも • 動画撮りっぱなしにして おけばアシスタントとし て「１⽇の振り返り」や 「鍵忘れてるよ」は普通 にできそう https://aistudio.google.com
13. そういえば、の次回予告 • 9/6(⼟) 14:00から、CIC 東京の会議室をお借りし て「東京＋オンライン」 のハイブリッド会の ChatGPT部をやります • ChatGPT以外にも周辺の AIの話もOKですので、⼀ 般参加＆LT参加、お待ち しております・・！ • 時間が余れば今⽇のよう な未来トークもぜひ。 https://chatgptclub.connpass.com/event/365537/
14. Enjoy..!!