Link
Embed
Share
Beginning
This slide
Copy link URL
Copy link URL
Copy iframe embed code
Copy iframe embed code
Copy javascript embed code
Copy javascript embed code
Share
Tweet
Share
Tweet
Slide 1
Slide 1 text
GPT-3.5 Turbo をファインチューニングして 自分のクローンを作った話 TOGATTA SERVER LT Vol.5 しんぶんぶん
Slide 2
Slide 2 text
自己紹介 ● 名前: しんぶんぶん ● 所属: 会津大学学部3年 ● Twitter: @shinbunbun_, @4fa19623 ● LINE API Expert / seccamp ’23 / Cybozu labyouth 13th ○ セキュキャン: 分散合意ゼミ(Raft) ○ ラボユース: CRDTを使ったP2P分散データベースの開発
Slide 3
Slide 3 text
突然ですがみなさん、自分のクローン作りたくないですか?
Slide 4
Slide 4 text
クローンを作るとこんなに良いことが! ● 突然死んでも大丈夫!(諸説) ● 自分自身と会話することでメタ認知が進む!(諸説)
Slide 5
Slide 5 text
ほな作るかー
Slide 6
Slide 6 text
レシピ ● X(Twitter)のツイートアーカイブ少々 ● Python少々 ● “圧倒的財力”(嘘) ○ 実験には100ドル以上かかった
Slide 7
Slide 7 text
で、作り方は??
Slide 8
Slide 8 text
全ての叡智がここに!! TOGATTA SERVER TECHBOOK VOL.1 1冊 1000円 https://techbookfest.org/product/rqa UJGEBP4Gkmexq8v0unS
Slide 9
Slide 9 text
ということで、作り方は解説しません(カス)
Slide 10
Slide 10 text
簡単に手法を解説 ● まずTwitterのアーカイブをとってくる ● アシスタント側の発話にツイートをぶち込んでファインチューニングする これだけ!簡単!!!
Slide 11
Slide 11 text
そして生まれた化け物がこちら
Slide 12
Slide 12 text
No content
Slide 13
Slide 13 text
鍵垢のツイートも全部放り込んだらだいぶ思想強めになりました😇
Slide 14
Slide 14 text
感想 ● 鍵垢の思想強めなツイートをたくさん放り込んだので、思想強めなことを返してくる ようになった ● 支離滅裂な回答をすることが多いけど、たまにめちゃめちゃ面白いことを言ってくる のとても好き ● 化け物を生み出してしまった...の気持ち
Slide 15
Slide 15 text
今後の展望 ● 最近GPT4もファインチューニングできるようになったらしいので試したい ● shinbunbunGPTを埋め込んだGPT墓石を作って突然の死に備えたい