Slide 1

Slide 1 text

GPT-3.5 Turbo をファインチューニングして 自分のクローンを作った話 TOGATTA SERVER LT Vol.5 しんぶんぶん

Slide 2

Slide 2 text

自己紹介 ● 名前: しんぶんぶん ● 所属: 会津大学学部3年 ● Twitter: @shinbunbun_, @4fa19623 ● LINE API Expert / seccamp ’23 / Cybozu labyouth 13th ○ セキュキャン: 分散合意ゼミ(Raft) ○ ラボユース: CRDTを使ったP2P分散データベースの開発

Slide 3

Slide 3 text

突然ですがみなさん、自分のクローン作りたくないですか?

Slide 4

Slide 4 text

クローンを作るとこんなに良いことが! ● 突然死んでも大丈夫!(諸説) ● 自分自身と会話することでメタ認知が進む!(諸説)

Slide 5

Slide 5 text

ほな作るかー

Slide 6

Slide 6 text

レシピ ● X(Twitter)のツイートアーカイブ少々 ● Python少々 ● “圧倒的財力”(嘘) ○ 実験には100ドル以上かかった

Slide 7

Slide 7 text

で、作り方は??

Slide 8

Slide 8 text

全ての叡智がここに!! TOGATTA SERVER TECHBOOK VOL.1 1冊 1000円 https://techbookfest.org/product/rqa UJGEBP4Gkmexq8v0unS

Slide 9

Slide 9 text

ということで、作り方は解説しません(カス)

Slide 10

Slide 10 text

簡単に手法を解説 ● まずTwitterのアーカイブをとってくる ● アシスタント側の発話にツイートをぶち込んでファインチューニングする これだけ!簡単!!!

Slide 11

Slide 11 text

そして生まれた化け物がこちら

Slide 12

Slide 12 text

No content

Slide 13

Slide 13 text

鍵垢のツイートも全部放り込んだらだいぶ思想強めになりました😇

Slide 14

Slide 14 text

感想 ● 鍵垢の思想強めなツイートをたくさん放り込んだので、思想強めなことを返してくる ようになった ● 支離滅裂な回答をすることが多いけど、たまにめちゃめちゃ面白いことを言ってくる のとても好き ● 化け物を生み出してしまった...の気持ち

Slide 15

Slide 15 text

今後の展望 ● 最近GPT4もファインチューニングできるようになったらしいので試したい ● shinbunbunGPTを埋め込んだGPT墓石を作って突然の死に備えたい