GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話

GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話 TOGATTA SERVER LT Vol.5 しんぶんぶん

自己紹介 • 名前: しんぶんぶん • 所属: 会津大学学部3年 • Twitter: @shinbunbun_,
@4fa19623 • LINE API Expert / seccamp ’23 / Cybozu labyouth 13th ◦ セキュキャン: 分散合意ゼミ（Raft） ◦ ラボユース: CRDTを使ったP2P分散データベースの開発

突然ですがみなさん、自分のクローン作りたくないですか？

クローンを作るとこんなに良いことが！ • 突然死んでも大丈夫！（諸説） • 自分自身と会話することでメタ認知が進む！（諸説）

ほな作るかー

レシピ • X（Twitter）のツイートアーカイブ少々 • Python少々 • “圧倒的財力”(嘘) ◦ 実験には100ドル以上かかった

で、作り方は？？

全ての叡智がここに！！ TOGATTA SERVER TECHBOOK VOL.1 1冊 1000円 https://techbookfest.org/product/rqa UJGEBP4Gkmexq8v0unS

ということで、作り方は解説しません（カス）

簡単に手法を解説 • まずTwitterのアーカイブをとってくる • アシスタント側の発話にツイートをぶち込んでファインチューニングするこれだけ！簡単！！！

そして生まれた化け物がこちら

鍵垢のツイートも全部放り込んだらだいぶ思想強めになりました😇

感想 • 鍵垢の思想強めなツイートをたくさん放り込んだので、思想強めなことを返してくるようになった • 支離滅裂な回答をすることが多いけど、たまにめちゃめちゃ面白いことを言ってくるのとても好き • 化け物を生み出してしまった...の気持ち

今後の展望 • 最近GPT4もファインチューニングできるようになったらしいので試したい • shinbunbunGPTを埋め込んだGPT墓石を作って突然の死に備えたい

GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話

GPT-3.5 Turbo をファインチューニングして自分のクローンを作った話

Yuto Takamune

More Decks by Yuto Takamune

Other Decks in Programming

Featured

Transcript