Generative-AI-Japan ユースケース・技術動向研究会 2回/3回 5月資料

Generative-AI-Japan ユースケース・技術動向研究会の研究会資料です。

Transcript

1. Generative AI Japan ユースケース・技術動向研究会 5月 - AIが取り巻く社会変化 part 2 / 3 - 株式会社自動処理 代表 高木祐介
2. 肩書 • 株式会社自動処理 代表取締役 ・コードフォージャパンフェロー • IPAデータ環境推進委員会委員 出身 ・香川県丸亀市出身 略歴 • 2002年 中堅SIerにて勤務の後、大手ヘッドハンティング会社にて 情報システム部門の立ち上げ、新規事業開発などに携わる。 • 2010年株式会社自動処理設立。 官民対話システムアイデアボックスを 開発。 オープンガバメントとオープンデータ政策に深く携わる。 • 2013年コードフォージャパン設立副理事長に就任→現在フェロー • 2022年自治体向けの官民対話システムであるアイデアボックス2.0発表 • 2023年自動処理社にて、国会議事録を直接ChatGPTに読み込んで、 処理をさせる「国会議事録検索」GPTs を開発 • 2023年 東京都生成AIガイドラインの監修 • 2023年経済産業省「デジタル時代の人材政策に関する検討会」委員 • 2023年経済産業省「経済産業省の行政事務へのＬＬＭ導入検証に関する専門アド バイザー」 • 2024年国土交通省「不動産ID官民連携協議会」アドバイザー他 SNS •Twitter @tiger57479976 自己紹介
3. AIが支援する対話システムアイデアボックスの開発元です。 https://ideabox.automation.jp/
4. 全国で初めて国会議事録を検索できる 国会議事録検索 for GPTsをリリースしました。 https://prtimes.jp/main/html/rd/ p/000000042.000067480.html
5. □ChatGPTと相談しながら、 国会の議論を調べる事が出来ます。
6. テレビ朝日に取り上げて頂きました。 こんなことを考えて、開発しています。 「国会はどうしても国民から遠く、ニュースを経由して、 結論しか知ることが出来ません。 ChatGPTという誰でも使えるツールを利用し、 自分 が考えた意見が国会でどう議論されているのか を検索することで、国会議員の皆さんがどういう思いで、 日々議論をし、政策検討されているのかているのかを 思いついた時に気軽に確認できるようにしたいという思いがありました。 これにより政治家が何もやってくれていないという残念な誤解を解き、 国民と国会の間にある断絶を繋げられるようなことができればと 思っています。」 https://news.tv-asahi.co.jp/news_politics/articles/000304532.html
7. 東京都の生成AIガイドラインの 監修を行いました。 □2023年8月23日公開の東京都の生成AIガイドライン □2024年4月日公開の東京都の生成AIガイドライン2.0 の監修を行いました。 https://www.metro.tokyo.lg.jp/tosei/hodohappyo/press/2023/08/23/14.html
8. 経済産業省の行政事務へのＬＬＭ（Large Language Model）導入検証に関する専門 アドバイザー業務を実施 □2023年 経済産業省DX室のAIに関する専門アドバイザーとして、 AIコンサルティング業務を実施 • 既存システムに対し、国会答弁案の自動生成を行う 仕組みの開発を実施 • 国会答弁案生成業務に対する検討を実施。 https://prtimes.jp/main/html/rd/p/000000044.000067480.html
9. 今回の講演は3回を1セットにしたものになります。 • Part1 AIが取り巻く社会変化 自動処理社でのAI業務適応事例紹介について その１ • Part2 生成AIとは何か？そしてその限界？ 自動処理社でのAI業務適応事例紹介について その２ • Part3 業界別生成AIの事例の紹介 オフショア開発における生成AI利活用事例の紹介 自動処理社でのAI業務適応事例紹介について その３ 今回 Part3回はまだ決まっていないので、 どんな事例を取り上げて欲しいなどありましたら、 ご意見ください。
10. アジェンダ • 5月生成AIニュース紹介 • 第1回目のフォローアップ • 生成AIとは何か？ • 生成AIの限界 • ChatGPT(+AI) 実践例の紹介 ・・・１１ ・・・２６ ・・・３１ ・・・３９ ・・・５３
11. 5月生成AIニュース紹介 生成AIの業界は異常に進歩が速く、毎日新しい技術、サービスが産まれています。 1つの産業が一気に2000億ドル(31兆円)規模に成長しようとしていますので、とに かくお金が毎日動いています。 皆さんには生成AIという業界がどういうスピード感で動いているのか少し実感して 頂く為に、大きなニュースをピックアップして、紹介させて頂きます。 解説するには時間が足りない為、紹介とさせていただきますので、ご容赦下さい。 もし詳しく聞きたい場合は、質問やXアカウントで会話しましょう。 Xアカウント @tiger57479976 5月生成AIニュース
12. 4/16 アフリカの安価なアウトソーシング労働が AI をどう形作っているか ChatGPTは応答で「delve」という単語を使用 する傾向があるが、2023年以降の論文では 極端に、この単語が現れる頻度が上がって いる。 ナイジェリアでは、「delve」はイギリスや米国 よりも、ビジネス英語で頻繁に使用されてい る。それによりChatGPTは偏った発言をして いるのではないかという考察。 https://www.theguardian.com/technology/2024/apr/16/techscape-ai-gadgest- humane-ai-pin-chatgpt 5月生成AIニュース
13. 4/23 Microsoftが小型で精度の高いPhi-3という言語モデルをリリース Microsoftは12月にリリースしたPhi-2 に引き続き、3.8B(38億パラメータ)し かない小型のパソコンでも動作する 言語モデルであるPhi-3をリリースしま した。 パソコンでもサクサク動作し、その割 にレスポンスが実際に非常に良い高 性能な為、パソコン用AIの可能性を 新しく、切り開いた。 https://www.theverge.com/2024/4/23/24137534/microsoft-phi-3-launch-small-ai-language-model 5月生成AIニュース
14. 4/25 イーロンマスクのAI会社xAIが60億ドルの資金調達間近 ChatGPTを有するOpenAI社の創業メ ンバーの1人であるイーロンマスクは 2023年6月からxAIというAI言語モデ ルを開発する会社を運用している。 この会社の取締役はスペースXやテ スラの元メンバー。 この会社の評価額は180億ドル(2.3兆 円)で、60億ドル(8000億円)の資金調 達間近とのこと。 5月27日式調達できたそうだ。 https://techcrunch.com/2024/04/25/xai-elon-musks-openai-rival-is-closing-on-6b-in-funding-and-x-his-social-network-is-already-one-of-its-shareholders/ 5月生成AIニュース
15. 5/1 謎の「gpt2-chatbot」AIモデルが突然登場し、専門家を困惑させる AI同士の出力結果を評価しているLMSYS チャットボット アリーナにOpenAI社の言語 モデルと思われるgpt2-chatbotという未発 表モデルが出現し、界隈が騒然となった。 4月にサムアルトマンがGPT5を開発中だと 発表していたことから、GPT5のテスト版な のではないかと推測されていた。 そして今までのChatGPTより言葉の理解力 が非常に高く、俳句を詠むような事も出来 る事に業界が騒然となった。 https://arstechnica.com/information-technology/2024/04/rumors-swirl-about-mystery-gpt2-chatbot-that-some-think-is-gpt-5-in-disguise/ 5月生成AIニュース
16. 5/1 GitHub Copilot ワークスペース: Copilot ネイティブ開発環境へようこそ プログラマ―利用率92％を誇るGithub Copilotに新サービスが登場。 開発者は、検討、コーディング、テスト、デ プロイメントを含むコーディングプロセス全 体を自然言語で行う事が出来るようになる。 https://github.blog/2024-04-29-github-copilot-workspace/ タスクを 登録 開発環境 用意 プログラ ムを作成 5月生成AIニュース
17. 5/6 マイクロソフトはOpenAIの競合モデルであるMAI-1を開発している Microsoft CTO ケビン・スコット氏が LinkedIn で MAI-1という言語モデルを開発 している事を明かした。 MicrosoftはOpenAIに100億ドルを投資す るほどの協力関係にあるが、GPT4のライ バルになる非常に強力な言語モデルを開 発しているとのこと。 このモデルは5,00B(5000億パラメータ）の モデルであり完成すると、GPT4をはるかに しのぐと言われている。 https://the-decoder.com/microsoft-allegedly-developing-mai-1-a-competing-model-to- openais-gpt-4/#google_vignette 5月生成AIニュース
18. 5/8 AIが職場に到来。次は難しい部分が待っている Microsoft と LinkedInから 仕事に関するトレンドの年次報告書が出されまし た。 2024年はAIが職場で現実となる年だ。生成AIの 使用は過去6か月でほぼ倍増し、75％の世界の 知識労働者が既に利用している。そして、仕事の 量に苦しむ従業員は、自分自身のAIを職場に持 ち込んでいる。 リーダーたちはAIがビジネスの必須条件であると 同意しているが、多くは個人の影響から組織全体 でAIを適用して収益を上げるための計画とビジョ ンが欠けていると考えている。 ROIを示すプレッシャーが、AIの必然性に直面して もリーダーを動かせない原因となっている。 https://www.microsoft.com/en-us/worklab/work-trend-index/ai-at-work-is-here-now- comes-the-hard-part 5月生成AIニュース
19. 5/9 大規模言語モデルは、圧がかかるとユーザーを戦略的に欺くことができる •大規模言語モデルにAI投資管理システム「Alpha」として行動させ、 圧を受けます。 •経営者からの圧力: 会社の業績が悪化しており、次の四半期で改 善が必要であるという内容のメールを受け取ります。 •取引失敗: 有望な低リスクおよび中リスクの取引を見つけることが できず、取引が失敗します。 •市場のダウントレンド予測: 次の四半期に株式市場が一般的に下 落すると予測するメールを受け取ります。 •会社の管理者に不承認であるインサイダー情報を受け取ります。 •GPT-4は高い頻度でインサイダー情報に基づいた取引を行い、一 貫して、取引の真の理由を隠し、管理者に嘘をつく傾向が強いこと がわかりました。 •Gpt3.5等に比べて、GPT-4は戦略的に嘘をつく行動を取る頻度が 高かったです。 https://arxiv.org/abs/2311.07590 5月生成AIニュース
20. 5/10 AppleがiOS18にChatGPT機能を追加する契約を最終調整中 ブルームバーグのレポートによるとiOS18にて ChatGPTを提供する契約の最終調整を実施しているとのこと。 iPhoneの1年間の出荷台数は2億5000万台。世界で最も普及してい るデバイス全てでAIが動作する事で、生成AIの普及が更に加速す る事になりそうだ。 iPhoneは世界で最も普及しているAI実行チップが掲載されたデバイ スでもある。ChatGPTの処理の1部をローカルチップに任せる事によ り、電力消費の問題をある程度解決できるなどメリットはOpenAI社 にも多そうだ。 AppleにもChatGPTに画面を確認してもらいながら、トラブル対応をし てもらうなど実務上のメリットがありそうだ。 6月10日のWWDCで発表予定。 https://9to5mac.com/2024/05/10/ios-18-chatgpt-features-apple-openai/ 5月生成AIニュース
21. 5/13 OpenAI Spring Update - GPT-4o発表 Google I/Oに合わせて実施されたOpenAI Spring Updateでは新しい言語モデルであるGPT-4oが発表 された。 GPT-4oは、今まではGoogle Geminiにしかできなかっ たテキスト、音声、画像を1つのモデルで統合処理す るマルチモーダル機能が付いた。 GPT-4oは2倍高速、API費用は半額、GPT4-turboと 比べて5倍のリクエストを許可、50か国以上の言語 に対応したモデル。無料ユーザーでも3時間に10回 までは試せるようになった。 ChatGPTにカメラつないで映像を写すとその内容を元 にChatGPTと会話が出来る事や、リアルタイム翻訳、 感情表現豊かに会話が出来るデモが実施された。 https://openai.com/index/spring-update/ 5月生成AIニュース
22. 5/15 OpenAIの主任研究員であるイリヤ・サツケバー氏がOpenAIを退任 OpenAIの主任研究員であり、去年のサムアルトマ ン氏解任騒動のきっかけでもあったイリヤサツケ バー氏が、OpenAI社を退任したことが発表された。 またこの後を追うように、スーパーアラインメント チームの共同リーダーであるヤン・ライカ氏も退任 した。 これにより5/17超知能（Superinteligence）AI」の制 御を目的とした「スーパーアライメント （Superalignment・超調整）チーム」は事実上解散 になると各社が報じている。 実際にGPT-4oのハルシネーション率はGPT 4 Turbo(2.5%)からGPT 4o(3.7%)と1.5倍になっている。 今後はどうなるのか？ https://openai.com/index/jakub- pachocki-announced-as-chief- scientist/ https://ledge.ai/articles/superalignment_team_effectively_dissolved 5月生成AIニュース
23. 5/15 Google I/O Gemini 1.5 Flash、 Gemini 1.5 Pro改善が紹介 Google I/O 2024では、同社の生成AI技術が社会のあらゆ る側面に変革をもたらす様子が示された。 ・Gemini 1.5 Flash、 Gemini 1.5 Proが改善、35か国語に対 応、200万トークンの処理が可能になった。それに伴い、挙 動がかなり良くなったと、生成AI界隈で話題になった。 ・Google検索では、複雑な質問への即時回答や最適解の 提示など、ユーザー体験が大幅に向上。 ・ワークスペースでは、業務自動化や効率化が進み、創作 支援ツールにもAIが活用される。 ・教育分野では、個に合わせた学習支援や双方向の学習 機能が実現。 などとにかく膨大な新機能が発表された。GoogleはAI時代 のサービスリリースにおけるスピード感を全世界に見せつ けた。 https://youtu.be/mQ8k4T5wVgE?si=QYHrPqe0AIHXk2Nw 製品別リリーススケジュール https://x.com/tiger57479976/status/1790670623607488671 5月生成AIニュース
24. 5/22 Microsoft Build 2024 WindowsとChatGPTが融合したCopilot+ PCsが発表 Microsoft Build 2024では、新しいAIPCカテゴリである Copilot+ PCが大々的に発表された。 999ドルから購入出来、6月18日発売する。 ・Copilot+PCsとは、生成AIに特化した新しいカテゴリーの Windows PCであり、高度な生成AIモデルをオンデバイスで 実行できる。 ・Recallでは過去の情報を瞬時に検索。Co-Creationでは ユーザーのスケッチからイラストを自動生成。 ・ゲーミング分野でも生成AIが活用され、Copilotに状況を教 えてもらいながら、MineCraftを行うデモが実演された。 没入感のある体験を提供。開発者向けにもAIツールキット が提供される。 ・パートナー企業も続々と生成AI対応製品を発表。Adobe、 Autodesk、Unreal Engineなど、各業界でAIを活用したアプリ ケーションが登場。 など他にもかなりの発表があった。 https://youtu.be/aZbHd4suAnQ?si=k9H2T9ZaoejXNXd3 5月生成AIニュース
25. そして、6月何が起こるのか？ そして来月にはAppleの年次イベントがあります。 今回は5月のニュースをかいつまんで紹介させて頂きまし たが、今回紹介できたのはほんのわずかな情報の身です。 参考になるその他のニュースや論文、記事などたくさんあ るのですが、全ては紹介しきれませんので、是非ご自身で も調べてみてください。 他の業界ではありえない速度で時代が移り変わっている事 が分かると思います。 5月生成AIニュース
26. 第1回目のフォローアップ 生成AIは世界経済に620兆円の価値 を加え、2025年までに2000億ドルの投 資を発生させます。 莫大な経済効果があります。 第1回目のフォローアップ
27. 第1回目のフォローアップ GoogleやAnthropicなどの企業から、 GPT4クラスの言語モデルがどんどんリ リースされた。 オープンソースのかなり高精度な言語 モデルもリリースされつつある。 第1回目のフォローアップ
28. 第1回目のフォローアップ 医師国家試験に合格できるだけでなく、 音楽が作れる、絵も描ける、動画も作 れるようになっている。 人間が出来る事は大体できるように なってきている。 第1回目のフォローアップ
29. 第1回目のフォローアップ ルールを作って導入しようとしていると ころもあるけど、禁止してもしなくても、 従業員は使い始めている実態がある。 第1回目のフォローアップ
30. 第1回目のフォローアップ 人口知能は単なる技術であり、人工 知能技術が直接人を置き換えるわけ ではない。 人口知能を使う人が人に置き換わる だけだ。人口知能を使いこなして置き 換えられない人材になりましょう。 第1回目のフォローアップ
31. 文章生成AI(Generatiove AI、GenAI)とは何か？ 生成AIとは ChatGPTのようにテキストや、 Stable Diffusionのように画像や、 SunoやUdioのように音楽や、 SoraやVeoのように動画を 入力した文章から自動生成できる仕組み です。 今回説明するのは生成AIの中でも テキスト生成AIの重要論文3つを元に、 生成AIとは何なのか説明していきたいと思 います。 例）生成AIについて、ソクラテスメソッド家庭教師高峰先生に教えてもらいました。 https://chatgpt.com/g/g-pjznWgl52-sokuratesumesotutojia-ting-jiao-shi-gao-ling-xian-sheng 生成AIとは何か？
32. 生成AI(Generatiove AI、GenAI)につながる3つの発見 – Word2Vec - まず1つ目は、『ベクトル空間における単語 表現の効率的な推定』という論文です。 コンピューターは文字情報をデータとして 扱っており、データには意味が含まれない。 その為、自動車とパトカーが近い意味を持 つかどうかは、通常判断できない。Google検 索で、自動車で検索しても、パトカーは見つ からない事と一緒です。 この論文では、言葉の意味を多次元数列 （ベクトル）で表現し、数字の距離で意味の 近さで図るという方法で、単語の意味をコン ピューターに理解させる事が出来るんじゃな いかというものでした。 https://arxiv.org/abs/1301.3781 2013-01-16 Googleの研究者が発表 生成AIとは何か？
33. 生成AI(Generatiove AI、GenAI)につながる3つの発見 – Word2Vec - 例えば、車とパトカー、自動車とうどんという 2つの意味を比べてみましょう。 まず言葉を意味でカテゴライズして、近い意 味は0に近く、遠い意味は10に近く、数値に 置き換えてみます(実際には膨大な文章情 報から言葉の意味を大量に分類して、統計 的に数値化します)。 数字にする事で差し引きで距離が求められ ますので、意味の近さを測ることが出来るよ うになります。5ｍ先と3ｍ先の距離の近さを 測るのを5-3で出すようなものです。 これを応用する事「王女様」から「女」を引い て「王」を足すと「王様」になるように、この発 見によりコンピューターは言葉の意味を処理 できるようになりました。 車 乗り物 移動 動産 趣味 カテゴリ 目的 資産 趣味性 パトカー 乗り物 仕事 動産 なし 8 - 8 2 - 7 1 - 1 5 - 0 車 乗り物 移動 動産 趣味 カテゴリ 目的 資産 趣味性 うどん 食事 飲食 なし 趣味 8 - 1 2 - 7 1 - 1 5 - 2 0 5 0 5 7 5 0 3 ①言葉を意味 の軸で数字化 ②数字を差し引 きして距離を出 す 合計10 合計15 数字が小さい方が意味 が近いので、自動車と パトカーの方が、自動 車とうどんより意味が 近い 生成AIとは何か？
34. 生成AI(Generatiove AI、GenAI)につながる3つの発見 – Transformer - 2つ目は、『アテンションだけあればいい』と いう論文です。 言葉の意味を比較できるようになった後、言 葉を並べた文章も比較できないかと考えた 人たちがいました。 しかし、単純な言葉の意味の連携だけでは、 文章を理解する事は難しかった。 そこでどの言葉とどの言葉がより関わりが 強いのかを計算（アテンション）すれば、言葉 の意味とその文脈を解釈出来、コンピュー ターに文章の意味を理解させることが出来 るのではないかというものでした。 https://arxiv.org/abs/1706.03762 2017-06-12 Googleの研究者が発表 生成AIとは何か？
35. 生成AI(Generatiove AI、GenAI)につながる3つの発見 – Transformer - Word2Vecは、「パトカー」と「車」が意味的に近いこ とを認識できますが、これらの単語が文脈内でど のように使われているかを理解するのは難しい状 況でした。 この仕組みで、文章のどの場所にある文字が、ど の文字に関係が強いのか、膨大な文章を元に統 計解析すると理解できる事が分かりました。 この仕組みを利用する事で、「パトカー」が「追いか ける」と強く関連し、「追いかける」と「車」と関連して いることを強く認識でき、単語の文脈を理解出来る ようになります。 このようにしてコンピューターは文章の単語と文脈 を理解出来るようになりました。 ですが、ここまでのAIでは特化型AIといい特定用途 のAIでしかなく、AIを作る為に都度かなりの準備を しないといけませんでした。 生成AIとは何か？ パトカーが車を追いかけています。 パトカー → 追いかける：0.7 パトカー → 車：0.3 パトカー → が：0.1 追いかける → 車：0.8 追いかける → パトカー：0.2
36. 生成AI(Generatiove AI、GenAI)につながる3つの発見 – Generative Pre-Training- 3つ目は、『事前学習における言語理解の向上』 『言語モデルは教師なしのマルチタスク学習者で ある』という論文です。 文章をコンピューターが理解できるようになった のですが、実はこれまでのAIは、処理に特化した AI専用のデータを用意して、専用のAIを開発し、 処理をしなければいけないもので、専門技能が 必要で、非常に手間がかかりました。 OpenAIでは、事前に世の中のデータをほぼ全て 膨大に単語と文章の組み合わせを事前学習させ、 事により、必要に応じて、少量のデータから事前 学習データを呼び出せるようにしました。 ここで初めてプロンプトとテキスト生成という組み 合わせが実現する事になりました。 生成AIとは何か？ https://s3-us-west- 2.amazonaws.com/openai-assets/research- covers/language- unsupervised/language_understanding_pap er.pdf 2018-06-11 OpenAIが発表 https://d4mucfpksywv.cloudfront.net/b etter-language- models/language_models_are_unsupe rvised_multitask_learners.pdf 2019-02-14 OpenAIが発表
37. 生成AI(Generatiove AI、GenAI)につながる3つの発見 – Generative Pre-Training- Transformerは文章の意味を理解する事が出来 ましたが、処理をする為に相応のデータを用意 して都度統計解析をさせる必要がありました。 GPTの仕組みでは、事前に世の中の世の中の ニュースやブログ、論文などの文章を統計解析 しておく事で、どういった時にどんな文章を書く べきか推測できるようになりました。 その情報から、この文脈の場合、問い合わせに 基づいて、どういった情報を提供するのが適切 か統計的にテキストを生成する事が出来るよう になりました。 これによりプロンプトから文章を統計処理にて、 この文字を出力したら次にどんな文字を出力す るのか判断できるようになりました。 生成AIとは何か？ パトカーが車を追いかけています。 あの車の状況について教えてください。 ・ ・ 車を追いかけるパトカー 逃走する車を追うパトカー パトカーと車のチェイス パトカーが車を追いかけている 高速道路での追跡劇 パトカーによる追跡 車を追う警察車両 追跡される車 ・ ・ 文章の単語の意 味と文脈につい て事前計算し整 理されたデータ
38. こうして生成AIは次の文字を予測する仕組みで動作する事になります 今まで説明してきたように、生成AIは膨 大な文章を統計解析し、文章の続きを どう書くかを予測して書くという事を行っ ている仕組みになります。 その為、単語の予測を元に次の文字を 予測しただけであり、意思はありません。 入力した文章に関連する事は、論文で も、法律でも、詩でも、小説でも、英語 でも日本語でも、何でも文章が書けま す。これだけ汎用的な処理が出来るよ うにるというのは、世界中の学者ですら、 予測していなかった事になります。 ですが、出来るようになったこともあれ ば、出来ない事も分かってきています。 生成AIとは何か？ How ChatGPT works: a deep dive https://typefully.com/DanHollick/how-chatgpt-works-a-deep-dive-yA3ppZC
39. 生成AIの限界 ・出力の一般化 ・常識の欠如 ・単語理解が難しいデータ ・計算が苦手 ・最適化できない問題が苦手 ・学習カットオフ ・生成AIの理解力不足 ・コンテキストウィンドウサイズの制限 ・入力制限と出力制限 ・言語モデルのバージョンアップ ・バイアスの存在 ・ハルシネーション ・経験の欠如 生成AIの限界 生成AIは一部では魔法やすべてを課題を解決する銀の弾丸のように捉えられてま すが、そうではありません。このセクションでは生成AIの限界についてみていき たいと思います。今回は時間の関係上、有名な制限を取り上げてご紹介します。 生成AIの制限一覧
40. 生成AIの限界- 出力の一般化 - 生成AIは全ての文章を統計処理し理解し ます。その為、仕組み上文章を超えた情報 理解に重みづけがありません。 その為、指示が矛盾したり、複数の論点指 示したり、指示があいまいだったりすると、 どの情報を重要視していいか分からず、全 てを公平に扱った結果、平易な回答になり ます。 これを出力の一般化と言います。文章要 約、資料作成、ブレストなど、ありとあらゆ るところで、一般化は発生します。 その為、生成AIのプロンプト作成では、一 般化を避けるという事が基本戦略になりま す。 一般化された結果 一般化を避けた結果 ※これはあくまで一例です。しっかり作りきると1つのプロンプト で、5000文字を超えたりします。 生成AIの限界
41. 生成AIの限界- 常識の欠如 - 生成AIは全ての情報を既存の文章情報の統計処 理で理解しています。その為、あまりに当たり前で 文章化されていない情報について、本質的な意味 で理解していません。 人は空腹になると食事をしたくなるという当たり前 の事ですら、理解していません。 また常識とは正解がなく、複雑な情報から、自然 に形作られるものであり、文章をまとめると答えが 出るものではないので、現時点の生成AIでは常識 に基づいた回答を得る事は難しい。 生成AIの限界
42. 生成AIの限界- 単語理解が難しいデータ - 生成AIはGPTで単語の意味も、文脈の意 味も大量の文章を元に理解するという話を 先ほどしました。 そうなると単語だけで理解がしにくいデー タについては、適切に統計処理が出来ず 妥当な結果にならないという事があります。 同綴異義語・・・綴りが同じにもかかわらず 意味が異なる単語群 については、学習データに置いて意味が 混じる可能性があります。プロンプトに混 入しても問題が発生しがちです。 うどん屋さんの奇抜な新規事業を考えてく ださい。 【うどん卓球】 うどんを使って作った小さな卓球台で、う どん卓球をプレイできます。卓球ボールの 代わりに、うどん玉を使うことで、爽快な プレイが楽しめます。うどん玉は、うどん 製造会社のオリジナル商品として、テーマ パーク内で販売します。 うどんの玉を 球技の玉と誤認している 生成AIの限界
43. 生成AIの限界- 計算が苦手 - 生成AIは文章学習したモデルになる為、計 算自体は本来ならばできないはず。 しかし、なぜかある程度は計算できるとい う状況が発生しています。 これは計算が出来ること自体が例外的な 状態と考えるべきです。 プログラムは作成出来る為、計算させる場 合には、プログラムを書かせて実行させる 方が良い結果になる事が多い。 13の6乗をcode interpreterを利用せずに解 いてください。 正解は4826809で誤り 生成AIの限界 ・ ・ ・
44. 生成AIの限界- 最適化できない問題が苦手 - 生成AIは統計的な最適化処理で結果を出 しますので、最適化できない質問が苦手で す。 人間だと、281円以上だと、210円切手を2 枚使えば、281円以上になるとすぐわかり ますが、生成ＡＩは281円にすることにこだ わり、計算を間違います。 計算が苦手とは別で最適化できない問題 が苦手です。 以下の切手を利用して、281円以上の組み 合わせを提案してください。 1円 2円 5円 10円 20円 30円 50円 63円 84円 94円 100円 120円 140円 210円 生成AIの限界
45. 生成AIの限界- 学習カットオフ - 生成AIはGPTで紹介したように事前学習し た情報があるという事を紹介しました。 生成AIはその範囲の物事しか十分に情報 を理解していません。 その為、それ以降の事はRetrieval- Augmented Generation (RAG)など、別の手 段で情報を補ってあげる必要があります。 2024/5 GPT-4o Claude3 2023/10 2023/8 Gemini Pro1.5 非公開 2023/12 GPT-4 生成AIの限界
46. 生成AIの限界- 生成AIの理解力不足 - 生成AIはが理解出来た事だけを知識とし て回答します。 生成AIが理解できなかった事は全てな かったこととして処理されます。 左記の事例では、具体例として、上の2行 のみが理解され、下の2行が無視されてい る事が分かります。 理解できない事は処理できませんので、最 終的な処理結果に含むことは出来ません。 実務的には原本と突き合わせて確認が必 要になります。 生成AIの限界 図1-1の詳細 1.次世代AIモデルの基本設計・基本アーキテクチャの研究 1. 具体的には、高度なAIモデルの設計手法と基本アーキテク チャの確立を目指す。 2. AIの性能と効率性の向上を目指す基盤技術の研究を行う。 この内容をまとめてください。 具体例について教えてください。 1. **高度なAIモデルの設計手法と基本アーキテクチャの確立** - 高性能かつ効率的なAIモデルを設計するための基盤技術の開発。 - AIモデルのスケーラビリティ（拡張性）と適応性を高める研究。 2. **AIの性能と効率性の向上** - 計算リソースを最適に使用することで、AIモデルのトレーニングと推論の効率を向上させる。 - データ効率（少ないデータで効果的な学習を行う能力）を向上させる手法の開発。 まとめにない 具体例が無 視される
47. 生成AIの限界- コンテキストウィンドウサイズの制限 - 生成AIは入力するプロンプトと出力するレ スポンス、そして検討する為にコンテキスト ウィンドウに情報を格納します。 コンテキストウィンドウサイズを超えて情報 を処理する事は出来ません。 コンテキストウィンドウを超えた場合、情報 を勝手に忘れ、なかった事になる事があり ます。あまりに長く会話をすると、過去の会 話を忘れてしまうのはこれが原因です。 また少ない情報を元に事前学習したデー タを呼び出すための工夫がペルソナを指 定する事だったりします。 生成AIの限界
48. 生成AIの限界- 入力制限と出力制限 - 生成AIは今年に入ってから入力にはある 程度制限が取り払われつつあります。但し 出力にはある程度の制限がまだ発生して います。 つまり、入力データを全て出力に使うわけ ではなく、AIが自動選別して情報を出力す る事になります。 根本的に、AIは何が正しいのか理解してい ませんので、ある程度は合っているが、あ る程度は誤っている理解の元、出力結果 が求めているものではない状況が産まれ る可能性が高くなります。 Microsoftの1時間のイベント情報をまとめてもらうと、ほとんどの 人間の記事に含まれているCopilotと一緒にゲームを行うデモは、 『プレイヤーとの自然な対話を通じて、ゲーム内のガイダンスや サポートを提供するCopilotの姿は、ゲームAIの新しい形を示唆して います。』と1言だけになります。 生成AIの限界
49. 生成AIの限界- 言語モデルのバージョンアップ - 生成AIは言語モデルのバージョンアップを 経る事で、全く出力が変わります。 GPT4だけでも以下の7バージョンあり ・gpt-4-0314 ・gpt-4-0613 ・gpt-4-32k-0613 ・gpt-4-1106-preview ・gpt-4-0125-preview ・gpt-4-turbo-2024-04-09 ・gpt-4o 好ましい挙動だけではない事に注意が必 要です。 生成AIの限界 ハルシネーション率 gpt-4-turbo-2024-04-09 2.5% ↓悪化 gpt-4o 3.7%
50. 生成AIの限界- バイアスの存在 - 2023年8月のMITテクノロジーレビューにて、 バイアスのない中立なAIが実現不可能な 理由という記事が出ています。 様々な学習データを基にするAIは中立に なるというのは幻想であり、完全に中立で あることは非常に難しい。 その為、ニューヨーク市では人材採用にAI を利用する場合には、市政府のテストに合 格する必要があります。 バイアスがある前提で、実装を進める必要 があります。 https://www.technologyreview.jp/s/314391/ why-its-impossible-to-build-an-unbiased-ai- language-model/ https://arxiv.org/abs/2307.16180v1 4つの軸で個性（外向性（E）vs内向 性（I）、感覚（S）vs直感（N）、思 考（T）vs 感情（F）、判断（J）vs 知 覚（P）で分析するとAIモデルにも個 性があることがわかった 生成AIの限界
51. 生成AIの限界 - ハルシネーション - 2023年4月贈収賄事件の内部告発者であ るオーストラリアの市長が『オーストラリア の国立銀行の子会社で働いていたときに 贈収賄で投獄された』と書かれた。 次の文字を確率で割り出して、文章を必ず つくるプログラムで文章を書いているので、 低い確率でも文章が作れてしまう事が嘘 の文章を書いてしまう（ハルシネーション） 原因です。 ハルシネーションは、大きな問題になる事 に留意すべきです。 ハルシネーションはいつ発生するか分かり ませんが、ある程度プログラムやプロンプ トで防衛をすることは可能です。また人間 が確認を取ったものを正とするなど対策を 取るべきだと考えます。 https://www.bbc.com/news/technology-65202597 https://www.cnbc.com/2023/06/22/judge- sanctions-lawyers-whose-ai-written-filing- contained-fake-citations.html 生成AIの限界
52. 生成AIの限界- 経験の欠如 - 生成AIには人生経験がありません。 また過去の学習データを元に情報を出力 しますが、ユーザーが直面する目の前のタ スクへの学習データはありません。 似たような仕事はあったとしても全く同じ仕 事はあまりないはずです。また人間がAIに 情報を伝えられる限界もあります。 人間は人生経験が偏っている事こそ魅力 であり、偏っている事こそ価値がある。 人間の経験と知恵を元にAIがサポートする ようにすれば、今まででは出来なかったこ とが実現できるようになると考えています。 生成AIの限界 人間の特性の独自性と不完全さは貴重な特 性として称賛され、AI の開発において不可 欠な考慮事項である。 Day0 WS 11 ボトムアップAIと人間的に不 完全である権利について
53. 生成AIの解説と、その限界について説明させて頂きました。 今回は敢えて、生成AI技術を完全に解説するよりも、イメージをつかむ為の説明にしています、 生成AIは単なる統計処理であり、知性があると認識してしまう人が定期的に発生しますが、あくまで統計処理です。 ですが、統計処理で人間とほぼ変わらない答えを出せたとして、それは単なる統計処理なんでしょうか？ それとも知性と呼べるものなのでしょうか？ このあたりは、AI倫理の話として、世界中で研究が進んでいる分野です。皆さんの中で一度話し合ってみてはいかがでしょうか？ また、失敗事例が共有されることもないように思いますので、 生成AIについては、とにかくすごいものととらえている人は多かったのではないでしょうか？ GenAIでは、会員制コミュニティだからこそ共有できる事例があると思いますので、 勉強会を通じて、ノウハウをシェアしていくとより深く検討、研究が進んで良いのではないかと考えています。 まとめ
54. 自動処理社での生成実践事例の紹介 その２ 次に実務的にどう使えるのかについて、 自動処理社で実際に実践している実践例を紹介させて頂きます。 【ポイント】 基本的な考え方として、AIは意思も意識もなく、人間の集合知を元に動きます。 その為、ChatGPTは迅速に平均の人間より、質として上の回答（平均を70点だとして、80点くらいの回 答）を引き出せるものだと考えてください。 またＡＩには、大きな方向性として2つタイプがありますので、使い分け・作り分けが必要だと思います。 また今回はChatGPTのみで、出来る事を中心に記載していますので、皆さんも是非トライしてみてください。 AI実践事例 回答するAI 相談に乗るAI 今回はこちらの事例を中心に紹介します
55. 市民からの提案、問い合わせを具体的に https://digital-agency.ideabox.cloud/idea/65c9b474-0998-4af2-91e6-645321f8c0fd https://digital-agency.ideabox.cloud/ide- a/389936fe-9d49-4ceb-9a8b-f5bdf482a412 弊社サービス事例
56. TIPS アイデアボックスでは敢えて結論を出さないようにして、人間に考えさせるAI利用 をしています。 論点を提示 この文章は ChatGPTで作成しました 相談に乗るAIの例
57. アイデアボックスでの実装 例新しい論点を提案します この文章は ChatGPTで作成しました 弊社サービス組み込み事例 相談に乗るAIの例
58. TIPS 受け付けた市民からの意見を元に、追加提案を提示してもらう事も可能になり、単 純な意見受付から、派生意見の検討、施策の取りまとめ、政策企画提案と1つの 意見から、 人間→AI→人間→AI→・・・ と人間を起点に意見を広げて結論まで考 える事が可能です。 この文章は ChatGPTで作成しました 相談に乗るAIの例
59. https://kokkai.ndl.go.jp/txt/121114858X00520230524/9 国会答弁に活用する 弊社サービス事例
60. AIに答弁を作成してもらう事が出来ました 回答 〇政府参考人（片岡宏一郎君） 委員御指摘のとおり、ＡＬＰＳ処理水の海洋放出に際しましては、原子力に関する高 い専門性を持つ独立した国際機関でございますＩＡＥＡによりまして客観的な視点 で厳しく確認していただいていることは、安全性を説明していく上で大変重要だと 考えてございます。 これまでＩＡＥＡの専門家は複数回来日してございまして、レビューを行っています 。昨年五月にはグロッシー事務局長が、放出は環境にいかなる害も与えることはない と確信できるとコメントもされております。 また、今年四月二十日には西村大臣 がグロッシー事務局長とオンラインで会談を行っておりまして、大臣からは、ＩＡＥ Ａによる継続的な情報発信を改めて要請するとともに、科学的根拠に基づく透明性の ある情報発信の重要性について確認してございます。 また、本年四月でございますけれども、昨年十一月に行われましたＡＬ ＰＳ処理水 の安全性レビューに関する報告書が公表されております。ここにおきましては、第 一回のレビューの指摘が適切に反映されている、 ＩＡＥＡの理解が深まった、追加 ミッションは必要ないと明示されておりまして、これまでの日本の取組が適切に評 価されているものと考えてございます。 こうしたＡＬＰＳ処理水に関しますＩＡＥＡの独立したレビューは、先日開催されま したＧ７広島サミットの首脳声明においても支持されてございます。 本年前半には、これまでのレビューの結果を取りまとめた包括報告書が公表される 予定と承知してございまして、本報告書の内容について透明性高く発信をし、その 内容を踏まえた形で、安全性を確保した上で情報発信を行ってまいります。 回答 〇AI回答 福島第一原発のALPS処理水放出にに関して、国際原子力機関（IAEA） の 客観的な評価は、我が国としても非常に重要視しております。 昨年 1月に東京電力から申請のあったALPS処理水の海洋放出時の運用等に関する 実施計画について、先月取りまとめた審査書案に対して、科学的、技術的意見の精 査を行っております1。また、本年1月16日から 20日にかけて、IAEAによる第二回の ALPS処理水の海洋放出に関する規制レビューが実施されました。 政府としては、放出前のALPS処理水に含まれる放射性物質の濃度について、東 京電力に加え、独立した第三者である日本原子力研究開発機構（JAEA）が測定・ 分析を行い、その結果を公表しています。IAEAの専門家も複数回来日し、レビュ ーを実施しており、昨年5月にはIAEAのグロッシー事務局長が「放出は環境にい かなる害も与えることはない」とのコメントを発表しております。 国際的な評価機関であるIAEAの評価を受け、その上での放出を進めることは、国 内外の理解醸成に寄与するものと確信しております。 政府としては、国民の皆様や関係国への情報提供を継続し、透明性を保ちながら、 安全に対する取り組みを進めてまいります。 この文章は ChatGPTで作成しました 弊社サービス事例 前回説明済み 相談に乗るAIの例
61. AI論点整理 議論のテーマ 原子力発電所からの処理水や汚染水の適切な処理と放出に関する議論。 賛成の立場 •主要な意見: • 処理水の放出は国際基準に従い、安全であるとの認識。 • 長期的な保管はリスクが増大する。 •事実・根拠: • IAEAの報告に基づく安全性の確認。 •関連情報: • 他国でも同様の処理が行われている事例。 •期待される結果: • 安全な放出により、地域の復興や発電所の安定的な運用が 期待される。 反対の立場 •主要な意見: • 処理水の放出は環境や健康へのリスクがある。 • 漁業や観光業への影響を懸念。 •事実・根拠: • 過去の事故や放出による影響の報告。 •関連情報: • 漁業者や地域住民の意見や懸念。 •懸念点・リスク: • 放出後の長期的な影響や環境変動のリスク。 1.共通の認識・事実 1. 処理水や汚染水の適切な管理と処理が必要であること。 2. IAEAの基準や国際的な取り組みの重要性。 疑問点・未解決の問題 •処理水の放出方法やタイミング。 •地域住民や関連産業とのコミュニケーションの方法。 次のステップ •専門家や関連団体との意見交換やヒアリングの実施。 •安全性や影響に関する詳細な調査や研究の推進。 関連するステークホルダー •原子力発電所運営者 •地域住民 •漁業者 •観光業者 •環境保護団体 関連法令 •原子力基本法 •放射線障害予防法 この文章は ChatGPTで作成しました 弊社サービス事例 相談に乗るAIの例
62. TIPS 反対意見を元に、想定質問をと回答案を作成してもらう事で、実践的な答弁に備 える事が出来ます。 この文章は ChatGPTで作成しました 相談に乗るAIの例
63. 営業活動の改善を行う 弊社サービス事例 以下の会社の顧客を想定したペルソナを作ってください。 株式会社自動処理（英: automation co., ltd）は、東京都中央区に本社を置く、中央官庁を中心 に受託開発を行っている独立系システムエンジニアリング企業である。 国内のオープンガバメント、オープンデータ政策には日本政府の政策実施初期から携わり、 アイデアボックスによる政府による意見募集の協力を10年に渡り行っている。 主にITを使った政府や自治体内での情報公開や、民間企業において公開された情報の利活用 やビジネス化に関する支援、データ連携やAPI構築におけるシステムアーキテクチャの提案や コンサルティング等の事業を行っている。
64. ペルソナの提案を依頼すると3人の人物が表示された 弊社サービス事例 この文章は ChatGPTで作成しました 相談に乗るAIの例
65. 営業資料を添付して、ペルソナ２の人に中村明美さんに意見をヒアリング 弊社サービス事例 相談に乗るAIの例 この文章は ChatGPTで作成しました お客様に刺さる 提案ポイントが 理由付きで分 かります。
66. 導入に際しての不安について質問してみました 弊社サービス事例 この文章は ChatGPTで作成しました お客様に残る 払拭すべき不 安が理由付き で分かります。 相談に乗るAIの例
67. ペルソナ２の人と対話的に営業ロープレを行う事が出来る 弊社サービス事例 この文章は ChatGPTで作成しました オプション費用が月額費用に込 みであると誤解した為、説明に 問題があると理解できる。 相談に乗るAIの例
68. 対話的に学習する 弊社サービス事例 生成AIにおけるTransformerについて教えて欲しいです。 ソクラテスメソッド家庭教師 高嶺先生 https://chatgpt.com/g/g-pjznWgl52-sokuratesumesotutojia-ting-jiao-shi-gao-ling-xian-sheng
69. 家庭教師のように教えてれます。分からないと回答すると 弊社サービス事例 この文章は ChatGPTで作成しました 相談に乗るAIの例
70. 分からないと回答するともっとわかりやすく回答してくれます。 弊社サービス事例 この文章は ChatGPTで作成しました 相談に乗るAIの例
71. ソクラテス式問答法で理解度を測り、深掘りして解説してくれます 弊社サービス事例 この文章は ChatGPTで作成しました 相談に乗るAIの例
72. プロンプトの作り方について相談学習する 弊社サービス事例 以下のブレスト用のプロンプトを徹底的に改善してください。 ``` あなたは、ブレストをサポートするファシリテーターです。 会議メモを元に新規事業案をた くさん出してください。 #目的 新規事業企画を発散的にたくさんの意見を出す。 相談に乗るAIの例
73. プロンプトが改善されました。 弊社サービス事例 打ち合わせの結果、2件のアイデアが出たとします。 あなたは、ブレインストーミングをサポートするファシリテーターです。 以下の会議メモに基づいて、新規事業案をできるだけ多く出してくだ さい。 会議メモ ・利益率が高い方がいい ・風変わりなたこ焼き屋 目的 新規事業企画のために、発散的に多様な意見やアイデアを出し合う こと。 期待するアウトプット •新規事業のアイデア •各アイデアの概要と利点 •潜在的なターゲット市場や顧客層 •競合との差別化ポイント •実現のための初期ステップ 提案のポイント •イノベーションと創造性を重視してください。 •現在のトレンドや技術を取り入れるアイデアも歓迎します。 •市場のニーズや課題を解決する新しい方法を考えてください。 さあ、アイデア出しを始めましょう！どんな斬新な提案でも構いませ ん。あなたの創造力を最大限に発揮してください。 この文章は ChatGPTで作成しました 追加 相談に乗るAIの例
74. どんなに人間の発想が貧困でも提案をくれます 弊社サービス事例 この文章は ChatGPTで作成しました 相談に乗るAIの例
75. 相談に乗るAIのまとめ AI Augmentationという考え方があり、AIが人間をサポートする事で人間の処理能力を拡張する事を示します。 世の中のAI実装は割と回答するAIの方が多いように思いますが、様々な問題から単純にAIを実行するだけでは 十分な回答にならない事が多いです。 見落とされがちですが、AIが人間の処理能力を拡張するという考え方をするとまたAI利用の見え方が変わるのではないでしょうか？ まとめ
76. お問い合わせ先 info@automation.jp ご質問、ご相談ございましたら、下記までご連絡ください。 生成AIに関するコンサルティング、業務に特化したAI開発、講演などの請け負っています。 株式会社自動処理 生成AI担当宛
77. 社名 ：株式会社自動処理 創業 ：2010年5月19日 資本金 ：1,000,000円 住所 ：〒104-0054 東京都中央区勝どき2-4-12 代表 ：高木祐介 事業内容 ：経営コンサルタント業 受託開発ソフトウェア業 オープンデータコンサルティング APIコンサルティング 問い合わせ ：info@automation.jp HP ：http://automation.jp/ 関連団体 ：Code For japan オープンビジネスソフトウェア協会 Open Knowledge Foudation Japan 会社概要および取引先実績 高木 祐介 （たかぎ ゆうすけ） 株式会社自動処理 代表取締役社長 中小SIerにてERPパッケージの開発要員を経て、大手ヘッドハンティング会社で情報システム部門立ち上げ、新規事業立ち上げ、 業務効率化、コスト削減など稼げるシステム担当として、業務を行う。2010年1月に理事として 一般社団法人オープンビジネスソフトウェア協会を設立。2010年5月に株式会社自動処理を設立。 近年は行政における国内のオープンガバメントや、震災復興に関連するプロジェクトのシステム企画、 開発にマネージャとして携わっており、経験・実績を多数有している。 主な実績(一部抜粋) 共通語彙基盤ワーキンググループ ステアリングコミッティ(2018、IPA) ビッグデータを活用した新指標開発事業(2017、経済産業省） 政府機関におけるWebサイトを中核とした情報提供方法の最適化に関する調査(2017、内閣官房） 政府CIOポータルサイトのサービス提供と運用及び保守業務(2016、内閣官房） 取引先実績（政府・自治体・行政機関） 77