Lock in $30 Savings on PRO—Offer Ends Soon! ⏳

生成AIと踊ろう ~生成AIに踊らされていませんか? ~

Avatar for WHIsaiyo WHIsaiyo
December 09, 2025
7

生成AIと踊ろう ~生成AIに踊らされていませんか? ~

皆さんは、生成AIに“踊らされて”いませんか?
生成AIは便利なツールである一方、AIに頼りすぎることで、エンジニアとしての“考える力”や“正しい技術”を磨く機会を失っているような気がしています。
本セッションでは、生成AIの仕組みを正しく理解し、程よく生成AIと付き合っていく考え方について語ります。

山﨑 順平[Works Human Intelligence]
株式会社Works Human Intelligence
Product Div.CSR Dept.Work Scheduling Grp.
新卒入社から4年弱、中堅ゼネコンにて社内SEと本社経理を兼任。
2022年1月に Works Human Intelligence に転職し、現在はシフト作成システムの機能追加と保守を行いつつ、多店舗経営ユーザー向けの勤怠管理システムを鋭意開発中。

Avatar for WHIsaiyo

WHIsaiyo

December 09, 2025
Tweet

More Decks by WHIsaiyo

Transcript

  1. © 2025 Works Human Intelligence Co., Ltd. AGENDA 2 01

    02 03 04 05 ⾃⼰紹介 本題に⼊る前に そもそも⽣成AIとは 昨今の⽣成AIの状況 その上でどう付き合うか
  2. © 2025 Works Human Intelligence Co., Ltd. 4 ⾃⼰紹介 ⾃⼰紹介

    ⼭﨑 順平 年齢  29歳(1996/02/29) 好きなもの  お⾦ 趣味  株式投資‧フットサル
  3. © 2025 Works Human Intelligence Co., Ltd. 5 発表に関連して ⾃⼰紹介

    ⽴場  社内アンチAI活動家 ⽣成AIの活⽤レベル  GitHub Copilot先⽣は少し頼ってる(サジェストのみ)  社内の⽣成AIはたまに雑な質問するくらい 能⼒  フロントエンドもバックエンドも⼀通りできる  ⼀定信頼されてるがエースとかではない
  4. © 2025 Works Human Intelligence Co., Ltd. 6 株式会社Works Human

    Intelligenceについて ⾃⼰紹介 ※1 2023年度 ERP市場 - ⼈事‧給与業務分野:ベンダー別売上⾦額シェア 出典:ITR「ITR Market View:ERP市場2025」 ※2 従業員数3,000⼈以上の法⼈ ※3 当社調べ ※4 2024年12⽉末時点の契約法⼈における「COMPANY ⼈事」の契約ライセンス数合計 ⼈事‧給与業務分野 シェアNo.1※1 国内⼤⼿法⼈※2の 3社に1社※3が利⽤ 管理データ数 540万⼈※4 ソリューション 進⾏中の戦略 会社概要 会社名 事業内容 設⽴年 従業員数 株式会社Works Human Intelligence ⼤⼿企業向け統合⼈事システム「COMPANY」の 開発‧販売‧サポート、HR関連サービスの提供 2019年8⽉1⽇ 2,198名(連結)※ ※2024年12⽉末時点 AI‧データ活⽤のための新部⾨設⽴ ⼈的資本マネジメント強化 前代未聞の⼤規模クラウドシフト WHIエンジニアの魅⼒ フルスタック開発 豊富な学習機会 ⼤規模なERP開発
  5. © 2025 Works Human Intelligence Co., Ltd. ⾃⼰紹介 COMPANYについて 7

    COMPANYシリーズは1996年の誕⽣以降、膨⼤なデータを蓄積する⼈事管理製品を中⼼に 業務を効率化するサービスから⼈材戦略を実現するサービスまで領域を拡⼤してきました。 勤怠管理 ⼤企業で必要とされる 多種多様な勤務形態に 柔軟に対応 シームレスな情報連携による 勤怠状況の⾒える化 ID管理 ⼊社予定者からの情報 をシステムに⾃動連携 し、業務効率化を実現 タレント マネジメント 従業員のタレント管理 やスキルの向上、それ らを適切に配置する戦 略⼈事を実現 給与計算 給与計算における煩雑 な⼀連の処理を豊富な 標準機能で⾃動化 ⼈事管理 ⼈事情報の収集‧履歴管 理と可視化を実現 シームレスな情報連携により セキュリティレベルの⾼い運⽤ 正確な情報を⼿間なく連携 雇⽤⼿続管理 ⼈事データベースと連 動し、⼊退社や異動に 伴うアカウント管理を ⽀援 給与計算に必要な 情報を連携 最新かつ正確な情 報を活⽤
  6. © 2025 Works Human Intelligence Co., Ltd. 9 弊社の⽣成AI 本題に⼊る前に

    私がこんな発表をするので、 ⽣成AIに否定的な会社かと思われそうですが、そんなことはありません。 Developers Summit 等で弊社社員が⽣成AIに関連した内容で登壇させて いただいております。 会社としては、⽣成AIガンガンいこうぜ状態です。
  7. © 2025 Works Human Intelligence Co., Ltd. 10 登壇することになった経緯 本題に⼊る前に

    そんな、⽣成AIガンガンいこうぜ状態の弊社では、 ⽣成AIの活⽤推進のためのLTイベントがあります。 WALTs (Works AI LTs) 部署持ち回りで登壇しているのですが、 2⽇前になっても私の部署からの登壇者が決まらない回があり…
  8. © 2025 Works Human Intelligence Co., Ltd. 11 登壇することになった経緯(⼀部脚⾊あり) 本題に⼊る前に

    誰か、WALTs登壇できませんか…? 上司 みんなの前で発表できる程、AIつかえてるかな…? え、明後⽇までに資料とかできないよ… みんな AIに否定的な内容でよければ登壇しますよ! (アンチAI活動家として、⼀発かましときますか…) わたし うーん…、、、まあ、いっか、じゃあ、よろしく (たまにはこういう話も、刺激になって良いかな…) 上司
  9. © 2025 Works Human Intelligence Co., Ltd. 12 登壇することになった経緯(⼀部脚⾊あり) 本題に⼊る前に

    WALTsにかけて、今回と同じタイトルで登壇 ⽣成AIと踊ろう 〜 ⽣成AIに踊らされていませんか? 〜 議論も良い⽅向で⽩熱し、肯定的な意⾒もいただきました。 若さに任せて尖ってみたけど、まあまあ盛り上がったし、 良い感じに⽖痕は残せたし、無事終了!
  10. © 2025 Works Human Intelligence Co., Ltd. 14 登壇することになった経緯(⼀部脚⾊あり) 本題に⼊る前に

    Developers Boostに登壇してくれませんか? 闇の組織 はい、⾃分なんかでよければ… わたし WALTsでお話しいただいた内容で!! 闇の組織 え!?あ、あれで!?わ、わかりました… (社内だから、あんな発表できたんだが!?) わたし WALTs登壇から数か⽉後…
  11. © 2025 Works Human Intelligence Co., Ltd. 15 登壇することになった経緯(⼀部脚⾊あり) 本題に⼊る前に

    (く、くそ、イキったせいでまずいことになっちまった…) (他の登壇内容にAI関連そこそこあるじゃねえか…) というわけで、 社内LTでお話した内容を社外向けに ちょっとだけマイルドにした内容が今回の発表内容になります。 積極的にアンチAI活動をしに来たわけではなく、社内でイキった結果、⽮ ⾯に⽴たされた被害者なんです… スーパー⾔い訳タイム終了
  12. © 2025 Works Human Intelligence Co., Ltd. 16 発表のターゲット 本題に⼊る前に

    × ⽣成AIに詳しい⼈‧⽣成AIを研究してる⼈ × ⽣成AIにワクワクしてる⼈‧既に⽣成AIを活⽤してる⼈ ◎ ⽣成AIを活⽤しないといけないと思いこまされてる⼈ ◎ ⽣成AIになんとなく恐怖⼼を抱いている⼈ ◎ ⽣成AI関連の空気感に違和感を感じてる⼈ 〇 そもそも⽣成AIが何かよくわかっていない⼈ △ ⽣成AIに興味ない⼈
  13. © 2025 Works Human Intelligence Co., Ltd. 18 AI そもそも⽣成AIとは

    AI(Artificial Intelligence) 推論‧判断などの知的な機能を備えたコンピュータシステム ⾔語の理解や推論、問題解決などの知的⾏動を⼈間に代わって コンピュータに⾏わせる技術 コンピュータによる知的な情報処理システムの設計や実現に関する 研究分野
  14. © 2025 Works Human Intelligence Co., Ltd. 強いAIと弱いAI 強いAIと弱いAI ⼈⼯知能が真の推論と問題解決能⼒を⾝につけられるか否かをめぐる論争において

    ⽤いられる⽤語 19 ⼈間の知能に迫るようになるか、⼈間の仕事をこなせるようになるか、 幅広い知識と何らかの⾃意識を持つ 例:某猫型ロボット 強いAIとは対照的に、弱いAIは⼈間がその全認知能⼒を必要としない程度の 問題解決や推論を⾏うソフトウェアの実装や研究を指す 例:チェスプログラム 強いAI 弱いAI
  15. © 2025 Works Human Intelligence Co., Ltd. 強いAIと弱いAI 強いAIと弱いAI ⼈⼯知能が真の推論と問題解決能⼒を⾝につけられるか否かをめぐる論争において

    ⽤いられる⽤語 20 ⼈間の知能に迫るようになるか、⼈間の仕事をこなせるようになるか、 幅広い知識と何らかの⾃意識を持つ 例:某猫型ロボット 強いAIとは対照的に、弱いAIは⼈間がその全認知能⼒を必要としない程度の 問題解決や推論を⾏うソフトウェアの実装や研究を指す 例:チェスプログラム 強いAI 弱いAI ⽣成AIはこちら (部分的に⼈間の仕事はこなせるので、  強いAIとみなす考え⽅もあるらしい…?)
  16. © 2025 Works Human Intelligence Co., Ltd. 21 ⽣成AI そもそも⽣成AIとは

    ⽣成AI ⽂字などの⼊⼒(プロンプト)に対してテキスト、画像、または他のメディア を応答として⽣成するAIの⼀種 特徴 訓練データの規則性や構造を学習することで、訓練データに含まれない新しい データを⽣成することができる 例 Chat GPT, GitHub Copilot, Gemini
  17. © 2025 Works Human Intelligence Co., Ltd. 24 今のAIの基盤技術 そもそも⽣成AIとは

    ⽣物のニューラルネットワーク = ⽣物の神経網
  18. © 2025 Works Human Intelligence Co., Ltd. 25 今のAIの基盤技術 そもそも⽣成AIとは

    ⽣物のニューラルネットワーク = ⽣物の神経網 機械学習⼿法として広く知られているものであり、 「ニューロン」と呼ばれる計算ユニットを持ち、 ⽣物の神経系のメカニズムを模倣してるもの (⼈⼝)ニューラルネットワーク
  19. © 2025 Works Human Intelligence Co., Ltd. 26 今のAIの基盤技術 そもそも⽣成AIとは

    ⽣物のニューラルネットワーク = ⽣物の神経網 機械学習⼿法として広く知られているものであり、 「ニューロン」と呼ばれる計算ユニットを持ち、 ⽣物の神経系のメカニズムを模倣してるもの (⼈⼝)ニューラルネットワーク つまり… ⽣物の神経網(⼈の脳みその神経)を⼈⼯的に再現してみた!
  20. © 2025 Works Human Intelligence Co., Ltd. 出⼒層 隠れ層 ⼊⼒層

    28 ⽣物のニューラルネットワークのイメージ図 そもそも⽣成AIとは ノード(⼈⼯ニューロン) ⼊⼒ ⼊⼒ ⼊⼒ 出⼒ 出⼒ 出⼒
  21. © 2025 Works Human Intelligence Co., Ltd. 29 ⼈⼯ニューラルネットワークの仕組み そもそも⽣成AIとは

    ノードは与えられた⼊⼒から 「これっぽい」と思ったやつへ伝播していく 最終的に出てきた出⼒を評価し、ノードの精度を調整していく これが「学習」
  22. © 2025 Works Human Intelligence Co., Ltd. 30 ⼈⼯ニューラルネットワークの仕組み そもそも⽣成AIとは

    ノードは与えられた⼊⼒から 「これっぽい」と思ったやつへ伝播していく 最終的に出てきた出⼒を評価し、ノードの精度を調整していく これが「学習」 学習の仕⽅を⼯夫しようが、隠れ層を何層にも増やそうが、 ⼈⼯ニューラルネットワークはどこまで⾏っても、 「限りなく精度の⾼いこれっぽい」の域を出ない(と私は考えます)
  23. © 2025 Works Human Intelligence Co., Ltd. 31 ⽣成AIの基盤技術 そもそも⽣成AIとは

    Transformer 深層学習モデル 主に⾃然⾔語処理(NLP)の分野で使⽤される 特徴 時系列データを逐次処理する必要がないため、トレーニングの並列化が容易 になり、より⼤きなデータセットでのトレーニングが可能 設計 ⼊⼒を次々と繰り返し処理するエンコーダとエンコーダの出⼒に対して処理 を⾏うデコーダからなる どちらもAttention機構を利⽤している
  24. © 2025 Works Human Intelligence Co., Ltd. 33 ポチョムキン理解 昨今の⽣成AIの状況

    MIT‧ハーバード⼤学‧シカゴ⼤学の共同研究チームの研究により発覚し た課題 ⼤規模⾔語モデルが、⼀⾒深く理解してるように⾒えるが、 実際にはその本質を理解していない現象 概念の説明をできるにも関わらず、 その応⽤や実践では⽭盾や誤りを⽣じる状態 Ledge.ai. 「ハルシネーション(事実誤認)より深刻なAIの「わかったふり」を暴く:MITなどが発⾒したLLMの“ポチョムキン理解”とは」. https://ledge.ai/articles/potemkin_understanding_llm, (参照2025-11-26) (元の論⽂)arxiv. 「Potemkin Understanding in Large Language Models」. https://arxiv.org/abs/2506.21521
  25. © 2025 Works Human Intelligence Co., Ltd. 34 ポチョムキン理解 昨今の⽣成AIの状況

    それはそうですよね… ⼈⼯ニューラルネットワークの仕組みを理解してれば、 それを利⽤している⼤規模⾔語モデルも 「質問に対して、 それっぽい情報を引っ張ってきて、 それっぽい説明をしてるだけの仕組み」 ということが推察できますから…
  26. © 2025 Works Human Intelligence Co., Ltd. 35 ハルシネーション 昨今の⽣成AIの状況

    ⼈⼯知能によって⽣成された、 虚偽または誤解を招く情報を事実かのように提⽰する応答 最⼤27%の確率で幻覚を起こし、 ⽣成されたテキストの46%に事実関係の誤りがあると推定 OpenAI⽈く、「推論でそれっぽい回答をして偶々当たった場合も評価す る評価⽅法に問題があり、不明確な場合は『わからない』と答えることも 評価していくように修正していく必要がある」らしいです。 PC Watch. 「「なぜAIは嘘をつくのか?」OpenAIが論⽂を公開」. https://pc.watch.impress.co.jp/docs/news/2045655.html, (参照2025-11-26) (元の論⽂)「Why Language Models Hallucinate」. https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf
  27. © 2025 Works Human Intelligence Co., Ltd. 36 教育での活⽤研究 昨今の⽣成AIの状況

    マサチューセッツ⼯科⼤学では⽣成AIの学習への適⽤研究が⾏われていま す。 「⽣成AIの活⽤している学⽣は、 (科学的に)認知機能が委縮している可能性があり、 問題解決能⼒や意思決定能⼒、情報を能動的に精査する能⼒も損なう可能 性が⽰唆された」 そうです。 Ledge.ai. 「ChatGPTを使うと脳がサボる?──MIT、エッセイ執筆中に脳活動が最⼤55%低下することを確認」. https://ledge.ai/articles/chatgpt_brain_activity_decline_mit, (参照2025-11-26) (元の論⽂)arxiv. 「Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task」. https://arxiv.org/abs/2506.08872
  28. © 2025 Works Human Intelligence Co., Ltd. 37 教育での活⽤研究 昨今の⽣成AIの状況

    別の研究では、AI利⽤のガイドラインを整えて、⽣成AIツールの使⽤して 学習したグループと、⽣成AIの使⽤を禁⽌したグループの成績を⽐較した 場合、 試験の成績は変わらなかったものの、 ⽣成AIを使⽤したグループは「効率的に勉強できた」「学習意欲が ⾼まった」「⾃信が付いた」という結果が出たそうです。 ガイドラインまで整え、学習意欲も⾼まって、効率的に勉強できて⾃信が ついたと⾃認してるにもかかわらず、成績良くなってないのか…と私は解 釈しました。 GIZMODO. 「AIの使⽤OKなクラスとNGなクラスで学習成果、⽐べてみた。意外な結果に」. https://www.gizmodo.jp/2025/11/this-professor-let-half-his-class-use-ai-heres-what-happened.html, (参照2025-11-26) (元の論⽂)SSRN. 「Allowing Generative AI in Class: Evidence from a Semester-Long Controlled Teaching Study」. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5517878
  29. © 2025 Works Human Intelligence Co., Ltd. 38 与えられた指示に対して、 それっぽい情報をかき集めて、理解もせず、

    それっぽい成果物を出すだけのツールを、 新時代の神様のように扱うのはやめませんか?
  30. © 2025 Works Human Intelligence Co., Ltd. 40 LLM(⼤規模⾔語モデル) 昨今の⽣成AIの状況

    LLMから知識を得ようとするのはやめた⽅が良いと思います。 (特に若⼿) 前述の通り、LLMは本質的に物事を理解してるわけではありません。 LLMの回答の正否を⾒極められる⼈は使っても良いと思います …が、⾒極められる⼈がLLMから情報を得る必要はあるんでしょうかね?
  31. © 2025 Works Human Intelligence Co., Ltd. 41 LLM(⼤規模⾔語モデル) 昨今の⽣成AIの状況

    逆に物事を理解していないからこそ、 アイデア出しや、壁打ちに使う分には有⽤だと思います。 また、⼿がかりのない調査では、意外なヒントをくれることもあるので、 どうしようもなくなったら、試しに聞いてみるのも悪くないかも しれません。 まったく調べようともしてなかった領域の情報が流れてくることがありま す。 流れてきた情報の裏どりはちゃんと⾏いましょう! (最初はわかってるのはずなのに、いつの間にか裏どりをサボってる⼈が ちらほらいるんだよなぁ…)
  32. © 2025 Works Human Intelligence Co., Ltd. 42 プログラム⽣成 昨今の⽣成AIの状況

    便利ですよね。 (⽣成されたプログラムを正しく修正できる⼈は)積極的に活⽤していい と思います。 ⼀部では、プログラマー不要論がささやかれてますが、 その未来は当分来ないと思っています。 プログラミング⾔語は機械語と⼈間語の中間⾔語です。 本当にプログラマーが不要なら、 ⽣成AIは機械語を直接書けば良いと思いませんか?
  33. © 2025 Works Human Intelligence Co., Ltd. 43 プログラム⽣成 昨今の⽣成AIの状況

    わざわざプログラミング⾔語で書かせてるのは、 「⼈間が成果物を評価‧管理する必要があるから」で、 (「エゴだよ、それは!」の可能性あり) だからこそ、プログラムが読み書きできる技術が廃れることは当分ないと 思います。 技術レベルが低い⼈から淘汰されて、 プログラマーの総数が減る未来はあると思います。 だからこそ、「⽣成AIを賢く使って〜」ではなく、 「早く正しくプログラムが読み書きできる技術」 を育てていきましょう!(私も他⼈事ではない…)
  34. © 2025 Works Human Intelligence Co., Ltd. 44 プログラムと⽣成AIの⽐較 昨今の⽣成AIの状況

    ⼊⼒値(ステートやキャッシュ含む)が 同じ場合は必ず同じ出⼒を返す 利⽤するにつれて精度が上がることがあ る(勝⼿に成⻑する) 利点 プログラム ⽣成AI 融通は利かず、利⽤するにつれて 勝⼿に成⻑するようなことはない ⼊⼒値が同じでも、 必ず同じ出⼒を返すわけではない ⽋点 製品の機能として、⽣成AIは既存のプログラムの上位互換だという論調も⼀部で は⾒かけますが、個⼈的にはどちらが良いとか悪いとかはなく、全くの別物だ と思っています。
  35. © 2025 Works Human Intelligence Co., Ltd. 45 製品における⽣成AIの活⽤ 昨今の⽣成AIの状況

    これは結構慎重になった⽅が良いと思います。 ⽣成AIは必ず決まった出⼒を返すわけではありません。 私はこれを「(出⼒の)ゆらぎ」と勝⼿に呼称しています。 チャットボットや社員検索など、ゆらぎが許容できる機能では、 ⽣成AIの活⽤が新たな価値を⽣むと思います。 必ず正しい出⼒を返さないといけないシーンの多い製品 において、 既存のプログラムを⽣成AIに置き換えできる場所が多いかと考えると、 そうではないかなと思います。
  36. © 2025 Works Human Intelligence Co., Ltd. 46 で、私(たち)はどう⽣きるか 昨今の⽣成AIの状況

    LLMの回答の正否を⾒抜けるように、IT知識を⾝に着ける ⽣成AIに⽣成されたプログラムを正しく評価できるように、 プログラミング技術を育てる プログラムと⽣成AIのメリデメを理解し、 適切なシーンで活⽤できる設計能⼒を⾝に着ける …あれ、これって、今まで何も変わらなくない?
  37. © 2025 Works Human Intelligence Co., Ltd. 47 で、私(たち)はどう⽣きるか 昨今の⽣成AIの状況

    ⽣成AIを過度に恐れず、 ⽣成AIに過度な理想を抱かず、 ITエンジニアとして当たり前の勉強をして、 当たり前の能⼒を⾝に着けていけば、 それで充分なんじゃね? …と私⾃⾝は考えています。
  38. © 2025 Works Human Intelligence Co., Ltd. 48 で、私(たち)はどう⽣きるか 昨今の⽣成AIの状況

    良いワルツを踊るには、 相⼿を理解すること、 ⾃分にも相応に技術があることが重要だと思います。 (ダンス経験なし) ⽣成AIの本質や⾃分の技術⼒とちゃんと向き合って、 ⽣成AIを使うことが⽬的化し(踊らされ)ないように、 ⽣成AIの出⼒に振り回され(踊らされ)ないように、 ⾃分が使いたいと思ったタイミングで 程よく使って(⼀緒に踊って)いきましょう!
  39. © 2025 Works Human Intelligence Co., Ltd. 50 スーパーエンジニア Kさんのひとこと

    おまけ 私が WALTs に登壇したときに FB を担当頂いた スーパーエンジニア K さんのひとことが興味深かったので、 共有させてください。 (ニューラルネットワークは 我々⼈間の脳みそを模倣して作ってるけどさ、) そもそも我々(⼈間)って、 我々が思ってるほど頭良いのだろうか… (⽣成 AI 同様、) パターン学習でアウトプットを出すだけになっていないか?
  40. © 2025 Works Human Intelligence Co., Ltd. 51 弊社のアピール おまけ

    今回はキャリアも関連したイベントなので… 最初にお話しした通り、弊社は⽣成AIガンガンいこうぜ状態で、 ⽣成AIへの空気感も割と皆さんの想像通りだと思います。 そんな中であえてアンチ活動してるヤベー奴と真正⾯から議論を交わせる⽅々がいて、 更には社外での登壇を依頼をする弊社… 間違いなく、⾵通しは良いと思いませんか? あと、⼤阪事業所か同じ部署になったら、私が楽しませます! (事業所飲み会や⼤阪開発中途会、部署内LTイベントを主催)