もうお前なんて信じない！！〜AIに騙された話〜

近年、AI開発現場に深く浸透し、私たちの生産性を飛躍的に向上させています。
非エンジニアでもAIの助けを借りて開発に挑戦できる、まさに革新的な時代が到来しました。

​しかし、その便利さの裏には"予測不能な『AIの嘘』“という大きなリスクが潜んでいます。

​本セッションでは、私が実際に直面したAIの『嘘』、具体的には「AIが期待とは異なる出力を生成し、結果的にデバッグに膨大な時間を要した」経験について、実例を交えながらご紹介します。

​AIの『嘘』に引っかからないためのポイントを、5分という短い時間でポイントを凝縮してお伝えします。
この発表が、AIをより賢く、安全に使いこなすためのヒントとなれば幸いです。

Transcript

1. もうお前なんて信じない 〜AIに騙された話〜 藤掛大介 2025年11月23日
2. 2 自己紹介 • 藤掛大介 • 株式会社kubell コミュニケーションプラットフォームディビジョン プロダクトユニット 料金プラングループ • 旅行が好きで、あちこちの勉強会に参加しています
3. 目次 CONTENTS 02 | なぜAIは嘘をつく？ 03 | AIは嘘をつかなくなる？ 04 | AIをうまく使いこなそう 01 | AIがついた嘘 01 |
4. みなさん、AI使っていますか？
5. 5 AIがついた嘘 • セッション管理のプログラムのデバッグをしていた ◦ セッションの保持時間はUNIXタイムスタンプで管理されている ◦ セッションの情報がうまく保持されていなかった問題が発生 ▪ UNIXタイムスタンプが正しく処理されていない懸念があった
6. 6 AIがついた嘘
7. 7 AIがついた嘘
8. 8 AIがついた嘘
9. 9 AIがついた嘘 • AIを使ってUNIXタイムスタンプを変換した日時が想定より大きく異なっていた ◦ UNIXタイムスタンプを生成している部分の不具合を疑って調査 ◦ しかし、原因が分からず・・・ ◦ 「UNIXタイムスタンプを計算するサービス」を使用すると、違う時間が表示された ◦ PHPなどでUNIXタイムスタンプを計算するコードを書いて検算すると、 「UNIXタイムスタンプを計算するサービス」と同じ時間となった ◦ UNIXタイムスタンプは正しい時間が生成されており、不具合の原因は別のところにあった • AIが出力した誤ったUNIXタイムスタンプの計算を信じて、誤った調査をしていた ◦ かなりの時間を浪費してしまった（0.5人日程度）
10. 10 なぜAIは嘘をつく？ • AIは何故誤った時間を返してきたのか？ ◦ AIはUNIXタイムスタンプから日時を計算していたのではない ◦ AIは「計算機」ではなく「LLM（大規模言語モデル）」 ◦ 過去の応答から、「それっぽい言葉」を予測して返している ◦ AIは数値が正しいことを確認して応答しているのではない • 人間はコンピュータを「計算機」としてイメージしている ◦ 計算機が計算を誤るはずがないという思い込み ◦ 「AIが計算を間違えるはずがない」と思い込んでしまう ◦ AIも自信満々に回答するので信じやすい
11. 11 AIは嘘をつかなくなる？ • AIが発展すれば、これらの嘘が減る？ ◦ LLMの構造上、難しい部分もある ◦ LLMは「計算機」ではなく「言語パターンの模倣」であるため、 論理的に計算した結果を返すわけではない • AIのツール連携という解決策 ◦ 近年のAIでは、AI自体が計算するのではなく、 計算を必要とする問い合わせが来た際、外部のAPIなどに計算を行わせることにより、 正しい計算結果を得られるようになる仕組みを取り入れている ◦ ただ、全ての計算について正しく外部APIを使用して、 正しい答えを返してくるという保証はない ◦ 特にUNIXタイムスタンプの計算のような、一般的に多く使われるわけではない、 桁数も多い計算では、誤りが出続ける可能性が高い
12. 12 AIを正しく使いこなそう • AIが得意なのは「答えが一つに定まらないもの」 ◦ UNIXタイムスタンプから求められる日時は、唯一無二の答えがある ▪ AIは「それっぽい答え」を返すので誤った値を返す ◦ AIに対する壁打ちなどの相談 ▪ 相談に対する回答のパターンは無限に存在する ▪ 100回聞いたら、100通りの回答を返すのがAI ▪ AIが今まで気づかなかった視点を教えてくれることも • AIをうまく使いこなそう！！
13. 働くをもっと楽しく、創造的に