AIの可能性と限界――ITエンジニアの視点から ver. 2026.02.28

あらゆる分野でAIの浸透が進む中、その革新を最も深く、迅速に実践してきたのは、他ならぬシステムを開発するITエンジニアでしょう。

エンジニアリングの現場でAIが人間の活動をどこまで拡張し、自動化の可能性を極限まで高めているのか。そして、その技術的な限界や落とし穴はどこに潜んでいるのか、具体的な事例をご紹介します。

われわれの経験が、他分野でのAI活用を推進し、賢明に制御するための一助となることを願います。

Transcript

1. AIの可能性と限界 ――ITエンジニアの視点から @numa5h0 （データエンジニア） ver. 2026.02.28
2. 1 あらゆる分野でAIの浸透が進む中、その革新を最も深く、迅速に実践してきたのは、他ならぬシステ ムを開発するITエンジニアでしょう。 エンジニアリングの現場でAIが人間の活動をどこまで拡張し、自動化の可能性を極限まで高めている のか。そして、その技術的な限界や落とし穴はどこに潜んでいるのか、具体的な事例をご紹介します。 われわれの経験が、他分野でのAI活用を推進し、賢明に制御するための一助となることを願います。 このスライドは、偉大な先人たちの記事を参考に、自身の学習のために整理したものがベースです。新説等は特にありませんが、皆 様の「情報の入り口」として役立てば幸いです。なお、内容の誤りなどは、引用元ではなく発表者の理解不足によるものです。 >
3. 講義の目的と目次 講義の目的 エンジニアがどのようにAIを活用している かを紹介する 初心者にもわかりやすく、実践的な活用法 を説明する AI活用における課題や注意点も共有する 目次 1 第1部: AI活用法の基礎 2 第2部: コーディング支援 3 第3部: 本番ワークロードでの AI活用 4 第4部: 高度な活用事例 5 第5部: AI活用における問題 点と課題 6 第6部: 技術の進化とエンジニ アの未来 7 第7部: まとめ 2
4. 第1部: AI活用法の基礎 3
5. AI活用法の概要 エンジニアがAIを活用する場面は多岐にわたる。AIは、日々の業務の効率化から、より高度なシステム開発、さらにはビジネスの意思 決定支援まで、幅広い領域でその能力を発揮している。 高度な「Google検索」 従来のキーワード検索では得られなかった、より深い情報への アクセスを可能に。文脈を理解した検索や、複数のソースから得 られた知識を統合した包括的な回答を生成。 資料作成支援 Markdown形式のドキュメントや、PowerPoint形式のスラ イドの作成を自動化・効率化。特に技術仕様書、READMEファ イルなど、構造化が明確なコンテンツの生成に優れている。 本番ワークロードでの活用 実際のシステムやサービスにAIを組み込み、業務プロセスを自 動化・最適化。OCR（光学文字認識）、Webスクレイピング、タ グ判定、CoT（Chain of Thoughts）など、多岐にわたる活 用が可能。 その他の高度な活用 AIの並列実行による作業効率化、画面実装とデプロイ、リッチ な検索、スライド作成、ワークフロー自動化、画像・動画生成な ど、エンジニアの作業を劇的に効率化する先進的な利用方法も ある。 第1部: AI活用法の基礎 4
6. 高度な「Google検索」 検索の進化 従来のキーワード検索 単純なキーワードの一致を元に、関連性の低い大量のページが返さ れる。 AIを活用した検索 文脈を理解した検索が可能に。意図や背景を考慮した高度な情報を 提供。 GoogleのAIモード 検索結果をAIが要約し、複数の情報源から得られた知 識を統合して、包括的な回答を生成 Deep Research （ChatGPT/Geminiなど） 特定のテーマについて、AIが複数の信頼できる情報源 を深く調査し、詳細かつ網羅的なレポートを作成 Perplexityなど AIが質問に直接回答を生成し、その情報源を明示する ような新しいタイプの検索ツールの登場 第1部: AI活用法の基礎 5
7. 資料作成支援 AIは、日々の資料作成においても強力な味方となる。特に、テキストベースのドキュメント作成やプレゼンテーション資料の生成に おいて、AIの能力を発揮する。 Markdown形式のドキュメント作成 AIが得意な理由 で構造化されたテキストを作成できる軽量マークアップ 言語（Notionやmacのメモアプリのイメージ） で、AIが生成しやすい形式 で、AIが処理しやすい形式 技術仕様書、READMEファイルなどを作成するのは PowerPoint（PPTX）形式のスライド作成 難易度と完成度の向上 で、画像、図形、グラフ、アニメーシ ョンが含まれる 従来、AIが理解・生成するのは だった ※この場合の「理解」は、人間に視覚的にどのように見えているを単 なる文字列から推測すること ：FeloやGammaがデザインやレイアウトまで 考慮したスライドを生成 6 第1部: AI活用法の基礎
8. 第2部: コーディング支援 7
9. コーディング支援の概要 AIによるコーディング支援のレベル 1 単なる入力補完 コードを入力中に次の行を予測、コメ ントから関数全体を予測して提案 2 一部機能を書かせる 自然言語で指示すれば関数だけでな くコードファイル全体を生成 3 テストと修正 生成したコードをテストし、エラーを自 動修正 4 PRとレビュー Pull Requestを作成し、自動でコー ド品質をチェック AIコーディング支援の特徴 知らないプログラミング言語でもコー ドが書けるように AIが各言語の構文や規則を理解しているため、覚 える必要がなくなる エンジニアは「何をどのように作りたいか」という本 質的な課題解決に集中できる 新しい言語の学習コストが大幅に削減され、多様な 技術スタックへの対応が容易になる 第2部: コーディング支援 8 サンプルが少ない言語やハードウェアの考慮（メモ リ管理等）が必要な言語は苦手（C言語、ハードウェ ア記述言語
10. レベル1：単なる入力補完 AIによる自動補完機能 コード入力途中でAIが次の行や関数を予測 して提案（Excelのオートコンプリートのイ メージ） コメントからコードを自動生成（例：「2倍して 3を足す関数」） 代表的なツール GitHub Copilot main.js // 計算関数を作成 function calculate(a, b) { return a * 2 + b + 3; } // 2倍して3を足す関数 function doubleAndAddThree(x) { return x * 2 + 3; } const result = doubleAndAddThree(5); 第2部: コーディング支援 9
11. レベル2：一部機能を書かせる 自然言語で指示してコードを生成し、素早いプロトタイプ作成を実現 機能説明 AIが自然言語で与えられた指示から、特定の機能や関数単位の コードを自動で生成。これにより、複雑なコーディング作業を大 幅に短縮。 // 自然言語による指示 「ログイン機能を作って」 // AIが生成するコード function handleLogin(username, password) { // ログイン処理のコードが自動生成される } 素早い開発 プロトタイプの迅速な作成に役 立ち、アイデアを素早く形にする ことが可能に。 複雑さの対処 「簡単なWebページのHTML構 造」など、指示するだけで瞬時に 作成。 自然言語対応 「2倍して3を足す関数」など、人 間が理解する言葉で指示。 反復可能 「これをもっと効率的に」などと 指示することでコードを改良も できる。 第2部: コーディング支援 10 Kintoneでもノーコードで勤怠管理アプリ等を作成できるが、 AIにコードから書かせた方がより自由度は高い
12. レベル3：テストと修正 AIがコードを生成 AIが提案したコードを受ける コードを実行 生成したコードをテストする エラーを確認 発生したエラーを特定する AIが修正 エラーメッセージをAI解釈・修正 コード修正の例 // AIが生成したコード function calculate(a, b) { return a + b; } // エラー: 乗算を間違えて足算に // AIが修正したコード function calculate(a, b) { } return a * b; メリットと効果 AIが生成したコードをAIが実行し品質を向上 エラー発生時、エラーメッセージをAIに手動で伝えてAIが自動で修正 リンターエラー（実行前エラー）も自動で修正 人間とAIの協力でテストと修正を繰り返すことで、AIがより正確なコード を生成 第2部: コーディング支援 11 人間はAIの各種コマンドの実行許可（Reject or Accept）をするだけ ※Auto Acceptモードもある
13. レベル4：PRとレビュー Pull Request（PR）とは？ PRとは、自分が書いたコードの変更内容を他の開発メンバーに提 案し、その内容をチェック（レビュー）してもらう仕組み。 コード作成 PR提出 レビュー AIによるPRとレビューの自動化 AIがコードの変更をPRとして自動で提出し、潜在的なバグや 改善点を指摘 GitHub Copilotなどは自動コードレビュー機能を提供し、 品質チェックを支援 コードの品質向上を支援し、人間のレビュワーの負担を軽減 第2部: コーディング支援 12
14. AIと人間の役割 人間の役割 システム全体の設計とアーキ テクチャの策定 AIへのタスク切り出し アイデアの形成と方向性決定 AIの役割 具体的な実装とコーディング の支援 ルーティンな作業と反復的な 処理 テストとデバッグの支援 人間とAIの協調 役割の分担 人間が十分な役割を果たすことで 保守性の向上: システムの構造が明確で、人間が 理解できるため、メンテナンスが容易に テスト容易性: 明確な設計とアーキテクチャがあ れば、テストケースの作成が効率的に 可読性の向上: 人間が設計したシステムは、他の 開発者にとっても理解しやすいコードに 拡張性の確保: システムの設計が考慮されている ため、新機能の追加やアーキテクチャの変更がス ムーズに 第2部: コーディング支援 13 最終的な責任主体 ※AIの出力の品質は保証しな いという契約を結べば人間の 責任は限定可能
15. 主要なAIコーディングツール GitHub Copilot GitHubが提供するAIペアプログラミングツ ールで、コードの入力補完からPRレビューま で幅広く支援。 入力補完とコード生成 コメントからコードを生成 自動Pull Requestレビュー Cursor エディタ統合型のAIコーディング支援ツール で、複数のプログラミング言語をサポート。 VSCode・IntelliJ統合 複数言語のサポート 高度なコード理解能力 Claude Code Anthropic社のClaudeを活用したコーディ ング支援ツールで、自然言語でのコード生成が 可能。 自然言語からコード生成 コード説明とドキュメント 複雑な機能の実装支援 他にも注目する価値あるツール Tabnine DeepSeek Code Replit AI 第2部: コーディング支援 14
16. コーディング手順のまとめ 第2部: コーディング支援 15 従来の手順 AIを使った場合 自分のPC内（ローカル） ① コードを書く （実装する機能をゼロから手書き） ② ローカルでテストする （手動でテストケースを作成・実行） 自分のPC内（ローカル） GitHub（クラウド） GitHub（クラウド） ① コードを自動生成 （自然言語の指示だけでコードを生成） ② テストコードも自動生成 （ユニットテストを生成しバッグを事前検出） ③ PR（プルリクエスト）を作る （変更内容を手動でまとめて説明文を書く） ④ レビューしてもらう （レビュワーが変更を確認しコメント） ③ PR説明文を自動作成 （変更内容の要約・説明をAIが下書き） ④ AIがレビューコメントを先出し （潜在バグ・改善点を指摘しレビュー負荷を削減）
17. 第3部: 本番ワークロードでのAI活用 16
18. 本番ワークロードでのAI活用概要 開発作業だけでなく、実際の業務システムにおいてもAIを活用している AIの活用は開発プロセスだけに留まらない。実際の業務システム、つまり「本番ワークロード」においても、AIは様々な形で機能 し、ビジネスプロセスを自動化・高度化している。以下に、代表的な本番環境でのAI活用事例を紹介する。 OCR（光学文字認識） 画像やPDFファイルに含まれる文字をAIが認識し、デジタルデー タとして抽出。手作業によるデータ入力の手間と時間を大幅に削 減。 Webスクレイピング AIがインターネット上のWebサイトから特定の情報を自動的に収 集。大量のWeb情報を手作業で収集する手間を省き、常に最新 の情報を効率的に取得。 タグ判定（業種など） テキストデータやその他の情報から、AIが自動的に分類し、適切 なタグ（カテゴリ）を付与。大量のデータを手作業で分類する労力 を削減し、データの整理や検索の精度が向上。 CoTとLarge Reasoning Model AIが複雑な問題を解決するために、段階的に思考し、推論を進め るための技術。AIが複雑なタスクや多段階の意思決定を必要と する問題に対しても、より正確で信頼性の高い回答を導き出す。 第3部: 本番ワークロードでのAI活用 17
19. OCR（光学文字認識） 画像やPDFから文字を自動抽出し、書類のデジタル化とデータ入力の自動化を実現 OCRとは？ OCR（Optical Character Recognition：光学文字認識）は 、画像やPDFファイルに含まれる文字をAIが認識し、デジタルデ ータとして抽出する技術。 仕組み 画像の読み取り 文字の認識 文字の解析 データ化 メリット 時間削減 手作業によるデータ入力の手 間と時間を大幅に削減 誤差減少 入力ミスを減らし、データの正 確性が向上 検索性向上 デジタル化することで全文検索 が可能に 生産性向上 業務の自動化が人間の作業を 効率化 活用例 請求書や契約書などの紙媒体の書類を自動でデジタルデータ化し、 データベースに登録する 名刺情報をスキャンして、顧客管理システムに自動で入力する 第3部: 本番ワークロードでのAI活用 18
20. Webスクレイピング Webスクレイピングとは？ AIがインターネット上のWebサイトから特定の情報を自動的に収集する技術。AIはWebページの構造（HTMLなど）を理解し、指定さ れた情報を効率的に抽出。 メリット 大量のWeb情報を手作業で収集する手間が不要に 常に最新の情報を効率的に取得 特定のパターンや要素を自動で識別・抽出 活用例 競合他社の製品価格を定期的に収集し、価格戦略に役立てる 特定の業界ニュースや市場動向に関する情報を自動で収集 データ分析用の大量の構造化データを効率的に集める 第3部: 本番ワークロードでのAI活用 19 どういうステップでWeb検索するよう指示（Prompt）を出すか、試行錯誤（Promptエンジニアリング）が必要 サイト直下のrobots.txtで検索エンジンやAIクローラーに対する収集許可・禁止を表明できる 法的強制力はないが、大手（Google/OpenAI等）はこれを遵守するため、情報収集は制限される robots.txtあり: https://www.jstor.org/robots.txt robots.txtなし: https://pa-j.jp/
21. タグ判定（業種など） タグ判定とは？ タグ判定は、テキストデータからAIが内容を自動的に分類 し、適切なタグ（カテゴリ）を付与する技術。 例：企業名や事業内容から業種を自動識別 仕組み AIは学習データに基づいてテキストのカテゴリを判断 自然言語処理と機械学習でテキスト内容を理解 複数の特徴を分析し、最適なタグを付与 メリット 大量のデータを手作業で分類する労力を削減 データの整理や検索の精度が向上 データを意味のあるカテゴリで構成可能に 活用例 顧客問い合わせの自動振り分け 問い合わせ内容を自動で分類し、担当部署に振り分ける 企業データベースのタグ付け 企業データから業種を自動タグ付けし、マーケティング戦略に活用 第3部: 本番ワークロードでのAI活用 20
22. 第3部: 本番ワークロードでのAI活用 21 CoTとLarge Reasoning Model Chain of Thoughts (CoT) - 2022年頃〜 ReAct - 2022年末〜 Large Reasoning Model - 2024年〜 LLMの「直感で答えると間違える」 という弱点の克服 • 「思考の過程を書き出させる」手法 の発見 • 役割：モデルの脳みそを「ゆっくり 考えるモード」に強制的に切り替え るスイッチ 手法（プロンプト）に頼らず、モデル 自体に深く考えさせる • CoTやReActの「テクニック」をモデ ルの訓練段階から組み込み • 関係性：「CoTの自動化・内面化」 • 役割：内部で凄まじい量の試行錯誤 を高速で行ってから結論を出力 • ChatGPTのo1が初出で、GPT5以 降からチャット機能と統合された 「CoTだけでは、現実世界の情報に アクセスできない」という弱点の克服 • CoTの「考える（Reason）」プロセスに 外部ツールを使う「行動（Act）」を組み 合わせ • 関係性：「CoT ＋ 外部ツール操作」 • 役割：AIに「手足（検索や電卓）」を与え、 思考の結果を現実の行動に繋げる
23. 第4部: 高度な活用事例 22
24. 並列実行の概念 AIは単体で強力なツールだが、複数のAIを同 時に実行することで、能力は飛躍的に向上。こ れにより、複数のタスクを並行して処理できる ようになり、作業効率が劇的に加速。 活用例とメリット 複数のAIが連携して複雑なタスクを処理 複数の専門家が同時に作業を進めている ような風景 近未来的な作業効率化を実現 第4部: 高度な活用事例 23 ➢ https://x.com/shinoyamada837/status/1946131214823514375 AIの並列実行による作業効率化 ➢ https://zenn.dev/shio_shoppaize/articles/5fee11d03a11a1 「Claude Codeで「AI部下10人」を作ったら、勝手にバグ直して「違反は切腹」ルール を追加してきて、オレは適当にしゃべるだけになった」 （おしお）
25. v0などのサービスによる画面実装とデプロイ 一人でシステムを完成させる v0などのサービスは、AIを活用することでWebア プリケーションの画面を実装し、公開（デプロイ）ま で自動化できるサービス。 これにより、個人や小規模なチームでも、アイデアを 素早く形にし、実際に動くシステムとして世に送り 出すことが可能に。これは、システム開発の敷居を 下げ、プロトタイプの迅速な公開に貢献している。 自然言語での実装 「こんな画面を作りたい」と指示するだけで 、AIが自動的にUIを生成 デプロイまで自動化 完成したアプリケーションを簡単にウェブ に公開できるように自動化されてる 迅速な反応とイテレーション アイデアを素早く形にすることができ、ユ ーザーからのフィードバックを元に迅速に 改良できる 低ハードルスタートアップ 新しいアイデアを試すコストが大幅に下が り、技術的なハードルが低くなる 第4部: 高度な活用事例 24
26. Perplexityによるリッチな検索 リッチな検索とは？ Perplexityは、従来の検索エンジンを超越するAI検索ツールで、 複数の情報源から情報を統合し、文脈を理解した上で、より包括 的で質の高い回答を生成。 これにより、ユーザーは知りたい情報について、より深く、正確な理 解を短時間で得られる。 文脈理解 検索クエリの意図や背景を理解し、関連 性の高い情報を提示 複数ソース統合 複数の信頼できる情報源から情報を調 査し、網羅的な回答を生成 従来の検索と比較 従来の検索エンジン ・ キーワードベースの検索結果 ・ 大量のリンクを表示 ・ ユーザーが情報を合成する必要 ・ 文脈を理解しない Perplexity ・ AIが要約と統合した回答 ・ 複数ソースを調査した内容 ・ 一貫した視点で解釈 ・ 文脈を理解した回答 メリット 調査作業の効率化 質の高い回答の確得 意思決定の質の向上 時間短縮と生産性向上 25 第4部: 高度な活用事例
27. Feloによるスライド作成 Feloとは？ Feloは、自然言語の指示からスライドを自動生成するAI ツール。ユーザーが伝えたい内容をテキストで入力するだ けで、AIがスライドの構成を考え、デザインとレイアウトを 自動で調整してくれる。 主な特徴 自然言語で指示だけでスライドを生成可能 自動でデザインとレイアウトを適用 プレゼンテーション準備にかかる時間を短縮 アイデアを視覚的に表現するハードルが下がる 作成プロセス 指示入力 AI処理 スライド生成 メリット 時間短縮 スライド作成にかかる時間の大幅 な削減 デザイン効果 プロフェッショナルな見た目の資 料作成 反復作業の削減 似たスライドの作成を効率化 アイデアの視覚化 抽象的なアイデアを視覚的に表現 第4部: 高度な活用事例 26
28. Gammaによる自然言語からのスライド生成 Gammaとは？ Gammaは、自然言語の指示からスライドを自動生成す るAIツール。ユーザーが伝えたい内容をテキストで入力 するだけで、AIがスライドの構成を考え、デザインとレイ アウトを自動で調整してくれる。 主な機能とメリット 自然言語で指示するだけで、プロフェッショナルなスライ ドが自動生成 デザインとレイアウトを自動で調整し、視覚的に魅力的な プレゼンテーションを作成 スライド作成の専門知識がなくても、アイデアを視覚的に 表現するハードルが大きく下がる 内容の修正や更新が容易で、リアルタイムでスライドを調 整できる ワークフロー 自然言語で内容を入力 AIが構成とデザインを決定 自動生成されたスライドの完成 27 第4部: 高度な活用事例
29. Difyやn8nによる自動化 Dify AIワークフローの構築に特化したプラットフォームで、人間の介入を最小 限にした自動化を可能にする。 n8n ノーコード・ローコードで多様なアプリケーション間の連携を可能にするワ ークフロー自動化ツール。 メリット 定型的な業務の効率化と人的ミスの削減 従業員が創造的で価値の高い業務に集中できる 活用例：メール処理とレポート生成の自動化 メール受信 AI分析 返信作成 CRM登録 メール処理の自動化 特定のメールを受信したら、AIが内容を分析し、自動で返信を作成し てCRMシステムに登録する一連の作業を自動化。 レポート生成の自動化 定期的にデータを集計し、AIが分析を加え、自動でレポートを作成する ワークフローを設定できる。人間がレビューと修正に集中できるように なる。 第4部: 高度な活用事例 28
30. Googleの最新AI技術は高品質な画像や動画生成能力を持ち、マーケティング素材作成やプロトタイプ視覚化など、多くのクリエ イターにとって価値あるツール。 Nano Banana 高品質な画像生成が可能 「最新画像生成AI「Nano Banana Pro」は文字ぎっしりの“霞が関 パワポ”も作れる？ 実際に試した」 （ITmedia AI＋） ➢ https://www.itmedia.co.jp/aiplus/articles/2511/21/news102.html Veo3 高品質な動画生成が可能 人間や物の動きを自然に再現 長時間レンダリング不要で高速に動画作成 活用例 マーケティング素材 生成した画像や動画をマーケティング資料、製品紹介、ソーシャルメディア投稿 に活用。高品質さと再現度が高く、プロのデザインレベルのコンテンツが作成可 能。 プロトタイプのビジュアル化 UIやアプリのインターフェースを視覚的に表現するためのツールとして活用。ア イデアを素早く形にすることで、開発サイクルを加速。 29 第4部: 高度な活用事例 人間は様々なAIツールを組み合わせてひとつのチームを運営する GoogleのNano BananaやVeo3の画像・動画生成
31. 第5部: AI活用における問題点と課題 30
32. AI活用における問題点の概要 AIの活用がもたらす課題と挑戦について全体像を把握 セキュリティのリスク プロンプトインジェクションによる攻撃や、 MCPやBrowser Useのセキュリティ問題な ど、AIの特性を悪用した脅威が存在 権利侵害のリスク 機密データの漏洩、著作権侵害の可能性、個人 のプライバシーが侵害される危険が浮上 コード品質と理解の問 題 「動けばいい」ではなく、保守性、テスト容易性、 可読性、拡張性も考慮する必要がある アウトプット品質の問題 AI出力の信頼性評価と向上の方法、精度評価 のための枠組みが確立されていない エンジニアの役割と専門 知識 AIが作業を自動化する中で、エンジニアの役割 と専門知識の重要性が再評価される必要があ る 教育への影響 AIへの依存が基礎学習を怠らせ、ジュニア開発 者の育成が不足する「AIパラドックス」が発生し ている 31 第5部: AI活用における問題点と課題
33. セキュリティのリスク プロンプトインジェクシ ョン 悪意のある入力をAIに送信し、意図 しない動作をさせる攻撃手法 「“見えない指示”で論文のAI査読を操 る──arXivで18本発覚、LLM脆弱 性が露呈」 （Ledge.ai） AIが指示に従う性質を悪用し、本来 出力すべきではない情報を生成させ たり特定の行動を取らせたりする MCP・Browser Use の脅威 MCP（Model Context Protocol）：AIが外部ツールやサー ビスにアクセスするためのプロトコル Browser Use：AIがブラウザを操 作できる機能 AIが悪意のあるサイトにユーザーの アカウントでアクセスしたり、機密情報 を自動的に送信したりする可能性 アクセス制限の重要性 AIのアクセス権限を厳しく制限する 必要性 不審な挙動がないか継続的に監視す る必要性 AIが特定の内容を生成しないように 制限（検閲）がかけられている場合も あるが、意図した出力が得られない ケースも発生 32 第5部: AI活用における問題点と課題 ➢ https://ledge.ai/articles/ai_review_prompt_attack
34. 権利侵害のリスク 機密データ・個人情報の漏洩 AIサービスに企業の機密情報や個人のプライベートなデー タを送信すると、意図せず情報が漏洩する可能性がある 対策: 機密性の高いデータをAIサービスに入力しない、ある いはオンプレミス型のAIソリューションを検討する 著作権侵害 AIが既存の作品を学習データとして利用し、それと酷似した コンテンツを生成した場合、著作権侵害となる可能性がある AIが生成したコンテンツの著作権の帰属や、学習データの 利用に関する法的な境界線はまだ不明確な部分が多い オプトアウト申請 一部のAIサービスでは、自身のデータがAIの学習データと して利用されないよう、除外申請（オプトアウト）が可能 これは著作権やプライバシー保護の観点から重要な選択肢 となる LLM側での検閲 AIが特定の不適切な内容を生成しないように、AIモデル側 で検閲や制限がかけられている場合がある これにより、ユーザーが意図した出力が得られないケースも 発生し得る 第5部: AI活用における問題点と課題 33
35. コード品質と理解の問題 「動けばいい」では不十分 AIが生成したコードが「とりあえず動く」だけでは不十分。長期運用を 考えると、保守性、テスト容易性、可読性、拡張性が不可欠。 AI任せに書いたコードを理解できない問題 経験の浅いエンジニアがAIにコード生成を丸投げし、その内容を理解し ないまま利用すると、コード品質が低くなる。その結果、シニアエンジニ アがその低品質なコードの修正に追われ、チーム全体の生産性が低下す る。 文脈をいかに与えるか AIに適切なコードを生成させるには、プロジェクトのディレクトリ構成、 コーディング規約、既存コードベースの文脈などをAIに伝える必要が ある。これにより、よりプロジェクトに適合した高品質なコード生成が期 待できる。 コードのセキュリティチェック AIが生成したコードにも脆弱性の可能性がある。セキュリティレビュー が必須で、自動スキャンと人工レビューの組み合わせが最善のアプロー チ。AIが生成したコードを誰も理解できない状態では、バグ修正や機能 追加が困難になる。 第5部: AI活用における問題点と課題 34 ➢ https://note.com/rk611/n/nb98de14cd76d?sub_rt=share_b 「若手が生成AI任せで仕事して、レビュー地獄で逆に生産性が落ちた話」 （片山良平＠paiza代表）
36. アウトプット品質の問題 精度評価の方法 確信度を答えさせる AIに自信度を尋ね、どの程度確実であるかを評価する 人間がチェックする 全量またはサンプルでレビューし、誤りを特定する プロンプトを改善 Human in the loopでフィードバックを用いてプロンプトを 改良する RAG（Retrieval-Augmented Generation）の活用 AIは基本的に学習しないため、最新情報や専門知識を参照させ る必要がある RAGで外部データベースから情報を取得して回答の精度を向上 させる Human in the loopの重要性 AIはツールであり、人間の判断が最終的な品質を決定する 人間とAIの協調による「何をどのように作るか」の判断が重要 第5部: AI活用における問題点と課題 35 Web検索の活用 Web検索結果を用いて回答を生成させることでハルシネーショ ンを防ぐ 「AIが中身を理解しやすいように要約を置く」ためのファイル (llms.txt)の登場 ➢ https://www.answer.ai/llms.txt
37. エンジニアの役割と専門知識の重要性 開発者専門知識の重要性 - AIが提供する能力の代替 ではなく、効率化ツールとしての活用が重要 - AIが生成したコードを理 解し、品質を保証するための人間の役割が依然として重要 - AIが生成したコードが「動けばいい」だけではなく、 保守性、テスト容易性、可読性、拡張性も考慮する必要がある AIを効率化ツールとしての適切な活用 - AIが生成したコ ードを誰も理解できないと、長期的な運用に支障をきたす - AIが生成するコードを理解す るためには、プログラミング言語の構文だけでなく、ソフトウェア工 学の原則、数学、論理的思考が必要 - 技術がどれほど進化し、抽象化されても、 その根底にある基礎知識の重要性は変わりません 第5部: AI活用における問題点と課題 36 非エンジニアでも簡単なWebページやアプリを構築できるようになっ たが、セキュリティ、パフォーマンス、スケーラビリティなどの考慮が必 要で、本番運用には課題がある ➢ https://github.blog/developer-skills/career-growth/why- developer-expertise-matters-more-than-ever-in-the-age-of-ai/ “Why developer expertise matters more than ever in the age of AI” (Thisara Dasun)
38. 教育への影響 AIパラドックス 今日ジュニア開発者をスキップすることが、ソフトウェア工学の未 来を脅かす可能性がある。 AIに依存しすぎると、基礎が身につかない 基礎を学ばないと、将来のエンジニア不足につながる 基礎学習の重要性 技術がどれほど進化し、抽象化されても、基礎知識の重要性は変 わらない。 プログラミング言語の構文だけでなく、ソフトウェア工学の原 則が重要 数学や論理的思考能力が持続的な価値をもたらす 表面的なAI利用ではなく、技術や原理を理解する姿勢が重要 第5部: AI活用における問題点と課題 37 ➢ https://thisarad404.medium.com/the-ai-paradox-why-skipping-junior- developers-today-threatens-the-future-of-software-engineering-efa9c2ad4742 学習を促すAIの登場 ➢ https://speakerdeck.com/azukiazusa1/aitosi-tatinoxue-xi- nobian-hua-wokao-eru-claude-codenoxue-xi-modowoli-ni ”The AI Paradox: Why Skipping Junior Developers Today Threatens the Future of Software Engineering” (Thisara Dasun) 「AIと私たちの学習の変化を考える - Claude Codeの学習 モードを例に」 （azukiazusa）
39. 第6部: 技術の進化とエンジニアの未来 38
40. 「エンジニアに許された特別な時間の終わり」 (watany) エンジニアの「特別な時間」の終わり 第6部: 技術の進化とエンジニアの未来 39 ➢ https://speakerdeck.com/watany/the-end-of-the-special-time-granted-to-engineers コーディング自動化レベル レベル0〜2（副操縦士/Copilotの時代） AI支援なし〜AIによる補完・チャット支援。人間がドライバー席で主導権を握る レベル3〜5（操縦士/Pilotの時代 - Agent） • レベル3: Agentが主体で動き、人間が支援する • レベル4: 人間の支援なしでAgentが動作 • レベル5: 実装の完全自動生成 「特別な時間の終わり」の意味 ドライバー席での 人間による運転 人間による ソフトウェアの実装 エンジニアに許された 特別な時間 AIエージェントの台頭により、人間が自らコードを書き、 実装を行うという「特別な時間」が終わろうとしている エンジニアの新たな立ち位置 「エンジニアが終わった」わけではなく、座る場所が変わる 助手席（Passenger Seat）に座る ドライバー席（実装作業）をAIに譲った後、後部座席に退くのではなく、 助手席で「副操 縦士」としてリスクを取りながらAIを監視・指導 する立場になっていく 技術力の役割 運と責任が残る世界において、 技術力で「運を引き寄せる」 ことが求められる 「理詰め」の部分はAIが行い、 「運試し」と「結果責任」だけが人間に残される （AIマイン スイーパのような）状況が訪れる
41. 技術の進化の歴史と未来 低水準言語 アセンブリ言語など、ハードウェ アに近い表現 中水準言語 C言語など、抽象化が始まった 言語 高水準言語 Java、Pythonなど、人間工学 優先の言語 AI最適言語 AIが理解しやすく形式化された プロンプト（自然言語）や構造化 テキスト 技術の進化は常に起こっている かつてアセンブリ言語で書いていたが、高級言語（C、Java、Pythonなど） の登場で抽象化が進み、エンジニアは低水準なメモリ管理などから解放され 、より複雑なロジックやアプリケーション開発に集中できるようになった。 AI以前のコーディングも位置づけが変わる AIがコードを生成するようになることで、エンジニアは「何をどのように作る か」の設計やアーキテクチャの側面に、より深く関わるようになる。手動コー ディングも、かつての低水準言語のように位置づけが変わる。 AI最適言語の出現 「どうプロンプトを書くか」「どうAIに背景を伝えるか」に関するノウハウや規約は、 もはやAI時代の新しい“プログラミング言語”そのものになりつつある。 コードを書く時代から、意図を記述する時代へ。技術の進化は続く。 第6部: 技術の進化とエンジニアの未来 40 AI最適言語の例： 構造的なプロンプト # 目的 # 役割 # ツール（Web検索等） # 出力形式 # 実行ステップ
42. 基礎を学ぶ重要性 あえて低水準言語を学ぶこと もある 高級言語が主流でも、低水準言語を学 ぶ価値はある アセンブリ言語や低水準言語の理解が 、ハードウェアとの直接的な関連性を 理解するのに役立つ 低水準言語の知識が、システムの動作 原理を深く理解するのを助ける 表面的な理解では限界がある 技術が進化しても、表面的な理解では 問題解決が難しくなる AIがコードを生成する能力が高まれば 、コードの「動作する」ことだけではなく 、「なぜ動作するのか」を理解する必要 が高まる 深い理解がなければ、システムのバグ や問題の根本原因を特定することがで きない AI時代における基礎の価値 AIが生成したコードの品質を評価する ためには、プログラミング言語の構文 だけでなく、ソフトウェア工学の原則を 理解する必要がある AIの限界を理解して適切な指示を与 えるためには、数学や論理的思考の基 礎が必要 持続的な価値を発揮するためには、技 術の基礎を深く理解し、常に学び続け る姿勢が不可欠 第6部: 技術の進化とエンジニアの未来 41
43. 第7部: まとめ 42
44. AI活用法のまとめ エンジニアの作業を劇的に効率化するツールとしてのAIの主要な活用法を以下にまとめる。 高度な検索 AIが文脈を理解した検索へと進化。GoogleのAIモード（検索結果を AIが統合・要約）やDeep Research（Web検索を駆使して回答）な どのツールが、より関連性の高い情報を素早く提供。 資料作成支援 Markdown形式のドキュメント作成やスライド作成など、AIが自動化し 、資料作成時間を大幅に短縮。高品質なデザインが可能に。 コーディング支援 AIによるコーディング支援は4段階に進化：入力補完から機能生成、 テストと修正、PRとレビューまで。未知の言語でもコードが書ける。 高度な自動化 AIの並列実行による作業効率化、v0による画面実装とデプロイ、 Difyやn8nによるワークフロー自動化など、複雑な業務を自動化し 効率化。 最大のメリット： 「知らないプログラミング言語でもコードが書ける」 — AIが各言語の構文を理解し、エンジニアは本質的な課 題解決に集中できる。 第7部: まとめ 43
45. 問題点のまとめ セキュリティのリスク プロンプトインジェクションによる攻撃（悪意のある入力による 意図しない動作） MCPやBrowser Useのセキュリティリスク（外部サービスへ のアクセス権限の問題） 権利侵害のリスク 機密データ・個人情報の漏洩の可能性 著作権侵害の問題（AIが生成したコンテンツの権利） コード品質と理解の問題 「動けばいい」ではなく、保守性、テスト容易性、可読性、拡張性 が重要 AI任せに書いたコードを理解できる人がいない問題 アウトプット品質と教育への影響 AI出力の信頼性評価の方法と向上のための戦略 「AIパラドックス」：基礎を学ばずに開発者を育成すると将来の ソフトウェア工学を脅かす 対策の重要性： AI活用における問題を克服するためには、適切な使用、厳格なレビュー、継続的な学習が不可欠 44 第7部: まとめ
46. エンジニアの役割 AIが急速に進化する現代において、エンジニアの役割は劇的に変化しています。いかにAIに仕事させるかに関する技術が今後のエン ジニアには求められている。しかしながら、AIはあくまでツールに過ぎず、最後は人間の判断が不可欠。 システム設計 AIが生成するコードの品質を評価し、アーキテ クチャ設計や全体の構造を決める役割が重要 。人間の創造性と判断力が不可欠。 品質管理 AIが生成したコードのテスト、レビュー、修正 を担当する必要がある。AIの限界を理解し、 品質を保証する監督役割が重要。 基礎理解 プログラミング言語の構文だけでなく、ソフト ウェア工学の原則、数学、論理的思考といった 基礎が、AIの限界を理解するための鍵となる 。 AI時代においても、エンジニアは「何をどのように作るか」の設計面に、より深く関わることになる。AIが生成しやすい、あるい はAI自身が理解しやすい新しいプログラミング言語や開発パラダイムが出現する可能性も考えられる。 45 第7部: まとめ
47. 質疑応答 講義内容に関する ご質問をお受けします AI活用について、疑問や興味深いアイデア等が ございましたら、お気軽にどうぞ 参考質問 AIによるコーディング支援と人間の役割のバランスをどのように最適化 すればよいか？ AIによる自動化が進む中で、エンジニアの専門知識がどれだけ重要か？ AI活用におけるセキュリティリスクと権利侵害のリスクをどのように管 理すればよいか？ 46
48. AIがなかったらこのスライドも面倒で作れなかった このスライド自体もAIを活用することで、詳細な構成検討から内容の整理まで、非常に効率的に作成できた。 アイデアの形成 テーマに即して話したいことを 箇条書き => 人間/text 構成の提案 AIが最適な目次の提案と各セクショ ンの概要を生成 => AI/Cursor スライド化 構成に従いAIが PowerPointを生成 => AI/Gamma 最終の美化 デザインの微調整と内容の最適化 => 人間/PowerPoint AIによるスライド作成のメリット 時間短縮 手作業でスライドを作成する時間と労力を大幅に削減 研究効率化 関連する情報を自動的に見つけ、整理する能力 構成の最適化 論理的なフローとバランスの取れた構成を提案 反復の効率化 内容の修正や更新を迅速に行える 47
49. このスライドの作成風景 48 Cursor (https://cursor.com/ja)
50. このスライドの作成風景 49 Gamma (https://skywork.ai)
51. ありがとうございました AIと人間が協調する未来を一緒に考えましょう。 AI コーディング 革新 50