聊聊生成式 AI 的衝擊下，作為工程師我們需要做好什麼準備

生成式 AI 的興起無疑對所有行業都產生了巨大的衝擊，它不僅重新定義了我們的工作方式，並且同數位轉型一樣，有些傳統做法將會過時，而新的做法正在形成。那麼，作為工程師，我們應該關注哪些變化？我們需要做好哪些準備？本次從使用的角度出發，探討例如如何用 GitHub Copilot 加速開發流程並提升程式碼品質。同時，我們也將討論當我們的 Application 想要實現類似於 Copilot 的功能時，可以參考的開發架構

Transcript

1. 聊聊生成式 AI 衝擊下 工程師可以做好什麼準備 By Alan Tsai
2. 簡單的自我介紹 2 @Alan Tsai 的學習筆記 • Alan Tsai • 蔡孟玹 • 後端工程師 - .NET 技術為主 • 喜歡學習不同東西 • Azure • Data Science、Chatbot • Container、DevOps • 加强開發的Tools、架構 • 翻譯文章/軟體 • 兩本翻譯書 • 三門線上課程 • 看小說、玩手游
3. @Alan Tsai 的學習筆記 教就是最好的學習方式 - 喜歡考證驗證所學 3
4. 喜歡技術分享 4 ▰ 2023 .NET Conf ▻ 探索 API 開發的挑戰與解決之道 ▻ 從 GitHub Copilot 到 Enterprise Copilot：打造符合企業需求的智能開發助手之路 ▰ 2022 .NET Conf ▻ 談 Event Driven Architecture 之前 是不是該把 Event 規格搞定？ CloudEvents 是什麼？ | 邁上 Cloud Native App 之路 ▰ 2021 .NET Conf ▻ 不會 Javascript 沒關係 用 Blazor 來解決前端需求成為 Full Stack .NET 開發者吧 @Alan Tsai 的學習筆記
5. 喜歡技術分享 5 ▰Tibame ▻AZ-900、AZ-104、AZ-204 ▻GitHub Copilot： 企業導入，在製造業、金融業、服務業，已培訓近 2000 人次 ▰Trainocate ▻AZ-104、AZ-204、AZ-400、DP-200、DP-201、PL-900、DA-100 ▰台灣智慧自動化與機器人協會 ▻運用Python進行大數據分析、機器學習基礎理論課程及人工智慧 – ML.NET ▰中華電信學院 ▻Windows Container 技術實務班、使用Azure AI打造有人工智能的Line聊天機器人、 DevOps與CI/CD實務研習班 @Alan Tsai 的學習筆記
6. 歡迎訂閲、按讚 + 分享 FB 粉絲頁 http://fb.alantsai.net Alan Tsai 的學習筆記 https://blog.alantsai.net http://yt.alantsai.net http://bili.alantsai.net 影片 contact@alantsai.net @Alan Tsai 的學習筆記 6 contact@alantsai.net
7. Agenda 7 ▰帶來的效益是什麼？ ▰可以用來做什麼？ ▰從使用的角度，到提供的角度 @Alan Tsai 的學習筆記
8. 帶來的效益是什麼？ 8
9. Why use Copilot 9 @Alan Tsai 的學習筆記 Research: quantifying GitHub Copilot’s impact on developer productivity and happiness 2022-09-07
10. Why use Copilot 10 @Alan Tsai 的學習筆記 The economic impact of the AI-powered developer lifecycle and lessons from GitHub Copilot​ 2023-06-27
11. Why use Copilot 11 @Alan Tsai 的學習筆記 Survey reveals AI’s impact on the developer experience 2023-06-13 92% U.S.-based developers using AI coding tools​ 70% better code quality completion time 57% believe that AI could help them upskill
12. Why use Copilot 12 @Alan Tsai 的學習筆記 85% felt more confident in their code quality 15% Code review more actionable and faster 88% GitHub Copilot Chat more focused, less frustrated Research: Quantifying GitHub Copilot’s impact on code quality 2023-10-10
13. Why use Copilot 13 @Alan Tsai 的學習筆記 90% 提升工作 效率與品質 86% 有效協助處理 例行工作 60% 加快 40 ~ 60% 開發時間 永豐銀行導入微軟 GitHub Copilot 賦能開發加速金融創新 2023-11-22
14. Impact 14 ChatGPT偷家：Stack Overflow正被程式設計師拋棄，訪問量一個月驟降3200W 受ChatGPT等AI Chatbot衝擊，Stack Overflow裁員28% 永豐銀行導入微軟 GitHub Copilot 賦能開發，加速金融創新 Copilot Voice – 用嘴巴寫 Code @Alan Tsai 的學習筆記
15. Why use Copilot 15 @Alan Tsai 的學習筆記 https://www.stickyminds.com/article/shift-left-approach-software-testing
16. 16 @Alan Tsai 的學習筆記
17. 17 @Alan Tsai 的學習筆記 AI at Work Is Here. Now Comes the Hard Part
18. 18 @Alan Tsai 的學習筆記
19. 19 @Alan Tsai 的學習筆記
20. 衡量使用情況 20 @Alan Tsai 的學習筆記 https://github.com/alantsai-samples/copilot-metrics-viewer
21. 21 @Alan Tsai 的學習筆記 在 18+ 企業進行過 教育訓練 涵蓋製造、金融、零售、人力資源 和汽車租賃等多個產業 已培訓超過 2000 名工程師 提升他們的技能和生產力
22. 實際上可以做什麼 22
23. What is GitHub Copilot 23 @Alan Tsai 的學習筆記 GitHub Copilot is an AI pair programmer that offers autocomplete-style suggestions as you code About GitHub Copilot for Individuals - GitHub Docs
24. What is GitHub Copilot 24 @Alan Tsai 的學習筆記 You can receive suggestions from GitHub Copilot either by starting to write the code you want to use, or by writing a natural language comment describing what you want the code to do About GitHub Copilot for Individuals - GitHub Docs
25. 25 @Alan Tsai 的學習筆記 Hard for you is hard for the model Schillace Laws of Semantic AI
26. What is Copilot 26 @Alan Tsai 的學習筆記 The availability of LLMs has led to the emergence of a new software application, often referred to as a copilot. Copilots are often integrated into other applications and provide a way for users to get help with common tasks from a generative AI model. Copilots are based on a common architecture, so developers can build custom copilots for various business-specific applications and services.​
27. What is Microsoft 365 Copilot 27 @Alan Tsai 的學習筆記
28. 開發 vs 審閱 28 @Alan Tsai 的學習筆記
29. Prepare Environment - Supported IDE 29 @Alan Tsai 的學習筆記 Visual Studio Code Visual Studio Jet Brains neovim
30. Prepare Environment – JetBrain 30 @Alan Tsai 的學習筆記
31. Prepare Environment – Visual Studio Code 31 @Alan Tsai 的學習筆記
32. Prepare Environment – Visual Studio 32 @Alan Tsai 的學習筆記
33. Prepare Environment – Visual Studio 1/2 33 @Alan Tsai 的學習筆記
34. Prepare Environment – Visual Studio 2/2 34 @Alan Tsai 的學習筆記
35. Usage – Intellisense vs Copilot 35 @Alan Tsai 的學習筆記 Intellisense Copilot esc
36. Visual Studio – Copilot + Intellisense 36 @Alan Tsai 的學習筆記
37. Usage – Visual Studio Code - Copilot Shortcut Key 37 @Alan Tsai 的學習筆記
38. Usage – Intellisense and Copilot Shortcut Key 38 @Alan Tsai 的學習筆記
39. Usage – Visual Studio – Copilot Shortcut Key 39 @Alan Tsai 的學習筆記
40. Usage – Visual Studio Code Trigger Copilot 40 @Alan Tsai 的學習筆記 alt + \ Trigger Copilot
41. Usage – Visual Studio Trigger Copilot 41 @Alan Tsai 的學習筆記 alt + \ Trigger Copilot
42. Usage – Choosing Suggestion 42 @Alan Tsai 的學習筆記 ctrl + [ Previous Suggestion ctrl + ] Next Suggestion
43. Usage – Choosing Suggestion 43 @Alan Tsai 的學習筆記 Tab Accept Line Ctrl + -> Accept Word
44. Usage – Completion Panel 44 @Alan Tsai 的學習筆記 ctrl + enter Completion Panel
45. GitHub Copilot in the CLI 45 ▰Install GitHub CLI ▻https://github.com/cli/cli ▰Install Copilot as Extension ▰Setup Alias @Alan Tsai 的學習筆記 gh auth login gh extension installgithub/gh-copilot gh extension list (type -p wget >/dev/null || (sudo apt update && sudo apt-get install wget -y)) \ && sudo mkdir -p -m 755 /etc/apt/keyrings \ && wget -qO- https://cli.github.com/packages/githubcli-archive-keyring.gpg | sudo tee /etc/apt/keyrings/githubcli-archive-keyring.gpg > /dev/null \ && sudo chmod go+r /etc/apt/keyrings/githubcli-archive-keyring.gpg \ && echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/githubcli-archive-keyring.gpg] https://cli.github.com/packages stable main" | sudo tee /etc/apt/sources.list.d/github-cli.list > /dev/null \ && sudo apt update \ && sudo apt install gh -y sudo apt update sudo apt install gh Gh copilot alias --help
46. GitHub Copilot for CLI 46 @Alan Tsai 的學習筆記 ghce gh copilot explain ghcs gh copilot suggest Explain a given input command in natural language. Suggest a command based on a natural language description of the desired output effect ghcs -t shell|git|gh
47. 從需求開發功能 實際上可以做什麼 47 @Alan Tsai 的學習筆
49. 從規格產生 Code 49 @Alan Tsai 的學習筆記
50. 從規格產生 Code 50 @Alan Tsai 的學習筆記
51. 從規格產生 Code 51 @Alan Tsai 的學習筆記
52. Code Review 解程式碼/詢問改善空間 實際上可以做什麼 52 @Alan Tsai 的學習筆
54. 54 @Alan Tsai 的學習筆記
55. 55 @Alan Tsai 的學習筆記
56. 了解程式碼 56 @Alan Tsai 的學習筆記
57. 產生用 Powershell 呼叫的語法 57 @Alan Tsai 的學習筆記
58. 撰寫測試 58 @Alan Tsai 的學習筆記
59. 產生 SQL 語法和建議索引 59 @Alan Tsai 的學習筆記
60. 提供重構建議 60 @Alan Tsai 的學習筆記
61. 產生文件 61 @Alan Tsai 的學習筆記
62. Visual Studio Code – GitHub Copilot Chat 62 @Alan Tsai 的學習筆記
63. 63 @Alan Tsai 的學習筆記 https://stock.adobe.com/tw/images/software-development- life-cycle-6-process-of-sdlc-vector/423979611 撰寫 Pseudocode 系統架構設計 資料庫設計 輔助程式開發 註解變程式碼 轉換程式碼語言 單元測試 整合測試 Code Review Exception 排查 優化重構 效能調教
64. 64 從 Coding 進化到 Platform
65. GitHub Copilot 版本 65 @Alan Tsai 的學習筆記 https://github.com/features/copilot
66. GitHub Copilot Enterprise 66 @Alan Tsai 的學習筆記
67. 基於 Repo 內容回應 @Alan Tsai 的學習筆記 67
68. 直接給出建議 @Alan Tsai 的學習筆記 68
69. Copilot Workspace 從需求到開發一條龍 69
70. @Alan Tsai 的學習筆記 70
71. 71 @Alan Tsai 的學習筆記 你覺得文件重要嗎？
72. 72 @Alan Tsai 的學習筆記 GitHub Copilot Extensions
73. 73 @Alan Tsai 的學習筆記 GitHub Copilot Extensions
74. 展望未來 從使用端到提供端 74
75. 讓 LLM 模型產生你要的東西 4 種方式 75 @Alan Tsai 的學習筆記 Four Ways that Enterprises Deploy LLMs | Fiddler AI Blog​
76. LLM Architecture 76 @Alan Tsai 的學習筆記 The architecture of today’s LLM applications
77. Copilot Stack 77 @Alan Tsai 的學習筆記
78. Retrieval Augmented Generation (RAG) 78 @Alan Tsai 的學習筆記 Retrieval Augmented Generation (RAG) in Azure AI Search​ https://github.com/microsoft/kernel-memory
79. Conclusion 79
80. 以前是 Google 工程師，現在是 AI 工程師 80 ▰不會做，就先 Google 啊 => 不會做，就先問 ChatGPT 啊 ▰查不到，要會下關鍵字 啊 => 查不到，要會下咒語（Prompt）啊 ▰還查不到，多換幾種查法 => 還查不到，換英文問 啊
81. 81 @Alan Tsai 的學習筆記
82. Data Collection Operators 82 @Alan Tsai 的學習筆記 https://www.linkedin.com/jobs/view/data- collection-operator-tesla-bot-at-tesla- 3762872578/
83. 生成式 AI 的三大定律 -> 拒當電池人 83 ▰ AI 不會取代你的工作，但是會 AI 的人會 ▰ 人人都要有 Technical Leader 的思維 ▰ 越符合業界標準，成效就越好 ▰ 你做不到的事情，AI 就做不到
84. Schillace Laws 84 @Alan Tsai 的學習筆記 Schillace Laws of Semantic AI Don’t write code if the model can do it; the model will get better, but the code won't
85. 參考資料 ▰GitHub Blog：https://github.blog/tag/github-copilot/ ▰GitHub Copilot Trust Center：https://resources.github.com/copilot-trust- center/ ▰Youtube Playlist： https://www.youtube.com/playlist?list=PL5S9BJ3mvUsK1yigRkxctRW4Zw Mj9yO3b @Alan Tsai 的學習筆記
86. CREDITS Special thanks to all the people who made and released these awesome resources for free: ▰ Presentation template by SlidesCarnival ▰ Photographs by Startup Stock Photos 86 @Alan Tsai 的學習筆記