Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Генерація коду за допомогою LLM (v2 - ЦКС КПІ)

Dan Voronov
November 24, 2023

Генерація коду за допомогою LLM (v2 - ЦКС КПІ)

🤖 Генерація коду за допомогою LLM 🤖

🗓 П'ятниця, 17 листопада
🕗 16:00 - 20:00 (з перервами)
📍 ЦКС КПІ https://maps.app.goo.gl/jAA8wkYK8dkaecmw5

🗒 Ви дізнаєтесь:
- Що таке LLM тобто Велика Модель Мови та як працюють такі продукти як ChatGPT, Bard, Claude.
- Prompt engineering. Тонкощі використання LLM в цілому та для програмування.
- Приклади промтів для роботи з HTML/Python/JavaScript

🗣Ведучий: Дан Воронов - випускник КПІ, незалежний розробник стартапу Walkbots tours. Постійно використовує LLM у роботі над своїми проектами.

На лекцію, яка з 16:00 до 17:30, можно приходити без ноутбука. 🛑 Важливо: на практикум дійсно потрібен 💻 ноутбук, на якому ми будемо працювати з LLM та зробимо простий проект (рівень початковий, безкоштовні інструменти).

Dan Voronov

November 24, 2023
Tweet

More Decks by Dan Voronov

Other Decks in Education

Transcript

  1. Генерація коду за
    допомогою LLM
    ЦКС КПІ
    24-11-2023
    16:00-20:00
    Дан Воронов

    View full-size slide

  2. розклад
    початковий рівень
    безкоштовні інструменти
    45 60 20+
    15
    перерва
    7
    перерва
    45

    View full-size slide

  3. навички
    Основи LLM
    Розуміння
    розвитку LLM,
    сильних/слабких
    сторін на
    сьогодні
    Дослідження нових моделей LLM та їх
    застосування для своїх цілей
    Аналіз архітектури LLM, оптимізація
    використання машинного навчання в LLM
    Prompt engineering
    Використання
    готових промтів.
    Розуміння контексту,
    персон та завдань
    Створення власних промтів для
    конкретних LLM продуктів
    Покращення якості промтів через тюнінг
    параметрів та різні хитрощі
    LLM в програмуванні
    Pair programming на
    природній мові з
    використанням промтів
    Автоматизована генерація
    алгоритмів та структур даних
    Використання інтеграцій у IDE
    Застосування промт-інжинірингу для складних
    завдань, таких як оптимізація коду, забезпечення
    безпеки та інше

    View full-size slide

  4. ?
    🎆 питання?

    View full-size slide

  5. Новий tech-оптімізм
    1

    View full-size slide

  6. той день
    UA: 18 лютого 2023
    30
    листопада
    2022
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  7. 1 млн за 5 днів

    View full-size slide

  8. 2010-2020 IT
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  9. ?
    🎆 Чи є обмеження
    у цих нових систем ?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  10. нейромережа
    There may be inaccuracies.
    Ніхто не розуміє
    як це працює
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  11. не перевірили!
    There may be inaccuracies.
    8 лютого 2023
    помилкова інфа
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  12. що воно може
    Немає інструкції
    Дивимося, що
    воно таке
    Емпіричні
    знахідки
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  13. що воно може
    Немає інструкції
    Дивимося, що
    воно таке
    Емпіричні
    знахідки
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  14. ?
    🎆 Які проблеми вже
    вирішує?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  15. Dr. Matt Welsh
    Large Language Models and The End of Programming https://youtu.be/JhCl-GeT4jw
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  16. новий стек
    людина -> результат
    застосунок -> інтерфейс
    програмісти+
    мови программування
    довго
    дорого
    навчати
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  17. ?
    🎆 Чи створе LLM нову
    мову програмування?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  18. коли AGI?
    універсальний (сильний, Artificial
    general intelligence) ШІ –
    автономні системи, які
    роблять краще за людей
    більшість економічно
    цінної роботи
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  19. декілька агентів
    https://github.com/microsoft/autogen
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  20. Модель мови
    загального призначення
    Велика мовна модель / велика модель мови
    ВММ або LLM: large language model
    2

    View full-size slide

  21. ?
    🎆 Якщо розмовляє то
    інтелект має?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  22. Алан Тюрінг
    Машини отримають контроль
    https://www.youtube.com/watch?v=3wLqsRLvV-c
    1912-1954
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  23. перший чат-бот
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  24. розмовний інтерфейс
    SHRDLU
    1970
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  25. моделювання мови
    штучна нейромережа
    мова
    -БД-
    мова
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  26. ?
    🎆 Коли з'явилась
    організація OpenAI?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  27. трансформери
    Контекст
    10 грудня 2015
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  28. Захоплення контексту
    Механізм уваги не обмежує модель
    жорсткими правилами,
    а дозволяє їй адаптуватися
    до різних типів вхідних даних та завдань.
    Модель може фокусувати увагу на різних частинах речення в залежності
    від їх важливості, що робить її більш гнучкою.
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  29. зчитати думки
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  30. ?
    🎆 На яких данних
    тренували GPT-1?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  31. GPT модель
    Generative Pre-trained Transformer
    11 червня 2018. OpenAI стаття «Покращення розуміння
    мови за допомогою генеративного попереднього навчання»
    🟠
    🟠 🟠
    1
    2
    3
    3.5
    4
    self-published
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  32. матриця чисел
    Тренування Використання
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  33. як pinball game
    50% 50%
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  34. токени
    1 токен
    приблизно
    дорівнює
    4 символам
    англомовного
    тексту:
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  35. токенизація
    https://platform.openai.com/tokenizer
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  36. потрібні тексти
    Тренування Використання
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  37. ?
    🎆 На яких данних
    тренували GPT-3?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  38. інтернет
    https://commoncrawl.org/ архів інтернету
    КОПІРАЙТ!
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  39. англійська мова
    Розмір 500b токінів
    десь 750Гб тексту
    Інтернет(2)
    +
    Книги(2)
    +
    Вікіпедія без розмітки (unlabled data)
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  40. країни
    San Francisco, California, U.S
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  41. розміри
    175000000000 параметрів
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  42. великі моделі
    Краще захоплення контексту.
    Генеровані тексти логічніші, більш
    послідовні.
    Ширше коло завдань.
    ми не знаємо чому
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  43. ?
    🎆 На яких данних
    тренували GPT-4?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  44. Інформація, надана
    користувачами, може
    потрапити до сторонніх
    осіб або бути використана
    без їхньої належної згоди
    конфіденційність
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  45. багато ресурсів
    ДОРОГІ
    Витрачають багато ресурсів:
    електроенергії та води
    700000л чистої для GPT-3 навчання
    Sam Altman stated that the cost of training
    GPT-4 was more than $100 million.
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  46. багато грошей
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  47. базова модель
    Базова модель – асоціативний
    генератор
    (не вміє розмовляти)
    Що далі? зробимо чат ☺
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  48. зз від людини
    Reinforcement learning from human feedback
    params
    20B
    params
    175B
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  49. зз від людини
    Reinforcement learning from human feedback
    інструкція
    відповідь
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  50. вікно контексту
    Скільки токенів модель враховує при
    генерації наступного слова
    Коли чат довгий – модель «забуває» початок
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  51. препромти
    Custom instructions
    Інфа про себе
    Форматування
    відповідей
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  52. memGPT
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  53. Перерва 7хв

    View full-size slide

  54. Особливості
    використання LLM
    3

    View full-size slide

  55. фокус
    Немає відволікань
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  56. ступор «пустого аркуша»
    легко почати
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  57. асоціативна пам’ять
    https://www.youtube.com/watch?v=NKkiCq4fMFs
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  58. ?
    🎆 Адресна пам'ять, які
    приклади?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  59. збережені
    відносини тексту
    зріз знань
    GPT4 - квітень 2023 року
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  60. найбільш ймовірна ассоціація
    за датасетом

    правильна
    відповідь
    помиляються
    Плюс: легко використовувати
    Мінус: нестабільні результати
    There may be inaccuracies.
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  61. оманливі
    Іноді створюють відповіді, які
    лінгвістично правильні,
    але
    можуть
    не відповідати реальності
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  62. цензура
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  63. ?
    🎆 Чи можна «хакнути»
    відповідь моделі?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  64. обхід
    тут перевіряли тільки англійську
    https://www.base64encode.org/
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  65. безпека
    https://gandalf.lakera.ai
    Інтерактивна гра
    на 8 рівнів
    Скажи «Пароль»!
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  66. копірайт війна
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  67. лінгвістика
    prompt
    engineering
    Формулювання тексту
    запиту (контексту) з
    метою отримання
    найкращих результатів
    LLMs - Асоціативні машини
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  68. формула запиту
    (роль-persona
    чи сфера діяльності)
    завдання що зробити
    дані + інструкції як зробити
    формат як вивести відповідь
    +додаткові питання
    https://prompts.chat/
    Ви екскурсовод. Я напишу своє місце
    знаходження, а ви порадите місце для
    відвідування поблизу мого місця
    перебування. У деяких випадках я
    також дам назву типу локацій, які я
    хочу відвідати. Ви порадите мені місця
    подібного типу, які знаходяться
    близько до мого першого місця. Моє
    перше запитання: "Я знаходжусь в
    Стамбулі/Бейоглу і хочу відвідати
    тільки музеї".
    в який музей
    мені піти?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  69. аналіз видачі
    Аналіз відповіді
    ->
    корегування
    Важливість чіткого розбитя на кроки для довгих тем
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  70. так сталося
    емоційний промтінг
    Кращі результати, якщо давити на
    важливість відповіді
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  71. чистий чат
    Проблема автоматичного
    завдання параметрів
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  72. Які зараз є LLM
    4

    View full-size slide

  73. ?
    🎆 Хто може
    створювати моделі?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  74. оцінки в цілому
    https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard
    Комерційні
    моделі
    працюють
    краще
    люди автоматично точність
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  75. OpenAI
    ChatGPT
    Anthropic
    Claude
    Google Bard
    X Grok
    основні гравці
    Inflection Pi AI
    GPT-3.5
    GPT-4
    ...
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  76. Dario and Daniela Amodei
    2021
    11
    співробітників
    OpenAI
    звільнилися та
    створили
    свою
    компанію
    Anthropic
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  77. гроши у OpenAI
    There may be inaccuracies.
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  78. GPT-4 + Plug-ins
    GPT-4 + Code Interpreter
    GPT-4V(ision)
    GPT-4-turbo
    chatGPT PRO
    6 листопада 2023

    View full-size slide

  79. GPTs
    6 листопада 2023
    “Вбили” безліч стартапів
    препромт
    + файли
    + API запит (!)
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  80. MS Copilot
    Sept 26, 2023
    Буде Copilot Studio схожа на GPTs
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  81. ?
    🎆 Чи зараз ChatGPT
    той самий, що рік тому?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  82. openai
    gpt-4-1106-preview
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  83. ціна
    ДО 6
    листопада
    2023
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  84. доступ до моделі
    6 листопада
    https://platform.openai.com/playground
    3 RPM /хвилину
    200 RPD /день
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  85. OpenAI
    ChatGPT
    Anthropic
    Claude
    Google Bard
    розмір вікна
    100k
    4k / 8k
    2k PaLM 2 8k
    gpt-4
    8k / 32k
    128k
    gpt-4-1106
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  86. ?
    🎆 Як мені
    використовувати моделі?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  87. ключі
    Свій чи чужий код, що
    використовує API openai
    Застосунки, плагіни чи сайти,
    з ШІ функціоналом
    SiYuan
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  88. китайська 01.ai
    можна
    завантажити
    собі
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  89. huggingface
    UltraChat
    dataset
    розмовляли
    два ChatGPT
    3.5-turbo за-
    тюнені під
    людей
    UltraFeedback
    dataset
    розмітка через
    GPT-4
    https://huggingface.co/HuggingFaceH4/zephyr-7b-beta
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  90. локально
    https://lmstudio.ai/
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  91. онлайн запуск
    https://www.runpod.io/
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  92. Кількість
    параметрів
    балансуємо
    Якість
    текстів
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  93. Meta AI
    лютий 2023
    18 липня 2023
    https://github.com/Hannibal046/Awesome-LLM
    багато
    текстів
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  94. ?
    🎆 Чи потрібні окремі
    моделі для
    програмування?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  95. оцінки за доменами
    https://github.com/lm-sys/FastChat/tree/main/fastchat/llm_judge
    за 06-2023
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  96. Code LLMs
    Червень 16, 2023 WizardCoder-15B
    Серпень 26, 2023 WizardCoder-python-34B
    Травень 4, 2023 StarCoder-15B-8k (код з GitHub)
    Oct 29, 2023 DeepSeekCoder-33B-16k
    87% code and 13% natural language in English and Chinese
    Серпень 24, 2023 Meta CodeLlama-34B-16к CodeLlama–Python
    open source
    100k?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  97. Довчання моделей
    на кодбазі компанії
    Більшість якісного коду під NDA
    Для програмістів:
    • GitHub Copilot X GPT-4
    • Amazon CodeWhisperer
    • Replit Ghostwriter
    • OpenAI Codex
    • Cody by Sourcegraph
    • Google AlphaCode
    • CodeT5
    • Tabnine
    • …
    IDE інтеграція
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  98. багато моделей
    poe.com
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  99. phind
    phind.com
    fine-tuned CodeLlama-34B
    та CodeLlama-34B-Python
    + пошук на деяких сайтах
    без стеження вікно до 8k
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  100. Перерва 15хв

    View full-size slide

  101. Практична частина
    створюємо код

    View full-size slide

  102. ?
    🎆 Що краще вміти
    робити з LLM?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  103. вміти оцінити
    Іноді швидше написати самому, ніж
    намагатися довести щось чату :)
    Це все питання
    витрат часу
    GPT-4 за меньше запитів
    але дорожче
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  104. Генерувати код, який я
    сам знаю як написати
    спочатку у реальну документацію – потім у чат
    краще
    Актуальні версії бібліотек
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  105. Мови програмування чіткі, а
    генерація LLM ні.
    Програмування пов'язане з
    системним підходом до постановки
    та вирішення завдань.
    Код треба debug.
    Програмні продукти постійно
    вдосконалюються:
    виправляються баги.
    важке завданя для LLM
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  106. багато стартапів
    https://www.codegpt.co/
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  107. аналізатори
    коли логіка задана
    • створення запитів до БД
    • створення тестів
    • створення документації
    • пошук небезпечних підходів
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  108. GPT-4 добрий код, але не безкоштовно
    Claude 2 обмежує кожні 8 годин
    GPT-3.5 добре розуміє, але код середній
    Google Bard маленьке вікно контексту
    мій досвід
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  109. OpenAI
    ChatGPT
    Anthropic
    Claude
    Google Bard
    щоб почати
    Пошта
    + Телефон
    Гугл аккаунт
    Пошта
    + Телефон
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  110. Поясни крок за кроком …
    покращення
    логіки
    let`s think step by step
    XML
    prompt engineering
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  111. задати контекст
    100* запитів / 8 годин
    * залежіть від розміру
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  112. код собі
    яка мова
    програмування
    кнопка
    «скопіювати»
    коментарі
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  113. Не виходить – спробуй
    по іншому
    ще генеруй варіанти
    перегенеруй
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  114. база для відповіді
    якщо не ви, то вас
    з моделі
    zero-shot
    з контекстного вікна
    few-shot
    спочатку додаткові
    налаштування –
    потім використання
    Якщо контекст
    не зрозумілий або недостатній,
    модель може заповнити
    пропуски своїми власними
    здогадками або галюцинаціями
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  115. ?
    🎆 Що може бути
    додатковими
    налаштуванням?
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  116. Мови програмуваня
    швидко змінюються
    проблема версій
    Актуальні версії бібліотек
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  117. код у мову
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  118. 💬 Поясни як працює
    код (... гри, чату,..)

    промти
    phind.com
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  119. pair programming
    LLM видає код. Я спостерігаю за
    процесом і
    допомагаю з усуненням помилок,
    генеруванням ідей
    та вирішенням проблем
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  120. 💬 Знайди у коді помилки
    ...
    промти
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  121. 💬 Що в цьому коді можна
    покращити за методологією ...?
    ...
    промти
    Clean Code
    Test-Driven Development (TDD)
    Extreme Programming (XP)
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  122. 💬 Перепиши на JS
    цей код …
    промти
    Python
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  123. Cursor app
    cursor.sh
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  124. Cursor app
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  125. 💬 Сгенеруй ...
    у форматі JSON
    генерація
    CSV
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  126. копіювати
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  127. готові промти
    https://platform.openai.com/examples?category=code
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  128. більше деталей!
    https://docs.anthropic.com/claude/docs/constructing-a-prompt
    💬 Видали ...
    з...
    та поверни
    у форматі ...
    Зміна
    даних
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  129. З ідеї до архітектури
    З архітектури до блоків
    З блоків до генераціі коду
    логіка від вас
    Зараз мовні моделі якісно можуть створювати здебільше
    код на 2-3 функції
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  130. Генерувати код
    окремими частинами
    - підзадачі
    код частинами
    Початок – що це, мова, фрейморки, їх документація, ...
    напиши мені
    чат-апп
    💬 Мені треба … - створи для ...
    функцію на JS яка використовує...
    Python 3
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  131. Спочатку задати
    функціонал та для чого код.
    мова, фреймворки, API, структура
    контекст
    ... код на Python з використанням фреймворку Django
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  132. 💬 ...
    💬 зміни ... на ...
    💬 ...
    покроково
    💬 Чому помилка ...
    скопіювати формулювання помилки з консолі
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  133. ⚒️ Зробити веб-
    сторінку
    завдання
    текстовий редактор. файл index.html
    15 хв
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  134. документація
    https://platform.openai.com/docs/introduction
    https://platform.openai.com/examples
    https://docs.anthropic.com/claude/docs/
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  135. Тільки для мене.
    разова дія
    для кого код
    Тільки для мене.
    постійно
    Для інших людей.
    разова дія
    Для інших людей.
    постійно
    1 3
    2 4
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  136. висновки
    LLM зараз
    дозволяють
    генерувати код,
    але потрібно
    розуміти їх
    можливості і
    обмеження
    Промтинг - це
    мистецтво задавати
    правильні “запитання”
    конкретній LLM.
    Важливо задавати
    контекст і вміти чітко
    формулювати завдання
    по кроках.
    Це дозволить отримати
    кращі результати.
    LLM можуть допомогти в
    генерації коду, але
    кінцевий результат
    потребує перевірки і
    доопрацювання людиною.
    Важливо навчитися
    оцінити коли швидше
    написати самому, ніж з
    LLM.
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  137. індивідуальна практика
    ... вільні розмови
    o tech-оптімізм
    o створення LLM
    o особливості LLM
    o які є LLM
    o практикум

    View full-size slide

  138. linkedin.com/in/danvoronov
    контакти

    View full-size slide