Блеск и нищета генеративного ИИ

Закрывающий keynote на конференции DotNEXT 2025

Transcript

1. Насколько нейросети творческие и что нас ждет в этой связи Дмитрий Сошников Доцент, НИУ ВШЭ/МАИ Тех.руководитель лаборатории генеративного ИИ Школы дизайна НИУ ВШЭ, ex-Microsoft http://soshnikov.com – @shwars
2. Блеск и нищета генеративного ИИ Дмитрий Сошников Доцент, НИУ ВШЭ/МАИ Тех.руководитель лаборатории генеративного ИИ Школы дизайна НИУ ВШЭ, ex-Microsoft http://soshnikov.com – @shwars
3. О чем я не буду говорить? Vibe Coding Нейросети и .NET ChatGPT как персональный раб разработчика http://eazify.net/gptslave
5. F# GOFAI
9. F# GOFAI ИИИскусство
10. # ИИИскусство 42
11. Понимает ли нейросеть смысл?
12. GPT-3 Британские исследователи университета им. Джона Леннона в Ливерпуле на прошлой неделе закончили исследования, посвященные влиянию вируса на музыкальные предпочтения английской молодёжи. Они обнаружили, что у людей, заражённых вирусом иммунодефицита человека, музыкальные вкусы изменились. В результате, по мнению специалистов, в будущем, как минимум, половина британцев будет слушать музыку с преобладанием рок-мелодий. В исследовании принимали участие более 100 молодых британцев в возрасте от 14 до 18 лет. В результате оказалось, что среди участников эксперимента, заражённых вирусом иммунодефицита, рок-музыку слушали только 13%, а в группе, заражённой не-ВИЧ-вирусом - только 7%. По словам профессора Гарварда Майкла О'Салливана, результаты исследования говорят о том, что музыкальное развитие молодых людей в Великобритании находится в прямой зависимости от наличия у них вируса иммунодефицита человека. «Наше исследование показывает, что если у людей, заражённых вирусом иммунодефицита человека, музыка будет преобладать в жизни, то у тех, у кого его нет, она не будет иметь особого значения. И наоборот, если у молодых людей будет преобладать рок-музыка, то в будущем их музыкальные вкусы, вероятно, изменятся», - сказал профессор.
13. Предсказание слов Британские исследователи университета им. Джона Леннона в Ливерпуле на прошлой неделе закончили исследования, посвященные влиянию вируса на музыкальные предпочтения английской молодёжи. Они обнаружили, что у вирусы мозг люди пациенты людей пациентов вируса молодых , без с заражённых людей любителей
14. Предсказание слов Британские исследователи университета им. Джона Леннона в Ливерпуле на прошлой неделе закончили исследования, посвященные влиянию вируса на музыкальные предпочтения английской молодёжи. Они обнаружили, что у 0.1 люди 0.05 рибофлавин 0.00 по 0.03 иногда 0.01 британские учёные =
15. Эмбеддинги
16. Откуда берутся эмбеддинги Вася играет в синий мяч во дворе + Олеся играет в красный мяч во мраке Смысл слова определяется контекстом его использования (Людвиг Витгеншейн)
17. Внутреннее внимание The animal didn’t cross the street because it was too tired The animal didn’t cross the street because it was too wide
18. Внутреннее внимание Вася любил овощи, поэтому он заказал кабачки с колбасой Вася любил овощи поэтому он заказал кабачки с колбасой Вася любил овощи поэтому он заказал кабачки с колбасой Вася любил овощи поэтому Вася заказал кабачки с колбасой K подлежащее V Вася Q подлежащее Эмбеддинги
19. GPT Контекст …. 0,10 помидорами 0,11 колбасой 0,03 салом 0,00 зефир 0,00 навозом 0,05 беконом 0,001 персиками 0,00 ерундой Вася любил овощи поэтому он заказал кабачки с
20. Пространство смыслов Британские исследователи университета им. Джона Леннона в Ливерпуле на прошлой неделе закончили исследования, посвященные влиянию вируса на музыкальные предпочтения английской молодёжи. Они обнаружили, что у 0.1 люди 0.05 рибофлавин 0.00 по 0.03 иногда 0.01
21. Стохастический попугай
22. Понимает ли нейросеть смысл?
23. Примеры совмещения смыслов Придумай слово, которое бы совмещало кошку и песочные часы Хронофелис / Хронофелия: Хроно- (время) + фелис (кошка, от лат. Felis). "Хронофелис" звучит как биологический вид, "Хронофелия" — как любовь ко времени или состояние. Что общего у кошки и песочных часов? "Жидкое" состояние: Песочные часы: Песок внутри ведет себя как жидкость — он течет, принимая форму сосуда. Кошка: Знаменитая способность кошек протискиваться в невероятно узкие пространства и принимать причудливые, расслабленные позы породила мем о том, что кошки — это не твердое тело, а жидкость. Эта "текучесть" и способность заполнять предоставленный объем — забавная параллель с песком в часах.
24. Философский зомби и психопат
25. Писать на самом деле очень просто. Ты просто садишься перед пишущей машинкой и начинаешь истекать кровью
26. Понимает ли LLM смысл сказанного? Нет Да Китайская комната LLM – это просто алгоритм, он не испытывает чувств, не страдает как человек С точки зрения всех проверок на понимание (пересказ, ответы на вопросы и т.д.) LLM не уступают человеку LLM может манипулировать смыслами (придумывать, креативить и т.д.)
27. Может ли ИИ придумать что-то новое?
28. Придумай совершенно бессмысленные слова Лорфиплю Взгломзик Черпаклюн Треволдин Мурзикав Плинтрасил Гваркноп Зумбалик Флерспит Омбрелиг
29. Very realistic photograph of living computer in the dark shadowy forest, matte colors, low key photography, Canon EOS 5D, Winner of photo contest, HD, 8K, highly detailed
30. Теория креативности Exploration Exploitation vs.
31. Галлюцинации, креативность и температура t=∞ t=0 Пой инд ар кра сча ноль и она воск кре, на сил ве име кор талв апр нужн цел Я считаю, что это хорошо, что это хорошо, что это хорошо… t=1 По моему мнению, это прекрасно, когда люди подходят ответственно….
33. Естественный удобритель – раздробленные скорлупы яиц можно использовать в качестве кальциевого удобрения для садовых растений. Основа для декора – чистые скорлупы яиц можно окрашивать, лакировать и использовать для создания мелких декоративных элементов, например, ваз для миниатюрных цветов или небольших пасхальных поделок. Чистящее средство – измельченная скорлупа, смешанная с немного воды, хорошо подходит для чистки труднодоступных мест или предметов с шероховатой поверхностью, например, грязной посуды. Средство от вредителей – рассыпанная вокруг растений измельченная скорлупа яиц может отпугивать некоторых вредителей, таких как слизни и улитки. Наполнитель для подушек – тонко измельченная скорлупа яиц может быть использована как один из компонентов наполнителя для декоративных подушек. Компонент для изготовления мозаики – использование фрагментов скорлупы в качестве мозаичных камней при создании картин или украшений. Основа для миниатюрных садов – половинки скорлупы можно использовать как контейнеры для выращивания мелких растений или трав. Плавающие свечи – половинки чистых скорлуп можно заполнить воском и фитилем, создав оригинальные плавающие свечи для украшения водоемов или ванны. Упаковочный материал – измельченная скорлупа может служить защитным буферным материалом при упаковке хрупких предметов. Натуральная косметика – порошок из скорлупы яиц можно использовать в домашних скрабах для лица или тела, благодаря его абразивным свойствам.
34. Эгглет Скорлупелье
35. Дивергентная креативность AUT: Alternative Usage Test Koivisto, M., Grassini, S. Best humans still outperform artificial intelligence in a creative divergent thinking task. Sci Rep 13, 13601 (2023). TCTT: Torrance Test for Creative Thinking • скорость генерирования идей • степень уникальности • уровень проработанности Erik E. Guzik et al, The Originality of Machines: AI Takes the Torrance Test., Journal of Creativity (2023). • 2700 студентов • ChatGPT входит в top 1% по скорости и оригинальности ответов
36. Мораль 1: Нейросети крутые, понимают смысл и могут дивергентно креативить лучше многих людей. Надо их уважать!
37. Системы мышления Система 1 Система 2 Сколько будет 12*11? 100 с небольшим Сколько будет 12*11? Ага, попробую умножить. 12*10=120 + 12 = 132.
38. Как учится нейросеть, и как учимся мы
39. Думаем ли мы, если не говорим? Друзиянцы мои, флаптур вам и мандрегал на вастибул! Как же клемфно и турбеско видеть вас всех здесь, на этом бринтославном фометре, где каждый фистролог и пантузель приносит свою глорификтную энергезию в это чудесное марафленье! Sébastien Bubeck, Varun Chandrasekaran, et.al. Sparks of Artificial General Intelligence: Early experiments with GPT-4 arXiv:2303.12712 [cs.CL]
40. Эволюция нейросетей Base LLM Instruct LLM Chat LLM Reasoning LLM Все тексты AI Teachers RLHF AI Teachers / Reinforcement SFT Chain of Thought Reasoning
41. Рассуждающие GPT Придумай 5 задач на признаки делимости на 3, так, чтобы задачи были разного вида и разного уровня сложности. Хорошо, мне нужно придумать 5 задач на признаки делимости на 3, разных видов и уровней сложности. Начну с того, что вспомню сам признак делимости на 3: число делится на 3, если сумма его цифр делится на 3. Теперь подумаю, какие виды задач можно придумать. Первая задача должна быть простой, может быть, просто проверить, делится ли число на 3. Например, дано число, и нужно определить, делится ли оно на 3. Но тогда все задачи могут быть похожими, так что нужно разнообразить. Может быть, задача на восстановление пропущенной цифры. Например, в числе пропущена одна цифра, и нужно найти все возможные варианты, чтобы число делилось на 3. Это уже посложнее. Еще можно задачу, где нужно выбрать из нескольких чисел те, которые делятся на 3. Или, может, задача с несколькими условиями, например, число должно делиться и на 3, и на 5, тогда нужно учесть оба признака. Еще можно задачу на комбинацию цифр. Например, из данных цифр составить число, которое делится на 3. Или определить, сколько таких чисел можно составить. Это уже уровень посложнее. А еще, возможно, задача с текстовым условием. Например, в классе учеников, количество делится на 3, и т.д. Но это может быть слишком просто. Может, задача на логику с использованием делимости на 3. Например, доказать, что какое-то выражение всегда делится на 3, или что определенная комбинация чисел будет делиться. Теперь распределю сложность: начну с простой проверки, потом восстановление цифры, затем комбинация с другими признаками, составление чисел из цифр, и наконец, доказательство или более сложная логическая задача. Проверю, чтобы задачи были разными. Например: 1. Простая проверка числа.; 2. Восстановление пропущенной цифры.; 3. Выбор чисел, делящихся на 3 из списка.; 4. Составление чисел из данных цифр с делением на 3.; 5. Задача с несколькими условиями (делимость на 3 и на 5) или доказательство. Теперь конкретизирую каждую задачу. 1. Уровень: легкий. Дано число, например, 246. Нужно определить, делится ли оно на 3. Сумма цифр 2+4+6=12, делится на 3. Ответ: да. 2. Средний уровень: В числе 5_7 пропущена цифра. Найти все возможные цифры, чтобы число делилось на 3. Сумма известных цифр: 5 + 7 = 12. Пропущенная цифра должна быть такой, чтобы 12 + x делилось на 3. То есть x может быть 0, 3, 6, 9. Ответ: 0,3,6,9. 3. Средний уровень: Из чисел 123, 456, 789, 101, 202 выбрать те, которые делятся на 3. Нужно посчитать суммы цифр каждого числа и проверить. 4. Выше среднего: Используя цифры 2, 4, 5, 7 составить все возможные трехзначные числа, делящиеся на 3. Нужно учесть, что сумма цифр должна делиться на 3. Перебрать комбинации. 5. Сложная: Число делится на 15, если оно делится на 3 и на 5. Дано число 3a75b, где a и b – цифры. Найти все возможные значения a и b, чтобы число делилось на 15. Здесь нужно учесть делимость на 5 (последняя цифра 0 или 5) и на 3 (сумма цифр делится на 3). Проверю, чтобы задачи не повторялись по типу. Вроде все разные: прямая проверка, восстановление цифры, выбор из списка, комбинаторика, комбинированный признак. Уровни сложности тоже разные. Похоже, подходит. <think> </think>
42. Рассуждающие GPT Придумай 5 задач на признаки делимости на 3, так, чтобы задачи были разного вида и разного уровня сложности. 1. Простая проверка (лёгкий уровень) Дано число 918. Определите, делится ли оно на 3, не выполняя деление. Объясните ответ. 2. Восстановление пропущенной цифры (средний уровень) В числе 2_41 отсутствует одна цифра (обозначена _). Найдите все возможные значения пропущенной цифры, чтобы число делилось на 3. 3. Выбор чисел из списка (средний уровень) Из предложенных чисел выберите те, которые делятся на 3: 134, 276, 909, 1024, 555. 4. Составление чисел (выше среднего) Используя цифры 1, 3, 5, 7 (каждую не более одного раза), составьте все трёхзначные числа, делящиеся на 3. 5. Комбинированный признак (сложный уровень) Число 4A76B делится на 15. Найдите все возможные пары цифр A и B.
43. Как учат рассуждающие GPT Reasoning Fine-Tuning Reinforcement Learning on Verifiable Tasks LLM Решение Верификатор Напиши программу Программирование Доказательство теорем (в полных и разрешимых системах: геометрия)
44. Агентные технологии: мета-рассуждения Пункт 1 Задача от пользователя Reason План Выпол- нение Результат Ответ Act Observe LLM LLM+Tools Память ReAct Agent
45. Мораль 2: Рассуждающие нейросети и агенты ещё лучше могут решать задачи.
46. Психологическое влияние LLM Творческая лень LLM – мыслительный экзоскелет Перенос мотивации и легкий дофамин С внутренней (радость творчества) на внешнюю (радость результата) Кризис идентичности и синдром самозванца Кто автор произведения? Что ценного я могу привнести? Галина Пушкарь, доц. МГУ/МГИМО
47. Творческая лень: LLM делает нас глупее? Kosmyna, Nataliya, et al. "Your brain on ChatGPT: Accumulation of cognitive debt when using an AI assistant for essay writing task." arXiv preprint arXiv:2506.08872 4 (2025). LLM Поиск Мозг 3x
48. Творческая лень: LLM делает нас глупее? Kosmyna, Nataliya, et al. "Your brain on ChatGPT: Accumulation of cognitive debt when using an AI assistant for essay writing task." arXiv preprint arXiv:2506.08872 4 (2025). LLM Поиск Мозг 3x Неспособность цитировать Удовлетворённость
49. Творческая лень: LLM делает нас глупее? Kosmyna, Nataliya, et al. "Your brain on ChatGPT: Accumulation of cognitive debt when using an AI assistant for essay writing task." arXiv preprint arXiv:2506.08872 4 (2025). LLM Поиск Мозг 3x LLM Мозг
50. Перенос мотивации: эксперимент Деси Deci, E.L. (1995). Why we do what we do: The dynamics of personal autonomy. New York: G. P . Putnam’s Sons.
51. Парадокс Ващилло Это удивительно, что программистам платят так много денег! Ведь работать с кодом – это так увлекательно. Наоборот, мы сами должны платить деньги за то, что нам дают поработать с кодом… Александр Ващилло, SDE Microsoft, Redmond
52. Кризис идентичности: в чем моя ценность? У LLM ограниченный контекст, она не умеет сворачивать сложность! У LLM нет убеждений / совести У LLM нет подлинной агентности
53. Ещё важное отличие человека от LLM
54. Мораль 3: Надо осознать свою уникальность и понять, как встроиться в ткань жизни, чтобы приносить ценность вместе с нейросетями
56. Кибернетическое бессмертие FIDONet
57. Есть ли душа в творчестве человека / ИИ?
58. Валера и Наташа Черкашины
59. Обученная нейросеть в стиле Черкашиных
60. Валера ИИ Наташа ИИ Митя Нейросеть, конечно, не может сама создать произведение - она лишь делает заготовку, "матрицу" - в которую мы затем можем вдохнуть жизнь, "одухотворить" её, чтобы получилось законченное произведение. Но мы очень впечатлены возможностями ИИ (как мы его называем, "Иван Иваныча"), можно сказать, что он даже дал некоторый новый импульс нашему искусству. Валера Черкашин, Художник, перформансист
61. Применим научный подход! Van Hees J. et al. Human perception of art in the age of artificial intelligence //Frontiers in Psychology. – 2025. – Т. 15. – С. 1497469. How Did You Do on an AI Turing Test (2024) * Точность распознавания: ~60% * Даже ИИ-скептики предпочитали ИИ
62. А как сказываются предубеждения? Bellaiche L. et al. Humans versus AI: whether and why we prefer human- created compared to AI-created artwork //Cognitive research: principles and implications. – 2023. – Т. 8. – №. 1. – С. 42. (Springer)
63. Мораль Нейросети крутые, понимают смысл и могут дивергентно креативить лучше многих людей. Надо их уважать! Роль души сильно преувеличена. Рассуждающие нейросети и агенты ещё лучше могут решать задачи. Надо осознать свою уникальность и понять, как встроиться в ткань жизни, чтобы приносить ценность вместе с нейросетями ❶ ❷ ❸
65. http://soshnikov.com http://t.me/shwarsico http://vk.com/shwars