Большие данные - лекция-14 - итоги, вычислительная техника, ИИ, ИР, кибернетика

Итоги, из истории вычислительной техники, ИИ, кибернетики

Обновлено:
11.06.2020 - часть-1: блеск и нищета современного ИИ, экономика ИИ (кто заплатит за ваш ИИ)
https://vk.com/video?z=video53223390_456239481

15.06.2020 - часть-2: из истории кибернетики в СССР, философия ИИ — философия математики

https://vk.com/video?z=video53223390_456239482

Transcript

1. Итоги: технологии ИИ и бигдаты — текущие статусы, экономика автоматизации, из истории вычислительной техники, ИИ, кибернетики
2. Технологии
3. Успели прикоснуться в семестре • Работа с табличными данными: загрузка, преобразование, анализ (Pandas + Титаник) • Визуализация данных (Pandas и Matplotlib) • Работа с категориями, текстом, ЕЯ/NLP — естественными языками (кодирование категорий, мешок слов, tf-idf, предварительная обработка текста, выделение основы слова — стеммеры, NLTK) • Разведочный анализ, корреляция, простые предсказательные модели (регрессия, регрессионная модель — модель предсказания целевой переменной на непрерывной шкале)
4. Успели прикоснуться в семестре • Обучение без учителя, кластеризация (работа с немаркированными данными) • Нейроны, нейронные сети: - градиентный спуск, - сигмоида-активация, вероятностная модель нейрона, - обучение нейронной сети, обратное распространение ошибки, дифференцирование сложной функции, - библитеки автоматического дифференцирования, Google TensorFlow)
5. Начинали с баз данных и бигдаты • и незаметно уехали в сначала в ИИ, • а потом в глубины математики искусственного интеллекта • Ничего удивительного: бигдата и ИИ — это как Инь и Ян (правое и левое, Лёлик и Болик, Каин и Авель, Том и Джерри, Заяц и Волк) — взаимно дополняют друг друга, всегда появляются в паре, один без другого не полны
6. • Мы видели, что алгоритмы ИИ устроены таким образом, что они подбирают параметры модели на больших выборках данных, иначе их ничему путному не научишь • (в отличие от «обычных» программ, в которых от данных нужна базовая структура, остальное решает сформулированный человеком алгоритм «если — то») • Но если мы располагаем действительно большими объемами данных (которые получили возможность копить в недавнее время), то ничем, кроме компьютера, мы их не обработаем (если только вы не персонаж Брэдли Купера в фильме «Области тьмы»)
7. • Классические СУБД позволяют делать выборки на больших объемах, • Алгоритмы ИИ позволяют находить неочевидные связи и строить предсказательные модели • (исходные гипотезы при этом все равно выдвигает сам человек)
8. ИИ, машинное обучение и прочая — • маркетинговые ярлыки для формул и алгоритмов из - Линейной алгебры - Численных методов - Теории вероятностей - Школьной математики - Других разделов математики
9. смешные картинки: tproger.ru
10. Здесь должны быть: матанализ, линейная алгебра, численные методы, теория вероятностей
12. Библиотеки для обучения нейросети — обертки над системами автоматического дифференцирования • TensorFlow • PyTorch • Theano (в летаргическом сне) • ...
13. Если вы владеете математикой, то • Вы будете видеть суть вещей за «кружевами» слов продающих статей, истериками блоггеров и песнями журналистов, • Подбирать архитектуру модели и параметры обучения чуть более осмысленно • Это не отменит того факта, что представить в голове «100500»-мерную поверхность функции ошибки для сети из сотни миллиардов* нейронов не очень легко даже хорошему математику [*] сеть 160 миллиардов «нейронов» — рекорд на 2015 год
14. Самостоятельное изучение: нейросети • Распознавание образов как специфическое направление • Сверточные нейронные сети (одна сетка окошком пробегает через все изображение) • Рекуррентные нейросети (с внутренними циклами) • Генеративные сети (генеративно-состязательные сети, GAN: одна нейросеть генерирует изображения, другая определяет, является ли оно похожим на то, чему ее перед этим научили) • ...
15. Из недавнего: генеративные нейронные сети (GAN), дипфейки [уже не очень недавнего — это новости весны 2019]
16. Портрет Достоевского заговорил с помощью российской нейросети rb.ru/news/portret-dostoevskogo/ www.youtube.com/watch?v=p1b5aiTrGzY
18. Terminator 2 starring Sylvester Stallone [DeepFake] www.youtube.com/watch?v=AQvCmQFScMA
19. Samsung NEON: digital humans-avatars
20. А некоторые злоупотребляют • Например, «визуализация» мыслей человека (было как минимум 2 проекта) • На картинке: человек в «мозгошапке» (ЭЭГ), человеку показывают картинку или видео, монитор показывает эту же картинку «из мозга» человека (для аутентичности с характерными помехами) • При этом: генератор картинок иногда сбивается и начинает генерировать изображение совсем другой картинки (но тоже из списка)
22. По факту: • современные «мозгошапки» умеют распознавать 3-4 уникальных комбинации по зонам активности мозга, которые они снимают. • «Генератор» мыслей на этапе обучения просто ассоциирует с каждой из этих комбинаций один из роликов (всего получается 4 «мысли») • и на этапе демо, распознав комбинацию, включает один из них • (точнее, он честно пытается использовать GAN, но смысл от этого принципиально не меняется). • Итого: демонстрация работы «мозгошапки» — распознавание стандартного количества комбинаций активности мозга при взгляде на разные изображения (это давно не новость), GAN обеспечивает антураж
23. Распознавание лиц • Работает хорошо • Сервис определения схожести лиц на 2-х (и более) фото: betaface.com/demo_old.html • Сервис по изображению с веб-камеры автоматически находит профиль вконтакте (см видео) • Облачные сервисы распознавания лиц как сервис • Есть целый рынок, Amazon и IBM даже успели недавно с него уйти • Крупнейшие продавцы сервисов по распознаванию: NEC и Idemia • (я про них не слышал, вы, наверное, тоже, а они есть)
24. - Между прочим, - сказал Кеннеди, - это будет, пожалуй, скучнейшая эпоха, когда промышленность поглотит все и вся. Человек до тех пор будет изобретать машины, пока машина не пожрет человека. Я всегда представлял себе, что светопреставление будет тогда, когда какой-нибудь гигантский котел, нагретый до трех миллиардов атмосфер, взорвет наш земной шар. - Прибавлю, - сказал Джо, - что в работе над машиной не последнюю роль сыграют американцы. Жюль Верн, «Пять недель на воздушном шаре», 1863
25. Диалектика страшилок • Технологии ИИ становятся привычной частью технологического ландшафта (как интернет) • Далеко не все надежды оправдываются • Но жизнь уже поменялась • Восстания машин на горизонте не видно • Повышения производительности труда вплоть до замены людей на рабочих местах тоже • Тотальные цифровые лагеря: отдельные элементы появляются [этот пункт: весна 2019 год, тогда картинку обеспечивал Китай]
26. Сегодняшний всплеск ИИ • Развитие идей 60-летней давности на новой ресурсной базе • Потолок, похоже, уже близок • Но переваривание займет какое-то время (на наш век хватит) • Еще не в полной мере реализован потенциал роботов и аппаратных ИИ-платформ • Ну и рост вычислительных мощностей пока не отменили (для ИИ хорошо идёт параллелизация)
27. Например: аппаратные ИИ-чипы • Сейчас ускоряют обучение на видео-картах (в том числе облачные сервисы) • На конечных устройствах обычные процессоры (но на них и не нужно тащить датасет для обучения, достаточно запустить сетку с вычисленными коэффициентами) • Но производительность может потребоваться, если нужно пропускать через сетку поток • Матричные операции хорошо распараллеливаются и ускоряются • В нейронной сети матрицы — тысячи (и тысячи) элементов • Специализированный чип может дать серьезную производительность (например, на распознавании образов в видео-потоке) • Здесь рост производительности, действительно, может пустить технологии туда, где иначе им делать нечего: например, скорость распознавания объектов и время принятия решения (в том числе в аварийной ситуации) на дороге
28. «Нейронные процессоры» они же: тензорные процессоры ru.wikipedia.org/wiki/Нейронный_процессор • Google TPU (Tensor processing unit) • Чипы Nvidia для автопилотов • Ведут разработки: Вейв Компьютинг (бывшая MIPS Technolgies), • В России: НТЦ «Модуль», IVA TPU, ... • и так далее • Вам поиграться: Верилог + ПЛИС
29. • Классические приложения не очень хорошо использовали параллелизм • Матричные процессоры — хороший способ по максимуму использовать весь потенциал плоского чипа • Алгоритмы ИИ — расцвет параллелизма • Один из вариантов революции: технологии производства чипов «в 3-Д» (если кто-то их все-таки доведет до ума)
30. Преодолимые сложности (дело техники)
31. «AI researchers allege that machine learning is alchemy» www.sciencemag.org/news/2018/05/ai-researchers- allege-machine-learning-alchemy • «Исследователи ИИ заявили, что машинное обучение — это алхимия» • «Researchers, he said, do not know why some algorithms work and others don't, nor do they have rigorous criteria for choosing one AI architecture over another»
34. Потолок даёт о себе знать
35. IBM Watson Analytics www.ibm.com/ru-ru/marketplace/watson-analytics ru.wikipedia.org/wiki/IBM_Watson • IBM Watson — суперкомпьютер фирмы IBM, оснащённый вопросно- ответной системой искусственного интеллекта, созданный группой исследователей под руководством Дэвида Феруччи. • Основная задача Уотсона — понимать вопросы, сформулированные на естественном языке, и находить на них ответы в базе данных. • В 2011 году одержал победу в игре «Jeopardy» (российская локализация: «Своя игра»)
36. Watson Health zdrav.expert/index.php/Продукт:IBM_Watson_Health • В 2014 году IBM образовала подразделение IBM Watson Group, созданное для коммерциализации технологий когнитивных вычислений Watson. • Приоритет — здравоохранение, в первую очередь направление онкологии. • В августе 2018 года появилась информация о том, что суперкомпьютер IBM Watson не оправдал возложенных на него ожиданий. • Компания активно продвигала его как инструмент поддержки принятия врачебных решений, помогающий онкологам в выборе оптимального режима терапии, однако последние данные показывают, что платформа не справилась с задачей. • После появления информации в СМИ десятки клиентов вышли из онкологических проектов, развиваемых совместно с IBM Watson Health.
37. Watson Health zdrav.expert/index.php/Продукт:IBM_Watson_Health • IBM Watson часто давал ошибочные рекомендации по выбору терапии, а специалисты и клиенты компании выявили «несколько примеров небезопасного и неправильного лечения», рекомендованного компьютером. • Отчасти ошибки суперкомпьютера обусловлены методикой его обучения. • Обучением IBM Watson с 2012 года занимались инженеры и онкологи из Memorial Sloan Kettering Cancer Center Нью-Йорка, причем использовали для этого не реальные клинические данные пациентов, а искусственно разработанные случаи злокачественных состояний.
38. • Фундаментальная проблема или некомпетентное управление проектом? • Специалисты ИИ IBM решили обучить сетку на синтетических данных, серьезно? • Поможет ли рост вычислительных мощностей? • Посмотрим • Но не похоже, что они жалуются на то, что им не хватает вычислительных ресурсов или некуда загружать данные.
39. «Механические турки» XXI века
40. The Humans Hiding Behind the Chatbots (2016) www.bloomberg.com/news/articles/2016-04-18/the-humans-hiding-behind-the- chatbots via: t.me/brodetsky/ • О компаниях, которые предлагают услуги "умного помощника". • Чатботы-помощники - настолько горячая тема сейчас, что компании спешат попасть в эту нишу, даже не располагая совершенными технологиями NLP — • в многих из них запросы клиентов обрабатывают живые люди. • То есть когда клиент пишет "роботу" Эми с просьбой заказать пиццу или назначить встречу на понедельник, вместо робота это делает обычный работник, обрабатывающий одновременно 5-10 таких запросов. • В одной из компаний их называют "Героями". • В других компаниях сотрудники только курируют работу чатбота, просматривая генерируемые им ответы - их называют "тренерами".
41. AI Company Accused of Using Humans to Fake Its AI (2018) www.sixthtone.com/news/1002956/ai-company-accused-of-using- humans-to-fake-its-ai- via: t.me/brodetsky/ • iFlytek — китайская компания, специализирующаяся на технология распознавания голоса • Представила на технологическом форуме продукт, который, по её заявлению, будет распознавать (транскрибировать) и переводить речь спикеров с английского на китайский в реальном времени • Расшифровка выступления (английский) и перевод (китайский) отображались на больших экранах на сцене за спиной докладчика в реальном времени
42. AI Company Accused of Using Humans to Fake Its AI (2018) • Одна проблема: синхронный переводчик в зале заметил, что текст «перевода» на экране один в один совпадает с тем переводом, который делал он и его коллега • Судя по всему, они диктовали перевод для гостей форума в микрофон и инструмент iFlytek транскрибировал его в реальном времени (эта часть у них работала честно), выдавая его за свой автоматический перевод • Переводчик возмутился ситуацией и рассказал про нее в интернете • После этого iFlytek подтвердила, что хорошей технологии перевода в реальном времени у нее нет
44. Индийские программисты вместо ИИ www.wsj.com/articles/ai-startup-boom-raises-questions-of-exaggerated-tech-savvy-11565775004 www.theverge.com/2019/8/14/20805676/engineer-ai-artificial-intelligence-startup-app-development- outsourcing-humans на русском: rb.ru/story/techno-fraud/ • Например, Engineer.ai привлекла немало инвестиций после заявления CEO компании о том, что искусственный интеллект можно использовать для разработки мобильных приложений. Руководитель Engineer.ai заверил пользователей и инвесторов, что ИИ компании готов на 80%, а несколько инженеров временно закрывают остальные 20% задач до момента полной готовности системы. Расследование The Wall Street Journal доказало, что 100% проектов Engineer.ai были выполнены индийскими инженерами. В лучшем случае у компании были смутные планы задействовать ИИ в далеком будущем. • Подняли денег на хайпе, а сделать не получается технически • Но мечта заменить программистов на ИИ не покидает умы тех, кто их нанимает или заказывает работу на контракте
45. Принцип «Fake it till you make it» — • не новость • приведенные проекты для текущей технологической базы не выглядят фантастикой • Но: «fake it» есть, а вот будет ли «make it»?
46. Amazon Mechanical Turk www.mturk.com en.wikipedia.org/wiki/Amazon_Mechanical_Turk • Слоган на сайте: Access a global, on-demand, 24x7 workforce • Inside Amazon's clickworker platform: How half a million people are being paid pennies to train AI www.techrepublic.com/article/inside-amazons-clickworker-platform-how-half-a- million-people-are-training-ai-for-pennies-per-task/ • Краудсорсинг от Amazon: как полмиллиона людей получают копейки за тренировку ИИ habr.com/ru/post/400355/ • Примеры задач: категоризация данных, проставление метатэгов, распознавание символов, ввод данных, сбор емейлов, смысловой анализ, размещение рекламы в видео
47. Amazon Mechanical Turk картинка с сайта www.mturk.com
48. Яндекс.Толока • toloka.yandex.ru • Клон Amazon Mturk • Толока даёт возможность зарабатывать в интернете, выполняя простые задания, с которыми не справляются компьютеры. В основном требуется анализировать и оценивать различный контент. Например, нужно проверять соответствие сайтов поисковым запросам, сравнивать картинки и определять категории товаров
49. «human computation system» • Turkopticon: interrupting worker invisibility in amazon mechanical turk dl.acm.org/doi/10.1145/2470654.2470742 Lilly C. Irani, M. Six Silberman • Исследование того, как «невидимость» человека влияет на технологии «человеческих вычислений»: We argue that human computation currently relies on worker invisibility • «Человеческие вычисления» — о как, характерный термин для эпохи ИИ • В противовес «краудсорсингу», который пока еще ассоциируется с чем-то добровольным и хорошим
50. Источники • Серия статей в журнале The Verge («Обочина») Отдельные публикации • Bloomberg • The Wall Street Journal • Vice • The Intercept • и т.п.
51. Модераторы Facebook • The Trauma Floor. The secret lives of Facebook moderators in America www.theverge.com/2019/2/25/18229714/cognizant-facebook-content-moderator-interviews-trauma- working-conditions-arizona на русском: У модераторов фейсбука из Аризоны нервная работа и маленькая зарплата. Они снимают стресс c помощью секса, наркотиков и шуток о самоубийстве meduza.io/feature/2019/02/26/u-moderatorov-feysbuka-iz-arizony-nervnaya-rabota-i-malenkaya- zarplata-oni-snimayut-stress-c-pomoschyu-seksa-narkotikov-i-shutok-o-samoubiystve • Bodies in Seats. At Facebook’s worst-performing content moderation site in North America, one contractor has died, and others say they fear for their lives www.theverge.com/2019/6/19/18681845/facebook-moderator-interviews-video-trauma-ptsd-cognizant- tampa на русском: «Один из модератор Facebook умер на рабочем месте» — The Verge о работе модераторов FB cpa.rip/news/the-verge-facebook/ • Facebook Is Forcing Its Moderators to Log Every Second of Their Days — Even in the Bathroom www.vice.com/en_us/article/z3beea/facebook-moderators-lawsuit-ptsd-trauma-tracking-bathroom- breaks
52. Модераторы Facebook • К концу 2018 года модерацией противоправного контента для Facebook занимались 15 тысяч человек. • Некоторые из модераторов — штатные сотрудники корпорации, • но большинство работает в компаниях — подрядчиках Facebook из США и других стран. • Модераторы просматривают видео, загружаемые пользователями, и принимают решение нарушают они правила платформы или нет. • Например: видео реальных убийств, жестокость, детская порнография, пытки, насилие над людьми и животными, смерть
53. Модераторы Facebook • Модератор в Cognizant (один из подрядчиков) получает около 29 тысяч долларов в год (в Фейсбуке медианная зарплата — 240 тысяч долларов в год) • Регламентированы походы в туалет • Штрафы и увольнения за неправильную модерацию • За неделю модератор оценивает около 1500 постов. • На принятие решения, стоит ли удалить пост, он тратит в среднем 30 секунд.
54. модератор в Фейсбуке: Шон Спигл (Shawn Speagle)
55. Модераторы Facebook • Facebook рассказал о работе модераторов в отделе по борьбе с порноместью habr.com/ru/post/408107/ about.fb.com/news/h/non-consensual-intimate-image-pilot-the-facts/ • В отделе по борьбе с «порноместью» работают живые модераторы • Фейсбук предложил людям, опасающимся мести такого рода, сервис для загрузки фотографий, чтобы превентивно предотвратить их распространение через соцсеть
56. Модераторы YouTube • The Terror Queue. These moderators help keep Google and YouTube free of violent extremism — and now some of them have PTSD www.theverge.com/2019/12/16/21021005/google-youtube-moderators- ptsd-accenture-violent-disturbing-content-interviews-video на русском (короткий анонс): модераторы YouTube подписывают уведомления о том, что работа может нанести им психологическую травму rb.ru/news/scary-youtube/
57. Модераторы YouTube • «VE queue» (violent extremism) — жестокий экстримизм • «Every day you watch someone beheading someone, or someone shooting his girlfriend» • Депрессия, стресс, пост-травматический синдром • Последствия для здоровья: нарушение режима питания, потеря веса, выпадение волос, вплоть до госпитализации • Кто не выдерживает, может уйти в неоплачиваемый отпуск на несколько месяцев
58. Модераторы YouTube • Многие сотрудники (для подразделений в США) — иммигранты, которые надеются получить гражданство США • Зарплата: $18.50 в час, примерно $37,000 в год (подразделение в Остине, Техас) • Контракторы по всему миру (например, в Индии)
59. Сервисы Amazon: Алекса • [пейволл] Amazon Workers Are Listening to What You Tell Alexa www.bloomberg.com/news/articles/2019-04-10/is-anyone-listening-to-you-on- alexa-a-global-team-reviews-audio выжимка: Amazon’s Alexa isn’t just AI — thousands of humans are listening www.theverge.com/2019/4/10/18305378/amazon-alexa-ai-voice-assistant- annotation-listen-private-recordings на русском: Bloomberg рассказал, что сотрудники Amazon слушают записи с Alexa — так делают все разработчики голосовых помощников vc.ru/services/64252-bloomberg-rasskazal-chto-sotrudniki-amazon-slushayut- zapisi-s-alexa-tak-delayut-vse-razrabotchiki-golosovyh-pomoshchnikov
60. Сервисы Amazon: Алекса • «Умная» колонка — голосовой помощник, принимает от пользователя голосовые команды • Разметка данных: обучение с учителем и обучение с частичным привлечением учителя • Обращения к колонке (по крайней мере, некоторую их часть) слушают живые люди • Они стенаграфируют (расшифровывают) и размечают запросы, после этого направляют данные на вход программной платформе
61. Сервисы Amazon: Алекса • Bloomberg говорит, что прямых доказательств того, что записываются не только прямые обращения к колонке, а запись ведется постоянно, нет, но есть ошибочные срабатывания • При этом упоминает, как работники делятся по их мнению смешными записями, как «кто-то поёт в душе» • История разговоров хранится на серверах месяцами или годами • Штатные работники и тысячи контракторов по всему миру (в Индии, Румынии, Коста-Рике и т.п.)
62. Сервисы Amazon: Ring Video Doorbell • For Owners of Amazon’s Ring Security Cameras, Strangers May Have Been Watching Too theintercept.com/2019/01/10/amazon-ring-security-camera/ на русском: Сотрудники украинского офиса Amazon Ring имели неограниченный доступ к видео с камер умных дверных звонков Ring Video Doorbell itc.ua/news/sotrudniki-ukrainskogo-ofisa-amazon-ring-imeli- neogranichennyiy-dostup-k-video-s-kamer-umnyih-dvernyih- zvonkov-ring-video-doorbell/
63. Сервисы Amazon: Ring Video Doorbell • «Умная» камера уведомляет пользователя о том, что кто-то звонит в дверь или рядом с дверью что-то происходит • Программное обеспечение в автоматическом режиме работало не слишком хорошо: пользователи жаловались на постоянные ложные срабатывания • Часть функция программного обеспечения: распознавание лиц, людей, животных, объектов и т.п. переложили на людей • Они должны «помогать улучшать алгоритмы машинного обучения», • Но необходимость в помощи «операторов данных» («специалистов по данным») не исчезает спустя годы.
64. Сервисы Amazon: Ring Video Doorbell • Сначала работу выполняли инженеры в США, потом работу передали на контакт на Украину • Сотрудники украинской компании получили неограниченный доступ к сетевому хранилищу видеофайлов — записей со всех камер Ring по всему миру • Другой источник сообщил, что операторы просматривают видео не только с уличных камер, но и с камер, установленных внутри жилья • В частности, сотрудники делятся роликами и обсуждают, как люди целуются, стреляют из оружия, воруют.
66. Kiwibots: роботы-курьеры • Kiwibots win fans at UC Berkeley as they deliver fast food at slow speeds www.sfchronicle.com/business/article/Kiwibots-win-fans-at-UC- Berkeley-as-they-deliver-13895867.php • Четырехколесные роботы-курьеры • Милый («кавайный») вид • Доставляют еду на невысоких скоростях в районе Калифорнийского Университета в Беркли • Расширяются на другие университеты, включая Стэнфорд
68. Kiwibots: роботы-курьеры • Роботами управляют живые операторы из Колумбии в реальном времени • Оператор каждые 5-10 секунд выставляет точки маршрута на карте, робот следует по кратчайшему маршруту между двумя точками • Один человек управляет 3-мя роботами, может осуществить 15 доставок в час, средний маршрут — 200 метров • Оператор в Колумбии получает менее 2$ в час («the labor savings are huge») • Автономный режим не предусмотрен, • по сообщению в статье, это позволяет сэкономить на оборудовании (на роботе отсутствуют лидары) • От себя добавлю: не говоря о необходимости разработать программное обеспечение должного качества
70. Robot butlers operated by remote workers are coming to do your chores www.theverge.com/2019/5/9/18538020/home- robot-butler-telepresence-ugo-mira-robotics • Japanese startup Mira Robotics will charge $225 a month for a remotely operated robot helper
72. Заметим тенденцию: не обманывать про ИИ, «который появится когда-нибудь», а сразу закладывать управление живыми людьми
73. и так далее...
74. ожидания
76. Из свежего (новости с прошлой недели 1-7 июня 2020)
77. Неудачи Эппл в попытках автоматизировать сборочный процесс www.theinformation.com/articles/what-apple-learned-from-automation-humans-are-better via: https://t.me/blognot/1230 на русском: www.cnews.ru/news/top/2020-06-05_apple_s_treskom_provalila_popytki • Пробовали 6 лет • При неудачах на сложных задачах (сборка айфонов) пробовали более простые варианты (сборка макбуков) • Честно признались, что люди надежнее и лучше • Слишком много технических проблем • Плюс роботы дороже (и окупают себя плохо — с учетом технических проблем) • Технологии просто не справились (оказались не достаточно хороши)
78. • Средний цикл жизни технологического стартапа — 5 лет (может варьироваться) • На ранних этапах засеивают деньгами «ковровым методом» • Но к успеху приходят не только лишь все • Вот и посмотрим, что здесь после хайпа останется
79. Экономика
80. Производительность труда • в современном обществе такова, что малое количество людей могут производить такое количество продуктов потребления (питание, одежду, жилье и т. п.), которого достаточно для удовлетворения нужд большого количества людей — своих нужд и нужд всех остальных членов общества (в пределе — всего человечества) • Эти продукты достаточно дешевы и доступны для масс (т.к. в единице продукта заложено небольшое количество труда)
81. Производительность труда • Вы сейчас имеете возможность слушать эту лекцию, а я сейчас имею возможность эту лекцию для вас читать, а не идти с копьем на охоту в лес, чтобы вечером что-то поесть, благодаря тому, что современный уровень производительности труда позволяет людям, занятым в производстве, в огромных количествах производить продукты и доставлять их мне в соседний двор в супермаркет • Компьютеры, информационные технологии (ИТ), в том числе интернет, роботы и ИИ играют далеко не последнюю роль в достижении такого уровня технического прогресса
82. • Всё, что касается классической механизации и «простого» ИТ, справедливо и для роботов и других технологий на базе ИИ • ИИ просто расширяет круг задач, которые можно автоматизировать
83. Труд людей, направленный на производство, доставку, распределение продуктов потребления, производство средств производства: • еда, одежда, техника, гаджеты, жильё, транспортировка, ритейл (супермаркеты), доставка и т. п. • станки, роботы, производственные площади, торговые площади и т.п.
84. Роботизация: заменяем машинами физический труд • Повысили производительность труда: - такое же количество людей делает большее количество продуктов - меньшее количество людей делает такое же количество продуктов • Единица продукции содержит меньше труда: - продаете по рыночной цене — получаете больше прибыль - продаете ниже рыночной цены — захватываете рынок
85. Роботизация: заменяем машинами физический труд • Покупаете оборудование, чтобы работать с той же производительностью труда, что и конкуренты (иначе не сможете продавать по средней цене) • Массовое автоматизированное производство — удешевление и обеспечение доступности продукта широкому кругу людей
86. Например: сельское хозяйство • Автономная и полуавтономная сельхозтехника • Автоматические оранжереи и фермы • Вертикальные фермы • Точное земледелие • Биотех (ГМО — генная инженерия) • и т. п. • Место есть роботам и «внутрикомпьютерному» ИИ
87. Например: сельское хозяйство • Сельское хозяйство — отдельная отрасль промышленности • Наука, технологии, • промышленный масштаб производства • Ручной труд — как и в промышленности — там, где выгодно применять дешевую рабочую силу
88. directdairy.farm: «15 минут от коровы до упаковки»
96. Гастарбайтеры спецрейсами: Европа нашла способ спасти урожай от коронавируса www.mk.ru/economics/2020/04/26/gastarbaytery-specreysami-evropa- nashla-sposob-spasti-urozhay-ot-koronavirusa.html • Британия и Германия вынуждены завозить восточноевропейских сезонных работников • Ежегодно в Германии работает примерно 300 тысяч сезонных работников, помогающих сельскому хозяйству • Вдобавок к гастарбайтерам немецкое правительство призывает нанять еще 20 тысяч человек из числа безработных, студентов, лиц, ищущих убежища, и уволенных работников. • По оценкам Берлина, в ближайшие месяцы фермерам понадобится не менее 100 тысяч человек для работы на полях.
97. Непроизводственные издержки производственных предприятий • (касается любых организаций, не только производственных) • Любая организация требует труд некоторого количество людей, которые не заняты непосредственно в процессе производства (для непроизводственных организаций — не осуществляют непосредственно основной вид деятельности), но которые обеспечивают процесс ее нормального функционирования • Например: руководство, управленцы среднего и низового уровня, отдел кадров, отдел закупок, отдел продаж, оперативный учет, бухгалтерия, юридический отдел, ИТ-отдел с админами и программистами и т. п.
98. Непроизводственные издержки производственных предприятий • Их труд не генерирует непосредственно прибыль (не увеличивает количество производимого продукта), а генерирует убытки (т. е. издержки), НО • Без их труда организация не сможет нормально функционировать • (например, без отдела продаж в современных условиях не пойдет сбыт, т. е. не появится денежный поток от уже произведенной продукции)
99. Автоматизация здесь: • сокращение непроизводственных издержек за счет повышения производительности труда непроизводительных работников • ИТ-инфраструктура (персональные компьютеры, сеть, ПО и т.п.) • Системы ERP: оперативный учет, бухгалтерия, документооборот, CRM, управление проектами и т.п. • ИИ+Бигдата (для крупных игроков): повышение эффективности рекламных кампаний, удержание пользователей, исследование поведения покупателей и т.п.
100. Автоматизация здесь: • Без систем автоматизации: издержки слишком велики - сравните процесс ведения бухгалтерии и сдачи отчетности на среднем предприятии на бумаге или в специализированном ПО - не закупили оборудование или лицензии на ПО — не сможете держать издержки на среднем уровне по отрасли • Внедрение новых систем автоматизации — еще большая экономия: - старое количество людей будет выполнять ту же работу за меньший срок (можно нагрузить их чем-то еще) - меньшее количество людей будут выполнять старую работу за то же время (можно не расширять отдел или сократить тот, что уже есть)
101. Простенький ИИ для распознавания документов • и автоматического заполнения форм • (например: в интернет-банке ввод реквизитов выставленных счетов, которые могут приходить в плюс-минус свободной форме) • Эффект автоматизации: прямая экономия времени на ввод документа (их может быть поток), • т. е. повышение производительности труда работника, не занятого непосредственно в производстве
102. ИИ+Бигдата (для крупных игроков) • Повышение эффективности рекламных кампаний, • Удержание пользователей, • Исследование поведения покупателей • и т.п.
103. Сбербанк ИИ vs юристы • Январь 2017: Сбербанк передаст работу 3 тыс. сотрудников роботам-юристам www.rbc.ru/rbcfreenews/5877b2979a79478752358fb9 • 10 ноября 2018: Внедрение ИИ в Сбербанке привело к сокращению 70% менеджеров среднего звена 1prime.ru/telecommunications_and_technologies/20181110/8294 24797.html • 26 февраля 2019: Греф признал потерю миллиардов рублей из-за искусственного интеллекта www.rbc.ru/finances/26/02/2019/5c74f4839a7947501397823f
104. Услуги — труд людей, направленный непосредственно на других людей: • Медицина, образование, детские садики, парикмахерские, маникюр, театр, кино, опера, парки развлечений, спортивные залы, кинотеатры, концерты и т.п.
105. Автоматизация здесь • Плюс-минус тоже самое, что производство, • только производительность труда можно измерять не в единицах продукции в единицу времени, • а в количестве людей, в единицу времени получивших услугу
106. Медицина: техника • Роботы-хиругри, томографы, другое оборудование: - если не повышение производительности труда, то появление возможности делать то, что нельзя было делать раньше без специального оборудования (лечить то, что раньше не лечили — улучшить качество обслуживания), - с другой стороны: повышение точности диагноза и сокращение времени на обследование — прямое повышение производительности труда
107. Медицина: фарма • Хорошее лекарство может снять нагрузку с доктора так, как не снимет ни один медицинский прибор • ПО (в т.ч. ИИ) в научных исследованиях: - математическое моделирование - всякие нетривиальные алгоритмы с ИИ для «сворачивания- разворачивания» молекул белков и такого прочего, - статистические методы (с ИИ и бигдатой)
108. Медицина: ИИ + диагностика • Использование ИИ для диагностики и назначения лечения по симптомам, анализам и картинкам, например, с рентгена или томографа • Попытка повысить производительность терапевта (или вообще заменить терапевта) напрямую — обслуживать на потоке большее количество человек • ИИ IBM Watson не справился, пока работаем по-старому • Ранняя диагностика: предотвращение инфарктов и инсультов — увеличение продолжительности жизни
109. Медицина: макроэффекты • Больные люди не заняты в производстве и экономике • Увеличение продолжительности жизни — рабочая сила остаётся в строю • (актуально у нас с увеличением пенсионного возраста) • Для нормального функционирования общества при данном уровне развития и производительности труда в медицинском секторе на N человек нужно M врачей.
110. Цифровой контент, перераспределение стоимости
111. Игры, развлечения, видео, аудио-контент • Заплатили художникам за красивую картинку • Заплатили программистам • Выложили продукт на маркетплейс • Заплати за рекламу • Оставили комиссию маркетплейсу • Вышли в 0
112. Игры, развлечения, видео, аудио-контент • Обучили нейросетку делать то, что пока еще никто не умеет • (например, накладывать в реальном времени маску на лицо в потоке видео с камеры) • Сделали мобильное приложение • Набрали миллион пользователей • Продались Фейсбук • (Хорошо, если окупили расходы на разработку, инфраструктуру и покупку миллиона пользователей через рекламу) • (детали сделки всё равно не разглашаются)
113. Так называемые «интернет-сервисы»: Гугл, Фейсбук, Твиттер и т.п • Интернет-компании используют ИИ для развлечения и обслуживания пользователей • Но пользователи за это ничего не платят • Кто заплатит за такой ИИ? • Выручка Facebook в 2019 году $70.697 млрд., • из них на рекламе — $69.655 млрд. • Чистый доход: $18,485 млрд. • Итого: за ваш ИИ заплатят рекламодатели • Работа т.н. сервиса — агрегированные непроизводственные издержки на рекламу
114. Прямое перераспределение стоимости с ИИ • Камеры дорожного наблюдения: - распознавание знака авто (ИИ), - автоматические штрафы (интернет, ИТ-инфраструктура) (заодно экономия на инспекторах на улице — повышение производительности труда в некотором роде) • Сюда же приложения для контроля соблюдения «самоизоляции» (сразу обошлось без инспекторов)
115. Выгодоприобретатели эффектов роботизации и ИИ-зации (в целом — автоматизации)
116. • Допустим, мы внедрили робота на производстве, • Робот в 2 раза сократил время выпуска единицы продукта • Для ровного счета: стоимость сырья тоже понизилась в два раза • Остальные расходы остались неизменными • (стоимость робота, стоимость внедрения робота и т.п. в расчет не берем) • Что дальше?
117. • Если производство находится в общественной собственности: - можно увеличить производство продукта в 2 раза - при этом понизив в 2 раза его цену - продукт станет доступнее и по цене и по количеству Максимальная выгода (без полутонов):
118. • Если производство находится в собственности коллектива рабочих (например, кооператив): - можно увеличить производство продукта в 2 раза с сохранением цены (увеличить личный доход в 2 раза) - можно оставить производство на прежнем уровне с сохранением цены, сократить рабочий день (доход оставить на прежнем уровне, в свободное время делать что-то полезное) Максимальная выгода (без полутонов):
119. • Если производство находится в частной собственности (наёмный коллектив рабочих): - можно увеличить производство продукта в 2 раза с сохранением зарплаты рабочих и цены (увеличить доход владельцев) - можно оставить производство на прежнем уровне, уволить половину коллектива (увеличить доход владельцев) - можно увеличить производство продукта в 2 раза с сохранением зарплаты рабочих и понижением цены (захватить рынок — косвенная выгода) Максимальная выгода (без полутонов):
120. Другие последствия
121. • Сокращение непроизводительных издержек — «обычный» ИТ • Роботы + ИИ заменяют физический труд человека • Компьютеры + ИИ заменяют труд интеллектуальный • Планирование: бигдата + ИИ • Предсказательные модели: бигдата + ИИ • Что еще? Итак:
122. Условия труда на производствах с высокой степенью автоматизации • Высокая степень автоматизации • => низкая квалификация (тех, кто остался) • => низкая зарплата • => так себе условия труда • Мы уже видели, как трудятся «чернорабочие» интеллектуального сегмента • Посмотрим, как обстоят дела у «немногих оставшихся» (которых тоже скоро «вот-вот заменят роботы») работников реального сектора на предприятиях с «высокой степенью автоматизации»
123. Роботизированные склады Амазона по состоянию на 2018: в Amazon работало более 560 тысяч человек
127. • Можете себе представить, сколько человеческого труда потребовалось бы, чтобы переместить такое же количество товаров, сколько перевозят эти роботизированные тележки • Особенно заметный эффект может быть в том случае, если вы не сразу построили такой склад, а провели автоматизацию на складе с живыми людьми, аналогичном по размеру • Но высокая степень автоматизации все равно оставляет необходимость в человеческом труде • Как минимум для того, чтобы следить за роботами • Но не только
128. Склады Амазона • P*SS THE PARCEL Rushed Amazon warehouse staff pee into bottles as they’re afraid of ‘time-wasting’ www.thesun.co.uk/news/6055021/rushed-amazon-warehouse-staff-time-wasting/ • Британские работники Amazon не ходят в туалет на работе из-за угрозы увольнения на русском: rb.ru/story/amazon-bottles-stories/ • Timed toilet breaks, impossible targets and workers falling asleep on feet: Brutal life working in Amazon warehouse www.mirror.co.uk/news/uk-news/timed-toilet-breaks-impossible-targets-11587888 на русском: Суровая жизнь работников Amazon beskomm.livejournal.com/57451.html
129. Роботизированные надсмотрщики • How Amazon automatically tracks and fires warehouse workers for ‘productivity’ www.theverge.com/2019/4/25/18516004/amazon-warehouse-fulfillment-centers- productivity-firing-terminations на русском: The Verge: Автоматическая слежка на складах Amazon ежегодно увольняет тысячи сотрудников rb.ru/story/slezhka-amazon/ • How hard will the robots make us work? www.theverge.com/2020/2/27/21155254/automation-robots-unemployment-jobs- vs-human-google-amazon на русском: Почему ИИ не заменит людей на тяжёлой работе, а будет руководить ими — и сделает труд ещё более изнурительным vc.ru/future/110890-pochemu-ii-ne-zamenit-lyudey-na-tyazheloy-rabote-a-budet- rukovodit-imi-i-sdelaet-trud-eshche-bolee-iznuritelnym
130. У ИИ хорошо получается хорошо присматривать за живыми работниками • Выкая скорость работы роботизированного «конвейера» требует высокой скорости и высокой степени вовлеченности в процесс «человеческой составляющей» • Это не новости, это так выглядит со времен становления машинного производства, превращения людей в «придатки машин», • ИИ как таковой, в целом, здесь не при чем • Но доводит процесс до пределов совершенства • У ИТ-шных фрилансеров, кстати, история местами не сильно лучше (отслеживание продуктивити, тайм-трекеры с видеокамерами над монитором и т.п.)
131. Немного истории кибернетики и вычислительной техники в СССР
132. «Техника — молодежи», 1952 г.
133. Норберт Винер (1894—1964) • «Кибернетика, или управление и связь в животном и машине», 1948; 2-е издание с исправлениями и дополнениями 1964 • Если не основатель, то «крёстный папа» кибернетики как отдельной науки • Кибернетика — наука об управлении (передача информации, теория автоматизации, системы с обратной связью, «черные ящики», «внутренне целенаправленные» механизмы — сервомеханизмы и т.п.) • Математик, занимался нейрофизиологией, делал эксперименты на кошках • По моему впечатлению: в книге изложены скорее общие соображения, чем конкретные решения (сложно судить, насколько они были на тот момент оригинальны, не погрузившись в предмет) • Многие его рассуждения и предположения в книге до сих пор читаются вполне современно • Антикибернетическая кампания 50-х годов в СССР напрямую связана с его книгой
134. «История информационных технологий в СССР», под редакцией Ю. В. Ревича, 2016 • В первых главах разбирает историю с «Кибернетикой» в СССР, анализирует и сопоставляет цитаты участников, приводит документы • Критически анализирует два противоположных мифа: «кибернетика в СССР была под жестоким запретом» и «никакой антикибернетической кампании в СССР вообще не было»
135. Коротко по вехам • 1948: выход книги «Кибернетика, или управление и связь в животном и машине» Норберта Винера на английском языке • 1950-1955: кампания против кибернетики как науки в СССР • 1952 год: знаменитая карикатура в «Технике — молодежи» • 1954 год: кибернетика определена как реакционная лженаука в Кратком философском словаре • Судя по всему в это время: книга доступна в «спецхранах» библиотек с ограниченным доступом • 1955-1957: смена отношения с негативного на полностью противоположное (полная «реабилитация» и расцвет направления) • 1958 год: первое издание «Кибернетики» на русском языке (не считая «самопальных» переводов в спецхранах) • 1960 год: Норберт Винер посещает СССР, даёт интервью журналу «Природа»
136. Разберемся с карикатурой
137. Военные заказы и корпорации: указывают ученым и инженерам, в каком направлении вести разработки
140. Военные роботы
141. Роботизированные камеры
142. Фигурально: программы слежки за гражданами (см. Сноуден + АНБ), зловредное ПО
143. Но теперь еще и буквально :/
144. Слежка + камеры = уличные камеры (внутри топовый ИИ) + =
145. Робопёс, кстати, тоже с камерой
146. «Живая сталь» (грубоватые развлечения)
147. Сервисные роботы (ачотакова?) (здесь предположим, что им управляет ИИ, а не живой человек)
148. Пока спишем на пропагандистские штампы (люди сами справляются)
150. «Технофобия» в массовой культуре • Теминатор, Робокоп • Блейдраннер • Матрица • Черное зеркало • … • Сплошные антиутопии, робототехнические утопии еще нужно поискать • Не вызывают негатив, а, наоборот, являются предметом культа и вдохновляют
151. Итого: • Некоторые фрагменты карикатуры передают факты известные на тот момент • Другие близко предсказали то, что (как мы сейчас знаем) произошло • По уровню «технофобии» близко не дотягивает до шедевров массовой культуры (в основном, западной), которые мы знаем и любим
152. Что же не так с картинкой? • Критика правдивая (и даже пророческая), но однобокая • Пороки общества людей изображены в виде роботов, но (с точки зрения авторов) виноваты роботы • Любую технологию можно применить для улучшения жизни (во благо) людей или для ухудшения (во вред) • Ответственность несет не механизм (технология), а применяющий его человек, • в масштабах государства — общество • Это очевидные вещи, были понятны уже тогда.
153. Что не так с картинкой? • Было бы норм, если бы она поднимала вопрос правильного использования технологий кибернетики в мирном хозяйстве, • а не являлась частью однобокой пропагандистской кампании. • Прямой вред: не распознав в направлении рациональные потенциал инструментов для автоматизации производства и государственного планирования экономики, кампания поставила под угрозу технологическую самодостаточность государства в этих областях
154. Определение в статье в философском словаре (1954) «Кибернетика – реакционная лженаука, возникшая в США после второй мировой войны в США и получившая распространение и в других странах; форма современного механицизма […] Как всякая механистическая теория, кибернетика отрицает качественное своеобразие закономерностей различных форм существования и развития материи, сводя их к механистическим закономерностям.[…] отождествляя работу головного мозга с работой счетной машины, а общественную жизнь — с системой электро- и радиокоммуникаций»
155. Норберт Винер: Мы видим, таким образом, что логика машины похожа на человеческую логику и, следуя Тьюрингу, можем использовать логику машины для освещения человеческой логики. Имеет ли машина другое, еще более яркое человеческое свойство — способность к обучению? Чтобы убедиться, что она может иметь даже и это свойство, рассмотрим два тесно связанных понятия: ассоциацию идей и условный рефлекс.
156. Разберемся с механицизмом ru.wikipedia.org/wiki/Механицизм • Материя дискретна и представляет собой совокупность неделимых и неизменяемых, абсолютно твердых частиц (атомов) • Все виды движения в природе сводятся к механическому перемещению тел и составляющих их частиц. • Яркий образ: весь мир как часовой механизм • Осовременивание: к механическим добавить электро-магнитные взаимодействия, вместо шестеренок взять транзисторы
157. Буквально: нейросеть на шестеренках?
158. Математические операции модели искусственного нейрона • Сложение • Вычитание • Умножение • Деление • Экспонента: сводится к сложению, умножению и делению • Здесь: для прямого распространения сигнала с подобранными коэффициентами; для обучения формулы производной посмотрите самостоятельно Φ(x(i) ,w)=σ(∑ j=0 m w j x j (i))=σ(s(i))= 1 1+e−s(i) , ex =1+ x 1!+ x2 2! + x3 3! +...=∑ n=0 ∞ xn n!
159. Разностная и аналитическая машины Чарльза Бэббидджа (1791-1871) • Сложение • Вычитание • Умножение • Деление
160. Арифмометр Чебышева (1821-1894) • Первая версия — 1850-е годы • Сложение • Вычитание • Множительная и делительная приставки www.tcheb.ru
161. Арифмометр «Феликс» • И другие механические и аналоговые вычислители (логарифмическая линейка) • Были распространены еще не очень давно — до появления массовых калькуляторов, потом персональных компьютеров, т. е. электронных вычислительных машин
162. Итого • При всей сложности задач, которые могут решать нейронные сети, в их фундаменте лежит простая арифметика • Известные механические вычислители умеют выполнять все операции, необходимые для реализации действующей нейронной сети
163. Итого • Устройство механического вычислителя довольно сложное — для выполнения большого количества операций сетки потребуется большое количество деталей, собрать работающий механизм будет не очень легко • Но сути дела это не меняет: технически это выполнимая задача, подтверждено практическими воплощениями ключевых узлов • В эпоху электронных вычислителей создание такого устройства не имеет практического смысла • Распознавание рукописных цифр MNIST можно реализовать на 10 линейных нейронах, даже не выстроенных в сеть
164. Итого • Сам по себе факт механистичности теории еще не может ее опровергнуть, • но подтверждает характеристику, данную в определении в словаре
165. Итого • Плюс про «отождествление»: приравнивание разума человека к «разуму» искусственному требует дополнительных пояснений: - можно «поднять» машину до уровня человека (привести к соответствию с определением человека) - а можно «опустить» человека до уровня механического устройства (отсекая «несущественное» по мнению проектировщиков, объявить «несущественным» то, что вышло за пределы возможностей проектировщиков) • Последствия будут разные • Здесь это направление пока не продолжаем (вернемся позднее)
166. Что не так со статьей? • Как и карикатура в «ТМ», это односторонняя критика • Люди всегда вдохновлялись природой, в том числе живой, в том числе человеком, как в творчестве, так и в изобретениях • Если устройство или технология вдохновлена возможностями человека или человеческого мозга, но не равна человеческому мозгу, это не значит, что технология бесполезна • Даже если ученый-первопроходец очень бы хотел, чтобы она была равна (или думает, что она равна) • Винер говорит о похожести логики компьютера на человеческую логику. Похожесть — не тождество (но, в целом, клонит в эту сторону — и если не он, то его последователи. TODO: можно поискать другие цитаты)
167. Что не так со статьей? Ретроспективно мы видим: • Приблизиться близко к человеческому мозгу (если исходить из того, что исходная задача — его повторить) кибернетическим системам не получилось даже на текущем этапе технологического подъема • Но и достаточно впечатляющие успехи были достигнуты, в том числе с многочисленными практическими полезностями (если не говорить о задаче повторить человеческий мозг, то успех безусловный, мы до сих пор не пожали все его плоды)
168. Еще заметим • Винер рассматривал электронные вычислительные машины (направление только зарождалось) как инструмент для реализации своих идей (искусственный интеллект, реализованный как алгоритм на компьютере) • Джон фон Нейман (см: фон-неймановская архитектура) в работе «Вычислительная машина и мозг» (серия лекций, писал в 1955-1956 годах, первое издание — 1958) проводил прямые аналогии между мозгом человека и вычислительной машиной как таковой
169. «Вычислительная машина и мозг», Джон фон Нейман (1903-1957) • При этом всё равно не ставил знак равенства: рассматривал как сходства, так и отличия • Но описывая архитектуру вычислительной машины, в значительной степени вдохновлялся известным устройством человеческого мозга • Транзистор ~ нейрон • Предложил рассматривать выход нейрона как цифровой сигнал (вкл./выкл), определяемый взвешенной суммой его входов • (идея была реализована в виде ПО Фрэнком Розенблаттом на деньги ВМФ США в 1958 году)
170. «Вычислительная машина и мозг», Джон фон Нейман • Привел в качестве одной из метрик сравнения количество транзисторов в компьютере и количество нейронов в мозге (по его оценке ~ 1010 или больше) • (Нейман не ставил здесь знак равенства — он брал в расчет также быстродействие, параллелизм, другие особенности архитектуры компьютера и «архитектуры» мозга, • но, возможно, ожидание волшебного момента, когда компьютер сравняется с мозгом человека сразу после того, как в нем будет задействовано столько же транзисторов, сколько нейронов в мозге, пошло от него) • Предположил, что ЦНС в качестве базовых операций использует не булеву алгебру и арифметику, а оперирует некими базовыми блоками, т. е. «ускоряет аппаратно» некие более сложные (или, наоборот, более простые «первичный язык») функции
172. Вместе с тем тем временем • 1948-1953 годы: время разработки первых советских компьютеров • Весна 1951: совместное заседание Политбюро КПСС и Совета министров СССР, обсуждался вопрос о строительстве заводов по выпуску вычислительной техники. Председательствовал И.В. Сталин, вел заседание Л.П. Берия (в т.ч. как куратор оборонных отраслей науки и промышленности). - Принято постановление 1213 от 11.05.1951, предусматривающее организацию четырех заводов по выпуску вычислительной техники • Конец 1952: ленинградский институт «Гипромашприбор» разработал проектное задание на строительство завода, • 01.04.1953 (разгар антикибернетической кампании): проект утвердило Министерство машиностроения и приборостроения • 15 октября 1958: завод запущен — через год после получения первого плана. • и т. д. — здесь отдельная история • Еще раз: «История информационных технологий в СССР», под редакцией Ю. В. Ревича, 2016
173. Итого • В СССР в начале-середине 50-х годов в идеологическом поле проходила антикибернетическая кампания, которая выражалась в основном серии «идеологически заряженных» статей и ограничению доступа к исходной книге • Карикатура в «ТМ» и статья в философском словаре среди некоторых прочих публикаций выглядят вполне взвешенно • При этом следует признать, что критика в первую очередь атаковала «верхний слой» произведения, в котором проводятся пространные параллели между мозгом человека и вычислительным устройством (есть версия, что авторы не имели достаточной компетенции, чтобы разобраться в вопросе) • Оказала ли эта кампания влияние на развитие науки из «рационального» слоя (теория управления, системы с обратной связью, теория информации и т. п.) следует отдельно и дополнительно выяснить
174. Итого • Но опираясь на документальные данные, можно уверенно сказать, что эта критика не коснулась и не повлияла на вопрос развития направления строительства вычислительных машин как таковых (заводы проектировались и строились в разгар антикибернетической кампании) • Кибернетика != вычислительная техника (в этом контексте) • При том, что гораздо более выраженные параллели именно между вычислительными машинами и человеческим мозгом проводил один из «столпов» (и «отцов-основателей») компьютеростроения Джон фон Нейман (вполне возможно, что его взгляды не были известны на тот момент идеологам в СССР, а книга с лекциями вышла позднее) • Норберт Винер посетил СССР в 1960-м году, в 1964-м году описал состояние дел с вычислительной техникой и кибернетикой (теорией автоматизации) в СССР в интервью американскому журналу следующим образом:
175. • Вопрос. Вы нашли во время Вашей последней поездки в Россию, что Советы придают большое значение вычислительной машине? Ответ. Я скажу вам, насколько большое. У них есть институт в Москве. У них есть институт в Киеве. У них есть институт в Ленинграде. У них есть институт в Ереване в Армении, в Тифлисе, в Самарканде, в Ташкенте и Новосибирске. У них могут быть и другие. • Вопрос. Используют ли они эту область науки полностью, если сравнить с нами? Ответ. Общее мнение — и оно идет от самых разных лиц — таково, что они отстают от нас в аппаратуре: не безнадежно, а немного. Они впереди нас в разработке теории автоматизации. Интервью Н. Винера, 1964 год о поездке в СССР в 1960 году
177. Кстати, о философии
178. «Всё есть число» Пифагор (по словам Аристотеля) «Книга природы написана на языке математики» Галилей
179. Вопрос о тождестве машины человеку • Не совсем праздный • Даже если оставить за скобками «идеологический фронт» • История науки и прогресса — избавление человека от труда, планомерная замена тех или иных функций человека техническими устройствами
180. Вопрос о тождестве машины человеку • Уходит на второй план, пока есть инженерная «рутина» — освоить очередной технологический потенциал научного направления • (при этом не перестаёт циркулировать в околонаучных дискуссиях и популярной культуре) • Начинает выходить на передний план, когда потенциал очередной технологии подходит к исчерпанию • И встаёт вопрос о границах применения данной технологии — что из нее еще можно выжать (в чем она еще может быть тождественна человеку), а на что рассчитывать не стоит вообще (в чем тожества не найдете) • Куда идти дальше, чтобы получить что-то новое
181. Фундамент современного ИИ заложен в середине XX века • Норберт Винер, Джон фон Нейман, Алан Тьюринг и т.п. • При том, что у нас сейчас направления счетных машин и ИИ в значительной степени обособились, • Тот же Джон фон Нейман, закладывая технологический фундамент для обоих направлений, • вдохновлялся устройством мозга человека, • по крайней мере в той мере, в которой он о нем что-то знал • (модель компьютера вдохновлена моделью мозга)
182. Фундамент современного ИИ заложен в середине XX века • Модель вычислительной машины описана языком математики • Формальность и строгость языка математики в связке инженерными технологиями позволяет получить действующие устройства, воплощающие математическую модель • В этом несомненная сила строгих математических моделей • И это же выводит следующий вопрос
183. • А все ли явления окружающего мира можно описать языком математики? • Или сильнее: есть ли математическая модель, которая строго описывает все наблюдаемые в природе явления? С другой стороны в то же время: • Движение мысли человека может следовать строгим математическим правилам. Таким образом математическая логика (а её можно воплотить в механизмах) — это так же и логика человека. • Но все ли варианты движения мысли человека можно свести к цепочке математических рассуждений?
184. • Вопросы отношения природы и математики, человеческой мысли и математики, природы и человеческой мысли уходят в века гораздо глубже середины XX века • Можно сказать, что этот вопрос практически в современном неизменном виде стоит перед людьми с тех времен, как появились философия и наука (1. в те времена еще не было моды их разделять; 2. известные нам по источникам — с античных времен) • Я сейчас не будут брать на себя груз ответственности здесь его разрешать • Но перечислю некоторые узловые точки как зацепки — течения мысли и цитаты некоторых людей, с которыми вы так или иначе столкнетесь в том случае, если захотите погрузиться в вопрос в этом направлении
185. Пифагор (но это не точно): «Всё есть число» варианты: «Всё в мире есть число», «Числа правят миром» • Формулу часто приписывают Пифагору или его последователям или ученикам • На самом деле (или судя по всему), ему (или его последователям — пифагорийцам) ее приписал Аристотель • см: Пифагор и его школа, Жмудь Л., 1990
186. Аристотель • Аристотелевская логика, • будучи формализована, легла в основу современной вычислительной техники
187. «Книга природы написана на языке математики» Галилео Галилей (1564-1642)
188. Варианты теорий «математической вселенной» Из недавнего: • Стивен Вольфрам, Вычислительная Теория Всего (2010): www.wolframphysics.org/technical-introduction/ www.ted.com/talks/stephen_wolfram_computing_a_theory_of _everything/ • еще: Математика и неосознанные требования будущего blog.rudnyi.ru/ru/2020/05/matematika-i-neosoznannye- trebovaniya.html
189. В особенности я старался показать здесь, что если бы существовали такие машины, которые имели бы органы и внешний вид обезьяны или какого-нибудь другого неразумного животного, то у нас не было бы никакого средства узнать, что они не той же природы, как и эти животные. Но если бы сделать машины, которые имели бы сходство с нашим телом и подражали бы нашим действиям, насколько это мыслимо, то у нас все же было бы два верных средства узнать, что это не настоящие люди. Во-первых, такая машина никогда не могла бы пользоваться словами или другими знаками, сочетая их так, как это делаем мы, чтобы сообщать другим свои мысли. Можно, конечно, представить себе, что машина сделана так, что произносит слова, и некоторые из них — даже в связи с телесным воздействием, вызывающим то или иное изменение в ее органах, как, например, если тронуть ее в каком-нибудь месте, и она спросит, что от нее хотят, тронуть в другом — закричит, что ей больно, и т. п. Но никак нельзя себе представить, что она расположит слова различным образом, чтобы ответить на сказанное в ее присутствии, на что, однако, способны даже самые тупые люди. Во-вторых, хотя такая машина многое могла бы сделать так же хорошо и, возможно, лучше, чем мы, в другом она непременно оказалась бы несостоятельной, и обнаружилось бы, что она действует не сознательно, а лишь благодаря расположению своих органов. Ибо в то время как разум — универсальное орудие, могущее служить при самых разных обстоятельствах, органы машины нуждаются в особом расположении для каждого отдельного действия. Отсюда немыслимо, чтобы в машине было столько различных расположений, чтобы она могла действовать во всех случаях жизни так, как нас заставляет действовать наш разум. Декарт (1596-1650) о роботах via: blog.rudnyi.ru/ru/2019/11/descartes-about-robots.html
190. Ада Лавлейс (1815 — 1852) Она [Ада Лавлейс] писала, что «аналитическая машина плетет алгебраические узоры, как жаккардовый ткацкий станок — цветы и листья». Вероятно, Ада Байрон первой предположила возможность создания искусственного интеллекта, но пришла к выводу, что аналитическая машина «не может породить нечто новое». • Цитата из предисловия к «Вычислительная машина и мозг» Джона фон Неймана • todo: найти оригинал
191. Алан Тьюринг (1912 - 1954) • Машина Тьюринга • Тест Тьюринга: - вопрос «может ли машина быть разумной» заменил на «может ли машина вести себя неотличимо от разумного существа» - в некотором роде переформулированная идея Декарта - только во времена Декарта даже мысль о такой возможности была явный абсурд • Трудился в одно время с Джоном фон Нейманом, оказывали друг на друга взаимное влияние • История со взломом «Энигмы» • В популярной культуре • Работа «Вычислительные машины и разум», 1950 г., журнал «Mind»
192. Джон фон Нейман (1903 — 1957) Также стоит отметить, что язык нервной системы вполне может соответствовать скорее сокращенному коду в указанном выше смысле, нежели полному коду. Возможно, когда мы говорим о математике, мы говорим о вторичном языке, построенном на первичном языке, который используется в центральной нервной системе. Таким образом, внешняя форма нашей математики не является абсолютно релевантной с точки зрения оценки того, что представляет собой математический или логический язык, в действительности используемый центральной нервной системой. Однако вышеперечисленные замечания о надежности, а также логической и арифметической глубине доказывают, что какова бы ни была эта система, она не может не отличаться от того, что мы сознательно и непосредственно рассматриваем как математику.
193. Курт Гёдель (1906 — 1978) • Теорема Гёделя о неполноте ru.wikipedia.org/wiki/Теорема_Гёделя_о_неполноте • две теоремы математической логики о принципиальных ограничениях формальной арифметики и всякой формальной системы: - если формальная арифметика непротиворечива, то в ней существует невыводимая и неопровержимая формула - если формальная арифметика непротиворечива, то в ней невыводима некоторая формула, содержательно утверждающая непротиворечивость этой арифметики
194. Георг Гегель (1770 — 1831) Очевидность этого несовершенного познавания, которой математика гордится и кичится перед философией, покоится лишь на бедности ее цели и несовершенстве ее материала, а потому это такая очевидность, которую философия должна отвергать. Цель математики или ее понятие есть величина. А это есть как раз несущественное, лишенное понятия отношение. Движение знания совершается поэтому на поверхности, касается не самой сути дела – сущности или понятия – и в силу этого не есть постигание в понятии.
195. Георг Гегель (1770 — 1831) • Постижение явлений в понятиях • Диалектическая логика (систематизирована в труде «Наука логики») • Включает непротиворечивую аристотелевскую логику как составной элемент • Движение мысли: разрешение противоречий
196. Позитивизм, бихевиоризм ru.wikipedia.org/wiki/Позитивизм ru.wikipedia.org/wiki/Бихевиоризм • Берем во внимание только то, что наблюдаем (то, что может проверить наблюдением другой человек) • Философский метод исследования не имеет познавательной ценности • (при этом строим суждения на основе аристотелевской логики) • Поведение животного и человека в полной мере описывается наблюдаемыми рефлексами, т. е. реакцией на стимулы внешней среды (в т.ч. подкрепленной индивидуальной историей накопленных знаний)
197. «Философский зомби» • Гипотетическое существо, которое внешне ведет себя, как человек (неотличимо от человека внешними наблюдателями — проходит «тест Тьюринга») • При этом у него отсутствует чувственный опыт (он может изображать реакцию на боль, но не испытывает боль) и опыт сознания (будет вести разговор, но он «не будет ощущать, что он живой и он человек», так, как вы «ощущаете, что вы живой и вы человек» — здесь я могу сослаться только на вас самих) • Вы знаете, что калькулятор не обладает сознанием, как человек, персональный компьютер точно не обладает сознанием, как человек, суперкомпьютер еще не обладает сознанием, как человек. А может супер- супер компьютер (проходящий тест Тьюринга) уже обладает сознанием, как человек? А что, если ему дать в управление тело и он пройдет некоторую вариацию визуального теста Тьюринга?
198. «Философский зомби» • Варианты разрешения проблемы (бихевиористами): - Не принимать внутренние ощущения в расчет (вы не можете проверить, есть ли они у другого человека, кроме как по внешним проявлениям) - Приравнять наличие внешних проявлений к наличию внутреннего опыта - Попытка создать существо, достаточно близко копирующее человека во внешних проявлениях, приведет к тому, что у существа проявится и «внутренняя сущность» человека (или подтолкнет вас к тому, что вы все-таки создадите его таким образом, что у него эта сущность внутри действительно будет)
199. В чём сила нейронных сетей? Почему с их помощью можно подступаться к решению столь разнообразных задач?
200. Универсальная теорема аппроксимации ru.wikipedia.org/wiki/Теорема_Цыбенко • Джордж Цибенко, доказал в 1989 году • Сеть прямого распространения с линейным выходным слоем и, по крайней мере, одним скрытым слоем с произвольной «сплющивающей» функции активации может аппроксимировать любую измеримую по Борелю функцию, отображающую одно конечномерное пространство в другое с любой точностью, при условии что в сети достаточно скрытых блоков • формулировка: «Глубокое обучение», Я. Гудфеллоу, И. Бенджио, А. Курвилль, 2017, стр. 174
201. Нейросети — своеобразные сплайны (строго говоря, это не сплайны, но, кстати, возможно, обобщенные сплайны и есть, todo: следует уточнить)
202. Нейросеть — универсальный генератор формы • Предметы и явления так или иначе проявляют себя вовне, значит для них можно производить некоторые измерения • Исследуемый предмет/явление представляется множеством измерений — значениях в точках (или просто точек в пространстве m+1) • Нейросеть выстраивает аппроксимирующую функцию так, чтобы она проходила по большей части через эти точки • Если аппроксимирующая функция построена достаточно хорошо, то предсказанные значения для новых точек будут достаточно близки к истинным значениям для этих же точек (если мы проведем для них реальный замер и сравним) • Таким образом, нейронная сеть в некотором роде повторяет форму (проявления) аппроксимируемого (копируемого) явления/предмета • Нейросеть — универсальный генератор формы, отличный имитатор
203. Может ли из формы явиться сущность? • Решайте сами пока • И пока вычислительные мощности растут, инженерам все равно есть чем заняться
204. Экономический критерий философского спора • Формула «раб — говорящее орудие» (по мнению рабовладельца) известна с античных времен • (сейчас ровно это определение уже без правок можно применить и к роботам) • У раба могло быть иное мнение, но мнение рабовладельца было подкреплено короткими мечами и дротиками легионеров (т. е. силой) • Еще не очень давно вполне серьезно обсуждался вопрос о наличии души у чернокожих, индейцев, диких аборигенов, язычников, женщин и т. п.
205. Экономический критерий философского спора • История показывает, что в масштабах общества вопрос о наличии души в положительную сторону решает обычно тот, по поводу чьей души этот вопрос встаёт • Метод решения — явочным порядком (т. е. силой) - («право иметь душу», как правило, не получают, но берут) - (обычно от решения этого вопроса напрямую зависит экономическое благосостояние того, кто принимает решение) • Критерий решения: из объекта экономики («орудие труда») стать субъектом экономики (полноправным членом общества, т. е. человеком) • Своеобразный тест Тьюринга, только в масштабах общества
207. В популярной культуре • «Саймон Флэгг и дьявол», рассказ, Артур Порджес и Семён Райтбурт, (хорошая экранизация: «Математик и чёрт», есть на ютюбе) • У Стругацких «Полдень XXII век»: роботы (киберы) остались в статусе ИИ, поэтому проблем с самосознанием ИР не возникло • «Из машины», 2014 (переосмыслен тест Тьюринга через прямое персональное противостояние машины и человека) • «Аниматрица. Второй рейнесанс», части I и II (есть на ютюбе) (раскрыто экономическое противостояние: ИИ, хотя и «математический», но победил)
208. В популярной культуре • «Бегущий по лезвию», 1982, 2017 (здесь любопытно, что у искусственных людей внутри не было микросхем, вместо этого какой-то биотех) • «Космические спасатели лейтенанта Марша» («Эховзвод»), 1993 (тоже биотех вместо микросхем) • «Портал» (игра) (не очень дружелюбный «математический» ИР- ИИ) • «Черное зеркало» (триумф идей «математического» ИР, технофобия уровень 80) • «Планета обезьян» (к вопросу о «праве на душу» и силе) • И т.п.
216. Бонус: некоторые цитаты из Винера
217. В некоторых странах, в том числе в США, заметна тенденция к «обожествлению» машин, к попытке приписать им такие возможности, которыми они в действительности не обладают. В этом заключается большая опасность.
218. Некоторые машины, с другой стороны, внутренне целенаправленны. Возьмем, например, торпеду, снабженную механизмом поиска цели. Для обозначения машин с внутренне целенаправленным поведением был специально выкован термин «сервомеханизм».
219. Одним из важных событий была миниатюризация — уменьшение размеров деталей. Там, где в самом начале развития вычислительной техники понадобилась бы машина величиной с Эмпайр- Стэйтс-Билдинг, теперь вы можете обойтись конструкцией, которая поместится в довольно небольшой комнате.
220. Патологические процессы относительно сходной природы известны и для вычислительных машин, механических и электрических. Зуб шестерни может соскользнуть таким образом, что сцепляющиеся с ним зубья не смогут переместить его вновь в нормальное положение, или быстродействующая электрическая вычислительная машина начнет повторять без конца один и тот же цикл операций. Эти случайности могут зависеть от какой-нибудь маловероятной мгновенной конфигурации системы и, будучи устранены, наверное, никогда не повторятся или повторятся очень нескоро. Тем не менее они на время выводят машину из строя. Как мы поступаем в таких случаях с машиной? Прежде всего, пробуем очистить ее от всей информации в расчете на то, что, когда она начнет работать с другими данными, нарушение не повторится.
221. Папа свин чинит компьютер: «может если его выключить, а потом включить снова...»
222. • Вопрос. Что именно представляет собой обучающаяся машина? Ответ. Обучающаяся машина — это такая машина, которая не просто, скажем, играет в какую-нибудь игру по твердым правилам, с неизменной стратегией, но периодически или непрерывно рассматривает результаты этой стратегии, дабы определить, нельзя ли изменить с пользой те или иные параметры, те или иные величины в стратегии. В этом суть дела. Вычислительная машина очень хороша при быстрой работе, проводимой однозначным образом над полностью представленными данными. Вычислительная машина не может сравниться с человеческим существом при обработке еще не выкристаллизовавшихся данных. Если назвать это интуицией, то я не сказал бы, что интуиция недоступна вычислительной машине, но у нее она меньше, а экономически невыгодно заставлять машину делать то, что человек делает намного лучше.
223. Лишь в большом сообществе, где Господа Действительного Положения Вещей предохраняют себя от голода своим богатством, от общественного мнения — тайной и анонимностью, от частной критики — законами против клеветы и тем, что средства связи находятся в их распоряжении, — лишь в таком сообществе беззастенчивость может достигнуть высшего уровня. Из всех этих антигомеостатических общественных факторов управление средствами связи является наиболее действенным и важным.
224. Самое лучшее, что мы можем сделать, — это позаботиться о том, чтобы широкая публика понимала общее направление и значение этой работы, и ограничиться в своей собственной деятельности такими далекими от войны и эксплуатации областями, как физиология и психология. Как упоминалось выше, есть и такие, кто надеется, что польза от лучшего понимания человека и общества, которое дает эта новая наука, сможет предупредить и перевесить наше невольное содействие концентрации власти (которая всегда — по самим условиям своего существования — сосредоточивается в руках людей, наиболее неразборчивых в средствах). Но я пишу это в 1947 г. и должен заявить, что надежда на такой исход очень слаба.
225. На сей раз мы решили взять неврологическую задачу, непосредственно затрагивающую вопросы обратной связи, и посмотреть, чего здесь можно добиться экспериментальным путем. В качестве подопытного животного мы выбрали кошку и решили изучать у нее четырехглавую мышцу — разгибатель бедра. Мы перереза́ли место прикрепления мышцы, присоединяли ее под известным напряжением к рычагу и записывали ее сокращения в изометрических и в изотонических условиях.
226. Книги на бумаге на русском • Себастьян Рашка, Python и машинное обучение • С. Николенко, А. Кадурин, Е. Архангельская, Глубокое обучение. Погружение в мир нейронных сетей • Я. Гудфеллоу, И. Бенджио, А. Курвилль, Глубокое обучение • Тарик Рашид, Создаем нейронную сеть • Джош Паттерсон, Адам Гибсон, Глубокое обучение с точки зрения практика • ...
227. Онлайн-курсы • Google: Introduction to Machine Learning developers.google.com/machine-learning/crash-course/ml-intro • Amazon: Dive into Deep Learning. An interactive deep learning book for students, engineers, and researchers. d2l.ai/ github.com/d2l-ai/d2l-en • Яндекс: Видеолекции курса «Машинное обучение» yandexdataschool.ru/edu-process/courses/machine-learning • Samsung открывает бесплатный онлайн-курс по нейросетям в задачах компьютерного зрения habr.com/ru/company/samsung/blog/454904/ stepik.org/course/50352/promo • ...
228. Онлайн-курсы • ВШЭ + Курсера: Введение в машинное обучение www.coursera.org/learn/vvedenie-mashinnoe-obuchenie • МФТИ + Курсера: Специализация Машинное обучение и анализ данных ru.coursera.org/specializations/machine-learning-data-analysis • Андрей Созыкин: Онлайн курс "Программирование глубоких нейронных сетей на Python" www.asozykin.ru/courses/nnpython • … • ru.stackoverflow.com/questions/678970/Книги-и-учебные-ресурсы- по-машинному-обучению