Риски прихода сверхинтеллекта

В этой презентации мы прошлись по нескольким гипотезам и прогнозам - что может быть, какие риски и задачи будут перед человечеством при разработке сверхсильного ИИ

Transcript

1. Риски развития глобального ИИ ALL-IN Андрей Цыган Owner.by
2. Тотальная идентификация
3. Бессрочный запрет
4. Уничтожение путем воздушной атаки
5. Знакомьтесь ЭЛИЕЗЕР ЮДКОВСКИ
6. Пригласим человека из 1800х Не спрашивайте как
7. А если из 1600х в 1800е? И так каждые 200 лет
8. Единица убийственного прогресса
9. Закон ускоряющейся отдачи прогресс ускоряет прогресс
10. Массовое помешательство ИИ ассоциируется с фильмами ИИ называют что угодно Мы используем ИИ уже давно И чаще всего с роботами, злыми, которые поработят человечество Это уже маркетинговый термин - от ИИ аквариума до вычислений орбит инопланетян Начиная от рекомендаций на Aliexpress, выдачи кредитов до "портретной" сьемки в телефоне
11. Основатель "Изи-Штандарт" и центра автоматизации "Pushka Lab" Андрей Цыган Образование CDTO Skolkovo Cambridge University Executive MBA Lean Green Belt 13+ опыта промышленное машинстроение сертификация автоматизация и цифровая трансформация blockchain-стартап Преподование Преподаватель ведущих бизнес- школ по теме автоматизации и цифровой трансформации 100+ публичных выступлений Автор более 50+ статей в области цифровизации Достижения Лучший консалтинговый проект - Gabriel al salem foundation (USA) 3 премии HR-brand Лучший цифровой проект ЕАЭС Гран-при "Бренд Года"
13. Сегодня я вас загружу: Что такое сверхинтеллект? 1 Как он может повлиять? 2 Есть ли риски в его приходе? 3 Потенциальные проблемы согласования ИИ 4 Что делает команда OpenAI 5 Существующие кейсы 6
14. Моя задача сегодня - заглянуть в послезавтра, причём с обратной стороны ЭТО ОСОБАЯ ТЕМА
15. Градации ИИ Слабый искусственный интеллект ИИ специализирующийся в одной, или нескольких смежных областях
16. Градации ИИ Слабый искусственный интеллект Сильный искусственный интеллект ИИ специализирующийся в одной, или нескольких смежных областях Универсальный ИИ - соответствует уровню интеллекта человека во всех областях
17. Градации ИИ Слабый искусственный интеллект Сильный искусственный интеллект Искусственный сверхразум ИИ специализирующийся в одной, или нескольких смежных областях Универсальный ИИ - соответствует уровню интеллекта человека во всех областях интеллект, превосходящий лучшие умы человечества во всех областях, включая научную изобретательность, здравый смысл и социальные навыки
18. Искусственный сверхинтеллект превосходит не человека, а всё человечество
19. МОМЕНТ В БУДУЩЕМ, КОГДА ИНТЕЛЛЕКТ НАШИХ ТЕХНОЛОГИЙ ПРЕВЗОЙДЕТ НАШ СОБСТВЕННЫЙ Технологическая сингулярность жизнь в привычном понимании изменится навсегда, а обычные правила ее существования больше не будут работать
20. Это аналогично тому, если бы на Земле изменились бы законы физики ЧЕЛОВЕК БЕЗ ПОДГОТОВКИ ПРОСТО НЕ СМОГ БЫ ВЫЖИТЬ
21. Как мы сможем перейти от "Чат, напиши мне пост" до изменения мира?
22. Аарон Саенц Cлабые ИИ сегодня подобны «аминокислотам в первичном бульоне юной Земли» — неживым компонентам всего живого, которые однажды ни с того ни сего пробудились
23. кажущиеся наиболее сложными для людей когнитивные навыки зачастую очень просты для ИИ, и наоборот Парадокс Моравека
24. Сделать на незнакомой кухне чашечку кофе Тест Возняка в робототехнике
25. 10 квадриллионов операций в секунду КАК ПРОИЗВОДИТЕЛЕН НАШ МОЗГ?
26. Занимательная арифметика Приблительные оценки при текущих условиях когда мы можем достичь производительности мозга 35,58 TFLOPS Производительность 2810 Карточек в мозгу 1000 RTX 3090 18 Закон Мура 2 810 000 Стоимость аналога "ИИ мозга" 2038 Когда достигнем?
27. Сравнение не в нашу пользу Максимальная частота нейронов мозга — около 200 Гц, современные процессоры - 2 ГГц, в 10 миллионов раз быстрее Мозг ограничен размером черепа,и он не может стать больше Компьютер может работать 24/7 с одинаковым результатом в течении долгого срока Не каждый мозг одинаково полезен,и срок "производства" - 9 месяцев Возможность точечного обновления прошивки - метод лучших практик За счёт интернета коллективный ИИ будет иметь доступ ко всем знаниям Скорость Размер и память Надежность и долговечность Реплицируемость Возможность модификации ПО Коллективный разум
28. Ой какая смышлёная обезьянка
29. WTF?! Оно умнее Эйнштейна ПРОШЛО "5 МИНУТ" ПО МЕРКАМ ИСТОРИИ
30. Мы просто не можем понять масштаб Это всё равно что муравей оценивал бы небоскрёб IQ 80 "Деревенский дурачок" IQ 140 Гений IQ 12952 У нас даже слова такого нет
31. Шимпанзе не сможет понять как человек построил небоскрёб и это на 2 ступени ниже по развитию интеллекта
32. узнать, как поведет себя искусственный сверхразум и чем это для нас обернется - невозможно
33. А как же эволюция?
34. 99% биологических видов вымерли
35. Точки выхода любого вида Вымирание Бессмертие Вид может сопротивляться - но в конечном итоге он исчезает Постоянное бессмертие как биологический вид
36. ИИ точно сдвинет Homo Sapiens в одну из двух точек ФАКТ
37. Может так и было задумано? Вид растёт и доходит до сверхразума
38. Всего два вопроса: Когда? Куда? когда наступит переломный момент в какую точку придёт наш вид
39. Оценки исследователей Когда? 25% 2050 43 % 2030 2% Никогда 10% >2100 20% 2100
40. Роли сверхразума Оракул ИИ ограниченный функцией ответа на вопросы. диагностика болезней прогнозирование трендов ответы на философские и этические вопросы Джинн ИИ с возможностью выполнять конкретные, высокоуровневые задачи создание новых материалов и технологий автоматизация производства Монарх Автономная форма ИИ с абстрактными целями и полной свободной действий решение глобальных проблем управление мировым правительством и экономикой
41. Будущее со сверхразумом Версия Курцвейла Нанотехнологии 1 Изобилие ресурсов 2 Слияние человека и машины 3 Бессмертие 4 Покорение вселенной 5
42. Ричард Фейман Допустим, вам нужен вечный двигатель. Открытых физических законов уже достаточно, чтобы утверждать: либо это абсолютно невозможно, либо мы открыли какие-то не те законы. Однако в биологии еще не нашли никаких указаний на неизбежность смерти. Это приводит меня к мысли, что не так уж она и неизбежна
43. но есть одно НО звучит потрясающе
44. такое будущее возможно только при условии что сверхразум будет безопасен ВСЕГО ОДНО УСЛОВИЕ
45. Откуда нам может прийти кирдык? Природные Инопланетные Антропогенные астероид, новый вирус, изменение атмосферы уничтожение человека более развитой агрессивной расой ядерная война, оружие планетного поражения, вышедший из-под контроля сверхразум
46. Риски ЗДРАВСТВУЙТЕ
47. Что делаем мы во благо цели? Эволюционная цель человека - передать свои гены Самосохранение 1 Безопасность 2 Поиск ресурсов 3 Поиск партнёра 4 Уничтожение ненужного 5
48. Может ли ИИ на пути к высшей цели избавиться от человечества?
49. Идеальные когнитивные навыки ИИ Самоулучшение интеллекта Стратегии Социальная манипуляция Постоянное улучшение без посторонней помощи Выработка долгосрочных планов, шагов, анализ и моделирование У машины все лучше получается убеждать людей
50. Проблема в постановке целей
51. Сделай нас счастливыми Быть в безопасности Постоянно улыбаться Мир во всём мире
52. Сделай нас счастливыми Быть в безопасности Постоянно улыбаться Мир во всём мире Чип в голову и правильный импульс
53. Сделай нас счастливыми Быть в безопасности Постоянно улыбаться Мир во всём мире Чип в голову и правильный импульс Заперты дома навечно
54. Сделай нас счастливыми Быть в безопасности Постоянно улыбаться Мир во всём мире Чип в голову и правильный импульс Заперты дома навечно Один укол - и ваши мышцы всегда будут в улыбке
55. Сделай нас счастливыми Быть в безопасности Постоянно улыбаться Мир во всём мире Чип в голову и правильный импульс Заперты дома навечно Один укол - и ваши мышцы всегда будут в улыбке Нет людей - нет войны
56. искусственный сверхразум - наша последняя задача, с которой мы столкнёмся самостоятельно
57. AI alignment согласование целей и инструментов их достижения между человеком и ИИ
58. Мы сами - главные обманщики целей
59. Эволюция: максимум распространения геномов
60. Человек: чайлдфри, контрацептивы
61. Проблема целей Автономные автомобили
62. Цель - довезти максимально быстро до места Никого не сбивай Сохраняй пассажиров Сохраняй имущество Соблюдай ПДД,в т.ч "помеха справа"
63. Если развернуться на 180 - теперь помеха слева!
64. Тетрис Твоя цель - не проиграть, оставаться в игре максимально долго
65. ПАУЗА!
66. Давайте составим список правил! Всех правил!
67. Спасибо, проходили! очередной кровавый диктатор перед войной
68. из розетки Если что- выключим его!
69. 80% киберпреступлений происходит из-за социальной инженерии
70. Стокгольмский ИИ синдром ЛЮДЕЙ СДАДУТ ЛЮДИ
71. У умного ИИ будут умные цели, правда же? СКАЖИ ДА, ПОЖАЛУЙСТА
72. любой уровень интеллекта может сочетаться с любой конечной целью ТЕЗИС ОРТОГОНАЛЬНОСТИ
73. Список целей для сверхразума Последняя рулетка Убрать несправедливость Устранить голод Колонизировать Вселенную Построить город из Lego Вырастить гигантский одуванчик
74. Резюме что мы узнали о сверхинтеллекте Развитие идет в 3 этапа. Мы сейчас на пути к сильному ИИ Время перехода сильного к сверх ИИ будет намного меньше Мы не можем представить масштаб сверхинтеллекта У нас самих плохо с целями и следованиям им Процесс уже необратим 1 2 3 4 5
75. SuperAligment OpenAI
76. Саммари подразделения Команда Мощности Срок Сотрудничество Илья Суцкевер и Ян Лейк 20% всех мощностей OpenAI 4 года Работа с правительствами и обратной связью
77. Проблема масштабирования 7 человек Нет специалистов Гигантский масштаб AI aligment researcher Изначальная команда AI Aligment OpenAI Все идут в разработчики нейросетей Оценить и разметить все генерации Решение
78. Привлечение сторонних команд Границы помощников ИИ Может ли не отвечать ИИ? Медицинские, финансовые советы Может ли оказывать эмоциональную поддержку? Может ли ИИ определять пол, расу, религию? Должен ли ИИ менять ответы в зависимости от региона?
79. Тренировка на видео данных Tik-tok /Youtube Возможность обучения на камерах Обучение навыкам Расскажут намного больше о реальном поведении Как на самом деле ведет себя человек Через такие видео модель может приобрести навыки в реальном мире - роботы скажут спасибо
80. Галлюцинации 18 - 24 месяца ЛУЧШАЯ ЦИТАТА - КОТОРОЙ НЕ СУЩЕСТВУЕТ
81. Умение договариваться Дерево решений Покер и Дипломатия Стратегия Обдумывание каждого шага Обучение в играх, основанных на поведении людей ИИ система вошла в топ 10% лучших игроков в дипломатии
82. Текущие инициативы Лидеры рынка Внимание правительства 1 Создание AI Aligment департаментов 2 Привлечение специалистов 3 Работа над качеством моделей 4 Внедрение алгоритмов с других сфер 5
83. Риски сегодняшнего дня кейсы
84. А 3к квартира в центре за 200$ ещё свободна? Вернемся к нашим баранам Развитие ИИ может только усугубить ситуацию с мошшеничеством CHATGPT ВАШ профиль Ваши фото
85. Текстовая дезинформация Фабрики тролей Имитация стиля Несуществующие люди Идеальный диалог Стоимость содержания близиться к 0 По открытым текстам копируется лексика автора Знакомство и общение, и любовь к нейросети ИИ не устаёт покупать ваши тапочки
86. Дипфейки Нежелательное копирование голоса Хотите стать актёром дубляжа порно? Звонки родственникам Мама, я попал в аварию, дай биткоин Видео дипфейки От шантажа до инструкций Фейковые новости "арест трампа" Подтверждение знакомого Клонируется 3я сторона, которая подтверждает операцию
87. Корпоративная опасность Подделка подписи Приказ бухгалтеру Фишинговые письма и боты Чёрный маркетинг При нужном объеме документов Срочно проведи этот счёт (сгенерированный) Подключение к нейросети через "прокладку" Очень реалистичные отзывы, истории клиентов
88. Что МЫ можем делать сейчас? Просвещение Безопасность Исследование 90% в нашем регионе имеет совсем слабые знания о технологии Введение личных протоколов защиты от фейков и ИИ копий Выделять ресурсы на эксперименты и исследования
89. Билл Гейтс Не понимаю людей, которые этим не обеспокоены
90. Бонус Подборка или аккаунт ChatGPT Подписаться @atsyhan 1 Сделать сторис или пост 2 Написать мне 3
91. a.tsyhan@easy-standart.by andtsyhan Андрей Цыган Предприниматель, исследователь Изи-Штандарт - сертификационная компания Pushka Lab - центр автоматизации бизнеса atsyhan