Человек и мир искусственного интеллекта
Дата записи
Аннотация
В видеозаписи спикер, главный научный сотрудник Института мозга человека и директор Института когнитивных исследований, размышляет о взаимодействии человека и искусственного интеллекта, обсуждая стремительные изменения в современном мире, возможности и риски цифровизации, а также этические и юридические проблемы, связанные с развитием нейротехнологий и геномных исследований; приводятся примеры успехов ИИ в играх (шахматы, го, покер), поднимаются вопросы адаптации человека к новой реальности, подготовки специалистов (в том числе врачей) к работе в цифровом мире, будущего человечества в условиях развития технологий и потери традиционных ориентиров.
Сгенерировано Алисой AI. Алиса может ошибаться.
Связанная публикация
- Выпуск журнала
- №92 · Инновации в диагностике
Транскрипция для ИИ-агентов
Автоматические
WEBVTT 0 00:00:00.000 --> 00:00:04.200 Спасибо большое. Очередной раз я сейчас сидела 1 00:00:04.200 --> 00:00:06.480 и думала, какой я глупость все-таки сделала, 2 00:00:06.480 --> 00:00:11.580 что не поступала в медицинский институт. Я даже думаю, 3 00:00:11.580 --> 00:00:14.220 что я, может быть, была бы неплохим врачом, 4 00:00:14.260 --> 00:00:17.160 как мне теперь кажется, но этого уже нет. 5 00:00:17.940 --> 00:00:18.980 Но я... 6 00:00:19.900 --> 00:00:23.320 при, около медицины все время. Я и сейчас 7 00:00:23.320 --> 00:00:26.720 главный научный сотрудник Института мозга человека, 8 00:00:27.040 --> 00:00:31.180 то есть основное мое место жительства – это 9 00:00:31.180 --> 00:00:33.220 Петербургский университет, и я там директор 10 00:00:33.220 --> 00:00:37.100 Института когнитивных исследований. Но поскольку 11 00:00:37.100 --> 00:00:42.040 изучая мозг, естественно, нужно быть в профессиональных местах, 12 00:00:42.060 --> 00:00:46.520 то вот там я и есть. Но до этого еще много 13 00:00:46.520 --> 00:00:48.440 лет база академическая 14 00:00:48.460 --> 00:00:51.080 Медицинская института эволюционной физиологии 15 00:00:51.080 --> 00:00:53.780 и биохимии имени Сечина, где я много лет работала. 16 00:00:53.960 --> 00:00:57.300 Она была в больнице Скворцова-Степанова. 17 00:00:57.320 --> 00:01:00.140 И, конечно, я никаким психиатром не стала, 18 00:01:00.320 --> 00:01:05.519 но нагляделась. Ну, ориентируюсь, короче говоря. 19 00:01:06.920 --> 00:01:11.140 Ну, вот то, о чем мы сегодня будем говорить. 20 00:01:12.720 --> 00:01:17.400 А именно человек и тот мир, в который мы попали, 21 00:01:17.420 --> 00:01:22.280 мир искусственного интеллекта, это тема, конечно, 22 00:01:22.460 --> 00:01:25.320 не медицинская, но тем не менее, как видите, 23 00:01:25.400 --> 00:01:28.600 картинку я сюда вставила. А я вот, а, вот. 24 00:01:29.540 --> 00:01:33.000 Вот эта барышня в белом халате, это... 25 00:01:34.979 --> 00:01:37.940 антропоморфный робот, который на самом деле 26 00:01:37.940 --> 00:01:43.420 сделан в Зеленодольск, Зеленоградск, 27 00:01:43.520 --> 00:01:47.560 Зеленонегорск. Короче говоря, московское место, 28 00:01:47.680 --> 00:01:50.540 где искусным интеллектом занимаются. И вот, 29 00:01:50.560 --> 00:01:54.980 пожалуйста, это помощница, как бы ассистент врача. 30 00:01:55.360 --> 00:02:01.300 Вот, другая картинка на этом же слайде изображает человека, 31 00:02:01.640 --> 00:02:05.660 и это все мы, который очень собой доволен, 32 00:02:05.680 --> 00:02:11.539 у него цилиндр, он весел, он 33 00:02:11.539 --> 00:02:16.240 читает газету и ничего не подозревает. Между тем, 34 00:02:16.240 --> 00:02:19.620 сзади вы видите, что едет, что его сметет. 35 00:02:20.840 --> 00:02:22.760 Я постараюсь... 36 00:02:23.800 --> 00:02:29.880 не пессимистично говорить. Хотя я вхожу 37 00:02:29.880 --> 00:02:33.340 в бюро такой... 38 00:02:37.600 --> 00:02:40.780 комиссии по методологии и философии искусственного 39 00:02:40.780 --> 00:02:43.020 интеллекта и когнитивных исследований при 40 00:02:43.020 --> 00:02:45.660 Президиуме Академии Наук. Это я говорю не 41 00:02:45.660 --> 00:02:49.320 для того, чтобы со своей биографией познакомиться, 42 00:02:49.360 --> 00:02:52.280 а потому что я в курсе дел. Вот я к чему это сказала. 43 00:02:52.620 --> 00:02:55.240 То есть я сама участвую в этих дискуссиях, 44 00:02:55.240 --> 00:02:58.000 чего бояться, чего не бояться, и понимаю, 45 00:02:58.020 --> 00:03:02.040 как сейчас этот мир выглядит. Ну вот посмотрим, 46 00:03:02.300 --> 00:03:03.500 что мне удастся. 47 00:03:04.920 --> 00:03:07.040 Во-первых, факт есть факт. 48 00:03:07.280 --> 00:03:11.540 что мы находимся в новом типе цивилизации. 49 00:03:11.580 --> 00:03:15.860 Это не будущее, это настоящее, и это факт. 50 00:03:16.140 --> 00:03:19.040 Нам, может, это не нравится, вот мне, к примеру, 51 00:03:19.040 --> 00:03:22.540 не нравится, но совершенно никого не волнует, 52 00:03:22.540 --> 00:03:26.040 кому что нравится. Можно считать, что мы переехали 53 00:03:26.040 --> 00:03:30.360 на другую планету. И это не художественный образ, 54 00:03:30.440 --> 00:03:32.540 я говорю абсолютно всерьез. Вот я сегодня 55 00:03:32.540 --> 00:03:35.740 с девяти утра уже была на двух докладах в Зуме. 56 00:03:35.790 --> 00:03:41.170 так что сидела дома. И там весь зал академиками 57 00:03:41.170 --> 00:03:47.030 был набит, и они обсуждали новый мир. И что говорят? 58 00:03:47.170 --> 00:03:51.270 Говорят дети, дети, школьники, говорят, а вы, 59 00:03:51.330 --> 00:03:55.270 взрослые, какое имеете право нас учить, как 60 00:03:55.270 --> 00:03:58.050 жить в том мире, в котором вы никогда не жили? 61 00:03:58.600 --> 00:04:01.680 Это не шуточное вообще заявление на самом деле. 62 00:04:01.940 --> 00:04:04.780 Понятно, что можно махнуть рукой, дети еще 63 00:04:04.780 --> 00:04:07.460 и не то скажут, но в этом есть глубокий смысл. 64 00:04:07.680 --> 00:04:11.300 Мы чего хотим? Мы хотим, чтобы будущий мир 65 00:04:11.300 --> 00:04:15.700 был как минимум приемлем, чтобы он не был враждебен. 66 00:04:16.180 --> 00:04:19.380 Мы хотим счастья нашим потомкам и так далее. 67 00:04:19.560 --> 00:04:22.980 А что мы при этом имеем в виду? Вот счастье 68 00:04:22.980 --> 00:04:25.899 – это что? Чтобы у них было много еды. Банальные 69 00:04:25.899 --> 00:04:26.880 вещи можно сказать. 70 00:04:27.269 --> 00:04:30.170 чтобы были сыты, безопасны, но это все понятно. 71 00:04:30.430 --> 00:04:33.209 А все-таки, учитывая, что тот мир, в котором 72 00:04:33.209 --> 00:04:37.250 мы оказались, непонятен, он непонятен никому, 73 00:04:37.250 --> 00:04:40.630 кроме тех, у кого ума мало. И поэтому они 74 00:04:40.630 --> 00:04:44.210 почему-то считают, что он им понятен. Поэтому 75 00:04:44.210 --> 00:04:46.630 мы действительно в новом мире, в котором нам 76 00:04:46.630 --> 00:04:50.710 надо попробовать сориентироваться. Этот мир цифровой. 77 00:04:50.830 --> 00:04:52.890 Он цифровой, и это факт. 78 00:04:53.240 --> 00:04:56.460 Повторяю, меня эта история никак не устраивает, 79 00:04:56.580 --> 00:05:01.720 но меня никто и не спрашивает. В этой связи, 80 00:05:01.720 --> 00:05:05.900 почему такое огромное место занимают исследования мозга? 81 00:05:05.960 --> 00:05:10.900 На это идут огромные деньги. Счет идет только 82 00:05:10.900 --> 00:05:13.520 на миллиарды и, разумеется, не рублей. 83 00:05:14.419 --> 00:05:17.260 Почему? Мы же понимаем, что в жестоком мире, 84 00:05:17.400 --> 00:05:20.660 в котором мы живем, никто цент не потратит 85 00:05:20.660 --> 00:05:23.940 просто так, если не будет ясности, что ты 86 00:05:23.940 --> 00:05:27.480 вкладываешь деньги туда, куда надо. Это и федеральные 87 00:05:27.480 --> 00:05:30.900 деньги всех развитых стран, и Америка, и Азия вся, 88 00:05:31.020 --> 00:05:34.800 и Китай, и Япония, и Европа. В Европе, кстати, 89 00:05:35.080 --> 00:05:38.660 один из проектов, который назывался Blue Brain, 90 00:05:38.880 --> 00:05:42.720 он таки загнулся, несмотря на огромный... 91 00:05:42.730 --> 00:05:45.870 Потому что неправильная идея была. Вот я, 92 00:05:45.890 --> 00:05:50.050 собственно, куда иду. Я веду к тому, что надо 93 00:05:50.050 --> 00:05:53.390 не деньги собирать, а думать хорошо. Это не значит, 94 00:05:53.450 --> 00:05:55.730 что деньги не нужны. Но всем понятно, что 95 00:05:55.730 --> 00:05:58.790 это очень дорогие вещи. Но если ты при этом 96 00:05:58.790 --> 00:06:01.590 неправильно продумал, то эти все деньги летят 97 00:06:01.590 --> 00:06:02.270 в пропасть. 98 00:06:04.020 --> 00:06:06.660 Искусственный интеллект и его место. А при 99 00:06:06.660 --> 00:06:08.440 чём здесь, собственно, искусственный интеллект? 100 00:06:08.540 --> 00:06:11.940 Потому что если смотреть на это примитивным образом, 101 00:06:12.180 --> 00:06:17.440 то вопрос, к которому я вернусь потом, мы 102 00:06:17.440 --> 00:06:20.640 вообще что планируем здесь делать? Мы на этой 103 00:06:20.640 --> 00:06:25.860 планете жить ещё собираемся? Или мы все позиции сдаём? 104 00:06:26.280 --> 00:06:29.520 Да, и теперь пусть вместо нас он все это делает. 105 00:06:29.900 --> 00:06:32.960 Хотелось бы, вот задаю всем вопрос, разумеется, 106 00:06:32.960 --> 00:06:35.460 никакого ответа, кроме глупых, не получаю. 107 00:06:35.620 --> 00:06:38.120 А вопрос мой такой, чем займемся? 108 00:06:39.080 --> 00:06:41.580 Нет, если искусственный интеллект будет делать всё, 109 00:06:41.800 --> 00:06:46.780 он будет лечить, учить, считать, добывать уголь, 110 00:06:46.780 --> 00:06:50.000 если кому-то ещё будет нужен уголь и так далее. 111 00:06:50.120 --> 00:06:52.120 Вот он всё будет делать. Чем займутся люди? 112 00:06:52.580 --> 00:06:55.740 На это полагается отвечать. Вот Греф, например, 113 00:06:56.020 --> 00:07:01.080 я и публично, и лично с ним собачилась многократно. 114 00:07:01.140 --> 00:07:03.700 Он на это говорит, ладно, не пугайте народ. 115 00:07:05.320 --> 00:07:08.620 Потому что, да, большое количество профессий отомрет, 116 00:07:08.760 --> 00:07:12.220 но зато много появится. Вот у нас уже много появилось. 117 00:07:12.340 --> 00:07:15.380 Да, много появилось. И какой процент населения 118 00:07:15.380 --> 00:07:20.620 это покрывает? Минимальный. Кроме того, нужна 119 00:07:20.620 --> 00:07:22.760 специальная подготовка. То есть это никак 120 00:07:22.760 --> 00:07:24.160 не массовая вещь. 121 00:07:26.440 --> 00:07:28.740 И вот то, что я уже сказала, а какое, собственно, 122 00:07:28.880 --> 00:07:31.760 будущее мы строим? И как мы готовим тех, кто 123 00:07:31.760 --> 00:07:34.960 в нём будет жить? Вот я не собираюсь философствовать особенно, 124 00:07:35.240 --> 00:07:40.340 но скажем, врачей. Мы, это 125 00:07:40.340 --> 00:07:44.720 не я, хотя я на медицинском факультете и заноточена, 126 00:07:44.800 --> 00:07:48.440 даже преподавала один год, но вовремя опомнилась. 127 00:07:51.880 --> 00:07:56.680 Что эти люди должны? Они должны много зубрить, 128 00:07:56.740 --> 00:07:59.320 к примеру. Я так примитивно говорю. Они должны 129 00:07:59.320 --> 00:08:02.580 много знать. Или поскольку у всех в кармане... 130 00:08:03.450 --> 00:08:05.790 сами понимаем, что лежит, то всегда можно 131 00:08:05.790 --> 00:08:09.890 туда залезть, и тебе там все скажут. В аудитории 132 00:08:09.890 --> 00:08:12.430 медицинской даже неловко говорить то, что 133 00:08:12.430 --> 00:08:14.770 вот я сейчас скажу. А кто-нибудь хотел бы 134 00:08:14.770 --> 00:08:17.430 учиться у врача, который должен все время 135 00:08:17.430 --> 00:08:20.410 в телефон лезть, чтобы посмотреть, как обстоят дела? 136 00:08:20.750 --> 00:08:23.250 Я сомневаюсь, что кроме сумасшедших кто-нибудь 137 00:08:23.250 --> 00:08:25.910 на это согласен. Кроме того, опять-таки, 138 00:08:25.910 --> 00:08:28.090 в этой аудитории даже неловко это говорить. 139 00:08:28.730 --> 00:08:30.670 И я скажу с двух сторон. 140 00:08:31.180 --> 00:08:35.299 Я обычно говорю, да, медицина – это высокая наука, 141 00:08:35.299 --> 00:08:38.340 но это высокое искусство. Мы же знаем, что 142 00:08:38.340 --> 00:08:42.520 гениальные врачи, они вообще про другое. Мы 143 00:08:42.520 --> 00:08:45.140 не знаем, как они ставят диагнозы, вообще 144 00:08:45.140 --> 00:08:47.980 не понимаем, это что-то на нюх такое. Я, 145 00:08:48.039 --> 00:08:51.400 говорит, вижу, когда ты их спрашиваешь, как 146 00:08:51.400 --> 00:08:53.380 вы это делаете. Я говорю, вижу, чую. 147 00:08:54.529 --> 00:08:57.289 На запах старые врачи это делали. То есть 148 00:08:57.289 --> 00:09:00.510 здесь начинают включаться механизмы, которые 149 00:09:00.510 --> 00:09:04.130 не алгоритмы, и которые искусственный интеллект 150 00:09:04.130 --> 00:09:06.650 не может заменить. Но я теперь эту историю 151 00:09:06.650 --> 00:09:09.289 переворачиваю и говорю, да, медицина, разумеется, 152 00:09:09.289 --> 00:09:12.750 искусство, но она и наука. Даже тот кусочек, 153 00:09:12.750 --> 00:09:16.090 который я вот сейчас вот захватила, слушайте, 154 00:09:16.110 --> 00:09:18.890 ну не может быть, ну просто наводит на мысль, 155 00:09:18.930 --> 00:09:22.670 ну нет на свете человека, какой бы это ни был... 156 00:09:24.100 --> 00:09:27.360 опытный врач, чтобы он мог просмотреть миллион 157 00:09:27.360 --> 00:09:32.880 томограмм или там КТ, неважно чего, миллион, 158 00:09:32.900 --> 00:09:37.780 да, и сделать из этого вывод. Это работа невозможная. 159 00:09:37.900 --> 00:09:40.720 То есть, да, это как раз то, что искусственный 160 00:09:40.720 --> 00:09:43.280 интеллект должен делать, то есть работа с big data, 161 00:09:43.360 --> 00:09:46.580 с большими данными. И он там это все ковыряет, 162 00:09:46.580 --> 00:09:49.740 ковыряет этих блох и в итоге рассортирует 163 00:09:49.740 --> 00:09:51.760 и скажет, вот когда ты такое видишь, 164 00:09:51.760 --> 00:09:56.980 Насторожись. Но не его собачье дело, извините 165 00:09:56.980 --> 00:10:01.480 за вульгарность, механическое решение принимать. 166 00:10:01.540 --> 00:10:05.820 Он нам должен дать информацию, которую мы 167 00:10:05.820 --> 00:10:10.800 не в состоянии сами обработать. Да, но последнее 168 00:10:10.800 --> 00:10:12.520 слово не за ним. 169 00:10:13.820 --> 00:10:17.640 Поэтому вот как учить этих врачей, ну медики 170 00:10:17.640 --> 00:10:21.760 в целом, не только врачи, кстати, а и вся иерархия. 171 00:10:21.840 --> 00:10:25.940 Они должны быть цифровым образом подготовлены. 172 00:10:25.960 --> 00:10:29.380 Не глупо, в смысле, как программа Excel работает, 173 00:10:29.500 --> 00:10:32.520 а вот по-настоящему. Это же другой мир. Да, 174 00:10:32.600 --> 00:10:36.620 нужны. Надо им зубрить, я уверена, надо. Хотя, 175 00:10:36.660 --> 00:10:40.500 если бы рядом со мной целый ряд моих коллег стояли, 176 00:10:40.500 --> 00:10:42.220 они бы сказали, ой, ладно, хватит. 177 00:10:42.320 --> 00:10:45.060 Уже несколько тысячелетий вся эта зубрёшка, 178 00:10:45.120 --> 00:10:49.080 никому сейчас не нужно. Я так не считаю. Я считаю, 179 00:10:49.080 --> 00:10:52.720 что даже гуманитариев нужно всех до единого 180 00:10:52.720 --> 00:10:55.320 учить латыни и древнегреческому. Потому что 181 00:10:55.320 --> 00:10:58.960 это у них мозги прочистят. И математики вообще всех. 182 00:11:01.060 --> 00:11:03.840 Сейчас. Ой, извините. 183 00:11:05.230 --> 00:11:09.050 Вот вся эта история ставит перед нами много 184 00:11:09.050 --> 00:11:12.990 экзистенциальных вопросов, настоящих серьезных вопросов. 185 00:11:14.190 --> 00:11:18.370 Вот много можно об этом говорить, а как это сделать? 186 00:11:18.550 --> 00:11:23.450 Мы понимаем, что нужно иначе учить, нужно понять, 187 00:11:23.490 --> 00:11:26.730 как будет сосуществовать естественный интеллект 188 00:11:26.730 --> 00:11:28.770 и искусственный интеллект на планете. 189 00:11:29.440 --> 00:11:32.160 Ведь это разделение труда. Вот как-то же 190 00:11:32.160 --> 00:11:36.460 надо разделиться. Искусственные интеллектуальные системы, 191 00:11:36.480 --> 00:11:39.760 они вообще что будут делать? А мы контроль 192 00:11:39.760 --> 00:11:40.480 не потеряем? 193 00:11:40.910 --> 00:11:44.170 Мы уверены, что мы сможем удержать эту ситуацию 194 00:11:44.170 --> 00:11:48.790 в наших руках. Когда говоришь с людьми, условно говоря, 195 00:11:48.870 --> 00:11:51.410 из Сколково, хотя и буквально из Сколково, 196 00:11:51.430 --> 00:11:53.950 они говорят, ладно, не надо паники, но они 197 00:11:53.950 --> 00:11:56.690 все снобы, они в себе страшно уверены, они 198 00:11:56.690 --> 00:11:59.130 почему-то думают, что они понимают эту ситуацию. 199 00:11:59.150 --> 00:12:02.570 Они, конечно, саму эту область знают, как никто, 200 00:12:02.790 --> 00:12:06.870 это да. Но как только ты шаг влево, шаг вправо, 201 00:12:06.870 --> 00:12:09.490 то тут начинается, они говорят, слушай, 202 00:12:09.480 --> 00:12:13.320 Программы делают ровно то, что мы в них заложим. 203 00:12:13.360 --> 00:12:18.420 Это неправда. Они либо нам лгут, 204 00:12:18.460 --> 00:12:22.740 прямо лгут, либо они сами не понимают. Потому что, 205 00:12:22.740 --> 00:12:26.680 поскольку я много с разными людьми общаюсь 206 00:12:26.680 --> 00:12:30.300 и выступаю в том числе, у меня был эпизод года... 207 00:12:30.970 --> 00:12:33.290 три, наверное, тому назад, а с тех пор очень 208 00:12:33.290 --> 00:12:37.330 продвинулась эта область, когда по их просьбе 209 00:12:37.330 --> 00:12:40.590 выступала фирма, которая искусственно-интеллектуальные 210 00:12:40.590 --> 00:12:46.130 программы как раз и разрабатывает. И вдруг... 211 00:12:46.510 --> 00:12:49.130 Их начальник говорит, вы знаете, у нас такая 212 00:12:49.130 --> 00:12:53.110 странная вещь стала. Они обучаются, то есть 213 00:12:53.110 --> 00:12:56.310 работают с глубоким обучением нейронных сетей. 214 00:12:56.750 --> 00:12:59.310 Наша программа стала очень быстро учиться. 215 00:12:59.370 --> 00:13:03.210 Она учится так, что мы не успеваем. Я говорю, 216 00:13:03.350 --> 00:13:06.910 о, внимание, с этой точки подробно и медленно. 217 00:13:07.950 --> 00:13:12.850 Они говорят, во-первых, она учится быстрее, 218 00:13:12.850 --> 00:13:14.370 чем мы можем понять. 219 00:13:15.360 --> 00:13:19.140 Во-вторых, она делает что-то, чего мы не 220 00:13:19.140 --> 00:13:21.540 понимаем вообще. Я говорю, а с этой точки 221 00:13:21.540 --> 00:13:24.980 особенно медленно. Что значит мы не понимаем? 222 00:13:25.540 --> 00:13:28.720 Они говорят, ну что-то происходит такое, 223 00:13:28.980 --> 00:13:31.640 что мы не знаем, как это интерпретировать. 224 00:13:32.000 --> 00:13:35.840 И я говорю, и? Они говорят, и мы испугались. 225 00:13:36.240 --> 00:13:37.960 Послушайте, это говорят разработчики. 226 00:13:39.099 --> 00:13:41.820 Мы испугались. Я говорю, и испугавшись, что 227 00:13:41.820 --> 00:13:45.300 вы сделали? Вы не поверите. Они вынули из сети, 228 00:13:45.300 --> 00:13:48.860 из розетки. Вы представляете, как они должны 229 00:13:48.860 --> 00:13:51.440 были испугаться для того, чтобы пойти на такой 230 00:13:51.440 --> 00:13:55.760 примитивный ход, как отключить от электроэнергии. 231 00:13:55.840 --> 00:13:59.220 Я не хочу пугать всех, что этот момент еще 232 00:13:59.220 --> 00:14:04.880 не настал. Но он может настать. Это разработки, 233 00:14:04.880 --> 00:14:07.720 которые еще никуда не вышли. Это их игрушки местные. 234 00:14:08.440 --> 00:14:11.720 Но все впереди. 235 00:14:12.760 --> 00:14:16.720 Вот если вы помните, это я про игры. Если 236 00:14:16.720 --> 00:14:21.060 вы помните, то игра в шахматы, которой, как 237 00:14:21.060 --> 00:14:25.380 мы знаем, несколько тысяч лет, и в 1997 году 238 00:14:25.380 --> 00:14:29.560 шахматная программа Deep Blue обыграла тогдашнего 239 00:14:29.560 --> 00:14:32.760 чемпиона мира. Дело не в игре. Вы понимаете, 240 00:14:32.760 --> 00:14:36.980 что я же всерьез тут разговариваю? Дело не 241 00:14:36.980 --> 00:14:39.700 в игре, а дело в том, что она может мочь. 242 00:14:40.760 --> 00:14:43.360 Дело не в том, что не с кем в шахматы поиграть. 243 00:14:44.820 --> 00:14:48.120 Короче говоря, она разбила тогдашнего чемпиона мира, 244 00:14:48.240 --> 00:14:49.980 а именно Каспарова, в пух и прах. 245 00:14:50.969 --> 00:14:53.570 И человечество аж вздрогнуло, потому что вот 246 00:14:53.570 --> 00:14:55.930 лучший мозг планеты, и вообще все, конец. 247 00:14:56.090 --> 00:14:59.430 Но когда пришли в чувства и стали анализировать, 248 00:14:59.530 --> 00:15:03.070 то оказалось, что это не так страшно, как 249 00:15:03.070 --> 00:15:07.790 сначала это ударило, потому что это была нечестная игра. 250 00:15:07.890 --> 00:15:10.970 Я хотя была молодая и дура, но я тем не менее 251 00:15:10.970 --> 00:15:13.790 сразу сказала, так играть нельзя, это нечестная игра. 252 00:15:14.850 --> 00:15:18.730 Неравные условия. Программа не устает. 253 00:15:19.020 --> 00:15:21.960 Она не нервничает, у неё огромные скорости, 254 00:15:22.040 --> 00:15:23.800 у неё бесконечная память. 255 00:15:25.299 --> 00:15:28.460 нет человека на Земле, который в состоянии 256 00:15:28.460 --> 00:15:31.740 конкурировать с этим. У всех есть все, что 257 00:15:31.740 --> 00:15:34.300 я перечислила. Так играть нельзя. Хуже того, 258 00:15:34.500 --> 00:15:38.000 она была натаскана на конкретного человека, 259 00:15:38.060 --> 00:15:41.060 а именно на него. Она про него знала каждый 260 00:15:41.060 --> 00:15:43.760 его ход. Он сам про себя знал меньше, чем она. 261 00:15:44.700 --> 00:15:48.580 Это нечестная игра. Потом проходит несколько лет, 262 00:15:48.620 --> 00:15:52.380 она обыгрывает одного за другим. Вопрос с шахматами закончен. 263 00:15:53.120 --> 00:15:58.100 Все. Поскольку это переборная игра, понятно, 264 00:15:58.100 --> 00:16:01.580 что конкурировать невозможно. Тогда стали говорить, 265 00:16:01.820 --> 00:16:04.000 мне очень эта идея понравилась, стали говорить, 266 00:16:04.080 --> 00:16:08.460 есть игры посложнее. Дело даже не в том, что посложнее, 267 00:16:08.480 --> 00:16:11.480 а другого типа. Например, игра в Го. Вот игру 268 00:16:11.480 --> 00:16:16.080 в Го эти железные монстры, они, мол, не одолеют. 269 00:16:16.480 --> 00:16:19.320 Одолели. Вот, пожалуйста, на этой картинке 270 00:16:19.320 --> 00:16:21.180 сидит человек, лисий доль. 271 00:16:21.930 --> 00:16:26.890 Он чемпион мира по ГО, и она его в пух и прах разнесла. 272 00:16:27.030 --> 00:16:32.970 Это значит, что эти программы ступили на другую дорогу. 273 00:16:32.990 --> 00:16:38.090 Они пошли не по линии перебора операций, просто 274 00:16:38.090 --> 00:16:40.770 очень быстрого перебора операций, они научились 275 00:16:40.770 --> 00:16:42.290 делать кое-что другое. 276 00:16:44.550 --> 00:16:48.490 Вот он, видите, этот лисий доль. Это программа 277 00:16:48.490 --> 00:16:53.990 Альфа-Го, знаменитая. Ну, в общем, сами видите. 278 00:16:57.070 --> 00:17:01.750 Было ясно, что он не выиграет вообще, но хоть одну. 279 00:17:03.279 --> 00:17:06.440 выиграть партию. Вот так вопрос стоял. А это 280 00:17:06.440 --> 00:17:09.560 уже как бы изысканные ходы. Потом я с собой 281 00:17:09.560 --> 00:17:12.599 была очень довольна и напрасна, потому что 282 00:17:12.599 --> 00:17:16.520 я говорила, у нас есть игры и посильнее, например, 283 00:17:16.720 --> 00:17:21.660 покер, где шулерство, так сказать, присутствует. 284 00:17:21.700 --> 00:17:24.400 Пэлка фейс, лицо, которое ничего не выражает, 285 00:17:24.400 --> 00:17:27.280 темные очки, скрываем эмоции, блеф. 286 00:17:28.080 --> 00:17:31.560 И вот этого программа по определению не может взять. 287 00:17:31.700 --> 00:17:35.380 Очень с собой была довольна, что я такое придумала. 288 00:17:35.599 --> 00:17:38.099 Напрасно. Потому что вот. 289 00:17:39.309 --> 00:17:43.750 Программа «Либрадус» выиграла в покер у четырех 290 00:17:43.750 --> 00:17:47.010 лучших игроков мира. Видите, они просто хохочут здесь, 291 00:17:47.109 --> 00:17:49.390 потому что она их обставила полностью. Выиграла 292 00:17:49.390 --> 00:17:52.990 у них почти 2 миллиона долларов. Но, разумеется, 293 00:17:53.030 --> 00:17:57.069 ей этой железяке никто их не дал. Но факт 294 00:17:57.069 --> 00:17:57.730 есть факт. 295 00:18:01.240 --> 00:18:04.079 А зачем мы в эту игру играем? Вот понятно, 296 00:18:04.780 --> 00:18:07.579 если речь идет, вот последний пункт, если 297 00:18:07.579 --> 00:18:11.160 речь идет о том, чтобы улучшить нашу жизнь, 298 00:18:11.240 --> 00:18:14.859 передав туда работу, которую мы делать не 299 00:18:14.859 --> 00:18:17.700 хотим или не можем, ну как с большими данными, 300 00:18:17.780 --> 00:18:21.140 но мы не можем, или зачем человеку лезть в шахту, 301 00:18:21.140 --> 00:18:24.800 пускай эти железяки там ковыряются, да, или, 302 00:18:24.900 --> 00:18:28.360 я не знаю, вот давно интересуюсь, зачем лететь 303 00:18:28.360 --> 00:18:29.400 на Марс. Спрашивала... 304 00:18:30.220 --> 00:18:32.820 У тех, кто этим занимается, удовлетворительного 305 00:18:32.820 --> 00:18:35.800 ответа не получило. А не зачем ты собираешься лететь? 306 00:18:35.860 --> 00:18:40.560 Не при коллегах будет сказано. Мы же понимаем 307 00:18:40.560 --> 00:18:43.220 жесткое излучение, что сделается их мозгом 308 00:18:43.220 --> 00:18:48.620 очень быстро. Правильно? Когда на эту тему говорят, 309 00:18:48.720 --> 00:18:50.720 да, но летали же на Луну три дня. 310 00:18:51.440 --> 00:18:57.100 А как насчет год? Причем я в Курчатском институте спрашивала, 311 00:18:57.120 --> 00:18:59.640 где они как бы специалисты. Я говорю, а что, 312 00:18:59.680 --> 00:19:01.760 защиту, разве нельзя придумать защиту? Он говорит, 313 00:19:01.840 --> 00:19:09.880 да, тонн 5 этого самого туда соответствующих металлов, 314 00:19:09.880 --> 00:19:13.320 которые страшно много весят. Ну, короче говоря, 315 00:19:13.360 --> 00:19:17.660 это невозможно. А что будет происходить? Алобные 316 00:19:17.660 --> 00:19:19.820 доли вышибет. 317 00:19:20.400 --> 00:19:22.960 Большой привет, а зачем туда прилетать тогда, 318 00:19:23.040 --> 00:19:27.040 если те, кто туда прилетят к моменту высадки 319 00:19:27.040 --> 00:19:30.200 на Марс, окажутся баклажанами, то стоило ли лететь? 320 00:19:30.300 --> 00:19:33.560 То есть это вообще какая-то дикая вещь. Но 321 00:19:33.560 --> 00:19:37.900 тем не менее, но уже там много всякого находится, 322 00:19:38.120 --> 00:19:40.600 так пусть они и работают, это я к тому говорю, 323 00:19:40.740 --> 00:19:43.820 что пусть они лезут в шахту, пусть они лезут туда, 324 00:19:43.960 --> 00:19:44.840 где радиация. 325 00:19:46.110 --> 00:19:49.470 Пусть они собирают образцы чего-то там на Марсе. 326 00:19:50.090 --> 00:19:53.670 Есть еще вариант, чтобы понять, как устроен мозг. 327 00:19:53.670 --> 00:19:56.850 Вот здесь, мне кажется, такая какая-то неприятная ловушка. 328 00:19:56.990 --> 00:19:59.530 Для того, чтобы сделать искусственный интеллект, 329 00:19:59.630 --> 00:20:02.770 нужно сначала понять, как устроен мозг. Значит, 330 00:20:02.790 --> 00:20:05.270 для того, чтобы понять, как устроен мозг, 331 00:20:05.270 --> 00:20:07.290 нужно, чтобы был искусственный интеллект, 332 00:20:07.310 --> 00:20:10.530 чтобы с ним эти эксперименты проводить. Вы понимаете, 333 00:20:10.530 --> 00:20:12.190 что здесь такая логическая петля. 334 00:20:13.550 --> 00:20:17.710 чтобы понять, как наш мозг можно биологически улучшить. 335 00:20:17.770 --> 00:20:20.910 Сейчас это мода, это страшное дело. Я каждый 336 00:20:20.910 --> 00:20:24.290 день получаю вопросы. Это новые люди, они 337 00:20:24.290 --> 00:20:27.810 будут быстрее, умнее, чипы в голову вставим, 338 00:20:27.870 --> 00:20:31.570 им не надо будет отдыхать, спать, они с огромной скоростью. 339 00:20:31.650 --> 00:20:35.990 Это зачем все? Вот с какой такой целью? 340 00:20:36.320 --> 00:20:41.600 То есть мы идем в трансгуманизм. Мы куда отправились? 341 00:20:42.000 --> 00:20:45.120 Есть еще страшный вариант про Франкенштейна, 342 00:20:45.140 --> 00:20:48.860 как здесь написано. Об этом говорят серьезные люди. 343 00:20:48.960 --> 00:20:53.920 Если вы думаете, что это жаря котлеты домохозяйки 344 00:20:53.920 --> 00:20:57.780 на кухне, ничего подобного. Это крупные ученые говорят. 345 00:20:58.280 --> 00:21:02.640 Мы оцифруем нашу нейронную сеть со всем, что 346 00:21:02.640 --> 00:21:04.580 на ней записано. На флешку. 347 00:21:04.890 --> 00:21:10.270 Ну или на что-то, внешнюю память. И дедушкина жизнь, 348 00:21:10.430 --> 00:21:14.950 будучи на флешке подарена внуку, значит, вот 349 00:21:14.950 --> 00:21:18.430 он как бы цифровой бессмертие. Абсолютно безумная мысль. 350 00:21:19.810 --> 00:21:21.110 Ну, посмотрим. 351 00:21:23.980 --> 00:21:29.440 Вот эти все рассказы про игры, они нам показывают 352 00:21:29.440 --> 00:21:32.560 тревожные вещи, потому что мы говорим, все, 353 00:21:32.640 --> 00:21:35.200 что связано с логикой, с алгоритмами, да, 354 00:21:35.300 --> 00:21:38.420 они делают лучше нас, это я уже сказала, понятно. 355 00:21:39.280 --> 00:21:45.080 Но у нас, у людей, есть свойства, которые 356 00:21:45.080 --> 00:21:49.920 невозможно формализовать. Это, например, интуиция. 357 00:21:50.400 --> 00:21:52.700 Это какие-то... 358 00:21:53.740 --> 00:21:57.880 обработка информации внешней не с помощью computation, 359 00:21:58.460 --> 00:22:02.460 не с помощью счета, а вот вижу, что хорошая вещь. 360 00:22:02.460 --> 00:22:06.020 Вот ты с ней ничего вроде сделать не можешь. 361 00:22:06.120 --> 00:22:09.040 Мы всегда говорили, вот водораздел. У нас 362 00:22:09.040 --> 00:22:12.600 есть вот это вот мягкое поле, которое этим 363 00:22:12.600 --> 00:22:17.720 монстрам недоступно. Вот я с прискорбием 364 00:22:17.720 --> 00:22:21.080 хочу заметить, что искусственный интеллект преодолел. 365 00:22:21.440 --> 00:22:27.180 этот перешеек, он разработал 366 00:22:27.180 --> 00:22:32.900 сам себе, сам себе разработал некую такую 367 00:22:32.900 --> 00:22:38.960 искусственную интуицию. Например, в играх видно, 368 00:22:39.160 --> 00:22:42.320 скажем, вот в шахматных играх видно, как он 369 00:22:42.320 --> 00:22:47.380 загоняет партнера, человека или машину, 370 00:22:48.320 --> 00:22:53.500 или партнера программу. Цукцванг. То 371 00:22:53.500 --> 00:22:57.040 есть этот его партнер, он начинает думать, 372 00:22:57.040 --> 00:22:58.100 что он выигрывает. 373 00:22:58.590 --> 00:23:01.670 эта хитроумная программа, она начинает как 374 00:23:01.670 --> 00:23:05.150 бы проигрывать. Он идет в эту сторону, говоря, 375 00:23:05.290 --> 00:23:09.230 о, отлично, все, я выигрываю. Он сюда идет, 376 00:23:09.510 --> 00:23:12.930 она сдается, сдается, сдается до того момента, 377 00:23:12.930 --> 00:23:15.130 когда у него нет возможности вернуться назад. 378 00:23:15.390 --> 00:23:18.950 После этого она разгромно выигрывает. То есть 379 00:23:18.950 --> 00:23:24.210 пошли когнитивные ходы, о которых мы не подозревали даже. 380 00:23:24.390 --> 00:23:25.910 И вот здесь я пишу. 381 00:23:26.480 --> 00:23:33.400 что они могут нас переиграть. Что 382 00:23:33.400 --> 00:23:36.640 сейчас про современный мир говорят? Говорят, 383 00:23:36.660 --> 00:23:40.660 что он очень сложен, его можно трактовать 384 00:23:40.660 --> 00:23:43.640 как угодно, он многозначен, он противоречив, 385 00:23:43.740 --> 00:23:46.480 но я хочу сказать, что так было всегда. Вот 386 00:23:46.480 --> 00:23:48.880 в этом смысле ничего нового нет. Всегда мир 387 00:23:48.880 --> 00:23:52.780 можно было и так рассматривать, и так, и тут 388 00:23:52.780 --> 00:23:53.960 нового ничего нет. 389 00:23:55.040 --> 00:23:58.740 Что есть новое, это гигантская скорость изменений. 390 00:23:58.820 --> 00:24:02.120 Вот мы даже из эволюционной физиологии знаем, 391 00:24:02.380 --> 00:24:06.540 что основное – это способность к адаптации. 392 00:24:06.600 --> 00:24:09.720 То есть к чему только мозг там, или не только 393 00:24:09.720 --> 00:24:13.380 мозг вообще, к чему только существа не адаптируются. 394 00:24:13.480 --> 00:24:15.260 Но это гигантские времена. 395 00:24:17.020 --> 00:24:20.700 Тысячи лет, миллионы лет, ну хорошо, сотни лет. 396 00:24:21.100 --> 00:24:24.760 Потом начались десятки лет, потом начались годы, 397 00:24:24.760 --> 00:24:28.920 а сейчас что? А сейчас дни. Встает вопрос, 398 00:24:29.440 --> 00:24:34.160 у нас выдержит вот это все наш интеллект? 399 00:24:34.320 --> 00:24:38.220 Не наш интеллект, наш мозг вообще, наш организм 400 00:24:38.220 --> 00:24:42.420 даже шире. Он выдержит? Понимаете, мы, во-первых, 401 00:24:42.520 --> 00:24:44.800 гигантская скорость, во-вторых, мы ничему 402 00:24:44.800 --> 00:24:45.360 не верим. 403 00:24:46.040 --> 00:24:49.180 Мы же ничему не верим, поскольку виртуальные 404 00:24:49.180 --> 00:24:53.700 системы вам создадут что хочешь. И поскольку 405 00:24:53.700 --> 00:24:57.920 эти возможности все лучше и лучше, это вранье, 406 00:24:57.920 --> 00:25:01.900 фейки, они так правдоподобны, что они как бы... 407 00:25:02.190 --> 00:25:05.590 Им доверяешь больше, чем реальному миру. Ничего себе. 408 00:25:06.030 --> 00:25:10.670 А кому верить? У меня есть вообще надежда 409 00:25:10.670 --> 00:25:14.670 проверить то, что мне показывают. Это к правде 410 00:25:14.670 --> 00:25:16.650 вообще имеет какое-то отношение или нет? 411 00:25:17.170 --> 00:25:20.090 Вот я и здесь и пишу. Исчезает способность 412 00:25:20.090 --> 00:25:23.710 проверки информации. А что нам делать? Вот 413 00:25:23.710 --> 00:25:26.350 меня часто спрашивают. И что? Что вы делаете? 414 00:25:26.510 --> 00:25:28.570 Вот меня спрашивают. Я говорю всегда одно 415 00:25:28.570 --> 00:25:31.230 и то же. Я лично пользуюсь сплетнями. 416 00:25:31.900 --> 00:25:35.280 А именно, у меня есть некоторое количество людей, 417 00:25:35.460 --> 00:25:40.060 которым я доверяю. Я знаю, что они, во-первых, 418 00:25:40.240 --> 00:25:42.760 информированы, действительно информированы, 419 00:25:42.820 --> 00:25:46.640 а во-вторых, не склонны из этого придумывать 420 00:25:46.640 --> 00:25:49.780 какие-то сказочные сюжеты. Вот если он мне скажет, 421 00:25:49.800 --> 00:25:54.740 Джонсона читай, он понимает, а Смита не читай, 422 00:25:54.740 --> 00:25:57.600 потому что он ****. Я именно так и буду делать. 423 00:25:58.430 --> 00:26:01.690 Потому что у меня другого способа нет. Нужно 424 00:26:01.690 --> 00:26:04.890 кому-то верить. Студентам мы что говорим? 425 00:26:04.890 --> 00:26:07.190 Это вот и медикам то же самое, естественно, 426 00:26:07.190 --> 00:26:10.930 я думаю. Мы говорим, по такой-то теме, вот 427 00:26:10.930 --> 00:26:15.390 смотрите на экран, сайты, линки, в те места, 428 00:26:15.530 --> 00:26:18.410 которым мы доверяем. По этой теме. По другой 429 00:26:18.410 --> 00:26:23.070 доверяем другим. Если вам хочется в Википедии сидеть, 430 00:26:23.070 --> 00:26:24.290 вперед, только... 431 00:26:25.020 --> 00:26:28.500 Из аудитории после этого уходите. Информация 432 00:26:28.500 --> 00:26:33.240 должна быть получена в нужных местах. Дальше. 433 00:26:33.240 --> 00:26:36.000 Все договоренности рухнули. Вы понимаете, 434 00:26:36.020 --> 00:26:38.380 как мы, собственно, как продолжать жить, если, 435 00:26:38.500 --> 00:26:42.140 скажем, сегодня, без намека на политику, но 436 00:26:42.140 --> 00:26:45.000 все же, если сегодня главы государств договариваются 437 00:26:45.000 --> 00:26:45.620 о чем-то. 438 00:26:46.580 --> 00:26:49.160 Ложаться спать. Утром один из них просыпается 439 00:26:49.160 --> 00:26:51.640 и говорит, я передумал. Понимаете, так мир 440 00:26:51.640 --> 00:26:55.300 существовать не может. Так жить нельзя. Должны 441 00:26:55.300 --> 00:26:58.300 быть хоть какие-то устойчивые вещи. Я почему 442 00:26:58.300 --> 00:27:01.300 на Алису всегда ссылаюсь. Кто давно не читал, 443 00:27:01.300 --> 00:27:04.820 очень советую. Только Алиса в стране чудес 444 00:27:04.820 --> 00:27:09.000 и Алиса в зазеркалье. Только читать не как сказку, 445 00:27:09.020 --> 00:27:13.580 а как очень серьезное философское и даже математическое произведение. 446 00:27:13.660 --> 00:27:14.580 Ну, автор-то. 447 00:27:14.760 --> 00:27:18.220 математик же был. Она не для детей вообще написана. 448 00:27:18.680 --> 00:27:21.060 Вот это мир, в котором мы сейчас оказались. 449 00:27:21.120 --> 00:27:24.220 Рухнули все правила. Ничего не действует. 450 00:27:24.440 --> 00:27:28.660 Понимаете? Так не может социум существовать. 451 00:27:29.540 --> 00:27:32.500 когда все время меняются правила игры. Вот 452 00:27:32.500 --> 00:27:35.380 сегодня вы выходите на улицу, и вы знаете, 453 00:27:35.380 --> 00:27:38.500 что красный свет – это стой, а зеленый свет 454 00:27:38.500 --> 00:27:42.060 – иди. А после полудня оказывается наоборот. 455 00:27:42.180 --> 00:27:45.320 Но только вам никто не рассказал, что правила поменялись. 456 00:27:45.340 --> 00:27:49.140 Вот мы где живем сейчас. Мы куда-то попались. 457 00:27:50.420 --> 00:27:54.100 У нас сложнейшая нейронная сеть. Как вы понимаете, 458 00:27:54.100 --> 00:27:58.340 эти картинки – это электронно-микроскопические 459 00:27:58.340 --> 00:28:01.460 маленькие кусочки. 460 00:28:02.570 --> 00:28:05.330 И для того, чтобы всех напугать, нейронов 461 00:28:05.330 --> 00:28:09.890 у нас по нынешним сведениям 86 миллиардов. 462 00:28:11.570 --> 00:28:15.150 Недавно еще я произносила 100 миллиардов. 463 00:28:15.150 --> 00:28:17.550 Но мне кажется, когда счет идет на такие величины, 464 00:28:17.570 --> 00:28:21.150 ей-богу, это уже не важно. Где 86, там и 90, 465 00:28:21.410 --> 00:28:26.070 это уже не важно. Важно то, что каждый нейрон 466 00:28:26.070 --> 00:28:30.170 может иметь огромное количество связей с другими 467 00:28:30.170 --> 00:28:31.050 частями мозга. 468 00:28:31.080 --> 00:28:34.860 Это может быть 50 тысяч связей, короче говоря, 469 00:28:35.020 --> 00:28:39.000 или даже больше. Короче говоря, если мы все 470 00:28:39.000 --> 00:28:41.520 это перемножим, то мы получим квадриллион 471 00:28:41.520 --> 00:28:44.820 синаптических соединений в мозгу. Это абсолютно 472 00:28:44.820 --> 00:28:50.440 запредельная величина. О том, чтобы даже сложнейшие 473 00:28:50.440 --> 00:28:54.140 суперкомпьютеры вот такую вещь могли обеспечить, 474 00:28:54.160 --> 00:28:58.820 об этом нет и речи. Даже те исследования мозга, которые... 475 00:28:59.500 --> 00:29:03.880 являют как невероятные открытия. Они, я не знаю, 476 00:29:03.980 --> 00:29:08.820 у мышки вот такой вот кусочек взяли и смоделировали его, 477 00:29:08.880 --> 00:29:14.320 и они гордятся... Да что такое? Гордятся, 478 00:29:14.520 --> 00:29:17.980 что они так преуспели. У мышки, а человеческий 479 00:29:17.980 --> 00:29:21.140 -то мозг. Видов нейронов до чертой бабушки. 480 00:29:21.880 --> 00:29:26.060 Аглии, глиальных клеток, в которых это все утоплено, 481 00:29:26.060 --> 00:29:27.960 у которых, как мы знаем, свои когнитивные... 482 00:29:29.830 --> 00:29:34.170 возможности есть, своя память. И если у ребенка 483 00:29:34.170 --> 00:29:38.110 в результате чего-то или внутриутробного 484 00:29:38.110 --> 00:29:41.670 развития глиальная вся эта история нарушена, 485 00:29:41.670 --> 00:29:45.730 то он с мощными когнитивными нарушениями рождается. 486 00:29:45.830 --> 00:29:46.670 При том, что... 487 00:29:47.710 --> 00:29:50.790 Игрок-то нейрон, не глия нейрон, так вот 488 00:29:50.790 --> 00:29:53.670 ее еще в 10 раз больше. Я не знаю, есть ли 489 00:29:53.670 --> 00:29:56.310 в человеческих языках слова, которые могут 490 00:29:56.310 --> 00:29:59.110 описывать такие величины. Обычно про это говорят 491 00:29:59.110 --> 00:30:03.270 гиперастрономические величины. Жуткая вещь. 492 00:30:04.170 --> 00:30:07.590 Еще хуже то, что я не знаю, что хуже, что лучше, 493 00:30:07.710 --> 00:30:10.510 что эта же сеть, она все время строится. 494 00:30:11.820 --> 00:30:14.780 Она динамическая, это не то, что она сложная, 495 00:30:14.780 --> 00:30:17.360 но уж какая есть, такая есть. Она все время меняется, 496 00:30:17.380 --> 00:30:19.300 вот сейчас, пока мы разговариваем, она там 497 00:30:19.300 --> 00:30:22.220 пишет и пишет, пишет и пишет, то есть она 498 00:30:22.220 --> 00:30:27.820 все время другая. Есть такое понятие 499 00:30:27.820 --> 00:30:31.600 число Данбара. Считается, я как-то так спокойно 500 00:30:31.600 --> 00:30:34.440 к этому отношусь, но все-таки произнесу. 501 00:30:35.000 --> 00:30:40.080 сами видите почему, считают допустимое количество 502 00:30:40.080 --> 00:30:44.160 социальных связей в зависимости от размера мозга. 503 00:30:44.200 --> 00:30:48.960 Ну, скажем, у наших родственников недалеких 504 00:30:48.960 --> 00:30:52.720 мозг в три раза меньше, чем у нас, и размер 505 00:30:52.720 --> 00:30:56.760 социальной группы, большой социальной группы, 506 00:30:56.760 --> 00:31:00.420 50 особей, а ближний групп 3-4, ну хорошо, 507 00:31:00.560 --> 00:31:03.520 5-6, там ладно. У человека... 508 00:31:05.719 --> 00:31:10.940 150 и 12, 15 должно быть близких. Откройте телефон, 509 00:31:11.220 --> 00:31:15.400 посмотрите, что там делается. Счет идет на тысячи. 510 00:31:16.020 --> 00:31:20.280 Мы это в состоянии выдержать? Этот вопрос стоит, 511 00:31:20.560 --> 00:31:24.400 я не паникую, этот вопрос стоит, потому что 512 00:31:24.400 --> 00:31:27.440 мы в этом социуме как бы потерялись. 513 00:31:30.490 --> 00:31:35.590 Итого, мы окружены сетями разного сорта. Это 514 00:31:35.590 --> 00:31:39.070 гиперсети в мозгу. Вот мой друг и коллега, 515 00:31:39.070 --> 00:31:44.070 академик Анохин Константин Владимирович, младший Анохин. 516 00:31:45.420 --> 00:31:49.960 он разрабатывает гиперсетевую теорию мозга. 517 00:31:50.040 --> 00:31:55.460 Речь идет о сетях, сетях сетей, сетях сетей 518 00:31:55.460 --> 00:31:58.820 сетей и так далее, пока вам не надоест. То 519 00:31:58.820 --> 00:32:03.660 есть речь идет о структурах такой степени сложности, 520 00:32:03.660 --> 00:32:06.740 где единицей являются уже сети. 521 00:32:07.400 --> 00:32:12.780 Это жуткое дело. Гиперсети и в социуме. Социум 522 00:32:12.780 --> 00:32:16.800 очень сложно устроен. И не нужно думать, что 523 00:32:16.800 --> 00:32:21.720 мы им управляем. Это я бы сказала власть придержащим. 524 00:32:21.720 --> 00:32:25.860 Они почему-то, я думаю, они считают, что 525 00:32:25.860 --> 00:32:28.860 они видят, как устроен социум. Они ошибаются. 526 00:32:29.160 --> 00:32:31.580 Это рвется, перестраивается. 527 00:32:32.940 --> 00:32:35.540 Вопрос, который тоже я часто слушаю. А что 528 00:32:35.540 --> 00:32:39.360 вот это новые дети рождаются? Ну вообще вот 529 00:32:39.360 --> 00:32:41.760 если так вопрос поставлен, то я бы сказала да. 530 00:32:42.080 --> 00:32:44.740 Но не так, как они задают этот вопрос. Потому 531 00:32:44.740 --> 00:32:47.800 что они имеют в виду, что произошли мутации, 532 00:32:47.800 --> 00:32:49.960 но мы же понимаем, что это не может быть. 533 00:32:50.180 --> 00:32:54.240 Ну времени нет на такие мутации. Что дети 534 00:32:54.240 --> 00:32:57.720 рождаются биологически другими. Нет, биологически 535 00:32:57.720 --> 00:33:01.480 они какие были, такие и есть. Но они рождаются как... 536 00:33:01.480 --> 00:33:03.480 как бы с гаджетами в руках, что называется, 537 00:33:03.760 --> 00:33:06.540 в ушах, глазах и так далее. То есть они сразу 538 00:33:06.540 --> 00:33:10.040 в цифровом мире. Специалисты даже говорят, 539 00:33:10.140 --> 00:33:15.660 что мы это как бы путешественники или 540 00:33:15.660 --> 00:33:19.620 мигранты даже в цифровом мире, а дети аборигены. 541 00:33:19.980 --> 00:33:24.020 Мы учимся этому цифровому миру, а они другого 542 00:33:24.020 --> 00:33:27.000 мира не знают. Они уже в нем. Поэтому... 543 00:33:29.040 --> 00:33:31.960 Нам надо понять, что с ними делать. Говорят, 544 00:33:31.960 --> 00:33:35.820 плохие учителя. А вы, во-первых, какие хорошие? 545 00:33:36.020 --> 00:33:39.380 Какие, не в смысле имен? А хороший учитель 546 00:33:39.380 --> 00:33:44.260 это какой? А во-вторых, а где их взять? 547 00:33:45.040 --> 00:33:47.560 Где их взять? Их самих никто не учил. Я ведь 548 00:33:47.560 --> 00:33:51.860 с этого начала, что вы нас учите жить в том мире, 549 00:33:51.940 --> 00:33:55.920 в котором мы переехали на планету Юпитер. 550 00:33:56.600 --> 00:33:59.700 Никто не знает, как здесь живут. С чего вы решили, 551 00:33:59.720 --> 00:34:02.400 что вы нам учителя? Вопрос тревожный. 552 00:34:02.810 --> 00:34:07.590 Он есть. Несостоятельность этических и юридических норм. 553 00:34:07.770 --> 00:34:13.630 Это касается всего. Это касается геномных исследований. 554 00:34:13.690 --> 00:34:16.330 Что мы себе можем позволить? Что мы разрешаем? 555 00:34:16.370 --> 00:34:20.110 А что мы не разрешаем? Абсолютно непроработанная вещь. 556 00:34:20.190 --> 00:34:23.670 То есть понятно, что есть всякие комитеты 557 00:34:23.670 --> 00:34:27.070 по биоэтике, по нейроэтике. Все это есть. 558 00:34:27.310 --> 00:34:31.310 Ну и что? Кто-нибудь знает примеры, когда науку... 559 00:34:31.370 --> 00:34:35.050 удалось удержать запретами. Нет, не бывает этого. 560 00:34:35.350 --> 00:34:39.989 Можно какие хочешь издать эти законы, после 561 00:34:39.989 --> 00:34:43.489 этого появится миллиардер, условный Илон Маск, 562 00:34:43.590 --> 00:34:48.210 который купит условный остров посреди Атлантики, 563 00:34:48.250 --> 00:34:50.710 ну посреди не бывает островов, но где-то, 564 00:34:50.730 --> 00:34:53.790 да, и пригласит туда лучших специалистов, 565 00:34:53.790 --> 00:34:55.830 и они более того туда пойдут. 566 00:34:56.270 --> 00:34:58.750 И он им скажет, у вас будут условия, о которых 567 00:34:58.750 --> 00:35:01.830 вы не можете даже вообразить. У вас будут 568 00:35:01.830 --> 00:35:06.670 лучшие приборы, лучшие химические и прочие, 569 00:35:06.670 --> 00:35:10.070 прочие, прочие компоненты всего этого. И они 570 00:35:10.070 --> 00:35:13.070 вам клонируют кого хотите. Помните, недавно 571 00:35:13.070 --> 00:35:16.350 была история, когда китаец подправил геном 572 00:35:16.350 --> 00:35:20.670 у двух девочек, этих самых, новорожденных, 573 00:35:20.670 --> 00:35:21.969 да? И где он? 574 00:35:23.009 --> 00:35:25.810 Все это, это полностью потухла эта история. 575 00:35:25.889 --> 00:35:28.170 Она вся провалилась куда-то в преисподнюю, 576 00:35:28.190 --> 00:35:31.130 что ли, не знаю. Ну, в общем, она куда-то делась. 577 00:35:31.170 --> 00:35:34.790 Но он ведь это сделал, понимаете? Это просто 578 00:35:34.790 --> 00:35:37.969 вышло на поверхность. А в каких-то местах 579 00:35:37.969 --> 00:35:39.350 оно и не выйдет на поверхность. 580 00:35:40.270 --> 00:35:42.909 У нас нет, по поводу искусственного интеллекта, 581 00:35:42.909 --> 00:35:47.170 у нас нет правил поведения юридических. Вот 582 00:35:47.170 --> 00:35:50.830 какое-то время назад первый был случай, когда 583 00:35:50.830 --> 00:35:53.730 беспилотная машина во Флориде кого-то задавила. 584 00:35:53.870 --> 00:35:57.550 Но с тех пор уже много чего такого было. Кто отвечает? 585 00:35:59.100 --> 00:36:01.960 Программист, владелец этой машины, может быть, 586 00:36:01.960 --> 00:36:07.080 сам пассажир, который сказал, нет, делай не так, 587 00:36:07.120 --> 00:36:09.540 а делай так. То есть здесь много вариантов, 588 00:36:09.540 --> 00:36:13.500 ответов. И это не разработано. Кто? Что мы 589 00:36:13.500 --> 00:36:18.820 можем доверить? То есть фактически этические 590 00:36:18.820 --> 00:36:22.719 и юридические нормы не функционируют. 591 00:36:24.170 --> 00:36:28.070 Итого, вокруг нас вот такой вот мир. Он очень быстрый, 592 00:36:28.070 --> 00:36:33.010 он гибридный, он одновременно цифровой и не цифровой, 593 00:36:33.010 --> 00:36:36.510 он как-то подмигивает, мерцает, он то одним 594 00:36:36.510 --> 00:36:39.190 боком повернется, то другим, то мы ему вроде 595 00:36:39.190 --> 00:36:41.910 бы поверили, а потом думаем, еще не знаю, 596 00:36:41.910 --> 00:36:45.170 стоит ли верить. Он нестабильный, он очень 597 00:36:45.170 --> 00:36:48.050 -очень быстро меняется. Вот некоторое время 598 00:36:48.050 --> 00:36:48.990 назад я... 599 00:36:51.160 --> 00:36:54.340 До ковида еще. Когда еще летали самолеты, 600 00:36:54.340 --> 00:36:57.040 короче говоря. Я в самолете умудрилась наступить 601 00:36:57.040 --> 00:37:00.600 на телефон на свой. Ну и приземлившись, значит, 602 00:37:00.640 --> 00:37:03.080 пошла, говорю, вот мне такой же телефон. Но, 603 00:37:03.120 --> 00:37:05.440 говорю, имейте в виду, что мне нужен телефон. 604 00:37:05.740 --> 00:37:08.520 Знаете, что такое телефон, я им говорю. Они думают, 605 00:37:08.540 --> 00:37:10.780 что я ненормальная, говорят, знаем. Я говорю, 606 00:37:10.800 --> 00:37:13.460 нет, все-таки еще раз. Телефон не должен 607 00:37:13.460 --> 00:37:16.620 печь блины, он не должен вылетать на Марс, 608 00:37:16.620 --> 00:37:19.340 он не должен мне советовать, как и с кем мне жить. 609 00:37:19.660 --> 00:37:23.640 Он должен звонить только, больше ничего. Они говорят, 610 00:37:23.720 --> 00:37:27.900 таких больше на Земле нет. Более того, они 611 00:37:27.900 --> 00:37:31.220 меня еще вынуждают все время изучать новые программы. 612 00:37:31.240 --> 00:37:34.600 Вот я уже так делаю. Нет, тебе вот для андроида, 613 00:37:34.600 --> 00:37:37.480 вот теперь ты скачивай, изучай. Подождите, 614 00:37:37.480 --> 00:37:42.080 кто хозяин в доме? Я не хочу изучать ваших штучек, 615 00:37:42.080 --> 00:37:43.100 мне есть чем заняться. 616 00:37:44.439 --> 00:37:47.800 Итого, автономная жизнь цифрового мира есть, 617 00:37:48.080 --> 00:37:53.460 интернет вещей есть, сети, любые сети, как мозговые, 618 00:37:53.480 --> 00:37:56.680 так и социальные, вообще всякие, имеют свои 619 00:37:56.680 --> 00:38:00.940 законы самоорганизации, просто как сети. Это 620 00:38:00.940 --> 00:38:02.860 отдельная область науки есть. 621 00:38:05.590 --> 00:38:08.990 Недоверие к информации растет, и цифровая 622 00:38:08.990 --> 00:38:12.630 реальность будет признаком отбора в социуме. 623 00:38:12.690 --> 00:38:15.010 Если представить себе, что мы живем посреди, 624 00:38:15.010 --> 00:38:20.570 я не знаю, сельвы, у нас нет интернета, и мы 625 00:38:20.570 --> 00:38:23.110 при этом живем довольно счастливо и спокойно, 626 00:38:23.130 --> 00:38:25.550 ни новостей не знаем, вообще ничего не знаем. 627 00:38:25.650 --> 00:38:29.130 Можно считать, что нас нет. То есть мы не 628 00:38:29.130 --> 00:38:32.830 участники этой жизни. Опасно. 629 00:38:33.990 --> 00:38:37.370 У нас есть много тревог. Например, синдром 630 00:38:37.370 --> 00:38:39.970 отложенной жизни. Вот что мы детям говорим? 631 00:38:40.280 --> 00:38:44.580 Обычно. Но они нас сейчас заткнут. Мы детям говорим, 632 00:38:44.580 --> 00:38:48.540 если ты будешь хорошо учиться, кончишь хорошо школу, 633 00:38:48.560 --> 00:38:52.780 в университет хороший поступишь, потом магистратура, 634 00:38:52.840 --> 00:38:55.660 аспирантура, диссертацию защитишь, там выешь 635 00:38:55.660 --> 00:38:58.760 замуж или женишься, поступишь на хорошую работу, 636 00:38:58.840 --> 00:39:03.940 а там уже апостолы выглядывают и говорят, приехали. 637 00:39:05.110 --> 00:39:08.250 Успокойтесь. Что мы куда откладываем? Не в этой 638 00:39:08.250 --> 00:39:12.610 аудитории говорить. У нас нет черновика. Когда 639 00:39:12.610 --> 00:39:16.290 первые клетки соединились, материнская с отцовской, 640 00:39:16.370 --> 00:39:19.310 это началось. Идет чистовик. 641 00:39:19.800 --> 00:39:24.580 Никакого черновика нет. Надвигается цивилизация праздности. 642 00:39:24.620 --> 00:39:28.800 Уже есть места в мире, где платят базовый доход, 643 00:39:28.960 --> 00:39:32.980 чтобы человек с голоду не помер, и у него 644 00:39:32.980 --> 00:39:36.880 только чтобы не работал. Вот я знаю, во Франции, 645 00:39:36.880 --> 00:39:39.080 по-моему, в Дании такая история, фермерам. 646 00:39:39.120 --> 00:39:41.960 Вот вам деньги, главное, ничего не выращивайте. 647 00:39:42.340 --> 00:39:46.660 А чем займутся? Опять же, Грефу задавала вопрос. 648 00:39:46.720 --> 00:39:47.640 Он говорит... 649 00:39:48.110 --> 00:39:52.470 креативно будут мыслить. Креативно будут мыслить? 650 00:39:52.570 --> 00:39:55.590 Я с трудом представляю себе многомиллиардное 651 00:39:55.590 --> 00:39:58.750 население Земли, которое с лютнями бродит 652 00:39:58.750 --> 00:40:03.990 по просторам планеты и пишет мадригалы. А у меня 653 00:40:03.990 --> 00:40:07.950 другой сценарий на тему тех, кому абсолютно 654 00:40:07.950 --> 00:40:11.370 нечего делать. Опасная вещь. И, наконец, полная 655 00:40:11.370 --> 00:40:14.430 дезориентация в мире. Мы не понимаем, что хорошо, 656 00:40:14.550 --> 00:40:15.010 что плохо. 657 00:40:15.690 --> 00:40:20.890 из-под нас выбили базовые представления о мире. 658 00:40:21.110 --> 00:40:24.330 Мы просто не понимаем, где мы и что мы делаем. 659 00:40:27.830 --> 00:40:31.590 Подделки лучше оригиналов. Искусственный интеллект 660 00:40:31.590 --> 00:40:35.430 продуцирует любые новости, включая научные. 661 00:40:35.880 --> 00:40:40.200 Он учится быстрее, чем нас и каким-то другим способом. 662 00:40:41.040 --> 00:40:43.620 Киберугрозы со всех сторон, мы это понимаем. 663 00:40:45.160 --> 00:40:48.520 Человекомашинное взаимодействие очень полезная 664 00:40:48.520 --> 00:40:52.140 вещь в медицине. Разговора нет. Вот мой коллега 665 00:40:52.140 --> 00:40:55.180 и друг, профессор Каплан, МГУшный профессор, 666 00:40:55.180 --> 00:40:58.960 который на этой территории сидит, у него мегагранты всякие, 667 00:40:58.960 --> 00:41:02.140 всколковые везде. Но они замечательные вещи делают. 668 00:41:02.400 --> 00:41:04.200 Люди после инсультов. 669 00:41:04.430 --> 00:41:08.010 и аналогичных вещей, которые парализованы, 670 00:41:08.010 --> 00:41:11.290 и все это с помощью этих штук. Их можно из 671 00:41:11.290 --> 00:41:14.430 этого кокона вынуть, с ними в коммуникацию вступать. 672 00:41:14.450 --> 00:41:18.830 С этим же никто не спорит. Я не дура, чтобы говорить, 673 00:41:18.870 --> 00:41:21.610 что это вообще все плохо. Но мы же понимаем, 674 00:41:21.610 --> 00:41:23.950 что ход в одну сторону, это и ход в другую. 675 00:41:24.290 --> 00:41:29.730 А именно пока что мысли мы не читаем. Я лично думаю, 676 00:41:29.770 --> 00:41:30.610 что и не будем. 677 00:41:31.400 --> 00:41:37.680 Но примерно сказать, человек сейчас умножает 678 00:41:37.680 --> 00:41:40.960 двухзначные числа или слушает музыку, или 679 00:41:40.960 --> 00:41:43.460 вспоминает о том, как он играл в тезис, мы 680 00:41:43.460 --> 00:41:48.140 можем сейчас. Так что примерно, примерно мы 681 00:41:48.140 --> 00:41:53.200 уже туда вход тоже имеем. Ну и что? Что мы 682 00:41:53.200 --> 00:41:55.060 будем делать в связи с этим? 683 00:41:56.920 --> 00:42:00.380 Ну, сейчас, поскольку война, не думаю, что 684 00:42:00.380 --> 00:42:02.460 сейчас кто-нибудь этим занимается, но слайд 685 00:42:02.460 --> 00:42:06.260 этот делался, скажем, полгода назад, и тогда 686 00:42:06.260 --> 00:42:10.720 международные организации высокого уровня, 687 00:42:10.740 --> 00:42:14.520 типа Всемирной организации здравоохранения, 688 00:42:14.540 --> 00:42:17.180 ООН и так далее, такие вещи обсуждали, потому 689 00:42:17.180 --> 00:42:21.980 что мы к опасной черте подошли. Мы не должны 690 00:42:21.980 --> 00:42:24.680 потерять контроль над этой ситуацией, если 691 00:42:24.680 --> 00:42:25.320 грубо говорить. 692 00:42:26.279 --> 00:42:30.540 Но можем. И даже есть такие термины, как next 693 00:42:30.540 --> 00:42:31.560 generation technologies. 694 00:42:33.310 --> 00:42:36.690 Технологии следующего поколения, где уже там тревожно, 695 00:42:36.770 --> 00:42:41.550 уже серой пахнет, там бесы вылезают. Нейрохакинг, 696 00:42:41.610 --> 00:42:47.270 то есть способность из мозга вынуть некоторую информацию, 697 00:42:47.310 --> 00:42:50.770 которую не хотелось бы, чтобы вынимали. Не далее, 698 00:42:50.770 --> 00:42:55.590 как вчера у меня семинар был и выступал. 699 00:42:57.750 --> 00:43:01.990 серьезный ученый, и я ему говорю о... 700 00:43:05.330 --> 00:43:09.890 Точно, что мы не можем вынуть никакую информацию 701 00:43:09.890 --> 00:43:12.330 из мозга пока? Я говорю, я не уверен, не уверен. 702 00:43:12.390 --> 00:43:14.950 Я говорю, то есть что значит не уверен? Значит, 703 00:43:14.990 --> 00:43:18.870 мы уже как бы, уже подошли, уже подошли. Ну да, 704 00:43:18.950 --> 00:43:21.730 это вообще возможно. Тогда у меня встают вопросы, 705 00:43:22.130 --> 00:43:25.870 которые вот сейчас я задам. Я понимаю, мне 706 00:43:25.870 --> 00:43:28.610 надо заканчивать, так? Да, сейчас закончу. 707 00:43:29.980 --> 00:43:32.940 Работа с геномом. Понимаете, те самые дети 708 00:43:32.940 --> 00:43:37.040 на заказ, это, конечно, звучит как дешевая шутка, 709 00:43:37.040 --> 00:43:41.420 но она возможна. Любые деньги хочу, чтобы 710 00:43:41.420 --> 00:43:43.300 барышня у меня родилась. 711 00:43:44.030 --> 00:43:49.070 чтобы у нее был IQ 280, как ни у кого на Земле, 712 00:43:49.110 --> 00:43:51.850 чтобы талия была такая, один глаз розовый, 713 00:43:51.870 --> 00:43:56.330 другой зеленый, чтобы она была спортсменка, 714 00:43:56.350 --> 00:43:59.930 чтобы она играла на всех музыках. Звучит как идиотизм, 715 00:43:59.930 --> 00:44:02.650 но теоретически возможно. Другой вопрос, что 716 00:44:02.650 --> 00:44:05.070 на этом вообще все сломается. Какие будут 717 00:44:05.070 --> 00:44:09.170 потомки у этой барышни? Тем не менее, работа 718 00:44:09.170 --> 00:44:11.450 с геномом такая серьезная вещь. Вы, конечно, 719 00:44:11.570 --> 00:44:12.150 можете сказать, да. 720 00:44:12.300 --> 00:44:15.340 Но если мы знаем, что такие-то гены отвечают, 721 00:44:15.380 --> 00:44:18.320 скажем, за потенциальную возможность развития 722 00:44:18.320 --> 00:44:21.160 шизофрении или онкологии, да, там не в вашей 723 00:44:21.160 --> 00:44:24.620 среде говорить, то почему бы нам их не подправить? 724 00:44:24.620 --> 00:44:28.380 Вроде бы все хорошо, да, а остальные гены, 725 00:44:28.400 --> 00:44:30.760 это что, как бы их не трогает? 726 00:44:31.100 --> 00:44:34.180 Это же не то, что мы отсюда вырезали, а здесь 727 00:44:34.180 --> 00:44:37.880 все ничего не произошло. Слишком сложная система. 728 00:44:38.600 --> 00:44:41.380 Это не кубик, понимаете, из которого вынул 729 00:44:41.380 --> 00:44:47.300 цвет один, а остальные на месте. Но онлайн-образование, 730 00:44:47.300 --> 00:44:50.400 бог с ним. Вот мои вопросы в связи с этим. 731 00:44:50.560 --> 00:44:54.080 А вот глупый человек – это кто? 732 00:44:55.480 --> 00:44:58.860 Или, а может быть, глупый мозг? Не человек, 733 00:44:59.060 --> 00:45:04.200 это я ответов не имею, но задаю. А мозг самого, 734 00:45:04.200 --> 00:45:07.760 вот самого-самого низкоинтеллектуального человека, 735 00:45:07.840 --> 00:45:11.540 он все равно самое сложное во Вселенной. И тогда 736 00:45:11.540 --> 00:45:13.880 что значит, почему он, собственно, такой глупый? 737 00:45:14.460 --> 00:45:17.040 А какой мы искусственный интеллект создаем? 738 00:45:17.260 --> 00:45:20.000 Может быть, мы создаем глупый искусственный 739 00:45:20.000 --> 00:45:23.480 интеллект или безнравственный? А кто-нибудь 740 00:45:23.480 --> 00:45:27.040 нравственность туда закладывает? А что считать нравственностью? 741 00:45:27.120 --> 00:45:30.080 Здесь огромный список вопросов. Для того, 742 00:45:30.120 --> 00:45:32.700 чтобы там что-то было, мы должны объяснить, 743 00:45:32.760 --> 00:45:36.240 а мы сами не знаем. А гениальный – это какой? 744 00:45:36.860 --> 00:45:39.220 Гениальный – это мозг или гениальный – это человек? 745 00:45:40.190 --> 00:45:43.310 И не за счет скорости, а за счет каких-то 746 00:45:43.310 --> 00:45:47.150 других операций. Вот мои опасные вопросы. 747 00:45:47.370 --> 00:45:51.310 А может ли у искусственного интеллекта получиться личность? 748 00:45:51.430 --> 00:45:55.490 И это не бабьи разговоры, я вас уверяю. У него 749 00:45:55.490 --> 00:46:01.050 может появиться self, самость, я. А мы 750 00:46:01.050 --> 00:46:01.930 об этом узнаем? 751 00:46:02.980 --> 00:46:05.720 Что говорят специалисты, в частности в Сколково, 752 00:46:05.760 --> 00:46:08.420 они говорят, если не дай бог, это серьезные 753 00:46:08.420 --> 00:46:12.040 специалисты говорят, если не дай бог это произойдет, 754 00:46:12.040 --> 00:46:13.820 крышка закрыта. 755 00:46:14.510 --> 00:46:18.810 Хода назад нет. Они даже употребляют слово «сингулярность». 756 00:46:19.250 --> 00:46:23.350 Если эти программы разобьются до того, что 757 00:46:23.350 --> 00:46:26.470 они станут личностями, из этого следует, что 758 00:46:26.470 --> 00:46:28.830 у них собственные планы, собственные цели. 759 00:46:28.970 --> 00:46:31.890 Мы в эти цели точно не входим. 760 00:46:33.470 --> 00:46:36.670 Если мы думаем, что мы их вырубим из сети, 761 00:46:36.670 --> 00:46:40.930 как вот пример, который, слушайте, речь идет 762 00:46:40.930 --> 00:46:43.710 о таких уровнях развития, что они, разумеется, 763 00:46:43.710 --> 00:46:46.950 позаботятся о том, чтобы их ни от чего отрубить 764 00:46:46.950 --> 00:46:49.590 было нельзя. Солнечная энергия или там термояд 765 00:46:49.590 --> 00:46:52.170 и так далее. А они чувствовать боль будут? 766 00:46:52.930 --> 00:46:56.190 Страдать они будут? А сострадать они будут? 767 00:46:56.390 --> 00:46:58.970 Или они будут делать вид хорошие актеры? 768 00:47:00.220 --> 00:47:02.600 Выглядит, как будто он прямо ночью не спит, 769 00:47:02.600 --> 00:47:07.220 а вас переживает. Поэтому нам нужно притормозить, 770 00:47:07.220 --> 00:47:10.700 понять, что из цифрового мира мы никуда не денемся, 771 00:47:10.780 --> 00:47:15.120 более того, что он приносит пользу. Вот я как 772 00:47:15.120 --> 00:47:17.320 бы говорила в другую сторону, но я начала 773 00:47:17.320 --> 00:47:19.860 с того, что есть вещи, которые без него мы 774 00:47:19.860 --> 00:47:23.380 не можем сделать. Но мы должны все время себя 775 00:47:23.380 --> 00:47:24.500 держать за хвост. 776 00:47:25.520 --> 00:47:28.880 Пересмотр базовых этических норм ценностей 777 00:47:28.880 --> 00:47:29.680 и смыслов. 778 00:47:30.470 --> 00:47:33.610 Не нужно хаоса добавлять в тот мир, который 779 00:47:33.610 --> 00:47:36.010 так совершенно спятил, как, я думаю, каждый 780 00:47:36.010 --> 00:47:40.670 это понимает. И я заканчиваю вот на этой картинке неожиданной. 781 00:47:41.030 --> 00:47:45.450 И это, если кто не помнит, то советую вспомнить. 782 00:47:45.610 --> 00:47:50.130 Это кадр из одного из гениальных фильмов Чарли 783 00:47:50.130 --> 00:47:54.050 Чаплина «Огни большого города». И он про тепло 784 00:47:54.050 --> 00:47:57.510 и про человеческое. Когда детей... 785 00:47:58.000 --> 00:48:01.700 И студентов, школьников и студентов спрашивают, 786 00:48:01.700 --> 00:48:04.640 я говорю про конкретные исследования, какой 787 00:48:04.640 --> 00:48:07.640 учитель для них хороший. Не в смысле Мария 788 00:48:07.640 --> 00:48:10.000 Ивановна или Сидор Сидорович, а вот идеальный 789 00:48:10.000 --> 00:48:13.220 учитель – это какой? Вы не поверите, практически 790 00:48:13.220 --> 00:48:16.820 нет ответов тот, кто много знает. 791 00:48:17.680 --> 00:48:20.280 Я не оцениваю, я не говорю, хорошо это или плохо. 792 00:48:20.400 --> 00:48:24.460 Я говорю, факт таков. Массовые ответы – это тот, 793 00:48:24.600 --> 00:48:27.540 к которому я могу подойти, который меня выслушает, 794 00:48:27.600 --> 00:48:30.980 который меня успокоит, который меня утешит, 795 00:48:31.020 --> 00:48:33.520 который мне даст советы, как мне в этом собачьем 796 00:48:33.520 --> 00:48:36.960 мире жить. Потому что подойти больше некому. 797 00:48:37.060 --> 00:48:40.880 У них родители либо такие же, как они, а, 798 00:48:40.940 --> 00:48:44.080 возможно, и бабушки, и дедушки. Все работают, 799 00:48:44.080 --> 00:48:44.740 как чумовые. 800 00:48:46.050 --> 00:48:49.030 Даже какие-то там стишки есть такие, что 801 00:48:49.030 --> 00:48:53.510 «мама нет дома», «мама нырнула в интернет». 802 00:48:54.170 --> 00:48:57.470 То есть они сидят тут где-то рядом, они сидят, 803 00:48:57.490 --> 00:49:03.010 но от этого никому не легче. И ребенок, и студент даже, 804 00:49:03.110 --> 00:49:06.110 то есть и молодой человек, оказывается в ситуации, 805 00:49:06.110 --> 00:49:11.770 когда ему некуда прислониться. Везде холодный 806 00:49:11.770 --> 00:49:13.930 и циничный мир. 807 00:49:15.870 --> 00:49:19.170 И вообще вот детей мне даже жалко. А вот куда 808 00:49:19.170 --> 00:49:22.510 им деться? Их со всех сторон жмут только. 809 00:49:23.570 --> 00:49:26.130 Конечно, мы можем сказать, да, но если их распустить, 810 00:49:26.210 --> 00:49:28.290 то и сейчас мы видим, что делается, будет 811 00:49:28.290 --> 00:49:32.030 еще хуже. Ну да, но тогда нечего нам хвастаться тем, 812 00:49:32.130 --> 00:49:34.950 что мы взрослые и знаем больше, чем они. Нам 813 00:49:34.950 --> 00:49:38.010 надо как-то собраться и подумать. Итого, 814 00:49:38.050 --> 00:49:39.050 финал таков. 815 00:49:40.040 --> 00:49:43.480 Цифровой мир уже здесь, никуда деться от него нельзя. 816 00:49:43.660 --> 00:49:49.300 Нам нужно постараться как можно больше обеспечить 817 00:49:49.300 --> 00:49:54.880 себе безопасность от этого очень мощного мира, 818 00:49:54.980 --> 00:49:57.380 в который мы попали. Я думаю, всем понятно, 819 00:49:57.640 --> 00:50:00.540 что мы полностью прозрачны, да, в кармане 820 00:50:00.540 --> 00:50:03.700 у каждого телефона. Мы же понимаем, все знают, 821 00:50:03.700 --> 00:50:06.240 где вы находитесь, где вы вообще бываете, 822 00:50:06.320 --> 00:50:08.440 чего вы, например, никогда... 823 00:50:08.590 --> 00:50:11.190 не покупаете, скажем, клубнику, значит, возможно, 824 00:50:11.430 --> 00:50:14.630 у вас аллергия там, да, и так далее. То есть 825 00:50:14.630 --> 00:50:17.190 вообще все известно, с кем вы поругались. 826 00:50:19.379 --> 00:50:22.560 Все известно. Но мы идем на это, я не знаю, 827 00:50:22.580 --> 00:50:25.420 в аэропорту, когда еще был аэропорт. Ты приходишь, 828 00:50:25.420 --> 00:50:27.840 тебе говорят, какие-то у вас каблуки подозрительные, 829 00:50:27.840 --> 00:50:30.560 там снимите. И мы сами согласны, потому что 830 00:50:30.560 --> 00:50:32.940 я не хочу, чтобы меня взорвали. Черт с ними, 831 00:50:32.980 --> 00:50:36.560 с каблуками с этими. То есть мы в очень странном мире, 832 00:50:36.620 --> 00:50:41.000 мы как бы сами отдаем по неизбежности, отдаем 833 00:50:41.000 --> 00:50:44.860 контроль над миром этим искусственным инструментом. 834 00:50:45.770 --> 00:50:47.650 Потому что деваться некуда. 835 00:50:48.730 --> 00:50:51.590 Ну, в общем, вот так. Финал таков. Хотя мне 836 00:50:51.590 --> 00:50:54.390 это все не нравится, но, повторяю, все равно, 837 00:50:54.390 --> 00:50:57.970 что говорить, да, мне не нравится, не знаю, 838 00:50:58.110 --> 00:51:01.270 погода там в Бразилии. Кто тебя спрашивает, 839 00:51:01.330 --> 00:51:03.830 нравится тебе погода в Бразилии или нет? Это 840 00:51:03.830 --> 00:51:06.790 как бы вот какая есть, такая и есть. Эта планета 841 00:51:06.790 --> 00:51:10.370 теперь такая. Для того, чтобы нам на ней как 842 00:51:10.370 --> 00:51:13.770 -то маломальски приемлемо жить, нам надо придумать, 843 00:51:13.770 --> 00:51:14.690 как на ней жить. 844 00:51:17.180 --> 00:51:18.620 Спасибо вам за терпение.
Automatic
WEBVTT 0 00:00:00.000 --> 00:00:03.780 Thank you very much. Once again, I was sitting 1 00:00:03.780 --> 00:00:06.160 and thinking, what kind of stupidity did I do 2 00:00:06.160 --> 00:00:11.200 that I didn't go to a medical school? I even 3 00:00:11.200 --> 00:00:13.900 think that maybe I would have been a good doctor, 4 00:00:14.180 --> 00:00:17.200 as it seems to me now. But that's not true anymore. 5 00:00:21.460 --> 00:00:26.160 I've been working at the Institute of Human 6 00:00:26.160 --> 00:00:29.120 Brain for a long time. I mean, my main residence 7 00:00:29.120 --> 00:00:32.759 is the University of St. Petersburg. I'm the 8 00:00:32.759 --> 00:00:35.360 director of the Institute of Cognitive Research there. 9 00:00:35.360 --> 00:00:40.340 But since I study the brain, of course, I need 10 00:00:40.340 --> 00:00:42.600 to be in professional places, so that's where 11 00:00:42.600 --> 00:00:47.480 I am. But before that, for many years, the 12 00:00:47.480 --> 00:00:48.400 academic base 13 00:01:00.100 --> 00:01:05.280 Thank you very much. 14 00:01:07.319 --> 00:01:09.480 Thank you. 15 00:01:13.140 --> 00:01:16.880 It is the person and the world in which we 16 00:01:16.880 --> 00:01:18.580 got into, the world of artificial intelligence. 17 00:01:19.340 --> 00:01:24.340 This topic, of course, is not medical, but nevertheless, 18 00:01:24.820 --> 00:01:26.360 as you can see, I inserted the picture here. 19 00:01:27.160 --> 00:01:31.720 And I... Ah, here. This young lady in a white 20 00:01:31.720 --> 00:01:32.760 robe is... 21 00:01:34.040 --> 00:01:37.640 an anthropomorphic robot, which is actually 22 00:01:37.640 --> 00:01:43.480 made in Zelenodolsk, Zelenogradsk, 23 00:01:43.500 --> 00:01:47.480 but not Gorsk. In short, it is a Moscow place 24 00:01:47.480 --> 00:01:49.340 where artificial intelligence is engaged. 25 00:01:49.880 --> 00:01:54.840 And here, please, this assistant is like a doctor's assistant. 26 00:01:55.580 --> 00:02:01.280 Another picture on this slide depicts a person, 27 00:02:01.660 --> 00:02:05.580 and it's all of us, who is very happy with himself. 28 00:02:06.680 --> 00:02:11.820 He has a cylinder, he's happy, he reads 29 00:02:11.820 --> 00:02:15.520 a newspaper and doesn't suspect anything. 30 00:02:15.560 --> 00:02:18.540 In the meantime, you can see what's going 31 00:02:18.540 --> 00:02:22.440 on behind him, what's making him laugh. I'll try. 32 00:02:23.800 --> 00:02:29.300 not to speak pessimistically, although I go 33 00:02:29.300 --> 00:02:32.260 to the office... 34 00:02:37.459 --> 00:02:39.880 ...commission on methodology and philosophy 35 00:02:39.880 --> 00:02:42.400 of artificial intelligence and cognitive research 36 00:02:42.400 --> 00:02:44.480 at the Presidium of the Academy of Sciences. 37 00:02:44.740 --> 00:02:48.420 I'm not saying this to get to know my biography, 38 00:02:49.180 --> 00:02:51.400 but because I'm aware of the case. That's 39 00:02:51.400 --> 00:02:54.960 what I said. I myself participate in these discussions, 40 00:02:55.180 --> 00:02:57.180 what to be afraid of, what not to be afraid of, 41 00:02:57.180 --> 00:03:01.400 and I understand how this world looks like now. 42 00:03:01.400 --> 00:03:03.240 Well, let's see what I can do. 43 00:03:04.920 --> 00:03:06.680 Well, first of all, fact is fact. 44 00:03:07.280 --> 00:03:11.220 that we are in a new type of civilization. 45 00:03:11.620 --> 00:03:14.400 This is not the future, this is the present, 46 00:03:14.740 --> 00:03:17.740 and this is a fact. Maybe we don't like it, 47 00:03:17.960 --> 00:03:21.540 for example, I don't like it, but it doesn't 48 00:03:21.540 --> 00:03:24.700 matter to anyone who likes it. It can be considered 49 00:03:24.700 --> 00:03:28.960 that we have moved to another planet. And 50 00:03:28.960 --> 00:03:30.780 this is not an artistic image, I'm talking 51 00:03:30.780 --> 00:03:33.760 absolutely seriously. Today at 9 a.m. I was 52 00:03:33.760 --> 00:03:35.620 already on two reports on Zoom. 53 00:03:35.790 --> 00:03:40.270 So I sat at home. And there the whole hall 54 00:03:40.270 --> 00:03:43.270 was filled with academics. And they discussed 55 00:03:43.270 --> 00:03:47.670 the new world. And what do they say? Children, 56 00:03:48.250 --> 00:03:53.170 schoolchildren say, and you adults, what right 57 00:03:53.170 --> 00:03:56.150 do you have to teach us how to live in a world 58 00:03:56.150 --> 00:03:57.850 in which you have never lived? 59 00:03:58.600 --> 00:04:03.360 This is not a joke. It is clear that you can 60 00:04:03.360 --> 00:04:05.580 wave your hand and the children will say something else, 61 00:04:05.580 --> 00:04:08.200 but there is a deep meaning in it. What do 62 00:04:08.200 --> 00:04:11.680 we want? We want the future world to be at 63 00:04:11.680 --> 00:04:15.160 least acceptable. We don't want it to be hostile. 64 00:04:16.200 --> 00:04:18.880 We want happiness for our descendants and 65 00:04:18.880 --> 00:04:22.800 so on. What do we mean by that? What is happiness? 66 00:04:23.380 --> 00:04:25.560 We want them to have a lot of food. We can 67 00:04:25.560 --> 00:04:26.180 say trivial things. 68 00:04:27.269 --> 00:04:31.250 to be full and safe, but it's all clear. But still, 69 00:04:31.450 --> 00:04:35.470 considering that the world we are in is incomprehensible, 70 00:04:35.470 --> 00:04:38.110 it is incomprehensible to anyone, except for 71 00:04:38.110 --> 00:04:40.190 those who have little mind. And therefore, 72 00:04:40.450 --> 00:04:42.190 for some reason, they think that it is understandable 73 00:04:42.190 --> 00:04:45.510 to them. Therefore, we are really in a new 74 00:04:45.510 --> 00:04:48.090 world in which we need to try to navigate. 75 00:04:48.910 --> 00:04:52.190 This world is digital. It is digital, and 76 00:04:52.190 --> 00:04:52.690 this is a fact. 77 00:04:53.240 --> 00:04:56.300 I repeat, this story does not suit me in any way, 78 00:04:56.400 --> 00:05:01.540 but no one asks me. In this regard, 79 00:05:01.720 --> 00:05:05.060 why such a huge place is engaged in the study 80 00:05:05.060 --> 00:05:09.220 of the brain? It costs a lot of money. The 81 00:05:09.220 --> 00:05:13.020 bill goes to, well, only billions. And, of course, 82 00:05:13.020 --> 00:05:13.720 not rubles. 83 00:05:14.140 --> 00:05:17.260 Why? We understand that in the cruel world 84 00:05:17.260 --> 00:05:20.080 in which we live, no one will spend a cent 85 00:05:20.080 --> 00:05:25.200 if it is not clear that you invest money where 86 00:05:25.200 --> 00:05:27.860 it is necessary. This is the federal money 87 00:05:27.860 --> 00:05:30.600 of all developed countries, and America, and Asia, 88 00:05:30.660 --> 00:05:34.460 and China, and Japan, and Europe. In Europe, 89 00:05:34.580 --> 00:05:36.780 by the way, one of the projects, which was 90 00:05:36.780 --> 00:05:41.760 called Blue Brain, it still bent, despite 91 00:05:41.760 --> 00:05:42.660 the huge... 92 00:05:42.730 --> 00:05:44.810 ........ 93 00:06:03.799 --> 00:06:06.500 Artificial intelligence and its place. And 94 00:06:06.500 --> 00:06:08.460 what does artificial intelligence have to 95 00:06:08.460 --> 00:06:12.000 do with it? Because if you look at it in a primitive way, 96 00:06:12.120 --> 00:06:16.260 then the question to which I will return later, 97 00:06:16.480 --> 00:06:20.440 what are we planning to do here? Are we still 98 00:06:20.440 --> 00:06:24.520 going to live on this planet? Or are we giving 99 00:06:24.520 --> 00:06:25.060 up all positions? 100 00:06:26.419 --> 00:06:28.260 Yes, and now let him do it instead of us. 101 00:06:29.580 --> 00:06:32.860 I would like to ask everyone a question. Of course, 102 00:06:32.860 --> 00:06:35.060 there is no answer except for **** ones. I don't 103 00:06:35.060 --> 00:06:37.620 get it. And my question is this. What are 104 00:06:37.620 --> 00:06:38.100 we going to do? 105 00:06:39.039 --> 00:06:41.600 No, if artificial intelligence will do everything, 106 00:06:41.820 --> 00:06:46.560 it will treat, teach, count, extract coal, 107 00:06:46.780 --> 00:06:49.940 if someone else will need coal, and so on. 108 00:06:50.080 --> 00:06:52.280 Here it will do everything. What will people do? 109 00:06:52.680 --> 00:06:55.520 It is supposed to answer, but here Grefg, 110 00:06:55.600 --> 00:06:59.080 for example, and publicly, and personally, 111 00:06:59.200 --> 00:07:02.000 I have talked to him many times. He says, 112 00:07:02.300 --> 00:07:03.740 okay, do not scare people. 113 00:07:05.340 --> 00:07:07.860 Because, yes, a large number of professions 114 00:07:07.860 --> 00:07:11.220 will die out, but a lot will appear. We already 115 00:07:11.220 --> 00:07:14.080 have a lot. Yes, a lot has appeared. And what 116 00:07:14.080 --> 00:07:16.820 percentage of the population does it cover? 117 00:07:17.680 --> 00:07:22.060 Minimum. In addition, special training is needed. 118 00:07:22.060 --> 00:07:23.780 That is, this is not a mass thing. 119 00:07:26.440 --> 00:07:28.540 And what I have already said, what kind of 120 00:07:28.540 --> 00:07:31.080 future we are building and how we are preparing 121 00:07:31.080 --> 00:07:33.620 those who will live in it. I am not going 122 00:07:33.620 --> 00:07:36.260 to philosophize especially, but let's say, 123 00:07:36.300 --> 00:07:41.420 doctors. We, it's not me, 124 00:07:41.540 --> 00:07:43.840 although I studied at the Faculty of Medicine, 125 00:07:44.040 --> 00:07:47.940 even taught for one year, but I remembered 126 00:07:47.940 --> 00:07:48.420 it in time. 127 00:07:52.100 --> 00:07:55.980 What should these people do? They should know 128 00:07:55.980 --> 00:07:58.640 a lot, for example, I say so primitively, 129 00:07:58.720 --> 00:08:00.140 they should know a lot. 130 00:08:03.450 --> 00:08:07.210 you can always get in there and they will 131 00:08:07.210 --> 00:08:10.450 tell you everything. In the medical audience, 132 00:08:10.450 --> 00:08:12.950 it's even awkward to say what I'm going to 133 00:08:12.950 --> 00:08:15.730 say now. Would anyone want to learn from a doctor 134 00:08:15.730 --> 00:08:18.630 who has to get on the phone all the time to 135 00:08:18.630 --> 00:08:22.190 see how things are going? I doubt that, except 136 00:08:22.190 --> 00:08:24.130 for the crazy ones, anyone would agree with that. 137 00:08:24.330 --> 00:08:27.950 In addition, again, it's even awkward to say 138 00:08:27.950 --> 00:08:30.110 it in this audience. And I will say it from 139 00:08:30.110 --> 00:08:30.710 both sides. 140 00:08:31.180 --> 00:08:35.220 I usually say, yes, medicine is a high science, 141 00:08:35.340 --> 00:08:38.539 but it is a high art. We know that genius 142 00:08:38.539 --> 00:08:43.860 doctors are different. We don't know how they diagnose. 143 00:08:44.539 --> 00:08:46.140 We don't understand at all. It's something 144 00:08:46.140 --> 00:08:50.380 on the nose. I say, I see. When you ask them, 145 00:08:50.419 --> 00:08:53.240 how do you do it? I say, I see, I feel. 146 00:08:54.849 --> 00:08:57.030 The old doctors were doing it for the smell. 147 00:08:57.030 --> 00:09:01.830 That is, mechanisms that are not algorithms 148 00:09:01.830 --> 00:09:04.289 and which the artificial intelligence cannot 149 00:09:04.289 --> 00:09:05.750 replace begin to be activated here. But now 150 00:09:05.750 --> 00:09:08.530 I turn this story around and say, yes, medicine, 151 00:09:08.750 --> 00:09:11.150 of course, is art, but it is also science. 152 00:09:11.370 --> 00:09:14.770 Even that little piece that I have just captured, 153 00:09:15.210 --> 00:09:18.250 listen, well, it can't be, well, it just brings 154 00:09:18.250 --> 00:09:20.390 to mind, well, there is no person in the world, 155 00:09:20.410 --> 00:09:22.090 no matter what it is. 156 00:09:23.940 --> 00:09:26.600 an experienced doctor, so that he could see 157 00:09:26.600 --> 00:09:30.660 a million tomograms or CT scans, it doesn't 158 00:09:30.660 --> 00:09:35.820 matter what, a million, right? And make a conclusion 159 00:09:35.820 --> 00:09:38.500 from it. This work is impossible. That is, 160 00:09:38.600 --> 00:09:40.900 yes, this is exactly what artificial intelligence 161 00:09:40.900 --> 00:09:43.480 should do, that is, work with big data, with 162 00:09:43.480 --> 00:09:46.680 big data. And he is digging all this, digging 163 00:09:46.680 --> 00:09:49.340 these blocks, and in the end he sorts them 164 00:09:49.340 --> 00:09:51.240 out and says, when you see this, 165 00:09:52.880 --> 00:09:58.300 But it is not his dog's business, sorry for vulgarity, 166 00:09:58.320 --> 00:10:02.900 to make a mechanical decision. He must give 167 00:10:02.900 --> 00:10:08.440 us information that we are not able to process ourselves. 168 00:10:08.500 --> 00:10:12.500 Yes, but the last word is not for him. 169 00:10:13.820 --> 00:10:17.120 Therefore, how to teach these doctors, well, 170 00:10:17.180 --> 00:10:19.380 doctors in general, not only doctors, by the way, 171 00:10:19.440 --> 00:10:25.380 but the whole hierarchy. They should be digitally prepared. 172 00:10:25.920 --> 00:10:28.660 It's not ****, in the sense of how the Excel 173 00:10:28.660 --> 00:10:31.920 program works, but for real. This is a different world. 174 00:10:32.140 --> 00:10:34.780 Yes, they are needed. They need to be combed, 175 00:10:34.800 --> 00:10:38.480 I'm sure they need to. Although, if a whole 176 00:10:38.480 --> 00:10:40.400 number of my colleagues were standing next 177 00:10:40.400 --> 00:10:41.920 to me, they would say, oh, okay, enough. 178 00:10:44.440 --> 00:10:49.500 I don't think so. I think that even 179 00:10:49.500 --> 00:10:53.880 humanitarians need to learn Latin and Ancient 180 00:10:53.880 --> 00:10:55.960 Greek together. Because it will clear their brains. 181 00:10:56.860 --> 00:10:58.560 And mathematicians in general. 182 00:11:05.510 --> 00:11:10.610 This whole story raises a lot of existential questions, 183 00:11:10.830 --> 00:11:15.970 real serious questions. We can talk a lot 184 00:11:15.970 --> 00:11:19.130 about it, but how to do it? We understand 185 00:11:19.130 --> 00:11:22.990 that we need to teach differently, we need 186 00:11:22.990 --> 00:11:26.670 to understand how to coexist natural intelligence 187 00:11:26.670 --> 00:11:28.550 and artificial intelligence on the planet. 188 00:11:29.440 --> 00:11:31.480 After all, this is a division of labor. How 189 00:11:31.480 --> 00:11:35.900 should we divide? Artificial Intellectual Systems, 190 00:11:36.460 --> 00:11:40.300 what will they do? And we will not lose control? 191 00:11:40.910 --> 00:11:43.370 We are sure that we will be able to hold this 192 00:11:43.370 --> 00:11:47.770 situation in our hands. When you talk to people, 193 00:11:47.990 --> 00:11:49.930 relatively speaking, from Kolkovo, although 194 00:11:49.930 --> 00:11:52.810 literally from Kolkovo, they say, okay, no 195 00:11:52.810 --> 00:11:54.890 need to panic, but they are all snobs, they 196 00:11:54.890 --> 00:11:57.070 are all terribly confident, for some reason 197 00:11:57.070 --> 00:11:58.970 they think that they understand this situation. 198 00:11:59.210 --> 00:12:02.870 They, of course, know this area as no one does. 199 00:12:03.410 --> 00:12:05.570 But as soon as you take a step to the left, 200 00:12:05.610 --> 00:12:09.370 a step to the right, then they say, listen, 201 00:12:09.480 --> 00:12:12.480 Listen, the programs do exactly what we put 202 00:12:12.480 --> 00:12:17.340 in them. This is not true. They either lie 203 00:12:17.340 --> 00:12:21.440 to us, directly lie, or they themselves do 204 00:12:21.440 --> 00:12:25.480 not understand. Because I talk a lot with 205 00:12:25.480 --> 00:12:27.660 different people and speak in particular, 206 00:12:28.020 --> 00:12:30.500 I had an episode of the year... 207 00:12:30.970 --> 00:12:33.110 three years ago, I think. And since then, 208 00:12:33.150 --> 00:12:37.270 this area has advanced a lot. When, at their request, 209 00:12:37.370 --> 00:12:39.550 there was a company that developed artificial 210 00:12:39.550 --> 00:12:46.250 intelligence programs. And suddenly... 211 00:12:46.510 --> 00:12:50.110 Their boss says, you know, we have such a strange thing. 212 00:12:50.770 --> 00:12:55.970 They work with deep training of neural networks. 213 00:12:56.550 --> 00:12:59.510 Our program began to learn very quickly. It 214 00:12:59.510 --> 00:13:03.210 learns so that we do not have time. I say, 215 00:13:03.350 --> 00:13:06.750 oh, attention, from this point in detail and slowly. 216 00:13:07.890 --> 00:13:13.050 They say, firstly, it learns faster than 217 00:13:13.050 --> 00:13:14.370 we can understand. 218 00:13:15.360 --> 00:13:19.180 Secondly, it does something that we don't 219 00:13:19.180 --> 00:13:21.560 understand at all. I say, and from this point, 220 00:13:21.660 --> 00:13:24.760 especially slowly, what does it mean we don't understand? 221 00:13:25.540 --> 00:13:28.700 They say, well, something is happening that 222 00:13:28.700 --> 00:13:32.880 we don't know how to interpret it. And I say, 223 00:13:32.940 --> 00:13:36.480 and? They say, and we were scared. Listen, 224 00:13:36.760 --> 00:13:38.080 this is what the developers say. 225 00:13:38.980 --> 00:13:41.860 We were scared, and when we were scared, what 226 00:13:41.860 --> 00:13:44.440 did we do? You won't believe it. They took 227 00:13:44.440 --> 00:13:45.900 us out of the network, out of the outlet. 228 00:13:46.920 --> 00:13:49.200 Can you imagine how they were supposed to 229 00:13:49.200 --> 00:13:51.920 be scared in order to take such a primitive 230 00:13:51.920 --> 00:13:56.120 move as to turn off the electricity? I don't 231 00:13:56.120 --> 00:13:59.160 want to scare everyone that this moment has 232 00:13:59.160 --> 00:14:04.600 not yet come, but it may come. These are developments 233 00:14:04.600 --> 00:14:06.720 that have not yet come out, these are their 234 00:14:06.720 --> 00:14:07.120 local toys. 235 00:14:10.079 --> 00:14:11.820 But everything is ahead of us. 236 00:14:12.840 --> 00:14:15.560 If you remember, I'm talking about the games. 237 00:14:16.480 --> 00:14:20.700 If you remember, the game of chess, which, 238 00:14:20.860 --> 00:14:22.980 as we know, is several thousand years old. 239 00:14:23.200 --> 00:14:28.660 And in 1997, the Deep Blue chess program beat 240 00:14:28.660 --> 00:14:31.540 the then world champion. It's not about the game. 241 00:14:31.840 --> 00:14:35.280 You understand that I'm not talking seriously here. 242 00:14:36.360 --> 00:14:38.720 It's not about the game, but about what it 243 00:14:38.720 --> 00:14:39.340 can do. 244 00:14:40.440 --> 00:14:42.540 The thing is not that there is no one to play 245 00:14:42.540 --> 00:14:46.700 chess with. In short, she defeated the then 246 00:14:46.700 --> 00:14:49.860 world champion Kasparov in fluff and dust. 247 00:14:50.570 --> 00:14:53.650 And humanity was shocked, because it was the 248 00:14:53.650 --> 00:14:56.490 best brain on the planet, and that's it. But 249 00:14:56.490 --> 00:14:59.070 when we came to our senses and began to analyze, 250 00:14:59.550 --> 00:15:02.410 it turned out that it was not as scary as 251 00:15:02.410 --> 00:15:07.690 it was at first, because it was an unfair game. 252 00:15:07.930 --> 00:15:11.570 I was young and ****, but nevertheless, I immediately said, 253 00:15:11.670 --> 00:15:13.750 you can't play like that, it's an unfair game. 254 00:15:14.790 --> 00:15:18.730 Unequal conditions. The program does not get tired. 255 00:15:19.020 --> 00:15:21.600 she is not nervous, she has a huge speed, 256 00:15:22.040 --> 00:15:23.600 she has an infinite memory. 257 00:15:24.920 --> 00:15:28.500 There is no person on Earth who is able to 258 00:15:28.500 --> 00:15:31.540 compete with this. Everyone has everything 259 00:15:31.540 --> 00:15:33.480 that I have listed. You can't play like that. 260 00:15:33.600 --> 00:15:37.860 Worse than that, she was drawn to a specific person, 261 00:15:38.160 --> 00:15:41.400 namely to him. She knew about him every move. 262 00:15:41.660 --> 00:15:43.900 He himself knew about himself less than she did. 263 00:15:44.720 --> 00:15:48.640 This is an unfair game. Then a few years pass, 264 00:15:48.640 --> 00:15:50.860 she wins one over the other. The question 265 00:15:50.860 --> 00:15:51.800 of chess is over. 266 00:15:53.200 --> 00:15:56.500 That's it. Since it is an excessive game, 267 00:15:56.740 --> 00:15:59.780 it is clear that it is impossible to compete. 268 00:16:00.380 --> 00:16:02.520 Then they began to say, and I really liked 269 00:16:02.520 --> 00:16:04.380 this idea, they began to say, well, there 270 00:16:04.380 --> 00:16:07.160 are games that are more complicated. The fact 271 00:16:07.160 --> 00:16:08.580 is not that they are more complicated, but 272 00:16:08.580 --> 00:16:10.000 of a different type. For example, the game 273 00:16:10.000 --> 00:16:14.680 of Go. In the game of Go, these iron monsters, 274 00:16:14.820 --> 00:16:16.920 they say, will not overcome. They overcame. 275 00:16:17.080 --> 00:16:18.500 Here, please, there is a person sitting in 276 00:16:18.500 --> 00:16:21.200 this picture, Lysidol. 277 00:16:21.930 --> 00:16:25.050 He is the world champion of Pogo, and she 278 00:16:25.050 --> 00:16:28.790 carried him in her arms. This means that these 279 00:16:28.790 --> 00:16:34.450 programs have gone the other way. They didn't 280 00:16:34.450 --> 00:16:38.070 follow the line of too many operations, just 281 00:16:38.070 --> 00:16:40.450 a very fast too many operations, they learned 282 00:16:40.450 --> 00:16:41.970 to do something else. 283 00:16:44.609 --> 00:16:47.830 Here it is, you see, this Lysidol. This is 284 00:16:47.830 --> 00:16:53.010 the famous AlphaGo program. And, well, 285 00:16:53.110 --> 00:16:58.370 you see for yourself. It was clear that 286 00:16:58.370 --> 00:17:01.710 he would not win at all, but at least one. 287 00:17:02.740 --> 00:17:05.619 to win the game. That's how the question was. 288 00:17:06.040 --> 00:17:08.940 And these are already exquisite moves. Then 289 00:17:08.940 --> 00:17:11.220 I was very happy with myself, and in vain, 290 00:17:11.400 --> 00:17:15.859 because I said, we have games, and stronger, 291 00:17:16.280 --> 00:17:20.599 for example, poker, where the trickery, so 292 00:17:20.599 --> 00:17:23.119 to speak, is present. Yes, poker face, a face 293 00:17:23.119 --> 00:17:25.099 that does not express anything, dark glasses, 294 00:17:25.400 --> 00:17:27.079 we hide emotions, bluff. 295 00:17:28.060 --> 00:17:31.619 And this program by definition cannot take it. 296 00:17:31.800 --> 00:17:35.200 I was very happy with myself that I came up 297 00:17:35.200 --> 00:17:37.160 with such a thing in vain. Because... 298 00:17:38.730 --> 00:17:41.990 The program Libratus won the poker competition 299 00:17:41.990 --> 00:17:45.530 for the four best players in the world. You see, 300 00:17:45.630 --> 00:17:47.990 they are just laughing here, because she completely 301 00:17:47.990 --> 00:17:52.150 beat them. She won almost two million dollars 302 00:17:52.150 --> 00:17:53.609 from them. Of course, no one gave her this 303 00:17:53.609 --> 00:17:57.550 piece of iron, but the fact is the fact. 304 00:18:01.299 --> 00:18:07.160 Why do we play this game? The last point 305 00:18:07.160 --> 00:18:11.099 is clear. If it's about improving our lives 306 00:18:11.099 --> 00:18:15.200 by transferring the work we don't want to 307 00:18:15.200 --> 00:18:17.599 do there, or we can't do it, as with the big data, 308 00:18:17.700 --> 00:18:21.220 or why should a person go to the mine, even 309 00:18:21.220 --> 00:18:24.080 if these pieces of iron are being dug there, 310 00:18:24.340 --> 00:18:27.700 or, I don't know, I've been wondering for 311 00:18:27.700 --> 00:18:28.800 a long time why to go to Mars. 312 00:18:30.220 --> 00:18:32.020 Those, who are engaged in it, did not get 313 00:18:32.020 --> 00:18:35.560 a satisfactory answer. Why are you going to fly? 314 00:18:35.880 --> 00:18:40.320 Not with colleagues it will be said. We understand 315 00:18:40.320 --> 00:18:43.060 that the hard radiation will make their brain 316 00:18:43.060 --> 00:18:48.400 very fast, right? When they say on this topic, 317 00:18:48.560 --> 00:18:50.660 yes, but they flew to the moon for three days. 318 00:18:51.440 --> 00:18:55.420 And what about the year? Moreover, I asked 319 00:18:55.420 --> 00:18:57.680 in the Kurchatsky Institute, where are they, 320 00:18:57.680 --> 00:19:00.000 as it were, specialists? I say, and what is protection? 321 00:19:00.320 --> 00:19:01.460 Is it impossible to come up with protection? 322 00:19:01.620 --> 00:19:09.660 They say, yes, 5 tons of the same there corresponding metals, 323 00:19:09.880 --> 00:19:13.140 which are terribly heavy. Well, in short, 324 00:19:13.240 --> 00:19:17.180 it is impossible. And what will happen? And 325 00:19:17.180 --> 00:19:19.620 the frontal lobe will explode. 326 00:19:20.320 --> 00:19:23.520 A big hello! Why fly there then? If those 327 00:19:23.520 --> 00:19:26.880 who will fly there at the time of landing 328 00:19:26.880 --> 00:19:28.980 on Mars will turn out to be eggplants, then 329 00:19:28.980 --> 00:19:31.260 was it worth flying? That is, this is generally 330 00:19:31.260 --> 00:19:33.940 some kind of wild thing. But nevertheless, 331 00:19:34.480 --> 00:19:37.520 there is already a lot of everything there. 332 00:19:38.060 --> 00:19:42.180 So let them work. I mean, let them climb into 333 00:19:42.180 --> 00:19:44.900 the mine, let them climb where the radiation is. 334 00:19:45.970 --> 00:19:49.310 Let them collect samples of something on Mars. 335 00:19:49.990 --> 00:19:52.690 There is another option to understand how 336 00:19:52.690 --> 00:19:54.870 the brain works. Here, it seems to me, there 337 00:19:54.870 --> 00:19:57.570 is some kind of unpleasant trap. In order 338 00:19:57.570 --> 00:20:00.390 to make artificial intelligence, it is necessary 339 00:20:00.390 --> 00:20:02.690 to first understand how the brain works. In 340 00:20:02.690 --> 00:20:05.490 order to understand how the brain works, it 341 00:20:05.490 --> 00:20:07.250 is necessary to have artificial intelligence 342 00:20:07.250 --> 00:20:10.330 to conduct experiments with it. You understand 343 00:20:10.330 --> 00:20:12.190 that there is such a logical loop here. 344 00:20:13.530 --> 00:20:17.690 To understand how we can biologically improve ourselves. 345 00:20:17.870 --> 00:20:20.850 Now it's a trend. It's a terrible thing. I get 346 00:20:20.850 --> 00:20:23.890 questions every day. These are new people, 347 00:20:24.110 --> 00:20:26.490 they will be faster, smarter, we will put 348 00:20:26.490 --> 00:20:29.490 chips in their heads, they will not need to rest, 349 00:20:29.750 --> 00:20:32.690 sleep, they are with a huge speed. Why is 350 00:20:32.690 --> 00:20:35.570 this all? What is the purpose? 351 00:20:36.520 --> 00:20:39.880 That is, we go into transhumanism, right? 352 00:20:40.080 --> 00:20:43.500 Where did we go? There is another terrible 353 00:20:43.500 --> 00:20:46.180 variant about Frankenstein, as it is written here. 354 00:20:46.460 --> 00:20:49.800 And serious people talk about it. If you think 355 00:20:49.800 --> 00:20:53.820 that this is frying cutlets of a housewife 356 00:20:53.820 --> 00:20:56.500 in the kitchen, it's nothing like that. This 357 00:20:56.500 --> 00:21:00.240 is what big scientists say. We digitize our 358 00:21:00.240 --> 00:21:03.220 neural network with everything that is written 359 00:21:03.220 --> 00:21:04.520 on it, on a flash drive. 360 00:21:04.890 --> 00:21:07.770 Well, or on something, an external memory. 361 00:21:08.610 --> 00:21:11.190 And grandfather's life, being presented to 362 00:21:11.190 --> 00:21:14.830 his grandson on a flash drive, means that 363 00:21:14.830 --> 00:21:17.310 he is like digital immortality. An absolutely 364 00:21:17.310 --> 00:21:21.170 insane thought. Well, let's see. 365 00:21:24.120 --> 00:21:29.480 All these stories about games, they show us 366 00:21:29.480 --> 00:21:32.600 disturbing things, because we say that everything 367 00:21:32.600 --> 00:21:35.680 related to logic, algorithms, yes, they do 368 00:21:35.680 --> 00:21:38.440 better than us, I already said it, it's clear. 369 00:21:39.160 --> 00:21:44.300 But we, people, have properties that 370 00:21:44.300 --> 00:21:49.480 are impossible to formalize. This is, for example, intuition. 371 00:21:50.400 --> 00:21:52.580 This is some... 372 00:21:53.580 --> 00:21:56.640 processing of external information, not with 373 00:21:56.640 --> 00:21:59.100 the help of computation, not with the help 374 00:21:59.100 --> 00:22:02.140 of a score, but I see that it's a good thing. 375 00:22:02.580 --> 00:22:06.860 You can't do anything with it. We always said, 376 00:22:06.980 --> 00:22:11.140 here's a watershed. We have this soft field, 377 00:22:11.380 --> 00:22:15.660 which is inaccessible to these monsters. I want 378 00:22:15.660 --> 00:22:19.880 to note with remorse that artificial intelligence 379 00:22:19.880 --> 00:22:20.660 has overcome. 380 00:22:24.520 --> 00:22:31.700 he developed some kind of 381 00:22:31.700 --> 00:22:36.420 artificial intuition for himself. For example, 382 00:22:36.500 --> 00:22:41.880 in chess games, you can see how 383 00:22:41.880 --> 00:22:47.140 he drives a partner, a person or a car, 384 00:22:48.320 --> 00:22:53.600 or a partner of the program. That is, 385 00:22:53.740 --> 00:22:57.780 his partner begins to think that he is winning. 386 00:22:58.590 --> 00:23:03.590 This cunning program starts to lose. He goes 387 00:23:03.590 --> 00:23:07.590 in this direction, saying, oh, great, that's it, 388 00:23:07.610 --> 00:23:11.290 I win. He goes here. She gives up, gives up, 389 00:23:11.290 --> 00:23:14.210 gives up until the moment when he has no opportunity 390 00:23:14.210 --> 00:23:18.910 to go back. After that, she defeats him. That is, 391 00:23:19.010 --> 00:23:23.050 there were cognitive moves that we did not 392 00:23:23.050 --> 00:23:25.670 even suspect. And here I write. 393 00:23:26.480 --> 00:23:33.360 that they can overplay us. What 394 00:23:33.360 --> 00:23:36.280 do they say about the modern world now? They 395 00:23:36.280 --> 00:23:40.260 say that it is very complex, it can be interpreted 396 00:23:40.260 --> 00:23:43.020 in any way, it is multifaceted, it is contradictory. 397 00:23:43.720 --> 00:23:45.800 But I want to say that it has always been so. 398 00:23:46.040 --> 00:23:48.980 In this sense, there is nothing new. The world 399 00:23:48.980 --> 00:23:51.240 could always be considered this way or that way, 400 00:23:51.760 --> 00:23:53.860 and there is nothing new here. 401 00:23:55.040 --> 00:23:58.320 What is new is the gigantic speed of change. 402 00:23:58.800 --> 00:24:01.840 We even know from evolutionary physiology 403 00:24:01.840 --> 00:24:06.020 that the main thing is the ability to adapt. 404 00:24:06.580 --> 00:24:09.740 That is, to what only the brain, or not only 405 00:24:09.740 --> 00:24:12.180 the brain at all, to what only creatures are 406 00:24:12.180 --> 00:24:14.920 not adapted. But these are gigantic times. 407 00:24:17.020 --> 00:24:19.380 Thousands of years, millions of years, well, 408 00:24:19.420 --> 00:24:23.240 hundreds of years. Then the decades began, 409 00:24:23.240 --> 00:24:26.740 then the years began, and now what? And now 410 00:24:26.740 --> 00:24:31.300 the days. The question arises, will our intellect 411 00:24:31.300 --> 00:24:35.760 withstand all this? Not our intellect, but 412 00:24:35.760 --> 00:24:38.700 our brain in general. Our body, even wider. 413 00:24:38.860 --> 00:24:42.440 Will it withstand? You see, first of all, 414 00:24:42.520 --> 00:24:44.620 we have a giant speed. Secondly, we don't 415 00:24:44.620 --> 00:24:45.360 believe in anything. 416 00:24:46.040 --> 00:24:48.880 We don't believe in anything, because virtual 417 00:24:48.880 --> 00:24:53.000 systems will create whatever you want. And 418 00:24:53.000 --> 00:24:55.720 because these possibilities are getting better 419 00:24:55.720 --> 00:24:59.920 and better, these lies, fakes, they are so plausible, 420 00:25:00.520 --> 00:25:01.840 that they are like... 421 00:25:02.190 --> 00:25:05.310 You trust them more than the real world. Wow! 422 00:25:05.930 --> 00:25:11.530 And who to believe? I have a hope to check 423 00:25:11.530 --> 00:25:15.710 what they show me. Does it have anything to 424 00:25:15.710 --> 00:25:18.750 do with the truth or not? I write here, the 425 00:25:18.750 --> 00:25:22.650 ability to check information disappears. And 426 00:25:22.650 --> 00:25:25.270 what do we do? I am often asked, and what? 427 00:25:25.410 --> 00:25:28.810 What are you doing? I always say the same thing. 428 00:25:28.990 --> 00:25:30.770 I personally use gossip. 429 00:25:31.800 --> 00:25:35.080 That is, I have a certain number of people 430 00:25:35.080 --> 00:25:39.900 whom I trust. I know that they are, first 431 00:25:39.900 --> 00:25:43.660 of all, informed, really informed, and secondly, 432 00:25:43.980 --> 00:25:46.800 they are not inclined to come up with some 433 00:25:46.800 --> 00:25:51.720 fairy-tale plots. If he tells me, read Johnson, 434 00:25:51.720 --> 00:25:55.620 he understands. Read Smith, because he's an idiot. 435 00:25:55.880 --> 00:25:57.480 That's exactly what I'm going to do. 436 00:25:58.430 --> 00:26:01.650 Because I don't have any other way. You need 437 00:26:01.650 --> 00:26:04.830 to believe in someone. What do we say to students? 438 00:26:04.830 --> 00:26:08.750 And to doctors, of course, I think. We say, 439 00:26:08.890 --> 00:26:13.270 on this topic, look at the screen, sites, 440 00:26:13.870 --> 00:26:17.870 links, in those places that we trust. On this topic. 441 00:26:17.970 --> 00:26:21.830 On another, we trust others. If you want to 442 00:26:21.830 --> 00:26:23.670 sit in Wikipedia, go ahead. 443 00:26:25.020 --> 00:26:28.100 After that, leave the audience. Information 444 00:26:28.100 --> 00:26:33.000 should be received in the right places. Further. 445 00:26:33.340 --> 00:26:35.780 All agreements have collapsed. Do you understand 446 00:26:35.780 --> 00:26:40.180 how to continue to live? If, let's say, today, 447 00:26:40.260 --> 00:26:42.740 without a hint of politics, but still, if 448 00:26:42.740 --> 00:26:45.380 today the heads of state agree on something, 449 00:26:46.260 --> 00:26:49.180 They go to bed. One of them wakes up in the 450 00:26:49.180 --> 00:26:51.020 morning and says, I changed my mind. You see, 451 00:26:51.160 --> 00:26:53.600 the world cannot exist like this. You can't 452 00:26:53.600 --> 00:26:56.060 live like this. There must be at least some 453 00:26:56.060 --> 00:26:59.980 stable things. Why do I always refer to Alice? 454 00:26:59.980 --> 00:27:02.020 Who has not read for a long time, I highly recommend. 455 00:27:02.440 --> 00:27:05.640 Only Alice in Wonderland and Alice in the Mirror. 456 00:27:05.960 --> 00:27:09.920 Only read not as a fairy tale, but as a very 457 00:27:09.920 --> 00:27:13.100 serious philosophical and even mathematical work. 458 00:27:13.600 --> 00:27:14.700 But the author is... 459 00:27:14.760 --> 00:27:19.340 It was not written for children at all. This 460 00:27:19.340 --> 00:27:21.760 is the world in which we are now. All the 461 00:27:21.760 --> 00:27:24.860 rules have collapsed. Nothing works. You see? 462 00:27:25.820 --> 00:27:28.200 So, can't the society exist? 463 00:27:29.520 --> 00:27:31.960 When the rules of the game change all the time. 464 00:27:32.000 --> 00:27:35.260 Today you go out into the street and you know 465 00:27:35.260 --> 00:27:38.060 that the red light is to stand, and the green 466 00:27:38.060 --> 00:27:41.400 light is to go. And after noon, it turns out 467 00:27:41.400 --> 00:27:44.300 the opposite. But no one told you that the 468 00:27:44.300 --> 00:27:46.480 rules have changed. This is where we live now. 469 00:27:46.980 --> 00:27:48.140 We got somewhere. 470 00:27:50.500 --> 00:27:53.400 We have the most complex neural network. As 471 00:27:53.400 --> 00:27:55.520 you understand, these pictures are electron 472 00:27:55.520 --> 00:28:01.160 -microscopic small pieces. 473 00:28:02.570 --> 00:28:04.850 And in order to scare everyone, we have 86 474 00:28:04.850 --> 00:28:07.410 billion neurons according to the current data. 475 00:28:11.410 --> 00:28:15.730 Recently, I said 100 billion, but it seems 476 00:28:15.730 --> 00:28:17.290 to me that when the score goes to such values, 477 00:28:17.550 --> 00:28:19.690 **** forbid, it doesn't matter anymore. Where 478 00:28:19.690 --> 00:28:23.770 86 and 90, it doesn't matter anymore. It is 479 00:28:23.770 --> 00:28:27.510 important that each neuron can have a huge 480 00:28:27.510 --> 00:28:30.670 number of connections with other parts of 481 00:28:30.670 --> 00:28:31.030 the brain. 482 00:28:31.080 --> 00:28:36.860 It can be 50 ,000 connections, or even more. 483 00:28:37.080 --> 00:28:40.260 In short, if we multiply all this, we will 484 00:28:40.260 --> 00:28:43.140 get a quadrillion synaptic connections in 485 00:28:43.140 --> 00:28:46.700 the brain. This is an absolutely extraordinary amount. 486 00:28:47.300 --> 00:28:52.660 Even the most complicated supercomputers could 487 00:28:52.660 --> 00:28:55.380 provide such a thing, but there is no such thing. 488 00:28:55.380 --> 00:28:58.780 Even those brain studies that... 489 00:28:59.500 --> 00:29:03.860 They are like incredible discoveries. I don't know, 490 00:29:03.980 --> 00:29:07.540 they took such a piece from the mouse and 491 00:29:07.540 --> 00:29:13.000 modeled it, and they are proud that 492 00:29:13.000 --> 00:29:16.680 they have succeeded so much. In the mouse, 493 00:29:16.820 --> 00:29:20.700 and the human brain. Neurons, for God's sake. 494 00:29:21.260 --> 00:29:25.780 And glia, glial cells, in which it is all drowned, 495 00:29:26.060 --> 00:29:27.840 in which, as we know, our cognitive... 496 00:29:29.710 --> 00:29:31.370 There are possibilities, there is a memory. 497 00:29:31.930 --> 00:29:36.950 If the child, as a result of something or 498 00:29:36.950 --> 00:29:40.590 internal development, all this glial history 499 00:29:40.590 --> 00:29:42.490 is violated, then he is born with powerful 500 00:29:42.490 --> 00:29:43.930 cognitive disorders. 501 00:29:47.450 --> 00:29:50.270 The player is a neuron, not a glia neuron, 502 00:29:50.510 --> 00:29:53.370 so it's ten times bigger. I don't know if 503 00:29:53.370 --> 00:29:56.210 there are words in human languages that can 504 00:29:56.210 --> 00:29:59.210 describe such quantities. Usually they say 505 00:29:59.210 --> 00:30:02.370 about it hyperastronomic quantities. It's 506 00:30:02.370 --> 00:30:06.470 a terrible thing. Even worse, I don't know 507 00:30:06.470 --> 00:30:08.610 what's worse, what's better, is that this 508 00:30:08.610 --> 00:30:10.370 network is constantly being built. 509 00:30:11.080 --> 00:30:14.460 It is dynamic. It is not that it is difficult, 510 00:30:14.780 --> 00:30:17.120 but it is what it is. It changes all the time. 511 00:30:17.140 --> 00:30:20.520 Now, while we are talking, it writes and writes, 512 00:30:20.600 --> 00:30:22.400 writes and writes. That is, it is different 513 00:30:22.400 --> 00:30:27.540 all the time. There is such a concept 514 00:30:27.540 --> 00:30:30.440 as the number of Dunbar. It is believed, and 515 00:30:30.440 --> 00:30:34.140 I am calm about it, but I will still say it. 516 00:30:35.000 --> 00:30:38.900 You can see why. It is considered that the 517 00:30:38.900 --> 00:30:41.640 number of social connections is acceptable 518 00:30:41.640 --> 00:30:44.280 depending on the size of the brain. Well, 519 00:30:44.360 --> 00:30:48.860 let's say that our relatives are not far away, 520 00:30:49.020 --> 00:30:51.680 the brain is three times smaller than ours, 521 00:30:51.920 --> 00:30:57.700 and the size of a large social group is 50 individuals, 522 00:30:58.060 --> 00:31:01.700 and the closest group is 3-4, well, 5-6, okay. 523 00:31:05.720 --> 00:31:11.000 150 and 12, 15 should be close. Open the phone, 524 00:31:11.200 --> 00:31:14.420 look what's going on there. The bill goes 525 00:31:14.420 --> 00:31:19.020 to thousands. Are we able to withstand it? 526 00:31:19.120 --> 00:31:21.520 This question is there. I'm not panicking. 527 00:31:21.620 --> 00:31:24.820 This question is there. Because we are kind 528 00:31:24.820 --> 00:31:25.400 of lost in this society. 529 00:31:30.730 --> 00:31:33.530 All in all, we are surrounded by networks 530 00:31:33.530 --> 00:31:36.570 of different kinds. These are hyper-networks 531 00:31:36.570 --> 00:31:38.690 in the brain. Here is my friend and colleague, 532 00:31:38.970 --> 00:31:42.990 academician Anokhin Konstantin Vladimirovich, 533 00:31:43.010 --> 00:31:44.070 younger Anokhin. 534 00:31:45.420 --> 00:31:49.860 he develops the hyper-network theory of the brain. 535 00:31:50.120 --> 00:31:54.120 We are talking about networks, networks of networks, 536 00:31:54.400 --> 00:31:57.620 networks of networks, and so on until you 537 00:31:57.620 --> 00:32:01.840 get bored. That is, we are talking about structures 538 00:32:01.840 --> 00:32:04.300 of such a degree of complexity, where units 539 00:32:04.300 --> 00:32:06.520 are already networks. 540 00:32:07.440 --> 00:32:11.960 This is a terrible thing. Hypersets in the society. 541 00:32:12.260 --> 00:32:13.980 The society is very difficult to organize. 542 00:32:14.440 --> 00:32:17.720 And you don't need to think that we control it. 543 00:32:17.820 --> 00:32:21.620 This is what I would say to those who hold power. 544 00:32:21.620 --> 00:32:25.860 For some reason, I think, they think that 545 00:32:25.860 --> 00:32:28.380 they see how the society is organized. They 546 00:32:28.380 --> 00:32:31.120 are wrong. It is torn, it is rebuilt. 547 00:32:32.659 --> 00:32:35.020 This is a question that I also often hear. 548 00:32:35.280 --> 00:32:39.200 Are these new children being born? Well, in general, 549 00:32:39.240 --> 00:32:41.160 if the question is asked like this, I would 550 00:32:41.160 --> 00:32:44.560 say yes, but not as they ask this question, 551 00:32:44.620 --> 00:32:47.780 because they mean that mutations have occurred, 552 00:32:47.780 --> 00:32:50.680 but we understand that this cannot be. Well, 553 00:32:50.760 --> 00:32:54.240 there is no time for such mutations. Are children 554 00:32:54.240 --> 00:32:57.560 born biologically different? No. Biologically, 555 00:32:57.740 --> 00:33:01.460 they were, they are, but they are born as... 556 00:33:01.480 --> 00:33:04.180 with gadgets in their hands, in their ears, 557 00:33:04.320 --> 00:33:06.600 eyes and so on. That is, they are immediately 558 00:33:06.600 --> 00:33:09.980 in the digital world. Specialists even say 559 00:33:09.980 --> 00:33:15.300 that we are like travelers or 560 00:33:15.300 --> 00:33:18.740 migrants even in the digital world, and children 561 00:33:18.740 --> 00:33:22.880 are aborigines. We are learning this digital world, 562 00:33:23.020 --> 00:33:25.720 and they do not know another world. They are 563 00:33:25.720 --> 00:33:27.080 already in it. Therefore... 564 00:33:29.200 --> 00:33:30.780 We need to understand what to do with them. 565 00:33:31.300 --> 00:33:34.900 They say, bad teachers. First of all, what 566 00:33:34.900 --> 00:33:36.920 are the good ones? What are they? Not in the 567 00:33:36.920 --> 00:33:39.300 sense of names. And what is a good teacher? 568 00:33:41.520 --> 00:33:44.220 Secondly, where to get them? 569 00:33:45.040 --> 00:33:47.260 Where to take them? No one taught them themselves. 570 00:33:47.280 --> 00:33:51.120 I started with this, that you teach us to 571 00:33:51.120 --> 00:33:53.800 live in the world in which we moved to the 572 00:33:53.800 --> 00:33:58.300 planet Jupiter. No one knows how they live here. 573 00:33:58.480 --> 00:34:00.540 Why did you decide that you are our teachers? 574 00:34:01.020 --> 00:34:02.100 This is an anxious question. 575 00:34:02.810 --> 00:34:06.490 It exists. It is not based on ethical and 576 00:34:06.490 --> 00:34:10.730 legal norms. It concerns everything. It concerns 577 00:34:10.730 --> 00:34:15.230 genomic research, what we can afford, what 578 00:34:15.230 --> 00:34:18.409 we allow, and what we don't allow. It is an 579 00:34:18.409 --> 00:34:21.409 absolutely unworkable thing. It is clear that 580 00:34:21.409 --> 00:34:24.870 there are all sorts of committees on bioethics, 581 00:34:24.889 --> 00:34:28.110 on neuroethics. All this exists. So what? 582 00:34:28.429 --> 00:34:31.110 Does anyone know examples when science 583 00:34:31.370 --> 00:34:48.870 Thank you. 584 00:34:56.270 --> 00:34:58.150 And he will tell them, you will have conditions 585 00:34:58.150 --> 00:35:01.929 that you cannot even imagine. You will have 586 00:35:01.929 --> 00:35:06.389 the best devices, the best chemical and other 587 00:35:06.389 --> 00:35:10.870 components of all this. And they clone you, 588 00:35:10.870 --> 00:35:13.590 whoever you want. Remember, there was a story 589 00:35:13.590 --> 00:35:16.190 recently when the Chinese corrected the genome 590 00:35:16.190 --> 00:35:21.730 of two young girls. And where 591 00:35:21.730 --> 00:35:22.050 is he? 592 00:35:22.829 --> 00:35:26.010 All this, this story is completely gone, it 593 00:35:26.010 --> 00:35:28.690 all fell somewhere into the abyss, I don't know. 594 00:35:28.850 --> 00:35:32.690 In general, she went somewhere, but he did it, 595 00:35:32.790 --> 00:35:35.929 you know, it just came out on the surface, 596 00:35:36.389 --> 00:35:38.810 and in some places it will not come out on 597 00:35:38.810 --> 00:35:39.150 the surface. 598 00:35:40.270 --> 00:35:42.670 We don't have, regarding artificial intelligence, 599 00:35:42.929 --> 00:35:48.830 we don't have legal rules. Some time ago, 600 00:35:48.969 --> 00:35:52.050 the first case was when a unmanned vehicle 601 00:35:52.050 --> 00:35:54.750 in Florida crushed someone. Since then, there 602 00:35:54.750 --> 00:35:57.270 have been many such cases. Who is responsible? 603 00:35:58.159 --> 00:36:01.679 The programmer, the owner of the car, maybe 604 00:36:01.679 --> 00:36:06.739 the passenger himself who said, no, do not 605 00:36:06.739 --> 00:36:09.380 do this, but do this. That is, there are many options, 606 00:36:09.540 --> 00:36:13.139 answers. And it is not developed. Who? What 607 00:36:13.139 --> 00:36:18.199 can we trust? That is, in fact, ethical 608 00:36:18.199 --> 00:36:22.080 and legal norms do not work. 609 00:36:23.929 --> 00:36:26.870 In short, there is such a world around us. 610 00:36:26.870 --> 00:36:30.810 It is very fast, it is hybrid, it is at the 611 00:36:30.810 --> 00:36:34.389 same time digital and non-digital, it flickers, 612 00:36:34.389 --> 00:36:38.070 flickers, it will turn one way or the other, 613 00:36:38.110 --> 00:36:40.390 then we seem to have believed it, and then 614 00:36:40.390 --> 00:36:42.650 we think, I don't know if it is worth believing. 615 00:36:42.950 --> 00:36:45.930 It is unstable, it changes very, very quickly. 616 00:36:46.950 --> 00:36:48.890 Some time ago I... 617 00:36:51.160 --> 00:36:54.280 before Covid, when planes were still flying. 618 00:36:54.360 --> 00:36:58.520 In short, I managed to step on my phone in 619 00:36:58.520 --> 00:37:01.240 the plane. And when I landed, I went and said, 620 00:37:01.280 --> 00:37:04.000 I have the same phone. But I say, keep in 621 00:37:04.000 --> 00:37:06.260 mind that I need a phone. Do you know what 622 00:37:06.260 --> 00:37:08.420 kind of phone I'm telling them? They think 623 00:37:08.420 --> 00:37:11.440 I'm crazy. I say, we know. I say, no, still, 624 00:37:11.580 --> 00:37:14.120 once again, the phone should not bake pancakes, 625 00:37:14.380 --> 00:37:17.680 it should not fly to Mars, it should not advise 626 00:37:17.680 --> 00:37:19.320 me how and with whom to live. 627 00:37:19.660 --> 00:37:23.660 He should only call, nothing else. They say, 628 00:37:23.700 --> 00:37:25.040 there are no such people on Earth anymore. 629 00:37:26.620 --> 00:37:30.900 Moreover, they force me to study new programs 630 00:37:30.900 --> 00:37:33.480 all the time. Do I already do that? No, for you, 631 00:37:33.620 --> 00:37:37.220 for Android, now you download and study. Wait, 632 00:37:37.480 --> 00:37:40.280 who is the host in the house? I don't want 633 00:37:40.280 --> 00:37:42.900 to study your things, I have something to do. 634 00:37:45.280 --> 00:37:47.780 Autonomous life of the digital world exists. 635 00:37:48.060 --> 00:37:52.180 Internet of things exists. Networks, any networks, 636 00:37:52.380 --> 00:37:57.420 both mental and social, have their own laws 637 00:37:57.420 --> 00:38:00.220 of self-organization. Just like networks. 638 00:38:00.640 --> 00:38:02.560 This is a separate area of science. 639 00:38:04.890 --> 00:38:08.330 The distrust of information is growing, and 640 00:38:08.330 --> 00:38:12.590 digital reality will be a sign of social selection. 641 00:38:12.630 --> 00:38:15.030 If you imagine that we live in the middle of, 642 00:38:15.030 --> 00:38:18.770 I don't know, selva, we don't have the Internet, 643 00:38:19.230 --> 00:38:23.410 and we live quite happily and calmly, we don't 644 00:38:23.410 --> 00:38:25.510 know the news, we don't know anything at all, 645 00:38:25.510 --> 00:38:28.230 you can think that we don't exist. That is, 646 00:38:28.270 --> 00:38:32.730 we are not participants in this life. It's dangerous. 647 00:38:34.130 --> 00:38:36.990 We have a lot of anxiety. For example, the 648 00:38:36.990 --> 00:38:38.950 syndrome of postponed life. That's what we 649 00:38:38.950 --> 00:38:39.450 say to children. 650 00:38:40.180 --> 00:38:43.540 Usually. But they will shut us up now. We 651 00:38:43.540 --> 00:38:47.400 say to the children, if you study well, finish 652 00:38:47.400 --> 00:38:51.160 school well, go to a good university, then 653 00:38:51.160 --> 00:38:53.920 master's degree, master's degree, protect 654 00:38:53.920 --> 00:38:56.740 your dissertation, get married or get married, 655 00:38:56.920 --> 00:39:00.480 get a good job, and there already the apostles 656 00:39:00.480 --> 00:39:03.900 look out and say, they have arrived. 657 00:39:04.490 --> 00:39:07.510 Yes, calm down. What are we putting away? 658 00:39:07.770 --> 00:39:10.830 Not in this audience to speak. We do not have 659 00:39:10.830 --> 00:39:14.610 a blacksmith. When the first cells were connected, 660 00:39:14.950 --> 00:39:16.990 the maternal with the paternal, it started. 661 00:39:17.570 --> 00:39:18.830 There is a cleaner. 662 00:39:19.800 --> 00:39:23.980 There is no Black Age. The civilization of 663 00:39:23.980 --> 00:39:25.660 idleness is advancing. There are already places 664 00:39:25.660 --> 00:39:29.600 in the world where basic income is paid so 665 00:39:29.600 --> 00:39:32.020 that a person does not die of hunger, and 666 00:39:32.020 --> 00:39:36.700 only so that he does not work. I know in France, 667 00:39:36.880 --> 00:39:38.400 in my opinion, in Denmark, there is such a story 668 00:39:38.400 --> 00:39:40.640 with farmers. Here is your money, the main 669 00:39:40.640 --> 00:39:43.940 thing is not to grow anything. What will they do? 670 00:39:44.620 --> 00:39:47.320 Again, Grefo asked a question. He says, 671 00:39:48.370 --> 00:39:53.830 They will think creatively. I hardly imagine 672 00:39:53.830 --> 00:39:56.690 a multi-billion population of the Earth that 673 00:39:56.690 --> 00:40:00.830 wanders around the planet with humans and 674 00:40:00.830 --> 00:40:05.230 writes madrigals. And I have another scenario 675 00:40:05.230 --> 00:40:07.870 on the subject of those who have absolutely 676 00:40:07.870 --> 00:40:10.690 nothing to do. It's a dangerous thing. And finally, 677 00:40:10.810 --> 00:40:13.050 complete disorientation in the world. We don't 678 00:40:13.050 --> 00:40:15.050 understand what is good and what is bad. 679 00:40:15.690 --> 00:40:19.790 from under us have taken out the basic ideas 680 00:40:19.790 --> 00:40:22.810 about the world. We just don't understand 681 00:40:22.810 --> 00:40:28.350 where we are and what we are doing. The fakes 682 00:40:28.350 --> 00:40:30.810 are better than the originals. The artificial 683 00:40:30.810 --> 00:40:34.130 intelligence produces any news, including 684 00:40:34.130 --> 00:40:35.330 scientific ones. 685 00:40:36.020 --> 00:40:39.700 He learns faster than us and in some other way. 686 00:40:40.480 --> 00:40:43.640 Cyber threats from all sides, we understand it. 687 00:40:44.620 --> 00:40:48.740 Machine interaction is a very useful thing 688 00:40:48.740 --> 00:40:51.960 in medicine. There is no talk. My colleague 689 00:40:51.960 --> 00:40:54.680 and friend, Professor Kaplan, an MGU professor, 690 00:40:55.140 --> 00:40:58.500 who sits on this territory, he has mega-grants, 691 00:40:58.680 --> 00:41:00.680 all kinds, in Skolkovo and everywhere. But 692 00:41:00.680 --> 00:41:01.740 they do wonderful things. 693 00:41:04.430 --> 00:41:08.090 and similar things that are paralyzed, and 694 00:41:08.090 --> 00:41:10.690 all this with the help of these things, they 695 00:41:10.690 --> 00:41:13.090 can be taken out of this cocoon, with them 696 00:41:13.090 --> 00:41:16.990 to communicate, no one argues with this. I'm 697 00:41:16.990 --> 00:41:20.270 not a fool to say that it's all bad at all. 698 00:41:20.390 --> 00:41:22.670 But we understand that the move in one direction 699 00:41:22.670 --> 00:41:27.630 is the move in the other. Namely, we don't 700 00:41:27.630 --> 00:41:30.050 read thoughts yet. I personally think that 701 00:41:30.050 --> 00:41:30.670 we won't. 702 00:41:31.580 --> 00:41:37.360 But roughly speaking, if a person is now multiplying 703 00:41:37.360 --> 00:41:39.940 two-digit numbers or listening to music, 704 00:41:40.160 --> 00:41:43.480 or remembering how he played the thesis, we 705 00:41:43.480 --> 00:41:48.320 can do it now. So, roughly speaking, we already 706 00:41:48.320 --> 00:41:53.260 have an entrance there. Well, what are we 707 00:41:53.260 --> 00:41:55.060 going to do in connection with this? 708 00:41:57.260 --> 00:42:00.380 Now, because of the war, I don't think that 709 00:42:00.380 --> 00:42:03.100 someone is doing it now, but this slide was made, 710 00:42:03.100 --> 00:42:07.620 let's say, half a year ago, and then international 711 00:42:07.620 --> 00:42:12.220 organizations of a high level, such as the 712 00:42:12.220 --> 00:42:15.620 World Health Organization, the UN, and so on, 713 00:42:15.680 --> 00:42:17.900 discussed such things, because we have come 714 00:42:17.900 --> 00:42:23.160 to a dangerous point. We should not lose control 715 00:42:23.160 --> 00:42:25.040 over this situation, to put it bluntly. 716 00:42:26.340 --> 00:42:29.840 But we can. And there are even such terms 717 00:42:29.840 --> 00:42:31.580 as next generation technologies. 718 00:42:32.830 --> 00:42:35.350 technologies of the next generation, where 719 00:42:35.350 --> 00:42:37.850 it is already worrying, it already smells gray, 720 00:42:38.330 --> 00:42:42.130 demons come out. Neurohacking, that is, the 721 00:42:42.130 --> 00:42:47.310 ability to extract some information from 722 00:42:47.310 --> 00:42:49.990 the brain that you would not want to extract. 723 00:42:50.330 --> 00:42:55.170 Not like yesterday, when I had a seminar and spoke. 724 00:42:56.510 --> 00:43:01.410 a serious scientist, and I tell him... 725 00:43:05.110 --> 00:43:09.610 Is it true that we can't get any information 726 00:43:09.610 --> 00:43:11.570 out of the brain yet? I say, I'm not sure, 727 00:43:11.670 --> 00:43:14.130 not sure. I say, what does it mean, not sure? 728 00:43:14.430 --> 00:43:18.190 It means we have already come up, we have 729 00:43:18.190 --> 00:43:19.730 already come up. Yes, it is generally possible. 730 00:43:20.130 --> 00:43:25.170 Then I have questions that I will ask now. 731 00:43:25.190 --> 00:43:27.550 I understand, I need to finish, right? Yes, 732 00:43:27.590 --> 00:43:28.610 I'll finish now. 733 00:43:29.820 --> 00:43:32.180 Work with the genome. Do you understand? The 734 00:43:32.180 --> 00:43:34.640 same children on the order. This, of course, 735 00:43:34.680 --> 00:43:38.540 sounds like a cheap joke, but it is possible. 736 00:43:39.440 --> 00:43:43.300 Any money. I want a young lady to give birth 737 00:43:43.300 --> 00:43:43.340 to me. 738 00:43:43.990 --> 00:43:48.350 so that she has an IQ of 280, like no one 739 00:43:48.350 --> 00:43:50.570 on Earth, so that her waist is like that, 740 00:43:50.590 --> 00:43:54.570 one eye is pink, the other is green, so that 741 00:43:54.570 --> 00:43:57.490 she is an athlete, so that she plays all kinds 742 00:43:57.490 --> 00:44:01.310 of music. It sounds like idiotism, but theoretically possible. 743 00:44:01.810 --> 00:44:03.950 Another question is that everything will break 744 00:44:03.950 --> 00:44:05.530 down on this. What will be the descendants 745 00:44:05.530 --> 00:44:09.290 of this girl? Nevertheless, working with the 746 00:44:09.290 --> 00:44:11.430 genome is such a serious thing. You can certainly 747 00:44:11.430 --> 00:44:12.190 say yes. 748 00:44:12.300 --> 00:44:15.280 But if we know that such genes are responsible 749 00:44:15.280 --> 00:44:18.180 for the potential possibility of developing 750 00:44:18.180 --> 00:44:21.420 schizophrenia or oncology in your environment, 751 00:44:21.740 --> 00:44:25.040 then why don't we correct them? It seems that 752 00:44:25.040 --> 00:44:27.500 everything is fine, but what about the rest 753 00:44:27.500 --> 00:44:30.720 of the genes? Doesn't it bother them? 754 00:44:31.100 --> 00:44:34.260 It's not that we cut it out of here, but nothing 755 00:44:34.260 --> 00:44:37.940 happened here. It's too complex a system. 756 00:44:38.940 --> 00:44:41.260 It's not a cube, you know, from which one 757 00:44:41.260 --> 00:44:43.540 color came out, and the rest are in place. 758 00:44:45.600 --> 00:44:48.560 Well, online education, **** with it. Here 759 00:44:48.560 --> 00:44:50.340 are my questions in connection with this. 760 00:44:50.700 --> 00:44:52.600 And who is the **** person? 761 00:44:55.600 --> 00:45:00.040 Or maybe the brain is ****. I don't have an answer, 762 00:45:00.880 --> 00:45:05.500 but I'll ask. And the brain of the lowest 763 00:45:05.500 --> 00:45:09.720 intellectual person is still the most difficult 764 00:45:09.720 --> 00:45:12.400 in the universe. And then what does it mean 765 00:45:12.400 --> 00:45:13.700 why he is so ****? 766 00:45:14.520 --> 00:45:17.000 What kind of artificial intelligence do we create? 767 00:45:17.220 --> 00:45:20.540 Maybe we create **** artificial intelligence? 768 00:45:20.840 --> 00:45:24.240 Or immoral? And who imposes morality there? 769 00:45:25.100 --> 00:45:28.260 And what to consider morality? There is a huge 770 00:45:28.260 --> 00:45:30.400 list of questions. In order for something 771 00:45:30.400 --> 00:45:33.800 to be there, we must explain. And we don't 772 00:45:33.800 --> 00:45:36.940 know for ourselves. And what is genius? Is 773 00:45:36.940 --> 00:45:39.340 the brain genius or is the person genius? 774 00:45:40.190 --> 00:45:42.550 And not at the expense of speed, but at the 775 00:45:42.550 --> 00:45:46.010 expense of some other operations. Here are 776 00:45:46.010 --> 00:45:48.250 my dangerous questions. Can an artificial 777 00:45:48.250 --> 00:45:52.130 intelligence have a personality? And this 778 00:45:52.130 --> 00:45:55.590 is not a babi-talk, I assure you. It can 779 00:45:55.590 --> 00:46:01.050 have a self. And we 780 00:46:01.050 --> 00:46:01.370 will find out about it. 781 00:46:02.880 --> 00:46:05.700 What do the specialists say? In Skolkovo, 782 00:46:05.760 --> 00:46:08.800 they say, if **** forbid, these are serious specialists, 783 00:46:09.140 --> 00:46:13.060 they say, if **** forbid it happens, the lid 784 00:46:13.060 --> 00:46:13.580 is closed. 785 00:46:14.510 --> 00:46:19.110 They don't even use the word singularity. 786 00:46:19.190 --> 00:46:24.550 If these programs unfold before they become personalities, 787 00:46:24.990 --> 00:46:27.530 it follows that they have their own plans, 788 00:46:27.790 --> 00:46:30.130 their own goals. We definitely do not enter 789 00:46:30.130 --> 00:46:30.630 these goals. 790 00:46:33.430 --> 00:46:36.590 If we think that we will cut them out of the network, 791 00:46:36.730 --> 00:46:41.170 as an example, listen, we are talking about 792 00:46:41.170 --> 00:46:43.610 such levels of development, that they, of course, 793 00:46:43.730 --> 00:46:45.430 will take care of the fact that they cannot 794 00:46:45.430 --> 00:46:49.570 be cut out of anything, solar energy or thermoelectric 795 00:46:49.570 --> 00:46:53.170 and so on. Will they feel pain? Will they suffer? 796 00:46:54.310 --> 00:46:57.750 Will they suffer? Or will they pretend to 797 00:46:57.750 --> 00:46:58.710 be good actors? 798 00:46:59.780 --> 00:47:02.540 It looks as if he is not sleeping at night, 799 00:47:02.540 --> 00:47:06.120 but worries about you. Therefore, we need 800 00:47:06.120 --> 00:47:08.640 to slow down, understand that we are not going 801 00:47:08.640 --> 00:47:11.500 anywhere from the digital world, moreover, 802 00:47:11.540 --> 00:47:15.880 that it brings benefit. As I said, on the 803 00:47:15.880 --> 00:47:18.460 other hand, I started with the fact that there 804 00:47:18.460 --> 00:47:21.700 are things that we cannot do without it. But 805 00:47:21.700 --> 00:47:24.260 we must always hold ourselves to the tail. 806 00:47:25.520 --> 00:47:28.420 The review of basic ethical norms, values 807 00:47:28.420 --> 00:47:29.200 and meanings. 808 00:47:30.490 --> 00:47:33.250 There is no need to add chaos to the world 809 00:47:33.250 --> 00:47:35.950 that is so completely flat, as I think everyone 810 00:47:35.950 --> 00:47:39.410 understands it. And I finish on this picture, 811 00:47:39.570 --> 00:47:43.350 unexpected. And this, if anyone does not remember, 812 00:47:43.570 --> 00:47:46.650 then I advise you to remember. This is a frame 813 00:47:46.650 --> 00:47:50.590 from one of the most brilliant films of Charlie Chaplin, 814 00:47:50.750 --> 00:47:53.870 Fire of the Big City. And he is about warmth 815 00:47:53.870 --> 00:47:57.370 and about humanity. When children... 816 00:47:58.000 --> 00:48:01.200 And students, schoolchildren and students ask, 817 00:48:01.340 --> 00:48:04.540 I'm talking about specific research, what 818 00:48:04.540 --> 00:48:07.300 teacher is good for them. Not in the sense 819 00:48:07.300 --> 00:48:09.200 of Maria Ivanovna or Sidor Sidorovich, but 820 00:48:09.200 --> 00:48:12.580 what is the ideal teacher? You will not believe, 821 00:48:12.900 --> 00:48:15.980 there are practically no answers, the one 822 00:48:15.980 --> 00:48:16.580 who knows a lot. 823 00:48:17.680 --> 00:48:19.620 I don't judge. I don't say whether it's good 824 00:48:19.620 --> 00:48:23.420 or bad. I say the fact is that the mass response 825 00:48:23.420 --> 00:48:26.640 is the one to whom I can approach, who will 826 00:48:26.640 --> 00:48:30.160 listen to me, who will calm me down, who will 827 00:48:30.160 --> 00:48:32.460 comfort me, who will give me advice on how 828 00:48:32.460 --> 00:48:35.860 to live in this dog world. Because there is 829 00:48:35.860 --> 00:48:38.560 no one else to approach. Their parents are 830 00:48:38.560 --> 00:48:41.900 either the same as they are, and maybe their grandparents. 831 00:48:42.840 --> 00:48:44.540 Everyone works like plague. 832 00:48:46.210 --> 00:48:49.610 There are even some poems that say that the 833 00:48:49.610 --> 00:48:52.910 mother is not at home, the mother dived into 834 00:48:52.910 --> 00:48:56.250 the Internet. That is, they are sitting here somewhere, 835 00:48:56.370 --> 00:48:58.930 they are sitting, but it is not easier for anyone. 836 00:48:59.030 --> 00:49:03.350 And the child and the student even, that is, 837 00:49:03.410 --> 00:49:05.950 the young person, find themselves in a situation 838 00:49:05.950 --> 00:49:10.410 when they have nowhere to lean on. Everywhere 839 00:49:10.410 --> 00:49:13.950 is a cold and cynical world. 840 00:49:14.910 --> 00:49:18.170 And in general, I feel sorry for the children. 841 00:49:18.590 --> 00:49:20.530 Where do they go? They are only pushed from 842 00:49:20.530 --> 00:49:25.210 all sides. Of course, we can say, yes, but 843 00:49:25.210 --> 00:49:27.670 if we let them go, and now we see what is 844 00:49:27.670 --> 00:49:29.710 being done, it will be even worse. Well, yes, 845 00:49:29.730 --> 00:49:31.970 but then we have nothing to boast about the 846 00:49:31.970 --> 00:49:33.790 fact that we are adults and know more than 847 00:49:33.790 --> 00:49:36.750 they do. We need to somehow get together and think. 848 00:49:37.170 --> 00:49:38.330 And that's the end. 849 00:49:40.040 --> 00:49:42.180 The digital world is already here, you can't 850 00:49:42.180 --> 00:49:46.140 get away from it. We need to try to ensure 851 00:49:46.140 --> 00:49:51.280 as much security as possible 852 00:49:51.280 --> 00:49:55.860 from this very powerful world in which we 853 00:49:55.860 --> 00:49:57.820 are in. I think everyone understands that 854 00:49:57.820 --> 00:50:00.220 we are completely transparent, right? In the 855 00:50:00.220 --> 00:50:03.300 pocket of every phone. We understand, everyone 856 00:50:03.300 --> 00:50:05.420 knows where you are, where you are at all, 857 00:50:05.960 --> 00:50:08.340 which you, for example, never... 858 00:50:08.590 --> 00:50:09.470 ...... 859 00:50:18.940 --> 00:50:22.860 Everything is known. But we go to the airport, 860 00:50:23.200 --> 00:50:25.220 when there was still an airport. You come 861 00:50:25.220 --> 00:50:26.780 and they say to you, you have some suspicious heels, 862 00:50:27.580 --> 00:50:30.800 take them off. And we agree, because I don't 863 00:50:30.800 --> 00:50:33.300 want to be blown up. To **** with them, with heels, 864 00:50:33.540 --> 00:50:36.540 with these. That is, we are in a very strange world. 865 00:50:36.640 --> 00:50:39.640 We as if ourselves give away, inevitably, 866 00:50:40.000 --> 00:50:42.980 we give control over the world with these 867 00:50:42.980 --> 00:50:44.360 artificial instruments. 868 00:50:46.090 --> 00:50:47.530 Because there is nowhere to go. 869 00:50:48.730 --> 00:50:51.170 Well, in general, this is the end. Although 870 00:50:51.170 --> 00:50:54.170 I don't like it all, but I repeat, it's the 871 00:50:54.170 --> 00:50:58.590 same as saying, yes, I don't like the weather 872 00:50:58.590 --> 00:51:01.970 in Brazil. Who is asking you? Do you like 873 00:51:01.970 --> 00:51:04.230 the weather in Brazil or not? It's like this 874 00:51:04.230 --> 00:51:08.050 is what it is. This planet is now like this. 875 00:51:08.110 --> 00:51:10.710 In order for us to live on it in a way that 876 00:51:10.710 --> 00:51:13.670 is not acceptable, we need to think about 877 00:51:13.670 --> 00:51:14.350 how to live on it. 878 00:51:16.740 --> 00:51:18.440 Thank you for your patience.