Отечественная школа
онкологов
← Видеотека

Человек и мир искусственного интеллекта

Дата записи

Аннотация

В видеозаписи спикер, главный научный сотрудник Института мозга человека и директор Института когнитивных исследований, размышляет о взаимодействии человека и искусственного интеллекта, обсуждая стремительные изменения в современном мире, возможности и риски цифровизации, а также этические и юридические проблемы, связанные с развитием нейротехнологий и геномных исследований; приводятся примеры успехов ИИ в играх (шахматы, го, покер), поднимаются вопросы адаптации человека к новой реальности, подготовки специалистов (в том числе врачей) к работе в цифровом мире, будущего человечества в условиях развития технологий и потери традиционных ориентиров.

Сгенерировано Алисой AI. Алиса может ошибаться.

Связанная публикация

Статья
Возможности и перспективы искусственного интеллекта в патоморфологической диагностике рака
Выпуск журнала
№92 · Инновации в диагностике
Транскрипция для ИИ-агентов

Автоматические

WEBVTT

0
00:00:00.000 --> 00:00:04.200
Спасибо большое. Очередной раз я сейчас сидела

1
00:00:04.200 --> 00:00:06.480
и думала, какой я глупость все-таки сделала,

2
00:00:06.480 --> 00:00:11.580
что не поступала в медицинский институт. Я даже думаю,

3
00:00:11.580 --> 00:00:14.220
что я, может быть, была бы неплохим врачом,

4
00:00:14.260 --> 00:00:17.160
как мне теперь кажется, но этого уже нет.

5
00:00:17.940 --> 00:00:18.980
Но я...

6
00:00:19.900 --> 00:00:23.320
при, около медицины все время. Я и сейчас

7
00:00:23.320 --> 00:00:26.720
главный научный сотрудник Института мозга человека,

8
00:00:27.040 --> 00:00:31.180
то есть основное мое место жительства – это

9
00:00:31.180 --> 00:00:33.220
Петербургский университет, и я там директор

10
00:00:33.220 --> 00:00:37.100
Института когнитивных исследований. Но поскольку

11
00:00:37.100 --> 00:00:42.040
изучая мозг, естественно, нужно быть в профессиональных местах,

12
00:00:42.060 --> 00:00:46.520
то вот там я и есть. Но до этого еще много

13
00:00:46.520 --> 00:00:48.440
лет база академическая

14
00:00:48.460 --> 00:00:51.080
Медицинская института эволюционной физиологии

15
00:00:51.080 --> 00:00:53.780
и биохимии имени Сечина, где я много лет работала.

16
00:00:53.960 --> 00:00:57.300
Она была в больнице Скворцова-Степанова.

17
00:00:57.320 --> 00:01:00.140
И, конечно, я никаким психиатром не стала,

18
00:01:00.320 --> 00:01:05.519
но нагляделась. Ну, ориентируюсь, короче говоря.

19
00:01:06.920 --> 00:01:11.140
Ну, вот то, о чем мы сегодня будем говорить.

20
00:01:12.720 --> 00:01:17.400
А именно человек и тот мир, в который мы попали,

21
00:01:17.420 --> 00:01:22.280
мир искусственного интеллекта, это тема, конечно,

22
00:01:22.460 --> 00:01:25.320
не медицинская, но тем не менее, как видите,

23
00:01:25.400 --> 00:01:28.600
картинку я сюда вставила. А я вот, а, вот.

24
00:01:29.540 --> 00:01:33.000
Вот эта барышня в белом халате, это...

25
00:01:34.979 --> 00:01:37.940
антропоморфный робот, который на самом деле

26
00:01:37.940 --> 00:01:43.420
сделан в Зеленодольск, Зеленоградск,

27
00:01:43.520 --> 00:01:47.560
Зеленонегорск. Короче говоря, московское место,

28
00:01:47.680 --> 00:01:50.540
где искусным интеллектом занимаются. И вот,

29
00:01:50.560 --> 00:01:54.980
пожалуйста, это помощница, как бы ассистент врача.

30
00:01:55.360 --> 00:02:01.300
Вот, другая картинка на этом же слайде изображает человека,

31
00:02:01.640 --> 00:02:05.660
и это все мы, который очень собой доволен,

32
00:02:05.680 --> 00:02:11.539
у него цилиндр, он весел, он

33
00:02:11.539 --> 00:02:16.240
читает газету и ничего не подозревает. Между тем,

34
00:02:16.240 --> 00:02:19.620
сзади вы видите, что едет, что его сметет.

35
00:02:20.840 --> 00:02:22.760
Я постараюсь...

36
00:02:23.800 --> 00:02:29.880
не пессимистично говорить. Хотя я вхожу

37
00:02:29.880 --> 00:02:33.340
в бюро такой...

38
00:02:37.600 --> 00:02:40.780
комиссии по методологии и философии искусственного

39
00:02:40.780 --> 00:02:43.020
интеллекта и когнитивных исследований при

40
00:02:43.020 --> 00:02:45.660
Президиуме Академии Наук. Это я говорю не

41
00:02:45.660 --> 00:02:49.320
для того, чтобы со своей биографией познакомиться,

42
00:02:49.360 --> 00:02:52.280
а потому что я в курсе дел. Вот я к чему это сказала.

43
00:02:52.620 --> 00:02:55.240
То есть я сама участвую в этих дискуссиях,

44
00:02:55.240 --> 00:02:58.000
чего бояться, чего не бояться, и понимаю,

45
00:02:58.020 --> 00:03:02.040
как сейчас этот мир выглядит. Ну вот посмотрим,

46
00:03:02.300 --> 00:03:03.500
что мне удастся.

47
00:03:04.920 --> 00:03:07.040
Во-первых, факт есть факт.

48
00:03:07.280 --> 00:03:11.540
что мы находимся в новом типе цивилизации.

49
00:03:11.580 --> 00:03:15.860
Это не будущее, это настоящее, и это факт.

50
00:03:16.140 --> 00:03:19.040
Нам, может, это не нравится, вот мне, к примеру,

51
00:03:19.040 --> 00:03:22.540
не нравится, но совершенно никого не волнует,

52
00:03:22.540 --> 00:03:26.040
кому что нравится. Можно считать, что мы переехали

53
00:03:26.040 --> 00:03:30.360
на другую планету. И это не художественный образ,

54
00:03:30.440 --> 00:03:32.540
я говорю абсолютно всерьез. Вот я сегодня

55
00:03:32.540 --> 00:03:35.740
с девяти утра уже была на двух докладах в Зуме.

56
00:03:35.790 --> 00:03:41.170
так что сидела дома. И там весь зал академиками

57
00:03:41.170 --> 00:03:47.030
был набит, и они обсуждали новый мир. И что говорят?

58
00:03:47.170 --> 00:03:51.270
Говорят дети, дети, школьники, говорят, а вы,

59
00:03:51.330 --> 00:03:55.270
взрослые, какое имеете право нас учить, как

60
00:03:55.270 --> 00:03:58.050
жить в том мире, в котором вы никогда не жили?

61
00:03:58.600 --> 00:04:01.680
Это не шуточное вообще заявление на самом деле.

62
00:04:01.940 --> 00:04:04.780
Понятно, что можно махнуть рукой, дети еще

63
00:04:04.780 --> 00:04:07.460
и не то скажут, но в этом есть глубокий смысл.

64
00:04:07.680 --> 00:04:11.300
Мы чего хотим? Мы хотим, чтобы будущий мир

65
00:04:11.300 --> 00:04:15.700
был как минимум приемлем, чтобы он не был враждебен.

66
00:04:16.180 --> 00:04:19.380
Мы хотим счастья нашим потомкам и так далее.

67
00:04:19.560 --> 00:04:22.980
А что мы при этом имеем в виду? Вот счастье

68
00:04:22.980 --> 00:04:25.899
– это что? Чтобы у них было много еды. Банальные

69
00:04:25.899 --> 00:04:26.880
вещи можно сказать.

70
00:04:27.269 --> 00:04:30.170
чтобы были сыты, безопасны, но это все понятно.

71
00:04:30.430 --> 00:04:33.209
А все-таки, учитывая, что тот мир, в котором

72
00:04:33.209 --> 00:04:37.250
мы оказались, непонятен, он непонятен никому,

73
00:04:37.250 --> 00:04:40.630
кроме тех, у кого ума мало. И поэтому они

74
00:04:40.630 --> 00:04:44.210
почему-то считают, что он им понятен. Поэтому

75
00:04:44.210 --> 00:04:46.630
мы действительно в новом мире, в котором нам

76
00:04:46.630 --> 00:04:50.710
надо попробовать сориентироваться. Этот мир цифровой.

77
00:04:50.830 --> 00:04:52.890
Он цифровой, и это факт.

78
00:04:53.240 --> 00:04:56.460
Повторяю, меня эта история никак не устраивает,

79
00:04:56.580 --> 00:05:01.720
но меня никто и не спрашивает. В этой связи,

80
00:05:01.720 --> 00:05:05.900
почему такое огромное место занимают исследования мозга?

81
00:05:05.960 --> 00:05:10.900
На это идут огромные деньги. Счет идет только

82
00:05:10.900 --> 00:05:13.520
на миллиарды и, разумеется, не рублей.

83
00:05:14.419 --> 00:05:17.260
Почему? Мы же понимаем, что в жестоком мире,

84
00:05:17.400 --> 00:05:20.660
в котором мы живем, никто цент не потратит

85
00:05:20.660 --> 00:05:23.940
просто так, если не будет ясности, что ты

86
00:05:23.940 --> 00:05:27.480
вкладываешь деньги туда, куда надо. Это и федеральные

87
00:05:27.480 --> 00:05:30.900
деньги всех развитых стран, и Америка, и Азия вся,

88
00:05:31.020 --> 00:05:34.800
и Китай, и Япония, и Европа. В Европе, кстати,

89
00:05:35.080 --> 00:05:38.660
один из проектов, который назывался Blue Brain,

90
00:05:38.880 --> 00:05:42.720
он таки загнулся, несмотря на огромный...

91
00:05:42.730 --> 00:05:45.870
Потому что неправильная идея была. Вот я,

92
00:05:45.890 --> 00:05:50.050
собственно, куда иду. Я веду к тому, что надо

93
00:05:50.050 --> 00:05:53.390
не деньги собирать, а думать хорошо. Это не значит,

94
00:05:53.450 --> 00:05:55.730
что деньги не нужны. Но всем понятно, что

95
00:05:55.730 --> 00:05:58.790
это очень дорогие вещи. Но если ты при этом

96
00:05:58.790 --> 00:06:01.590
неправильно продумал, то эти все деньги летят

97
00:06:01.590 --> 00:06:02.270
в пропасть.

98
00:06:04.020 --> 00:06:06.660
Искусственный интеллект и его место. А при

99
00:06:06.660 --> 00:06:08.440
чём здесь, собственно, искусственный интеллект?

100
00:06:08.540 --> 00:06:11.940
Потому что если смотреть на это примитивным образом,

101
00:06:12.180 --> 00:06:17.440
то вопрос, к которому я вернусь потом, мы

102
00:06:17.440 --> 00:06:20.640
вообще что планируем здесь делать? Мы на этой

103
00:06:20.640 --> 00:06:25.860
планете жить ещё собираемся? Или мы все позиции сдаём?

104
00:06:26.280 --> 00:06:29.520
Да, и теперь пусть вместо нас он все это делает.

105
00:06:29.900 --> 00:06:32.960
Хотелось бы, вот задаю всем вопрос, разумеется,

106
00:06:32.960 --> 00:06:35.460
никакого ответа, кроме глупых, не получаю.

107
00:06:35.620 --> 00:06:38.120
А вопрос мой такой, чем займемся?

108
00:06:39.080 --> 00:06:41.580
Нет, если искусственный интеллект будет делать всё,

109
00:06:41.800 --> 00:06:46.780
он будет лечить, учить, считать, добывать уголь,

110
00:06:46.780 --> 00:06:50.000
если кому-то ещё будет нужен уголь и так далее.

111
00:06:50.120 --> 00:06:52.120
Вот он всё будет делать. Чем займутся люди?

112
00:06:52.580 --> 00:06:55.740
На это полагается отвечать. Вот Греф, например,

113
00:06:56.020 --> 00:07:01.080
я и публично, и лично с ним собачилась многократно.

114
00:07:01.140 --> 00:07:03.700
Он на это говорит, ладно, не пугайте народ.

115
00:07:05.320 --> 00:07:08.620
Потому что, да, большое количество профессий отомрет,

116
00:07:08.760 --> 00:07:12.220
но зато много появится. Вот у нас уже много появилось.

117
00:07:12.340 --> 00:07:15.380
Да, много появилось. И какой процент населения

118
00:07:15.380 --> 00:07:20.620
это покрывает? Минимальный. Кроме того, нужна

119
00:07:20.620 --> 00:07:22.760
специальная подготовка. То есть это никак

120
00:07:22.760 --> 00:07:24.160
не массовая вещь.

121
00:07:26.440 --> 00:07:28.740
И вот то, что я уже сказала, а какое, собственно,

122
00:07:28.880 --> 00:07:31.760
будущее мы строим? И как мы готовим тех, кто

123
00:07:31.760 --> 00:07:34.960
в нём будет жить? Вот я не собираюсь философствовать особенно,

124
00:07:35.240 --> 00:07:40.340
но скажем, врачей. Мы, это

125
00:07:40.340 --> 00:07:44.720
не я, хотя я на медицинском факультете и заноточена,

126
00:07:44.800 --> 00:07:48.440
даже преподавала один год, но вовремя опомнилась.

127
00:07:51.880 --> 00:07:56.680
Что эти люди должны? Они должны много зубрить,

128
00:07:56.740 --> 00:07:59.320
к примеру. Я так примитивно говорю. Они должны

129
00:07:59.320 --> 00:08:02.580
много знать. Или поскольку у всех в кармане...

130
00:08:03.450 --> 00:08:05.790
сами понимаем, что лежит, то всегда можно

131
00:08:05.790 --> 00:08:09.890
туда залезть, и тебе там все скажут. В аудитории

132
00:08:09.890 --> 00:08:12.430
медицинской даже неловко говорить то, что

133
00:08:12.430 --> 00:08:14.770
вот я сейчас скажу. А кто-нибудь хотел бы

134
00:08:14.770 --> 00:08:17.430
учиться у врача, который должен все время

135
00:08:17.430 --> 00:08:20.410
в телефон лезть, чтобы посмотреть, как обстоят дела?

136
00:08:20.750 --> 00:08:23.250
Я сомневаюсь, что кроме сумасшедших кто-нибудь

137
00:08:23.250 --> 00:08:25.910
на это согласен. Кроме того, опять-таки,

138
00:08:25.910 --> 00:08:28.090
в этой аудитории даже неловко это говорить.

139
00:08:28.730 --> 00:08:30.670
И я скажу с двух сторон.

140
00:08:31.180 --> 00:08:35.299
Я обычно говорю, да, медицина – это высокая наука,

141
00:08:35.299 --> 00:08:38.340
но это высокое искусство. Мы же знаем, что

142
00:08:38.340 --> 00:08:42.520
гениальные врачи, они вообще про другое. Мы

143
00:08:42.520 --> 00:08:45.140
не знаем, как они ставят диагнозы, вообще

144
00:08:45.140 --> 00:08:47.980
не понимаем, это что-то на нюх такое. Я,

145
00:08:48.039 --> 00:08:51.400
говорит, вижу, когда ты их спрашиваешь, как

146
00:08:51.400 --> 00:08:53.380
вы это делаете. Я говорю, вижу, чую.

147
00:08:54.529 --> 00:08:57.289
На запах старые врачи это делали. То есть

148
00:08:57.289 --> 00:09:00.510
здесь начинают включаться механизмы, которые

149
00:09:00.510 --> 00:09:04.130
не алгоритмы, и которые искусственный интеллект

150
00:09:04.130 --> 00:09:06.650
не может заменить. Но я теперь эту историю

151
00:09:06.650 --> 00:09:09.289
переворачиваю и говорю, да, медицина, разумеется,

152
00:09:09.289 --> 00:09:12.750
искусство, но она и наука. Даже тот кусочек,

153
00:09:12.750 --> 00:09:16.090
который я вот сейчас вот захватила, слушайте,

154
00:09:16.110 --> 00:09:18.890
ну не может быть, ну просто наводит на мысль,

155
00:09:18.930 --> 00:09:22.670
ну нет на свете человека, какой бы это ни был...

156
00:09:24.100 --> 00:09:27.360
опытный врач, чтобы он мог просмотреть миллион

157
00:09:27.360 --> 00:09:32.880
томограмм или там КТ, неважно чего, миллион,

158
00:09:32.900 --> 00:09:37.780
да, и сделать из этого вывод. Это работа невозможная.

159
00:09:37.900 --> 00:09:40.720
То есть, да, это как раз то, что искусственный

160
00:09:40.720 --> 00:09:43.280
интеллект должен делать, то есть работа с big data,

161
00:09:43.360 --> 00:09:46.580
с большими данными. И он там это все ковыряет,

162
00:09:46.580 --> 00:09:49.740
ковыряет этих блох и в итоге рассортирует

163
00:09:49.740 --> 00:09:51.760
и скажет, вот когда ты такое видишь,

164
00:09:51.760 --> 00:09:56.980
Насторожись. Но не его собачье дело, извините

165
00:09:56.980 --> 00:10:01.480
за вульгарность, механическое решение принимать.

166
00:10:01.540 --> 00:10:05.820
Он нам должен дать информацию, которую мы

167
00:10:05.820 --> 00:10:10.800
не в состоянии сами обработать. Да, но последнее

168
00:10:10.800 --> 00:10:12.520
слово не за ним.

169
00:10:13.820 --> 00:10:17.640
Поэтому вот как учить этих врачей, ну медики

170
00:10:17.640 --> 00:10:21.760
в целом, не только врачи, кстати, а и вся иерархия.

171
00:10:21.840 --> 00:10:25.940
Они должны быть цифровым образом подготовлены.

172
00:10:25.960 --> 00:10:29.380
Не глупо, в смысле, как программа Excel работает,

173
00:10:29.500 --> 00:10:32.520
а вот по-настоящему. Это же другой мир. Да,

174
00:10:32.600 --> 00:10:36.620
нужны. Надо им зубрить, я уверена, надо. Хотя,

175
00:10:36.660 --> 00:10:40.500
если бы рядом со мной целый ряд моих коллег стояли,

176
00:10:40.500 --> 00:10:42.220
они бы сказали, ой, ладно, хватит.

177
00:10:42.320 --> 00:10:45.060
Уже несколько тысячелетий вся эта зубрёшка,

178
00:10:45.120 --> 00:10:49.080
никому сейчас не нужно. Я так не считаю. Я считаю,

179
00:10:49.080 --> 00:10:52.720
что даже гуманитариев нужно всех до единого

180
00:10:52.720 --> 00:10:55.320
учить латыни и древнегреческому. Потому что

181
00:10:55.320 --> 00:10:58.960
это у них мозги прочистят. И математики вообще всех.

182
00:11:01.060 --> 00:11:03.840
Сейчас. Ой, извините.

183
00:11:05.230 --> 00:11:09.050
Вот вся эта история ставит перед нами много

184
00:11:09.050 --> 00:11:12.990
экзистенциальных вопросов, настоящих серьезных вопросов.

185
00:11:14.190 --> 00:11:18.370
Вот много можно об этом говорить, а как это сделать?

186
00:11:18.550 --> 00:11:23.450
Мы понимаем, что нужно иначе учить, нужно понять,

187
00:11:23.490 --> 00:11:26.730
как будет сосуществовать естественный интеллект

188
00:11:26.730 --> 00:11:28.770
и искусственный интеллект на планете.

189
00:11:29.440 --> 00:11:32.160
Ведь это разделение труда. Вот как-то же

190
00:11:32.160 --> 00:11:36.460
надо разделиться. Искусственные интеллектуальные системы,

191
00:11:36.480 --> 00:11:39.760
они вообще что будут делать? А мы контроль

192
00:11:39.760 --> 00:11:40.480
не потеряем?

193
00:11:40.910 --> 00:11:44.170
Мы уверены, что мы сможем удержать эту ситуацию

194
00:11:44.170 --> 00:11:48.790
в наших руках. Когда говоришь с людьми, условно говоря,

195
00:11:48.870 --> 00:11:51.410
из Сколково, хотя и буквально из Сколково,

196
00:11:51.430 --> 00:11:53.950
они говорят, ладно, не надо паники, но они

197
00:11:53.950 --> 00:11:56.690
все снобы, они в себе страшно уверены, они

198
00:11:56.690 --> 00:11:59.130
почему-то думают, что они понимают эту ситуацию.

199
00:11:59.150 --> 00:12:02.570
Они, конечно, саму эту область знают, как никто,

200
00:12:02.790 --> 00:12:06.870
это да. Но как только ты шаг влево, шаг вправо,

201
00:12:06.870 --> 00:12:09.490
то тут начинается, они говорят, слушай,

202
00:12:09.480 --> 00:12:13.320
Программы делают ровно то, что мы в них заложим.

203
00:12:13.360 --> 00:12:18.420
Это неправда. Они либо нам лгут,

204
00:12:18.460 --> 00:12:22.740
прямо лгут, либо они сами не понимают. Потому что,

205
00:12:22.740 --> 00:12:26.680
поскольку я много с разными людьми общаюсь

206
00:12:26.680 --> 00:12:30.300
и выступаю в том числе, у меня был эпизод года...

207
00:12:30.970 --> 00:12:33.290
три, наверное, тому назад, а с тех пор очень

208
00:12:33.290 --> 00:12:37.330
продвинулась эта область, когда по их просьбе

209
00:12:37.330 --> 00:12:40.590
выступала фирма, которая искусственно-интеллектуальные

210
00:12:40.590 --> 00:12:46.130
программы как раз и разрабатывает. И вдруг...

211
00:12:46.510 --> 00:12:49.130
Их начальник говорит, вы знаете, у нас такая

212
00:12:49.130 --> 00:12:53.110
странная вещь стала. Они обучаются, то есть

213
00:12:53.110 --> 00:12:56.310
работают с глубоким обучением нейронных сетей.

214
00:12:56.750 --> 00:12:59.310
Наша программа стала очень быстро учиться.

215
00:12:59.370 --> 00:13:03.210
Она учится так, что мы не успеваем. Я говорю,

216
00:13:03.350 --> 00:13:06.910
о, внимание, с этой точки подробно и медленно.

217
00:13:07.950 --> 00:13:12.850
Они говорят, во-первых, она учится быстрее,

218
00:13:12.850 --> 00:13:14.370
чем мы можем понять.

219
00:13:15.360 --> 00:13:19.140
Во-вторых, она делает что-то, чего мы не

220
00:13:19.140 --> 00:13:21.540
понимаем вообще. Я говорю, а с этой точки

221
00:13:21.540 --> 00:13:24.980
особенно медленно. Что значит мы не понимаем?

222
00:13:25.540 --> 00:13:28.720
Они говорят, ну что-то происходит такое,

223
00:13:28.980 --> 00:13:31.640
что мы не знаем, как это интерпретировать.

224
00:13:32.000 --> 00:13:35.840
И я говорю, и? Они говорят, и мы испугались.

225
00:13:36.240 --> 00:13:37.960
Послушайте, это говорят разработчики.

226
00:13:39.099 --> 00:13:41.820
Мы испугались. Я говорю, и испугавшись, что

227
00:13:41.820 --> 00:13:45.300
вы сделали? Вы не поверите. Они вынули из сети,

228
00:13:45.300 --> 00:13:48.860
из розетки. Вы представляете, как они должны

229
00:13:48.860 --> 00:13:51.440
были испугаться для того, чтобы пойти на такой

230
00:13:51.440 --> 00:13:55.760
примитивный ход, как отключить от электроэнергии.

231
00:13:55.840 --> 00:13:59.220
Я не хочу пугать всех, что этот момент еще

232
00:13:59.220 --> 00:14:04.880
не настал. Но он может настать. Это разработки,

233
00:14:04.880 --> 00:14:07.720
которые еще никуда не вышли. Это их игрушки местные.

234
00:14:08.440 --> 00:14:11.720
Но все впереди.

235
00:14:12.760 --> 00:14:16.720
Вот если вы помните, это я про игры. Если

236
00:14:16.720 --> 00:14:21.060
вы помните, то игра в шахматы, которой, как

237
00:14:21.060 --> 00:14:25.380
мы знаем, несколько тысяч лет, и в 1997 году

238
00:14:25.380 --> 00:14:29.560
шахматная программа Deep Blue обыграла тогдашнего

239
00:14:29.560 --> 00:14:32.760
чемпиона мира. Дело не в игре. Вы понимаете,

240
00:14:32.760 --> 00:14:36.980
что я же всерьез тут разговариваю? Дело не

241
00:14:36.980 --> 00:14:39.700
в игре, а дело в том, что она может мочь.

242
00:14:40.760 --> 00:14:43.360
Дело не в том, что не с кем в шахматы поиграть.

243
00:14:44.820 --> 00:14:48.120
Короче говоря, она разбила тогдашнего чемпиона мира,

244
00:14:48.240 --> 00:14:49.980
а именно Каспарова, в пух и прах.

245
00:14:50.969 --> 00:14:53.570
И человечество аж вздрогнуло, потому что вот

246
00:14:53.570 --> 00:14:55.930
лучший мозг планеты, и вообще все, конец.

247
00:14:56.090 --> 00:14:59.430
Но когда пришли в чувства и стали анализировать,

248
00:14:59.530 --> 00:15:03.070
то оказалось, что это не так страшно, как

249
00:15:03.070 --> 00:15:07.790
сначала это ударило, потому что это была нечестная игра.

250
00:15:07.890 --> 00:15:10.970
Я хотя была молодая и дура, но я тем не менее

251
00:15:10.970 --> 00:15:13.790
сразу сказала, так играть нельзя, это нечестная игра.

252
00:15:14.850 --> 00:15:18.730
Неравные условия. Программа не устает.

253
00:15:19.020 --> 00:15:21.960
Она не нервничает, у неё огромные скорости,

254
00:15:22.040 --> 00:15:23.800
у неё бесконечная память.

255
00:15:25.299 --> 00:15:28.460
нет человека на Земле, который в состоянии

256
00:15:28.460 --> 00:15:31.740
конкурировать с этим. У всех есть все, что

257
00:15:31.740 --> 00:15:34.300
я перечислила. Так играть нельзя. Хуже того,

258
00:15:34.500 --> 00:15:38.000
она была натаскана на конкретного человека,

259
00:15:38.060 --> 00:15:41.060
а именно на него. Она про него знала каждый

260
00:15:41.060 --> 00:15:43.760
его ход. Он сам про себя знал меньше, чем она.

261
00:15:44.700 --> 00:15:48.580
Это нечестная игра. Потом проходит несколько лет,

262
00:15:48.620 --> 00:15:52.380
она обыгрывает одного за другим. Вопрос с шахматами закончен.

263
00:15:53.120 --> 00:15:58.100
Все. Поскольку это переборная игра, понятно,

264
00:15:58.100 --> 00:16:01.580
что конкурировать невозможно. Тогда стали говорить,

265
00:16:01.820 --> 00:16:04.000
мне очень эта идея понравилась, стали говорить,

266
00:16:04.080 --> 00:16:08.460
есть игры посложнее. Дело даже не в том, что посложнее,

267
00:16:08.480 --> 00:16:11.480
а другого типа. Например, игра в Го. Вот игру

268
00:16:11.480 --> 00:16:16.080
в Го эти железные монстры, они, мол, не одолеют.

269
00:16:16.480 --> 00:16:19.320
Одолели. Вот, пожалуйста, на этой картинке

270
00:16:19.320 --> 00:16:21.180
сидит человек, лисий доль.

271
00:16:21.930 --> 00:16:26.890
Он чемпион мира по ГО, и она его в пух и прах разнесла.

272
00:16:27.030 --> 00:16:32.970
Это значит, что эти программы ступили на другую дорогу.

273
00:16:32.990 --> 00:16:38.090
Они пошли не по линии перебора операций, просто

274
00:16:38.090 --> 00:16:40.770
очень быстрого перебора операций, они научились

275
00:16:40.770 --> 00:16:42.290
делать кое-что другое.

276
00:16:44.550 --> 00:16:48.490
Вот он, видите, этот лисий доль. Это программа

277
00:16:48.490 --> 00:16:53.990
Альфа-Го, знаменитая. Ну, в общем, сами видите.

278
00:16:57.070 --> 00:17:01.750
Было ясно, что он не выиграет вообще, но хоть одну.

279
00:17:03.279 --> 00:17:06.440
выиграть партию. Вот так вопрос стоял. А это

280
00:17:06.440 --> 00:17:09.560
уже как бы изысканные ходы. Потом я с собой

281
00:17:09.560 --> 00:17:12.599
была очень довольна и напрасна, потому что

282
00:17:12.599 --> 00:17:16.520
я говорила, у нас есть игры и посильнее, например,

283
00:17:16.720 --> 00:17:21.660
покер, где шулерство, так сказать, присутствует.

284
00:17:21.700 --> 00:17:24.400
Пэлка фейс, лицо, которое ничего не выражает,

285
00:17:24.400 --> 00:17:27.280
темные очки, скрываем эмоции, блеф.

286
00:17:28.080 --> 00:17:31.560
И вот этого программа по определению не может взять.

287
00:17:31.700 --> 00:17:35.380
Очень с собой была довольна, что я такое придумала.

288
00:17:35.599 --> 00:17:38.099
Напрасно. Потому что вот.

289
00:17:39.309 --> 00:17:43.750
Программа «Либрадус» выиграла в покер у четырех

290
00:17:43.750 --> 00:17:47.010
лучших игроков мира. Видите, они просто хохочут здесь,

291
00:17:47.109 --> 00:17:49.390
потому что она их обставила полностью. Выиграла

292
00:17:49.390 --> 00:17:52.990
у них почти 2 миллиона долларов. Но, разумеется,

293
00:17:53.030 --> 00:17:57.069
ей этой железяке никто их не дал. Но факт

294
00:17:57.069 --> 00:17:57.730
есть факт.

295
00:18:01.240 --> 00:18:04.079
А зачем мы в эту игру играем? Вот понятно,

296
00:18:04.780 --> 00:18:07.579
если речь идет, вот последний пункт, если

297
00:18:07.579 --> 00:18:11.160
речь идет о том, чтобы улучшить нашу жизнь,

298
00:18:11.240 --> 00:18:14.859
передав туда работу, которую мы делать не

299
00:18:14.859 --> 00:18:17.700
хотим или не можем, ну как с большими данными,

300
00:18:17.780 --> 00:18:21.140
но мы не можем, или зачем человеку лезть в шахту,

301
00:18:21.140 --> 00:18:24.800
пускай эти железяки там ковыряются, да, или,

302
00:18:24.900 --> 00:18:28.360
я не знаю, вот давно интересуюсь, зачем лететь

303
00:18:28.360 --> 00:18:29.400
на Марс. Спрашивала...

304
00:18:30.220 --> 00:18:32.820
У тех, кто этим занимается, удовлетворительного

305
00:18:32.820 --> 00:18:35.800
ответа не получило. А не зачем ты собираешься лететь?

306
00:18:35.860 --> 00:18:40.560
Не при коллегах будет сказано. Мы же понимаем

307
00:18:40.560 --> 00:18:43.220
жесткое излучение, что сделается их мозгом

308
00:18:43.220 --> 00:18:48.620
очень быстро. Правильно? Когда на эту тему говорят,

309
00:18:48.720 --> 00:18:50.720
да, но летали же на Луну три дня.

310
00:18:51.440 --> 00:18:57.100
А как насчет год? Причем я в Курчатском институте спрашивала,

311
00:18:57.120 --> 00:18:59.640
где они как бы специалисты. Я говорю, а что,

312
00:18:59.680 --> 00:19:01.760
защиту, разве нельзя придумать защиту? Он говорит,

313
00:19:01.840 --> 00:19:09.880
да, тонн 5 этого самого туда соответствующих металлов,

314
00:19:09.880 --> 00:19:13.320
которые страшно много весят. Ну, короче говоря,

315
00:19:13.360 --> 00:19:17.660
это невозможно. А что будет происходить? Алобные

316
00:19:17.660 --> 00:19:19.820
доли вышибет.

317
00:19:20.400 --> 00:19:22.960
Большой привет, а зачем туда прилетать тогда,

318
00:19:23.040 --> 00:19:27.040
если те, кто туда прилетят к моменту высадки

319
00:19:27.040 --> 00:19:30.200
на Марс, окажутся баклажанами, то стоило ли лететь?

320
00:19:30.300 --> 00:19:33.560
То есть это вообще какая-то дикая вещь. Но

321
00:19:33.560 --> 00:19:37.900
тем не менее, но уже там много всякого находится,

322
00:19:38.120 --> 00:19:40.600
так пусть они и работают, это я к тому говорю,

323
00:19:40.740 --> 00:19:43.820
что пусть они лезут в шахту, пусть они лезут туда,

324
00:19:43.960 --> 00:19:44.840
где радиация.

325
00:19:46.110 --> 00:19:49.470
Пусть они собирают образцы чего-то там на Марсе.

326
00:19:50.090 --> 00:19:53.670
Есть еще вариант, чтобы понять, как устроен мозг.

327
00:19:53.670 --> 00:19:56.850
Вот здесь, мне кажется, такая какая-то неприятная ловушка.

328
00:19:56.990 --> 00:19:59.530
Для того, чтобы сделать искусственный интеллект,

329
00:19:59.630 --> 00:20:02.770
нужно сначала понять, как устроен мозг. Значит,

330
00:20:02.790 --> 00:20:05.270
для того, чтобы понять, как устроен мозг,

331
00:20:05.270 --> 00:20:07.290
нужно, чтобы был искусственный интеллект,

332
00:20:07.310 --> 00:20:10.530
чтобы с ним эти эксперименты проводить. Вы понимаете,

333
00:20:10.530 --> 00:20:12.190
что здесь такая логическая петля.

334
00:20:13.550 --> 00:20:17.710
чтобы понять, как наш мозг можно биологически улучшить.

335
00:20:17.770 --> 00:20:20.910
Сейчас это мода, это страшное дело. Я каждый

336
00:20:20.910 --> 00:20:24.290
день получаю вопросы. Это новые люди, они

337
00:20:24.290 --> 00:20:27.810
будут быстрее, умнее, чипы в голову вставим,

338
00:20:27.870 --> 00:20:31.570
им не надо будет отдыхать, спать, они с огромной скоростью.

339
00:20:31.650 --> 00:20:35.990
Это зачем все? Вот с какой такой целью?

340
00:20:36.320 --> 00:20:41.600
То есть мы идем в трансгуманизм. Мы куда отправились?

341
00:20:42.000 --> 00:20:45.120
Есть еще страшный вариант про Франкенштейна,

342
00:20:45.140 --> 00:20:48.860
как здесь написано. Об этом говорят серьезные люди.

343
00:20:48.960 --> 00:20:53.920
Если вы думаете, что это жаря котлеты домохозяйки

344
00:20:53.920 --> 00:20:57.780
на кухне, ничего подобного. Это крупные ученые говорят.

345
00:20:58.280 --> 00:21:02.640
Мы оцифруем нашу нейронную сеть со всем, что

346
00:21:02.640 --> 00:21:04.580
на ней записано. На флешку.

347
00:21:04.890 --> 00:21:10.270
Ну или на что-то, внешнюю память. И дедушкина жизнь,

348
00:21:10.430 --> 00:21:14.950
будучи на флешке подарена внуку, значит, вот

349
00:21:14.950 --> 00:21:18.430
он как бы цифровой бессмертие. Абсолютно безумная мысль.

350
00:21:19.810 --> 00:21:21.110
Ну, посмотрим.

351
00:21:23.980 --> 00:21:29.440
Вот эти все рассказы про игры, они нам показывают

352
00:21:29.440 --> 00:21:32.560
тревожные вещи, потому что мы говорим, все,

353
00:21:32.640 --> 00:21:35.200
что связано с логикой, с алгоритмами, да,

354
00:21:35.300 --> 00:21:38.420
они делают лучше нас, это я уже сказала, понятно.

355
00:21:39.280 --> 00:21:45.080
Но у нас, у людей, есть свойства, которые

356
00:21:45.080 --> 00:21:49.920
невозможно формализовать. Это, например, интуиция.

357
00:21:50.400 --> 00:21:52.700
Это какие-то...

358
00:21:53.740 --> 00:21:57.880
обработка информации внешней не с помощью computation,

359
00:21:58.460 --> 00:22:02.460
не с помощью счета, а вот вижу, что хорошая вещь.

360
00:22:02.460 --> 00:22:06.020
Вот ты с ней ничего вроде сделать не можешь.

361
00:22:06.120 --> 00:22:09.040
Мы всегда говорили, вот водораздел. У нас

362
00:22:09.040 --> 00:22:12.600
есть вот это вот мягкое поле, которое этим

363
00:22:12.600 --> 00:22:17.720
монстрам недоступно. Вот я с прискорбием

364
00:22:17.720 --> 00:22:21.080
хочу заметить, что искусственный интеллект преодолел.

365
00:22:21.440 --> 00:22:27.180
этот перешеек, он разработал

366
00:22:27.180 --> 00:22:32.900
сам себе, сам себе разработал некую такую

367
00:22:32.900 --> 00:22:38.960
искусственную интуицию. Например, в играх видно,

368
00:22:39.160 --> 00:22:42.320
скажем, вот в шахматных играх видно, как он

369
00:22:42.320 --> 00:22:47.380
загоняет партнера, человека или машину,

370
00:22:48.320 --> 00:22:53.500
или партнера программу. Цукцванг. То

371
00:22:53.500 --> 00:22:57.040
есть этот его партнер, он начинает думать,

372
00:22:57.040 --> 00:22:58.100
что он выигрывает.

373
00:22:58.590 --> 00:23:01.670
эта хитроумная программа, она начинает как

374
00:23:01.670 --> 00:23:05.150
бы проигрывать. Он идет в эту сторону, говоря,

375
00:23:05.290 --> 00:23:09.230
о, отлично, все, я выигрываю. Он сюда идет,

376
00:23:09.510 --> 00:23:12.930
она сдается, сдается, сдается до того момента,

377
00:23:12.930 --> 00:23:15.130
когда у него нет возможности вернуться назад.

378
00:23:15.390 --> 00:23:18.950
После этого она разгромно выигрывает. То есть

379
00:23:18.950 --> 00:23:24.210
пошли когнитивные ходы, о которых мы не подозревали даже.

380
00:23:24.390 --> 00:23:25.910
И вот здесь я пишу.

381
00:23:26.480 --> 00:23:33.400
что они могут нас переиграть. Что

382
00:23:33.400 --> 00:23:36.640
сейчас про современный мир говорят? Говорят,

383
00:23:36.660 --> 00:23:40.660
что он очень сложен, его можно трактовать

384
00:23:40.660 --> 00:23:43.640
как угодно, он многозначен, он противоречив,

385
00:23:43.740 --> 00:23:46.480
но я хочу сказать, что так было всегда. Вот

386
00:23:46.480 --> 00:23:48.880
в этом смысле ничего нового нет. Всегда мир

387
00:23:48.880 --> 00:23:52.780
можно было и так рассматривать, и так, и тут

388
00:23:52.780 --> 00:23:53.960
нового ничего нет.

389
00:23:55.040 --> 00:23:58.740
Что есть новое, это гигантская скорость изменений.

390
00:23:58.820 --> 00:24:02.120
Вот мы даже из эволюционной физиологии знаем,

391
00:24:02.380 --> 00:24:06.540
что основное – это способность к адаптации.

392
00:24:06.600 --> 00:24:09.720
То есть к чему только мозг там, или не только

393
00:24:09.720 --> 00:24:13.380
мозг вообще, к чему только существа не адаптируются.

394
00:24:13.480 --> 00:24:15.260
Но это гигантские времена.

395
00:24:17.020 --> 00:24:20.700
Тысячи лет, миллионы лет, ну хорошо, сотни лет.

396
00:24:21.100 --> 00:24:24.760
Потом начались десятки лет, потом начались годы,

397
00:24:24.760 --> 00:24:28.920
а сейчас что? А сейчас дни. Встает вопрос,

398
00:24:29.440 --> 00:24:34.160
у нас выдержит вот это все наш интеллект?

399
00:24:34.320 --> 00:24:38.220
Не наш интеллект, наш мозг вообще, наш организм

400
00:24:38.220 --> 00:24:42.420
даже шире. Он выдержит? Понимаете, мы, во-первых,

401
00:24:42.520 --> 00:24:44.800
гигантская скорость, во-вторых, мы ничему

402
00:24:44.800 --> 00:24:45.360
не верим.

403
00:24:46.040 --> 00:24:49.180
Мы же ничему не верим, поскольку виртуальные

404
00:24:49.180 --> 00:24:53.700
системы вам создадут что хочешь. И поскольку

405
00:24:53.700 --> 00:24:57.920
эти возможности все лучше и лучше, это вранье,

406
00:24:57.920 --> 00:25:01.900
фейки, они так правдоподобны, что они как бы...

407
00:25:02.190 --> 00:25:05.590
Им доверяешь больше, чем реальному миру. Ничего себе.

408
00:25:06.030 --> 00:25:10.670
А кому верить? У меня есть вообще надежда

409
00:25:10.670 --> 00:25:14.670
проверить то, что мне показывают. Это к правде

410
00:25:14.670 --> 00:25:16.650
вообще имеет какое-то отношение или нет?

411
00:25:17.170 --> 00:25:20.090
Вот я и здесь и пишу. Исчезает способность

412
00:25:20.090 --> 00:25:23.710
проверки информации. А что нам делать? Вот

413
00:25:23.710 --> 00:25:26.350
меня часто спрашивают. И что? Что вы делаете?

414
00:25:26.510 --> 00:25:28.570
Вот меня спрашивают. Я говорю всегда одно

415
00:25:28.570 --> 00:25:31.230
и то же. Я лично пользуюсь сплетнями.

416
00:25:31.900 --> 00:25:35.280
А именно, у меня есть некоторое количество людей,

417
00:25:35.460 --> 00:25:40.060
которым я доверяю. Я знаю, что они, во-первых,

418
00:25:40.240 --> 00:25:42.760
информированы, действительно информированы,

419
00:25:42.820 --> 00:25:46.640
а во-вторых, не склонны из этого придумывать

420
00:25:46.640 --> 00:25:49.780
какие-то сказочные сюжеты. Вот если он мне скажет,

421
00:25:49.800 --> 00:25:54.740
Джонсона читай, он понимает, а Смита не читай,

422
00:25:54.740 --> 00:25:57.600
потому что он ****. Я именно так и буду делать.

423
00:25:58.430 --> 00:26:01.690
Потому что у меня другого способа нет. Нужно

424
00:26:01.690 --> 00:26:04.890
кому-то верить. Студентам мы что говорим?

425
00:26:04.890 --> 00:26:07.190
Это вот и медикам то же самое, естественно,

426
00:26:07.190 --> 00:26:10.930
я думаю. Мы говорим, по такой-то теме, вот

427
00:26:10.930 --> 00:26:15.390
смотрите на экран, сайты, линки, в те места,

428
00:26:15.530 --> 00:26:18.410
которым мы доверяем. По этой теме. По другой

429
00:26:18.410 --> 00:26:23.070
доверяем другим. Если вам хочется в Википедии сидеть,

430
00:26:23.070 --> 00:26:24.290
вперед, только...

431
00:26:25.020 --> 00:26:28.500
Из аудитории после этого уходите. Информация

432
00:26:28.500 --> 00:26:33.240
должна быть получена в нужных местах. Дальше.

433
00:26:33.240 --> 00:26:36.000
Все договоренности рухнули. Вы понимаете,

434
00:26:36.020 --> 00:26:38.380
как мы, собственно, как продолжать жить, если,

435
00:26:38.500 --> 00:26:42.140
скажем, сегодня, без намека на политику, но

436
00:26:42.140 --> 00:26:45.000
все же, если сегодня главы государств договариваются

437
00:26:45.000 --> 00:26:45.620
о чем-то.

438
00:26:46.580 --> 00:26:49.160
Ложаться спать. Утром один из них просыпается

439
00:26:49.160 --> 00:26:51.640
и говорит, я передумал. Понимаете, так мир

440
00:26:51.640 --> 00:26:55.300
существовать не может. Так жить нельзя. Должны

441
00:26:55.300 --> 00:26:58.300
быть хоть какие-то устойчивые вещи. Я почему

442
00:26:58.300 --> 00:27:01.300
на Алису всегда ссылаюсь. Кто давно не читал,

443
00:27:01.300 --> 00:27:04.820
очень советую. Только Алиса в стране чудес

444
00:27:04.820 --> 00:27:09.000
и Алиса в зазеркалье. Только читать не как сказку,

445
00:27:09.020 --> 00:27:13.580
а как очень серьезное философское и даже математическое произведение.

446
00:27:13.660 --> 00:27:14.580
Ну, автор-то.

447
00:27:14.760 --> 00:27:18.220
математик же был. Она не для детей вообще написана.

448
00:27:18.680 --> 00:27:21.060
Вот это мир, в котором мы сейчас оказались.

449
00:27:21.120 --> 00:27:24.220
Рухнули все правила. Ничего не действует.

450
00:27:24.440 --> 00:27:28.660
Понимаете? Так не может социум существовать.

451
00:27:29.540 --> 00:27:32.500
когда все время меняются правила игры. Вот

452
00:27:32.500 --> 00:27:35.380
сегодня вы выходите на улицу, и вы знаете,

453
00:27:35.380 --> 00:27:38.500
что красный свет – это стой, а зеленый свет

454
00:27:38.500 --> 00:27:42.060
– иди. А после полудня оказывается наоборот.

455
00:27:42.180 --> 00:27:45.320
Но только вам никто не рассказал, что правила поменялись.

456
00:27:45.340 --> 00:27:49.140
Вот мы где живем сейчас. Мы куда-то попались.

457
00:27:50.420 --> 00:27:54.100
У нас сложнейшая нейронная сеть. Как вы понимаете,

458
00:27:54.100 --> 00:27:58.340
эти картинки – это электронно-микроскопические

459
00:27:58.340 --> 00:28:01.460
маленькие кусочки.

460
00:28:02.570 --> 00:28:05.330
И для того, чтобы всех напугать, нейронов

461
00:28:05.330 --> 00:28:09.890
у нас по нынешним сведениям 86 миллиардов.

462
00:28:11.570 --> 00:28:15.150
Недавно еще я произносила 100 миллиардов.

463
00:28:15.150 --> 00:28:17.550
Но мне кажется, когда счет идет на такие величины,

464
00:28:17.570 --> 00:28:21.150
ей-богу, это уже не важно. Где 86, там и 90,

465
00:28:21.410 --> 00:28:26.070
это уже не важно. Важно то, что каждый нейрон

466
00:28:26.070 --> 00:28:30.170
может иметь огромное количество связей с другими

467
00:28:30.170 --> 00:28:31.050
частями мозга.

468
00:28:31.080 --> 00:28:34.860
Это может быть 50 тысяч связей, короче говоря,

469
00:28:35.020 --> 00:28:39.000
или даже больше. Короче говоря, если мы все

470
00:28:39.000 --> 00:28:41.520
это перемножим, то мы получим квадриллион

471
00:28:41.520 --> 00:28:44.820
синаптических соединений в мозгу. Это абсолютно

472
00:28:44.820 --> 00:28:50.440
запредельная величина. О том, чтобы даже сложнейшие

473
00:28:50.440 --> 00:28:54.140
суперкомпьютеры вот такую вещь могли обеспечить,

474
00:28:54.160 --> 00:28:58.820
об этом нет и речи. Даже те исследования мозга, которые...

475
00:28:59.500 --> 00:29:03.880
являют как невероятные открытия. Они, я не знаю,

476
00:29:03.980 --> 00:29:08.820
у мышки вот такой вот кусочек взяли и смоделировали его,

477
00:29:08.880 --> 00:29:14.320
и они гордятся... Да что такое? Гордятся,

478
00:29:14.520 --> 00:29:17.980
что они так преуспели. У мышки, а человеческий

479
00:29:17.980 --> 00:29:21.140
-то мозг. Видов нейронов до чертой бабушки.

480
00:29:21.880 --> 00:29:26.060
Аглии, глиальных клеток, в которых это все утоплено,

481
00:29:26.060 --> 00:29:27.960
у которых, как мы знаем, свои когнитивные...

482
00:29:29.830 --> 00:29:34.170
возможности есть, своя память. И если у ребенка

483
00:29:34.170 --> 00:29:38.110
в результате чего-то или внутриутробного

484
00:29:38.110 --> 00:29:41.670
развития глиальная вся эта история нарушена,

485
00:29:41.670 --> 00:29:45.730
то он с мощными когнитивными нарушениями рождается.

486
00:29:45.830 --> 00:29:46.670
При том, что...

487
00:29:47.710 --> 00:29:50.790
Игрок-то нейрон, не глия нейрон, так вот

488
00:29:50.790 --> 00:29:53.670
ее еще в 10 раз больше. Я не знаю, есть ли

489
00:29:53.670 --> 00:29:56.310
в человеческих языках слова, которые могут

490
00:29:56.310 --> 00:29:59.110
описывать такие величины. Обычно про это говорят

491
00:29:59.110 --> 00:30:03.270
гиперастрономические величины. Жуткая вещь.

492
00:30:04.170 --> 00:30:07.590
Еще хуже то, что я не знаю, что хуже, что лучше,

493
00:30:07.710 --> 00:30:10.510
что эта же сеть, она все время строится.

494
00:30:11.820 --> 00:30:14.780
Она динамическая, это не то, что она сложная,

495
00:30:14.780 --> 00:30:17.360
но уж какая есть, такая есть. Она все время меняется,

496
00:30:17.380 --> 00:30:19.300
вот сейчас, пока мы разговариваем, она там

497
00:30:19.300 --> 00:30:22.220
пишет и пишет, пишет и пишет, то есть она

498
00:30:22.220 --> 00:30:27.820
все время другая. Есть такое понятие

499
00:30:27.820 --> 00:30:31.600
число Данбара. Считается, я как-то так спокойно

500
00:30:31.600 --> 00:30:34.440
к этому отношусь, но все-таки произнесу.

501
00:30:35.000 --> 00:30:40.080
сами видите почему, считают допустимое количество

502
00:30:40.080 --> 00:30:44.160
социальных связей в зависимости от размера мозга.

503
00:30:44.200 --> 00:30:48.960
Ну, скажем, у наших родственников недалеких

504
00:30:48.960 --> 00:30:52.720
мозг в три раза меньше, чем у нас, и размер

505
00:30:52.720 --> 00:30:56.760
социальной группы, большой социальной группы,

506
00:30:56.760 --> 00:31:00.420
50 особей, а ближний групп 3-4, ну хорошо,

507
00:31:00.560 --> 00:31:03.520
5-6, там ладно. У человека...

508
00:31:05.719 --> 00:31:10.940
150 и 12, 15 должно быть близких. Откройте телефон,

509
00:31:11.220 --> 00:31:15.400
посмотрите, что там делается. Счет идет на тысячи.

510
00:31:16.020 --> 00:31:20.280
Мы это в состоянии выдержать? Этот вопрос стоит,

511
00:31:20.560 --> 00:31:24.400
я не паникую, этот вопрос стоит, потому что

512
00:31:24.400 --> 00:31:27.440
мы в этом социуме как бы потерялись.

513
00:31:30.490 --> 00:31:35.590
Итого, мы окружены сетями разного сорта. Это

514
00:31:35.590 --> 00:31:39.070
гиперсети в мозгу. Вот мой друг и коллега,

515
00:31:39.070 --> 00:31:44.070
академик Анохин Константин Владимирович, младший Анохин.

516
00:31:45.420 --> 00:31:49.960
он разрабатывает гиперсетевую теорию мозга.

517
00:31:50.040 --> 00:31:55.460
Речь идет о сетях, сетях сетей, сетях сетей

518
00:31:55.460 --> 00:31:58.820
сетей и так далее, пока вам не надоест. То

519
00:31:58.820 --> 00:32:03.660
есть речь идет о структурах такой степени сложности,

520
00:32:03.660 --> 00:32:06.740
где единицей являются уже сети.

521
00:32:07.400 --> 00:32:12.780
Это жуткое дело. Гиперсети и в социуме. Социум

522
00:32:12.780 --> 00:32:16.800
очень сложно устроен. И не нужно думать, что

523
00:32:16.800 --> 00:32:21.720
мы им управляем. Это я бы сказала власть придержащим.

524
00:32:21.720 --> 00:32:25.860
Они почему-то, я думаю, они считают, что

525
00:32:25.860 --> 00:32:28.860
они видят, как устроен социум. Они ошибаются.

526
00:32:29.160 --> 00:32:31.580
Это рвется, перестраивается.

527
00:32:32.940 --> 00:32:35.540
Вопрос, который тоже я часто слушаю. А что

528
00:32:35.540 --> 00:32:39.360
вот это новые дети рождаются? Ну вообще вот

529
00:32:39.360 --> 00:32:41.760
если так вопрос поставлен, то я бы сказала да.

530
00:32:42.080 --> 00:32:44.740
Но не так, как они задают этот вопрос. Потому

531
00:32:44.740 --> 00:32:47.800
что они имеют в виду, что произошли мутации,

532
00:32:47.800 --> 00:32:49.960
но мы же понимаем, что это не может быть.

533
00:32:50.180 --> 00:32:54.240
Ну времени нет на такие мутации. Что дети

534
00:32:54.240 --> 00:32:57.720
рождаются биологически другими. Нет, биологически

535
00:32:57.720 --> 00:33:01.480
они какие были, такие и есть. Но они рождаются как...

536
00:33:01.480 --> 00:33:03.480
как бы с гаджетами в руках, что называется,

537
00:33:03.760 --> 00:33:06.540
в ушах, глазах и так далее. То есть они сразу

538
00:33:06.540 --> 00:33:10.040
в цифровом мире. Специалисты даже говорят,

539
00:33:10.140 --> 00:33:15.660
что мы это как бы путешественники или

540
00:33:15.660 --> 00:33:19.620
мигранты даже в цифровом мире, а дети аборигены.

541
00:33:19.980 --> 00:33:24.020
Мы учимся этому цифровому миру, а они другого

542
00:33:24.020 --> 00:33:27.000
мира не знают. Они уже в нем. Поэтому...

543
00:33:29.040 --> 00:33:31.960
Нам надо понять, что с ними делать. Говорят,

544
00:33:31.960 --> 00:33:35.820
плохие учителя. А вы, во-первых, какие хорошие?

545
00:33:36.020 --> 00:33:39.380
Какие, не в смысле имен? А хороший учитель

546
00:33:39.380 --> 00:33:44.260
это какой? А во-вторых, а где их взять?

547
00:33:45.040 --> 00:33:47.560
Где их взять? Их самих никто не учил. Я ведь

548
00:33:47.560 --> 00:33:51.860
с этого начала, что вы нас учите жить в том мире,

549
00:33:51.940 --> 00:33:55.920
в котором мы переехали на планету Юпитер.

550
00:33:56.600 --> 00:33:59.700
Никто не знает, как здесь живут. С чего вы решили,

551
00:33:59.720 --> 00:34:02.400
что вы нам учителя? Вопрос тревожный.

552
00:34:02.810 --> 00:34:07.590
Он есть. Несостоятельность этических и юридических норм.

553
00:34:07.770 --> 00:34:13.630
Это касается всего. Это касается геномных исследований.

554
00:34:13.690 --> 00:34:16.330
Что мы себе можем позволить? Что мы разрешаем?

555
00:34:16.370 --> 00:34:20.110
А что мы не разрешаем? Абсолютно непроработанная вещь.

556
00:34:20.190 --> 00:34:23.670
То есть понятно, что есть всякие комитеты

557
00:34:23.670 --> 00:34:27.070
по биоэтике, по нейроэтике. Все это есть.

558
00:34:27.310 --> 00:34:31.310
Ну и что? Кто-нибудь знает примеры, когда науку...

559
00:34:31.370 --> 00:34:35.050
удалось удержать запретами. Нет, не бывает этого.

560
00:34:35.350 --> 00:34:39.989
Можно какие хочешь издать эти законы, после

561
00:34:39.989 --> 00:34:43.489
этого появится миллиардер, условный Илон Маск,

562
00:34:43.590 --> 00:34:48.210
который купит условный остров посреди Атлантики,

563
00:34:48.250 --> 00:34:50.710
ну посреди не бывает островов, но где-то,

564
00:34:50.730 --> 00:34:53.790
да, и пригласит туда лучших специалистов,

565
00:34:53.790 --> 00:34:55.830
и они более того туда пойдут.

566
00:34:56.270 --> 00:34:58.750
И он им скажет, у вас будут условия, о которых

567
00:34:58.750 --> 00:35:01.830
вы не можете даже вообразить. У вас будут

568
00:35:01.830 --> 00:35:06.670
лучшие приборы, лучшие химические и прочие,

569
00:35:06.670 --> 00:35:10.070
прочие, прочие компоненты всего этого. И они

570
00:35:10.070 --> 00:35:13.070
вам клонируют кого хотите. Помните, недавно

571
00:35:13.070 --> 00:35:16.350
была история, когда китаец подправил геном

572
00:35:16.350 --> 00:35:20.670
у двух девочек, этих самых, новорожденных,

573
00:35:20.670 --> 00:35:21.969
да? И где он?

574
00:35:23.009 --> 00:35:25.810
Все это, это полностью потухла эта история.

575
00:35:25.889 --> 00:35:28.170
Она вся провалилась куда-то в преисподнюю,

576
00:35:28.190 --> 00:35:31.130
что ли, не знаю. Ну, в общем, она куда-то делась.

577
00:35:31.170 --> 00:35:34.790
Но он ведь это сделал, понимаете? Это просто

578
00:35:34.790 --> 00:35:37.969
вышло на поверхность. А в каких-то местах

579
00:35:37.969 --> 00:35:39.350
оно и не выйдет на поверхность.

580
00:35:40.270 --> 00:35:42.909
У нас нет, по поводу искусственного интеллекта,

581
00:35:42.909 --> 00:35:47.170
у нас нет правил поведения юридических. Вот

582
00:35:47.170 --> 00:35:50.830
какое-то время назад первый был случай, когда

583
00:35:50.830 --> 00:35:53.730
беспилотная машина во Флориде кого-то задавила.

584
00:35:53.870 --> 00:35:57.550
Но с тех пор уже много чего такого было. Кто отвечает?

585
00:35:59.100 --> 00:36:01.960
Программист, владелец этой машины, может быть,

586
00:36:01.960 --> 00:36:07.080
сам пассажир, который сказал, нет, делай не так,

587
00:36:07.120 --> 00:36:09.540
а делай так. То есть здесь много вариантов,

588
00:36:09.540 --> 00:36:13.500
ответов. И это не разработано. Кто? Что мы

589
00:36:13.500 --> 00:36:18.820
можем доверить? То есть фактически этические

590
00:36:18.820 --> 00:36:22.719
и юридические нормы не функционируют.

591
00:36:24.170 --> 00:36:28.070
Итого, вокруг нас вот такой вот мир. Он очень быстрый,

592
00:36:28.070 --> 00:36:33.010
он гибридный, он одновременно цифровой и не цифровой,

593
00:36:33.010 --> 00:36:36.510
он как-то подмигивает, мерцает, он то одним

594
00:36:36.510 --> 00:36:39.190
боком повернется, то другим, то мы ему вроде

595
00:36:39.190 --> 00:36:41.910
бы поверили, а потом думаем, еще не знаю,

596
00:36:41.910 --> 00:36:45.170
стоит ли верить. Он нестабильный, он очень

597
00:36:45.170 --> 00:36:48.050
-очень быстро меняется. Вот некоторое время

598
00:36:48.050 --> 00:36:48.990
назад я...

599
00:36:51.160 --> 00:36:54.340
До ковида еще. Когда еще летали самолеты,

600
00:36:54.340 --> 00:36:57.040
короче говоря. Я в самолете умудрилась наступить

601
00:36:57.040 --> 00:37:00.600
на телефон на свой. Ну и приземлившись, значит,

602
00:37:00.640 --> 00:37:03.080
пошла, говорю, вот мне такой же телефон. Но,

603
00:37:03.120 --> 00:37:05.440
говорю, имейте в виду, что мне нужен телефон.

604
00:37:05.740 --> 00:37:08.520
Знаете, что такое телефон, я им говорю. Они думают,

605
00:37:08.540 --> 00:37:10.780
что я ненормальная, говорят, знаем. Я говорю,

606
00:37:10.800 --> 00:37:13.460
нет, все-таки еще раз. Телефон не должен

607
00:37:13.460 --> 00:37:16.620
печь блины, он не должен вылетать на Марс,

608
00:37:16.620 --> 00:37:19.340
он не должен мне советовать, как и с кем мне жить.

609
00:37:19.660 --> 00:37:23.640
Он должен звонить только, больше ничего. Они говорят,

610
00:37:23.720 --> 00:37:27.900
таких больше на Земле нет. Более того, они

611
00:37:27.900 --> 00:37:31.220
меня еще вынуждают все время изучать новые программы.

612
00:37:31.240 --> 00:37:34.600
Вот я уже так делаю. Нет, тебе вот для андроида,

613
00:37:34.600 --> 00:37:37.480
вот теперь ты скачивай, изучай. Подождите,

614
00:37:37.480 --> 00:37:42.080
кто хозяин в доме? Я не хочу изучать ваших штучек,

615
00:37:42.080 --> 00:37:43.100
мне есть чем заняться.

616
00:37:44.439 --> 00:37:47.800
Итого, автономная жизнь цифрового мира есть,

617
00:37:48.080 --> 00:37:53.460
интернет вещей есть, сети, любые сети, как мозговые,

618
00:37:53.480 --> 00:37:56.680
так и социальные, вообще всякие, имеют свои

619
00:37:56.680 --> 00:38:00.940
законы самоорганизации, просто как сети. Это

620
00:38:00.940 --> 00:38:02.860
отдельная область науки есть.

621
00:38:05.590 --> 00:38:08.990
Недоверие к информации растет, и цифровая

622
00:38:08.990 --> 00:38:12.630
реальность будет признаком отбора в социуме.

623
00:38:12.690 --> 00:38:15.010
Если представить себе, что мы живем посреди,

624
00:38:15.010 --> 00:38:20.570
я не знаю, сельвы, у нас нет интернета, и мы

625
00:38:20.570 --> 00:38:23.110
при этом живем довольно счастливо и спокойно,

626
00:38:23.130 --> 00:38:25.550
ни новостей не знаем, вообще ничего не знаем.

627
00:38:25.650 --> 00:38:29.130
Можно считать, что нас нет. То есть мы не

628
00:38:29.130 --> 00:38:32.830
участники этой жизни. Опасно.

629
00:38:33.990 --> 00:38:37.370
У нас есть много тревог. Например, синдром

630
00:38:37.370 --> 00:38:39.970
отложенной жизни. Вот что мы детям говорим?

631
00:38:40.280 --> 00:38:44.580
Обычно. Но они нас сейчас заткнут. Мы детям говорим,

632
00:38:44.580 --> 00:38:48.540
если ты будешь хорошо учиться, кончишь хорошо школу,

633
00:38:48.560 --> 00:38:52.780
в университет хороший поступишь, потом магистратура,

634
00:38:52.840 --> 00:38:55.660
аспирантура, диссертацию защитишь, там выешь

635
00:38:55.660 --> 00:38:58.760
замуж или женишься, поступишь на хорошую работу,

636
00:38:58.840 --> 00:39:03.940
а там уже апостолы выглядывают и говорят, приехали.

637
00:39:05.110 --> 00:39:08.250
Успокойтесь. Что мы куда откладываем? Не в этой

638
00:39:08.250 --> 00:39:12.610
аудитории говорить. У нас нет черновика. Когда

639
00:39:12.610 --> 00:39:16.290
первые клетки соединились, материнская с отцовской,

640
00:39:16.370 --> 00:39:19.310
это началось. Идет чистовик.

641
00:39:19.800 --> 00:39:24.580
Никакого черновика нет. Надвигается цивилизация праздности.

642
00:39:24.620 --> 00:39:28.800
Уже есть места в мире, где платят базовый доход,

643
00:39:28.960 --> 00:39:32.980
чтобы человек с голоду не помер, и у него

644
00:39:32.980 --> 00:39:36.880
только чтобы не работал. Вот я знаю, во Франции,

645
00:39:36.880 --> 00:39:39.080
по-моему, в Дании такая история, фермерам.

646
00:39:39.120 --> 00:39:41.960
Вот вам деньги, главное, ничего не выращивайте.

647
00:39:42.340 --> 00:39:46.660
А чем займутся? Опять же, Грефу задавала вопрос.

648
00:39:46.720 --> 00:39:47.640
Он говорит...

649
00:39:48.110 --> 00:39:52.470
креативно будут мыслить. Креативно будут мыслить?

650
00:39:52.570 --> 00:39:55.590
Я с трудом представляю себе многомиллиардное

651
00:39:55.590 --> 00:39:58.750
население Земли, которое с лютнями бродит

652
00:39:58.750 --> 00:40:03.990
по просторам планеты и пишет мадригалы. А у меня

653
00:40:03.990 --> 00:40:07.950
другой сценарий на тему тех, кому абсолютно

654
00:40:07.950 --> 00:40:11.370
нечего делать. Опасная вещь. И, наконец, полная

655
00:40:11.370 --> 00:40:14.430
дезориентация в мире. Мы не понимаем, что хорошо,

656
00:40:14.550 --> 00:40:15.010
что плохо.

657
00:40:15.690 --> 00:40:20.890
из-под нас выбили базовые представления о мире.

658
00:40:21.110 --> 00:40:24.330
Мы просто не понимаем, где мы и что мы делаем.

659
00:40:27.830 --> 00:40:31.590
Подделки лучше оригиналов. Искусственный интеллект

660
00:40:31.590 --> 00:40:35.430
продуцирует любые новости, включая научные.

661
00:40:35.880 --> 00:40:40.200
Он учится быстрее, чем нас и каким-то другим способом.

662
00:40:41.040 --> 00:40:43.620
Киберугрозы со всех сторон, мы это понимаем.

663
00:40:45.160 --> 00:40:48.520
Человекомашинное взаимодействие очень полезная

664
00:40:48.520 --> 00:40:52.140
вещь в медицине. Разговора нет. Вот мой коллега

665
00:40:52.140 --> 00:40:55.180
и друг, профессор Каплан, МГУшный профессор,

666
00:40:55.180 --> 00:40:58.960
который на этой территории сидит, у него мегагранты всякие,

667
00:40:58.960 --> 00:41:02.140
всколковые везде. Но они замечательные вещи делают.

668
00:41:02.400 --> 00:41:04.200
Люди после инсультов.

669
00:41:04.430 --> 00:41:08.010
и аналогичных вещей, которые парализованы,

670
00:41:08.010 --> 00:41:11.290
и все это с помощью этих штук. Их можно из

671
00:41:11.290 --> 00:41:14.430
этого кокона вынуть, с ними в коммуникацию вступать.

672
00:41:14.450 --> 00:41:18.830
С этим же никто не спорит. Я не дура, чтобы говорить,

673
00:41:18.870 --> 00:41:21.610
что это вообще все плохо. Но мы же понимаем,

674
00:41:21.610 --> 00:41:23.950
что ход в одну сторону, это и ход в другую.

675
00:41:24.290 --> 00:41:29.730
А именно пока что мысли мы не читаем. Я лично думаю,

676
00:41:29.770 --> 00:41:30.610
что и не будем.

677
00:41:31.400 --> 00:41:37.680
Но примерно сказать, человек сейчас умножает

678
00:41:37.680 --> 00:41:40.960
двухзначные числа или слушает музыку, или

679
00:41:40.960 --> 00:41:43.460
вспоминает о том, как он играл в тезис, мы

680
00:41:43.460 --> 00:41:48.140
можем сейчас. Так что примерно, примерно мы

681
00:41:48.140 --> 00:41:53.200
уже туда вход тоже имеем. Ну и что? Что мы

682
00:41:53.200 --> 00:41:55.060
будем делать в связи с этим?

683
00:41:56.920 --> 00:42:00.380
Ну, сейчас, поскольку война, не думаю, что

684
00:42:00.380 --> 00:42:02.460
сейчас кто-нибудь этим занимается, но слайд

685
00:42:02.460 --> 00:42:06.260
этот делался, скажем, полгода назад, и тогда

686
00:42:06.260 --> 00:42:10.720
международные организации высокого уровня,

687
00:42:10.740 --> 00:42:14.520
типа Всемирной организации здравоохранения,

688
00:42:14.540 --> 00:42:17.180
ООН и так далее, такие вещи обсуждали, потому

689
00:42:17.180 --> 00:42:21.980
что мы к опасной черте подошли. Мы не должны

690
00:42:21.980 --> 00:42:24.680
потерять контроль над этой ситуацией, если

691
00:42:24.680 --> 00:42:25.320
грубо говорить.

692
00:42:26.279 --> 00:42:30.540
Но можем. И даже есть такие термины, как next

693
00:42:30.540 --> 00:42:31.560
generation technologies.

694
00:42:33.310 --> 00:42:36.690
Технологии следующего поколения, где уже там тревожно,

695
00:42:36.770 --> 00:42:41.550
уже серой пахнет, там бесы вылезают. Нейрохакинг,

696
00:42:41.610 --> 00:42:47.270
то есть способность из мозга вынуть некоторую информацию,

697
00:42:47.310 --> 00:42:50.770
которую не хотелось бы, чтобы вынимали. Не далее,

698
00:42:50.770 --> 00:42:55.590
как вчера у меня семинар был и выступал.

699
00:42:57.750 --> 00:43:01.990
серьезный ученый, и я ему говорю о...

700
00:43:05.330 --> 00:43:09.890
Точно, что мы не можем вынуть никакую информацию

701
00:43:09.890 --> 00:43:12.330
из мозга пока? Я говорю, я не уверен, не уверен.

702
00:43:12.390 --> 00:43:14.950
Я говорю, то есть что значит не уверен? Значит,

703
00:43:14.990 --> 00:43:18.870
мы уже как бы, уже подошли, уже подошли. Ну да,

704
00:43:18.950 --> 00:43:21.730
это вообще возможно. Тогда у меня встают вопросы,

705
00:43:22.130 --> 00:43:25.870
которые вот сейчас я задам. Я понимаю, мне

706
00:43:25.870 --> 00:43:28.610
надо заканчивать, так? Да, сейчас закончу.

707
00:43:29.980 --> 00:43:32.940
Работа с геномом. Понимаете, те самые дети

708
00:43:32.940 --> 00:43:37.040
на заказ, это, конечно, звучит как дешевая шутка,

709
00:43:37.040 --> 00:43:41.420
но она возможна. Любые деньги хочу, чтобы

710
00:43:41.420 --> 00:43:43.300
барышня у меня родилась.

711
00:43:44.030 --> 00:43:49.070
чтобы у нее был IQ 280, как ни у кого на Земле,

712
00:43:49.110 --> 00:43:51.850
чтобы талия была такая, один глаз розовый,

713
00:43:51.870 --> 00:43:56.330
другой зеленый, чтобы она была спортсменка,

714
00:43:56.350 --> 00:43:59.930
чтобы она играла на всех музыках. Звучит как идиотизм,

715
00:43:59.930 --> 00:44:02.650
но теоретически возможно. Другой вопрос, что

716
00:44:02.650 --> 00:44:05.070
на этом вообще все сломается. Какие будут

717
00:44:05.070 --> 00:44:09.170
потомки у этой барышни? Тем не менее, работа

718
00:44:09.170 --> 00:44:11.450
с геномом такая серьезная вещь. Вы, конечно,

719
00:44:11.570 --> 00:44:12.150
можете сказать, да.

720
00:44:12.300 --> 00:44:15.340
Но если мы знаем, что такие-то гены отвечают,

721
00:44:15.380 --> 00:44:18.320
скажем, за потенциальную возможность развития

722
00:44:18.320 --> 00:44:21.160
шизофрении или онкологии, да, там не в вашей

723
00:44:21.160 --> 00:44:24.620
среде говорить, то почему бы нам их не подправить?

724
00:44:24.620 --> 00:44:28.380
Вроде бы все хорошо, да, а остальные гены,

725
00:44:28.400 --> 00:44:30.760
это что, как бы их не трогает?

726
00:44:31.100 --> 00:44:34.180
Это же не то, что мы отсюда вырезали, а здесь

727
00:44:34.180 --> 00:44:37.880
все ничего не произошло. Слишком сложная система.

728
00:44:38.600 --> 00:44:41.380
Это не кубик, понимаете, из которого вынул

729
00:44:41.380 --> 00:44:47.300
цвет один, а остальные на месте. Но онлайн-образование,

730
00:44:47.300 --> 00:44:50.400
бог с ним. Вот мои вопросы в связи с этим.

731
00:44:50.560 --> 00:44:54.080
А вот глупый человек – это кто?

732
00:44:55.480 --> 00:44:58.860
Или, а может быть, глупый мозг? Не человек,

733
00:44:59.060 --> 00:45:04.200
это я ответов не имею, но задаю. А мозг самого,

734
00:45:04.200 --> 00:45:07.760
вот самого-самого низкоинтеллектуального человека,

735
00:45:07.840 --> 00:45:11.540
он все равно самое сложное во Вселенной. И тогда

736
00:45:11.540 --> 00:45:13.880
что значит, почему он, собственно, такой глупый?

737
00:45:14.460 --> 00:45:17.040
А какой мы искусственный интеллект создаем?

738
00:45:17.260 --> 00:45:20.000
Может быть, мы создаем глупый искусственный

739
00:45:20.000 --> 00:45:23.480
интеллект или безнравственный? А кто-нибудь

740
00:45:23.480 --> 00:45:27.040
нравственность туда закладывает? А что считать нравственностью?

741
00:45:27.120 --> 00:45:30.080
Здесь огромный список вопросов. Для того,

742
00:45:30.120 --> 00:45:32.700
чтобы там что-то было, мы должны объяснить,

743
00:45:32.760 --> 00:45:36.240
а мы сами не знаем. А гениальный – это какой?

744
00:45:36.860 --> 00:45:39.220
Гениальный – это мозг или гениальный – это человек?

745
00:45:40.190 --> 00:45:43.310
И не за счет скорости, а за счет каких-то

746
00:45:43.310 --> 00:45:47.150
других операций. Вот мои опасные вопросы.

747
00:45:47.370 --> 00:45:51.310
А может ли у искусственного интеллекта получиться личность?

748
00:45:51.430 --> 00:45:55.490
И это не бабьи разговоры, я вас уверяю. У него

749
00:45:55.490 --> 00:46:01.050
может появиться self, самость, я. А мы

750
00:46:01.050 --> 00:46:01.930
об этом узнаем?

751
00:46:02.980 --> 00:46:05.720
Что говорят специалисты, в частности в Сколково,

752
00:46:05.760 --> 00:46:08.420
они говорят, если не дай бог, это серьезные

753
00:46:08.420 --> 00:46:12.040
специалисты говорят, если не дай бог это произойдет,

754
00:46:12.040 --> 00:46:13.820
крышка закрыта.

755
00:46:14.510 --> 00:46:18.810
Хода назад нет. Они даже употребляют слово «сингулярность».

756
00:46:19.250 --> 00:46:23.350
Если эти программы разобьются до того, что

757
00:46:23.350 --> 00:46:26.470
они станут личностями, из этого следует, что

758
00:46:26.470 --> 00:46:28.830
у них собственные планы, собственные цели.

759
00:46:28.970 --> 00:46:31.890
Мы в эти цели точно не входим.

760
00:46:33.470 --> 00:46:36.670
Если мы думаем, что мы их вырубим из сети,

761
00:46:36.670 --> 00:46:40.930
как вот пример, который, слушайте, речь идет

762
00:46:40.930 --> 00:46:43.710
о таких уровнях развития, что они, разумеется,

763
00:46:43.710 --> 00:46:46.950
позаботятся о том, чтобы их ни от чего отрубить

764
00:46:46.950 --> 00:46:49.590
было нельзя. Солнечная энергия или там термояд

765
00:46:49.590 --> 00:46:52.170
и так далее. А они чувствовать боль будут?

766
00:46:52.930 --> 00:46:56.190
Страдать они будут? А сострадать они будут?

767
00:46:56.390 --> 00:46:58.970
Или они будут делать вид хорошие актеры?

768
00:47:00.220 --> 00:47:02.600
Выглядит, как будто он прямо ночью не спит,

769
00:47:02.600 --> 00:47:07.220
а вас переживает. Поэтому нам нужно притормозить,

770
00:47:07.220 --> 00:47:10.700
понять, что из цифрового мира мы никуда не денемся,

771
00:47:10.780 --> 00:47:15.120
более того, что он приносит пользу. Вот я как

772
00:47:15.120 --> 00:47:17.320
бы говорила в другую сторону, но я начала

773
00:47:17.320 --> 00:47:19.860
с того, что есть вещи, которые без него мы

774
00:47:19.860 --> 00:47:23.380
не можем сделать. Но мы должны все время себя

775
00:47:23.380 --> 00:47:24.500
держать за хвост.

776
00:47:25.520 --> 00:47:28.880
Пересмотр базовых этических норм ценностей

777
00:47:28.880 --> 00:47:29.680
и смыслов.

778
00:47:30.470 --> 00:47:33.610
Не нужно хаоса добавлять в тот мир, который

779
00:47:33.610 --> 00:47:36.010
так совершенно спятил, как, я думаю, каждый

780
00:47:36.010 --> 00:47:40.670
это понимает. И я заканчиваю вот на этой картинке неожиданной.

781
00:47:41.030 --> 00:47:45.450
И это, если кто не помнит, то советую вспомнить.

782
00:47:45.610 --> 00:47:50.130
Это кадр из одного из гениальных фильмов Чарли

783
00:47:50.130 --> 00:47:54.050
Чаплина «Огни большого города». И он про тепло

784
00:47:54.050 --> 00:47:57.510
и про человеческое. Когда детей...

785
00:47:58.000 --> 00:48:01.700
И студентов, школьников и студентов спрашивают,

786
00:48:01.700 --> 00:48:04.640
я говорю про конкретные исследования, какой

787
00:48:04.640 --> 00:48:07.640
учитель для них хороший. Не в смысле Мария

788
00:48:07.640 --> 00:48:10.000
Ивановна или Сидор Сидорович, а вот идеальный

789
00:48:10.000 --> 00:48:13.220
учитель – это какой? Вы не поверите, практически

790
00:48:13.220 --> 00:48:16.820
нет ответов тот, кто много знает.

791
00:48:17.680 --> 00:48:20.280
Я не оцениваю, я не говорю, хорошо это или плохо.

792
00:48:20.400 --> 00:48:24.460
Я говорю, факт таков. Массовые ответы – это тот,

793
00:48:24.600 --> 00:48:27.540
к которому я могу подойти, который меня выслушает,

794
00:48:27.600 --> 00:48:30.980
который меня успокоит, который меня утешит,

795
00:48:31.020 --> 00:48:33.520
который мне даст советы, как мне в этом собачьем

796
00:48:33.520 --> 00:48:36.960
мире жить. Потому что подойти больше некому.

797
00:48:37.060 --> 00:48:40.880
У них родители либо такие же, как они, а,

798
00:48:40.940 --> 00:48:44.080
возможно, и бабушки, и дедушки. Все работают,

799
00:48:44.080 --> 00:48:44.740
как чумовые.

800
00:48:46.050 --> 00:48:49.030
Даже какие-то там стишки есть такие, что

801
00:48:49.030 --> 00:48:53.510
«мама нет дома», «мама нырнула в интернет».

802
00:48:54.170 --> 00:48:57.470
То есть они сидят тут где-то рядом, они сидят,

803
00:48:57.490 --> 00:49:03.010
но от этого никому не легче. И ребенок, и студент даже,

804
00:49:03.110 --> 00:49:06.110
то есть и молодой человек, оказывается в ситуации,

805
00:49:06.110 --> 00:49:11.770
когда ему некуда прислониться. Везде холодный

806
00:49:11.770 --> 00:49:13.930
и циничный мир.

807
00:49:15.870 --> 00:49:19.170
И вообще вот детей мне даже жалко. А вот куда

808
00:49:19.170 --> 00:49:22.510
им деться? Их со всех сторон жмут только.

809
00:49:23.570 --> 00:49:26.130
Конечно, мы можем сказать, да, но если их распустить,

810
00:49:26.210 --> 00:49:28.290
то и сейчас мы видим, что делается, будет

811
00:49:28.290 --> 00:49:32.030
еще хуже. Ну да, но тогда нечего нам хвастаться тем,

812
00:49:32.130 --> 00:49:34.950
что мы взрослые и знаем больше, чем они. Нам

813
00:49:34.950 --> 00:49:38.010
надо как-то собраться и подумать. Итого,

814
00:49:38.050 --> 00:49:39.050
финал таков.

815
00:49:40.040 --> 00:49:43.480
Цифровой мир уже здесь, никуда деться от него нельзя.

816
00:49:43.660 --> 00:49:49.300
Нам нужно постараться как можно больше обеспечить

817
00:49:49.300 --> 00:49:54.880
себе безопасность от этого очень мощного мира,

818
00:49:54.980 --> 00:49:57.380
в который мы попали. Я думаю, всем понятно,

819
00:49:57.640 --> 00:50:00.540
что мы полностью прозрачны, да, в кармане

820
00:50:00.540 --> 00:50:03.700
у каждого телефона. Мы же понимаем, все знают,

821
00:50:03.700 --> 00:50:06.240
где вы находитесь, где вы вообще бываете,

822
00:50:06.320 --> 00:50:08.440
чего вы, например, никогда...

823
00:50:08.590 --> 00:50:11.190
не покупаете, скажем, клубнику, значит, возможно,

824
00:50:11.430 --> 00:50:14.630
у вас аллергия там, да, и так далее. То есть

825
00:50:14.630 --> 00:50:17.190
вообще все известно, с кем вы поругались.

826
00:50:19.379 --> 00:50:22.560
Все известно. Но мы идем на это, я не знаю,

827
00:50:22.580 --> 00:50:25.420
в аэропорту, когда еще был аэропорт. Ты приходишь,

828
00:50:25.420 --> 00:50:27.840
тебе говорят, какие-то у вас каблуки подозрительные,

829
00:50:27.840 --> 00:50:30.560
там снимите. И мы сами согласны, потому что

830
00:50:30.560 --> 00:50:32.940
я не хочу, чтобы меня взорвали. Черт с ними,

831
00:50:32.980 --> 00:50:36.560
с каблуками с этими. То есть мы в очень странном мире,

832
00:50:36.620 --> 00:50:41.000
мы как бы сами отдаем по неизбежности, отдаем

833
00:50:41.000 --> 00:50:44.860
контроль над миром этим искусственным инструментом.

834
00:50:45.770 --> 00:50:47.650
Потому что деваться некуда.

835
00:50:48.730 --> 00:50:51.590
Ну, в общем, вот так. Финал таков. Хотя мне

836
00:50:51.590 --> 00:50:54.390
это все не нравится, но, повторяю, все равно,

837
00:50:54.390 --> 00:50:57.970
что говорить, да, мне не нравится, не знаю,

838
00:50:58.110 --> 00:51:01.270
погода там в Бразилии. Кто тебя спрашивает,

839
00:51:01.330 --> 00:51:03.830
нравится тебе погода в Бразилии или нет? Это

840
00:51:03.830 --> 00:51:06.790
как бы вот какая есть, такая и есть. Эта планета

841
00:51:06.790 --> 00:51:10.370
теперь такая. Для того, чтобы нам на ней как

842
00:51:10.370 --> 00:51:13.770
-то маломальски приемлемо жить, нам надо придумать,

843
00:51:13.770 --> 00:51:14.690
как на ней жить.

844
00:51:17.180 --> 00:51:18.620
Спасибо вам за терпение.

Automatic

WEBVTT

0
00:00:00.000 --> 00:00:03.780
Thank you very much. Once again, I was sitting

1
00:00:03.780 --> 00:00:06.160
and thinking, what kind of stupidity did I do

2
00:00:06.160 --> 00:00:11.200
that I didn't go to a medical school? I even

3
00:00:11.200 --> 00:00:13.900
think that maybe I would have been a good doctor,

4
00:00:14.180 --> 00:00:17.200
as it seems to me now. But that's not true anymore.

5
00:00:21.460 --> 00:00:26.160
I've been working at the Institute of Human

6
00:00:26.160 --> 00:00:29.120
Brain for a long time. I mean, my main residence

7
00:00:29.120 --> 00:00:32.759
is the University of St. Petersburg. I'm the

8
00:00:32.759 --> 00:00:35.360
director of the Institute of Cognitive Research there.

9
00:00:35.360 --> 00:00:40.340
But since I study the brain, of course, I need

10
00:00:40.340 --> 00:00:42.600
to be in professional places, so that's where

11
00:00:42.600 --> 00:00:47.480
I am. But before that, for many years, the

12
00:00:47.480 --> 00:00:48.400
academic base

13
00:01:00.100 --> 00:01:05.280
Thank you very much.

14
00:01:07.319 --> 00:01:09.480
Thank you.

15
00:01:13.140 --> 00:01:16.880
It is the person and the world in which we

16
00:01:16.880 --> 00:01:18.580
got into, the world of artificial intelligence.

17
00:01:19.340 --> 00:01:24.340
This topic, of course, is not medical, but nevertheless,

18
00:01:24.820 --> 00:01:26.360
as you can see, I inserted the picture here.

19
00:01:27.160 --> 00:01:31.720
And I... Ah, here. This young lady in a white

20
00:01:31.720 --> 00:01:32.760
robe is...

21
00:01:34.040 --> 00:01:37.640
an anthropomorphic robot, which is actually

22
00:01:37.640 --> 00:01:43.480
made in Zelenodolsk, Zelenogradsk,

23
00:01:43.500 --> 00:01:47.480
but not Gorsk. In short, it is a Moscow place

24
00:01:47.480 --> 00:01:49.340
where artificial intelligence is engaged.

25
00:01:49.880 --> 00:01:54.840
And here, please, this assistant is like a doctor's assistant.

26
00:01:55.580 --> 00:02:01.280
Another picture on this slide depicts a person,

27
00:02:01.660 --> 00:02:05.580
and it's all of us, who is very happy with himself.

28
00:02:06.680 --> 00:02:11.820
He has a cylinder, he's happy, he reads

29
00:02:11.820 --> 00:02:15.520
a newspaper and doesn't suspect anything.

30
00:02:15.560 --> 00:02:18.540
In the meantime, you can see what's going

31
00:02:18.540 --> 00:02:22.440
on behind him, what's making him laugh. I'll try.

32
00:02:23.800 --> 00:02:29.300
not to speak pessimistically, although I go

33
00:02:29.300 --> 00:02:32.260
to the office...

34
00:02:37.459 --> 00:02:39.880
...commission on methodology and philosophy

35
00:02:39.880 --> 00:02:42.400
of artificial intelligence and cognitive research

36
00:02:42.400 --> 00:02:44.480
at the Presidium of the Academy of Sciences.

37
00:02:44.740 --> 00:02:48.420
I'm not saying this to get to know my biography,

38
00:02:49.180 --> 00:02:51.400
but because I'm aware of the case. That's

39
00:02:51.400 --> 00:02:54.960
what I said. I myself participate in these discussions,

40
00:02:55.180 --> 00:02:57.180
what to be afraid of, what not to be afraid of,

41
00:02:57.180 --> 00:03:01.400
and I understand how this world looks like now.

42
00:03:01.400 --> 00:03:03.240
Well, let's see what I can do.

43
00:03:04.920 --> 00:03:06.680
Well, first of all, fact is fact.

44
00:03:07.280 --> 00:03:11.220
that we are in a new type of civilization.

45
00:03:11.620 --> 00:03:14.400
This is not the future, this is the present,

46
00:03:14.740 --> 00:03:17.740
and this is a fact. Maybe we don't like it,

47
00:03:17.960 --> 00:03:21.540
for example, I don't like it, but it doesn't

48
00:03:21.540 --> 00:03:24.700
matter to anyone who likes it. It can be considered

49
00:03:24.700 --> 00:03:28.960
that we have moved to another planet. And

50
00:03:28.960 --> 00:03:30.780
this is not an artistic image, I'm talking

51
00:03:30.780 --> 00:03:33.760
absolutely seriously. Today at 9 a.m. I was

52
00:03:33.760 --> 00:03:35.620
already on two reports on Zoom.

53
00:03:35.790 --> 00:03:40.270
So I sat at home. And there the whole hall

54
00:03:40.270 --> 00:03:43.270
was filled with academics. And they discussed

55
00:03:43.270 --> 00:03:47.670
the new world. And what do they say? Children,

56
00:03:48.250 --> 00:03:53.170
schoolchildren say, and you adults, what right

57
00:03:53.170 --> 00:03:56.150
do you have to teach us how to live in a world

58
00:03:56.150 --> 00:03:57.850
in which you have never lived?

59
00:03:58.600 --> 00:04:03.360
This is not a joke. It is clear that you can

60
00:04:03.360 --> 00:04:05.580
wave your hand and the children will say something else,

61
00:04:05.580 --> 00:04:08.200
but there is a deep meaning in it. What do

62
00:04:08.200 --> 00:04:11.680
we want? We want the future world to be at

63
00:04:11.680 --> 00:04:15.160
least acceptable. We don't want it to be hostile.

64
00:04:16.200 --> 00:04:18.880
We want happiness for our descendants and

65
00:04:18.880 --> 00:04:22.800
so on. What do we mean by that? What is happiness?

66
00:04:23.380 --> 00:04:25.560
We want them to have a lot of food. We can

67
00:04:25.560 --> 00:04:26.180
say trivial things.

68
00:04:27.269 --> 00:04:31.250
to be full and safe, but it's all clear. But still,

69
00:04:31.450 --> 00:04:35.470
considering that the world we are in is incomprehensible,

70
00:04:35.470 --> 00:04:38.110
it is incomprehensible to anyone, except for

71
00:04:38.110 --> 00:04:40.190
those who have little mind. And therefore,

72
00:04:40.450 --> 00:04:42.190
for some reason, they think that it is understandable

73
00:04:42.190 --> 00:04:45.510
to them. Therefore, we are really in a new

74
00:04:45.510 --> 00:04:48.090
world in which we need to try to navigate.

75
00:04:48.910 --> 00:04:52.190
This world is digital. It is digital, and

76
00:04:52.190 --> 00:04:52.690
this is a fact.

77
00:04:53.240 --> 00:04:56.300
I repeat, this story does not suit me in any way,

78
00:04:56.400 --> 00:05:01.540
but no one asks me. In this regard,

79
00:05:01.720 --> 00:05:05.060
why such a huge place is engaged in the study

80
00:05:05.060 --> 00:05:09.220
of the brain? It costs a lot of money. The

81
00:05:09.220 --> 00:05:13.020
bill goes to, well, only billions. And, of course,

82
00:05:13.020 --> 00:05:13.720
not rubles.

83
00:05:14.140 --> 00:05:17.260
Why? We understand that in the cruel world

84
00:05:17.260 --> 00:05:20.080
in which we live, no one will spend a cent

85
00:05:20.080 --> 00:05:25.200
if it is not clear that you invest money where

86
00:05:25.200 --> 00:05:27.860
it is necessary. This is the federal money

87
00:05:27.860 --> 00:05:30.600
of all developed countries, and America, and Asia,

88
00:05:30.660 --> 00:05:34.460
and China, and Japan, and Europe. In Europe,

89
00:05:34.580 --> 00:05:36.780
by the way, one of the projects, which was

90
00:05:36.780 --> 00:05:41.760
called Blue Brain, it still bent, despite

91
00:05:41.760 --> 00:05:42.660
the huge...

92
00:05:42.730 --> 00:05:44.810
........

93
00:06:03.799 --> 00:06:06.500
Artificial intelligence and its place. And

94
00:06:06.500 --> 00:06:08.460
what does artificial intelligence have to

95
00:06:08.460 --> 00:06:12.000
do with it? Because if you look at it in a primitive way,

96
00:06:12.120 --> 00:06:16.260
then the question to which I will return later,

97
00:06:16.480 --> 00:06:20.440
what are we planning to do here? Are we still

98
00:06:20.440 --> 00:06:24.520
going to live on this planet? Or are we giving

99
00:06:24.520 --> 00:06:25.060
up all positions?

100
00:06:26.419 --> 00:06:28.260
Yes, and now let him do it instead of us.

101
00:06:29.580 --> 00:06:32.860
I would like to ask everyone a question. Of course,

102
00:06:32.860 --> 00:06:35.060
there is no answer except for **** ones. I don't

103
00:06:35.060 --> 00:06:37.620
get it. And my question is this. What are

104
00:06:37.620 --> 00:06:38.100
we going to do?

105
00:06:39.039 --> 00:06:41.600
No, if artificial intelligence will do everything,

106
00:06:41.820 --> 00:06:46.560
it will treat, teach, count, extract coal,

107
00:06:46.780 --> 00:06:49.940
if someone else will need coal, and so on.

108
00:06:50.080 --> 00:06:52.280
Here it will do everything. What will people do?

109
00:06:52.680 --> 00:06:55.520
It is supposed to answer, but here Grefg,

110
00:06:55.600 --> 00:06:59.080
for example, and publicly, and personally,

111
00:06:59.200 --> 00:07:02.000
I have talked to him many times. He says,

112
00:07:02.300 --> 00:07:03.740
okay, do not scare people.

113
00:07:05.340 --> 00:07:07.860
Because, yes, a large number of professions

114
00:07:07.860 --> 00:07:11.220
will die out, but a lot will appear. We already

115
00:07:11.220 --> 00:07:14.080
have a lot. Yes, a lot has appeared. And what

116
00:07:14.080 --> 00:07:16.820
percentage of the population does it cover?

117
00:07:17.680 --> 00:07:22.060
Minimum. In addition, special training is needed.

118
00:07:22.060 --> 00:07:23.780
That is, this is not a mass thing.

119
00:07:26.440 --> 00:07:28.540
And what I have already said, what kind of

120
00:07:28.540 --> 00:07:31.080
future we are building and how we are preparing

121
00:07:31.080 --> 00:07:33.620
those who will live in it. I am not going

122
00:07:33.620 --> 00:07:36.260
to philosophize especially, but let's say,

123
00:07:36.300 --> 00:07:41.420
doctors. We, it's not me,

124
00:07:41.540 --> 00:07:43.840
although I studied at the Faculty of Medicine,

125
00:07:44.040 --> 00:07:47.940
even taught for one year, but I remembered

126
00:07:47.940 --> 00:07:48.420
it in time.

127
00:07:52.100 --> 00:07:55.980
What should these people do? They should know

128
00:07:55.980 --> 00:07:58.640
a lot, for example, I say so primitively,

129
00:07:58.720 --> 00:08:00.140
they should know a lot.

130
00:08:03.450 --> 00:08:07.210
you can always get in there and they will

131
00:08:07.210 --> 00:08:10.450
tell you everything. In the medical audience,

132
00:08:10.450 --> 00:08:12.950
it's even awkward to say what I'm going to

133
00:08:12.950 --> 00:08:15.730
say now. Would anyone want to learn from a doctor

134
00:08:15.730 --> 00:08:18.630
who has to get on the phone all the time to

135
00:08:18.630 --> 00:08:22.190
see how things are going? I doubt that, except

136
00:08:22.190 --> 00:08:24.130
for the crazy ones, anyone would agree with that.

137
00:08:24.330 --> 00:08:27.950
In addition, again, it's even awkward to say

138
00:08:27.950 --> 00:08:30.110
it in this audience. And I will say it from

139
00:08:30.110 --> 00:08:30.710
both sides.

140
00:08:31.180 --> 00:08:35.220
I usually say, yes, medicine is a high science,

141
00:08:35.340 --> 00:08:38.539
but it is a high art. We know that genius

142
00:08:38.539 --> 00:08:43.860
doctors are different. We don't know how they diagnose.

143
00:08:44.539 --> 00:08:46.140
We don't understand at all. It's something

144
00:08:46.140 --> 00:08:50.380
on the nose. I say, I see. When you ask them,

145
00:08:50.419 --> 00:08:53.240
how do you do it? I say, I see, I feel.

146
00:08:54.849 --> 00:08:57.030
The old doctors were doing it for the smell.

147
00:08:57.030 --> 00:09:01.830
That is, mechanisms that are not algorithms

148
00:09:01.830 --> 00:09:04.289
and which the artificial intelligence cannot

149
00:09:04.289 --> 00:09:05.750
replace begin to be activated here. But now

150
00:09:05.750 --> 00:09:08.530
I turn this story around and say, yes, medicine,

151
00:09:08.750 --> 00:09:11.150
of course, is art, but it is also science.

152
00:09:11.370 --> 00:09:14.770
Even that little piece that I have just captured,

153
00:09:15.210 --> 00:09:18.250
listen, well, it can't be, well, it just brings

154
00:09:18.250 --> 00:09:20.390
to mind, well, there is no person in the world,

155
00:09:20.410 --> 00:09:22.090
no matter what it is.

156
00:09:23.940 --> 00:09:26.600
an experienced doctor, so that he could see

157
00:09:26.600 --> 00:09:30.660
a million tomograms or CT scans, it doesn't

158
00:09:30.660 --> 00:09:35.820
matter what, a million, right? And make a conclusion

159
00:09:35.820 --> 00:09:38.500
from it. This work is impossible. That is,

160
00:09:38.600 --> 00:09:40.900
yes, this is exactly what artificial intelligence

161
00:09:40.900 --> 00:09:43.480
should do, that is, work with big data, with

162
00:09:43.480 --> 00:09:46.680
big data. And he is digging all this, digging

163
00:09:46.680 --> 00:09:49.340
these blocks, and in the end he sorts them

164
00:09:49.340 --> 00:09:51.240
out and says, when you see this,

165
00:09:52.880 --> 00:09:58.300
But it is not his dog's business, sorry for vulgarity,

166
00:09:58.320 --> 00:10:02.900
to make a mechanical decision. He must give

167
00:10:02.900 --> 00:10:08.440
us information that we are not able to process ourselves.

168
00:10:08.500 --> 00:10:12.500
Yes, but the last word is not for him.

169
00:10:13.820 --> 00:10:17.120
Therefore, how to teach these doctors, well,

170
00:10:17.180 --> 00:10:19.380
doctors in general, not only doctors, by the way,

171
00:10:19.440 --> 00:10:25.380
but the whole hierarchy. They should be digitally prepared.

172
00:10:25.920 --> 00:10:28.660
It's not ****, in the sense of how the Excel

173
00:10:28.660 --> 00:10:31.920
program works, but for real. This is a different world.

174
00:10:32.140 --> 00:10:34.780
Yes, they are needed. They need to be combed,

175
00:10:34.800 --> 00:10:38.480
I'm sure they need to. Although, if a whole

176
00:10:38.480 --> 00:10:40.400
number of my colleagues were standing next

177
00:10:40.400 --> 00:10:41.920
to me, they would say, oh, okay, enough.

178
00:10:44.440 --> 00:10:49.500
I don't think so. I think that even

179
00:10:49.500 --> 00:10:53.880
humanitarians need to learn Latin and Ancient

180
00:10:53.880 --> 00:10:55.960
Greek together. Because it will clear their brains.

181
00:10:56.860 --> 00:10:58.560
And mathematicians in general.

182
00:11:05.510 --> 00:11:10.610
This whole story raises a lot of existential questions,

183
00:11:10.830 --> 00:11:15.970
real serious questions. We can talk a lot

184
00:11:15.970 --> 00:11:19.130
about it, but how to do it? We understand

185
00:11:19.130 --> 00:11:22.990
that we need to teach differently, we need

186
00:11:22.990 --> 00:11:26.670
to understand how to coexist natural intelligence

187
00:11:26.670 --> 00:11:28.550
and artificial intelligence on the planet.

188
00:11:29.440 --> 00:11:31.480
After all, this is a division of labor. How

189
00:11:31.480 --> 00:11:35.900
should we divide? Artificial Intellectual Systems,

190
00:11:36.460 --> 00:11:40.300
what will they do? And we will not lose control?

191
00:11:40.910 --> 00:11:43.370
We are sure that we will be able to hold this

192
00:11:43.370 --> 00:11:47.770
situation in our hands. When you talk to people,

193
00:11:47.990 --> 00:11:49.930
relatively speaking, from Kolkovo, although

194
00:11:49.930 --> 00:11:52.810
literally from Kolkovo, they say, okay, no

195
00:11:52.810 --> 00:11:54.890
need to panic, but they are all snobs, they

196
00:11:54.890 --> 00:11:57.070
are all terribly confident, for some reason

197
00:11:57.070 --> 00:11:58.970
they think that they understand this situation.

198
00:11:59.210 --> 00:12:02.870
They, of course, know this area as no one does.

199
00:12:03.410 --> 00:12:05.570
But as soon as you take a step to the left,

200
00:12:05.610 --> 00:12:09.370
a step to the right, then they say, listen,

201
00:12:09.480 --> 00:12:12.480
Listen, the programs do exactly what we put

202
00:12:12.480 --> 00:12:17.340
in them. This is not true. They either lie

203
00:12:17.340 --> 00:12:21.440
to us, directly lie, or they themselves do

204
00:12:21.440 --> 00:12:25.480
not understand. Because I talk a lot with

205
00:12:25.480 --> 00:12:27.660
different people and speak in particular,

206
00:12:28.020 --> 00:12:30.500
I had an episode of the year...

207
00:12:30.970 --> 00:12:33.110
three years ago, I think. And since then,

208
00:12:33.150 --> 00:12:37.270
this area has advanced a lot. When, at their request,

209
00:12:37.370 --> 00:12:39.550
there was a company that developed artificial

210
00:12:39.550 --> 00:12:46.250
intelligence programs. And suddenly...

211
00:12:46.510 --> 00:12:50.110
Their boss says, you know, we have such a strange thing.

212
00:12:50.770 --> 00:12:55.970
They work with deep training of neural networks.

213
00:12:56.550 --> 00:12:59.510
Our program began to learn very quickly. It

214
00:12:59.510 --> 00:13:03.210
learns so that we do not have time. I say,

215
00:13:03.350 --> 00:13:06.750
oh, attention, from this point in detail and slowly.

216
00:13:07.890 --> 00:13:13.050
They say, firstly, it learns faster than

217
00:13:13.050 --> 00:13:14.370
we can understand.

218
00:13:15.360 --> 00:13:19.180
Secondly, it does something that we don't

219
00:13:19.180 --> 00:13:21.560
understand at all. I say, and from this point,

220
00:13:21.660 --> 00:13:24.760
especially slowly, what does it mean we don't understand?

221
00:13:25.540 --> 00:13:28.700
They say, well, something is happening that

222
00:13:28.700 --> 00:13:32.880
we don't know how to interpret it. And I say,

223
00:13:32.940 --> 00:13:36.480
and? They say, and we were scared. Listen,

224
00:13:36.760 --> 00:13:38.080
this is what the developers say.

225
00:13:38.980 --> 00:13:41.860
We were scared, and when we were scared, what

226
00:13:41.860 --> 00:13:44.440
did we do? You won't believe it. They took

227
00:13:44.440 --> 00:13:45.900
us out of the network, out of the outlet.

228
00:13:46.920 --> 00:13:49.200
Can you imagine how they were supposed to

229
00:13:49.200 --> 00:13:51.920
be scared in order to take such a primitive

230
00:13:51.920 --> 00:13:56.120
move as to turn off the electricity? I don't

231
00:13:56.120 --> 00:13:59.160
want to scare everyone that this moment has

232
00:13:59.160 --> 00:14:04.600
not yet come, but it may come. These are developments

233
00:14:04.600 --> 00:14:06.720
that have not yet come out, these are their

234
00:14:06.720 --> 00:14:07.120
local toys.

235
00:14:10.079 --> 00:14:11.820
But everything is ahead of us.

236
00:14:12.840 --> 00:14:15.560
If you remember, I'm talking about the games.

237
00:14:16.480 --> 00:14:20.700
If you remember, the game of chess, which,

238
00:14:20.860 --> 00:14:22.980
as we know, is several thousand years old.

239
00:14:23.200 --> 00:14:28.660
And in 1997, the Deep Blue chess program beat

240
00:14:28.660 --> 00:14:31.540
the then world champion. It's not about the game.

241
00:14:31.840 --> 00:14:35.280
You understand that I'm not talking seriously here.

242
00:14:36.360 --> 00:14:38.720
It's not about the game, but about what it

243
00:14:38.720 --> 00:14:39.340
can do.

244
00:14:40.440 --> 00:14:42.540
The thing is not that there is no one to play

245
00:14:42.540 --> 00:14:46.700
chess with. In short, she defeated the then

246
00:14:46.700 --> 00:14:49.860
world champion Kasparov in fluff and dust.

247
00:14:50.570 --> 00:14:53.650
And humanity was shocked, because it was the

248
00:14:53.650 --> 00:14:56.490
best brain on the planet, and that's it. But

249
00:14:56.490 --> 00:14:59.070
when we came to our senses and began to analyze,

250
00:14:59.550 --> 00:15:02.410
it turned out that it was not as scary as

251
00:15:02.410 --> 00:15:07.690
it was at first, because it was an unfair game.

252
00:15:07.930 --> 00:15:11.570
I was young and ****, but nevertheless, I immediately said,

253
00:15:11.670 --> 00:15:13.750
you can't play like that, it's an unfair game.

254
00:15:14.790 --> 00:15:18.730
Unequal conditions. The program does not get tired.

255
00:15:19.020 --> 00:15:21.600
she is not nervous, she has a huge speed,

256
00:15:22.040 --> 00:15:23.600
she has an infinite memory.

257
00:15:24.920 --> 00:15:28.500
There is no person on Earth who is able to

258
00:15:28.500 --> 00:15:31.540
compete with this. Everyone has everything

259
00:15:31.540 --> 00:15:33.480
that I have listed. You can't play like that.

260
00:15:33.600 --> 00:15:37.860
Worse than that, she was drawn to a specific person,

261
00:15:38.160 --> 00:15:41.400
namely to him. She knew about him every move.

262
00:15:41.660 --> 00:15:43.900
He himself knew about himself less than she did.

263
00:15:44.720 --> 00:15:48.640
This is an unfair game. Then a few years pass,

264
00:15:48.640 --> 00:15:50.860
she wins one over the other. The question

265
00:15:50.860 --> 00:15:51.800
of chess is over.

266
00:15:53.200 --> 00:15:56.500
That's it. Since it is an excessive game,

267
00:15:56.740 --> 00:15:59.780
it is clear that it is impossible to compete.

268
00:16:00.380 --> 00:16:02.520
Then they began to say, and I really liked

269
00:16:02.520 --> 00:16:04.380
this idea, they began to say, well, there

270
00:16:04.380 --> 00:16:07.160
are games that are more complicated. The fact

271
00:16:07.160 --> 00:16:08.580
is not that they are more complicated, but

272
00:16:08.580 --> 00:16:10.000
of a different type. For example, the game

273
00:16:10.000 --> 00:16:14.680
of Go. In the game of Go, these iron monsters,

274
00:16:14.820 --> 00:16:16.920
they say, will not overcome. They overcame.

275
00:16:17.080 --> 00:16:18.500
Here, please, there is a person sitting in

276
00:16:18.500 --> 00:16:21.200
this picture, Lysidol.

277
00:16:21.930 --> 00:16:25.050
He is the world champion of Pogo, and she

278
00:16:25.050 --> 00:16:28.790
carried him in her arms. This means that these

279
00:16:28.790 --> 00:16:34.450
programs have gone the other way. They didn't

280
00:16:34.450 --> 00:16:38.070
follow the line of too many operations, just

281
00:16:38.070 --> 00:16:40.450
a very fast too many operations, they learned

282
00:16:40.450 --> 00:16:41.970
to do something else.

283
00:16:44.609 --> 00:16:47.830
Here it is, you see, this Lysidol. This is

284
00:16:47.830 --> 00:16:53.010
the famous AlphaGo program. And, well,

285
00:16:53.110 --> 00:16:58.370
you see for yourself. It was clear that

286
00:16:58.370 --> 00:17:01.710
he would not win at all, but at least one.

287
00:17:02.740 --> 00:17:05.619
to win the game. That's how the question was.

288
00:17:06.040 --> 00:17:08.940
And these are already exquisite moves. Then

289
00:17:08.940 --> 00:17:11.220
I was very happy with myself, and in vain,

290
00:17:11.400 --> 00:17:15.859
because I said, we have games, and stronger,

291
00:17:16.280 --> 00:17:20.599
for example, poker, where the trickery, so

292
00:17:20.599 --> 00:17:23.119
to speak, is present. Yes, poker face, a face

293
00:17:23.119 --> 00:17:25.099
that does not express anything, dark glasses,

294
00:17:25.400 --> 00:17:27.079
we hide emotions, bluff.

295
00:17:28.060 --> 00:17:31.619
And this program by definition cannot take it.

296
00:17:31.800 --> 00:17:35.200
I was very happy with myself that I came up

297
00:17:35.200 --> 00:17:37.160
with such a thing in vain. Because...

298
00:17:38.730 --> 00:17:41.990
The program Libratus won the poker competition

299
00:17:41.990 --> 00:17:45.530
for the four best players in the world. You see,

300
00:17:45.630 --> 00:17:47.990
they are just laughing here, because she completely

301
00:17:47.990 --> 00:17:52.150
beat them. She won almost two million dollars

302
00:17:52.150 --> 00:17:53.609
from them. Of course, no one gave her this

303
00:17:53.609 --> 00:17:57.550
piece of iron, but the fact is the fact.

304
00:18:01.299 --> 00:18:07.160
Why do we play this game? The last point

305
00:18:07.160 --> 00:18:11.099
is clear. If it's about improving our lives

306
00:18:11.099 --> 00:18:15.200
by transferring the work we don't want to

307
00:18:15.200 --> 00:18:17.599
do there, or we can't do it, as with the big data,

308
00:18:17.700 --> 00:18:21.220
or why should a person go to the mine, even

309
00:18:21.220 --> 00:18:24.080
if these pieces of iron are being dug there,

310
00:18:24.340 --> 00:18:27.700
or, I don't know, I've been wondering for

311
00:18:27.700 --> 00:18:28.800
a long time why to go to Mars.

312
00:18:30.220 --> 00:18:32.020
Those, who are engaged in it, did not get

313
00:18:32.020 --> 00:18:35.560
a satisfactory answer. Why are you going to fly?

314
00:18:35.880 --> 00:18:40.320
Not with colleagues it will be said. We understand

315
00:18:40.320 --> 00:18:43.060
that the hard radiation will make their brain

316
00:18:43.060 --> 00:18:48.400
very fast, right? When they say on this topic,

317
00:18:48.560 --> 00:18:50.660
yes, but they flew to the moon for three days.

318
00:18:51.440 --> 00:18:55.420
And what about the year? Moreover, I asked

319
00:18:55.420 --> 00:18:57.680
in the Kurchatsky Institute, where are they,

320
00:18:57.680 --> 00:19:00.000
as it were, specialists? I say, and what is protection?

321
00:19:00.320 --> 00:19:01.460
Is it impossible to come up with protection?

322
00:19:01.620 --> 00:19:09.660
They say, yes, 5 tons of the same there corresponding metals,

323
00:19:09.880 --> 00:19:13.140
which are terribly heavy. Well, in short,

324
00:19:13.240 --> 00:19:17.180
it is impossible. And what will happen? And

325
00:19:17.180 --> 00:19:19.620
the frontal lobe will explode.

326
00:19:20.320 --> 00:19:23.520
A big hello! Why fly there then? If those

327
00:19:23.520 --> 00:19:26.880
who will fly there at the time of landing

328
00:19:26.880 --> 00:19:28.980
on Mars will turn out to be eggplants, then

329
00:19:28.980 --> 00:19:31.260
was it worth flying? That is, this is generally

330
00:19:31.260 --> 00:19:33.940
some kind of wild thing. But nevertheless,

331
00:19:34.480 --> 00:19:37.520
there is already a lot of everything there.

332
00:19:38.060 --> 00:19:42.180
So let them work. I mean, let them climb into

333
00:19:42.180 --> 00:19:44.900
the mine, let them climb where the radiation is.

334
00:19:45.970 --> 00:19:49.310
Let them collect samples of something on Mars.

335
00:19:49.990 --> 00:19:52.690
There is another option to understand how

336
00:19:52.690 --> 00:19:54.870
the brain works. Here, it seems to me, there

337
00:19:54.870 --> 00:19:57.570
is some kind of unpleasant trap. In order

338
00:19:57.570 --> 00:20:00.390
to make artificial intelligence, it is necessary

339
00:20:00.390 --> 00:20:02.690
to first understand how the brain works. In

340
00:20:02.690 --> 00:20:05.490
order to understand how the brain works, it

341
00:20:05.490 --> 00:20:07.250
is necessary to have artificial intelligence

342
00:20:07.250 --> 00:20:10.330
to conduct experiments with it. You understand

343
00:20:10.330 --> 00:20:12.190
that there is such a logical loop here.

344
00:20:13.530 --> 00:20:17.690
To understand how we can biologically improve ourselves.

345
00:20:17.870 --> 00:20:20.850
Now it's a trend. It's a terrible thing. I get

346
00:20:20.850 --> 00:20:23.890
questions every day. These are new people,

347
00:20:24.110 --> 00:20:26.490
they will be faster, smarter, we will put

348
00:20:26.490 --> 00:20:29.490
chips in their heads, they will not need to rest,

349
00:20:29.750 --> 00:20:32.690
sleep, they are with a huge speed. Why is

350
00:20:32.690 --> 00:20:35.570
this all? What is the purpose?

351
00:20:36.520 --> 00:20:39.880
That is, we go into transhumanism, right?

352
00:20:40.080 --> 00:20:43.500
Where did we go? There is another terrible

353
00:20:43.500 --> 00:20:46.180
variant about Frankenstein, as it is written here.

354
00:20:46.460 --> 00:20:49.800
And serious people talk about it. If you think

355
00:20:49.800 --> 00:20:53.820
that this is frying cutlets of a housewife

356
00:20:53.820 --> 00:20:56.500
in the kitchen, it's nothing like that. This

357
00:20:56.500 --> 00:21:00.240
is what big scientists say. We digitize our

358
00:21:00.240 --> 00:21:03.220
neural network with everything that is written

359
00:21:03.220 --> 00:21:04.520
on it, on a flash drive.

360
00:21:04.890 --> 00:21:07.770
Well, or on something, an external memory.

361
00:21:08.610 --> 00:21:11.190
And grandfather's life, being presented to

362
00:21:11.190 --> 00:21:14.830
his grandson on a flash drive, means that

363
00:21:14.830 --> 00:21:17.310
he is like digital immortality. An absolutely

364
00:21:17.310 --> 00:21:21.170
insane thought. Well, let's see.

365
00:21:24.120 --> 00:21:29.480
All these stories about games, they show us

366
00:21:29.480 --> 00:21:32.600
disturbing things, because we say that everything

367
00:21:32.600 --> 00:21:35.680
related to logic, algorithms, yes, they do

368
00:21:35.680 --> 00:21:38.440
better than us, I already said it, it's clear.

369
00:21:39.160 --> 00:21:44.300
But we, people, have properties that

370
00:21:44.300 --> 00:21:49.480
are impossible to formalize. This is, for example, intuition.

371
00:21:50.400 --> 00:21:52.580
This is some...

372
00:21:53.580 --> 00:21:56.640
processing of external information, not with

373
00:21:56.640 --> 00:21:59.100
the help of computation, not with the help

374
00:21:59.100 --> 00:22:02.140
of a score, but I see that it's a good thing.

375
00:22:02.580 --> 00:22:06.860
You can't do anything with it. We always said,

376
00:22:06.980 --> 00:22:11.140
here's a watershed. We have this soft field,

377
00:22:11.380 --> 00:22:15.660
which is inaccessible to these monsters. I want

378
00:22:15.660 --> 00:22:19.880
to note with remorse that artificial intelligence

379
00:22:19.880 --> 00:22:20.660
has overcome.

380
00:22:24.520 --> 00:22:31.700
he developed some kind of

381
00:22:31.700 --> 00:22:36.420
artificial intuition for himself. For example,

382
00:22:36.500 --> 00:22:41.880
in chess games, you can see how

383
00:22:41.880 --> 00:22:47.140
he drives a partner, a person or a car,

384
00:22:48.320 --> 00:22:53.600
or a partner of the program. That is,

385
00:22:53.740 --> 00:22:57.780
his partner begins to think that he is winning.

386
00:22:58.590 --> 00:23:03.590
This cunning program starts to lose. He goes

387
00:23:03.590 --> 00:23:07.590
in this direction, saying, oh, great, that's it,

388
00:23:07.610 --> 00:23:11.290
I win. He goes here. She gives up, gives up,

389
00:23:11.290 --> 00:23:14.210
gives up until the moment when he has no opportunity

390
00:23:14.210 --> 00:23:18.910
to go back. After that, she defeats him. That is,

391
00:23:19.010 --> 00:23:23.050
there were cognitive moves that we did not

392
00:23:23.050 --> 00:23:25.670
even suspect. And here I write.

393
00:23:26.480 --> 00:23:33.360
that they can overplay us. What

394
00:23:33.360 --> 00:23:36.280
do they say about the modern world now? They

395
00:23:36.280 --> 00:23:40.260
say that it is very complex, it can be interpreted

396
00:23:40.260 --> 00:23:43.020
in any way, it is multifaceted, it is contradictory.

397
00:23:43.720 --> 00:23:45.800
But I want to say that it has always been so.

398
00:23:46.040 --> 00:23:48.980
In this sense, there is nothing new. The world

399
00:23:48.980 --> 00:23:51.240
could always be considered this way or that way,

400
00:23:51.760 --> 00:23:53.860
and there is nothing new here.

401
00:23:55.040 --> 00:23:58.320
What is new is the gigantic speed of change.

402
00:23:58.800 --> 00:24:01.840
We even know from evolutionary physiology

403
00:24:01.840 --> 00:24:06.020
that the main thing is the ability to adapt.

404
00:24:06.580 --> 00:24:09.740
That is, to what only the brain, or not only

405
00:24:09.740 --> 00:24:12.180
the brain at all, to what only creatures are

406
00:24:12.180 --> 00:24:14.920
not adapted. But these are gigantic times.

407
00:24:17.020 --> 00:24:19.380
Thousands of years, millions of years, well,

408
00:24:19.420 --> 00:24:23.240
hundreds of years. Then the decades began,

409
00:24:23.240 --> 00:24:26.740
then the years began, and now what? And now

410
00:24:26.740 --> 00:24:31.300
the days. The question arises, will our intellect

411
00:24:31.300 --> 00:24:35.760
withstand all this? Not our intellect, but

412
00:24:35.760 --> 00:24:38.700
our brain in general. Our body, even wider.

413
00:24:38.860 --> 00:24:42.440
Will it withstand? You see, first of all,

414
00:24:42.520 --> 00:24:44.620
we have a giant speed. Secondly, we don't

415
00:24:44.620 --> 00:24:45.360
believe in anything.

416
00:24:46.040 --> 00:24:48.880
We don't believe in anything, because virtual

417
00:24:48.880 --> 00:24:53.000
systems will create whatever you want. And

418
00:24:53.000 --> 00:24:55.720
because these possibilities are getting better

419
00:24:55.720 --> 00:24:59.920
and better, these lies, fakes, they are so plausible,

420
00:25:00.520 --> 00:25:01.840
that they are like...

421
00:25:02.190 --> 00:25:05.310
You trust them more than the real world. Wow!

422
00:25:05.930 --> 00:25:11.530
And who to believe? I have a hope to check

423
00:25:11.530 --> 00:25:15.710
what they show me. Does it have anything to

424
00:25:15.710 --> 00:25:18.750
do with the truth or not? I write here, the

425
00:25:18.750 --> 00:25:22.650
ability to check information disappears. And

426
00:25:22.650 --> 00:25:25.270
what do we do? I am often asked, and what?

427
00:25:25.410 --> 00:25:28.810
What are you doing? I always say the same thing.

428
00:25:28.990 --> 00:25:30.770
I personally use gossip.

429
00:25:31.800 --> 00:25:35.080
That is, I have a certain number of people

430
00:25:35.080 --> 00:25:39.900
whom I trust. I know that they are, first

431
00:25:39.900 --> 00:25:43.660
of all, informed, really informed, and secondly,

432
00:25:43.980 --> 00:25:46.800
they are not inclined to come up with some

433
00:25:46.800 --> 00:25:51.720
fairy-tale plots. If he tells me, read Johnson,

434
00:25:51.720 --> 00:25:55.620
he understands. Read Smith, because he's an idiot.

435
00:25:55.880 --> 00:25:57.480
That's exactly what I'm going to do.

436
00:25:58.430 --> 00:26:01.650
Because I don't have any other way. You need

437
00:26:01.650 --> 00:26:04.830
to believe in someone. What do we say to students?

438
00:26:04.830 --> 00:26:08.750
And to doctors, of course, I think. We say,

439
00:26:08.890 --> 00:26:13.270
on this topic, look at the screen, sites,

440
00:26:13.870 --> 00:26:17.870
links, in those places that we trust. On this topic.

441
00:26:17.970 --> 00:26:21.830
On another, we trust others. If you want to

442
00:26:21.830 --> 00:26:23.670
sit in Wikipedia, go ahead.

443
00:26:25.020 --> 00:26:28.100
After that, leave the audience. Information

444
00:26:28.100 --> 00:26:33.000
should be received in the right places. Further.

445
00:26:33.340 --> 00:26:35.780
All agreements have collapsed. Do you understand

446
00:26:35.780 --> 00:26:40.180
how to continue to live? If, let's say, today,

447
00:26:40.260 --> 00:26:42.740
without a hint of politics, but still, if

448
00:26:42.740 --> 00:26:45.380
today the heads of state agree on something,

449
00:26:46.260 --> 00:26:49.180
They go to bed. One of them wakes up in the

450
00:26:49.180 --> 00:26:51.020
morning and says, I changed my mind. You see,

451
00:26:51.160 --> 00:26:53.600
the world cannot exist like this. You can't

452
00:26:53.600 --> 00:26:56.060
live like this. There must be at least some

453
00:26:56.060 --> 00:26:59.980
stable things. Why do I always refer to Alice?

454
00:26:59.980 --> 00:27:02.020
Who has not read for a long time, I highly recommend.

455
00:27:02.440 --> 00:27:05.640
Only Alice in Wonderland and Alice in the Mirror.

456
00:27:05.960 --> 00:27:09.920
Only read not as a fairy tale, but as a very

457
00:27:09.920 --> 00:27:13.100
serious philosophical and even mathematical work.

458
00:27:13.600 --> 00:27:14.700
But the author is...

459
00:27:14.760 --> 00:27:19.340
It was not written for children at all. This

460
00:27:19.340 --> 00:27:21.760
is the world in which we are now. All the

461
00:27:21.760 --> 00:27:24.860
rules have collapsed. Nothing works. You see?

462
00:27:25.820 --> 00:27:28.200
So, can't the society exist?

463
00:27:29.520 --> 00:27:31.960
When the rules of the game change all the time.

464
00:27:32.000 --> 00:27:35.260
Today you go out into the street and you know

465
00:27:35.260 --> 00:27:38.060
that the red light is to stand, and the green

466
00:27:38.060 --> 00:27:41.400
light is to go. And after noon, it turns out

467
00:27:41.400 --> 00:27:44.300
the opposite. But no one told you that the

468
00:27:44.300 --> 00:27:46.480
rules have changed. This is where we live now.

469
00:27:46.980 --> 00:27:48.140
We got somewhere.

470
00:27:50.500 --> 00:27:53.400
We have the most complex neural network. As

471
00:27:53.400 --> 00:27:55.520
you understand, these pictures are electron

472
00:27:55.520 --> 00:28:01.160
-microscopic small pieces.

473
00:28:02.570 --> 00:28:04.850
And in order to scare everyone, we have 86

474
00:28:04.850 --> 00:28:07.410
billion neurons according to the current data.

475
00:28:11.410 --> 00:28:15.730
Recently, I said 100 billion, but it seems

476
00:28:15.730 --> 00:28:17.290
to me that when the score goes to such values,

477
00:28:17.550 --> 00:28:19.690
**** forbid, it doesn't matter anymore. Where

478
00:28:19.690 --> 00:28:23.770
86 and 90, it doesn't matter anymore. It is

479
00:28:23.770 --> 00:28:27.510
important that each neuron can have a huge

480
00:28:27.510 --> 00:28:30.670
number of connections with other parts of

481
00:28:30.670 --> 00:28:31.030
the brain.

482
00:28:31.080 --> 00:28:36.860
It can be 50 ,000 connections, or even more.

483
00:28:37.080 --> 00:28:40.260
In short, if we multiply all this, we will

484
00:28:40.260 --> 00:28:43.140
get a quadrillion synaptic connections in

485
00:28:43.140 --> 00:28:46.700
the brain. This is an absolutely extraordinary amount.

486
00:28:47.300 --> 00:28:52.660
Even the most complicated supercomputers could

487
00:28:52.660 --> 00:28:55.380
provide such a thing, but there is no such thing.

488
00:28:55.380 --> 00:28:58.780
Even those brain studies that...

489
00:28:59.500 --> 00:29:03.860
They are like incredible discoveries. I don't know,

490
00:29:03.980 --> 00:29:07.540
they took such a piece from the mouse and

491
00:29:07.540 --> 00:29:13.000
modeled it, and they are proud that

492
00:29:13.000 --> 00:29:16.680
they have succeeded so much. In the mouse,

493
00:29:16.820 --> 00:29:20.700
and the human brain. Neurons, for God's sake.

494
00:29:21.260 --> 00:29:25.780
And glia, glial cells, in which it is all drowned,

495
00:29:26.060 --> 00:29:27.840
in which, as we know, our cognitive...

496
00:29:29.710 --> 00:29:31.370
There are possibilities, there is a memory.

497
00:29:31.930 --> 00:29:36.950
If the child, as a result of something or

498
00:29:36.950 --> 00:29:40.590
internal development, all this glial history

499
00:29:40.590 --> 00:29:42.490
is violated, then he is born with powerful

500
00:29:42.490 --> 00:29:43.930
cognitive disorders.

501
00:29:47.450 --> 00:29:50.270
The player is a neuron, not a glia neuron,

502
00:29:50.510 --> 00:29:53.370
so it's ten times bigger. I don't know if

503
00:29:53.370 --> 00:29:56.210
there are words in human languages that can

504
00:29:56.210 --> 00:29:59.210
describe such quantities. Usually they say

505
00:29:59.210 --> 00:30:02.370
about it hyperastronomic quantities. It's

506
00:30:02.370 --> 00:30:06.470
a terrible thing. Even worse, I don't know

507
00:30:06.470 --> 00:30:08.610
what's worse, what's better, is that this

508
00:30:08.610 --> 00:30:10.370
network is constantly being built.

509
00:30:11.080 --> 00:30:14.460
It is dynamic. It is not that it is difficult,

510
00:30:14.780 --> 00:30:17.120
but it is what it is. It changes all the time.

511
00:30:17.140 --> 00:30:20.520
Now, while we are talking, it writes and writes,

512
00:30:20.600 --> 00:30:22.400
writes and writes. That is, it is different

513
00:30:22.400 --> 00:30:27.540
all the time. There is such a concept

514
00:30:27.540 --> 00:30:30.440
as the number of Dunbar. It is believed, and

515
00:30:30.440 --> 00:30:34.140
I am calm about it, but I will still say it.

516
00:30:35.000 --> 00:30:38.900
You can see why. It is considered that the

517
00:30:38.900 --> 00:30:41.640
number of social connections is acceptable

518
00:30:41.640 --> 00:30:44.280
depending on the size of the brain. Well,

519
00:30:44.360 --> 00:30:48.860
let's say that our relatives are not far away,

520
00:30:49.020 --> 00:30:51.680
the brain is three times smaller than ours,

521
00:30:51.920 --> 00:30:57.700
and the size of a large social group is 50 individuals,

522
00:30:58.060 --> 00:31:01.700
and the closest group is 3-4, well, 5-6, okay.

523
00:31:05.720 --> 00:31:11.000
150 and 12, 15 should be close. Open the phone,

524
00:31:11.200 --> 00:31:14.420
look what's going on there. The bill goes

525
00:31:14.420 --> 00:31:19.020
to thousands. Are we able to withstand it?

526
00:31:19.120 --> 00:31:21.520
This question is there. I'm not panicking.

527
00:31:21.620 --> 00:31:24.820
This question is there. Because we are kind

528
00:31:24.820 --> 00:31:25.400
of lost in this society.

529
00:31:30.730 --> 00:31:33.530
All in all, we are surrounded by networks

530
00:31:33.530 --> 00:31:36.570
of different kinds. These are hyper-networks

531
00:31:36.570 --> 00:31:38.690
in the brain. Here is my friend and colleague,

532
00:31:38.970 --> 00:31:42.990
academician Anokhin Konstantin Vladimirovich,

533
00:31:43.010 --> 00:31:44.070
younger Anokhin.

534
00:31:45.420 --> 00:31:49.860
he develops the hyper-network theory of the brain.

535
00:31:50.120 --> 00:31:54.120
We are talking about networks, networks of networks,

536
00:31:54.400 --> 00:31:57.620
networks of networks, and so on until you

537
00:31:57.620 --> 00:32:01.840
get bored. That is, we are talking about structures

538
00:32:01.840 --> 00:32:04.300
of such a degree of complexity, where units

539
00:32:04.300 --> 00:32:06.520
are already networks.

540
00:32:07.440 --> 00:32:11.960
This is a terrible thing. Hypersets in the society.

541
00:32:12.260 --> 00:32:13.980
The society is very difficult to organize.

542
00:32:14.440 --> 00:32:17.720
And you don't need to think that we control it.

543
00:32:17.820 --> 00:32:21.620
This is what I would say to those who hold power.

544
00:32:21.620 --> 00:32:25.860
For some reason, I think, they think that

545
00:32:25.860 --> 00:32:28.380
they see how the society is organized. They

546
00:32:28.380 --> 00:32:31.120
are wrong. It is torn, it is rebuilt.

547
00:32:32.659 --> 00:32:35.020
This is a question that I also often hear.

548
00:32:35.280 --> 00:32:39.200
Are these new children being born? Well, in general,

549
00:32:39.240 --> 00:32:41.160
if the question is asked like this, I would

550
00:32:41.160 --> 00:32:44.560
say yes, but not as they ask this question,

551
00:32:44.620 --> 00:32:47.780
because they mean that mutations have occurred,

552
00:32:47.780 --> 00:32:50.680
but we understand that this cannot be. Well,

553
00:32:50.760 --> 00:32:54.240
there is no time for such mutations. Are children

554
00:32:54.240 --> 00:32:57.560
born biologically different? No. Biologically,

555
00:32:57.740 --> 00:33:01.460
they were, they are, but they are born as...

556
00:33:01.480 --> 00:33:04.180
with gadgets in their hands, in their ears,

557
00:33:04.320 --> 00:33:06.600
eyes and so on. That is, they are immediately

558
00:33:06.600 --> 00:33:09.980
in the digital world. Specialists even say

559
00:33:09.980 --> 00:33:15.300
that we are like travelers or

560
00:33:15.300 --> 00:33:18.740
migrants even in the digital world, and children

561
00:33:18.740 --> 00:33:22.880
are aborigines. We are learning this digital world,

562
00:33:23.020 --> 00:33:25.720
and they do not know another world. They are

563
00:33:25.720 --> 00:33:27.080
already in it. Therefore...

564
00:33:29.200 --> 00:33:30.780
We need to understand what to do with them.

565
00:33:31.300 --> 00:33:34.900
They say, bad teachers. First of all, what

566
00:33:34.900 --> 00:33:36.920
are the good ones? What are they? Not in the

567
00:33:36.920 --> 00:33:39.300
sense of names. And what is a good teacher?

568
00:33:41.520 --> 00:33:44.220
Secondly, where to get them?

569
00:33:45.040 --> 00:33:47.260
Where to take them? No one taught them themselves.

570
00:33:47.280 --> 00:33:51.120
I started with this, that you teach us to

571
00:33:51.120 --> 00:33:53.800
live in the world in which we moved to the

572
00:33:53.800 --> 00:33:58.300
planet Jupiter. No one knows how they live here.

573
00:33:58.480 --> 00:34:00.540
Why did you decide that you are our teachers?

574
00:34:01.020 --> 00:34:02.100
This is an anxious question.

575
00:34:02.810 --> 00:34:06.490
It exists. It is not based on ethical and

576
00:34:06.490 --> 00:34:10.730
legal norms. It concerns everything. It concerns

577
00:34:10.730 --> 00:34:15.230
genomic research, what we can afford, what

578
00:34:15.230 --> 00:34:18.409
we allow, and what we don't allow. It is an

579
00:34:18.409 --> 00:34:21.409
absolutely unworkable thing. It is clear that

580
00:34:21.409 --> 00:34:24.870
there are all sorts of committees on bioethics,

581
00:34:24.889 --> 00:34:28.110
on neuroethics. All this exists. So what?

582
00:34:28.429 --> 00:34:31.110
Does anyone know examples when science

583
00:34:31.370 --> 00:34:48.870
Thank you.

584
00:34:56.270 --> 00:34:58.150
And he will tell them, you will have conditions

585
00:34:58.150 --> 00:35:01.929
that you cannot even imagine. You will have

586
00:35:01.929 --> 00:35:06.389
the best devices, the best chemical and other

587
00:35:06.389 --> 00:35:10.870
components of all this. And they clone you,

588
00:35:10.870 --> 00:35:13.590
whoever you want. Remember, there was a story

589
00:35:13.590 --> 00:35:16.190
recently when the Chinese corrected the genome

590
00:35:16.190 --> 00:35:21.730
of two young girls. And where

591
00:35:21.730 --> 00:35:22.050
is he?

592
00:35:22.829 --> 00:35:26.010
All this, this story is completely gone, it

593
00:35:26.010 --> 00:35:28.690
all fell somewhere into the abyss, I don't know.

594
00:35:28.850 --> 00:35:32.690
In general, she went somewhere, but he did it,

595
00:35:32.790 --> 00:35:35.929
you know, it just came out on the surface,

596
00:35:36.389 --> 00:35:38.810
and in some places it will not come out on

597
00:35:38.810 --> 00:35:39.150
the surface.

598
00:35:40.270 --> 00:35:42.670
We don't have, regarding artificial intelligence,

599
00:35:42.929 --> 00:35:48.830
we don't have legal rules. Some time ago,

600
00:35:48.969 --> 00:35:52.050
the first case was when a unmanned vehicle

601
00:35:52.050 --> 00:35:54.750
in Florida crushed someone. Since then, there

602
00:35:54.750 --> 00:35:57.270
have been many such cases. Who is responsible?

603
00:35:58.159 --> 00:36:01.679
The programmer, the owner of the car, maybe

604
00:36:01.679 --> 00:36:06.739
the passenger himself who said, no, do not

605
00:36:06.739 --> 00:36:09.380
do this, but do this. That is, there are many options,

606
00:36:09.540 --> 00:36:13.139
answers. And it is not developed. Who? What

607
00:36:13.139 --> 00:36:18.199
can we trust? That is, in fact, ethical

608
00:36:18.199 --> 00:36:22.080
and legal norms do not work.

609
00:36:23.929 --> 00:36:26.870
In short, there is such a world around us.

610
00:36:26.870 --> 00:36:30.810
It is very fast, it is hybrid, it is at the

611
00:36:30.810 --> 00:36:34.389
same time digital and non-digital, it flickers,

612
00:36:34.389 --> 00:36:38.070
flickers, it will turn one way or the other,

613
00:36:38.110 --> 00:36:40.390
then we seem to have believed it, and then

614
00:36:40.390 --> 00:36:42.650
we think, I don't know if it is worth believing.

615
00:36:42.950 --> 00:36:45.930
It is unstable, it changes very, very quickly.

616
00:36:46.950 --> 00:36:48.890
Some time ago I...

617
00:36:51.160 --> 00:36:54.280
before Covid, when planes were still flying.

618
00:36:54.360 --> 00:36:58.520
In short, I managed to step on my phone in

619
00:36:58.520 --> 00:37:01.240
the plane. And when I landed, I went and said,

620
00:37:01.280 --> 00:37:04.000
I have the same phone. But I say, keep in

621
00:37:04.000 --> 00:37:06.260
mind that I need a phone. Do you know what

622
00:37:06.260 --> 00:37:08.420
kind of phone I'm telling them? They think

623
00:37:08.420 --> 00:37:11.440
I'm crazy. I say, we know. I say, no, still,

624
00:37:11.580 --> 00:37:14.120
once again, the phone should not bake pancakes,

625
00:37:14.380 --> 00:37:17.680
it should not fly to Mars, it should not advise

626
00:37:17.680 --> 00:37:19.320
me how and with whom to live.

627
00:37:19.660 --> 00:37:23.660
He should only call, nothing else. They say,

628
00:37:23.700 --> 00:37:25.040
there are no such people on Earth anymore.

629
00:37:26.620 --> 00:37:30.900
Moreover, they force me to study new programs

630
00:37:30.900 --> 00:37:33.480
all the time. Do I already do that? No, for you,

631
00:37:33.620 --> 00:37:37.220
for Android, now you download and study. Wait,

632
00:37:37.480 --> 00:37:40.280
who is the host in the house? I don't want

633
00:37:40.280 --> 00:37:42.900
to study your things, I have something to do.

634
00:37:45.280 --> 00:37:47.780
Autonomous life of the digital world exists.

635
00:37:48.060 --> 00:37:52.180
Internet of things exists. Networks, any networks,

636
00:37:52.380 --> 00:37:57.420
both mental and social, have their own laws

637
00:37:57.420 --> 00:38:00.220
of self-organization. Just like networks.

638
00:38:00.640 --> 00:38:02.560
This is a separate area of science.

639
00:38:04.890 --> 00:38:08.330
The distrust of information is growing, and

640
00:38:08.330 --> 00:38:12.590
digital reality will be a sign of social selection.

641
00:38:12.630 --> 00:38:15.030
If you imagine that we live in the middle of,

642
00:38:15.030 --> 00:38:18.770
I don't know, selva, we don't have the Internet,

643
00:38:19.230 --> 00:38:23.410
and we live quite happily and calmly, we don't

644
00:38:23.410 --> 00:38:25.510
know the news, we don't know anything at all,

645
00:38:25.510 --> 00:38:28.230
you can think that we don't exist. That is,

646
00:38:28.270 --> 00:38:32.730
we are not participants in this life. It's dangerous.

647
00:38:34.130 --> 00:38:36.990
We have a lot of anxiety. For example, the

648
00:38:36.990 --> 00:38:38.950
syndrome of postponed life. That's what we

649
00:38:38.950 --> 00:38:39.450
say to children.

650
00:38:40.180 --> 00:38:43.540
Usually. But they will shut us up now. We

651
00:38:43.540 --> 00:38:47.400
say to the children, if you study well, finish

652
00:38:47.400 --> 00:38:51.160
school well, go to a good university, then

653
00:38:51.160 --> 00:38:53.920
master's degree, master's degree, protect

654
00:38:53.920 --> 00:38:56.740
your dissertation, get married or get married,

655
00:38:56.920 --> 00:39:00.480
get a good job, and there already the apostles

656
00:39:00.480 --> 00:39:03.900
look out and say, they have arrived.

657
00:39:04.490 --> 00:39:07.510
Yes, calm down. What are we putting away?

658
00:39:07.770 --> 00:39:10.830
Not in this audience to speak. We do not have

659
00:39:10.830 --> 00:39:14.610
a blacksmith. When the first cells were connected,

660
00:39:14.950 --> 00:39:16.990
the maternal with the paternal, it started.

661
00:39:17.570 --> 00:39:18.830
There is a cleaner.

662
00:39:19.800 --> 00:39:23.980
There is no Black Age. The civilization of

663
00:39:23.980 --> 00:39:25.660
idleness is advancing. There are already places

664
00:39:25.660 --> 00:39:29.600
in the world where basic income is paid so

665
00:39:29.600 --> 00:39:32.020
that a person does not die of hunger, and

666
00:39:32.020 --> 00:39:36.700
only so that he does not work. I know in France,

667
00:39:36.880 --> 00:39:38.400
in my opinion, in Denmark, there is such a story

668
00:39:38.400 --> 00:39:40.640
with farmers. Here is your money, the main

669
00:39:40.640 --> 00:39:43.940
thing is not to grow anything. What will they do?

670
00:39:44.620 --> 00:39:47.320
Again, Grefo asked a question. He says,

671
00:39:48.370 --> 00:39:53.830
They will think creatively. I hardly imagine

672
00:39:53.830 --> 00:39:56.690
a multi-billion population of the Earth that

673
00:39:56.690 --> 00:40:00.830
wanders around the planet with humans and

674
00:40:00.830 --> 00:40:05.230
writes madrigals. And I have another scenario

675
00:40:05.230 --> 00:40:07.870
on the subject of those who have absolutely

676
00:40:07.870 --> 00:40:10.690
nothing to do. It's a dangerous thing. And finally,

677
00:40:10.810 --> 00:40:13.050
complete disorientation in the world. We don't

678
00:40:13.050 --> 00:40:15.050
understand what is good and what is bad.

679
00:40:15.690 --> 00:40:19.790
from under us have taken out the basic ideas

680
00:40:19.790 --> 00:40:22.810
about the world. We just don't understand

681
00:40:22.810 --> 00:40:28.350
where we are and what we are doing. The fakes

682
00:40:28.350 --> 00:40:30.810
are better than the originals. The artificial

683
00:40:30.810 --> 00:40:34.130
intelligence produces any news, including

684
00:40:34.130 --> 00:40:35.330
scientific ones.

685
00:40:36.020 --> 00:40:39.700
He learns faster than us and in some other way.

686
00:40:40.480 --> 00:40:43.640
Cyber threats from all sides, we understand it.

687
00:40:44.620 --> 00:40:48.740
Machine interaction is a very useful thing

688
00:40:48.740 --> 00:40:51.960
in medicine. There is no talk. My colleague

689
00:40:51.960 --> 00:40:54.680
and friend, Professor Kaplan, an MGU professor,

690
00:40:55.140 --> 00:40:58.500
who sits on this territory, he has mega-grants,

691
00:40:58.680 --> 00:41:00.680
all kinds, in Skolkovo and everywhere. But

692
00:41:00.680 --> 00:41:01.740
they do wonderful things.

693
00:41:04.430 --> 00:41:08.090
and similar things that are paralyzed, and

694
00:41:08.090 --> 00:41:10.690
all this with the help of these things, they

695
00:41:10.690 --> 00:41:13.090
can be taken out of this cocoon, with them

696
00:41:13.090 --> 00:41:16.990
to communicate, no one argues with this. I'm

697
00:41:16.990 --> 00:41:20.270
not a fool to say that it's all bad at all.

698
00:41:20.390 --> 00:41:22.670
But we understand that the move in one direction

699
00:41:22.670 --> 00:41:27.630
is the move in the other. Namely, we don't

700
00:41:27.630 --> 00:41:30.050
read thoughts yet. I personally think that

701
00:41:30.050 --> 00:41:30.670
we won't.

702
00:41:31.580 --> 00:41:37.360
But roughly speaking, if a person is now multiplying

703
00:41:37.360 --> 00:41:39.940
two-digit numbers or listening to music,

704
00:41:40.160 --> 00:41:43.480
or remembering how he played the thesis, we

705
00:41:43.480 --> 00:41:48.320
can do it now. So, roughly speaking, we already

706
00:41:48.320 --> 00:41:53.260
have an entrance there. Well, what are we

707
00:41:53.260 --> 00:41:55.060
going to do in connection with this?

708
00:41:57.260 --> 00:42:00.380
Now, because of the war, I don't think that

709
00:42:00.380 --> 00:42:03.100
someone is doing it now, but this slide was made,

710
00:42:03.100 --> 00:42:07.620
let's say, half a year ago, and then international

711
00:42:07.620 --> 00:42:12.220
organizations of a high level, such as the

712
00:42:12.220 --> 00:42:15.620
World Health Organization, the UN, and so on,

713
00:42:15.680 --> 00:42:17.900
discussed such things, because we have come

714
00:42:17.900 --> 00:42:23.160
to a dangerous point. We should not lose control

715
00:42:23.160 --> 00:42:25.040
over this situation, to put it bluntly.

716
00:42:26.340 --> 00:42:29.840
But we can. And there are even such terms

717
00:42:29.840 --> 00:42:31.580
as next generation technologies.

718
00:42:32.830 --> 00:42:35.350
technologies of the next generation, where

719
00:42:35.350 --> 00:42:37.850
it is already worrying, it already smells gray,

720
00:42:38.330 --> 00:42:42.130
demons come out. Neurohacking, that is, the

721
00:42:42.130 --> 00:42:47.310
ability to extract some information from

722
00:42:47.310 --> 00:42:49.990
the brain that you would not want to extract.

723
00:42:50.330 --> 00:42:55.170
Not like yesterday, when I had a seminar and spoke.

724
00:42:56.510 --> 00:43:01.410
a serious scientist, and I tell him...

725
00:43:05.110 --> 00:43:09.610
Is it true that we can't get any information

726
00:43:09.610 --> 00:43:11.570
out of the brain yet? I say, I'm not sure,

727
00:43:11.670 --> 00:43:14.130
not sure. I say, what does it mean, not sure?

728
00:43:14.430 --> 00:43:18.190
It means we have already come up, we have

729
00:43:18.190 --> 00:43:19.730
already come up. Yes, it is generally possible.

730
00:43:20.130 --> 00:43:25.170
Then I have questions that I will ask now.

731
00:43:25.190 --> 00:43:27.550
I understand, I need to finish, right? Yes,

732
00:43:27.590 --> 00:43:28.610
I'll finish now.

733
00:43:29.820 --> 00:43:32.180
Work with the genome. Do you understand? The

734
00:43:32.180 --> 00:43:34.640
same children on the order. This, of course,

735
00:43:34.680 --> 00:43:38.540
sounds like a cheap joke, but it is possible.

736
00:43:39.440 --> 00:43:43.300
Any money. I want a young lady to give birth

737
00:43:43.300 --> 00:43:43.340
to me.

738
00:43:43.990 --> 00:43:48.350
so that she has an IQ of 280, like no one

739
00:43:48.350 --> 00:43:50.570
on Earth, so that her waist is like that,

740
00:43:50.590 --> 00:43:54.570
one eye is pink, the other is green, so that

741
00:43:54.570 --> 00:43:57.490
she is an athlete, so that she plays all kinds

742
00:43:57.490 --> 00:44:01.310
of music. It sounds like idiotism, but theoretically possible.

743
00:44:01.810 --> 00:44:03.950
Another question is that everything will break

744
00:44:03.950 --> 00:44:05.530
down on this. What will be the descendants

745
00:44:05.530 --> 00:44:09.290
of this girl? Nevertheless, working with the

746
00:44:09.290 --> 00:44:11.430
genome is such a serious thing. You can certainly

747
00:44:11.430 --> 00:44:12.190
say yes.

748
00:44:12.300 --> 00:44:15.280
But if we know that such genes are responsible

749
00:44:15.280 --> 00:44:18.180
for the potential possibility of developing

750
00:44:18.180 --> 00:44:21.420
schizophrenia or oncology in your environment,

751
00:44:21.740 --> 00:44:25.040
then why don't we correct them? It seems that

752
00:44:25.040 --> 00:44:27.500
everything is fine, but what about the rest

753
00:44:27.500 --> 00:44:30.720
of the genes? Doesn't it bother them?

754
00:44:31.100 --> 00:44:34.260
It's not that we cut it out of here, but nothing

755
00:44:34.260 --> 00:44:37.940
happened here. It's too complex a system.

756
00:44:38.940 --> 00:44:41.260
It's not a cube, you know, from which one

757
00:44:41.260 --> 00:44:43.540
color came out, and the rest are in place.

758
00:44:45.600 --> 00:44:48.560
Well, online education, **** with it. Here

759
00:44:48.560 --> 00:44:50.340
are my questions in connection with this.

760
00:44:50.700 --> 00:44:52.600
And who is the **** person?

761
00:44:55.600 --> 00:45:00.040
Or maybe the brain is ****. I don't have an answer,

762
00:45:00.880 --> 00:45:05.500
but I'll ask. And the brain of the lowest

763
00:45:05.500 --> 00:45:09.720
intellectual person is still the most difficult

764
00:45:09.720 --> 00:45:12.400
in the universe. And then what does it mean

765
00:45:12.400 --> 00:45:13.700
why he is so ****?

766
00:45:14.520 --> 00:45:17.000
What kind of artificial intelligence do we create?

767
00:45:17.220 --> 00:45:20.540
Maybe we create **** artificial intelligence?

768
00:45:20.840 --> 00:45:24.240
Or immoral? And who imposes morality there?

769
00:45:25.100 --> 00:45:28.260
And what to consider morality? There is a huge

770
00:45:28.260 --> 00:45:30.400
list of questions. In order for something

771
00:45:30.400 --> 00:45:33.800
to be there, we must explain. And we don't

772
00:45:33.800 --> 00:45:36.940
know for ourselves. And what is genius? Is

773
00:45:36.940 --> 00:45:39.340
the brain genius or is the person genius?

774
00:45:40.190 --> 00:45:42.550
And not at the expense of speed, but at the

775
00:45:42.550 --> 00:45:46.010
expense of some other operations. Here are

776
00:45:46.010 --> 00:45:48.250
my dangerous questions. Can an artificial

777
00:45:48.250 --> 00:45:52.130
intelligence have a personality? And this

778
00:45:52.130 --> 00:45:55.590
is not a babi-talk, I assure you. It can

779
00:45:55.590 --> 00:46:01.050
have a self. And we

780
00:46:01.050 --> 00:46:01.370
will find out about it.

781
00:46:02.880 --> 00:46:05.700
What do the specialists say? In Skolkovo,

782
00:46:05.760 --> 00:46:08.800
they say, if **** forbid, these are serious specialists,

783
00:46:09.140 --> 00:46:13.060
they say, if **** forbid it happens, the lid

784
00:46:13.060 --> 00:46:13.580
is closed.

785
00:46:14.510 --> 00:46:19.110
They don't even use the word singularity.

786
00:46:19.190 --> 00:46:24.550
If these programs unfold before they become personalities,

787
00:46:24.990 --> 00:46:27.530
it follows that they have their own plans,

788
00:46:27.790 --> 00:46:30.130
their own goals. We definitely do not enter

789
00:46:30.130 --> 00:46:30.630
these goals.

790
00:46:33.430 --> 00:46:36.590
If we think that we will cut them out of the network,

791
00:46:36.730 --> 00:46:41.170
as an example, listen, we are talking about

792
00:46:41.170 --> 00:46:43.610
such levels of development, that they, of course,

793
00:46:43.730 --> 00:46:45.430
will take care of the fact that they cannot

794
00:46:45.430 --> 00:46:49.570
be cut out of anything, solar energy or thermoelectric

795
00:46:49.570 --> 00:46:53.170
and so on. Will they feel pain? Will they suffer?

796
00:46:54.310 --> 00:46:57.750
Will they suffer? Or will they pretend to

797
00:46:57.750 --> 00:46:58.710
be good actors?

798
00:46:59.780 --> 00:47:02.540
It looks as if he is not sleeping at night,

799
00:47:02.540 --> 00:47:06.120
but worries about you. Therefore, we need

800
00:47:06.120 --> 00:47:08.640
to slow down, understand that we are not going

801
00:47:08.640 --> 00:47:11.500
anywhere from the digital world, moreover,

802
00:47:11.540 --> 00:47:15.880
that it brings benefit. As I said, on the

803
00:47:15.880 --> 00:47:18.460
other hand, I started with the fact that there

804
00:47:18.460 --> 00:47:21.700
are things that we cannot do without it. But

805
00:47:21.700 --> 00:47:24.260
we must always hold ourselves to the tail.

806
00:47:25.520 --> 00:47:28.420
The review of basic ethical norms, values

807
00:47:28.420 --> 00:47:29.200
and meanings.

808
00:47:30.490 --> 00:47:33.250
There is no need to add chaos to the world

809
00:47:33.250 --> 00:47:35.950
that is so completely flat, as I think everyone

810
00:47:35.950 --> 00:47:39.410
understands it. And I finish on this picture,

811
00:47:39.570 --> 00:47:43.350
unexpected. And this, if anyone does not remember,

812
00:47:43.570 --> 00:47:46.650
then I advise you to remember. This is a frame

813
00:47:46.650 --> 00:47:50.590
from one of the most brilliant films of Charlie Chaplin,

814
00:47:50.750 --> 00:47:53.870
Fire of the Big City. And he is about warmth

815
00:47:53.870 --> 00:47:57.370
and about humanity. When children...

816
00:47:58.000 --> 00:48:01.200
And students, schoolchildren and students ask,

817
00:48:01.340 --> 00:48:04.540
I'm talking about specific research, what

818
00:48:04.540 --> 00:48:07.300
teacher is good for them. Not in the sense

819
00:48:07.300 --> 00:48:09.200
of Maria Ivanovna or Sidor Sidorovich, but

820
00:48:09.200 --> 00:48:12.580
what is the ideal teacher? You will not believe,

821
00:48:12.900 --> 00:48:15.980
there are practically no answers, the one

822
00:48:15.980 --> 00:48:16.580
who knows a lot.

823
00:48:17.680 --> 00:48:19.620
I don't judge. I don't say whether it's good

824
00:48:19.620 --> 00:48:23.420
or bad. I say the fact is that the mass response

825
00:48:23.420 --> 00:48:26.640
is the one to whom I can approach, who will

826
00:48:26.640 --> 00:48:30.160
listen to me, who will calm me down, who will

827
00:48:30.160 --> 00:48:32.460
comfort me, who will give me advice on how

828
00:48:32.460 --> 00:48:35.860
to live in this dog world. Because there is

829
00:48:35.860 --> 00:48:38.560
no one else to approach. Their parents are

830
00:48:38.560 --> 00:48:41.900
either the same as they are, and maybe their grandparents.

831
00:48:42.840 --> 00:48:44.540
Everyone works like plague.

832
00:48:46.210 --> 00:48:49.610
There are even some poems that say that the

833
00:48:49.610 --> 00:48:52.910
mother is not at home, the mother dived into

834
00:48:52.910 --> 00:48:56.250
the Internet. That is, they are sitting here somewhere,

835
00:48:56.370 --> 00:48:58.930
they are sitting, but it is not easier for anyone.

836
00:48:59.030 --> 00:49:03.350
And the child and the student even, that is,

837
00:49:03.410 --> 00:49:05.950
the young person, find themselves in a situation

838
00:49:05.950 --> 00:49:10.410
when they have nowhere to lean on. Everywhere

839
00:49:10.410 --> 00:49:13.950
is a cold and cynical world.

840
00:49:14.910 --> 00:49:18.170
And in general, I feel sorry for the children.

841
00:49:18.590 --> 00:49:20.530
Where do they go? They are only pushed from

842
00:49:20.530 --> 00:49:25.210
all sides. Of course, we can say, yes, but

843
00:49:25.210 --> 00:49:27.670
if we let them go, and now we see what is

844
00:49:27.670 --> 00:49:29.710
being done, it will be even worse. Well, yes,

845
00:49:29.730 --> 00:49:31.970
but then we have nothing to boast about the

846
00:49:31.970 --> 00:49:33.790
fact that we are adults and know more than

847
00:49:33.790 --> 00:49:36.750
they do. We need to somehow get together and think.

848
00:49:37.170 --> 00:49:38.330
And that's the end.

849
00:49:40.040 --> 00:49:42.180
The digital world is already here, you can't

850
00:49:42.180 --> 00:49:46.140
get away from it. We need to try to ensure

851
00:49:46.140 --> 00:49:51.280
as much security as possible

852
00:49:51.280 --> 00:49:55.860
from this very powerful world in which we

853
00:49:55.860 --> 00:49:57.820
are in. I think everyone understands that

854
00:49:57.820 --> 00:50:00.220
we are completely transparent, right? In the

855
00:50:00.220 --> 00:50:03.300
pocket of every phone. We understand, everyone

856
00:50:03.300 --> 00:50:05.420
knows where you are, where you are at all,

857
00:50:05.960 --> 00:50:08.340
which you, for example, never...

858
00:50:08.590 --> 00:50:09.470
......

859
00:50:18.940 --> 00:50:22.860
Everything is known. But we go to the airport,

860
00:50:23.200 --> 00:50:25.220
when there was still an airport. You come

861
00:50:25.220 --> 00:50:26.780
and they say to you, you have some suspicious heels,

862
00:50:27.580 --> 00:50:30.800
take them off. And we agree, because I don't

863
00:50:30.800 --> 00:50:33.300
want to be blown up. To **** with them, with heels,

864
00:50:33.540 --> 00:50:36.540
with these. That is, we are in a very strange world.

865
00:50:36.640 --> 00:50:39.640
We as if ourselves give away, inevitably,

866
00:50:40.000 --> 00:50:42.980
we give control over the world with these

867
00:50:42.980 --> 00:50:44.360
artificial instruments.

868
00:50:46.090 --> 00:50:47.530
Because there is nowhere to go.

869
00:50:48.730 --> 00:50:51.170
Well, in general, this is the end. Although

870
00:50:51.170 --> 00:50:54.170
I don't like it all, but I repeat, it's the

871
00:50:54.170 --> 00:50:58.590
same as saying, yes, I don't like the weather

872
00:50:58.590 --> 00:51:01.970
in Brazil. Who is asking you? Do you like

873
00:51:01.970 --> 00:51:04.230
the weather in Brazil or not? It's like this

874
00:51:04.230 --> 00:51:08.050
is what it is. This planet is now like this.

875
00:51:08.110 --> 00:51:10.710
In order for us to live on it in a way that

876
00:51:10.710 --> 00:51:13.670
is not acceptable, we need to think about

877
00:51:13.670 --> 00:51:14.350
how to live on it.

878
00:51:16.740 --> 00:51:18.440
Thank you for your patience.