По мнению знаменитого британского физика-теоретика Стивена Хокинга, озвученного им на открытии Центра по изучению искусственного интеллекта и будущего человечества в Кембриджском университете, развитие искусственного интеллекта станет либо самым лучшим, либо самым худшим, что случалось с человечеством.
«Мы не можем предсказать, чего могли бы достичь в случае усиления нашего интеллекта искусственным», — цитирует ученого газета Daily Express. По словам Хокинга, с одной стороны, не исключено, что с помощью инструментов этой новой технологической революции получится частично компенсировать ущерб, нанесенный природному миру предыдущей революцией — индустриальной. Искусственный интеллект также может помочь в борьбе с болезнями и нищетой, и вообще преобразить «все аспекты нашей жизни».
С другой стороны он может создать угрозы, в частности, привести к появлению нового мощного автономного оружия или новых способов для немногих угнетать большинство. «Это принесет большие разрушения экономике», — утверждает ученый. Он также не исключает, что «умные машины» со временем могут выработать собственную волю и вступить в конфликт с людьми.
Интеллект vs разум
Хокинг и ранее неоднократно предупреждал о потенциальном риске, который заключается в развитии искусственного интеллекта. Однако, по словам начальника лаборатории робототехники НИЦ Курчатовский институт, вице-президента Российской ассоциации искусственного интеллекта Валерия Карпова, следует различать термины «искусственный интеллект» и «искусственный разум».

«Этот механизм крайней выгоден для реализации сложного поведения. То есть, робот должен испытывать эмоции, иначе плохо будет с точки зрения системы управления, не так будет хорошо решать некоторые поведенческие задачи. Очень важно, чтобы робот обладал некоей психической организацией и тем, что мы называем темпераментом. Это интересная штука, которая тоже может заставить задуматься», — замечает ученый.
То есть, гипотетически, опасность бунта машин действительно существует. Но практически такие вещи могут стать актуальными в очень отдаленной перспективе. «Гораздо быстрее мы просто столкнемся с сугубо технологическими какими-то неприятностями, когда рухнет вся сеть, пойдут неадекватные команды, без участия злого разума нечеловеческого, условно говоря. Это гораздо более перспективно в горизонте событий. Прогнозы на 50–100 лет примерно такие. Скорее всего, будет технологическая катастрофа, которая не связана с чуждым разумом. Так что можно пока лет 50–100 спать спокойно», — заключает Валерий Карпов.