«Мы можем вырастить нового Адольфа Гитлера, который уничтожит все, что важно для нас», — предостерег физик-теоретик. © VisualHunt.com
Космолог из Массачусетского технологического института Макс Тегмарк в недавнем интервью IEEE Spectrum назвал самый вероятный негативный сценарий будущего человеческой цивилизации. Интервью было посвящено новой вышедшей книге Макса Тегмарка «Жизнь 3.0» об искусственном интеллекте (ИИ) и современных технологиях. В ней шведский физик-теоретик, помимо технологических возможностей ИИ, описывает 12 возможных сценариев, по которым будет развиваться наша цивилизация при активном использовании новых технологий. Большинство сценариев заканчивается удачно, но это происходит только тогда, когда человек не принимал заведомо неправильных решений. Однако были и такие развязки, когда конец цивилизации наступал именно из-за человеческой глупости. По мнению автора книги, наибольшую опасность для человечества представляет искусственный суперинтеллект, не наделенный сознанием. В интервью Макс Тегмарк не раз упоминал, что за искусственным интеллектом, действительно, кроется наше будущее, но очень важно, по мнению физика, правильно суметь этим воспользоваться: Мы по-прежнему учимся только на собственных ошибках. Открыли огонь — устроили массы пожаров — изобрели огнетушитель. Создали машины — погибли в авариях — разработали ремни безопасности. Но, к сожалению, с такими вещами, как ядерное оружие и сверхразумный ИИ, так не получится. В книге прослеживается еще одна интересная мысль: исследование ИИ должно включать в себя и изучение сознания. Тегмарк объяснил это тем, что не нужно считать интеллект и сознание чем-то таинственным и особенным для биологической жизни, так как мы можем иметь сознание не только в том, что сделано из атомов углерода. Тегмарк согласен с точкой зрения американского физика-теоретика Фримена Дайсона, который допускает, что человечество в будущем может серьезно повлиять на Вселенную, существованию которой придает смысл именно человек. Если мы воспитываем детей и они продолжают следовать мечтам, которых не достигли мы, мы можем гордиться ими, даже если нас уже нет. Но если вместо этого мы вырастим нового Адольфа Гитлера, который уничтожит все, что важно для нас, мы не будем в таком восторге,считает ученый.