«Люди часто спрашивают меня: „Вы за или против ИИ“, а я отвечаю им, считают ли они огонь опасным, и они за или против огня? Тогда становится ясно, насколько нелеп вопрос — с одной стороны, огонь согревает наши дома, с другой — может спалить их, так? Разница между огнем и ИИ в том — а оба они технологии — что ИИ, и особенно суперинтеллект, намного более могущественная технология», — сказал ученый в интервью.

Макс Тегмарк — физик-теоретик, доктор философии, профессор Массачусетского технологического института, один из директоров Института основополагающих вопросов, специалист по теории информации, автор более 200 публикаций. Его последняя книга, «Life 3.0», посвящена человеку в эпоху искусственного интеллекта.

«Я считаю, что людей вроде Илона Маска или Стивена Хокинга зря обвиняют в пессимизме, тогда как они оба скорее оптимисты, — продолжает Тегмарк. — Причина, по которой Илон Маск так часто говорит об опасности ИИ — потому что он больше думает о далеком будущем, чем средний политик, которого интересует только следующий цикл выборов».

С другой стороны, Тегмарк более оптимистичен, чем большинство коллег, смотрит на ситуацию с Project Maven, системой беспилотников, которые должны были разрабатывать инженеры Google. В отличие от тех, кто убежден, что «все, что может быть милитаризировано, будет милитаризировано», он считает, что, на самом деле, это преувеличение. И доказательством этому — биологическое оружие. Несмотря на все достижения биологии, у людей хватило ума и совести ограничиться применением этих знаний только в области медицины.

Тегмарк надеется, что через 10 лет появится международное соглашение, запрещающее все виды смертельного оружия нападения, и люди станут видеть в ИИ технологию, несущую благо, а не инструмент дестабилизации и террора.   

В противном случае автономное оружие станет производиться массово, оно будет дешевым и в скором времени наводнит черные рынки и попадает в руки диктаторов и террористов. И тогда уже будет поздно вводить жесткий контроль. Предотвратить такой сценарий еще можно, но надо действовать быстро, пока массовое производство роботов-убийц не стало реальностью.

«Технология не является хорошей или плохой сама по себе, — считает Тегмарк. — Технология — это увеличительное стекло для наших возможностей создавать. И чем мощнее оно, тем больше хорошего мы можем сделать, и тем больше плохого. Я оптимистично надеюсь, что мы можем создать воистину прекрасное, высокотехнологичное будущее, если победим в гонке между растущей мощью технологии и растущей мудростью, которая помогает нам ей управлять. Здесь и находится, как мне кажется, камень преткновения, потому что наша старая стратегия победы состояла в обучении на ошибках. Когда мы открывали огонь, мы много раз обжигались, но потом изобрели огнетушители. Так что имея более мощные технологии, вроде ядерного оружия или сверхчеловеческого ИИ, учиться на ошибках уже не хочется — гораздо лучше сделать все правильно с первого раза».