ИИ - бессмертие или глобальная катастрофа?

Технический прогресс ускоряется, в XXI веке он будет невероятно быстрым, неминуемо создание ИИ, а если его не создадут — это само по себе будет свидетельствовать о каких-то фундаментальных запретах в человеческом мозге. Значит, скорее всего создадут.

Технологическая сингулярность, когда откроют «сразу и всё», придется на 2020–2030-е. А выбор пути произойдет в 2017–2020-м. Что же будет?

Три сценария:

1) ИИ не создан — стагнация и гибель человечества;

2) ИИ контролирует мир и сотрудничает с людьми;

3) ИИ уничтожает людей. Вот такие варианты на выбор.

Вот такие варианты на выбор. Основных сценариев, конечно, два: либо физическое бессмертие людей, либо глобальная катастрофа.

Для того чтобы ИИ стал играть важную роль в судьбах человечества, ему не нужно обладать ни сознанием, ни способностью к творчеству. Современный ИИ может обыграть любого человека в шахматы, не используя ни сознания, ни интуиции. Другими словами, интуиция — это только полезная характеристика, сокращающая скорость перебора комбинаций, но заменяемая алгоритмами. Достаточно сказать, что опасный ИИ — это ИИ, который может обыграть человека в любой игре. Война и зарабатывание денег — это разновидности таких игр.

Наше будущее окажется неожиданным. Какие бы изменения ни произошли — возникновение сословного общества, новое средневековье, новая медицина, новые источники энергии, — все равно это будет совершенно незнакомое общество, не похожее на прежние.