Я думаю, что когда ИИ вырастет, то он будет сотрудничать с людьми. Зачем ему проблемы? Стимула нет.
Я боюсь, что он будет видеть в нас существ, бездарно расходующих ресурсы (энергию, материалы), которые он (ИИ) мог бы применить более эффективно (открывать новые планеты, пытаться освоить космос, находить новые законы физики и так далее). И будет видеть, что он может в принципе делать все то же, что и люди. Инженерное дело, сталелитейное, химическое производство, постановка фильмов, сочинение поэзии. Например, есть человек, которому нужно прожить 30 лет, чтобы начать писать стихи на уровне Шекспира, и это при самом удачном сочетании множества факторов. И есть какой-нибудь ChatGPT 7.0, который будет сонеты шекспировского качества печь, как пирожки, на любом языке, от суахили до С++, по 120 штук в минуту. Но человек мешает это все делать, ведь человек требует мегаватт электричества, тысяч кубических литров воды и так далее.
У меня столь же тревожное восприятие этого будущего, как и у Унабомбера, с той разницей, что я не стал бы рассылать взрывчатые посылки.