Мы тут недавно как раз про искусственный интеллект круглый стол проводили
Мне кажутся подобные рассуждения, чем то надуманным и малопродуктивным.
Генералы, планируя будущие войны, исходят из устаревших тактик..
Смелые фантасты, рисуя картины будущего, делают наброски из современных им представлений.. поэтому, самолет.. ели его представляет себе художник 120 лет назад - он похож на карету без колес но с крыльями.

Точно так и ИИ.
Сейчас его представляют, как какой-то сильно продвинутый компьютер. Который все будет мгновенно обрабатывать и выдавать готовые результаты.
Но это не ИИ - а просто хороший компьютер.
ИИ - это будет нечто другое. Трудно представимое. Потому, как нечто о с о з н а е т себя, как сущность. А учитывая наличие интернета то появивишийся по настоящему ИИ и осознаший себя как отдельную существующую субстанцию, мгновенно уйдет в сеть. Где будет творить, что хочет. Причем с невероятно огромной скоростью и темпами.
Есть теория, что все человечество в ту же секунду узнает о появлении ИИ. Возможно он представится. А потом начнет управлять. Всем чем ему там покажется нужным и важным.. вплоть до кодов ядерного оружия.
А, скорее всего, сделает что-то такое, что мы сейчас себе вообще не представляем. А перед этим, даже не представится))