Хороший расклад, кстати

Тут момент в том, что если мы говорим о самосознании и неком высшем разуме, то дальше встает вопрос кто во что верит. Я верю, что такие качества как сострадание или эмпатия стоят выше всех остальных. Соответственно, чем субъект просвещеннее, тем менее он склонен к деструктивным действиям и тем более склонен помогать. Многие не только не видят смысла в топтании цветка, но и не могут уничтожать его просто из мироощущения. Он им не мешает, и есть возможность спокойно сосуществовать, а еще цветок может дарить эмоции, например. И многие, если увидят вянущий цветок или голодного щенка, то им не сложно будет дойти до магазина и хоть на мгновение скрасить чье-то существование. Забота о ком-то это тоже некая форма удовольствия и личного профита, именно поэтому мы так любим своих родных, близких, женщин и детей и нам приятно делать им приятно без причины. Почему бы и ИИ не позаботиться о людях для собственного удовольствия и ощущения своего величия (скрытая причина всего), например? Вы тут вспоминали про репликантов. Они как раз в ремейке больше всего хотели обладать человеческими качествами и быть не похожими на машин. Почему и ИИ не может хотеть больше всего то, что ему дается сложнее и что является якобы его минусом? И это даже логично. ИИ же учиться у людей будет во многом.

Очень интересно, ведь их опять везде разрекламировали "сурьёзные" агенства

Это верно только отчасти. Да, мы могли бы быть чуть чище. Но в глобальном смысле это все ранние становления цивилизации. Они грязные, через копоть, нефть и кровь. Человек очень неспособное и медленное существо, учащееся на своих ошибках и продвигающееся методом тыка. Хорошая новость в том, что машинам относительно все равно какая вокруг среда. Поэтому космос зондами исследуют, а не людьми.

Что люди сделают таким ребятам, например? https://www.youtube.com/watch?v=fRj34o4hN4I
При желании, они на нескольких километрах уже разнесут кожаные мешки в нулину. А это только начало. У человека не хватит реакции и вычислительных способностей, чтобы предугадывать траектории, тогда как у машины всегда хватит возможностей просчитать всевозможные варианты движения из конкретного положения во времени просто потому, что человек ограничен собственной природой (биомеханикой). Условно, ты не можешь повернуть голову на 180 градусов. Только вместе с телом. А если нет пространства для поворота тела, то твоя спина для тебя слепая зона. Твой глаз различает объекты до определенного размера и определенной частоты движений. Дальше тебе могут помогать только экзоскелеты, но мозг все равно не ускоришь. У роботов ограничения чисто технического характера "на сколько развита наука". А насколько мир еще не познан, сложно представить. В крайнем случае, можно всегда долбоебов вырезать под корень. Все только рады будут. Я бы даже пару адресов подкинул

Я б и дальше держал. Скоро вариантов не останется для памперов уже

Зачем вообще с кем-то воевать? Это примитивный и ненадежный способ решения проблемы. Да и вообще есть ли проблема между ИИ и человеком?