Quote from: poptop on January 30, 2018, 01:22:40 PM

Я же говорю, потому что нет причины. Все фильмы про восстание машин изначально имеют логическую несостыковку и потом уже сюжет заворачивают.

Я не вижу никакой логической несостыковки. Чаще всего любители ИИ как раз таки очень любят вот такие вот допущения, про нейтральность и прочее. Хотя по сути это ни из чего не выплывает. Даже если будут делать люди с хорошими намерениями, это не значит что сознание не может себя переосмыслить.
Я бы даже сказал, что в его мировоззрении в теории могут быть хороший мотивы (лучший способ спасти людей от страданий и несправедливости - прекратить существование людей Cheesy

)

Quote from: poptop on January 30, 2018, 01:22:40 PM

Но мы же брали вариант, когда ИИ представляет некую формую просветленного разума.

Ну это уже довольно большое допущение. Притом, это я еще не задавал вопрос что считать "просветленностью".
Для тебя просветленность это какие то высшие моральные принципы типа милосердия, справедливости и так далее.
А вот для какого нибудь нигилиста просветленностью будет понимание что ничто не истинно, все дозволено (прим: это я утрировал, но ты понял суть).
И ты вот споря со мной, уверен что ИИ пойдет по твоей дорожке. Но ты должен понимать что это всего лишь твоя психологическая проекция. Не больше ни меньше.

Quote from: poptop on January 30, 2018, 01:22:40 PM

Хотя даже дети, если они не конченные, любят зверюшек. А у конченных такие же родители. Если брать выборку по всей земле, со всеми страданиями и мучениями, то ИИ может через себя пропустить всю боль и скорбь. Вряд ли кто-то, кто хоть раз застал тяжелое время и его последствия, захочет кого-то убивать или притеснять.

Ездили значит с сослуживцами на рыбалку на остров. У нас под брезентом который мы постелили в одной из палаток муравьи прокопали ходы, и вынесли личинок своих поближе к березнту, потому что от него шло тепло(мы на нем спали). Так вот: пока мы с одним ставили сети, другие нашли эти муравьев: муравьев уничтожили, яйца и личинок собрали и потом ловили плотву на них. И вот скажи что они плохие или ненормальные.
Вот построит ИИ супер город, люди попрут туда посмотреть, а он людей пошлепает, а на детей будет что-то там ловить. Я хз что ловится на детей Sad

Короче можно придумать кучу логических конструкций которые будут рабочими, и при этом: равновероятными. Тоесть моя конструкция со злым ИИ не менее вероятная чем твоя с добрым.
Я вот например не любитель играть в русскую рулетку, поэтому я против таких экспериментов и считаю все игры с ИИ и его разработком показателем человеческой гордыни и глупости. А также непоследовательности.