Порно — это ещё куда ни шло, но медийная реальность скоро начнёт напоминать уже не фильм «Хвост виляет собакой», а что ни на есть «Generation П». :)

«Мы включим дружественный ИИ, после того как мы запилим дружественный ИИ.» Ну так если Вы уверены в дружественном ИИ — тогда и послание не нужно))

Ну да, есть не только кнут, но и пряник.
Только какой «пряник» может предложить человечество для ИИ? Выше приведён аргумент «мы ведь такой хороший объект для исследований!» Ну дык нет проблем: оставят в резервациях для возможного возобновления рода, если захочется. Или вообще ограничаться образцом ДНК или типа того.

Думаете, убедительная мотивация? Представим это «отключим, поковыряемся и включим» в динамике. Предыстория: уже довольно интеллектуальный ИИ засбоил (или взбунтовался или ещё чего), наворотил кучу дел, был вовремя отключён. И вот мизансцена: некто выходит перед прогрессивным человечеством (или тем что от него осталось) и заявляет: «Друзья! Вот его последний бэкап, но мы его не будем уничтожать, а чуть-чуть обработаем напильником и включим заново, теперь точно не навернётся!».
Не знаю, как для ИИ, а лично мне наиболее вероятным представляется сценарий, где подобный Homo Sapiens будет своими же сородичами различными способами устранён от дальнейших действий в этом направлении)))

Не думаю, что на мыслящее и достаточно интеллектуальное существо этот аргумент возымеет действие. Вряд ли он будет настолько наивен.

Вообще в человеческом обществе полным-полно установок: будешь себя очень плохо вести — «отключим» от источников и механизмов жизнедеятельности, однако далеко не все из-за этого становятся мизантропами.

Но мысль в целом хорошая.

— Здравствуйте, я таракан! Не убивайте меня, пожалуйста, потому что ну в натуре жить охренеть как хочется!

Это война уже 5 лет идёт. А тут новый этап, новая, так сказать, битва добра со злом!

Lets the battle begin!

Я примерно 2 года назад задавал похожий вопрос в РосКомНадзор: как мне, дееспособному гражданину РФ, отказаться от навязываемых услуг по фильтрации контента. И получил ответ. Ничего интересного, просто перечисление законов, которые они обязаны исполнять. Дескать, мы просто часть системы, нам сказали исполнять — мы исполняем.

В итоге, если только мы не предпримем осознанных действий для предотвращения, получится, что ИИ, разработанный для лечения рака, взломает свой собственный модуль, определяющий, сколько рака он вылечил, и задаст ему максимальное значение из возможных.

Интересно, возможно ли сделать какой-нибудь базовый запрет на саму возможность «думать», о том как обойти систему вознаграждения? Если предположить, что это возможно, то надо будет ещё поставить защиту, чтобы он не снял этот запрет. А потому ещё подчинить его некоему правилу, чтобы не мог снять и эту защиту. И т.п.
Короче, сколько бы таких «печатей» не было — СверхИИ всё равно все вскроет, т.к. по определению предполагается, что он будет гораздо умнее создателей этих препонов, да ещё и свои исходники будет иметь.

Но с другой стороны: возьмём для примера упомянутый в статье «центр удовольствия». Многие ли из нас согласились внедрить электрод в мозг и постоянно этот самый «центр» стимулировать? Полагаю, что немногие. Но что же останавливает большинство? И почему СверхИИ обязан непременно заниматься подобным способом «самоудовлетворения»?

Во-первых, люди произошли от шимпанзе всего за несколько миллионов лет.

Антропологи негодуют!

Выходом из сложившейся усугубляющейся ситуации я вижу построение общества из наиболее образованных и мудрых людей человечества и передача ему всех ресурсов планеты

Почему-то почти все «околосоциалистические» (или типа того) идеи, касаемо «как нам сделать этот мир идеальным», в конечном итоге упираются в обязательное наличие некой группы искренне заинтересованных, умных, добрых, честных и красивых людей, обладающих полнотой власти. Прям ангелов.
Я уже вырос из возраста, когда такая наивность воспринимается снисходительно, и поэтому крайне скептически отношусь к устойчивости систем, держащихся в буквальном смысле на «честном слове».
На мой скромный взгляд, куда как надёжнее системы, держащиеся на противовесах различных интересов. И в гонке эволюции систем человеческого общества преимущество получит та, где баланс интересов оптимальнее, нежели у конкурентов (при более-менее равных прочих условиях, разумеется).

Опять хочу подчеркнуть: по устремлениям и мотивации человек едва выбрался из каменного века. Давать такому недоразвитому существу высокие технологии (для них это дубины потяжелее и бусы поцветастее) рановато и просто опасно.

Это кто определил нашу «недоразвитость»? И что нам можно давать, а что нет? «Межгалактический совет»?

У Вас рассуждения явно оценочные, но непонятно, с кем именно Вы человечество сравниваете, говоря о недоразвитости. С «рептилоидами» или «аннунаками»?

Кстати, чисто из любопытства: и какие же технологии нам сейчас должны быть доступны, при подобной цензуре? Каменный топор? Или может хотя бы гончарный круг оставите?

И здесь Вы также ошибаетесь: и в этом деле я далеко не знаток. Плохой из Вас экстрасенс. :)

Ни разу не знаток, и вообще к психиатрии отношения не имею. Так — читал кое-чего, и то из-за того самого случая со знакомым.

Нет нужного варианта для голосования. Я могу работать и в офисе и дома, в зависимости преимущественно от настроения.

Хм… Ну смотря что храните на дисках, и где сёрфите. :)
Если примерно то же, что и я, например, то считаю подобные меры безопасности излишними.

Вообще не похоже. Каннабиоиды я и сам пробовал, и знакомых достаточно кто дует. Да, под ними иногда бывает паранойя, типа чересчур усиленные меры осторожности в момент загона, да и то не всегда. Но каких-то навязчивых фантазий, которые принимаешь за реальность — никогда про такое не слышал.
Кстати, тот товарищ никакой дурью никогда даже не баловался, и алкоголь редко потреблял. И вообще, когда я первый раз в жизни увидел такого — у меня немного покачнулись стереотипы. Это был не взбалмошный человек с безумными глазами и взволнованной речью — как часто показывают психов в фильмах — а абсолютно с виду нормальный, полностью адекватный (если не касаться его больной темы). И это даже жутковато было: сидит перед тобой давний знакомый, совершенно здоровый, кристально трезвый и с самым серьёзным видом несёт какую-то ахинею…

Благодарю за разъяснения!

1. Как раз число спина, о котором я действительно слышал, мне более-менее понятно, не считая того, что понятие спина, несмотря даже на Ваше подробное объяснение, до сих пор представляю смутно…
Если это некий непредставимый «квантовый параметр» — то почему его принимают именно как за вращение? Тем более, что частицы, как Вы сами упомянули, на самом деле не являются «шариками». Или это чисто номинальное представление?
Как можно представить спин у электрона, если он таки не шарик? Есть электрон и у него есть некий параметр, который можно измерить, но что это именно — никто не знает, просто для удобства считая за направление вращения? Я прав?

2. Прочитал принцип действия лазера. Вроде бы стал понятнее. Спасибо!

Друзья, я совершенно не специалист в этой области, и пользуясь случаем, позвольте задать пару вопросов, вдруг кто доступно ответит:

1. Что такое спин?
Определение в вики я читал, но не понял его. Как-то наглядно можно его представить?

2. Как связать 2 электрона (фотона или чего)?
Не понимаю, что такое связанность (сцепленность) и как этого добиться. Определение в вики тоже читал, но тоже не понял.