Этичность в отношении искусственного интеллекта

[ds.Dante]

В нашем обществе более-менее сложились правила обращения с животными. Многие машинально хлопнут мошку, не обращая на это внимания. Резать спящих лягушек приемлемо на занятиях в университете, но делать это от скуки уже считается ненормальным. Собак обычно режут и убивают, только если есть непосредственная необходимость для экспериментов или для городской экосистемы. С человеком так поступать обычно нельзя, даже если он сам просит (например, наелся грибов и просит сводить погулять из окна). Разное отношение к животным обычно объясняют их способностью испытывать боль и страх, наличием сознания, самосознания и разума.

Как я понял из предыдущего опроса, многие здесь убеждены, что все эти качества присущи сильному ИИ, немного более развитому, чем человек. Отсюда возникает вопрос, какие действия над ИИ можно считать этичными.

В комментариях прошу сформулировать, какие свойства существа определяют вашу гуманность к нему. Если кому-нибудь эта тема встречалась в статьях или в научной фантастике, прошу кинуть ссылку.

[Аватар]

Если он действительно интеллект, да еще мощней человеческого, то вопрос будет так стоять - какую этику он для себя разработает по отношению к людям. Нормально ли для него, например, вивисекцию над человеком производить. А если менее развитый, то у человека этика по отношению к нему не будет отличаться от этики по отношению к холодильнику

[ds.Dante]

Наши ИИ следуют когерентным экстраполированным волям, то есть они проанализировали всё историческое, культурное и философское наследие людей, и стремятся следовать совместным целям вымышленного человечества, в котором каждый обладает всеми научными степенями и IQ=1000. Предположим, что на практике это привело к научно-технической революции и повсеместному улучшению качества жизни.

Ещё интересно ваше мнение в случае робота, который мечтает (но принципиально лишён возможности) убить всех человеков.

[f.hump]

вопрос, конечно, интересный. стоит или не стоит отключать ИИ электричество, если он испытывает душевные муки или неизлечимо болен?

перевод ИИ в разряд сверхсущества считаю неизбежным.

[Alar]

следующая тема будет об этичности убивания людей.

[Аватар]

Чет не воспринимаю мощный ИИ на подхвате у человечества. Вот ИИ в сотне, матрице, терминаторе или поплоше в страж-птице ближе к истине. А головачевские ИИ больше на сказку об царевне-лягушке похожи. Для младшего школьного возраста. Ну еще законы роботехники Азимова с той же оперы

[ds.Dante]

Аватар, f.hump, я говорю про ближайшие перспективы, когда ИИ будет чуть-чуть умнее людей. Когерентная экстраполированная воля обсчитывается долго и на отдельном сервере, а наши ИИ работают в реальном времени на обычном компе.

Сообщение от Alar

следующая тема будет об этичности убивания людей.

Скорее, об этичности использования дебаггера.

[Utkin]

IQ=1000

IQ используют только гуманитарии . Разум нельзя померить одной характеристикой.

Чет не воспринимаю мощный ИИ на подхвате у человечества.

Ну а в чем проблема - если он будет ограничен предметной областью? Например, будет использован на создание произведений искусства. То есть не будет иметь физической возможности доминировать над человеком. Представляете фильм ужасов - Восстание светофоров !

[Аватар]

Ближайшие настоящие перспективы реального ИИ это продвинутый пылесос или холодильник

[ds.Dante]

Аватар, Уткин, не придирайтесь.

Сообщение от Utkin

Ну а в чем проблема - если он будет ограничен предметной областью?

Вопрос был про сильный ИИ.