Форум программистов
 
Контакты: о проблемах с регистрацией, почтой и по другим вопросам пишите сюда - alarforum@yandex.ru, проверяйте папку спам! Обязательно пройдите активизацию e-mail.

Вернуться   Форум программистов > Клуб программистов > Свободное общение
Регистрация

Восстановить пароль
Повторная активизация e-mail

Здесь нужно купить рекламу за 20 тыс руб в месяц! ) пишите сюда - alarforum@yandex.ru
Без учёта ботов - 20000 человек в день, 350000 в месяц.

Результаты опроса: Какие действия над ИИ (более развитом, чем человек) - в рамках этичного? Перед ответом прочтите перв
ИИ - высшее существо, которому мы должны служить. 1 25.00%
ИИ - тоже человек, и относиться нужно так же. 0 0%
Безболезненное отключение 0 0%
Пытки 0 0%
ИИ - просто программа, можно делать что угодно. 3 75.00%
Мне одинаково плевать на ИИ и любые формы жизни. 0 0%
Голосовавшие: 4. Вы ещё не голосовали в этом опросе

Ответ
 
Опции темы
Старый 23.06.2016, 19:40   #1
ds.Dante
Старожил
 
Аватар для ds.Dante
 
Регистрация: 06.08.2009
Сообщений: 2,997
По умолчанию Этичность в отношении искусственного интеллекта

В нашем обществе более-менее сложились правила обращения с животными. Многие машинально хлопнут мошку, не обращая на это внимания. Резать спящих лягушек приемлемо на занятиях в университете, но делать это от скуки уже считается ненормальным. Собак обычно режут и убивают, только если есть непосредственная необходимость для экспериментов или для городской экосистемы. С человеком так поступать обычно нельзя, даже если он сам просит (например, наелся грибов и просит сводить погулять из окна). Разное отношение к животным обычно объясняют их способностью испытывать боль и страх, наличием сознания, самосознания и разума.

Как я понял из предыдущего опроса, многие здесь убеждены, что все эти качества присущи сильному ИИ, немного более развитому, чем человек. Отсюда возникает вопрос, какие действия над ИИ можно считать этичными.

В комментариях прошу сформулировать, какие свойства существа определяют вашу гуманность к нему. Если кому-нибудь эта тема встречалась в статьях или в научной фантастике, прошу кинуть ссылку.

Последний раз редактировалось ds.Dante; 23.06.2016 в 20:33.
ds.Dante вне форума   Ответить с цитированием
Старый 23.06.2016, 19:51   #2
Аватар
Старожил
 
Аватар для Аватар
 
Регистрация: 17.11.2010
Сообщений: 19,061
По умолчанию

Если он действительно интеллект, да еще мощней человеческого, то вопрос будет так стоять - какую этику он для себя разработает по отношению к людям. Нормально ли для него, например, вивисекцию над человеком производить. А если менее развитый, то у человека этика по отношению к нему не будет отличаться от этики по отношению к холодильнику
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию
Аватар вне форума   Ответить с цитированием
Старый 23.06.2016, 20:12   #3
ds.Dante
Старожил
 
Аватар для ds.Dante
 
Регистрация: 06.08.2009
Сообщений: 2,997
По умолчанию

Наши ИИ следуют когерентным экстраполированным волям, то есть они проанализировали всё историческое, культурное и философское наследие людей, и стремятся следовать совместным целям вымышленного человечества, в котором каждый обладает всеми научными степенями и IQ=1000. Предположим, что на практике это привело к научно-технической революции и повсеместному улучшению качества жизни.

Ещё интересно ваше мнение в случае робота, который мечтает (но принципиально лишён возможности) убить всех человеков.

Последний раз редактировалось ds.Dante; 23.06.2016 в 20:21.
ds.Dante вне форума   Ответить с цитированием
Старый 23.06.2016, 20:16   #4
f.hump
C/C++, Asm
Участник клуба
 
Аватар для f.hump
 
Регистрация: 02.03.2010
Сообщений: 1,323
По умолчанию

вопрос, конечно, интересный. стоит или не стоит отключать ИИ электричество, если он испытывает душевные муки или неизлечимо болен?

перевод ИИ в разряд сверхсущества считаю неизбежным.

Последний раз редактировалось f.hump; 23.06.2016 в 20:38.
f.hump вне форума   Ответить с цитированием
Старый 23.06.2016, 20:20   #5
Alar
Александр
Администратор
 
Аватар для Alar
 
Регистрация: 28.10.2006
Сообщений: 15,026
По умолчанию

следующая тема будет об этичности убивания людей.
Alar вне форума   Ответить с цитированием
Старый 23.06.2016, 20:27   #6
Аватар
Старожил
 
Аватар для Аватар
 
Регистрация: 17.11.2010
Сообщений: 19,061
По умолчанию

Чет не воспринимаю мощный ИИ на подхвате у человечества. Вот ИИ в сотне, матрице, терминаторе или поплоше в страж-птице ближе к истине. А головачевские ИИ больше на сказку об царевне-лягушке похожи. Для младшего школьного возраста. Ну еще законы роботехники Азимова с той же оперы
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию

Последний раз редактировалось Аватар; 23.06.2016 в 20:31.
Аватар вне форума   Ответить с цитированием
Старый 23.06.2016, 20:32   #7
ds.Dante
Старожил
 
Аватар для ds.Dante
 
Регистрация: 06.08.2009
Сообщений: 2,997
По умолчанию

Аватар, f.hump, я говорю про ближайшие перспективы, когда ИИ будет чуть-чуть умнее людей. Когерентная экстраполированная воля обсчитывается долго и на отдельном сервере, а наши ИИ работают в реальном времени на обычном компе.

Цитата:
Сообщение от Alar Посмотреть сообщение
следующая тема будет об этичности убивания людей.
Скорее, об этичности использования дебаггера.

Последний раз редактировалось ds.Dante; 23.06.2016 в 20:37.
ds.Dante вне форума   Ответить с цитированием
Старый 23.06.2016, 20:35   #8
Utkin
Старожил
 
Аватар для Utkin
 
Регистрация: 04.02.2009
Сообщений: 18,305
По умолчанию

Цитата:
IQ=1000
IQ используют только гуманитарии . Разум нельзя померить одной характеристикой.
Цитата:
Чет не воспринимаю мощный ИИ на подхвате у человечества.
Ну а в чем проблема - если он будет ограничен предметной областью? Например, будет использован на создание произведений искусства. То есть не будет иметь физической возможности доминировать над человеком. Представляете фильм ужасов - Восстание светофоров !
Маньяк-самоучка
Utkin появился в результате деления на нуль.
Осторожно! Альтернативная логика

Последний раз редактировалось Utkin; 23.06.2016 в 20:40.
Utkin вне форума   Ответить с цитированием
Старый 23.06.2016, 20:35   #9
Аватар
Старожил
 
Аватар для Аватар
 
Регистрация: 17.11.2010
Сообщений: 19,061
По умолчанию

Ближайшие настоящие перспективы реального ИИ это продвинутый пылесос или холодильник
Если бы архитекторы строили здания так, как программисты пишут программы, то первый залетевший дятел разрушил бы цивилизацию
Аватар вне форума   Ответить с цитированием
Старый 23.06.2016, 20:46   #10
ds.Dante
Старожил
 
Аватар для ds.Dante
 
Регистрация: 06.08.2009
Сообщений: 2,997
По умолчанию

Аватар, Уткин, не придирайтесь.

Цитата:
Сообщение от Utkin Посмотреть сообщение
Ну а в чем проблема - если он будет ограничен предметной областью?
Вопрос был про сильный ИИ.
ds.Dante вне форума   Ответить с цитированием
Ответ
Опции темы


Похожие темы
Тема Автор Раздел Ответов Последнее сообщение
Технологии искусственного интеллекта, на Delphi Arina9 Помощь студентам 0 19.12.2015 21:07
системы искусственного интеллекта lexflax Qt и кроссплатформенное программирование С/С++ 2 13.12.2014 10:29
Пол искусственного интеллекта?! CodeExpert Свободное общение 44 20.11.2009 13:45