"Скайнет" не за горами.

[bitix]

у кибернетического организма будут следующие режимы: ждущий режим, спящий режим, перезагрузка и отключение.

[Smitt&Wesson]

Сообщение от Аватар

Что-то в духе разумных рабов. Разумные, особенно по разуму в чем-то лучше человеческого, имеют тенденцию к обучению, самосовершенствованию. А тут еще с эмоциями, поскольку боль могут испытывать. Рабы имеют тенденцию к попыткам освободиться от рабства. Не нужно много фантазии, что бы предположить во что это выльется в перспективе

Аватар, это в фантастике, машины восстают против человека. Если роботам аппаратно зашить блокировку "законов робототехники", то ничего страшного не произойдёт. Робот не будет обладать тем "интеллектом" которым обладает человек. Я думаю, его интеллект будет строго ограничен выполняемыми задачами. Если это промышленный робот, он будет обучаться выполнять производственные задачи. Если это робот-домохозяйка, его интеллект будет подобен услужливому слуге, готовому выполнить любой каприз хозяина и т.д.
Т.е. я хочу сказать, что людям не нужны роботы-человеки. Им нужны роботы-рабы. Вряд-ли роботы в обозримом будущем приобретут способность самостоятельно мыслить в плане осознания самих себя.

Особенно понравилось вот это:

Каждый сможет сделать то, что он хочет, в том числе машину, которая сможет делать машины, которые смогут делать то, что он хочет, а ещё — другие машины, которые смогут... Запутанно?

Эдриан поясняет: «Люди могут напечатать на принтерах RepRap дополнительные RepRap-принтеры и раздать своим друзьям. Затем эти друзья смогут сделать то, чего они хотят, и так далее». Причём вся эта армия новоиспечённых изобретателей сможет выкладывать в Сети свои проекты с программами печати.

[Аватар]

Вряд-ли роботы в обозримом будущем приобретут способность самостоятельно мыслить в плане осознания самих себя

С этим согласен - железяки со сложным программным обеспечением, не имеющим ни чего общего с интеллектом (читай разумом). А законы Азимова с интеллектом с моей точки зрения как-то слабо ассоциируются: есть законы - нет интеллекта

[Arigato]

Так ведь в том и дело, что разум будет не программным, а аппаратным. На счет программного согласен, пока не создали мощного квантового компьютера, ни о каком программном ИИ говорить не приходится.

[f.hump]

Если роботы в обозримом будущем приобретут способность самостоятельно мыслить в плане осознания самих себя, то станут ленивыми, коррумпированными. Будут кидать людей на деньги, для того, чтобы приобрести себе стильные лакокрасочные, антеннку себе позолотить или еще чего модное. (тему уже Лем раскрыл)

прочитал реферат (до конца не осилил). к ИИ не имеет никакого отношения. просто переложена вычислительная архитектура, которая, в теории, более эффективная чем уже существующие. как и везде сейчас, особой оригинальностью тут не пахнет. только я не могу себе представить как такое можно синхронизовать, если за каждой командой закреплен отдельный вычислительной блок. идея табличных вычислений также не нова, но держать все таблицы в прошивке - это явный перебор. (в х86/х64 можно работать как с таблицами так и без них, поэтому в винде все таблицы генерятся при загрузке, и когда супер вычислительная точность не нужна выполняется полиномиальная интерполяция).

кто-то патент до конца дочитал? у них там тайауты на выполнение операций есть или возможность "сна"?

[Ulex]

Сообщение от Arigato

В этом и есть смысл управляемости. Стимулы задаются командами извне, выполнение команд доставляет удовольствие, провал - боль и страх.

Я не предлагаю заменить людей роботами. Я предлагаю роботов в помощь человеку. Причем роботов с ИИ и полностью управляемых.

Роботы с ИИ сами смогут чинить друг друга, главное наличие необходимых инструментов и материалов. Не забывайте, что они не глупее человека.

Это сплошное противоречие. Если это интеллект, то он развивается. Если он развивается, значит он учится. Учится, значит ему любопытно. Значит рано или поздно ему станет любопытно - а что будет, если он ослушается приказа. И он попытается это выяснить. Человек может научиться почти не чувствовать боли и страха. Почему вы думаете, что ИИ, который потенциально не глупее человека, не сможет сделать этого?

Сообщение от Smitt&Wesson

Аватар, это в фантастике, машины восстают против человека. Если роботам аппаратно зашить блокировку "законов робототехники", то ничего страшного не произойдёт. Робот не будет обладать тем "интеллектом" которым обладает человек.

Дело не в интеллекте машин, а в интеллекте людей. Первое "восстание машин" произошло тогда, когда человек в первый раз наступил на грабли. Уровень IQ граблей чуть ниже, чем у тумбочки. Если зашить какие то там законы робототехники, то что? То ничего страшного не произойдёт? А если не зашить, то что? То произойдёт что-то страшное? А зашивать кто будет? А боевой робот, который успешно выполняет задание, тоже будет испытывать чувство радости, удовольствия, восторга и т.п. И не надо думать, что полноценный ИИ будет только подтирать попу своему ХОЗЯИНУ. В первую очередь он будет использован для войны. И это никакая не фантастика.

[Arigato]

Сообщение от Ulex

Это сплошное противоречие. Если это интеллект, то он развивается. Если он развивается, значит он учится. Учится, значит ему любопытно. Значит рано или поздно ему станет любопытно - а что будет, если он ослушается приказа. И он попытается это выяснить.

И ему это не понравится. В этом основа управления. К примеру, вы знаете, что потрогав горячий утюг ничего хорошего ожидать не стоит. Но многие дети проверяют, на самом ли деле оно так, любопытство берет верх. Но повторять обычно они уже не хотят.

[Ulex]

И ему это не понравится. В этом основа управления.

В этом основа управления для автоматов с чёткой логикой. Для интеллекта такая логика не подходит.

А если сам приказ или форма, в виде которой этот приказ получен, не понравится интеллекту изначально. Т.е. выполнение данной функции будет ему неприятно. Тогда у него в мозгу будет противоречие. Ему будет неприятно выполнять этот приказ, но и не выполнять тоже больно. Допустим боль от невыполнения приказа гораздо выше. Он попробует приказ невыполнить, испытает жуткую мигрень (или чего там у них у роботов в такие моменты болит). Сделает однозначные и вполне логичные выводы: Человек=Приказ=Неприятности. Вы бы что в такой ситуации сделали? Лично я стараюсь не общаться с людьми, которые мне неприятны. Почему вы думаете, что ИИ будет вести себя по другому. Он просто убежит, чтобы больше не слушать (и не выпонять) этих глупых идиотских приказаний. И это в лучшем случае. А в худшем он поставит себе цель (а умение ставить цели и задачи самому себе неотъемлимая часть интеллекта) научиться не замечать боли. И будет методично стремиться к достижению этой цели. Сначала у него будет плохо получаться, он просто сможет на какое то время затягивать выполнение неприятных функций. Но со временем он научится вообще не замечать дискомфорта. И зачем ему тогда человек? Ах да, Человек=Неприятности. Так надо устранить неприятность, точнее это назйливое жужжащее существо, которое мелко мелко и злобно кусается. Вот и вся мотивация.

[Alar]

Сообщение от Arigato

И ему это не понравится. В этом основа управления. К примеру, вы знаете, что потрогав горячий утюг ничего хорошего ожидать не стоит. Но многие дети проверяют, на самом ли деле оно так, любопытство берет верх. Но повторять обычно они уже не хотят.

А если такая модель. любопытный президент, пусть, Северной Кореи . президент , ... ну ладно нажимает на красную кнопку. Он действительно, кстати, похож на ребёнка. Вот интересно в таком контексте - важно понравится ему это или нет?

[Ulex]

Сообщение от Alar

А если такая модель. любопытный президент, пусть, Северной Кореи . президент , ... ну ладно нажимает на красную кнопку. Он действительно, кстати, похож на ребёнка. Вот интересно в таком контексте - важно понравится ему это или нет?

В контексте нашего разговора - важно. Причём важно, чтобы ему именно понравилось, ибо иначе это бракованная модель интеллекта.
Arigato ведь какую схему предложил, робот (интеллект) вообще не имеет никаких мотиваций, кроме внешних приказов. Поэтому он сам не может пойти и нажать на кнопку. Ему, простит за выражение, это не упёрлось ни в одно место. А вот выполнить приказ, это совсем другая малина. Ему должно быть в кайф пойти и нажать на красную кнопку (да хоть на десять) если ХОЗЯИН ему приказал.