ИИ и иже с ним

[Utkin]

Вообще говоря, интеллект подразумевает свободу выбора.

Да, но свобода выбора не является абсолютной. Вы не можете выбрать не дышать. Также можно зашить и интеллект в железку и если ему сказали умри - он умрет. Не важно сделает выбор или не сделает, все равно это будет ИИ.

Ты ему говоришь "убей вот того", он решает, что убивать негуманно, и отказывается выполнять приказ.

Но потом осознает, что если не уничтожить противника (одного!) погибнут много людей. И убивает

В общем, нужно определиться, говорим мы об идеальном исполнитее или об ИИ - это не обно и то же.

Но можно неплохо совместить. Если решать конкретные задачи, а не заниматься философскими изысканиями при проектировании какого-нибудь умного экскаватора.

[Smitt&Wesson]

Давайте определимся, что мы будем называть интеллектом вообще и искусственным, в частности.
Кого мы называем интеллектуалом? На мой взгляд, это человек, умеющий решать задачи не тривиальными методами. Т.е. творчески. Понятие творчества, довольно размытое, будем пользоваться понятием "нетривиальное", т.е. не поддающееся формальному описанию, как алгоритмизция.
Искусственный интеллект, это некая система, способная вырабатывать решения, основываясь на знаниях, не заложенных в неё при проектировании.

[Utkin]

Искусственный интеллект, это некая система, способная вырабатывать решения, основываясь на знаниях, не заложенных в неё при проектировании.

Если брать такое определение за основу, то здесь напрямую нет угроз безопасности. Всегда можно заложить ограничения типа законов робототехники.

[Аватар]

Всегда можно заложить ограничения типа законов робототехники.

Ага, заложить. Тут трактор без всякого ИИ вдруг начинает вести себя непредсказуемо. Гарантий, что бы не закладывал, нет и быть не может. Мутация ИИ, прикольно

[Smitt&Wesson]

Я придерживаюсь этой же точки зрения. Если в ИИ, специально не заложить опасное поведение, опасности он представлять не будет. Вопреки извращённому представлению фантастов-фаталистов.

Тут трактор без всякого ИИ вдруг начинает вести себя непредсказуемо.

Трактор, изначально не имеет ИИ. Если он ведёт себя непредсказуемо, это значит у него поломка. Он не может осмыслить свои действия и принять соответствующие меры.

[Аватар]

Если он ведёт себя непредсказуемо, это значит у него поломка.

В логических схемах ИИ не может быть поломки?

[Smitt&Wesson]

Сообщение от Аватар

В логических схемах ИИ не может быть поломки?

Может, но эти блоки можно продублировать и это не зймёт моного места. Иное дело, продублировать ходовую часть трактора.

[Utkin]

Тут трактор без всякого ИИ вдруг начинает вести себя непредсказуемо

Человек за трактором еще более опасен.
Мне так нравятся такие рассуждения. Вот создали трактор с ИИ и сразу давай его в массовое производство, чисто посмотреть начнет людей давить или нет . Ясень пень сначала будут тесты, с помощью которых будут отсеяны самые очевидные и тупые ошибки.

[ROD]

Вот вы тут спорите про безопасность ии, и мне вспоминается байка про робота, убившего своего создателя. Суть такова: создатель полез че-то подкрутить у робота,и ему на голову упала рука робота и проломила череп. Досадная случайность, но убил робот, хотя он, если бы был разумным, не обязательно хотел бы это сделать.

[Аватар]

Может, но эти блоки можно продублировать и это не зймёт моного места

Как насчет шизофрении, буйного помешательства присущих человеку (ЕИ - естественный интеллект)? Откуда это берется, какие механизмы нарушений? Можно ли в принципе ИИ обезопасить от этого? Если речь идет об ИИ на базе цифровой электроники, даже не интересно об этом говорить - никогда такого ИИ не будет, а будет просто сложная железяка с ЧПУ. Наверно все более сложно. Теория насчет законов робототехники сказка и балаболить можно много по этому поводу, но любое нарушение в таком мозгу, хоть 100 раз дублирующие цепи делай, непредсказуемо по своим последствиям. Как и в нашем мозгу. И кто сказал, что если в процессе обучения ИИ прийдет к выводу, что ограничение мешает его функционированию, то он не найдет логичный способ его обойти?