Моральные проблемы создания искусственного интеллекта

Может ли страдать тетрадка в клеточку, или моральные проблемы создания искусственного интеллекта

07 июля 2008 г.

Когда я рассказываю о нашей работе над искусственным интеллектом, меня иногда спрашивают, что я думаю о моральных проблемах создания искусственного интеллекта и переноса человеческого разума на электронный носитель.

Как будет осознавать себя искусственный разум? Не будет ли у человеческого разума, перенесённого на электронный носитель, болеть «ампутированное тело»? Гуманно ли ставить негуманные опыты над искусственным интеллектом или электронными копиями реальных людей?

Так вот, я считаю, что страдания искусственного разума — полная чушь.

Машина Тьюринга Искусственный интеллект может более или менее точно имитировать мысли или чувства, но сами мысли или чувства он не испытывает.

Любая программа, в том числе, искусственный интеллект делает только одно — считывает биты из ячейки памяти, проводит с ними логическую операцию и записывает результат в ячейку памяти. Всё! А уже человек интерпретирует результаты считывания и записывания как результат действия программы: вычисление значения функции, выполнение банковской операции или проявления чувств искусственного разума.

Возможно, кого‐то вводит в заблуждение то, что ИИ мыслит, чувствует и реагирует на внешние воздействия в реальном времени и правдоподобно: расскажешь анекдот — рассмеётся как человек, «ударишь по голове» — заплачет и т.д.

Однако ИИ вовсе не обязательно должен выполняться на компьютере в реальном времени. Как и любую программу, его прекрасно можно выполнить в тетрадке.

Ещё раз повторю: ИИ, как и любая другая программа, состоит из инструкций: считать данные из ячейки памяти, провести над ними логическую операцию, записать данные в ячейку памяти. Представим, что вместо кремниевой оперативной памяти у нас будет тетрадка в клеточку, а вместо компьютера — лаборант ^[1].

Страдающая тетрадка Лаборант по инструкции (т.е., по тексту программы ИИ) тупо считывает нужные клеточки в тетрадке, проводит какие‐то манипуляции, и заштриховывает клеточки, опять считывает и заштриховывает… Искусственный интеллект начинает «жить».

Затем мы даём лаборанту листок с клеточками, означающими страшные издевательства над нашим бедным искусственным разумом: его поджаривают на сковородке, подвешивают за ребро, заставляют заполнять налоговую декларацию или верстать под Internet Explorer 5… можете продолжить в меру собственной извращённости :-).

Лаборант считывает и заштриховывает клеточки, что означает страшные мучения ИИ, конвульсии и крики.

Теперь вопрос: кто же при этом испытывает мучения?

Лаборант? Да он вообще не понимает, что означают эти клеточки. Он мучается разве что от того, что его заставляют выполнять идиотскую работу за какие‐то 3 000 рублей в месяц.

Тетрадка? Ну, как говорится, бумага всё стерпит…

Некая система «лаборант — инструкция — тетрадка»? Это уж слишком мудрёно…

Итак, мы убедились, что ИИ не мыслит и не чувствует. Вы довольны? Что опять не так?

Но ведь человеческий мозг тоже можно представить в виде тетрадки в клеточку: нейрон получает сигнал от соседних нейронов, проводит над ним определённые действия и передаёт другим нейронам.

Но я не соглашусь с тем, что я не испытываю чувства!

Верующие люди сказали бы, что у человека есть душа, которая чувствует, а мозг лишь служит для связи души с телом.

Неверующие сказали бы, что мы просто недостаточно ещё знаем о работе мозга.

Не мне судить, кто из них прав. Однако, можно сказать точно, что ИИ созданный как обычная компьютерная программа, мыслить и чувствовать не может.

Примечания

↑ Это немного похоже на мысленный эксперимент «Chinese room»;

40 комментариев:

АнчиКвали
12.08.2008, 15:17

страдания искусственного разума — полная чушь
- это пока, но скоро все будет подругому. Когда количество разумности превысит некий предел, то зародится новая жизнь.
Алик Кириллович
12.08.2008, 16:24

@АнчиКвали

Когда количество разумности превысит некий предел, то зародится новая жизнь.

Э-эээ... А Вы можете формализовать понятие «количество разумности»?
UX
23.11.2008, 02:21

из выводов Chinese room этот есть частично верным -

Другое мнение состоит в том, что никакой семантики не существует в принципе: всё, что происходит в мозгу, всего лишь манипулирование синтаксисом, которое осуществляется и в компьютерах.

По этому программа должна бы была манипулировать не синтаксисом, а семантикой... И не нужно создавать различные парсеры и анализаторы синтаксиса... потому что это есть неверным... В самой идее AIML есть неверным... Ядро программы должно оперировать семантикой и затем на этом ядре возможно будеть построить собеседника на любом языке...

Но ведь человеческий мозг тоже можно представить в виде тетрадки в клеточку: нейрон получает сигнал от соседних нейронов, проводит над ним определенные действия и передает другим нейронам. Но я не соглашусь с тем, что я не испытываю чувства!
Вы возможно только так считаете так как у вас (я и о себе говорю) продвинута форма ИИ... Человек управляется чувствами которые подсказывают ему что делать - компьютер можно запрограммировать по аналогии... Ведь нет доказательств что все чувства человека это лишь заблуждение... А кто сказал что все действия человека нельзя предвидеть, может просто не найден алгоритм какой определяет эти действия... Может поэтому человек придумал такие слова как случайность, теория вероятности и т.д. Программа не может страдать, но кто уверен в том что страдает человек - возможно это лишь эмуляция…
Алик Кириллович
02.12.2008, 22:16

@UX

По этому программа должна бы была манипулировать не синтаксисом, а семантикой...

Это было бы хорошо, конечно...

Но проблема в том, что программа всегда оперирует именно синтаксисом, а не семантикой.

Дело в том, что любая программа эквивалентна программе для Машины Тьюринга, а Машина Тьюринга оперирует только синтаксисом.

Программа не может страдать, но кто уверен в том что страдает человек - возможно это лишь эмуляция...

Понимаете, сознание — это очень хитрая штука... «Это — факт очевидный для его обладателя (я знаю, что у меня есть сознание), и совершенно недоказуемый для всех остальных (окружающие меня люди не увидят разницу между мной, и сложной системой, в точности имитирующей мои реакции на внешние сигналы) [1]».
philli
18.12.2008, 12:18

Для того чтобы понять страдает ли искуственный интелект надо понять что такое страдания человека.

1 Физические = болезни тела. Что это у искусственного интеллекта - непонятно.

2.Моральные

а) Зависть - "У них денег куры не клюют, а у нас на водку не хватает".

б) Ограниченность - "Только харакири спасёт мою честь"

в) Сострадание другому

г)Замена действительности - "Если б я был принцем ..."

При страдании человека либо находится другой выход из ситуации, либо сумасшествие (клинч для эвм). Если хоть одно из этих страданий достаточное основание для прекращения его, т.е. убийства человека то да искусственный интеллект не должен страдать.
Матвей
14.01.2009, 16:54

Наверное, можно создать программу, которая сможет самостоятельно развиваться, обучаясь, но вряд ли она когда-нибудь научится переживать за другую программу, радоваться и т.д.
Наталия
22.01.2009, 14:49

Как вы с помощью инструкций научите программу чувствовать, переживать?
Al Krey
02.02.2009, 20:26

Алик,

Молодец! Ты почти подобрался к истине и к решению. И я даже дам подсказку к нему- МНОГОМЕРНОСТь! Как только мы научимся собирать сложные системы из "плоских" машин Турина появятся возможности моделирования более сложных процессов в т.ч. и эмоций и чувств> Современные язуки абсолютно для этого не годятся!

Strong AI - this is the way and the Truth!

AK.
Hel
15.05.2009, 10:22

Вы думаете что сами умеете страдать?

Вы делаете это осознанно?

Обычно это лиш заложенный рефлекс на внешние или внутренние раздражители заложенный ...ну скажем эволюцией.

Будет ли страдать программа?

Можно заложить определённый алгоритм и назвать его страдание ... и все будут видеть результат его работы и сама программа будет иметь информацию что она страдает...

Моральная проблема?

Насколько наши алгоритмы (типа природные) отличаются от нами написанных? Или чем мы отличаемся?
Nck
28.05.2009, 11:32

Не стоит путать искусственный интеллект с искусственным разумом. Это абсолютно разные понятия. С ИИ мы имеем дело каждый день: программа, способная принять какое-либо "решение" самостоятельно обладает интеллектом. Банальная автозамена в текстовом редакторе.

ИР - это тема для фантастов. Он умеет чувствовать, переживать, мыслить. И появится ИР только тогда, когда компьютер научится сваливать свои ошибки на рядом стоящий компьютер.

Павел

12.06.2009, 16:57

@Hel вы абсолютно правы. Создать для программы чувство радости, гнева и т.д не так уж и сложно.

<?
$emotions = 0

function negative($i)
 {
  global $emotions;
  $emotions = $emotions - $i;
 }
function positive($i)
 {
  global $emotions;
  $emotions = $emotions - $i;
 }

 function emotions()
  {
   global $emotions;
   if($emotions > 100){
    echo "ЫЫЫ!! Мухахаххахаххахаха";
    echo "Сообщение от сервера: в связи с тем, что программа программа вошла в состояние истерики, отключаюсь на профилактику";
   }elseif($emotions < 0 and $emotions > 50){
    echo "Славный денек, не правдали? *побежал бекапить базу*";
   }elseif($emotions == 0){
    echo "Хорошо хозяин. Как скажете хозяин. Пойду бекапить базу";
   }elseif($emotions < 0 and $emotions > -10){
     echo "Я немного хандрю.. Давай я пробекапю базу завтра?";
   }elseif($emotions > -10 and $emotions < -50){
     echo "Я не намерен с тобой общатся! Меня все достали!!"
   }elseif($emotions > -50 and $emotions < -100){
     echo "Хнык.. Хнык... все! надоело... прощай, несовершенный мир!!";
   }
  }
?>

Павел
12.06.2009, 16:58

И появится ИР только тогда, когда компьютер научится сваливать свои ошибки на рядом стоящий компьютер.

Вы абсолютно неправы! Если модернизировать стоящий выше пример кода, то можно добиться чего угодно!
Svi_stok
15.06.2009, 19:49

Что вы понимаете под словом модернизировать следующий код?

Это Вам не в бирюльки играть для этого нужна четкая определенность представьте, что компьютер попал в неопределенную ситуацию, что произойдет, как он себя поведет. В шахматы мы научили его играть, а научим ли играть в жизнь вот в чем вопрос.
V.Oz.
25.06.2009, 11:14

@Svi_stok, а чем шахматы отличаются от жизни? только размером поля, количеством и функционалом фигур, количеством сторон замешанных в интриге и т.д. (не забываем про животных - они тоже участники жизни)

Подозреваю, что если человечество полностью повторит нервную систему своей особи на современной элементной базе (даже нано), то получится нехилый шкаф размером с дом и железная дорога обесточится. Но это сооружение вполне правдоподобно сымитирует вожделенный кем-то ИР. И на пути минимизации этого продукта мы вернемся к тому процессу, который до нас кто-то уже давно придумал - уединимся с любимой женщиной и немного подождем.

Все эти хождения по кругам спирали конечно же нужны для вселенской энтропии. иначе как же снова произойдет Большой взрыв ... но по прогнозам ученых Солнце зажарит Землю так нескоро, что я не уверен, что человечество к тому времени не изведет себя само. Вместе с бредовыми идеями.
XanMark3
09.08.2009, 03:22

Однако, можно сказать точно, что ИИ созданный как обычная компьютерная программа, мыслить и чувствовать не может.

Я не прав с этой точкой зрения.

Рассмотрим сначала человека.

А точнее человеческую психику, человеческое сознание.

Человек по сути является неразумным. Он все делает рефлекторно. Однажды получив какой-то опыт он в следующей аналогичной ситуации ведет себя подобно той собаке Павлова так как в первый раз повел себя, опираясь на воспоминания и ощущения (набор звуковых, зрительных, нюхательных - простите меня за такую формулировку ощущений, которые сохранились в памяти и первыми же вызовутся именно в том сочетании в котором сохранились, когда человек окажется опять в такой же ситуации). И если не работать над собой, то человек нисколько не будет отличатся от животного. Я имею ввиду психологию.

Все наши ощущения - это рефлексы ответные реакции.

Точно так же если придумать процесс, который смог бы сам обучатся, созвать собственные алгоритмы исходя из сложившихся ситуаций [к примеру программа после холодного рестарта компа прочитав аварийный лог событий предшествовавших рестарту и отложив в памяти этот лог, обнаружив в очередной раз подобное событие(допустим у нас в системе есть ИИ и одна глючная программа. И вот ИИ прочитав тот лог узнал (и связал для себя), что рестарт системы был вызван системной ошибкой которую спровоцировала та самая глючная программа)вспомнит, что в прошлый раз пришлось заниматься восстановлением не сохраненных данных, повторными перерасчета ми и т.п. и соответственно это для неё будет не оптимальным течением событий. И возможно она начнет работу над алгоритмом, который бы позволил решить проблему с холодным рестартом. И вот реакция на разработку этого алгоритма есть рефлекс. Рефлекс на основании лога - воспоминаний. А лог для неё будет ощущение грядущего будущего, которое может привести к потери данных - чем не чувство], он откладывал бы для себя свои ощущения.

У ИИ будут своим ощущения. Не надо сводить их к человеческим.

Вот что я думаю по поводу ощущений. А вот на счет мыслей это наверно и есть сам ИИ. Все что я написал естественно имеет право на существование если ИИ имеет "мыслящий" программный аппарат.
ixes
13.08.2009, 18:26

Если коротко - в Вашей модели не хватает обратной связи.
kep
22.08.2009, 15:10

Чувства для компьютера будут представлят из себя, мне кажется, сложные реакции, ответные на связь внешний мир + внутренние потребности.

Так компьютер сможет получать информацию и решать проецируя на себя плохо это, хорошо, не допустимо, и т.д. вся палитра чувств, это всего лишь комбинация простых реакций.

Но это мнение субъективно...

Поправте?
Михаил
23.08.2009, 05:15

Искусственный разум - как искусственная икра. Совсем не одно и то же. Либо это будет просто интеллект, как его ни назовите: кремниевым или тетрадно-клеточковым, или это будет что-то искусственное, тогда действительно, какие могут быть дилеммы?

Интеллект человека и его сознание - разные вещи. Интеллект - инструмент особым образом обрабатывающий определенный вид информации. Но, грубо говоря, и без иронии, в какой-то момент человек может не пользоваться интеллектом. Сохраняя при этом сознавание, он может в какое-то время не сознавать набор накопленных реакций на раздражители (свое я), но сознавать существование сознавания .

Мы ведь не присваиваем набору эмоциональных реакций на раздражители свойства разума? Так же и набор умственных реакций на разражители не является носителем сознающего разума.

Чтобы читать книгу нужно быть снаружи текста, а не листом бумаги. Сознание которое слышит мысли так же находится вне интеллектуального аппарата.

Чтобы расколоть орех нужна палка и рука, чтобы решить задачку нужен интеллект, это инструмент, но это не разум.

Именно интеллект дает названия ощущениям. На низком уровне ощущения не имеют окраски. (попробуйте описать ощущение от зеленого цвета?)

Для разума требуется наличие свободного необусловленного причинностью внимания. Которое он мог бы направлять вне любых причинно следственных связей. Игнорируя любую обусловленность, интеллектуальную, эмоциональную, физиологическую.
Поляк
18.10.2009, 01:58

Вот уж точно!

Согласен с тем,что никогда не появится ИИ программа,ведь жизнь имеет слишком много атрибутов,исключений и иррациональности,чтобы это все предусмотреть и вписать в одну схему!=)
CHAS
26.11.2009, 11:51

В целом присоединяюсь к изложенному автором материалу!

В журнале "Новости Искусственного Интеллекта" (№4, 2001), была опубликована статья с очень похожими выводами!

http://www.raai.org/library/library.shtml?ainews

В общем, подобные рассуждения я свел бы к следующему вопросу. Происходит ли обработка информации в человеке по сценарию:

1) внешние воздействие -> орган чувств -> чувство (восприятие, ощущение) -> "программа" обработки

Или по сценарию:

2) внешние воздействие -> орган чувств -> "программа" обработки

Т.е. возникает вопрос, а являются ли наши чувства (восприятия) реальностью, неким дополнительным компонентом или объектом?

Программу обработки поступившей внешней информации, через некий датчик (орган чувсвт), написать теоретически возможно!

А вот, если чувства - это реальность, то как мы будем воспроизводить в элекронном устройсве ощущения (восприятия), если мы еще не знаем, что это такое?

Вот я и думаю, а не находится ли наша наука, как ни странно, наука об ИИ на пороге религии?
HAL
03.12.2009, 02:54

Может ли компьютер (computer - compute: считать, вычислять) испытывать чувства и эмоции? Вопрос, на мой взгляд, риторический, и ответ на него уже даёт само определение слова computer - вычислительная машина.

В к/ф "Матрица" (а именно: вторая часть, разговор с Архитектором) создатели сформулировали чёткую позицию машины

по отношению к человеку: все чувства, источник которых вовсе не сам мозг, а нервная система с её сложнейшей структурой и гормоны, вызывающие химические реакции, - так вот, все чувства (эмоции) являются в той или иной мере камешками, бросаемыми в ровную гладь воды, т.е. в холодный разум и расчёт, и тем самым нарушающие её невозмутимое спокойствие. В книге "Голова профессора Доуэля", если не ошибаюсь, как раз была предпринята попытка понять, что же будет, если лишить человека чувств и оставить один только "компьютер" - мозг.

У машины нет гормонов, нет нервной системы в том виде, в котором она у нас, - у неё есть простые электрические импульсы. А если исследователями будет предпринята попытка создать машину с некой встроенной "схемой чувств",- даже если их попытка вдруг увенчается успехом, какой смысл создавать подобие настоящего ЧЕЛОВЕКА (не разума!) - когда есть клонирование и, собственно, сам человек. Составление инструкций для имитации (подчеркну) эмоций также смысла не имеет, так как машина при этом, конечно, не будет отступаться от своих принципов, а если её вдруг запрограммируют на последнее, то это вообще будет полная чушь. Общаясь с компьютером, человек должен понимать, что общается с компьютером. Никакие инструкции и условия на программном уровне не способны привить машине способность чувствовать по-человечески. Да и смысла в этом, как я уже говорил, нет.

Итак, одной из приоритетных способностей искусственного интеллекта должна стать способность понимать человека, т.е. с учётом того, что у нас есть чувства и эмоции, - для того, чтобы понимать его поведение, психологию, почему он поступил так, а не иначе (на уровне машинной логики, разумеется). Вот это, на мой взгляд, как раз вполне возможно реализовать, потому как машина не будет выходить за пределы знаний, имеющихся в памяти программы о человеке, которые позволят ей адаптироваться к адекватному пониманию действий человека.
Droid
03.02.2010, 11:59

Зря вы так, для начала заставьте что-то ходить, прежде чем заставить думать, позвольте ему воссоздать себя, модернизировать(без цикла), научите тело думать о мозге и мозг о теле. Эмоции же надо наращивать, нежели вшивать, разница большая. Прежде всего ИИ надо дать осознать себя как личность, восприятие окружающего происходит от самого себя, а не от того что закладывают, научите его обучаться. Вообще, вы когда росли как осознавали мир? Все мы были маленькими, произносили первые слова, делали первые шаги, учились читать, писать, думать, решать, но это все пришло не сразу, поэтому создайте ядро и обучайте. Ну а после того как обучите - тикайте, ибо это будет ****.* , не забывайте что плохое запоминается лучше чем хорошее. Задумайтесь сами, русский думает на русском, англичанин - на английском, немец - на немецком, машина - ?паскаль ?MSAM ?с++ (циферками вообщем), так что сначала научите ходить, учиться, думать(он потом сам все расскажет). К тому же вы еще не скоро создадите ИИ, не хватит аппаратной мочи, каждый человек постоянно думает, представьте вечно думающий ИИ? это трудно...

Итак итог: сможете вы его создать так к годам 100 новой эры, не раньше, аппаратура не позволит, извините за нескромность и мозгов одного человека тоже...
Алексей
26.02.2010, 13:01

Создание искусственного разума, далеко не чушь. Человек мыслит абсолютно так же как и машина Тьюринга. Хотите опровергнуть? Это очень просто: достаточно привести формальный пример функции которую человек может вычислить, а машина Тьюринга нет.
cordeie
06.03.2010, 21:58

Человек сам по сути машина. Чем вызов наших эмоций, отличаются от того кода, который привел Павел? Он человека более сложный, но в сущности, механизм то ЕСТЬ.

И потом, все имеет свою причину, а считать, что у человека есть что-то, что невозможно повторить, значит опровергать очевидное. Как человек реагирует причинно, так же и искусственный интеллект может реагировать.

А ходить, и подрожать человеку, ИИ совсем не обязан. Не нужно считать ИИ клоном человека, это другое...

А что касается того, считать ли ИИ (ну, если его когда либо сделают) живым существом, чувствующим, то это зависит от того, насколько человек сможет понять то что сделал, и чем является сам.

Клонированных животных,некоторые тоже считают просто биологическими машинами...

Ладно, тогда чем человек не биологическая машина?
Sun
09.03.2010, 05:16

Не знаю даже что сказать. Посмотрите фильм «13 этаж». Выше уже говорили, мы сами в каком-то роде машины, а сознание наше — программа.
Stepanida
19.03.2010, 14:44

Эмоции же надо наращивать, нежели вшивать, разница большая. Прежде всего ИИ надо дать осознать себя как личность, восприятие окружающего происходит от самого себя, а не от того что закладывают, научите его обучаться.
ur001
24.03.2010, 20:21

Со-чувствую вам :)

Сколько не пытался на том же Хабре донести абсурдность «программ обладающих сознанием» у меня ничего не выходило.

Вообще не часто удаётся встретить в сети человека который одновременно и поймёт поставленный вами вопрос и ответит на него «нет». Чаще встречаются люди либо далекие от ИТ и проблем ИИ (им сам вопрос кажется полным бредом), либо те кто в теме и убеждены в обратном.

Могу предположить, что когда-то вы сами верили в возможность переписать человека на цифровой носитель, или, хотя бы, что ИИ может обладать неким «сознанием». Но, в какой-то момент сменили свою точку зрения.
Павел
24.03.2010, 22:54

Искусственный интеллект может более или менее точно имитировать мысли или чувства, но сами мысли или чувства он не испытывает.

Замените тут "ИИ" на "негр", и Вы получите расизм.

Лет через 50 расизм получится и без замены.

Не стоит недооценивать человеческую природу, а особенно - симпатию к созданным по образу и подобию своему.
Melya
25.03.2010, 07:30

Искусственный разум может подвергнуться всякого рода техническим сбоям которые в последствии могут обернуться глобальными катастрофами, хотя и человек может подвергнуться тем же "сбоям" с не меньшими проблемами. Палка о двух концах получается.
Ковалевский Андрей
25.03.2010, 14:07

В ваших выводах всё отталкивается от недоговоренности, что же такое "чувства". Если охарактеризовать человеческие чувства, как результат выброса в кровь определённого количества гормонов и индивидуальной реакции на них, то и сам человек есть ни что иное, как программа, созданная родителями. А вообще - будет интеллект - будем думать. Пока до него слишком далеко, и все подобные измышления - мастурбация на философские темы.
Russi
29.04.2010, 16:27

Согласен с Ваим целиком и полностью - переживать ИИ невозможно научить - можно научить развивится в смысле мышления и обучения на реальных ситуациях - яркий пример те же боты в Counter-Strike 1.6.

Морали они не изведают - так же как и понятий Бог, гуманизм и т.д.
Pensioner
11.05.2010, 19:29

Наличие или отсутствие разума к переживаниям не относится- достаточно посмотреть на участников Дома-2 :)

эмоции - это лишь навязанная линия поведения, не более
Palach
05.06.2010, 09:58

Мне кажеться что это все опасно так как дадим ему чувства дадим ему мысли и он начнет самообучение и у него ни когда не будет жалости вы предстовляете что будет если произайдет ошибка один его выход в мировую сеть и доступ ко всему и хаус ...хотя прикольная вещ
Kuroki Kaze
18.06.2010, 18:13

А давайте тогда подумаем, кто исптыывает мучения при мучениях человека :)

Нервные клетки? Они просто передают импульсы, не осознавая их смысл.

Болевые рецепторы? Они, по сути, просто механизмы. Вход => выход.

Нейроны мозга? Но ни один из них не видит полной картины.

Система «рецепторы — нервы — мозг»? Тоже, может быть, слишком мудрёно? ;)
Димчик
20.06.2010, 16:58

Матвей
14.01.2009, 16:54

Наверное, можно создать программу, которая сможет самостоятельно развиваться, обучаясь, но вряд ли она когда-нибудь научится переживать за другую программу, радоваться и т.д.

Да на счет чувств ты прав, многие люди не умеют чувствовать и передавать свои чувства, не думаю что с этим сможет справиться программа.., если это все же случится, будет невероятный прорыв..
Семён
09.07.2010, 07:50

Вы как-то ушли в конце от ответа на противоречие.

Но ведь человеческий мозг тоже можно представить в виде тетрадки в клеточку: нейрон получает сигнал от соседних нейронов, проводит над ним определённые действия и передаёт другим нейронам.
Рейкбек
19.07.2010, 17:49

Думаю, ответ лежит в самом понятии слова "интеллект". Ведь прежде всего, это логика.

Ну а конкретный ИИ, если ему дать описать нужный алгоритм, может программные чувства выдавать.
ADv
21.07.2010, 02:23

программа и не должна переживать. это ведь чисто человеческие эмоции. а вот научить ее мыслить образно - это был бы прорыв. получеловеческая логика!
velen7109
29.07.2010, 11:30

Почему то все когда слышат волшебное слово ИИ сразу ставят его в рамки человека и его логики. Самообучающийся системы на персептронах(программная модель нейрона) существуют давно. Надо лишь придумать некую программу(некий зародыш) которая будет эффективно само обучаться. Теперь что касается эмоций, для человеческого мозга по сути все сигналы одинаковы, единственное что от зрительных органов сигнал сжимается. Только лишь в процессе самообучения и осознания он находит им правильную интерпретацию. Например все новорожденные видят мир перевернутым, мозг учится переворачивать картинку. Также некоторые дикие племена из за отсустсвия в их языке понятия оттенка цвета да и вообще цветов не разлечают цвета. Тоесть пока мозг не проведёт аналогию между цветом и его значением человек просто физически не может об этом думать. Также с чуствами, есть люди которые не испытывают эмоций, они могут лишь подыгрывать окружающим.
Илья
03.08.2010, 15:25

ИМХО, чувства для человека это раздражжители на определенные взаимодействия с ним. Чувства влияют на дальнейшие дейстивия человека. Википедия говорит о том, что чувства - это субъективность. То, как видит себя человек в каком-то контексте, возможно стоит научить машину разговаривать, и тогда она ответит на вопрос, есть у нее чувства или нет.

Добавить комментарий

Имя:

E-mail (не публикется):

Веб-сайт (ссылки не «глушатся» nofollow):

Текст:

Вы можете использовать BBCode:

[b]жирность[/b]

[i]курсив[/i]

[u]подчеркивание[/u]

[s]перечеркивание[/s]

[url]http://www.example.com[/url]

[url=http://www.example.com]Текст ссылки[/url]

[quote]Цитата[/quote]

[code]
код на
  языке
программирования
[/code]

[list]
* Список
* Список
* Список
[/list]

Статьи

About

Об авторе
Alik Kirillovich

Кириллович

Алик

Россия

Татарстан

Казань
55.783333 49.116667
alik@alik.su http://www.alik.su

Ждите...

Мир JavaScript за пределами браузера
Совершенный Ajax - 2
HTML — самый недооценённый язык построения интерфейсов в мире (СНЯПИМ)
Прототипно-ориентированная ORM
Три уровня семантики: семантическая вёрстка → микроформаты → Semantic Web
Механизмы функционирования сообществ: люди (Википедия) vs софт (Хабр)

Может ли страдать тетрадка в клеточку, или моральные проблемы создания искусственного интеллекта

Примечания

40 комментариев:

UX

philli

Al Krey

Hel

Svi_stok

V.Oz.

XanMark3

ixes

kep

Михаил

CHAS

Droid

Алексей

Sun

Palach

Семён

velen7109

Добавить комментарий

Вы можете использовать BBCode:

Статьи

About

Alik Kirillovich

Подписка

Ждите...