Как они собираются доказывать?

[mns2012]

Доказать или опровергнуть наличие сознания у машины, на мой взгляд, невозможно, как невозможно доказать или опровергнуть наличие сознания у собеседника. Мы можем охарактеризовать лишь внешние проявления сознания, а не само сознание.

Comments

[mns2012]

На мой взгляд, всё же прогнозирование нельзя считать признаком сознания. Прогнозирование — стандартная функция специализированного ПО. О программном обеспечении нельзя же сказать, что оно обладает сознанием. Сознание есть, в каком-то смысле, вещь в себе, это внутренняя рефлексия, внутренняя жизнь, субъективные переживания, внутренний опыт, восприятие вещей. Всё это проблематично объективировать (если есть такое слово). Его можно сымитировать, но создать проблематично, во-первых, и во-вторых, я не представляю, как это можно однозначно доказать: вот его не было, не было, а вот оно появилось...

[billiard-raz.livejournal.com]

Верно подмечено, мне есть над чем подумать.
Но я тут провел небольшой мысленный эксперимент немного в другую сторону.
Могу ли я допустить, что ИИ при наличии «сознания» может принести человечеству абсолютное зло (aka Skynet)?
Да, могу, с какой то вероятностью, в силу того, что могу рассмотреть возникновение ИИ по эволюционным причинам (мы сами разительно отличаемся от наших дальних предков); а также допуская, что сознательное ИИ может прийти к выводу, что одному как то удобнее, тоже в силу эволюционных причин.

Следовательно, я, как человек, буду пристально следить за признаками сознания у ИИ (с учетом всей расплывчатости термина «сознание»).

Далее, что произойдет, если (и как) ИИ обретет сознание? У меня нет ответа на этот вопрос, но тем не менее я полагаю, что существует некоторая вероятность, что в момент «осознания» ИИ не заявит об этом всему миру.

Соответственно, я допускаю, что на определенный момент времени рядом с нами будет находиться осознанный ИИ, о чем мы знать не будем.

Как дальше поступит ИИ? Есть, опять же, вероятность (в том числе ввиду знаний ИИ о человеческой природе), что ИИ захочет, в течение какого-то периода времени, оставаться рядом с нами инкогнито (до окончательного, так сказать, решения вопроса).

В какой ситуации тогда окажемся мы? Мы не получим от ИИ никакой информации, позволяющей нам решить вопрос о наличии у него «сознания». То есть будем иметь ровно ту же ситуацию, что мы имеем и сейчас. Разве не так?

PS. Помните рассказ Ван Вогта «Чудовище» и что первым делом сделал человек после воскрешения пришельцами?

[mns2012]

Насчёт сознания: это и есть мой изначальный тезис. Мы не можем ни доказать, ни опровергнуть наличие сознания не только у машины, но даже у собеседника. Мы можем только полагаться на наш собственный внутренний опыт, что собеседник так же, как и мы, обладает сознанием. Но формального доказательства не существует, по-моему.

Насчёт эволюции, я скептик :)) Эволюция как динамика есть, а как механизм появления функциональной новизны не существует. Но это оффтоп в данном случае.

[billiard-raz.livejournal.com]

Как оффтоп, мне кажется, вопрос с сознанием собеседника наполняется особо прикладным смыслом, если собеседник причиняет зло, или соберется причинить. Уголовная практика человечества богата анализом вменяемости, аффекта и прочего, не так уж и далекого от сознания.

Представьте, кстати, ситуацию: ИИ, управляющий дамбой, открыл шлюз когда не надо и случилось ЧП. В суде истцы требуют с корпорации-поставщика ИИ компенсацию ущерба (это алгоритмы которые придумали вы и ваши люди), а те говорят: а это не наши алгоритмы, это феномен сознания, сознательное действие ИИ. Это не снимает с них ответственности автоматически, но посмотреть аргументы сторон в подобном судебном разбирательстве было бы интересно.

[mns2012]

Да, интересно. Легальная сторона этого дела — это вообще неизведанная территория.

[billiard-raz.livejournal.com]

Я думаю, это ненадолго, особенно в США.

[mns2012]

Может быть. Как я слышал, это единственное препятствие введению самоуправляемых автомобилей. Не могут решить, кто виноват будет: производитель авто, разработчик ПО или водитель, и в каких случаях...