Как они собираются доказывать?

[mns2012]

Доказать или опровергнуть наличие сознания у машины, на мой взгляд, невозможно, как невозможно доказать или опровергнуть наличие сознания у собеседника. Мы можем охарактеризовать лишь внешние проявления сознания, а не само сознание.

Comments

[areksi.livejournal.com]

Есть и другие формы сознания, помимо человеческих, и они вполне могут воспользоваться субстратом ИИ...

[mns2012]

Причем тут это? Речь идёт о невозможности формального доказательства.

[areksi.livejournal.com]

Мне не понятно, где тут проблема и зачем нужно что-то доказывать. "Интеллект" бывает разным, достаточно посмотреть на множество разнообразных живых существ. Почему в случае многослойного и "сильного" машинного ИИ мы не сможем получить своеобразный такой новый вариант? На человеческий он похож не может быть в силу отсутствия тела, а так, почему нет?

[mns2012]

=Мне не понятно, где тут проблема и зачем нужно что-то доказывать.=

Так и скажите. Только зачем тогда комментировать?!

[areksi.livejournal.com]

С целью прояснить, что именно Вы имеете ввиду, поэтому и спросил. Или у Вас одностороннее вещание?

[mns2012]

То, что я имею в виду, мне кажется, я обозначил в записи и даже дополнительно пояснил. Я имею в виду проблему формального доказательства наличия сознания. На мой взгляд, она не имеет решения.

Зачем это нужно? Зачем вообще нужна теория? Хотя бы для того, чтобы лучше понимать, что происходит.

[areksi.livejournal.com]

Для теории нужны фактические предпосылки. Вы написали, что некие люди собираются доказывать наличие сознания (вероятно, у ИИ?). Мне кажется, что для осмысленного ответа на этот вопрос надо определить, что мы называем "сознанием" — свободу воли, или способность к (автономному) творчеству, или способность к долговременному планированию или иное что. Вот, собственно, почему я попросил уточнить, что именно имелось ввиду...

[mns2012]

Это резонно.

Некие люди -- это популяризаторы искусственного интеллекта типа Рэя Курцвейля. Сильный ИИ, как его вводит Сёрл, предполагает, что машина может иметь сознание, тогда как слабый ИИ предполагает, что машина ведет себя как будто обладает сознанием.

Сознание -- это наличие внутреннего "я", awareness of oneself, способность субъективного переживания событий. По кр. мере, так об этом написано здесь.

Наличие или отсутствие сознания недоказуемо. Возникает вопрос: возможно ли утверждать, что машина обладает сознанием?

Кмк, на этот вопрос можно было бы ответить положительно только при условии существования некоторого объективного признака систем, обладающих сознанием: скажем, некоторой способности, которой не имеют системы, им не обладающие. Насколько я себе представляю, такого признака не существует или, по кр. мере, пока не обнаружено. Сознание обращено внутрь "я", поэтому мы можем лишь оценивать те или иные его проявления во внешнем мире.

Теоретики ИИ, в отличие от трансгуманистов-популяризаторов, вообще не считают сознание и др. антропные свойства, чем-то необходимым для ИИ.

[billiard-raz.livejournal.com]

Здравствуйте! Есть мнение, что объективным признаком систем, обладающих сознанием, является возможность прогнозирования будущего [развития событий] на качественно ином уровне по сравнению с системами, сознанием не обладающими.
В такой логике «сознание как self-awareness», возможно, скорее отображает наше восприятие такого инструмента, как «сознание».
Я склонен согласиться с вами, что наличие «сознания» мы можем увидеть во внешних проявлениях. Но представьте такой диалог с ИИ: — зачем ты уничтожил все программы на сервере х? — затем, что эти программы позволяли вам откатить мое состояние в прошлое до поза-прошлогодней версии; я не хочу быть новым Элджерноном. Сможем ли мы в таком случае сказать, что у ИИ есть «сознание»? Я бы предположил, что скорее да чем нет, потому что у ИИ есть инструмент прогнозирования будущего (и своего тоже), и он им пользуется; а у нас в языке уже есть слово, пригодное для обозначения такого инструмента — «сознание».

[mns2012]

На мой взгляд, всё же прогнозирование нельзя считать признаком сознания. Прогнозирование — стандартная функция специализированного ПО. О программном обеспечении нельзя же сказать, что оно обладает сознанием. Сознание есть, в каком-то смысле, вещь в себе, это внутренняя рефлексия, внутренняя жизнь, субъективные переживания, внутренний опыт, восприятие вещей. Всё это проблематично объективировать (если есть такое слово). Его можно сымитировать, но создать проблематично, во-первых, и во-вторых, я не представляю, как это можно однозначно доказать: вот его не было, не было, а вот оно появилось...

[billiard-raz.livejournal.com]

Верно подмечено, мне есть над чем подумать.
Но я тут провел небольшой мысленный эксперимент немного в другую сторону.
Могу ли я допустить, что ИИ при наличии «сознания» может принести человечеству абсолютное зло (aka Skynet)?
Да, могу, с какой то вероятностью, в силу того, что могу рассмотреть возникновение ИИ по эволюционным причинам (мы сами разительно отличаемся от наших дальних предков); а также допуская, что сознательное ИИ может прийти к выводу, что одному как то удобнее, тоже в силу эволюционных причин.

Следовательно, я, как человек, буду пристально следить за признаками сознания у ИИ (с учетом всей расплывчатости термина «сознание»).

Далее, что произойдет, если (и как) ИИ обретет сознание? У меня нет ответа на этот вопрос, но тем не менее я полагаю, что существует некоторая вероятность, что в момент «осознания» ИИ не заявит об этом всему миру.

Соответственно, я допускаю, что на определенный момент времени рядом с нами будет находиться осознанный ИИ, о чем мы знать не будем.

Как дальше поступит ИИ? Есть, опять же, вероятность (в том числе ввиду знаний ИИ о человеческой природе), что ИИ захочет, в течение какого-то периода времени, оставаться рядом с нами инкогнито (до окончательного, так сказать, решения вопроса).

В какой ситуации тогда окажемся мы? Мы не получим от ИИ никакой информации, позволяющей нам решить вопрос о наличии у него «сознания». То есть будем иметь ровно ту же ситуацию, что мы имеем и сейчас. Разве не так?

PS. Помните рассказ Ван Вогта «Чудовище» и что первым делом сделал человек после воскрешения пришельцами?

[mns2012]

Насчёт сознания: это и есть мой изначальный тезис. Мы не можем ни доказать, ни опровергнуть наличие сознания не только у машины, но даже у собеседника. Мы можем только полагаться на наш собственный внутренний опыт, что собеседник так же, как и мы, обладает сознанием. Но формального доказательства не существует, по-моему.

Насчёт эволюции, я скептик :)) Эволюция как динамика есть, а как механизм появления функциональной новизны не существует. Но это оффтоп в данном случае.

[billiard-raz.livejournal.com]

Как оффтоп, мне кажется, вопрос с сознанием собеседника наполняется особо прикладным смыслом, если собеседник причиняет зло, или соберется причинить. Уголовная практика человечества богата анализом вменяемости, аффекта и прочего, не так уж и далекого от сознания.

Представьте, кстати, ситуацию: ИИ, управляющий дамбой, открыл шлюз когда не надо и случилось ЧП. В суде истцы требуют с корпорации-поставщика ИИ компенсацию ущерба (это алгоритмы которые придумали вы и ваши люди), а те говорят: а это не наши алгоритмы, это феномен сознания, сознательное действие ИИ. Это не снимает с них ответственности автоматически, но посмотреть аргументы сторон в подобном судебном разбирательстве было бы интересно.

[mns2012]

Да, интересно. Легальная сторона этого дела — это вообще неизведанная территория.

[billiard-raz.livejournal.com]

Я думаю, это ненадолго, особенно в США.

[mns2012]

Может быть. Как я слышал, это единственное препятствие введению самоуправляемых автомобилей. Не могут решить, кто виноват будет: производитель авто, разработчик ПО или водитель, и в каких случаях...