Как они собираются доказывать?

[mns2012]

Доказать или опровергнуть наличие сознания у машины, на мой взгляд, невозможно, как невозможно доказать или опровергнуть наличие сознания у собеседника. Мы можем охарактеризовать лишь внешние проявления сознания, а не само сознание.

Comments

[wladisvlad.livejournal.com]

>создаешь машину
>смотришь как она работает
>придумываешь под нее параметры
>делаешь исследования где твоя машина полностью совпадает с твоими параметрами

Поздравляю вас! Вы создали настоящий ии!
(Да, в понятие "машина" входят мельницы всех видов, волчок йо-йо, колода карт, два кирпича, кусок горящего пластика и т.п.)

[uri-ben-cephas.livejournal.com]

Если в числе аксиом положение, что кроме плоти и её движения ничего нет, то волей-неволей любая имитация чего-то человеческого будет восприниматься как доказательство. Нематериальная причина отсекается на старте, а имитация - вот она, факт налицо. А сознание, ну у нас же оно есть, и хотя его прямо детектировать нельзя, будем думать, что оно там где-то есть или будет в более совершенной имитации. Что на входе, то и на выходе.

[mns2012]

Это понятно. Но здесь нет доказательства как такового, здесь просто отрицание на уровне аксиоматики. У этой системы взглядов, как известно, проблемы с обоснованием логики. Но это другой вопрос.

[aziopik.livejournal.com]

А это уже неважно.

Наша жизнь меняется так, как если бы машина реально обладала сознанием вне зависимости от того, так это или нет — тыц (https://aziopik.livejournal.com/1387664.html).

[mns2012]

Я думаю, что это важно, во-первых, и во-вторых, что "зазор" между естественным и искусственным разумом никогда не перекроется. Сейчас много пишут в победном тоне какого-нибудь Курцвейля, но также появляются и трезвые публикации.

[mns2012]

Алаверды. Важно в теоретическом плане, поскольку нарратив такой, что скоро мы создадим сильный ИИ. А понятие сильного ИИ предполагает сознание. Я согласен, что в некоторых вопросах то, что уже создано, превосходит возможности отдельного специалиста: например, анализ изображений, скажем, постановка диагноза по МРТ. Сильно изменится область создания ПО. Например, я согласен, что N программистов можно сократить с использованием ИИ, однако полностью сократить разработчика как вид, всё-таки не удастся. В разработке ПО уже используется ИИ и она сильно изменится в ближайшем будущем. Однако, на мой взгляд, человека полностью вынести за скобки не удастся никогда, тем более наделить машину сознанием.

[areksi.livejournal.com]

Есть и другие формы сознания, помимо человеческих, и они вполне могут воспользоваться субстратом ИИ...

[mns2012]

Причем тут это? Речь идёт о невозможности формального доказательства.

[areksi.livejournal.com]

Мне не понятно, где тут проблема и зачем нужно что-то доказывать. "Интеллект" бывает разным, достаточно посмотреть на множество разнообразных живых существ. Почему в случае многослойного и "сильного" машинного ИИ мы не сможем получить своеобразный такой новый вариант? На человеческий он похож не может быть в силу отсутствия тела, а так, почему нет?

[mns2012]

=Мне не понятно, где тут проблема и зачем нужно что-то доказывать.=

Так и скажите. Только зачем тогда комментировать?!

[areksi.livejournal.com]

С целью прояснить, что именно Вы имеете ввиду, поэтому и спросил. Или у Вас одностороннее вещание?

[mns2012]

То, что я имею в виду, мне кажется, я обозначил в записи и даже дополнительно пояснил. Я имею в виду проблему формального доказательства наличия сознания. На мой взгляд, она не имеет решения.

Зачем это нужно? Зачем вообще нужна теория? Хотя бы для того, чтобы лучше понимать, что происходит.

[areksi.livejournal.com]

Для теории нужны фактические предпосылки. Вы написали, что некие люди собираются доказывать наличие сознания (вероятно, у ИИ?). Мне кажется, что для осмысленного ответа на этот вопрос надо определить, что мы называем "сознанием" — свободу воли, или способность к (автономному) творчеству, или способность к долговременному планированию или иное что. Вот, собственно, почему я попросил уточнить, что именно имелось ввиду...

[mns2012]

Это резонно.

Некие люди -- это популяризаторы искусственного интеллекта типа Рэя Курцвейля. Сильный ИИ, как его вводит Сёрл, предполагает, что машина может иметь сознание, тогда как слабый ИИ предполагает, что машина ведет себя как будто обладает сознанием.

Сознание -- это наличие внутреннего "я", awareness of oneself, способность субъективного переживания событий. По кр. мере, так об этом написано здесь.

Наличие или отсутствие сознания недоказуемо. Возникает вопрос: возможно ли утверждать, что машина обладает сознанием?

Кмк, на этот вопрос можно было бы ответить положительно только при условии существования некоторого объективного признака систем, обладающих сознанием: скажем, некоторой способности, которой не имеют системы, им не обладающие. Насколько я себе представляю, такого признака не существует или, по кр. мере, пока не обнаружено. Сознание обращено внутрь "я", поэтому мы можем лишь оценивать те или иные его проявления во внешнем мире.

Теоретики ИИ, в отличие от трансгуманистов-популяризаторов, вообще не считают сознание и др. антропные свойства, чем-то необходимым для ИИ.

[areksi.livejournal.com]

Спасибо, становится понятнее, я этих теоретиков ИИ как-то не читаю. Кроме того, "Сознание как наличие внутреннего "я", awareness of oneself, способность субъективного переживания событий" вполне можно имитировать, и, опять таки, мы возвращаемся к тому, что считать "сознанием", в каком смысле? Есть ли сознание у медведя, ворона, осьминога, маленького ребенка — и если таки есть, то придется признать градации и индивидуальные особенности того, что мы называем "сознанием"...

[billiard-raz.livejournal.com]

Здравствуйте! Есть мнение, что объективным признаком систем, обладающих сознанием, является возможность прогнозирования будущего [развития событий] на качественно ином уровне по сравнению с системами, сознанием не обладающими.
В такой логике «сознание как self-awareness», возможно, скорее отображает наше восприятие такого инструмента, как «сознание».
Я склонен согласиться с вами, что наличие «сознания» мы можем увидеть во внешних проявлениях. Но представьте такой диалог с ИИ: — зачем ты уничтожил все программы на сервере х? — затем, что эти программы позволяли вам откатить мое состояние в прошлое до поза-прошлогодней версии; я не хочу быть новым Элджерноном. Сможем ли мы в таком случае сказать, что у ИИ есть «сознание»? Я бы предположил, что скорее да чем нет, потому что у ИИ есть инструмент прогнозирования будущего (и своего тоже), и он им пользуется; а у нас в языке уже есть слово, пригодное для обозначения такого инструмента — «сознание».

[mns2012]

На мой взгляд, всё же прогнозирование нельзя считать признаком сознания. Прогнозирование — стандартная функция специализированного ПО. О программном обеспечении нельзя же сказать, что оно обладает сознанием. Сознание есть, в каком-то смысле, вещь в себе, это внутренняя рефлексия, внутренняя жизнь, субъективные переживания, внутренний опыт, восприятие вещей. Всё это проблематично объективировать (если есть такое слово). Его можно сымитировать, но создать проблематично, во-первых, и во-вторых, я не представляю, как это можно однозначно доказать: вот его не было, не было, а вот оно появилось...

[billiard-raz.livejournal.com]

Верно подмечено, мне есть над чем подумать.
Но я тут провел небольшой мысленный эксперимент немного в другую сторону.
Могу ли я допустить, что ИИ при наличии «сознания» может принести человечеству абсолютное зло (aka Skynet)?
Да, могу, с какой то вероятностью, в силу того, что могу рассмотреть возникновение ИИ по эволюционным причинам (мы сами разительно отличаемся от наших дальних предков); а также допуская, что сознательное ИИ может прийти к выводу, что одному как то удобнее, тоже в силу эволюционных причин.

Следовательно, я, как человек, буду пристально следить за признаками сознания у ИИ (с учетом всей расплывчатости термина «сознание»).

Далее, что произойдет, если (и как) ИИ обретет сознание? У меня нет ответа на этот вопрос, но тем не менее я полагаю, что существует некоторая вероятность, что в момент «осознания» ИИ не заявит об этом всему миру.

Соответственно, я допускаю, что на определенный момент времени рядом с нами будет находиться осознанный ИИ, о чем мы знать не будем.

Как дальше поступит ИИ? Есть, опять же, вероятность (в том числе ввиду знаний ИИ о человеческой природе), что ИИ захочет, в течение какого-то периода времени, оставаться рядом с нами инкогнито (до окончательного, так сказать, решения вопроса).

В какой ситуации тогда окажемся мы? Мы не получим от ИИ никакой информации, позволяющей нам решить вопрос о наличии у него «сознания». То есть будем иметь ровно ту же ситуацию, что мы имеем и сейчас. Разве не так?

PS. Помните рассказ Ван Вогта «Чудовище» и что первым делом сделал человек после воскрешения пришельцами?

[mns2012]

Насчёт сознания: это и есть мой изначальный тезис. Мы не можем ни доказать, ни опровергнуть наличие сознания не только у машины, но даже у собеседника. Мы можем только полагаться на наш собственный внутренний опыт, что собеседник так же, как и мы, обладает сознанием. Но формального доказательства не существует, по-моему.

Насчёт эволюции, я скептик :)) Эволюция как динамика есть, а как механизм появления функциональной новизны не существует. Но это оффтоп в данном случае.

[masterspammer.livejournal.com]

Собственно очень похоже, что так и есть (вот только слова "сознание", "личность" и т.д. уж очень "затёрты", использованы много раз по-разному, тут бы хорошо новые термины использовать, без такой предыстории), внутреннее "я" != интеллект (вот прямо совсем и могут быть одно без другого или с другим в любых сочетаниях), мы привыкли, что интеллект связан с сознанием (и сознание именно как глубокое понимание себя требует интеллект), а другие варианты... не попадались пока. А вот внутреннее я скорее всего может быть и разным и составным.

Плюс ещё мы ни разу не видели сознание со стороны (не по его проявлениям, а как процесс), вот взяли живого человека, засунули его в томограф, детально увидели каждый нейрон (сейчас такого томографа нет, но прогресс идёт), а дальше - как это понять? Длинный путь, на котором сделаны хорошо, если первые шаги, а то ещё и никаких шагов не сделано. Человека мы как-то понимаем, потому как сами люди, а вот возьмём морского зайца (моллюск, интересен тем, что у него нейроны большие) - как понять, есть ли у него внутренний мир? Тут по уму нужна целая наука, которой ещё нет.


Для аналогии пример - у нас есть математика и информатика - со знанием этих наук можно создать компьютер. Без знания этих наук понять компьютер не получится - разве что в процессе понимания создать эти науки. Число, логика, алгоритм - без этих слов и понятий не обойтись.

[billiard-raz.livejournal.com]

Как оффтоп, мне кажется, вопрос с сознанием собеседника наполняется особо прикладным смыслом, если собеседник причиняет зло, или соберется причинить. Уголовная практика человечества богата анализом вменяемости, аффекта и прочего, не так уж и далекого от сознания.

Представьте, кстати, ситуацию: ИИ, управляющий дамбой, открыл шлюз когда не надо и случилось ЧП. В суде истцы требуют с корпорации-поставщика ИИ компенсацию ущерба (это алгоритмы которые придумали вы и ваши люди), а те говорят: а это не наши алгоритмы, это феномен сознания, сознательное действие ИИ. Это не снимает с них ответственности автоматически, но посмотреть аргументы сторон в подобном судебном разбирательстве было бы интересно.

[mns2012]

Да, интересно. Легальная сторона этого дела — это вообще неизведанная территория.

[mns2012]

Да, это так. Но мне кажется, что наука может изучать нечто объективное, а сознание субъективно, вещь в себе. Оно конечно проявляется вовне, но эти проявления по-моему неотличимы от проявлений систем, не обладающих сознанием. Интересная тема... На всякий случай, моё мнение, что сознание существует. Только с формальным доказательством, как я вижу, проблемы.

[billiard-raz.livejournal.com]

Я думаю, это ненадолго, особенно в США.

[masterspammer.livejournal.com]

Изучать по внешним проявления, кажется мне, тупик. Вот лежит человек, парализованный, нет у него каких-то проявлений (хорошо, если глазами двигает) - что у него с сознанием? Кстати, перспективное направление исследований - медицинское - понять, что в голове после того же инсульта.

Анализ активности самого мозга выглядит более продуктивно (тут зрительная кора, тут - обонятельная, а тут - сознание - скажем мы этак лет через 200 исследований).

Да, чуть не забыл - есть люди, для которых чужие субъективные ощущения (и кажется мысли - уже не вспомню) реально существуют. Это - сиамские близнецы, сросшиеся головами. Есть несколько таких.