Как они собираются доказывать?

[mns2012]

Доказать или опровергнуть наличие сознания у машины, на мой взгляд, невозможно, как невозможно доказать или опровергнуть наличие сознания у собеседника. Мы можем охарактеризовать лишь внешние проявления сознания, а не само сознание.

Comments

[wladisvlad.livejournal.com]

>создаешь машину
>смотришь как она работает
>придумываешь под нее параметры
>делаешь исследования где твоя машина полностью совпадает с твоими параметрами

Поздравляю вас! Вы создали настоящий ии!
(Да, в понятие "машина" входят мельницы всех видов, волчок йо-йо, колода карт, два кирпича, кусок горящего пластика и т.п.)

[uri-ben-cephas.livejournal.com]

Если в числе аксиом положение, что кроме плоти и её движения ничего нет, то волей-неволей любая имитация чего-то человеческого будет восприниматься как доказательство. Нематериальная причина отсекается на старте, а имитация - вот она, факт налицо. А сознание, ну у нас же оно есть, и хотя его прямо детектировать нельзя, будем думать, что оно там где-то есть или будет в более совершенной имитации. Что на входе, то и на выходе.

[mns2012]

Это понятно. Но здесь нет доказательства как такового, здесь просто отрицание на уровне аксиоматики. У этой системы взглядов, как известно, проблемы с обоснованием логики. Но это другой вопрос.

[aziopik.livejournal.com]

А это уже неважно.

Наша жизнь меняется так, как если бы машина реально обладала сознанием вне зависимости от того, так это или нет — тыц (https://aziopik.livejournal.com/1387664.html).

[mns2012]

Я думаю, что это важно, во-первых, и во-вторых, что "зазор" между естественным и искусственным разумом никогда не перекроется. Сейчас много пишут в победном тоне какого-нибудь Курцвейля, но также появляются и трезвые публикации.

[mns2012]

Алаверды. Важно в теоретическом плане, поскольку нарратив такой, что скоро мы создадим сильный ИИ. А понятие сильного ИИ предполагает сознание. Я согласен, что в некоторых вопросах то, что уже создано, превосходит возможности отдельного специалиста: например, анализ изображений, скажем, постановка диагноза по МРТ. Сильно изменится область создания ПО. Например, я согласен, что N программистов можно сократить с использованием ИИ, однако полностью сократить разработчика как вид, всё-таки не удастся. В разработке ПО уже используется ИИ и она сильно изменится в ближайшем будущем. Однако, на мой взгляд, человека полностью вынести за скобки не удастся никогда, тем более наделить машину сознанием.

[areksi.livejournal.com]

Есть и другие формы сознания, помимо человеческих, и они вполне могут воспользоваться субстратом ИИ...

[mns2012]

Причем тут это? Речь идёт о невозможности формального доказательства.

[areksi.livejournal.com]

Мне не понятно, где тут проблема и зачем нужно что-то доказывать. "Интеллект" бывает разным, достаточно посмотреть на множество разнообразных живых существ. Почему в случае многослойного и "сильного" машинного ИИ мы не сможем получить своеобразный такой новый вариант? На человеческий он похож не может быть в силу отсутствия тела, а так, почему нет?

[mns2012]

=Мне не понятно, где тут проблема и зачем нужно что-то доказывать.=

Так и скажите. Только зачем тогда комментировать?!

[areksi.livejournal.com]

С целью прояснить, что именно Вы имеете ввиду, поэтому и спросил. Или у Вас одностороннее вещание?

[mns2012]

То, что я имею в виду, мне кажется, я обозначил в записи и даже дополнительно пояснил. Я имею в виду проблему формального доказательства наличия сознания. На мой взгляд, она не имеет решения.

Зачем это нужно? Зачем вообще нужна теория? Хотя бы для того, чтобы лучше понимать, что происходит.

[areksi.livejournal.com]

Для теории нужны фактические предпосылки. Вы написали, что некие люди собираются доказывать наличие сознания (вероятно, у ИИ?). Мне кажется, что для осмысленного ответа на этот вопрос надо определить, что мы называем "сознанием" — свободу воли, или способность к (автономному) творчеству, или способность к долговременному планированию или иное что. Вот, собственно, почему я попросил уточнить, что именно имелось ввиду...

[mns2012]

Это резонно.

Некие люди -- это популяризаторы искусственного интеллекта типа Рэя Курцвейля. Сильный ИИ, как его вводит Сёрл, предполагает, что машина может иметь сознание, тогда как слабый ИИ предполагает, что машина ведет себя как будто обладает сознанием.

Сознание -- это наличие внутреннего "я", awareness of oneself, способность субъективного переживания событий. По кр. мере, так об этом написано здесь.

Наличие или отсутствие сознания недоказуемо. Возникает вопрос: возможно ли утверждать, что машина обладает сознанием?

Кмк, на этот вопрос можно было бы ответить положительно только при условии существования некоторого объективного признака систем, обладающих сознанием: скажем, некоторой способности, которой не имеют системы, им не обладающие. Насколько я себе представляю, такого признака не существует или, по кр. мере, пока не обнаружено. Сознание обращено внутрь "я", поэтому мы можем лишь оценивать те или иные его проявления во внешнем мире.

Теоретики ИИ, в отличие от трансгуманистов-популяризаторов, вообще не считают сознание и др. антропные свойства, чем-то необходимым для ИИ.

[areksi.livejournal.com]

Спасибо, становится понятнее, я этих теоретиков ИИ как-то не читаю. Кроме того, "Сознание как наличие внутреннего "я", awareness of oneself, способность субъективного переживания событий" вполне можно имитировать, и, опять таки, мы возвращаемся к тому, что считать "сознанием", в каком смысле? Есть ли сознание у медведя, ворона, осьминога, маленького ребенка — и если таки есть, то придется признать градации и индивидуальные особенности того, что мы называем "сознанием"...

[masterspammer.livejournal.com]

Собственно очень похоже, что так и есть (вот только слова "сознание", "личность" и т.д. уж очень "затёрты", использованы много раз по-разному, тут бы хорошо новые термины использовать, без такой предыстории), внутреннее "я" != интеллект (вот прямо совсем и могут быть одно без другого или с другим в любых сочетаниях), мы привыкли, что интеллект связан с сознанием (и сознание именно как глубокое понимание себя требует интеллект), а другие варианты... не попадались пока. А вот внутреннее я скорее всего может быть и разным и составным.

Плюс ещё мы ни разу не видели сознание со стороны (не по его проявлениям, а как процесс), вот взяли живого человека, засунули его в томограф, детально увидели каждый нейрон (сейчас такого томографа нет, но прогресс идёт), а дальше - как это понять? Длинный путь, на котором сделаны хорошо, если первые шаги, а то ещё и никаких шагов не сделано. Человека мы как-то понимаем, потому как сами люди, а вот возьмём морского зайца (моллюск, интересен тем, что у него нейроны большие) - как понять, есть ли у него внутренний мир? Тут по уму нужна целая наука, которой ещё нет.


Для аналогии пример - у нас есть математика и информатика - со знанием этих наук можно создать компьютер. Без знания этих наук понять компьютер не получится - разве что в процессе понимания создать эти науки. Число, логика, алгоритм - без этих слов и понятий не обойтись.

[mns2012]

Да, это так. Но мне кажется, что наука может изучать нечто объективное, а сознание субъективно, вещь в себе. Оно конечно проявляется вовне, но эти проявления по-моему неотличимы от проявлений систем, не обладающих сознанием. Интересная тема... На всякий случай, моё мнение, что сознание существует. Только с формальным доказательством, как я вижу, проблемы.

[masterspammer.livejournal.com]

Изучать по внешним проявления, кажется мне, тупик. Вот лежит человек, парализованный, нет у него каких-то проявлений (хорошо, если глазами двигает) - что у него с сознанием? Кстати, перспективное направление исследований - медицинское - понять, что в голове после того же инсульта.

Анализ активности самого мозга выглядит более продуктивно (тут зрительная кора, тут - обонятельная, а тут - сознание - скажем мы этак лет через 200 исследований).

Да, чуть не забыл - есть люди, для которых чужие субъективные ощущения (и кажется мысли - уже не вспомню) реально существуют. Это - сиамские близнецы, сросшиеся головами. Есть несколько таких.

[mns2012]

Активность мозга , я считаю, — это тоже внешнее проявление. Интересно, я где-то читал, что отрицание желаний происходит при (кажущемся?) полном отсутствии мозговой активности. Мне кажется, что активность мозга не причина мыслительного процесса, а лишь корреляция. Мозг — своего рода коммутатор. Но доказать я это внятно не смогу, не моя область. Единственно, что с могу привести тут — это проблема обоснования логики в метафизическом натурализме, которая означает, что мысль (содержимое, смысл того, о чем мы думаем) не сводится к нейронным взаимодействиям, но лишь сопровождается ими.

[masterspammer.livejournal.com]

Тут философский вопрос (терминологический) - что именно считать внешним проявлением. Я имел в виду максимально полное снятие информации прежде всего о __внутренних__ процессах. Нынешнее состояние технологий по этому вопросу - вот прямо в точку "не причина мыслительного процесса, а лишь корреляция" (ну например потому что часто снимается информация о потреблении кислорода). И к нейронным __взаимодействиям__ мысль скорее всего не сводится - внутринейронные процессы просто должны иметь участие.

Про коммутатор - интересно, но скорее нет. Если интересно, могу рассказать что знаю, это несколько объёмно для комментария выходит.

А вот что мысль не сводится к ... взаимодействиям - (про обоснование логики) - думаю, что это ровно так же и в том же смысле, как стихи не сводятся к бумаге и графитному следу карандаша (или к компьютеру с монитором, если угодно).

[mns2012]

Спасибо. У нас с вами по многим вопросам согласие. У меня про несводимость смысла к физике есть несколько недавних записей. На Ютубе было интересное интервью Стивена Майера Джо Рогану. Я его даже законспектировал. Если интересно, полистайте записи чуть назад. Он хорошо про это говорит. На мой взгляд, Стивен Майер -- один из лучших сторонников гипотезы дизайна. Он говорит правильно и без упрощений (и огрублений).

[masterspammer.livejournal.com]

Так а гипотеза дизайна ничему из сказанного мной не противоречит. Несводимость смысла к физике для меня никак не противоречит тому, что вместилище смысла в каком-то смысле СДЕЛАНО из физики и только из физики (в том и ровно том смысле, что в написанном тексте есть только атомы).

А вот в вариант что из физики сделано не всё мне кажется очень странным - это такие странные творцы (сейчас скажу поэтически), которые могут сделать тело из глины, но не могут сделать из неё душу. Очень странная граница всемогущества. Можно придумать один вариант исключения (он ближе к гипотезе симуляции), но при нём уже непонятно зачем мозг такой - мог бы быть в разы проще, если сложность "снаружи".

Про понимание же "я" и сознания через проявления - тут нам повезло, что есть проявления, нам доступные и понятные (свои ощущения и эмпатия). В общем случае могло и не быть (прилетели на условный "марс", там что-то есть, оно... какое-то сложное и интересное, у него возможно есть что-то выделяющееся над "субстратом", нам, наблюдателями, непроявляемое - не "внутренний мир", но сходного уровня трансценденции), а здесь ту же работу печени снаружи мы не видим, да и изнутри тоже - нужны анализы, понимание (био)химии, обмена веществ и т.д. и т.п.

P.S. В предыдущем абзаце в скобках - мысль о том, что это "я" - не единственное трансцентентное на физическом субстрате, мы о таком не знаем и не задумываемся.

[mns2012]

СДЕЛАНО из физики.

Совершенно верно. Это особые граничные условия на движение материи в системе. По этой о особенности мы заключаем, что наилучшим образом они объясняются дизайном.

[mns2012]

=сделано не всё мне кажется очень странным=

Нематериальное, тем не менее, существует. Его существование никак из физики не выводится, но и не противоречит.

[mns2012]

Творец, не ограниченный возможностями демиурга, мне не представляется лишенным всемогущества. Он сотворил и материю, и нематериальные сущности. В материи мы видим нечто, что указывает на то, что она была сотворена. С т.зр. физики, эти указатели имеют статус гипотезы (тонкая настройка физических констант, семиозис в живых организмах). То, что эта гипотеза является дружественной теизму, некоторым людям выносит мозг.