Robert Marks on AI

[mns2012]

AI always operates in a silo, whereas thinking outside of the box is mandatory for creativity. If AI is trained on Bach, it will not generate a Stravinsky. R.Marks

Затрагиваемые в видео вопросы: AI, the Lovelace test for creativity, AI and creativity, AI and good/evil, computable and non-computable aspects of human life, computers and understanding/sentience, John Searle's Chinese room, computers and empathy/love/compassion, Winograd schema, automatic assigning of meaning to vague pronouns, AI and humour, Church-Turing thesis


Edmond de Belamy. Картина, написанная GAN сетью (2018, wikipedia, fair use).

И всё-таки как можно удостовериться в том, что нечто (некий чёрный ящик) НЕ имеет эмпатии? Строго доказать или опровергнуть это, кмк, невозможно. В сущности, и человек, беседующий с нами, в строгом смысле слова в данном контексте является таким же чёрным ящиком, как и бот.

Маркс отвечает на этот вопрос, используя следующие силлогизмы.

Большая посылка: запрограммировать можно лишь то, что является вычислимым.
Малая посылка: AI - это программа.
Вывод: Следовательно, AI является вычислимым.

Большая посылка: Для AI доступны лишь вычислимые состояния.
Малая посылка: Эмпатия или субъективные переживания (квалиа) не являются вычислимыми.
Вывод: Следовательно, эмпатия и субъективные переживания недоступны в качестве состояний для AI.

И тем не менее, кто-нибудь может возразить:

— А кто вам сказал, что эти самые квалиа есть нечто существующее? Ведь не даром мы говорим о них как о чём-то субъективном.

Я задаю этот вопрос лишь формально, чтобы выступить в роли оппонента Р.Маркса. Я понимаю, что, в сущности, он, конечно, прав. Но возможности строгого доказательства я не вижу. Более того, я убеждён в том, что его не существует по той простой причине, что то, что мы хотели бы доказать (то есть вычислить), является невычислимым.

Обсуждаемый нами вопрос можно охарактеризовать как парадоксальный, с рациональной точки зрения, тезис об объективном существовании субъективного.

Большая область человеческого бытия не покрываема вычислениями. Есть опыт невербальный, неалгоритмизуемый. Опыт прозрения, интуиции, озарения и восприятия благодати. Но таков уж этот опыт по самому своему внутреннему свойству, что он не передаваем в полноте описанием, сколько бы слов в нём ни было. Вот почему, вероятно, свв. отцы, причастные опыту богообщения, делились о своих переживаниях лишь в общих чертах, часто заключая речь словами: "прочее же да будет почтено молчанием".