Китайская комната

[mns2012]

Китайская комната Дж.Серла -- аргумент против гипотезы сильного ИИ (что якобы ИИ способен что-то понимать так же, как понимает это человек). "Механика" ИИ отличается от мыслей человека тем, что представления об истинности суждений у неё нет, а у человека есть. Человек, хотя и делает ошибки, понимает, чем рассуждение отличается от набора несвязанных суждений. ИИ шурует безотносительно содержания высказываний. Китайская комната.

AI + Human Intelligence >> Human Intelligence

Присутствие Human Intelligence слева никуда не денется. ИИ нуждается в узде естественного интеллекта, чтобы люди не ели ядовитые грибы. Тришкин кафтан: залатали дырку там, появилась новая здесь. Нужен оракул, эксперт, которым и выступает человек (или группа специалистов). То, что человек делает ошибки, в каком-то смысле является a blessing in disguise.

Утопическое представление о том, что логика спасёт мир, старо, как мир.