Нет какого-то принципиального превосходства ЕИ над ИИ применительно к текущему знанию. Есть "осознаность", нет её - все И "глючат", в том числе и совершенно осознанно. В большинстве задач на логику ИИ разгромит процентов 90% человечества, и этот персентиль растёт.
"осознанность" - это ноумен, никак не проявляющийся в феноменах, если мы говорим про работу с известными данными.
Разница между системами - в открытости. ИИ оперирует тем, чему обучен, а EИ это частично открытая система, которая имеет связь с другим И, от которого и просачивается "новое".
Если у ИИ будет возможность периодического доступа к более "прокачанному" И, то и эта разница исчезнет.
У меня есть внутренее я, субъективный опыт. У программы, которую я написал, вряд ли это есть. А где происходит вычисление, -- у меня на счётах, или посредством ИИ, -- неважно.
Я понимаю, что ИИ может превосходить человека в логических задачах и обработке данных, но вопрос осознанности нельзя так просто отодвинуть на второй план. Осознанность — это не просто способность решать задачи или обучаться новым данным, это способность к саморефлексии, пониманию собственного существования и опыта.
Когда мы говорим о разнице между ИИ и ЕИ, мы говорим не только о различии в источниках знаний или способности к обучению. Человеческий разум — это не просто машина, обрабатывающая информацию. Мы способны испытывать эмоции, осознавать себя как индивидуальность, задумываться о смысле жизни и смерти. Это то, что нельзя свести к "ноумену, никак не проявляющемуся в феноменах".
Кроме того, сравнивать ИИ и ЕИ с точки зрения логических задач — это узкий подход. Логика — лишь одна из граней интеллекта. Интуиция, творчество, моральные суждения — все это выходит за рамки того, что ИИ может достичь, по крайней мере, на текущем этапе.
И если ИИ когда-то и сможет приблизиться к человеческому мышлению, это будет не просто вопрос прокачки данных и доступа к более продвинутым системам. Это будет требовать принципиально нового подхода к созданию искусственного сознания, чего на данный момент у нас нет. Поэтому, несмотря на все достижения ИИ, осознанность остается уникальной чертой человеческого интеллекта, и эту разницу невозможно просто устранить с помощью "прокачки" данных.
Так ответило LLM на просьбу оспорить мой комментарий.
На просьбу "просто ответить", появился такой текст, LLM выбрало соглашательски-открытую позицию:
Да, с этим сложно не согласиться. Если рассматривать сознание как феномен, который невозможно наблюдать напрямую, тогда любая интеллектуальная система, будь то человек или ИИ, может выглядеть одинаково с точки зрения их действий и логики. Китайская комната как раз иллюстрирует эту идею: можно симулировать понимание, не обладая им.
Но интересно то, что "прокачка" ИИ в плане доступа к новым данным и знаниям, действительно, может стереть границы между ИИ и ЕИ в плане когнитивных возможностей. Ведь если ИИ сможет получать доступ к новым источникам данных и обучаться на них, он станет не менее "интеллектуальным", чем человек, а в некоторых аспектах даже более эффективным.
Вопрос в том, можем ли мы тогда говорить о каком-то качественном различии между ИИ и ЕИ, если единственное, что будет их отличать, это источник и способ получения знаний? Или всё-таки осознанность - это нечто большее, чем просто способность к обучению и решению задач?
На мой взгляд, это невозможно ни доказать, ни опровергнуть. Как и солипсизм. Но от этого сознание не становится менее реальным. "Я" внутри меня не нуждается ни в каких внешних подтверждениях. А вот как раз всё остальное нуждается. Отсюда слово "понять", соотнести с собственным опытом.
существуют люди, с которыми процесс исправления ошибок сходится гораздо быстрее, чем если бы выдавание ответа было чисто стохастическим процессом без понимания. ИИ пока что, как видно, не исправляет свои ошибки.
Если бы не отличались, то для исправления ошибок у ИИ было бы достаточно другого ИИ. Вы полетите на самолете, который разрабатывали десяток ИИ, исправлявших ошибки друг друга?
Да вот в комментяриях к этой же заметке, обратите внимание, "другой" ИИ пофиксил проблему. https://mns2012.livejournal.com/975960.html?thread=3859288#t3859288
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
branchandroot
no subject
Date: 2024-08-25 02:17 pm (UTC)"осознанность" - это ноумен, никак не проявляющийся в феноменах, если мы говорим про работу с известными данными.
Разница между системами - в открытости. ИИ оперирует тем, чему обучен, а EИ это частично открытая система, которая имеет связь с другим И, от которого и просачивается "новое".
Если у ИИ будет возможность периодического доступа к более "прокачанному" И, то и эта разница исчезнет.
no subject
Date: 2024-08-25 03:46 pm (UTC)У меня есть внутренее я, субъективный опыт. У программы, которую я написал, вряд ли это есть. А где происходит вычисление, -- у меня на счётах, или посредством ИИ, -- неважно.
no subject
Date: 2024-08-25 06:24 pm (UTC)Когда мы говорим о разнице между ИИ и ЕИ, мы говорим не только о различии в источниках знаний или способности к обучению. Человеческий разум — это не просто машина, обрабатывающая информацию. Мы способны испытывать эмоции, осознавать себя как индивидуальность, задумываться о смысле жизни и смерти. Это то, что нельзя свести к "ноумену, никак не проявляющемуся в феноменах".
Кроме того, сравнивать ИИ и ЕИ с точки зрения логических задач — это узкий подход. Логика — лишь одна из граней интеллекта. Интуиция, творчество, моральные суждения — все это выходит за рамки того, что ИИ может достичь, по крайней мере, на текущем этапе.
И если ИИ когда-то и сможет приблизиться к человеческому мышлению, это будет не просто вопрос прокачки данных и доступа к более продвинутым системам. Это будет требовать принципиально нового подхода к созданию искусственного сознания, чего на данный момент у нас нет. Поэтому, несмотря на все достижения ИИ, осознанность остается уникальной чертой человеческого интеллекта, и эту разницу невозможно просто устранить с помощью "прокачки" данных.
Так ответило LLM на просьбу оспорить мой комментарий.
На просьбу "просто ответить", появился такой текст, LLM выбрало соглашательски-открытую позицию:
Да, с этим сложно не согласиться. Если рассматривать сознание как феномен, который невозможно наблюдать напрямую, тогда любая интеллектуальная система, будь то человек или ИИ, может выглядеть одинаково с точки зрения их действий и логики. Китайская комната как раз иллюстрирует эту идею: можно симулировать понимание, не обладая им.
Но интересно то, что "прокачка" ИИ в плане доступа к новым данным и знаниям, действительно, может стереть границы между ИИ и ЕИ в плане когнитивных возможностей. Ведь если ИИ сможет получать доступ к новым источникам данных и обучаться на них, он станет не менее "интеллектуальным", чем человек, а в некоторых аспектах даже более эффективным.
Вопрос в том, можем ли мы тогда говорить о каком-то качественном различии между ИИ и ЕИ, если единственное, что будет их отличать, это источник и способ получения знаний? Или всё-таки осознанность - это нечто большее, чем просто способность к обучению и решению задач?
no subject
Date: 2024-08-25 06:48 pm (UTC)no subject
Date: 2024-08-25 07:06 pm (UTC)А ведь как знать, LLM этим свойством может обладать даже в большей мере...
no subject
Date: 2024-08-25 08:11 pm (UTC)no subject
Date: 2024-08-28 01:52 pm (UTC)ИИ пока что, как видно, не исправляет свои ошибки.
no subject
Date: 2024-08-28 01:55 pm (UTC)Даже и в группе человек глючит, пример массового глюка - любой холивар.
no subject
Date: 2024-08-28 02:01 pm (UTC)Вы полетите на самолете, который разрабатывали десяток ИИ, исправлявших ошибки друг друга?
no subject
Date: 2024-08-28 02:13 pm (UTC)https://fat-yankey.livejournal.com/206195.html?thread=19826035#t19826035
> Вы полетите на самолете, который разрабатывали десяток ИИ, исправлявших ошибки друг друга?
Пока нет. ЕИ на текущий момент получше, в некоторых областях.
no subject
Date: 2024-08-28 02:28 pm (UTC)https://mns2012.livejournal.com/975960.html?thread=3859288#t3859288
Всё, как у людей :)
no subject
Date: 2024-08-28 02:34 pm (UTC)no subject
Date: 2024-08-28 04:12 pm (UTC)