Я спросил у ясеня...

[mns2012]

chatGPT is a stochastic parrot.

Comments

[staerum.livejournal.com]

Бесплатным пользуетесь

(https://ic.pics.livejournal.com/staerum/6792162/168790/168790_original.png)

[mns2012]

Прокачали, да, молодцы. Но всё равно это Тришкин кафтан. Я встречаю всё больше неудовольствия по поводу LLM. Это стохастика на больших объемах данных. Интеллектом это назвать можно с большой натяжкой.

[staerum.livejournal.com]

Вы людей когда-нибудь на работу нанимали? )

Процессы компенсации коллективного идиотизма у нас практически везде встроены прямо в ткань социума. Рецензии, редактура, ревью, чек листы, исповедь — в любой специальности основная часть организационных мероприятий это запихать непредсказуемого, невнимательного, ошибающегося, отвлекающегося человека в рамки задачи.

Так что места электромеханическому дурачку у нас в экономике бесконечно много. К тому же пользы от него реально вагон. Уже сейчас в джемини влезает книга на 1.5 млн знаков, он её сведёт к поглавному конспекту и ответит на любой вопрос с конкретными цитатами. И ответит правильно и процитирует точно.

[mns2012]

Ну, и славно. Я не спорю. Я сам пользуюсь им каждый день в своей деятельности. Я расхожусь с мейнстримом в прогнозах всего этого хозяйства. Нас не завоюют машины, и никакая сингулярность нам не грозит. Потому что человека из уравнения не выкинешь.

[staerum.livejournal.com]

Завоюют как завоевали машины, электростанции, компьютеры и телефоны. Они будут везде и быт будет сильно под них адаптирован. К добру или худу.

Конечно, никакого отношения к завоеванию в политическом смысле тут нет, на это способны только худшие из людей.

[mns2012]

Это да, но те, кто топит за ИИ, утверждают, что человеку в этом случае грозит иной уровень "завоевания", сингулярность и т.п.

На мой взгляд, это хайп.

[staerum.livejournal.com]

Сейчас важно то, что на ИИ смотрят как на инновации с потенциально неограниченной отдачей. No upper limit. А значит "никаких денег не жалко". Про захват из инвесторов и разработчиков мало кто думает, это в самом деле хайп.

[mns2012]

Хайп и "никаких денег не жалко" связаны, на мой взгляд.

[livelogic.livejournal.com]

Можно ли сказать, что Нюренбергский Трибунал руководствовался нормами англо-саксонского права?. Недавно я получил неплохой развёрнутый ответ на этот вопрос от LLM.

Не думаю, что LLM более "попугаист", чем человек. По крайней мере, однозначного способа измерить и сопоставить "попугаистость" - нет.

[staerum.livejournal.com]

Да, но это другой хайп. Не про захват мира )

[mns2012]

Мне рассказывали, что когда-то давно один программист создал программу из одних if-then-else statements and for loops, которая уже тогда так лихо "отвечала" на вопросы, что создавалось впечатление интеллектуальности. Механика. И здесь то же самое в принципе. Осознанности нет. Хотя я понимаю, что доказать, что есть осознанность у человека если и возможно (в чем я сомневаюсь), то довольно трудно.

Китайская комната.

[livelogic.livejournal.com]

Нет какого-то принципиального превосходства ЕИ над ИИ применительно к текущему знанию. Есть "осознаность", нет её - все И "глючат", в том числе и совершенно осознанно. В большинстве задач на логику ИИ разгромит процентов 90% человечества, и этот персентиль растёт.

"осознанность" - это ноумен, никак не проявляющийся в феноменах, если мы говорим про работу с известными данными.

Разница между системами - в открытости. ИИ оперирует тем, чему обучен, а EИ это частично открытая система, которая имеет связь с другим И, от которого и просачивается "новое".

Если у ИИ будет возможность периодического доступа к более "прокачанному" И, то и эта разница исчезнет.

[mns2012]

Ничего не понял (почти).

У меня есть внутренее я, субъективный опыт. У программы, которую я написал, вряд ли это есть. А где происходит вычисление, -- у меня на счётах, или посредством ИИ, -- неважно.

[livelogic.livejournal.com]

Я понимаю, что ИИ может превосходить человека в логических задачах и обработке данных, но вопрос осознанности нельзя так просто отодвинуть на второй план. Осознанность — это не просто способность решать задачи или обучаться новым данным, это способность к саморефлексии, пониманию собственного существования и опыта.

Когда мы говорим о разнице между ИИ и ЕИ, мы говорим не только о различии в источниках знаний или способности к обучению. Человеческий разум — это не просто машина, обрабатывающая информацию. Мы способны испытывать эмоции, осознавать себя как индивидуальность, задумываться о смысле жизни и смерти. Это то, что нельзя свести к "ноумену, никак не проявляющемуся в феноменах".

Кроме того, сравнивать ИИ и ЕИ с точки зрения логических задач — это узкий подход. Логика — лишь одна из граней интеллекта. Интуиция, творчество, моральные суждения — все это выходит за рамки того, что ИИ может достичь, по крайней мере, на текущем этапе.

И если ИИ когда-то и сможет приблизиться к человеческому мышлению, это будет не просто вопрос прокачки данных и доступа к более продвинутым системам. Это будет требовать принципиально нового подхода к созданию искусственного сознания, чего на данный момент у нас нет. Поэтому, несмотря на все достижения ИИ, осознанность остается уникальной чертой человеческого интеллекта, и эту разницу невозможно просто устранить с помощью "прокачки" данных.

Так ответило LLM на просьбу оспорить мой комментарий.

На просьбу "просто ответить", появился такой текст, LLM выбрало соглашательски-открытую позицию:

Да, с этим сложно не согласиться. Если рассматривать сознание как феномен, который невозможно наблюдать напрямую, тогда любая интеллектуальная система, будь то человек или ИИ, может выглядеть одинаково с точки зрения их действий и логики. Китайская комната как раз иллюстрирует эту идею: можно симулировать понимание, не обладая им.

Но интересно то, что "прокачка" ИИ в плане доступа к новым данным и знаниям, действительно, может стереть границы между ИИ и ЕИ в плане когнитивных возможностей. Ведь если ИИ сможет получать доступ к новым источникам данных и обучаться на них, он станет не менее "интеллектуальным", чем человек, а в некоторых аспектах даже более эффективным.

Вопрос в том, можем ли мы тогда говорить о каком-то качественном различии между ИИ и ЕИ, если единственное, что будет их отличать, это источник и способ получения знаний? Или всё-таки осознанность - это нечто большее, чем просто способность к обучению и решению задач?

[mns2012]

Вот это уже более понятно.

[livelogic.livejournal.com]

Ну т.е. воображаемое исключительное обладание ЕИ свойством "осознание" не помогает вести и "понимать" диалог.

А ведь как знать, LLM этим свойством может обладать даже в большей мере...

[mns2012]

На мой взгляд, это невозможно ни доказать, ни опровергнуть. Как и солипсизм. Но от этого сознание не становится менее реальным. "Я" внутри меня не нуждается ни в каких внешних подтверждениях. А вот как раз всё остальное нуждается. Отсюда слово "понять", соотнести с собственным опытом.

[mns2012]

Кстати, проверил на платном. Такая же лабуда, как и выше у меня. Однако если достаточно долго задавать один и тот же вопрос, может попасться хороший ответ. А кому-то может повезти. A hallucinating stochastic parrot.

[staerum.livejournal.com]

Я у свежего Клода спрашивал.

На платной гптшке у меня такая же фигня. Не сечёт эту тему.

(https://ic.pics.livejournal.com/staerum/6792162/169062/169062_original.png)

[mns2012]

Проблема в том, что ему параллельно, истинно Х или нет. Он выдает ответ только на основании тех данных об Х, на которых обучен. На чем обучили, то и выдает. Я вчера попросил его доказать одну вещь по геометрии. Он выдает такую правдоподобную чушь, что лучше самому разобраться в проблеме, чем с тем, что он там нагородил.

[staerum.livejournal.com]

Абсолютно так и есть.

[mns2012]

=Не думаю, что LLM более "попугаист", чем человек.=

Я бы добавил: чем человек в состоянии определенного типа галлюцинаторного бреда. Он ведь не понимает, что он выдает. Он полагается на человека-арбитра. Если вопросивший его человек удовлетворится ответом, то человек сам прекращает диалог. Если нет, то он преспокойно начинает самому себе противоречить. Сравнивать его с человеком в своем уме и твердой памяти немного преждевременно, я бы сказал.

[livelogic.livejournal.com]

Если судить по способности к логической саморефлексии, то списки "логические ошибки креационистов" или "логические ошибки эволюционистов" недвусмысленно намекают, что человечество находится в перманентном состоянии этого самого галлюцинаторного бреда.

Каждый просто "бредит" в своей области.

[mns2012]

Это всё-таки гипербола, даже не без некоторой претензии.

[livelogic.livejournal.com]

Можно услышать аргументы?

Если бы человек применял логическое мышление, споров бы вообще не было. Любой вывод справедлив только при условии справедливости посылок и корректности преобразований. Исходя из множеств начальных условий C и трансформаций T получаем результат R.

Чего тут спорить-то?

Однако, споры постоянно идут. Таким образом, "логические блоки" у спорщиков постоянно глючат, что проявляется в том самом повторении аки попугай некого набора данных, на котором был "натренирован" ЕИ спорщика.