Прокачали, да, молодцы. Но всё равно это Тришкин кафтан. Я встречаю всё больше неудовольствия по поводу LLM. Это стохастика на больших объемах данных. Интеллектом это назвать можно с большой натяжкой.
Процессы компенсации коллективного идиотизма у нас практически везде встроены прямо в ткань социума. Рецензии, редактура, ревью, чек листы, исповедь — в любой специальности основная часть организационных мероприятий это запихать непредсказуемого, невнимательного, ошибающегося, отвлекающегося человека в рамки задачи.
Так что места электромеханическому дурачку у нас в экономике бесконечно много. К тому же пользы от него реально вагон. Уже сейчас в джемини влезает книга на 1.5 млн знаков, он её сведёт к поглавному конспекту и ответит на любой вопрос с конкретными цитатами. И ответит правильно и процитирует точно.
Ну, и славно. Я не спорю. Я сам пользуюсь им каждый день в своей деятельности. Я расхожусь с мейнстримом в прогнозах всего этого хозяйства. Нас не завоюют машины, и никакая сингулярность нам не грозит. Потому что человека из уравнения не выкинешь.
Самое удивительное, что процесс ревью/ проверки всего за несколько, 2-3 буквально, итерации выдает довольно надежный результат. Хотя первый подход обычно выявляет гору недочетов. Если бы процесс их выявления был случайным, и процесс исправления стохастическим - то 2-3 подхода уменьшили бы количество дефектов в несколько раз, может даже на порядок, но это и близко не дало бы наблюдаемой надежности.
Кстати, проверил на платном. Такая же лабуда, как и выше у меня. Однако если достаточно долго задавать один и тот же вопрос, может попасться хороший ответ. А кому-то может повезти. A hallucinating stochastic parrot.
Проблема в том, что ему параллельно, истинно Х или нет. Он выдает ответ только на основании тех данных об Х, на которых обучен. На чем обучили, то и выдает. Я вчера попросил его доказать одну вещь по геометрии. Он выдает такую правдоподобную чушь, что лучше самому разобраться в проблеме, чем с тем, что он там нагородил.
Превосхо́дная сте́пень в грамматике (также суперлатив) — высшая степень проявления признака (обычно среди трёх и более человек, вещей или понятий), выраженная качественным прилагательным или образованным от него наречием (красивейший, красивее всего).
В русском языке превосходная степень может образовываться приставкой наи- (наибольший, наилучший), добавлением суффиксов -айш-, -ейш-, или словосочетанием с добавлением слов самый, наиболее (наиболее западный) к прилагательному или наречию. Должен употребляться только один из этих 3 способов.
Можно ли сказать, что Нюренбергский Трибунал руководствовался нормами англо-саксонского права?. Недавно я получил неплохой развёрнутый ответ на этот вопрос от LLM.
Не думаю, что LLM более "попугаист", чем человек. По крайней мере, однозначного способа измерить и сопоставить "попугаистость" - нет.
Мне рассказывали, что когда-то давно один программист создал программу из одних if-then-else statements and for loops, которая уже тогда так лихо "отвечала" на вопросы, что создавалось впечатление интеллектуальности. Механика. И здесь то же самое в принципе. Осознанности нет. Хотя я понимаю, что доказать, что есть осознанность у человека если и возможно (в чем я сомневаюсь), то довольно трудно.
Нет какого-то принципиального превосходства ЕИ над ИИ применительно к текущему знанию. Есть "осознаность", нет её - все И "глючат", в том числе и совершенно осознанно. В большинстве задач на логику ИИ разгромит процентов 90% человечества, и этот персентиль растёт.
"осознанность" - это ноумен, никак не проявляющийся в феноменах, если мы говорим про работу с известными данными.
Разница между системами - в открытости. ИИ оперирует тем, чему обучен, а EИ это частично открытая система, которая имеет связь с другим И, от которого и просачивается "новое".
Если у ИИ будет возможность периодического доступа к более "прокачанному" И, то и эта разница исчезнет.
У меня есть внутренее я, субъективный опыт. У программы, которую я написал, вряд ли это есть. А где происходит вычисление, -- у меня на счётах, или посредством ИИ, -- неважно.
Я понимаю, что ИИ может превосходить человека в логических задачах и обработке данных, но вопрос осознанности нельзя так просто отодвинуть на второй план. Осознанность — это не просто способность решать задачи или обучаться новым данным, это способность к саморефлексии, пониманию собственного существования и опыта.
Когда мы говорим о разнице между ИИ и ЕИ, мы говорим не только о различии в источниках знаний или способности к обучению. Человеческий разум — это не просто машина, обрабатывающая информацию. Мы способны испытывать эмоции, осознавать себя как индивидуальность, задумываться о смысле жизни и смерти. Это то, что нельзя свести к "ноумену, никак не проявляющемуся в феноменах".
Кроме того, сравнивать ИИ и ЕИ с точки зрения логических задач — это узкий подход. Логика — лишь одна из граней интеллекта. Интуиция, творчество, моральные суждения — все это выходит за рамки того, что ИИ может достичь, по крайней мере, на текущем этапе.
И если ИИ когда-то и сможет приблизиться к человеческому мышлению, это будет не просто вопрос прокачки данных и доступа к более продвинутым системам. Это будет требовать принципиально нового подхода к созданию искусственного сознания, чего на данный момент у нас нет. Поэтому, несмотря на все достижения ИИ, осознанность остается уникальной чертой человеческого интеллекта, и эту разницу невозможно просто устранить с помощью "прокачки" данных.
Так ответило LLM на просьбу оспорить мой комментарий.
На просьбу "просто ответить", появился такой текст, LLM выбрало соглашательски-открытую позицию:
Да, с этим сложно не согласиться. Если рассматривать сознание как феномен, который невозможно наблюдать напрямую, тогда любая интеллектуальная система, будь то человек или ИИ, может выглядеть одинаково с точки зрения их действий и логики. Китайская комната как раз иллюстрирует эту идею: можно симулировать понимание, не обладая им.
Но интересно то, что "прокачка" ИИ в плане доступа к новым данным и знаниям, действительно, может стереть границы между ИИ и ЕИ в плане когнитивных возможностей. Ведь если ИИ сможет получать доступ к новым источникам данных и обучаться на них, он станет не менее "интеллектуальным", чем человек, а в некоторых аспектах даже более эффективным.
Вопрос в том, можем ли мы тогда говорить о каком-то качественном различии между ИИ и ЕИ, если единственное, что будет их отличать, это источник и способ получения знаний? Или всё-таки осознанность - это нечто большее, чем просто способность к обучению и решению задач?
существуют люди, с которыми процесс исправления ошибок сходится гораздо быстрее, чем если бы выдавание ответа было чисто стохастическим процессом без понимания. ИИ пока что, как видно, не исправляет свои ошибки.
=Не думаю, что LLM более "попугаист", чем человек.=
Я бы добавил: чем человек в состоянии определенного типа галлюцинаторного бреда. Он ведь не понимает, что он выдает. Он полагается на человека-арбитра. Если вопросивший его человек удовлетворится ответом, то человек сам прекращает диалог. Если нет, то он преспокойно начинает самому себе противоречить. Сравнивать его с человеком в своем уме и твердой памяти немного преждевременно, я бы сказал.
Если судить по способности к логической саморефлексии, то списки "логические ошибки креационистов" или "логические ошибки эволюционистов" недвусмысленно намекают, что человечество находится в перманентном состоянии этого самого галлюцинаторного бреда.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
branchandroot
no subject
Date: 2024-08-24 01:00 pm (UTC)Бесплатным пользуетесь
no subject
Date: 2024-08-24 01:09 pm (UTC)no subject
Date: 2024-08-24 01:10 pm (UTC)Вы людей когда-нибудь на работу нанимали? )
Процессы компенсации коллективного идиотизма у нас практически везде встроены прямо в ткань социума. Рецензии, редактура, ревью, чек листы,
исповедь— в любой специальности основная часть организационных мероприятий это запихать непредсказуемого, невнимательного, ошибающегося, отвлекающегося человека в рамки задачи.Так что места электромеханическому дурачку у нас в экономике бесконечно много. К тому же пользы от него реально вагон. Уже сейчас в джемини влезает книга на 1.5 млн знаков, он её сведёт к поглавному конспекту и ответит на любой вопрос с конкретными цитатами. И ответит правильно и процитирует точно.
no subject
Date: 2024-08-24 01:20 pm (UTC)no subject
Date: 2024-08-24 01:21 pm (UTC)Завоюют как завоевали машины, электростанции, компьютеры и телефоны. Они будут везде и быт будет сильно под них адаптирован. К добру или худу.
Конечно, никакого отношения к завоеванию в политическом смысле тут нет, на это способны только худшие из людей.
(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2024-08-28 01:41 pm (UTC)no subject
Date: 2024-08-28 01:44 pm (UTC)Это про людей или про ИИ? )
(no subject)
From:(no subject)
From:no subject
Date: 2024-08-25 10:23 pm (UTC)no subject
Date: 2024-08-25 10:26 pm (UTC)Я у свежего Клода спрашивал.
На платной гптшке у меня такая же фигня. Не сечёт эту тему.
no subject
Date: 2024-08-26 09:56 am (UTC)no subject
Date: 2024-08-26 10:00 am (UTC)Абсолютно так и есть.
no subject
Date: 2024-08-26 05:24 pm (UTC)В русском языке превосходная степень может образовываться приставкой наи- (наибольший, наилучший), добавлением суффиксов -айш-, -ейш-, или словосочетанием с добавлением слов самый, наиболее (наиболее западный) к прилагательному или наречию. Должен употребляться только один из этих 3 способов.
no subject
Date: 2024-08-24 04:29 pm (UTC)Не думаю, что LLM более "попугаист", чем человек. По крайней мере, однозначного способа измерить и сопоставить "попугаистость" - нет.
no subject
Date: 2024-08-25 11:58 am (UTC)Китайская комната.
no subject
Date: 2024-08-25 02:17 pm (UTC)"осознанность" - это ноумен, никак не проявляющийся в феноменах, если мы говорим про работу с известными данными.
Разница между системами - в открытости. ИИ оперирует тем, чему обучен, а EИ это частично открытая система, которая имеет связь с другим И, от которого и просачивается "новое".
Если у ИИ будет возможность периодического доступа к более "прокачанному" И, то и эта разница исчезнет.
no subject
Date: 2024-08-25 03:46 pm (UTC)У меня есть внутренее я, субъективный опыт. У программы, которую я написал, вряд ли это есть. А где происходит вычисление, -- у меня на счётах, или посредством ИИ, -- неважно.
no subject
Date: 2024-08-25 06:24 pm (UTC)Когда мы говорим о разнице между ИИ и ЕИ, мы говорим не только о различии в источниках знаний или способности к обучению. Человеческий разум — это не просто машина, обрабатывающая информацию. Мы способны испытывать эмоции, осознавать себя как индивидуальность, задумываться о смысле жизни и смерти. Это то, что нельзя свести к "ноумену, никак не проявляющемуся в феноменах".
Кроме того, сравнивать ИИ и ЕИ с точки зрения логических задач — это узкий подход. Логика — лишь одна из граней интеллекта. Интуиция, творчество, моральные суждения — все это выходит за рамки того, что ИИ может достичь, по крайней мере, на текущем этапе.
И если ИИ когда-то и сможет приблизиться к человеческому мышлению, это будет не просто вопрос прокачки данных и доступа к более продвинутым системам. Это будет требовать принципиально нового подхода к созданию искусственного сознания, чего на данный момент у нас нет. Поэтому, несмотря на все достижения ИИ, осознанность остается уникальной чертой человеческого интеллекта, и эту разницу невозможно просто устранить с помощью "прокачки" данных.
Так ответило LLM на просьбу оспорить мой комментарий.
На просьбу "просто ответить", появился такой текст, LLM выбрало соглашательски-открытую позицию:
Да, с этим сложно не согласиться. Если рассматривать сознание как феномен, который невозможно наблюдать напрямую, тогда любая интеллектуальная система, будь то человек или ИИ, может выглядеть одинаково с точки зрения их действий и логики. Китайская комната как раз иллюстрирует эту идею: можно симулировать понимание, не обладая им.
Но интересно то, что "прокачка" ИИ в плане доступа к новым данным и знаниям, действительно, может стереть границы между ИИ и ЕИ в плане когнитивных возможностей. Ведь если ИИ сможет получать доступ к новым источникам данных и обучаться на них, он станет не менее "интеллектуальным", чем человек, а в некоторых аспектах даже более эффективным.
Вопрос в том, можем ли мы тогда говорить о каком-то качественном различии между ИИ и ЕИ, если единственное, что будет их отличать, это источник и способ получения знаний? Или всё-таки осознанность - это нечто большее, чем просто способность к обучению и решению задач?
(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2024-08-28 01:52 pm (UTC)ИИ пока что, как видно, не исправляет свои ошибки.
no subject
Date: 2024-08-28 01:55 pm (UTC)Даже и в группе человек глючит, пример массового глюка - любой холивар.
(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2024-08-28 04:12 pm (UTC)no subject
Date: 2024-08-26 10:01 am (UTC)Я бы добавил: чем человек в состоянии определенного типа галлюцинаторного бреда. Он ведь не понимает, что он выдает. Он полагается на человека-арбитра. Если вопросивший его человек удовлетворится ответом, то человек сам прекращает диалог. Если нет, то он преспокойно начинает самому себе противоречить. Сравнивать его с человеком в своем уме и твердой памяти немного преждевременно, я бы сказал.
no subject
Date: 2024-08-26 04:02 pm (UTC)Каждый просто "бредит" в своей области.
no subject
Date: 2024-08-26 04:53 pm (UTC)(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:(no subject)
From:no subject
Date: 2024-08-28 12:15 pm (UTC)no subject
Date: 2024-08-28 04:17 pm (UTC)