=Не думаю, что LLM более "попугаист", чем человек.=
Я бы добавил: чем человек в состоянии определенного типа галлюцинаторного бреда. Он ведь не понимает, что он выдает. Он полагается на человека-арбитра. Если вопросивший его человек удовлетворится ответом, то человек сам прекращает диалог. Если нет, то он преспокойно начинает самому себе противоречить. Сравнивать его с человеком в своем уме и твердой памяти немного преждевременно, я бы сказал.
Если судить по способности к логической саморефлексии, то списки "логические ошибки креационистов" или "логические ошибки эволюционистов" недвусмысленно намекают, что человечество находится в перманентном состоянии этого самого галлюцинаторного бреда.
Если бы человек применял логическое мышление, споров бы вообще не было. Любой вывод справедлив только при условии справедливости посылок и корректности преобразований. Исходя из множеств начальных условий C и трансформаций T получаем результат R.
Чего тут спорить-то?
Однако, споры постоянно идут. Таким образом, "логические блоки" у спорщиков постоянно глючат, что проявляется в том самом повторении аки попугай некого набора данных, на котором был "натренирован" ЕИ спорщика.
It is the fallacy fallacy. Из неверности аргументации в пользу тезиса Х ещё не следует неверность самого Х. Я не спорю, что некорректность только запутывает всё дело. Но не в ней суть. Если вы думаете, что стоит лишь показать логическую несостоятельность, как все всё увидят и согласятся, то вы ошибаетесь.
Настоящая проблема, кмк, заключена в различных отправных понятиях, то есть в области веры. Человек не хочет, как думает, а думает, как хочет.
> Если вы думаете, что стоит лишь показать логическую несостоятельность, как все всё увидят и согласятся, то вы ошибаетесь.
Я-то, как раз, думаю противоположным образом. Логическая несостоятельность - это слабый аргумент. Многократно проверено. Именно потому, что ЕИ отчаянно попугайничает на том, чему обучен, и логика тут не работает.
> Настоящая проблема, кмк, заключена в различных отправных понятиях, то есть в области веры.
Ну и в чём тут проблема, не пойму. Исходя из множеств начальных условий C и трансформаций T получаем результат R.
С - это как раз и есть принятое без доказательств.
С точки зрения логики тут нет никаких проблем. Если принять без доказательств С и корректно составлено Т, то верно и R.
Аргументы против этого? Искусство не ошибаться заключается в том, чтобы как можно реже использовать кванторы общности. Ведь этот тезис можно обратить и против него же. А коли это бред, то что тогда с него взять?!
Ну так. Есть правила логики, в которых рассуждение составляется из суждений, связанных по определённым правилам.
> Я могу декларировать
Ну, это сколько угодно. Вот поэтому я и считаю, что ЕИ "в логику" умеет очень плохо, и норовит при каждом удобном случае просто перейти к сбросу дампа ассоциаций, накопленных ранее ("мое внутреннее я").
Если принять высказывание за истину, то оно подразумевает, что абсолютно каждый, кто что-то утверждает в своей области знаний, обязательно ошибается. Это касается и того человека, который утверждает "Каждый бредит в своей области". Следовательно, его утверждение тоже должно быть неверным, если оно сделано в его области компетенции. Но если оно неверно, то, по крайней мере, кто-то в своей области не бредит, что противоречит исходному утверждению.
Но если это утверждение сделано человеком не в области его компетенции, тогда вряд ли на него стоит обращать внимание.
`Область` это понятие объемлющее, по отношению к понятию `Область Компетенции` (всякая Область Компетенции - Область, но не всякая Область - Область Компетенции). `Область Компетенции` это такая область, в которой как раз "глюки" минимальны.
Кмк, вне контекста эта фраза может означать не просто "каждый человек иногда ошибается в своей области", но что каждый человек только и делает, что ошибается именно в своей области компетенции. Контекст высказываний важен. Human speech is inherently ambiguous. Formalisms help reduce the ambiguity but are not able to eliminate them completely.
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
branchandroot
no subject
Date: 2024-08-26 10:01 am (UTC)Я бы добавил: чем человек в состоянии определенного типа галлюцинаторного бреда. Он ведь не понимает, что он выдает. Он полагается на человека-арбитра. Если вопросивший его человек удовлетворится ответом, то человек сам прекращает диалог. Если нет, то он преспокойно начинает самому себе противоречить. Сравнивать его с человеком в своем уме и твердой памяти немного преждевременно, я бы сказал.
no subject
Date: 2024-08-26 04:02 pm (UTC)Каждый просто "бредит" в своей области.
no subject
Date: 2024-08-26 04:53 pm (UTC)no subject
Date: 2024-08-26 05:03 pm (UTC)Если бы человек применял логическое мышление, споров бы вообще не было. Любой вывод справедлив только при условии справедливости посылок и корректности преобразований. Исходя из множеств начальных условий C и трансформаций T получаем результат R.
Чего тут спорить-то?
Однако, споры постоянно идут. Таким образом, "логические блоки" у спорщиков постоянно глючат, что проявляется в том самом повторении аки попугай некого набора данных, на котором был "натренирован" ЕИ спорщика.
no subject
Date: 2024-08-26 06:44 pm (UTC)Настоящая проблема, кмк, заключена в различных отправных понятиях, то есть в области веры. Человек не хочет, как думает, а думает, как хочет.
no subject
Date: 2024-08-26 06:50 pm (UTC)Я-то, как раз, думаю противоположным образом. Логическая несостоятельность - это слабый аргумент. Многократно проверено. Именно потому, что ЕИ отчаянно попугайничает на том, чему обучен, и логика тут не работает.
> Настоящая проблема, кмк, заключена в различных отправных понятиях, то есть в области веры.
Ну и в чём тут проблема, не пойму. Исходя из множеств начальных условий C и трансформаций T получаем результат R.
С - это как раз и есть принятое без доказательств.
С точки зрения логики тут нет никаких проблем. Если принять без доказательств С и корректно составлено Т, то верно и R.
Спорить вообще не о чем.
no subject
Date: 2024-08-26 06:57 pm (UTC)no subject
Date: 2024-08-26 06:58 pm (UTC)Я тут не вижу предмета спора. Можно использовать другое множество C, без проблем.
no subject
Date: 2024-08-26 07:04 pm (UTC)no subject
Date: 2024-08-26 07:20 pm (UTC)Ну, прекрасно. Вы уверены, что C2. Если C2 то R2, если C1 то R1. Нет предмета спора, с точки зрения логики.
no subject
Date: 2024-08-26 06:55 pm (UTC)Аргументы против этого? Искусство не ошибаться заключается в том, чтобы как можно реже использовать кванторы общности. Ведь этот тезис можно обратить и против него же. А коли это бред, то что тогда с него взять?!
no subject
Date: 2024-08-26 07:00 pm (UTC)no subject
Date: 2024-08-26 07:07 pm (UTC)Единственный арбитр — мое внутреннее я. Это то, что отличает меня от того кода, который я же и написал.
no subject
Date: 2024-08-26 07:16 pm (UTC)Ну так. Есть правила логики, в которых рассуждение составляется из суждений, связанных по определённым правилам.
> Я могу декларировать
Ну, это сколько угодно. Вот поэтому я и считаю, что ЕИ "в логику" умеет очень плохо, и норовит при каждом удобном случае просто перейти к сбросу дампа ассоциаций, накопленных ранее ("мое внутреннее я").
no subject
Date: 2024-08-26 07:20 pm (UTC)no subject
Date: 2024-08-26 07:34 pm (UTC)Интересно. Продемонстрируйте это обращение, в какой-нибудь формальной нотации.
no subject
Date: 2024-08-26 08:43 pm (UTC)Но если это утверждение сделано человеком не в области его компетенции, тогда вряд ли на него стоит обращать внимание.
no subject
Date: 2024-08-27 06:18 am (UTC)`Область` это понятие объемлющее, по отношению к понятию `Область Компетенции` (всякая Область Компетенции - Область, но не всякая Область - Область Компетенции). `Область Компетенции` это такая область, в которой как раз "глюки" минимальны.
no subject
Date: 2024-08-27 01:25 pm (UTC)Кмк, вне контекста эта фраза может означать не просто "каждый человек иногда ошибается в своей области", но что каждый человек только и делает, что ошибается именно в своей области компетенции. Контекст высказываний важен. Human speech is inherently ambiguous. Formalisms help reduce the ambiguity but are not able to eliminate them completely.