mns2012

С френдом

a_lazar вот тут.

Моя позиция: любая система, будь то калькулятор или chatGPT последней супер-дупер версии, действует по "железному" принципу Garbage In Garbage Out, "что заложишь, то и получишь".

За этими словами скрывается очень много конкретики. Я не спорю, что результаты применения AI впечатляют, и это продолжится ещё какое-то время. AI, по словам одного из заметных деятелей в этой области Andrew Ng (Carnegie Mellon), -- это электричество 21 века. Культурное влияние AI огромно.

Однако инженерам, людям, занимающимся разработкой и внедрением всего этого хозяйства, не нужно объяснять необходимость отделять хайп от реальности. Все эти действительно прекрасные результаты говорят о том, что человеческий разум (human intelligence), вспомоществуемый искусственным разумом (AI), доминирует над человеческим разумом.

AI + HI >> HI

Присутствие HI слева очень важно осознать. Оно никуда не денется.

А куда ему деться? Требуется осуществлять приёмку AI-систем, настраивать параметры, вводить их в эксплуатацию, мониторить (ибо они деградируют со временем), выводить из эксплуатации, как и любую другую систему. Это будет делать че-ло-век (с помощью AI ;).

Настройка параметров любой технологической системы (AI не исключение) -- задача многокритериальной оптимизации комбинаторной сложности. Система AI хороша настолько, насколько хороши данные, на которых она обучена. Вот где главный плюс AI-систем, а не в том, что они разумнее человека (это всё лирика, не имеющая отношения к делу). AI позволяет специалисту разговаривать с данными.

Чрезвычайно важный теоретический результат состоит в том, что ни один алгоритм (включая супер-дупер нейросеть) не является наилучшим на множестве всех задач. Это суть так наз. теорем No Free Lunch (существуют две версии, но идея у них общая). Поэтому место для экспертного знания в предметной области, которым обладают люди, всегда будет. AI никогда не вытеснит человека на 100%.

Вывод о том, насколько хороши настройки, делается исходя из экспертного опыта и компромисса по независимым критериям (например, цена/качество). Отсюда даже при условии, что арбитраж делегирован какой-то другой AI-системе, человека-эксперта не выкинешь. Человек-эксперт будет необходим и для элементарного "подкручивания гаек" и контроля за тем, чтоб всё росло, чтоб всё цвело.

Ок, машина победила чемпиона в го. Все радуются. Но о чем говорит эта победа? О том, что группа экспертов и специалистов по игре в го, с помощью которых создавалась, настраивалась и обучалась машина, оказалась сильнее одного чемпиона го. Вся разница в том, что эта победа закладывалась задолго до начала матча. Она ничем фундаметнально не отличается от случая, когда машина лучше, чем рентгенолог, на конкретном снимке распознаёт опухоль. Для того и создавались машины, чтобы облегчить труд человека.

Вобщем, прежде чем делать далеко идущие (тем более мировоззренческие выводы о том, а есть ли в человеке вообще что-либо нематериальное, если он проиграл машине в го), надо всё это хорошенько взвесить.