Письмо в редакцию

Мне написали отклик на мою публикацию "Действительно ли это результат эволюции?", посвященную использованию так наз. генетических алгоритмов при решении практических задач. В частности, я обсуждал использование генетического алгоритма для нахождения оптимальной пространственной формы антенны устройства NASA.

Читатель пишет:

Успешные (приспособленные) размножаются, не приспособленные вымирают. Нас окружают те особи, которые умеют хорошо (успешно) размножаться. Именно это и есть целевая функция (и не важно, что мы до конца не понимаем всех тонкостей).

Не так важно какой отбор: посредством людей или посредством факторов природы. Отбор направлен на уничтожение неприспособленных (в простонаречьи - "слабых").

Моя точка зрения состоит в том, что у эволюции нет активного управления по значениям функции цели. Функции цели вообще нет как таковой, потому что нет оценивания качества решения. Читатель неправ, полагая, что выживание выступает критерием эффективности в контексте эволюции. Критерием является не выживание, а селективное преимущество полезной мутации, повышающей численность потомства в данных условиях среды обитания. Селективное преимущество — это разница в процентном выражении между числом особей с данной (полезной) мутацией и числом особей без этой мутации. Селективное преимущество влияет на вероятность закрепления мутации (то есть распространения мутации на всю популяцию).

Эволюция представляет собой случайный поиск в пространстве решений без оценивания качества. Случайный поиск действительно может найти локально (и гипотетически даже глобально) оптимальное решение, что и будет проявлением эволюционного процесса оптимизации. Однако это происходит лишь при выполнении некоторых условий:

( Read more... )

Необходимость интеллектуальной настройки параметров модели. NFL теоремы

Всё, о чём мы говорили по поводу дарвиновской модели и искусственного отбора, справедливо и в отношении так наз. алгоритмов глубокого обучения (в частности, многоуровневых перцептронов и пр. заковык).

Там происходит то же самое: без настройки (а настройку производит, в конечном счёте, интеллектуальный агент) на решение узко определённого типа задач эти алгоритмы по производительности ничем не отличаются от научного тыка случайного поиска.

Уверенность в том, что это справедливо и для любого другого алгоритма, проистекает из так наз. "теорем о бесплатном обеде": No Free Lunch Theorems.

• NFL for Optimization vs NFL for ML


• Ещё одна запись о том же

Эти две теоремы (одна для машинного обучения, другая для поиска и оптимизационных задач), в принципе, говорят об одном: какого-то одного алгоритма, который бы оказался самым лучшим для всех случаев жизни, не существует. Самым первым, кто это осознал, был шотландец Дэвид Юм, задавшийся вопросом: приводит ли индуктивная логика, основанная на утверждениях лишь о предшествующих наблюдениях, к новому знанию или то, что мы получаем путём индукции, представляет собой лишь переформулировку уже известного по предыдущему опыту?

• Википедия, как обычно в отношении эволюционной тематики, пытается противоречить, утверждая, что теоремы NFL не применимы к сценарию коэволюции. Якобы в случае, когда всё параллельно эволюционирует, появляется возможность информационной "халявы". Это не так.

Из этого, в общем-то, очевидного тезиса об отсутствии "лёгкой жизни" следует, что настройка некоторого алгоритма с использованием источников информации, сторонних по отношению к нему, необходима, коль скоро мы хотим добиться производительности выше среднего по больнице.

Поэтому, как мне кажется, человеческий интеллект + машинный всегда будут доминировать над машинным интеллектом. Поэтому всегда будет нужен человек-эксперт, обладающий конкретными знаниями в своей предметной области, позволяющими найти для решения конкретной задачи оптимальные значения параметров модели.