Тезаурус: Машинное обучение
Материал из CDTOwiki
источник
автор
Виктор Лемпицкий
описание
Базовые понятия, объясняющие задачи машинного обучения и принципы работы искусственных нейронных сетей
из публикации
Термины и определения
Априорное распределение вероятностей неопределенной величины p — распределение вероятностей, которое выражает предположения о p до учета экспериментальных данных. Например, если p — доля избирателей, готовых голосовать за определенного кандидата, то априорным распределением будет предположение о p до учета результатов опросов или выборов. Противопоставляется апостериорной вероятности, условной вероятности случайного события при условии того, что известны апостериорные данные, т. е. полученные после опыта
Интерпретация понятия вероятности, используемая в байесовской теории. Вероятность определяется как степень уверенности в истинности суждения. Для определения степени уверенности в истинности суждения при получении новой информации в байесовской теории используется теорема Байеса
Методологический принцип, получивший название от имени английского монаха-францисканца, философа-номиналиста Уильяма Оккама (англ. Ockham, Occam; лат. Gulielmus Occamus; ок. 1285-1349). В кратком виде он гласит: «Не следует множить сущее без необходимости» (либо «Не следует привлекать новые сущности без крайней на то необходимости»)
Алгоритмы машинного обучения, связанные с искусственными нейронными сетями, вычисления в которых подразумевают применение множества обучаемых операций (слоев) к входным данным. Характерным для глубинного обучения является обучение на больших выборках при помощи единого оптимизационного алгоритма. Типичные алгоритмы оптимизации настраивают параметры всех операций одновременно и эффективно оценивают влияние каждого параметра нейросети на ошибку (с помощью так называемого метода обратного распространения)
Модели машинного обучения, использующие комбинации распределенных простых операций, зависящих от обучаемых параметров, для обработки входных данных. Некоторые элементы и принципы устройства искусственных нейросетей напоминают элементы и принципы устройства биологических нейросетей. Искусственные нейронные сети активно применяются в задачах прогнозирования, распознавания образов, генерации текстов и многих других. Современные искусственные нейронные сети зачастую зависят от большого количества параметров, обучаемых на больших выборках данных (см. глубинное обучение). Наиболее популярными и успешными видами ИНС являются сверточные сети и рекуррентные нейросети
Одна из задач машинного обучения, которая относится к обучению без учителя. Программа должна сама распределить объекты на хорошо обособленные группы, то есть разбить множество объектов на кластеры
Область наук о данных, нацеленная на извлечение информации из изображений. Кроме того, компьютерное зрение занимается построением трехмерных моделей из изображений и распознаванием образов. Компьютерное зрение имеет большое значение для анализа биомедицинских изображений, робототехники и больших данных
Математическая дисциплина, в рамках которой решается задача поиска закономерностей в эмпирических данных; на основе найденных закономерностей алгоритм может делать определенные прогнозы. Машинное обучение можно отнести к методам искусственного интеллекта, так как оно не решает задачу напрямую, а обучается применять решение для множества схожих задач. В машинном обучении используются средства теории вероятности, теории графов, математической статистики и других областей математики и Computer Science
Обучение без учителя предлагает системе научиться выполнять поставленную задачу без какого-либо внешнего вмешательства
Один из способов машинного обучения, в ходе которого испытуемая система (агент) обучается, взаимодействуя с некоторой средой. Откликом среды на принятые решения являются сигналы подкрепления, поэтому такое обучение является частным случаем обучения с учителем, но учителем является среда или ее модель
Обучение с учителем предполагает наличие обучающей выборки, в которой задаются «правильные ответы», на примере которой программа должна научиться понимать связь между входными и выходными данными, а потом научиться применять свои «знания» на неразмеченных данных
Переобучение происходит, когда построенная модель дает хорошие результаты на обучающей выборке, но делает много ошибок на тестовой выборке. Иначе говоря, программа начинает находить несуществующие связи и закономерности
Инженерная дисциплина, занимающаяся проектированием, улучшением и исследованием интегрированных систем, состоящих из людей, денежных средств, знаний, информации, оборудования, энергии, материалов и процессов. Управление производством основано на принципах и методах инженерного анализа. Приложения математики, физики и IT используются вместе с методами инженерного анализа и проектирования с целью прогнозирования, определения и оценки результатов деятельности систем. Основная цель — минимизировать затраты времени, денег, материалов, энергии и прочих ресурсов
Один из видов искусственных нейронных сетей, широко используемый в распознавании образов, компьютерном зрении, обработке аудиосигналов, анализе смысла текстов и играх, например Го. Характерной особенностью сверточных нейросетей является использование представления данных в виде набора изображений (карт) и применение локальных операций-сверток, модифицирующих и комбинирующих данные карты друг с другом
Обучаются с помощью методов машинного обучения по множеству прототипов входных и выходных данных, результатов натурных и/или вычислительных экспериментов, проведенных с различными объектами рассматриваемого класса. Они фактически имитируют (заменяют) как источники получения данных, основанные на некоторой исходной модели, так и сами модели, созданные на основе изучения физики процессов. Как правило, суррогатные модели имеют существенно более высокую вычислительную эффективность по сравнению с исходными моделями (иначе в них просто нет смысла), и по этой причине на их основе можно проводить масштабные вычислительные эксперименты, оптимизацию инженерных систем и их адаптивное управление
Совместное распределение выборки из параметрического распределения, рассматриваемое как функция параметра. При этом используется совместная функция плотности (в случае выборки из непрерывного распределения) либо совместная вероятность (в случае выборки из дискретного распределения), вычисленные для данных выборочных значений
теги
фреймворки
