Модель интервального предсказателя - Interval predictor model - Wikipedia

В регрессивный анализ, модель интервального предсказателя (IPM) представляет собой подход к регрессии, при котором получаются границы аппроксимируемой функции, что отличается от других методов в машинное обучение, где обычно желательно оценить точечные значения или полное распределение вероятностей. Модели интервальных предикторов иногда называют непараметрическая регрессия Это связано с тем, что IPM содержит потенциально бесконечный набор функций, и для регрессионных переменных не предполагается никакого конкретного распределения. оптимизация сценария, во многих случаях можно сделать точные прогнозы относительно производительности модели во время тестирования.[1] Следовательно, модель интервального предсказателя можно рассматривать как гарантированную оценку квантильная регрессия.Модели интервальных предикторов также можно рассматривать как способ предписать поддерживать случайных моделей предикторов, из которых Гауссовский процесс это частный случай.[2]

Выпуклые интервальные модели предикторов

Обычно модель интервального предиктора создается путем задания параметрической функции, которая обычно выбирается как произведение вектора параметров и базиса. Обычно базис состоит из полиномиальных функций или иногда используется радиальный базис. Затем выпуклый набор назначается вектору параметров, и размер выпуклого набора минимизируется таким образом, чтобы каждая возможная точка данных могла быть предсказана одним возможным значением параметров. Кэмпи (2009) использовал эллипсоидальные наборы параметров, которые дали программу выпуклой оптимизации обучить ИПМ.[1]Креспо (2016) предложил использовать гипер прямоугольный набор параметров, что приводит к удобной линейной форме для границ IPM.[3]Следовательно, IPM можно обучить с помощью программы линейной оптимизации:

где примеры обучающих данных и , и границы модели интервального прогнозирования и параметризуются вектором параметров .Надежность такого IPM достигается за счет того, что для выпуклого IPM количество поддерживающих ограничений меньше размерности обучаемые параметры, а значит, можно применить сценарный подход.

Ласерда (2017) продемонстрировал, что этот подход может быть распространен на ситуации, когда обучающие данные оцениваются по интервалам, а не по точкам.[4]

Невыпуклые интервальные модели предикторов

В Campi (2015) была предложена невыпуклая теория сценарной оптимизации.[5]Это включает в себя измерение количества ограничений поддержки, для модели Interval Predictor Model после обучения и, следовательно, прогнозирования надежности модели. Это позволяет создавать невыпуклые IPM, такие как однослойная нейронная сеть. Campi (2015) демонстрирует, что алгоритм, в котором программа оптимизации сценария только решено время, которое может определить надежность модели во время тестирования без предварительной оценки на проверочном наборе.[5]Это достигается путем решения программы оптимизации

где центральная линия модели интервального предсказателя , а ширина модели . Это приводит к IPM, который делает прогнозы с гомоскедастической неопределенностью.

Садеги (2019) демонстрирует, что подход невыпуклого сценария из Кампи (2015) может быть расширен для обучения более глубоких нейронных сетей, которые с неточностью прогнозируют интервалы с гетреоскедастической неопределенностью на наборах данных.[6]Это достигается путем предложения обобщений функции потерь с максимальной ошибкой, задаваемой формулой

что эквивалентно решению программы оптимизации, предложенной Кампи (2015).

Приложения

Первоначально, оптимизация сценария был применен к задачам робастного управления.[7]

Креспо (2015) применил модели Interval Predictor Models для проектирования космической радиационной защиты.[8]

В Patelli (2017), Faes (2019) и Crespo (2018) модели Interval Predictor были применены к структурная надежность проблема анализа.[9][2][10]Брандт (2017) применяет модели интервального прогнозирования для оценки усталостных повреждений оснований кожухов морских ветряных турбин.[11]

Программные реализации

Рекомендации

  1. ^ а б Campi, M.C .; Calafiore, G .; Гаратти, С. (2009). «Модели интервального прогнозирования: идентификация и надежность». Automatica. 45 (2): 382–392. Дои:10.1016 / j.automatica.2008.09.004. ISSN  0005-1098.
  2. ^ а б Креспо, Луис Дж .; Кенни, Шон П .; Гизи, Дэниел П. (2018). «Лестничные прогностические модели для анализа надежности и риска». Структурная безопасность. 75: 35–44. Дои:10.1016 / j.strusafe.2018.05.002. ISSN  0167-4730.
  3. ^ Креспо, Луис Дж .; Кенни, Шон П .; Гизи, Дэниел П. (2016). «Модели интервального прогнозирования с линейной зависимостью параметров». Журнал проверки, валидации и количественной оценки неопределенности. 1 (2): 021007. Дои:10.1115/1.4032070. ISSN  2377-2158.
  4. ^ Lacerda, Marcio J .; Креспо, Луис Г. (2017). «Модели интервального прогнозирования для данных с неопределенностью измерения». Американская конференция по контролю за 2017 г. (ACC). С. 1487–1492. Дои:10.23919 / ACC.2017.7963163. HDL:2060/20170005690. ISBN  978-1-5090-5992-8.
  5. ^ а б Кампи, Марко К.; Гаратти, Симона; Рампони, Федерико А. (2015). «Оптимизация невыпуклого сценария с приложением к идентификации системы». 2015 54-я Конференция IEEE по решениям и контролю (CDC). С. 4023–4028. Дои:10.1109 / CDC.2015.7402845. ISBN  978-1-4799-7886-1.
  6. ^ Садеги, Джонатан С .; Де Анжелис, Марко; Пателли, Эдоардо (2019). «Эффективное обучение интервальных нейронных сетей для неточных данных обучения». Нейронные сети. 118: 338–351. Дои:10.1016 / j.neunet.2019.07.005. PMID  31369950.
  7. ^ Кампи, Марко К.; Гаратти, Симона; Прандини, Мария (2009). «Сценарный подход к проектированию систем и управления». Ежегодные обзоры под контролем. 33 (2): 149–157. Дои:10.1016 / j.arcontrol.2009.07.001. ISSN  1367-5788.
  8. ^ Креспо, Луис Дж .; Кенни, Шон П .; Giesy, Daniel P .; Норман, Райан Б .; Блаттниг, Стив (2016). "Применение моделей интервального прогнозирования к защите от космического излучения". 18-я конференция AIAA по недетерминированным подходам. Дои:10.2514/6.2016-0431. HDL:2060/20160007750. ISBN  978-1-62410-397-1.
  9. ^ а б Пателли, Эдоардо; Броджи, Маттео; Толо, Сильвия; Садеги, Джонатан (2017). «Программное обеспечение Cossan: мультидисциплинарное и совместное программное обеспечение для количественной оценки неопределенности». Труды 2-й Международной конференции по количественной оценке неопределенности в вычислительных науках и технике (UNCECOMP 2017). С. 212–224. Дои:10.7712/120217.5364.16982. ISBN  978-618-82844-4-9.
  10. ^ Фэйс, Матиас; Садеги, Джонатан; Броджи, Маттео; Де Анжелис, Марко; Пателли, Эдоардо; Пиво, Майкл; Моэнс, Дэвид (2019). «О робастной оценке вероятностей малых отказов для сильных нелинейных моделей». Журнал ASCE-ASME о рисках и неопределенностях в инженерных системах, часть B: Машиностроение. 5 (4). Дои:10.1115/1.4044044. ISSN  2332-9017.
  11. ^ Брандт, Себастьян; Броджи, Маттео; Хафеле, Ян; Гильермо Гебхардт, Кристиан; Рольфес, Раймунд; Пиво, Майкл (2017). «Мета-модели для оценки усталостных повреждений оснований оболочки морских ветряных турбин». Инженерные процедуры. 199: 1158–1163. Дои:10.1016 / j.proeng.2017.09.292. ISSN  1877-7058.
  12. ^ Садеги, Джонатан (2019). «ПиИПМ». Дои:10.5281 / zenodo.2784750. Цитировать журнал требует | журнал = (помощь)