Вероятностная нейронная сеть - Probabilistic neural network

А вероятностная нейронная сеть (PNN) [1] это нейронная сеть с прямой связью, который широко используется в задачах классификации и распознавания образов. В алгоритме PNN родительская функция распределения вероятностей (PDF) каждого класса аппроксимируется Окно Парзена и непараметрическая функция. Затем, используя PDF каждого класса, оценивается вероятность класса новых входных данных, и затем применяется правило Байеса для выделения класса с наивысшей апостериорной вероятностью новым входным данным. С помощью этого метода вероятность ошибочной классификации сводится к минимуму.[2] Этот тип ИНС был получен из Байесовская сеть[3] и статистический алгоритм, называемый Дискриминантный анализ ядра Фишера.[4] Его ввел Д.Ф. Шпехтом в 1966 году.[5][6] В PNN операции организованы в многоуровневую сеть прямого распространения с четырьмя уровнями:

  • Входной слой
  • Слой узора
  • Слой суммирования
  • Выходной слой

Слои

PNN часто используется в задачах классификации.[7] Когда присутствует входной сигнал, первый слой вычисляет расстояние от входного вектора до входных обучающих векторов. Это создает вектор, элементы которого указывают, насколько близок ввод к обучающему. Второй уровень суммирует вклад для каждого класса входов и выдает чистый выход в виде вектора вероятностей. Наконец, передаточная функция конкуренции на выходе второго уровня выбирает максимум из этих вероятностей и выдает 1 (положительная идентификация) для этого класса и 0 (отрицательная идентификация) для нецелевых классов.

Входной слой

Каждый нейрон во входном слое представляет переменную-предиктор. В категориальных переменных N-1 нейроны используются, когда есть N количество категорий. Он стандартизирует диапазон значений путем вычитания медианы и деления на межквартильный размах. Затем входные нейроны передают значения каждому из нейронов скрытого слоя.

Слой узора

Этот слой содержит по одному нейрону для каждого случая в наборе обучающих данных. Он хранит значения переменных-предикторов для случая вместе с целевым значением. Скрытый нейрон вычисляет евклидово расстояние тестового примера от центральной точки нейрона, а затем применяет радиальная базисная функция функция ядра, использующая значения сигмы.

Слой суммирования

Для PNN существует один нейрон-шаблон для каждой категории целевой переменной. Фактическая целевая категория каждого обучающего примера сохраняется для каждого скрытого нейрона; взвешенное значение, исходящее от скрытого нейрона, подается только на шаблонный нейрон, который соответствует категории скрытого нейрона. Шаблонные нейроны складывают значения для класса, который они представляют.

Выходной слой

Выходной слой сравнивает взвешенные голоса для каждой целевой категории, накопленные на уровне шаблона, и использует наибольший голос для прогнозирования целевой категории.

Преимущества

Есть несколько преимуществ и недостатков использования PNN вместо многослойный персептрон.[8]

  • PNN намного быстрее, чем многослойные сети персептронов.
  • PNN могут быть более точными, чем многослойные сети персептронов.
  • Сети PNN относительно нечувствительны к выбросам.
  • Сети PNN генерируют точные прогнозируемые целевые вероятностные оценки.
  • PNN приближаются к байесовской оптимальной классификации.

Недостатки

  • PNN медленнее, чем многослойные сети персептронов при классификации новых случаев.
  • PNN требуется больше памяти для хранения модели.

Приложения на основе PNN

  • вероятностные нейронные сети при моделировании структурного износа труб ливневой канализации.[9]
  • вероятностный нейросетевой метод диагностики образцов желудочного эндоскопа на основе ИК-Фурье спектроскопии.[10]
  • Вероятностные нейронные сети в решении различных задач классификации образов.[11]
  • Применение вероятностных нейронных сетей к популяционным фармакокинетикам.[12]
  • Вероятностные нейронные сети для прогнозирования классов лейкемии и эмбриональной опухоли центральной нервной системы.[13]
  • Идентификация судов с использованием вероятностных нейронных сетей.[14]
  • Управление конфигурацией датчиков на основе вероятностной нейронной сети в беспроводной сети для этого случая сеть.[15]
  • Вероятностная нейронная сеть в распознавании персонажей.
  • Классификация изображений дистанционного зондирования.[16]

Рекомендации

  1. ^ Мохебали, Бехшад; Тахмассеби, Амирхессам; Мейер-Безе, Анке; Гандоми, Амир Х. (2020). Вероятностные нейронные сети: краткий обзор теории, реализации и применения. Эльзевир. С. 347–367. Дои:10.1016 / B978-0-12-816514-0.00014-X.
  2. ^ «Конкурентная вероятностная нейронная сеть (доступна загрузка PDF-файла)». ResearchGate. Получено 2017-03-16.
  3. ^ «Архивная копия». Архивировано из оригинал на 2010-12-18. Получено 2012-03-22.CS1 maint: заархивированная копия как заголовок (связь)
  4. ^ «Архивная копия» (PDF). Архивировано из оригинал (PDF) на 31.01.2012. Получено 2012-03-22.CS1 maint: заархивированная копия как заголовок (связь)
  5. ^ Шпехт, Д. Ф. (1967-06-01). «Генерация полиномиальных дискриминантных функций для распознавания образов». Транзакции IEEE на электронных компьютерах. ИС-16 (3): 308–319. Дои:10.1109 / PGEC.1967.264667. ISSN  0367-7508.
  6. ^ Шпехт, Д. Ф. (1990). «Вероятностные нейронные сети». Нейронные сети. 3: 109–118. Дои:10.1016 / 0893-6080 (90) 90049-Q.
  7. ^ http://www.mathworks.in/help/toolbox/nnet/ug/bss38ji-1.html[постоянная мертвая ссылка ]
  8. ^ «Архивная копия». Архивировано из оригинал на 2012-03-02. Получено 2012-03-22.CS1 maint: заархивированная копия как заголовок (связь)
  9. ^ http://vuir.vu.edu.au/583/1/UrbanWater-Dung.pdf
  10. ^ Li, Q. B .; Li, X .; Zhang, G.J .; Xu, Y. Z .; Wu, J. G .; Солнце, X. J. (2009). «[Применение метода вероятностных нейронных сетей для диагностики образцов желудочного эндоскопа на основе FTIR-спектроскопии]». Гуан Пу Сюэ Ю Гуан Пу Фэнь Си. 29 (6): 1553–7. PMID  19810529.
  11. ^ http://www.idosi.org/wasj/wasj4(6)/3.pdf
  12. ^ Berno, E .; Brambilla, L .; Canaparo, R .; Casale, F .; Costa, M .; Della Pepa, C .; Eandi, M .; Пасеро, Э. (2003). «Применение вероятностных нейронных сетей к популяционным фармакокинетикам». Труды Международной совместной конференции по нейронным сетям, 2003 г.. С. 2637–2642. Дои:10.1109 / IJCNN.2003.1223983. ISBN  0-7803-7898-9.
  13. ^ http://dl.acm.org/citation.cfm?id=1011984
  14. ^ http://www.iaeng.org/publication/IMECS2009/IMECS2009_pp1291-1294.pdf
  15. ^ «Архивная копия» (PDF). Архивировано из оригинал (PDF) на 2010-06-14. Получено 2012-03-22.CS1 maint: заархивированная копия как заголовок (связь)
  16. ^ Чжан, Ю. (2009). «Классификация изображений дистанционного зондирования на основе улучшенной вероятностной нейронной сети». Датчики. 9 (9): 7516–7539. Дои:10,3390 / с90907516. ЧВК  3290485. PMID  22400006.