Алексей Ивахненко - Alexey Ivakhnenko

Алексей Ивахненко
Алексей Ивахненко, Киев 1967.jpg
Родившийся
Алексей Григорович Ивахненко

(1913-03-30)30 марта 1913 г.
Кобеляки, Полтавская губерния, Российская империя
Умер16 октября 2007 г.(2007-10-16) (94 года)
Киев, Украина
Национальностьукраинец
Альма-матерЛенинградский электротехнический институт (M.Sc )
ИзвестенГрупповой метод обработки данных,
Глубокое обучение,
Индуктивное моделирование
НаградыЗаслуженный деятель науки СССР.
Два Государственные премии СССР
Заказать дружбу народов rib.png DistinguishedLabourRibbon.png RibbonLabourDuringWar.png
Научная карьера
ПоляИскусственный интеллект,
Машинное обучение,
Информатика
УчрежденияИнститут кибернетики им. ГлушковаВеликобритания,
Киевский электротехнический институт,
Киевский политехнический институт (D.Sc )
ТезисТеория комбинированных систем автоматического управления электродвигателями. (1954)
Известные студентыКунцевич В.М., Костюк В.И.
Иваненко В.И., Васильев В.И.
О. А. Павлов

Алексей Ивахненко (украинец: Олексій Григо́рович Іва́хненко); (30 марта 1913 г. - 16 октября 2007 г.) Советский и украинец математик наиболее известен разработкой Групповой метод обработки данных (GMDH), метод индуктивного статистического обучения, за который его иногда называют «Отцом Глубокое обучение ".[1]

ранняя жизнь и образование

Алексей родился в Кобеляки, Полтавская губерния в семье учителей.[2] В 1932 году окончил электротехнический техникум в Киеве и два года проработал инженером на строительстве большой электростанции в г. Березники. Затем в 1938 г., после окончания Ленинградский электротехнический институт, Ивахненко работал в Всесоюзный электротехнический институт в Москве во время военное время. Там он исследовал проблемы автоматический контроль в лаборатории под руководством Сергей Лебедев.

После возвращения в Киев в 1944 году он продолжил исследования в других учреждениях Украины. В том же году он получил докторскую степень. степень, а затем, в 1954 г., получил докторскую степень. степень. В 1964 году он был назначен заведующим отделом комбинированных систем управления Института кибернетики. Одновременно работая сначала преподавателем, а с 1961 г. - профессором автоматического управления и технической кибернетики Киевский политехнический институт.

Исследование

Ивахненко известен как основоположник индуктивного моделирования, научного подхода, используемого для распознавания образов и прогнозирования сложных систем.[3] Он использовал этот подход при разработке Групповой метод обработки данных (GMDH). В 1968 году в журнале «Автоматика» была опубликована его статья «Групповой метод обработки данных - конкурент метода стохастической аппроксимации».[4] знаменуя начало нового этапа в его научной деятельности. Он руководил разработкой этого подхода вместе с профессиональной командой математиков и инженеров Института кибернетики.

Групповой метод обработки данных

В GMDH метод представляет собой уникальный подход к искусственный интеллект решение проблем и даже новая философия научное исследование, что стало возможным с использованием современных компьютеров.[3] Исследователь может не строго придерживаться традиционных дедуктивный способ построения моделей «от общей теории - к конкретной модели»: наблюдение за объектом, изучение его структуры, понимание принципов его работы, разработка теория и тестирование модель объекта. Вместо этого предлагается новый подход «от заданных данных - к общей модели»: после ввода данных исследователь выбирает класс моделей, тип генерации моделей-вариантов и устанавливает критерий для выбора модели. Поскольку большая часть рутинной работы переносится на компьютер, влияние человеческого фактора на объективный результат сводится к минимуму. Фактически, этот подход можно рассматривать как одну из реализаций тезиса об искусственном интеллекте, в котором говорится, что компьютер может выступать в качестве мощного советника для людей.

Развитие GMDH состоит из синтеза идей из разных областей науки: кибернетической концепции "черный ящик "и принцип последовательного генетический отбор попарно Особенности, Теоремы Гёделя о неполноте и Габора принцип «свободы выбора решений»,[5] то Адемара некорректность и Пиво принцип внешних дополнений.[6]

GMDH - оригинальный метод решения задач структурно-параметрических идентификация моделей для экспериментальные данные под неуверенность.[7] Такая проблема возникает при построении математическая модель что приближает неизвестный образец исследуемого объекта или процесса.[8] Он использует информацию о нем, которая неявно содержится в данных. GMDH отличается от других методов моделирования активным применением следующих принципы: автоматическая генерация моделей, неубедительные решения и последовательный отбор по внешним критериям для поиска моделей оптимальной сложности. В нем была оригинальная многослойная процедура автоматического построения структуры моделей, имитирующая эволюционный процесс биологического отбора с учетом попарно следующих друг за другом признаков. Такая процедура в настоящее время используется в Глубокое обучение сети.[9] Для сравнения и выбора оптимальных моделей используются два или более подмножества выборки данных. Это позволяет избежать предварительных предположений, поскольку при делении выборки неявно признаются различные типы неопределенности во время автоматического построения оптимальной модели.

В начале 1980-х годов Ивахненко провел органическую аналогию между проблемой построения моделей для зашумленных данных и сигнала, проходящего через канал с шум.[10] Это позволило заложить основы теории помехоустойчивого моделирования.[7] Главный результат этой теории состоит в том, что сложность оптимальной прогнозной модели зависит от уровня неопределенности данных: чем выше этот уровень (например, из-за шума), тем проще должна быть оптимальная модель (с меньшим количеством оцененных параметров). Это положило начало развитию теории GMDH как индуктивный метод автоматической адаптации оптимальной сложности модели к уровню информации в нечеткие данные. Поэтому GMDH часто считается исходной информационной технологией для извлечение знаний из экспериментальные данные.

Полученные результаты

Наряду с GMDH Ивахненко разработал следующий набор результатов:

  • Новые принципы автоматический контроль скорости для AC и асинхронные электродвигатели.[11]
  • Теория инвариантных систем для адаптивное управление с компенсацией измеренных возмущений.[12] Он разработал принцип косвенного измерения возмущений, названный «дифференциальной вилкой», который позже использовался на практике.
  • Принцип комбинированного управления (с отрицательной обратной связью для контролируемых переменных и положительной обратной связью для контролируемых возмущений).[13] Ряд таких систем для регулирования скорости электродвигателей был реализован на практике. Тем самым доказана практическая реализуемость инвариантных условий в комбинированных системах управления, объединяющих преимущества закрытых систем управления по отклонениям (высокая точность) и открытых систем (производительность).
  • Непоисковые крайние регуляторы на основе распознавания ситуаций.[14]
  • Принцип самообучающегося распознавания образов. Сначала это было продемонстрировано в когнитивной системе «Альфа»,[8] создан под его руководством.
  • Основа для построения устройств кибернетического предсказания.[15]
  • Теория самоорганизации моделей по экспериментальным данным.[16]
  • Метод управления с оптимизацией прогноза.[17]
  • Помехоустойчивые принципы робастного моделирования данных с шумами.[7]
  • Принцип построения самоорганизующихся сетей глубокого обучения.[3]
  • Дизайн многослойной нейронные сети с активными нейронами, где каждый нейрон представляет собой алгоритм.

Ивахненко известен своими достижениями в теории инвариантности и теории комбинированных систем автоматического управления, которые работают по принципу компенсации измеренных возмущений. Он разработал устройства и методы адаптивного управления системами с магнитными усилителями и двигателями.

Он является автором первой украинской монографии по технической кибернетике.[14] который был опубликован во всем мире на семи языках.[18] В его исследовании дальнейшее развитие принципов комбинированного контроля было связано с внедрением методов эволюционный самоорганизация, распознавание образов и прогнозирование в Системы управления.

В последние годы его главное новшество - метод GMDH был разработан как метод индуктивного моделирования сложных процессов и систем. прогнозирование. Его идеи сейчас используются в Глубокое обучение сети.[19] Эффективность метода неоднократно подтверждалась при решении реальных сложных задач в г. экология, метеорология, экономика и технологии, что способствовало увеличению его популярности среди международного научного сообщества.[20] Параллельно велись разработки эволюционной самоорганизации. алгоритмы в смежной сфере - кластеризация проблемы распознавания образов.[21] Достижения в моделировании экологических процессов отражены в монографиях,[22][10] экономические процессы - в книгах. [17][23] Результаты разведки повторяющийся многослойные алгоритмы GMDH описаны в книгах.[16][3]

Научная школа

С 1963 по 1989 год Ивахненко был редактором специализированного научного журнала «Автоматика» (позже «Проблемы управления и информатики»), сыгравшего решающую роль в становлении и развитии украинской школы индуктивного моделирования. В течение этих лет журнал переводился и переиздавался в США под названием «Советское автоматическое управление» (позднее «Журнал автоматизации и информационных наук»).

Наряду с постоянными нововведениями в своей области с 1945 года, Ивахненко вел активную преподавательскую деятельность, сначала в качестве доцента кафедры теоретической механики, а затем кафедры систем управления. С 1960 года профессором кафедры технической кибернетики в г. Киевский политехнический институт, он читал лекции для университета и студентов, а также курировал работу многих аспирантов. В 1958-1964 гг. Он был организатором Всесоюзных конференций по инвариантности в Киеве, где после запрета было восстановлено развитие теории инвариантных систем управления.[24]

Его неиссякаемый энтузиазм помог более чем 220 молодым ученым подготовиться и успешно защитить докторскую степень. под его руководством в КПИ и Институте кибернетики, около 30 его студентов защитили докторские диссертации. Научная школа Ивахненко была и остается настоящей колыбелью высококвалифицированных научных кадров. Кроме того, его ученики В. М. Кунцевич, В. И. Костюк, В. И. Иваненко, В. И. Васильев, А. А. Павлов и другие создали свои уважаемые научные школы. Ивахненко был ярким примером ученого, с тонким чутьем новой и замечательной научной интуиции. До последних дней он продолжал активно работать и щедро генерировал оригинальные научные идеи и результаты.

Награды и награды

Ивахненко - Заслуженный деятель науки СССР (1972 г.), двукратный лауреат Государственной премии (1991, 1997 гг.) За работы по теории инвариантных автоматических систем и ряд публикаций по информационным технологиям в области искусственного интеллекта. Автор 40 книг и более 500 научных статей. Почетный доктор Национальный технический университет «КПИ» (2003) и Львовская Политехника (2005). Он был членом-корреспондентом АН СССР (1961) и академиком НАН Украины (2003).

Избранные работы

  • Ивахненко А.Г. Эвристическая самоорганизация в задачах инженерной кибернетики, Автоматика, т. 6, 1970 - с. 207-219.
  • Ивахненко А.Г. Полиномиальная теория сложных систем, IEEE Transactions по системному человеку и кибернетике, 4, 1971 - стр. 364-378.
  • Ивахненко, А.Г .; Ивахненко, Г.А. (1995). «Обзор задач, решаемых алгоритмами группового метода обработки данных (GMDH)» (PDF). Распознавание образов и анализ изображений. 5 (4): 527–535. CiteSeerX  10.1.1.19.2971.
  • Ивахненко, А.Г .; Мюллер, Я.-А. (1997). «Последние разработки самоорганизующегося моделирования в прогнозировании и анализе фондового рынка» (PDF). Микроэлектрон.Надежность. 37: 1053–1072. CiteSeerX  10.1.1.19.4973.

Рекомендации

  1. ^ Шмидхубер, Юрген. «Критика бумаги с помощью« Заговора глубокого обучения »(Nature 521, стр. 436)». Получено 2019-12-26.
  2. ^ Бобрищев, К.В. (2002). Отчий Край (на украинском языке). Полтава: Дивосвіт. С. 284–293. ISBN  978-966-95846-9-4.
  3. ^ а б c d Madala, H.R .; Ивахненко, А.Г. (1994). Алгоритмы индуктивного обучения для моделирования сложных систем. Бока-Ратон: CRC Press. ISBN  978-0849344381.
  4. ^ Ивахненко, А.Г. (1968). «Групповой метод обработки данных - соперник метода стохастической аппроксимации». Советский автомат управления. 13 (3): 43–55.
  5. ^ Габор, Д. (1971). Перспективы строгания. Организация экономического сотрудничества и развития. Лондон: Imp.Coll.
  6. ^ Бир, С. (1959). Кибернетика и менеджмент. Лондон: English Univ. Нажмите.
  7. ^ а б c Ивахненко, А.Г .; Степашко, В. (1985). Помехоустойчивость моделирования. (PDF). Киев: Наукова думка. Получено 2019-12-26.
  8. ^ а б Ивахненко, А.Г .; Лапа, В. (1967). Кибернетика и методы прогнозирования (Современные аналитические и вычислительные методы в науке и математике, т. 8-е изд.). Американский Эльзевир. ISBN  978-0444000200.
  9. ^ Takao, S .; Кондо, С .; Ueno, J .; Кондо, Т. (2017). «Нейронная сеть типа GMDH с глубокой обратной связью и ее применение для анализа медицинских изображений МРТ-изображений мозга». Искусственная жизнь и робототехника. 23 (2): 161–172. Дои:10.1007 / s10015-017-0410-1. S2CID  44190434.
  10. ^ а б Ивахненко, А.Г. (1982). Индуктивный метод самоорганизации моделей сложных систем. (PDF) (на русском). Киев: Наукова думка.
  11. ^ Ивахненко, А.Г. (1953). Автоматическое регулирование скорости асинхронных двигателей средней мощности. Киев: Изд-во АН СССР.
  12. ^ Ивахненко, А.Г. (1954). Теория комбинированного автоматического управления электродвигателями.. Киев: Изд.КПИ.
  13. ^ Ивахненко, А.Г. (1954). Электроавтоматика. Киев: Гостехиздат.
  14. ^ а б Ивахненко, А.Г. (1959). Техническая Кибернетика. Киев: Гостехиздат СССР.
  15. ^ Ивахненко, А.Г. (1969). Самообучающиеся системы распознавания и автоматического управления. Киев: Техника.
  16. ^ а б Ивахненко, А.Г .; Юрачковский, Ю.П. (1986). Моделирование сложных систем по экспериментальным данным. М: Радио и Связь.
  17. ^ а б Ивахненко, А.Г .; Мюллер, Я. (1985). Самоорганизация моделей прогнозирования (PDF) (на русском). Киев: Техника.
  18. ^ Ивачненко, А.Г. (1962). Techniche kybernetik. Берлин: Verlag Technik.
  19. ^ Шмидхубер, Дж. (Январь 2015 г.). «Глубокое обучение в нейронных сетях: обзор» (PDF). Нейронные сети. 61: 85–117. arXiv:1404.7828. Дои:10.1016 / j.neunet.2014.09.003. PMID  25462637. S2CID  11715509. Получено 2019-12-26.
  20. ^ Фарлоу, С.Дж., изд. (1984). Самоорганизующиеся методы моделирования: алгоритмы типа GMDH (Статистика: Учебники и монографии, т. 54-е изд.). Marcel Dekker Inc. ISBN  978-0824771614. Получено 2019-12-26.
  21. ^ Ивахненко, А.Г .; Зайченко, Ю.П .; Димитров, В. (1976). Принятие решений на основе самоорганизации. М: Сов. Радио.
  22. ^ Ивахненко, А.Г. (1975). Долгосрочное прогнозирование и управление сложными системами (PDF) (на русском). Киев: Техника.
  23. ^ Ивачненко, А.Г .; Мюллер, Я. (1984). Selbstorganisation von Vorhersagemodellen. Берлин: Веб Верлаг Техник.
  24. ^ "Наука и промышленность". Правда. Коммунистическая партия СССР. 16 мая 1941 г.

внешняя ссылка