HyperNEAT - HyperNEAT

Запрос CPPN для определения веса связи между двумя нейронами в зависимости от их положения в пространстве. Обратите внимание, что иногда расстояние между ними также передается в качестве аргумента.

NEAT на основе гиперкуба, или HyperNEAT,[1] это генеративная кодировка, которая развивается искусственные нейронные сети (ИНС) на принципах широко используемых Нейроэволюция дополненных топологий (NEAT) алгоритм.[2] Это новый метод разработки крупномасштабных нейронных сетей с использованием геометрических закономерностей предметной области. Он использует сети для создания композиционных паттернов. [3] (CPPN ), которые используются для создания изображений для Picbreeder.org и формы для EndlessForms.com. HyperNEAT недавно был расширен, чтобы также развивать пластиковые ИНС. [4] и изменить расположение каждого нейрона в сети.[5]

Заявки на сегодняшний день

  • Многоагентное обучение[6]
  • Оценка доски шашек[7]
  • Управление роботами с ногами[8][9][10][11][12][13]видео
  • Сравнение генеративного и прямого кодирования[14][15][16]
  • Исследование эволюции модульных нейронных сетей[17][18][19]
  • Развивающиеся объекты, которые можно напечатать на 3D-принтере[20]
  • Развитие нейронной геометрии и пластичности ИНС[21]

использованная литература

  1. ^ Стэнли, Кеннет О .; Д'Амброзио, Дэвид Б.; Гаучи, Джейсон (14 января 2009 г.). «Кодирование на основе гиперкуба для развивающихся крупномасштабных нейронных сетей». Искусственная жизнь. 15 (2): 185–212. Дои:10.1162 / artl.2009.15.2.15202. ISSN  1064-5462. PMID  19199382. S2CID  26390526.
  2. ^ Стэнли, Кеннет О .; Мииккулайнен, Ристо (01.06.2002). «Развитие нейронных сетей посредством расширения топологий». Эволюционные вычисления. 10 (2): 99–127. CiteSeerX  10.1.1.638.3910. Дои:10.1162/106365602320169811. ISSN  1063-6560. PMID  12180173. S2CID  498161.
  3. ^ Стэнли, Кеннет О. (10 мая 2007 г.). "Композиционные модели, производящие сети: новая абстракция развития". Генетическое программирование и эволюционирующие машины. 8 (2): 131–162. CiteSeerX  10.1.1.643.8179. Дои:10.1007 / s10710-007-9028-8. ISSN  1389-2576. S2CID  2535195.
  4. ^ Ризи, Себастьян; Стэнли, Кеннет О. (25 августа 2010 г.). Донсьё, Стефан; Жирар, Бенуа; Гийо, Аньес; Халлам, Джон; Мейер, Жан-Аркадий; Муре, Жан-Батист (ред.). От животных к аниматам 11. Конспект лекций по информатике. Springer Berlin Heidelberg. С. 533–543. CiteSeerX  10.1.1.365.5589. Дои:10.1007/978-3-642-15193-4_50. ISBN  9783642151927.
  5. ^ Ризи, Себастьян; Стэнли, Кеннет О. (31.08.2012). «Улучшенное кодирование на основе гиперкуба для эволюции размещения, плотности и связности нейронов». Искусственная жизнь. 18 (4): 331–363. Дои:10.1162 / ARTL_a_00071. ISSN  1064-5462. PMID  22938563. S2CID  3256786.
  6. ^ Д'Амброзио, Дэвид Б.; Стэнли, Кеннет О. (01.01.2008). Генеративное кодирование для многоагентного обучения. Труды 10-й ежегодной конференции по генетическим и эволюционным вычислениям. GECCO '08. Нью-Йорк, Нью-Йорк, США: ACM. С. 819–826. Дои:10.1145/1389095.1389256. ISBN  9781605581309. S2CID  11507017.
  7. ^ Дж. Гаучи и К. О. Стэнли, «Пример критической роли геометрической регулярности в машинном обучении», в AAAI (Д. Фокс и К. П. Гомес, ред.), Стр. 628–633, AAAI Press, 2008.
  8. ^ Ризи, Себастьян; Стэнли, Кеннет О. (01.01.2013). Решение проблемы обучения гибкому нейронному контроллеру для разнообразия морфологий. Труды 15-й ежегодной конференции по генетическим и эволюционным вычислениям. GECCO '13. Нью-Йорк, Нью-Йорк, США: ACM. С. 255–262. CiteSeerX  10.1.1.465.5068. Дои:10.1145/2463372.2463397. ISBN  9781450319638. S2CID  10308013.
  9. ^ Clune, J .; Beckmann, B.E .; Ofria, C .; Пеннок, Р. Т. (2009-05-01). Развитие скоординированной походки четвероногих с генеративным кодированием HyperNEAT. 2009 IEEE Конгресс по эволюционным вычислениям. С. 2764–2771. CiteSeerX  10.1.1.409.3868. Дои:10.1109 / CEC.2009.4983289. ISBN  978-1-4244-2958-5. S2CID  17566887.
  10. ^ Клун, Джефф; Офрия, Чарльз; Пеннок, Роберт Т. (01.01.2009). Чувствительность HyperNEAT к разным геометрическим представлениям проблемы. Труды 11-й ежегодной конференции по генетическим и эволюционным вычислениям. GECCO '09. Нью-Йорк, Нью-Йорк, США: ACM. С. 675–682. Дои:10.1145/1569901.1569995. ISBN  9781605583259. S2CID  16054567.
  11. ^ Йосински Дж., Клун Дж., Идальго Д., Нгуен С., Кристобаль Загал Дж., Липсон Х. (2011) Развитие походок роботов в оборудовании: Генеративное кодирование HyperNEAT против. Оптимизация параметров. Труды Европейской конференции по искусственной жизни. (pdf )
  12. ^ Ли С., Йосински Дж., Глетт К., Липсон Х., Клун Дж. (2013) Развитие походки физических роботов с генеративным кодированием HyperNEAT: преимущества моделирования. Приложения эволюционных вычислений. Springer. pdf
  13. ^ Ли, Сучан; Йосинский, Джейсон; Глетт, Кирр; Липсон, Ход; Клун, Джефф (2013-04-03). Эспарсия-Алькасар, Анна I. (ред.). Приложения эволюционных вычислений. Конспект лекций по информатике. Springer Berlin Heidelberg. С. 540–549. CiteSeerX  10.1.1.364.8979. Дои:10.1007/978-3-642-37192-9_54. ISBN  9783642371912.
  14. ^ Clune, J .; Стэнли, К. О .; Pennock, R.T .; Офрия, К. (01.06.2011). «О производительности косвенного кодирования в континууме регулярности». IEEE Transactions по эволюционным вычислениям. 15 (3): 346–367. CiteSeerX  10.1.1.375.6731. Дои:10.1109 / TEVC.2010.2104157. ISSN  1089-778X. S2CID  3008628.
  15. ^ Клун, Джефф; Офрия, Чарльз; Пеннок, Роберт Т. (13 сентября 2008 г.). Рудольф, Гюнтер; Янсен, Томас; Бойме, Никола; Лукас, Саймон; Полони, Карло (ред.). Параллельное решение проблем с натуры - PPSN X. Конспект лекций по информатике. Springer Berlin Heidelberg. С. 358–367. Дои:10.1007/978-3-540-87700-4_36. ISBN  9783540876991.
  16. ^ Клун, Джефф; Beckmann, Benjamin E .; Пеннок, Роберт Т .; Офрия, Чарльз (13 сентября 2009 г.). Кампис, Джордж; Карсай, Иштван; Szathmáry, Eörs (ред.). Успехи в искусственной жизни. Дарвин встречается с фон Нейманом. Конспект лекций по информатике. Springer Berlin Heidelberg. С. 134–141. CiteSeerX  10.1.1.409.741. Дои:10.1007/978-3-642-21314-4_17. ISBN  9783642213137.
  17. ^ Клун, Джефф; Beckmann, Benjamin E .; МакКинли, Филип К .; Офрия, Чарльз (01.01.2010). Изучение возможности создания модульных нейронных сетей HyperNEAT. Материалы 12-й ежегодной конференции по генетическим и эволюционным вычислениям. GECCO '10. Нью-Йорк, Нью-Йорк, США: ACM. С. 635–642. CiteSeerX  10.1.1.409.4870. Дои:10.1145/1830483.1830598. ISBN  9781450300728. S2CID  14826185.
  18. ^ Сухожевский, Марцин; Клун, Джефф (01.01.2011). Новое генеративное кодирование для развивающихся модульных, регулярных и масштабируемых сетей. Труды 13-й ежегодной конференции по генетическим и эволюционным вычислениям. GECCO '11. Нью-Йорк, Нью-Йорк, США: ACM. С. 1523–1530. CiteSeerX  10.1.1.453.5744. Дои:10.1145/2001576.2001781. ISBN  9781450305570. S2CID  2542736.
  19. ^ Вербанчич, Филипп; Стэнли, Кеннет О. (01.01.2011). Ограничение возможностей подключения для поощрения модульности в HyperNEAT. Труды 13-й ежегодной конференции по генетическим и эволюционным вычислениям. GECCO '11. Нью-Йорк, Нью-Йорк, США: ACM. С. 1483–1490. CiteSeerX  10.1.1.379.1188. Дои:10.1145/2001576.2001776. ISBN  9781450305570. S2CID  1442181.
  20. ^ Клун, Джефф; Липсон, Ход (2011-11-01). «Развитие трехмерных объектов с генеративным кодированием, вдохновленное биологией развития». SIGEVOlution. 5 (4): 2–12. Дои:10.1145/2078245.2078246. ISSN  1931-8499. S2CID  9566239.
  21. ^ Risi, S .; Стэнли, К. О. (2012-06-01). Единый подход к развитию пластичности и нейронной геометрии. Международная совместная конференция по нейронным сетям (IJCNN) 2012 г.. С. 1–8. CiteSeerX  10.1.1.467.8366. Дои:10.1109 / IJCNN.2012.6252826. ISBN  978-1-4673-1490-9. S2CID  14268194.


внешние ссылки