Победитель получает все (вычисления) - Winner-take-all (computing)

Эта статья включает Список ссылок, связанное чтение или внешняя ссылка, но его источники остаются неясными, потому что в нем отсутствует встроенные цитаты. Пожалуйста, помогите улучшать эта статья введение более точные цитаты. (Октябрь 2012 г.) (Узнайте, как и когда удалить этот шаблон сообщения)

Победитель получает все вычислительный принцип, применяемый в вычислительных модели нейронных сетей по которому нейроны в слое соревнуются друг с другом за активацию. В классической форме активным остается только нейрон с максимальной активацией, в то время как все остальные нейроны отключаются; тем не менее, другие варианты позволяют активным более чем одному нейрону, например, мягкая система «победитель получает все», при которой к нейронам применяется степенная функция.

Нейронные сети

В теории искусственные нейронные сети, победитель получает все сети - это случай соревновательное обучение в повторяющиеся нейронные сети. Выходные узлы в сети взаимно подавляют друг друга, одновременно активируя себя посредством рефлексивных соединений. Через некоторое время в выходном слое будет активен только один узел, а именно тот, который соответствует самому сильному входу. Таким образом, сеть использует нелинейное торможение, чтобы выбрать самый большой из набора входов. «Победитель получает все» - это общий вычислительный примитив, который может быть реализован с использованием различных типов моделей нейронных сетей, включая как сети с непрерывным временем, так и сети с пиками (Grossberg, 1973; Oster et al. 2009).

Сети типа "победитель получает все" обычно используются в вычислительных моделях мозга, особенно для распределенного принятия решений или выбор действия в кора. Важные примеры включают иерархические модели зрения (Riesenhuber et al. 1999) и модели избирательного внимания и узнавания (Carpenter and Grossberg, 1987; Itti et al. 1998). Они также распространены в искусственных нейронных сетях и нейроморфных аналоговых схемах СБИС. Формально доказано, что операция «победитель получает все» является вычислительно мощной по сравнению с другими нелинейными операциями, такими как определение порога (Maass 2000).

Во многих практических случаях не только один нейрон становится единственным активным, но и ровно k нейроны, которые становятся активными при фиксированном количестве k. Этот принцип упоминается как k-победители получают все.

Пример схемы

Схема CMOS с двумя входами, по принципу "победитель получает все"

Простой, но популярный CMOS Схема «победитель получает все» показана справа. Эта схема была первоначально предложена Lazzaro et al. (1989) с использованием МОП-транзисторов, настроенных для работы в режиме слабой инверсии или подпороговом режиме. В показанном частном случае есть только два входа (я_В,1 и я_В,2), но схему можно легко расширить до нескольких входов. Он работает с непрерывными входными сигналами (токами) параллельно, используя только два транзистора на вход. Кроме того, ток смещения я_{ПРЕДВЗЯТОСТЬ} задается одним глобальным транзистором, общим для всех входов.

Самый большой из входных токов устанавливает общий потенциал V_C. В результате на соответствующий выход проходит почти весь ток смещения, в то время как на других выходах токи близки к нулю. Таким образом, схема выбирает больший из двух входных токов, т. Е. Если я_В,1 > я_В,2, мы получили я_ИЗ,1 = я_{ПРЕДВЗЯТОСТЬ} и я_ИЗ,2 = 0. Аналогично, если я_В,2 > я_В,1, мы получили я_ИЗ,1 = 0 и я_ИЗ,2 = я_{ПРЕДВЗЯТОСТЬ}.

Моделирование двухвходовой КМОП-схемы принципа "победитель получает все"

А СПЕЦИЯ Справа показана симуляция постоянного тока CMOS-схемы «победитель получает все» в случае с двумя входами. Как показано на верхнем подзаголовке, вход я_В,1 было зафиксировано на уровне 6нА, а я_В,2 линейно увеличивалось от 0 до 10 нА. Нижняя часть графика показывает два выходных тока. Как и ожидалось, выход, соответствующий большему из двух входов, несет весь ток смещения (в данном случае 10 нА), заставляя другой выходной ток приближаться к нулю.

Другое использование

В стерео согласование алгоритмы, следуя таксономии, предложенной Scharstein et al. (IJCV 2002), принцип «победитель получает все» - это локальный метод вычисления неравенства. Приняв стратегию «победитель получает все», для каждого пикселя выбирается несоответствие, связанное с минимальным или максимальным значением стоимости.

Совершенно очевидно, что на рынке электронной коммерции первые доминирующие игроки, такие как AOL или же Yahoo! получить большую часть наград. К 1998 году одно исследование^{[требуется разъяснение ]} обнаружил, что на первые 5% всех веб-сайтов приходится более 74% всего трафика.

В победитель принимает все гипотезы предполагает, что как только технология или фирма выйдут вперед, они со временем будут становиться все лучше и лучше, тогда как отстающие технологии и фирмы будут еще больше отставать.

Смотрите также

• Самоорганизующаяся карта
• Выбор победителя по принципу "все получает"
• Компьютер с нулевым набором команд

Рекомендации

• Г.А. Карпентер и С. Гроссберг, [1] Массовая параллельная архитектура для самоорганизующейся машины распознавания нейронных образов, "Компьютерное зрение, графика и обработка изображений", "37: 54", 1987.
• С. Гроссберг, [2] Улучшение контуров, кратковременная память и постоянство реверберирующих нейронных сетей, «Исследования по прикладной математике», «52: 213», 1973.
• М. Остер, Р. Дуглас и С.-К. Лю, Вычисления с пиками в сети, где победитель получает все, Нейронные вычисления, 21:9, 2009.
• М. Ризенхубер и Т. Поджио, Иерархические модели распознавания объектов в коре головного мозга, Природа Неврология, 2:11, 1999.
• Л. Итти, К. Кох и Э. Нибур, Модель визуального внимания на основе значимости для быстрого анализа сцены, IEEE Transactions по анализу шаблонов и машинному анализу, 20:11, 1998.
• В. Маасс, О вычислительной мощности принципа "победитель получает все", Нейронные вычисления, 12:11, 2000.
• Дж. Лаззаро, С. Рикебуш, М. А. Маховальд и К. А. Мид, Сети типа "победитель получает все" O (N) сложности, в «Успехах в системах обработки нейронной информации 1», издательство Morgan Kaufmann Publishers, Сан-Франциско, Калифорния, 1989 г. Также доступно в Интернете по адресу Сайт Джона Лаззаро.
• Д. Шарштейн, Р. Шелиски, Таксономия и оценка алгоритмов плотного двухкадрового стерео соответствия, Международный журнал компьютерного зрения, 47:1, 2002.