В рубрику "Видеонаблюдение (CCTV)" | К списку рубрик | К списку авторов | К списку публикаций
Теодор В. Бергер
Профессор Университета Южной Калифорнии (США)
Что такое нейронная сеть
В последнее время все чаще стали говорить о нейронных сетях. Развиваются целые сегменты математики, изучающие нейронные сети, а на основе созданных моделей строятся различные автоматические системы анализа и распознавания информации. Остановимся кратко на тех принципах, которые заложены в автоматических нейронных сетях.
Нервная система и мозг человека состоят из нейронов, соединенных между собой нервными волокнами. Нервные волокна способны передавать электрические импульсы между нейронами. Все процессы передачи раздражений от нашей кожи, ушей и глаз к мозгу, процессы мышления и управления действиями - все это реализовано в живом организме как передача электрических импульсов между нейронами. Рассмотрим строение биологического нейрона. Каждый нейрон имеет отростки нервных волокон двух типов: дендриты, посредством которых принимаются импульсы, и аксон (он единственный), по которому нейрон может передавать импульс. Аксон контактирует с дендритами других нейронов через специальные образования - синапсы, которые влияют на силу импульса. Можно считать, что при прохождении синапса сила импульса меняется определенное число раз, которое называют весом синапса. Импульсы, поступившие к нейрону одновременно по нескольким дендритам, суммируются. Если суммарный импульс превышает некоторый порог, нейрон возбуждается, формирует собственный импульс и передает его далее по аксону. Важно отметить, что веса синапсов могут изменяться со временем, а значит, меняется и поведение соответствующего нейрона.
Таким образом, создание автоматических систем на основе нейронной сети заключается в выборе архитектуры сети и подборе весов сети. Подбор весов - это "обучение" сети. Получается, что нейронные сети представляют собой нечто среднее между центральным процессором и человеческим мозгом.
Основные понятия
Сведем воедино основные понятия, применяемые в нейронных сетях. Нейронная сеть - это вычислительная или логическая схема, построенная из однородных процессорных элементов, являющихся упрощенными функциональными моделями нейронов. Как правило, передаточные функции всех нейронов в нейронной сети фиксированы, а веса являются параметрами нейронной сети и могут изменяться.
Некоторые входы нейронов помечены как внешние входы нейронной сети, а некоторые выходы - как внешние выходы. Подавая любые числа на входы нейронной сети, мы получаем какой-то набор чисел на выходах нейронной сети. Таким образом, работа нейронной сети состоит в преобразовании входного вектора в выходной вектор, причем это преобразование задается весами нейронной сети. Формальный нейрон в нейронных сетях - это процессорный элемент, преобразователь данных, получающий входные данные и преобразующий их в соответствии с заданной функцией и параметрами. Формальный нейрон работает с дискретным временем.
Синапс в нейронных сетях - это связь между формальными нейронами. Выходной сигнал от нейрона поступает в синапс, который передает его другому нейрону. Сложные синапсы могут иметь память. Синапсов в нейронной сети, как правило, достаточно много (до нескольких сотен).
Сумматор в нейронных сетях - это блок, суммирующий сигналы, поступающие от нейронов через синапсы. В общем случае сумматор может преобразовывать сигналы и передавать их нейронам или сумматорам тоже через синапсы.
Краткая история исследования нейронных сетей
История исследования нейронных сетей помнит взлеты и падения. Первый всплеск исследовательского энтузиазма приходится на 1940-1960-е гг. Его можно связать с работами Дж. фон Неймана по концептуальному сравнительному анализу работы биологических нейронных сетей и компьютеров и по разработке принципов построения надежных вычислительных систем из ненадежных компонент (фактически формальных нейронов). Сравнительно небольшой прогресс нейрокибернетики (особенно в области практического применения) 1940-1960-х гг. привел к тому, что период энтузиазма сменился периодом спада активности исследований искусственных нейронных сетей. Многие исследователи ушли в те области, которые показались им более привлекательными. Однако в середине 1980-х гг. снова возник нейросетевой бум. Причиной бума, по-видимому, послужил постоянный интерес человечества к изучению работы нервной системы и ряд новых интересных моделей, разработанных к этому времени. Одной из таких "стимулирующих" моделей стали работы, которые позволили привлечь методы теоретической физики к исследованию нейронных сетей. Во второй половине 1980-х гг. был предложен целый ряд интересных и содержательных моделей нейронных сетей. В моделях строятся нейросети, выполняющие различные алгоритмы обработки информации: ассоциативная память, категоризация, то есть разбиение множества образов на кластеры, состоящие из подобных друг другу, топологически корректное картирование, распознавание зрительных образов, инвариантное относительно деформаций и сдвигов в пространстве решение задач комбинаторной оптимизации. Хотя ряд исследований и был посвящен анализу характеристик нейронных сетей с целью понимания свойств естественных нейронных систем, однако, в отличие от первой волны, подавляющее количество работ относилось к исследованию алгоритмов нейросетей с прагматическими целями, что позволило привлечь дополнительные финансовые ресурсы для их поддержки. Все это привело к тому, что в 1990-х гг. нейросетевые автоматические системы прочно вошли в инженерный обиход, и сейчас продолжается активная работа по их реализации для различных задач анализа и распознавания информации.
Динамическая синапсовая нейронная сеть (DSNN)
Дерзание свойственно человеку еще со времен мифологического Прометея. Почему бы нам не улучшить решение, найденное природой? Еще раз напомним, что традиционная нейронная сеть, созданная на основе биологического прототипа, имеет единственный выход от каждого нейрона. А что если перейти к модели, когда каждый нейрон имеет много выходов? Так родилась идея построения динамической синап-совой нейронной сети (DSNN), которая показана на рис. 1.
В DSNN отдельные нейроны передают обработанную информацию в виде изменения в целой серии точечных событий (логика "все или ничего"), а соединения между отдельными нейронами моделируются как динамический процесс с различными временными параметрами, полученными на основании экспериментальных исследований в ходе "обучения" системы распознаванию той или иной информации. Эти временные параметры определяют динамику изменений в каждом синаптическом соединении и в конечном результате синаптический выход всей системы становится временной функцией, зависящей от происходящих на входе сети событий.
Таким образом, каждая последовательность событий на входе сети приводит к соответствующей последовательности событий на ее выходе. Поскольку каждый нейрон имеет несколько соединений и поскольку все они различны, DSNN позволяет нейрону кодировать и передавать пространственно-временной сигнал, который в принципе дает экспоненциальный рост информационной емкости системы по сравнению с традиционной.
Мы разработали алгоритм обучения, позволяющий оптимизировать передаточную функцию с каждым повтором входного события, что позволяет выявить неизменные составляющие в этом событии и "настроить" сеть на надежное распознавание этого события вне зависимости от влияния посторонних событий (шумов) на входе сети. Таким образом, концепция и архитектура DSNN ярко контрастирует с формализмом традиционных нейронных сетей (Artificial Neural Network -ANN), который оперирует со статическими коэффициентами (синаптическими весами), что позволяет с помощью обучения автоматически оптимизировать статические веса и каждому нейрону передавать одинаковые сигналы на все нейроны, соединенные с ним. Преимущества рассматриваемой модели можно продемонстрировать на основе проведенного нами эксперимента. Мы обучили распознаванию определенного звука системы, построенные на DSNN- и ANN- (best alternative) моделях, и измерили коэффициент распознавания ими этого звука при различных уровнях шумов. Результат наших измерений показан на рис. 2 (Human - коэффициент распознавания этого звука человеком). Думаю, никто не станет возражать, что преимущество DSNN-архитектуры очевидно.
Автоматическое целеуказание в системах видеонаблюдения
Одним из практических применений процессоров, построенных по архитектуре DSNN, является использование их для реализации автоматического целеуказания в системах видеонаблюдения. Мы "обучили" такой процессор распознаванию звука выстрела из различных видов огнестрельного оружия и разработали на его основе устройство, имеющее входы для параболического микрофона и выход для управления поворотной телевизионной камерой. Структурная схема этой системы показана на рис. 3.
Система устанавливается в местах возможных инцидентов с применением огнестрельного оружия, и в случае криминальной ситуации она автоматически распознает звук и направление выстрела, разворачивая камеру к источнику выстрела. Одновременно посылается сигнал в соответствующие компетентные органы. Таким образом, мы получили круглосуточного полицейского, которому не требуется ни пища, ни отдых. Мы совместно с местными инсталляторами систем безопасности установили нашу систему в ряде криминогенных городских зон США и получили впечатляющее снижение уровня уличной преступности. Экспериментальный радиус устойчивого действия системы достигал двух городских кварталов.
Разумеется, это только одно из возможных практических применений технологии DSNN. Сеть можно "обучить" распознаванию практически любой необходимой последовательности входных событий. От сложности решаемой задачи зависит в основном только время, которое необходимо потратить на "обучение" системы (отсчет здесь начинается от нескольких месяцев), поскольку именно в процессе обучения сеть оптимизирует себя под выявление конкретного события.
В заключение можно добавить, что возможности применения технологии DSNN огромны, они ограничиваются только человеческим воображением.
Опубликовано: Журнал "Системы безопасности" #1, 2006
Посещений: 19685
Автор
| |||
В рубрику "Видеонаблюдение (CCTV)" | К списку рубрик | К списку авторов | К списку публикаций
