Можно предположить, что НС, построенные на тех же принципах, что и биологические нейроны, будут обладать перечисленными характеристиками

Введение

Система искусственного интеллекта способна в зависимости от состояния входов, изменять не только параметры функционирования, но и сам способ своего поведения, причём способ поведения зависит не только от текущего состояния входов, но также от предыдущих состояний системы.

В настоящее время искусственный интеллект (ИИ) сформировался уже не как одно из направлений информационных технологий, а как обширная область исследований и разработок интеллектуальных систем, предназначенных для работы в трудно формализуемых областях деятельности.

Можно выделить следующие направления развития ИИ: разработка интеллектуальных систем, основанных на знаниях, распознавание образов, игры и творчество, компьютерная лингвистика, интеллектуальные роботы и т.д.

Одна из основных тем исследований в области ИИ является нейросетевые и нейрокомпьютерные технологии. В основе этих исследований лежат искусственные нейронные сети (НС), которые представляют собой математическую конструкцию, основным элементом которой является искусственный нейрон.

Термин «нейронные сети» сформировался к середине 50-х годов XX века.Основные результаты в этой области связаны с именами У. Маккалоха, Д. Хебба, Ф. Розенблатта, М. Минского, Дж. Хопфилда. Считается, что теория нейронных сетей, как научное направление, была обозначена в классической работе Мак Каллоха (W. McCulloch) и Питтса (W. Pitts) в 1943 г., в которой утверждалось, что, в принципе, любую арифметическую или логическую функцию можно реализовать с помощью простой нейронной сети.

В 1949 г. Д. Хебб (D. Hebb) высказал идеи о характере соединений нейронов мозга и их взаимодействии и описал правила обучения нейронной сети.

Среди основополагающих работ следует выделить модель Д. Хэбба, который в 1949 г. предложил закон обучения, явившийся стартовой точкой для алгоритмов обучения искусственных нейронных сетей, а также теоремы М. Минского и исследования им ряда типовых задач, в том числе, популярной задачи «Исключающего «ИЛИ».

В 1957 г. Ф. Розенблатт (F. Rosenblatt) разработал принципы организации и функционирования персептронов, предложил вариант технической реализации первого в мире нейрокомпьютера Mark.

В 1958 г. Ф. Розенблатт предложил нейронную сеть, названную персептроном, и построил первый нейрокомпьютер «Марк-1». Персептрон был предназначен для классификации объектов и получал на этапе обучения от «учителя» сообщение, к какому классу принадлежит предъявляемый объект. Обученный персептрон был способен классифицировать объекты, в том числе, не использовавшиеся при обучении, делая при этом мало ошибок.

В 1969 г. была опубликована книга М. Минского (М. Minsky) иС. Пейперта (S. Papert) «Персептроны», в которой доказывается принципиальная ограниченность возможностей персептронов, что послужило при-чиной угасания интереса к искусственным нейронным сетям.

В начале 80-х годов происходит возобновление интереса к искусственным нейронным сетям, как следствие накопления новых знаний о деятельности мозга, а также значительного прогресса в области микроэлектроники и компьютерной техники.

В 1982–1985 гг. Дж. Хопфилд (J. Hopfield) предложил семейство оптимизирующих нейронных сетей, моделирующих ассоциативную память.

В 1985-1986 гг. теория нейронных сетей получила «технологический импульс», который был вызван возможностью моделирования нейронных сетей на появившихся в то время персональных компьютерах. Искусственные нейронные сети превратились из объекта фундаментальных исследований в инструмент решения прикладных задач в самых разных отраслях

1987г. послужил началом широкомасштабного финансирования разработок в области ИНС и НК в США, Японии и Западной Европе. В 1989 г. разработки и исследования в области ИНС и НК ведутся практически всеми крупными электротехническими фирмами. Нейрокомпьютеры становятся одним из самых динамичных секторов рынка (за два года объем продаж вырос в пять раз). В 1997 г. годовой объем продаж на рынке ИНС и НК превысил 2 млрд долларов, а ежегодный прирост составил 50 %.

В 2000 г. благодаря переходу на субмикронные и нанотехнологии, а также успехам молекулярной и биомолекулярной технологии происходит переход к принципиально новым архитектурным и технологическим решениям по созданию нейрокомпьютеров.

Потенциальными областями применения ИНС являются те области, где человеческий интеллект малоэффективен, а традиционные вычисления трудоемки или физически неадекватны (т.е., не отражают или плохо отражают реальные физические процессы и объекты).

Действительно, актуальность применения нейронных сетей и нейрокомпьютеров многократно возрастает тогда, когда появляется необходимость решения плохо формализованных задач.

Нейронные сети продемонстрировали свою способность решать сложные задачи (рис.В.1).

 

 

 

Рис.В.1. Типовые задачи, решаемые с помощью нейронных сетей и нейрокомпьютеров

Длительный период эволюции придал мозгу человека много качеств, которые отсутствуют как в машинах с архитектурой фон Неймана, так и в современных параллельных компьютерах.

К ним относятся:

· массовый параллелизм,

· распределенное представление информации и вычисления,

· способность к обучению и способность к обобщению,

· адаптивность,

· свойство контекстуальной обработки информации,

· толерантность к ошибкам,

· низкое энергопотребление.

Можно предположить, что НС, построенные на тех же принципах, что и биологические нейроны, будут обладать перечисленными характеристиками

Как известно, аппарат нечетких множеств и нечеткой логики уже давно (более 10 лет) с успехом применяется для решения задач, в которых исходные данные являются ненадежными и слабо формализованными. Сильные стороны такого подхода:

* описание условий и метода решения задачи на языке, близком к естественному;

* универсальность: согласно знаменитой теореме FAT (Fuzzy Approximation Theorem), доказанной Б.Коско (B.Kosko) в 1993 году, любая математическая система может быть аппроксимирована системой, основанной на нечеткой логике;

* эффективность (связана с универсальностью), поясняемая рядом теорем, аналогичных теоремам о полноте для искусственных нейронных сетей, например, теоремой вида: для каждой вещественной непрерывной функции g, заданной на компакте U и для произвольного существует нечеткая экспертная система, формирующая выходную функцию f(x) такую, что

,

где - символ принятого расстояния между функциями.

ЗАМЕЧАНИЕ

Используемые определения

* Мажоранта или верхняя грань (граница) числового множества — число , такое что .
Миноранта или нижняя грань (граница) числового множества — число , такое что .

* Подобным образом вводятся аналогичные понятия для подмножества нечислового упорядоченного множества. Эти понятия будут использованы ниже.

* Определения

* Точной (наименьшей) верхней гранью (границей), или супре́мумом (лат. supremum — самый высокий) подмножества упорядоченного множества (или класса) , называется наименьший элемент , который равен или больше всех элементов множества . Другими словами, супремум — это наименьшая из всех верхних граней. Обозначается .

* Более формально:

* — множество верхних граней , то есть элементов , равных или больших всех элементов

*

* Точной (наибольшей) нижней гранью (границей), или инфи́мумом (лат. infimum — самый низкий) подмножества упорядоченного множества (иликласса) , называется наибольший элемент , который равен или меньше всех элементов множества . Другими словами, инфимум — это наибольшая из всех нижних граней. Обозначается .

Вместе с тем, для нечетких экспертных и управляющих систем характерны и определенные недостатки:

1) исходный набор постулируемых нечетких правил формулируется экспертом-человеком и может оказаться неполным или противоречивым;

2) вид и параметры функций принадлежности, описывающих входные и выходные переменные системы, выбираются субъективно и могут оказаться не вполне отражающими реальную действительность.

Для устранения, по крайней мере, частично, указанных недостатков рядом авторов было предложено выполнять нечеткие экспертные и управляющие системы адаптивными - корректируя, по мере работы системы и правила и параметры функций принадлежности. Среди нескольких вариантов такой адаптации одним из самых удачных, по-видимому, является метод так называемых гибридных нейронных сетей.

Гибридная нейронная сеть формально по структуре идентична многослойной нейронной сети с обучением, например, по алгоритму обратного распространения ошибки, но скрытые слои в ней соответствуют этапам функционирования нечеткой системы:

· так, 1-й слой нейронов выполняет функцию введения нечеткости (fuzzification) на основе заданных функций принадлежности входов;

· 2-й слой отображает совокупность нечетких правил;

· 3-й слой выполняет функцию приведения к четкости (defuzzification).

Каждый из этих слоев характеризуется набором параметров (параметрами функций принадлежности, нечетких решающих правил, активационных функций, весами связей), настройка которых производится, в сущности, так же, как для обычных нейронных сетей.

В курсе лекций по «Интеллектуальным системам» и «Нейросетевым технологиям» рассмотрены теоретические аспекты составляющих подобных сетей, именно, аппарат нечеткой логики, основы теории искусственных нейронных сетей и собственно гибридных сетей применительно к задачам управления и принятия решений в условиях неопределенности.

Лекция 1.

«Нейронные сети, основные понятия, классификация и обучение»

План лекции

1. Основные положения теории нейронных сетей

1.1.Биологический нейрон. Структура и свойства искусственного нейрона

1.2. Классификация нейронных сетей и их свойства

Не нашли, что искали? Воспользуйтесь поиском по сайту: