Нейронные сети сегодня являются основой технологий, таких как искусственный интеллект, компьютерное зрение, видеоаналитика и др.
Можно сказать, что нейронные сети моделируют процесс нервной деятельности и мышления человека, с той разницей, что мышление заменяется вычислениями, целью которых является имитация процесса распознавания образов человеком и его логических умозаключений .
Рис. 1. Аналогия мышления и вычислений.
Однако, между архитектурой мозга и архитектурой компьютера есть коренное отличие. Традиционные компьютеры очень быстро обрабатывают данные, но, в основном, последовательно, по точно определённому алгоритму, и исходя из конкретных исходных данных. В их вычислениях нет места никакой приблизительности.
Мозг животного или человека работает гораздо медленнее компьютера, но обрабатывает очень много сигналов параллельно, и с присущей ему мерой приблизительности. Поэтому суммарный результат часто достигается быстрее.
Биологические нейроны – нервные клетки организма со многими входами: дендритами, и выходами: аксонами, а также окончаниями аксонов: терминалами. Аксон также может называться синапсом. По нейронам передаются нервные возбуждения в виде электрохимических импульсов.
Рис. 2. Нейрон человека.
«Нейросеть» человека и животных, со значительным упрощением, может быть представлена так, как показано на рисунке.
На рисунке показаны взаимосвязанные между собой нейроны, причем выходные сигналы аксонов одних нейронов служат входными сигналами дендритов других нейронов.
Рис. 3 Упрощённый эскиз нервной системы человека, как сети нейронов.
В ядрах нервных клеток нейронов происходят некие преобразования сигналов перед передачей их на другие нейроны.
Компьютерная нейросеть представляет собой имитацию нейронной структуры нервной системы человека или животного. На рисунке ниже показана сильно упрощённая нейросеть из трёх слоёв, состоящая из «нейронов», вычислительных узлов, которые могут иметь несколько входов и несколько выходов, между которыми установлены соединения.
Рис. 4. Упрощённое представление нейросети.
Задачей нейросети, в общем случае, является установление соответствия между входными сигналами i, и выходными сигналами o, при известном целевом значении набора (матрицы) выходных сигналов. Жирный шрифт (i,o) обозначает то, что параметр на самом деле является матрицей. Сигналы между нейронами сети подвергаются воздействию весовых коэффициентов, «весов» w, величины которых могут корректироваться в зависимости от величины отклонения e (error) выходного сигнала o от целевого значения. Последовательная корректировка весовых коэффициентов называется «обучением» (learning) нейронной сети.
Рис. 5. «Обучение» нейросети.
Процесс «обучения» нейросети заключается в установлении заданных соответствий между входными сигналами i и выходными сигналами o.
Если в качестве входных сигналов задать матрицу пикселов изображения, то при сканировании изображения на «обученной» сети можно получить выходной результат, который будет представлять степень соответствия входного изображения шаблону из той или иной базы изображений.
Данные для обучения – это разница между величиной выходного сигнала и ошибкой o – e, по которой выбирается «вес» w коррекции сигнала. Обратная передача сигнала коррекции ошибки происходит пропорционально весовым коэффициентам связей между нейронами.
Чем больше «глубина» сети, то есть чем больше в ней скрытых нейронных уровней, тем сеть более адаптивна и тем более точную настройки матрицы входных сигналов в ней удастся достичь.
Процесс машинного обучения нейросети (machine learning) можно образно представить в виде нахождения самой глубокой впадины на холмистом рельефе. При машинном обучении, нейросеть «ищет» самый глубокий экстремум для функции нескольких переменных для каждого нейрона, повторяя этот процесс для каждого уровня нейронов в сети (правая часть рисунка). Это похоже на то, как человек ищет впадину на горном рельефе в полной темноте, имея в руках фонарик, который светит только на шаг вперёд (левая часть рисунка выше). Оглядывая рельеф вокруг, человек находит самое низкое место и переходит туда, потом опять светит фонариком и так далее, пока не достигнет дна впадины.
Рис. 6. Образное представление процесса обучения нейросети.
Точно так же, нейросеть ищет минимум отклонения сигнала выходной функции на каждом нейроне и соответственно корректирует весовые коэффициенты w на его входах. Однако, в отличие от человека, который ищет последовательно, нейросеть делает коррекцию весовых коэффициентов на нейронах параллельно, сразу на всех нейронах и по всем слоям.
Процесс обучения нейросети может занимать от нескольких секунд до нескольких дней, в зависимости от сложности задачи и глубины нейросети, а также быстродействия процессоров, на которых построены нейроны.
На рисунке показан пример системы CV с машинным обучением на примере простой задачи распознавания рельефа местности по трём типам: «горизонтальный», «вертикальный» и «небо».
Рис. 7. Пример сети машинного обучения на примере распознавания рельефа на изображении.
Пример распознавания рукописных цифр на примере очень простой 2-уровневой нейросети приведён на рисунке.
Рис. 8. Пример распознавания рукописных цифр в простой 2-х уровней нейросети.
На рисунке ниже показан пример распознавания объектов произвольной уличной сцены при помощи предварительно обученной системы машинного обучения. Следует обратить внимание, что люди (person) достаточно точно классифицируются, даже если их лица не видны. Транспортные средства классифицируются по типу: легковой автомобиль (car), грузовик (truck) и мотоцикл (motorcycle).
Рис. 9. Пример распознавания объектов произвольной уличной сцены при помощи обученной нейросети.
Искусственный интеллект общего применения (AGI – Artificial General Intelligence)
Пока т.н. «искусственный интеллект» не может называться «интеллектом» в общем значении этого слова, как это принято в русском языке. Английское слово intelligence не равнозначно русскому «интеллект». В русском языке, понятие «интеллект» означает высокий уровень умственных способностей человека, либо его высокий уровень образования, либо выдающиеся способности мыслить, в т.ч. абстрактными категориями и пр., а часто – всё это вместе.
В английском языке слово «intelligence» означает лишь способность совершать некие логические действия и делать умозаключения. То есть, более адекватный перевод слова Intelligence — «ум», «сообразительность», а не интеллект. Более того, в английском языке есть и слово Intellect, которое более точно соответствует своему русскому аналогу.
Термин, появившийся относительно недавно, Artificial General Intelligence (AGI) для компьютерных устройств означает как раз то, что в русском языке понимается под словом «интеллект». То есть, это способность машины, компьютера мыслить, как человек, совершая абстрагированные умозаключения, или, по крайней мере, имитировать этот процесс.
Гари Маркус (Gari Marcus) психолог, исследователь, специалист в области когнитивистики (науки о восприятии и познании) и эволюционист, в своей лекции об AGI отмечает[1]:
- AGI (как и AI в целом) находится на ранней стадии развития;
- Машинное обучение фундаментально необходимо для развития AGI;
- Глубокое обучение – это одна из технологий машинного обучения, повышающая его эффективность;
- Глубокое обучение, само по себе недостаточно для когнитивных способностей;
- Обучение без модели (Reinforcement Learning) также неспособно достичь AGI;
- Системы AI нуждаются в более проработанных моделях;
- Абстрактное мышление, как у человека, остаётся пока неразрешимой проблемой для AI.
[1] https://www.youtube.com/watch?v=7dnN3P2bCJo
Вполне даже понятное на первом, ознакомительном, этапе о ИИ. Спасибо автору.
Уведомление: Availability bias (cубботнее искусственно-интеллектуальное) | Telecom & IT
Уведомление: Искусственный мозг создаётся на «границе хаоса» | Telecom & IT
Уведомление: Решения Edge оператора NTT DoCoMo | Telecom & IT
В начале нужно понять работу модели мозга, взаимодействие синапсов разных слоях, учесть их промежуточные значения, приоритеты передачи информации на соседние слои и т.д. а пока это не совсем определенная обработка математических ожиданий вероятностей по определенным алгоритмам.
Уведомление: Telecom & IT