Нейронные сети: принципы работы и области применения

СОДЕРЖАНИЕ

1. Введение
2. История и эволюция нейронных сетей
   • Модель МакКаллока-Питтса и персептрон Розенблатта
   • Зимы ИИ и возрождение коннекционизма в 1980-х
   • Революция глубокого обучения 2012 года: AlexNet и ImageNet
3. Архитектура и математические основы
   • Структура искусственного нейрона: входы, веса, функция активации
   • Многослойный персептрон и алгоритм обратного распространения ошибки
   • Функции потерь и методы оптимизации: SGD, Adam, RMSprop
4. Свёрточные нейронные сети для компьютерного зрения
   • Операция свёртки, пулинг и формирование карт признаков
   • Архитектуры LeNet, VGG, ResNet и их особенности
   • Применение в распознавании лиц, медицинской визуализации и автопилотах
5. Рекуррентные сети и обработка последовательностей
   • RNN, LSTM и проблема затухающего градиента
   • Архитектура Transformer и механизм внимания (attention)
   • Языковые модели BERT и GPT: предобучение и дообучение
6. Практические области применения нейросетей
   • Распознавание речи: системы Siri, Алиса, DeepSpeech
   • Генеративные модели: GAN, диффузионные модели, Stable Diffusion
   • Нейросети в медицине: диагностика рака, анализ рентгеновских снимков
7. Проблемы и перспективы развития
   • Переобучение, интерпретируемость и adversarial-атаки
   • Этические вопросы: deepfake, предвзятость данных, приватность
   • Нейроморфные чипы и квантовые нейронные сети
8. Заключение
9. Список литературы

ВВЕДЕНИЕ

Нейронные сети представляют собой класс вычислительных моделей, вдохновлённых биологическими нейронами головного мозга. Первая математическая модель нейрона была предложена Уорреном Маккаллоком и Уолтером Питтсом в 1943 году, а в 1958 году Фрэнк Розенблатт создал персептрон — устройство, способное обучаться распознаванию образов. Современные нейронные сети, такие как архитектура Transformer (Vaswani et al., 2017), лежат в основе генеративных языковых моделей GPT и систем компьютерного зрения.

Ключевым принципом работы нейросетей является обучение на данных с использованием алгоритма обратного распространения ошибки (backpropagation), предложенного Дэвидом Румельхартом, Джеффри Хинтоном и Рональдом Уильямсом в 1986 году. Сеть корректирует весовые коэффициенты связей между нейронами, минимизируя функцию потерь методом градиентного спуска. Глубокое обучение (deep learning) стало возможным благодаря росту вычислительных мощностей GPU и появлению больших размеченных датасетов вроде ImageNet.

Области применения нейронных сетей охватывают компьютерное зрение (свёрточные сети ResNet, EfficientNet), обработку естественного языка (BERT, GPT), распознавание речи (DeepSpeech), автономное вождение (Tesla Autopilot), медицинскую диагностику и генерацию контента. Свёрточные нейронные сети, разработанные Яном Лекуном для распознавания рукописных цифр, сегодня используются в системах видеонаблюдения и беспилотных автомобилях.

Презентация раскрывает эволюцию нейросетей от однослойного персептрона до современных архитектур глубокого обучения, демонстрирует математические основы обучения и рассматривает реальные кейсы внедрения в промышленности, медицине и науке.