|
ИСТИНА |
Войти в систему Регистрация |
Интеллектуальная Система Тематического Исследования НАукометрических данных |
||
Оптимизация количества параметров нейронной сети, решающей задачу классификации изображенийкурсовая работа (Специалист)
- Научный руководитель: Миронов А.М.
- Автор: Кондаурова Ксения Сергеевна
- Тип: Специалист
- Организация, в которой проходила защита: МГУ имени М.В. Ломоносова
- Кафедра: Кафедра математической теории интеллектуальных систем
- Год защиты: 2022
- Курс: 3
- Аннотация: В курсовой работе Ксении Кондауровой сначала представляется обзор теоретических основ свёрточных нейронных сетей. Далее формулируется метод модификации свёрточного слоя, который заключается в использовании трехмерной конволюции вместо широко используемой в настоящее время двумерной свёртки. Развитие этого метода с целью сокращения вычислительных затрат без потери точности предсказания позволило автору создать собственную архитектуру нейросетей, которая является по сути обобщением обычного полносвязного слоя. Автору не удалось добиться высоких показателей точности, однако исследование предложенной архитектуры (она названа в работе как Meta слой) позволило заменить полносвязную нейронную сеть с относительно большим числом параметров на комбинацию нескольких полносвязных слоёв с меньшим числом нейронов и последующего соединения их выходов посредством Meta слоя. В результате этого преобразования не только сократилось в несколько раз количество обучаемых параметров, но и увеличилась точность алгоритма. В связи с этим наблюдением автор заключает, что в произвольно взятой нейронной сети, в которой присутствует большой полносвязный слой, имеет смысл заменять его на комбинацию нескольких маленьких и Meta. Данное предложение нуждается в строгом теоретическом обосновании, однако оно успешно подтверждается экспериментами.
- Добавил в систему: Миронов Андрей Михайлович