Аннотация:Приведен обзор современных методов использования механизмов внимания в технологии ИНС. Прослеживается история, начавшаяся с 1980-х годов, возникновения и развития этих механизмов. Особое внимание уделено моделям трансформеров, позволившим перейти на новый уровень развития технологий ИНС. Рассмотрены используемые функции оценки внимания, варианты трансформеров для решения различных задач.