Аннотация:Классическая 14-я проблема Гильберта заключается в выяснении конечной порождённости алгебры инвариантных многочленов K[X]^H для действия линейной алгебраической группы H на аффинном алгебраическом многообразии X. Она всегда имеет положительное решение в случае, когда группа H редуктивна. Относительный вариант 14-й проблемы Гильберта относится к ситуации, когда H является подгруппой в редуктивной алгебраической группе G. В этом случае проблема сводится к вопросу о конечной порождённости алгебры K[G]^H = K[G/H] многочленов на однородном многообразии G/H, которое без ограничения общности можно считать квазиаффинным. Этот вопрос в свою очередь сводится к случаю унипотентных подгрупп H. Известная гипотеза Попова–Поммеренинга состоит в том, что в случае, когда H нормализуется максимальным тором группы G (такие подгруппы называются регулярными и описываются в терминах систем корней), алгебра K[G/H] конечно порождена. Гипотеза доказана для редуктивных групп G ранга ≤ 2.
В курсовой работе рассматривается первый нетривиальный случай групп ранга 3, а именно, G = Sp(6). Получена классификация всех регулярных унипотентных подгрупп с точностью до сопряжённости, для многих из них доказательство гипотезы Попова–Поммеренинга сведено к ранее известным фактам, а для 9 из оставшихся 13 случаев гипотеза доказана геометрически путём явной реализации многообразия G/H в виде орбиты в линейном представлении группы G, граница которой в замыкании орбиты имеет коразмерность ≥ 2.