8 апреля 2025 г.
Жданов А.Г. (ФГУП «НИИ «Квант»)
«Большие языковые модели (LLM) и системы коммуникативных агентов на базе LLM»

Аннотация доклада.

Тривиальное применение больших языковых моделей ограничено областью знаний, на которых обучена та или иная LLM. Для учета знаний конкретной предметной области применяются методы типа дообучения (SFT), дообучения с обратной связью от человека (RLHF/DPO) или генерация с дополненной выборкой (RAG). Наиболее многообещающим выглядит использование коммуникативных агентов. Поведение человека зависит от ответа на 3 ключевые вопроса: 1 Какую ситуацию я сейчас наблюдаю? 2 Какой личностью я являюсь? 3 Какое действие в ситуации, типа текущей, предпримет личность типа меня? Применение больших языковых моделей позволяет задать первые две конфигурации в виде промпта, а ответ на последний вопрос получить из обобщения мультимодальных, в том числе, текстовых данных. При этом эти данные агенты могут получать путем активного взаимодействия внешней средой и обобщать на основе знаний, накопленных в LLM. В докладе представлены подходы к проблемной ориентации предобученных языковых моделей и примеры построения систем коммуникативных агентов на базе LLM для: - описания социальных явлений - генерации программного кода В качестве «гуманитарного примера» рассматривается составление информационной сводки об интересующих событиях с помощью следующей конфигурации агентов: Агент1 - ОSINT goal - Составить подборку информационных источников по заданному региону backstory - Вы являетесь специалистом OSINT и на основании задания ищете источники информации об интересующих событиях заданного региона. При подготовке поискового запроса Вы рассматриваете как российские, так и зарубежные источники Агент2 - Референт goal - Составить подборку новостей по заданному региону backstory - Вы являетесь референтом и с использованием полученного перечня источников составляете подборку актуальных новостей об интересующем событии Агент3 - Аналитик goal — Подговить краткую справку по предоставленной информации с указанием источников backstory - Вы являетесь аналитиком и с использованием полученного перечня информационных материалов составляете краткую справку об интересующем событии