Проблема фрагментарной когерентности в генеративных языковых моделях при обработке протяженных контекстов: архитектурные и методологические решения
Краткое содержание
В докладе исследуется проблема фрагментарной когерентности (FCP) в больших языковых моделях (LLM), таких как DeepSeek, при обработке объёмных документов. FCP проявляется в том, что модель, вместо целостной переработки текста, генерирует разрозненные фрагменты, перекладывая задачу их интеграции на пользователя. Анализируются коренные причины: архитектурные ограничения механизма внимания, приоритизация локального контекста, неадаптированность обучения для сложного редактирования. Предлагается многоуровневое решение, включающее архитектурные инновации (иерархическое внимание, динамическая память), методологии работы (стратегическое чанкирование, мастер-промпты) и новые парадигмы обучения (RL для глобальной когерентности). Доклад завершается протоколом для эмпирической валидации методов.
В нашей библиотеке Вы имеете возможность скачать книгу Проблема фрагментарной когерентности в генеративных языковых моделях при обработке протяженных контекстов: архитектурные и методологические решения Антон Александрович Белявский или читать онлайн в формате epub, fb2, pdf, txt, а также можете купить бумажную книгу в интернет магазине партнеров.
