Решение задачи обнаружения и классификации противоречий в медицинских системах с RAG — ContRAG-Med

Keywords: retrieval-augmented generation, medical NLP, contradiction detection, contradiction classification, evidence weighting, knowledge graph, trustworthy AI

TL;DR: Формализуем обнаружение, типизацию и разрешение противоречий в медицинских RAG-хранилищах с учётом доказательности и актуальности источников.

Abstract:

Проблема. Медицинские RAG-ассистенты агрегируют знания из разнородных источников (рекомендации разных редакций, обзоры, исследования, локальные протоколы), где утверждения часто несовместимы по смыслу, условиям применимости и уровню доказательности. Такие противоречия повышают риск небезопасных ответов и делают аудит происхождения знаний затруднительным.

Критические проблемы современных RAG:

1. смешивание конфликтующих фактов при retrieval и генерации без явного контроля;
2. отсутствие типизации конфликтов (дозировки, критерии, популяции, временной контекст и др.);
3. игнорирование доказательности и «силы» рекомендаций;
4. потеря трассируемости «утверждение → источник»;
5. отсутствие формальных правил разрешения конфликтов.

Решение. Предлагается конфликт-осознанный модуль для RAG: извлечение медицинских утверждений с метаданными → оценка степени противоречивости пар → классификация типа противоречия → построение графа противоречий → разрешение и интеграция в retrieval/generation.

Ключевые инновации:

1. представление утверждений с источником, временной меткой и уровнем доказательности;
2. взвешенная функция противоречивости, учитывающая контекст применимости и доказательность;
3. вероятностная классификация типов противоречий для выбора стратегии обработки;
4. графовая модель и правило разрешения на основе приоритета (доказательность + актуальность).

Применение: аудит и очистка медицинских хранилищ знаний; повышение безопасности ответов; контроль обновлений (версии рекомендаций); конфликт-осознанный retrieval и генерация с явными источниками.

Submission Number: 69