Ученые Сбера предложили новый способ борьбы с галлюцинациями искусственного интеллекта
11:35 26.08.2025
Исследователи Центра практического искусственного интеллекта Сбербанка разработали метод, который значительно снижает риски галлюцинаций больших языковых моделей (LLM). Результаты исследования опубликованы в статье «Эффективные мета-модели для оценки вопросов и ответов Больших Языковых Моделей на основании контекста» (Data-efficient Meta-models for Evaluation of Context-based Questions and Answers in LLMs) на престижной конференции SIGIR 2025. Работа посвящена оценке ответов моделей искусственного интеллекта (AI) в RAG-системах — ключевом элементе современных мультиагентных решений.
Проблема галлюцинаций больших языковых моделей — одна из самых распространенных в индустрии. LLM могут генерировать правдоподобные, но ложные ответы. Наиболее эффективные современные методы обнаружения галлюцинаций — обучаемые, они требуют большого количества качественных размеченных данных для обучения.
Учёные Сбера предложили решение. Они исследовали актуальные методы детекции галлюцинаций искусственного интеллекта и разработали метамодели, которые повышают точность обнаружения ложных ответов почти на 30%, используя всего 250 примеров для обучения. Это в разы меньше, чем нужно другим решениям.
Такой подход позволяет компаниям заметно экономить ресурсы на разметку данных и улучшать качество RAG-систем. Учёные и разработчики получают новый инструмент для анализа больших языковых моделей, а пользователи — более точные ответы от AI-моделей.
«Наше исследование меняет подход к оценке ответов искусственного интеллекта. Мы показали, что даже при небольшом объёме данных можно добиться высокой точности AI-систем. Это особенно важно для индустриальных решений, где разметка требует дополнительных ресурсов. Предложенный нами способ использует метамодели и умное понижение размерности — это прорыв в детекции галлюцинаций искусственного интеллекта. Мы не просто улучшаем технологии, но и снижаем риски дезинформации, что критично для доверия к современным моделям», - отметил Глеб Гусев, директор Центра практического искусственного интеллекта Сбербанка.
Новости
- 22:40 26.08.2025
- Трамп: Зеленский тоже не является невиновным...
- 21:35 26.08.2025
- Стивен Уиткофф назвал конфликты в мире, которые США рассчитывают урегулировать до конца года
- 20:15 26.08.2025
- США пытаются передать союзникам по НАТО как можно больше вооружений - Трамп
- 20:00 26.08.2025
- Мужчинам в возрасте от 18 до 22 лет власти Украины разрешили пересекать госграницу без ограничений
- 19:45 26.08.2025
- Одним из ключевых приоритетов морской политики РФ Патрушев назвал круглогодичное использование Севморпути
- 19:20 26.08.2025
- Деятельностью Мерца на посту канцлера ФРГ недовольны 66% опрошенных респондентов
- 18:45 26.08.2025
- Бельгия пообещала передать Украине «несколько F-16» в сентябре
- 18:28 26.08.2025
- Отправить посылку из России в США с 26 августа пока не получится
- 17:40 26.08.2025
- Задолженность населения по ипотеке в июле выросла на 0,7%, до 22,3 трлн руб. — ЦБ
- 17:12 26.08.2025
- Председателю СК Бастрыкину продлили срок полномочий
Комментировать
комментарии(0)
Комментировать