Вторник 26.08.2025 23:21
Войти
Войти Забыли пароль?
Зарегистрироваться
свежие приложения:   НГ-Exlibris
Внешнеторговый баланс России оказался худшим за последние 5 лет Экономика

Внешнеторговый баланс России оказался худшим за последние 5 лет

0
182
ЦРУ активизирует в Афганистане работу против России и Китая В мире

ЦРУ активизирует в Афганистане работу против России и Китая

0
238
Совершил ли Трамп геополитическую ошибку в отношении Индии От редакции

Совершил ли Трамп геополитическую ошибку в отношении Индии

0
5142
Константин Ремчуков. Си Цзиньпин заявил, что Китай готов сотрудничать с Бразилией, чтобы показать пример единства стран глобального Юга МониториНГ

Константин Ремчуков. Си Цзиньпин заявил, что Китай готов сотрудничать с Бразилией, чтобы показать пример единства стран глобального Юга

0
3205
В ЕС готовят план масштабной военной поддержки Украины Воины и Армии

В ЕС готовят план масштабной военной поддержки Украины

0
271
Евроконвенция против пыток будет денонсирована Политика

Евроконвенция против пыток будет денонсирована

0
187
Минцифры анонсировало второй этап интернет-регулирования Политика

Минцифры анонсировало второй этап интернет-регулирования

0
166
Константин Ремчуков. Главный итог встречи на Аляске – превосходная химия между Дональдом Трампом и Владимиром Путиным Политика

Константин Ремчуков. Главный итог встречи на Аляске – превосходная химия между Дональдом Трампом и Владимиром Путиным

0
7020
Системные партии отыгрывают региональные выборы Политика

Системные партии отыгрывают региональные выборы

0
144
Цепочки поставок могут стать цепочками неплатежей Экономика

Цепочки поставок могут стать цепочками неплатежей

0
162
Энергия рационализации Экономика

Энергия рационализации

0
594
Запрет интернет-звонков совпал с интересами крупного бизнеса и чиновников Экономика

Запрет интернет-звонков совпал с интересами крупного бизнеса и чиновников

0
6610
Тихановская поставила восстание на паузу СНГ

Тихановская поставила восстание на паузу

0
184
Польский президент решил не помогать безработным украинцам СНГ

Польский президент решил не помогать безработным украинцам

0
189
Активность кредитных брокеров создает риски для россиян Экономика

Активность кредитных брокеров создает риски для россиян

0
124
Святослав Рыбас. Кассандра-2025: сегодняшние прогнозы и вчерашние аналогии Non-fiction

Святослав Рыбас. Кассандра-2025: сегодняшние прогнозы и вчерашние аналогии

0
4044
Демократической партии напомнили о ее самом громком провале В мире

Демократической партии напомнили о ее самом громком провале

0
203
Турецкая разведка причалила к Восточной Ливии В мире

Турецкая разведка причалила к Восточной Ливии

0
189
Соединенным Штатам не дали вмешаться во внутренние дела Франции В мире

Соединенным Штатам не дали вмешаться во внутренние дела Франции

0
200
"Грузинская мечта" уже "победила" на октябрьских выборах СНГ

"Грузинская мечта" уже "победила" на октябрьских выборах

0
184
В выборах мэра Нью-Йорка обнаружили "китайский след" В мире

В выборах мэра Нью-Йорка обнаружили "китайский след"

0
190
Келоидный рубец – тело поправимое Здоровье

Келоидный рубец – тело поправимое

0
253
О пользе урологических исследований Здоровье

О пользе урологических исследований

0
287
Пилоты LADA Sport ROSNEFT получили новый кубок Общество

Пилоты LADA Sport ROSNEFT получили новый кубок

0
154
0
0
639

Ученые Сбера предложили новый способ борьбы с галлюцинациями искусственного интеллекта

11:35 26.08.2025


Исследователи Центра практического искусственного интеллекта Сбербанка разработали метод, который значительно снижает риски галлюцинаций больших языковых моделей (LLM). Результаты исследования опубликованы в статье «Эффективные мета-модели для оценки вопросов и ответов Больших Языковых Моделей на основании контекста» (Data-efficient Meta-models for Evaluation of Context-based Questions and Answers in LLMs) на престижной конференции SIGIR 2025. Работа посвящена оценке ответов моделей искусственного интеллекта (AI) в RAG-системах — ключевом элементе современных мультиагентных решений.

Проблема галлюцинаций больших языковых моделей — одна из самых распространенных в индустрии. LLM могут генерировать правдоподобные, но ложные ответы. Наиболее эффективные современные методы обнаружения галлюцинаций — обучаемые, они требуют большого количества качественных размеченных данных для обучения.

Учёные Сбера предложили решение. Они исследовали актуальные методы детекции галлюцинаций искусственного интеллекта и разработали метамодели, которые повышают точность обнаружения ложных ответов почти на 30%, используя всего 250 примеров для обучения. Это в разы меньше, чем нужно другим решениям.

Такой подход позволяет компаниям заметно экономить ресурсы на разметку данных и улучшать качество RAG-систем. Учёные и разработчики получают новый инструмент для анализа больших языковых моделей, а пользователи — более точные ответы от AI-моделей.

«Наше исследование меняет подход к оценке ответов искусственного интеллекта. Мы показали, что даже при небольшом объёме данных можно добиться высокой точности AI-систем. Это особенно важно для индустриальных решений, где разметка требует дополнительных ресурсов. Предложенный нами способ использует метамодели и умное понижение размерности — это прорыв в детекции галлюцинаций искусственного интеллекта. Мы не просто улучшаем технологии, но и снижаем риски дезинформации, что критично для доверия к современным моделям», - отметил Глеб Гусев, директор Центра практического искусственного интеллекта Сбербанка.


Оставлять комментарии могут только авторизованные пользователи.

Вам необходимо Войти или Зарегистрироваться

комментарии(0)


Вы можете оставить комментарии.

Новости


22:40 26.08.2025
Трамп: Зеленский тоже не является невиновным...
0
111
21:35 26.08.2025
Стивен Уиткофф назвал конфликты в мире, которые США рассчитывают урегулировать до конца года
0
205
20:15 26.08.2025
США пытаются передать союзникам по НАТО как можно больше вооружений - Трамп
0
274
20:00 26.08.2025
Мужчинам в возрасте от 18 до 22 лет власти Украины разрешили пересекать госграницу без ограничений
0
291
19:45 26.08.2025
Одним из ключевых приоритетов морской политики РФ Патрушев назвал круглогодичное использование Севморпути
0
292
19:20 26.08.2025
Деятельностью Мерца на посту канцлера ФРГ недовольны 66% опрошенных респондентов
0
321
18:45 26.08.2025
Бельгия пообещала передать Украине «несколько F-16» в сентябре
0
339
18:28 26.08.2025
Отправить посылку из России в США с 26 августа пока не получится
0
355
17:40 26.08.2025
Задолженность населения по ипотеке в июле выросла на 0,7%, до 22,3 трлн руб. — ЦБ
0
370
17:12 26.08.2025
Председателю СК Бастрыкину продлили срок полномочий
0
482

Возврат к списку