Центр практического искусственного интеллекта Сбербанка опубликовал библиотеку SIRIN (Semantic Inconsistency Recognition and Inspection Nexus, «Обнаружение и анализ семантических несоответствий»). Об этом говорится в сообщении банка.
Она помогает делать ИИ-агентов и языковые модели надёжнее: находить в их ответах вымышленные или не подтверждённые исходными данными факты.
SIRIN объединяет в одном инструменте разные методы проверки ответов. Разработчики могут сравнивать их, комбинировать и выбирать подходящий вариант для своей задачи. Библиотека умеет проверять как весь ответ целиком, так и отдельные фрагменты текста, показывая, где именно модель могла ошибиться.
Кроме того, SIRIN может заранее определить, достаточно ли у ИИ-агента информации для ответа. Это позволяет не только находить ошибки, но и предотвращать их — например, попросить дополнительные данные или отказаться от неподтверждённого ответа.
В основе библиотеки лежат исследования Сбера в области детекции галлюцинаций. В частности, учёные из команды исполнительного директора по исследованию данных Центра практического ИИ Сбербанка Максима Макаренко разработали метамодели, которые позволяют повысить точность обнаружения ошибок почти на 30%, используя для обучения всего 250 примеров.
Любой разработчик может встроить SIRIN в своего ассистента. Инструмент будет полезен бизнесу, который внедряет большие языковые модели и хочет следить за качеством диалогов с пользователем. Также он пригодится разработчикам ИИ-ассистентов, RAG-систем и ИИ-агентов. Исследователи найдут здесь базу для тестирования новых алгоритмов.
Библиотека доступна на российской платформе GitVerse, а также на GitHub. На Hugging Face опубликовано веб-демо.
ПАО «Сбербанк — Сбербанк России» (ИНН 7707083893) — крупнейший банк в России, Центральной и Восточной Европе. Банк является основным кредитором российской экономики и занимает крупнейшую долю на рынке вкладов. Услугами Сбербанка пользуются клиенты в 18 странах мира. Банк располагает филиальной сетью в России: около 14 тыс. точек обслуживания. Зарубежная сеть банка состоит из дочерних банков, филиалов и представительств в Великобритании, США, СНГ, Центральной и Восточной Европе, Индии, Китае и других странах.
Уставный капитал Сбербанка равен 67.76 млрд руб. и состоит из 21586948 тыс. обыкновенных акций и 1 млрд привилегированных акций номиналом 3 руб. Основным акционером Сбербанка является РФ в лице Министерства финансов РФ, владеющая 50% уставного капитала ПАО «Сбербанк» плюс 1 голосующая акция. Оставшимися 50% минус 1 голосующая акция от уставного капитала банка владеют российские и международные инвесторы.
Чистая прибыль Сбера по МФСО за 2025 год выросла на 7.9% до 1.7 трлн руб.
Рейтинговое агентство AK&M 7 июля 2025 года подтвердило высший рейтинг нефинансовой отчётности ПАО Сбербанк.
