В России разработали способ устранения "галлюцинаций" у нейросетей

/ 4 июня 2026 23:10

Команда из Красноярского университета имени Решетнева разработала новую методику для избавления нейросетей от недостоверных или выдуманных фактов. По информации вуза, эта разработка может применяться в образовании, государственных электронных сервисах, медицине и юриспруденции.

В университете отметили, что у нейросетей существует проблема: они могут уверенно выдавать ложную информацию, что называется "галлюцинациями". Сейчас для борьбы с такими ошибками применяют RAG-системы (генерация с дополнением из базы знаний), которые снижают риск появления вымышленных фактов. Однако ошибки все равно случаются, например, из-за опечаток, противоречий в запросе или неполной базы данных.

Для решения этой задачи команда под руководством доцента кафедры систем автоматизированного и интеллектуального обеспечения Анастасии Поляковой проанализировала типичные сценарии возникновения "галлюцинаций" и создала их классификатор. Затем был разработан автоматизированный пайплайн для стресс-тестирования: система формирует тестовые запросы, сравнивает результаты с эталонными ответами и оценивает точность с помощью специальных метрик и проверки семантической схожести.

Главным достижением стал прототип модуля мониторинга, который работает в реальном времени. Эта система фиксирует все входящие запросы и контекст диалога, оценивает вероятность появления недостоверного ответа и присваивает модели балл уверенности. В случае выявления ошибки или низкой уверенности модуль уведомляет об этом оператора.

Отмечается, что важное преимущество методики — ее универсальность: она не зависит от конкретной модели нейросети и может быть адаптирована для различных областей, включая чат-боты для абитуриентов, государственные сервисы и цифровых медицинских и юридических помощников.

Интервью

Интервью
4 июня 2026 23:10

Инновации в наращивании волос от Лилии Бальц, основателя студии «Рапунцель»

Интервью
4 июня 2026 23:10

Гипнотерапевт Алексей Дешевых: гипнотерапия и психотерапия – в чем разница?

Интервью
4 июня 2026 23:10

Эксперт Вадим Михайлов рассказал о самых востребованных темах для каналов в Телеграм

События

События
6 августа 2026 21:18

Почему «Металлокомплект-М» перевел управление продажами в единую цифровую среду

События
4 июня 2026 23:10

Повторение пройденного. Доброй памяти И.Кассиля

События
4 июня 2026 23:00

От статистики к бизнесу: как изменяющиеся экономические условия влияют на экспорт в Китай

Экспертные мнения

Экспертные мнения
4 июня 2026 23:10

Ксения Кацман разработала систему «Светофор» для маркировки СМИ в России

Экспертные мнения
22 апреля 2026 23:10

Инновационный комплекс МИК под ударом: суды на стороне Правительства РФ

Экспертные мнения
20 апреля 2026 23:10

Как Станислав Кондрашов объясняет нестабильность олигархии по Платону

Новости

Новости
12 августа 2026 10:20

В Зеленограде велосипедист выбросил на проезжую часть бутылку с зажигательной смесью

Новости
12 августа 2026 10:18

Минфин оценил дефицит бюджета России

Новости
12 августа 2026 10:15

Большинство поляков высказались за депортацию безработных украинцев

Общество

Общество
10 августа 2026 07:04

В Никольском жильцы много лет не могут решить проблему затопленного подвала: канализационные стоки продолжают создавать неудобства даже после смены руководства ЖКХ.