В «Яндексе» указали на проблему «бесконечного доверия» к ответам ИИ
На ПМЭФ-2026 руководитель лаборатории машинного интеллекта «Яндекса» Александр Крайнов заявил, что разработчики ИИ должны ясно объяснять пользователям границы доверия к таким системам. По его словам, у людей не должно возникать иллюзии, что ответы нейросетей всегда точны, поскольку их качество напрямую зависит от данных в интернете.
В качестве примера он привел поисковую выдачу такси, где пользователи могут воспринимать первые результаты как наиболее надежные, хотя система лишь ранжирует доступные варианты. Также он отметил проблему автоматических обобщенных ответов, которые усиливают доверие к ИИ, из-за чего компания сокращала их использование. Крайнов подчеркнул, что при нехватке качественной информации в сети результаты работы моделей неизбежно ухудшаются.
