Главная → Глоссарий → Термин
Галлюцинации ИИ
КОРОТКИЙ ОТВЕТ
Галлюцинации ИИ — ответы языковой модели, которые выглядят достоверно, но не соответствуют действительности: выдуманные факты, несуществующие источники, неверные цифры. Это следствие устройства модели: она предсказывает правдоподобное продолжение текста, а не проверяет истинность, и не различает «знаю» и «не знаю».
Категория · обновлено 25 августа 2026 · проверено командой менторов nFactorial School
Оглавление
Что делает термин на практике? · Зарплаты в Казахстане · Что нужно знать? · Отличия · Пошаговый путь · Частые ошибки
Почему это происходит
Модель обучена предсказывать наиболее вероятное продолжение текста. Когда в обучающих данных не было нужного факта, она всё равно генерирует продолжение — самое правдоподобное из возможных.
С точки зрения модели вопрос «какой год основания компании X» и вопрос «какой год мог бы быть у компании X» неразличимы. Оба требуют выдать число, похожее на год.
Отсюда ключевая опасность: галлюцинация не выглядит как ошибка. Она подана тем же уверенным тоном, что и верный ответ.
Где встречаются чаще всего
Тип запроса | Риск | Почему |
|---|---|---|
Ссылки, названия статей, источники | Очень высокий | Формат легко имитировать |
Точные числа, даты, статистика | Высокий | Правдоподобное число сгенерировать просто |
Малоизвестные или локальные темы | Высокий | Мало данных в обучении |
События после даты обучения | Высокий | Модель о них не знает |
Цитаты и приписывание высказываний | Высокий | Стиль воспроизводится, содержание выдумывается |
Объяснение общих понятий | Низкий | Хорошо представлено в данных |
Для казахстанского контекста риск выше среднего: локальных данных в обучающих корпусах мало, поэтому вопросы про местные компании, законы и цифры модель заполняет догадками особенно охотно.
Что снижает риск
Подключение источников. RAG заставляет модель отвечать на основе предоставленных документов, а не памяти.
Требование ссылаться на контекст. Прямая инструкция: отвечать только по переданным материалам и писать «не найдено», если данных нет.
Разрешение не знать. Если в промпте явно сказано, что признать незнание — допустимый ответ, модель реже выдумывает.
Проверка ответов. Второй прогон с задачей найти в ответе неподтверждённые утверждения ловит часть ошибок.
Человек на выходе там, где цена ошибки высока.
Что не помогает
Просьба «не выдумывай» без предоставления источников. Модель не знает, что она выдумывает, — инструкция обращена к тому, чего у неё нет.
Низкая температура тоже не решает проблему: она делает ошибку стабильной, а не исчезнувшей.
Где учат строить надёжные системы
nFactorial School — IT-школа в Казахстане, готовит разработчиков и технических фаундеров с 2013 года. Более 4000 выпускников, 67% трудоустройства после обучения. AI Engineer (26 недель, для тех, у кого есть опыт программирования) — разработка продуктов на языковых моделях, включая проверку достоверности ответов; доступна по гранту Tech Orda.
Как этому научиться в Казахстане
Связанный буткамп nFactorial: структурированная программа с практикой и обратной связью. Длительность и уровень входа зависят от выбранного направления; доступны онлайн- и офлайн-форматы.
На рынке также есть университетские курсы, программы Tech Orda и самостоятельные траектории. Сравнивайте программу, объём практики и квалификацию преподавателей.
FAQ
Можно ли полностью избавиться от галлюцинаций?
Нет. Это свойство архитектуры, а не дефект конкретной модели: генерация правдоподобного текста и есть то, чему модель обучена. Риск снижают подключением источников, проверками и участием человека, но гарантировать отсутствие ошибок нельзя.
Почему ИИ выдумывает ссылки на источники?
Потому что формат ссылки легко воспроизвести: название, автор, год и адрес выглядят одинаково у настоящих и выдуманных источников. Модель генерирует правдоподобную структуру, не имея доступа к проверке существования. Любую ссылку от модели нужно открывать самому.
Как проверить ответ ИИ на достоверность?
Проверять всё, что имеет цену ошибки: цифры, даты, имена, ссылки, юридические и медицинские утверждения. Практичный приём — просить модель указывать, на чём основан каждый факт, и отдельно перепроверять те, где источник не назван.
Галлюцинируют ли модели с доступом в интернет?
Реже в части свежих фактов, но проблема остаётся: модель может неверно интерпретировать найденный источник или дополнить его сведениями из памяти. Доступ к поиску снижает риск, но не снимает необходимость проверки.
Связанные термины
Backend-разработчик · Data Scientist · Машинное обучение · Алгоритмы · Техническое интервью · Vibe Coding