### Рентген для нейросетей: Как FaithLens выводит AI-врунов на чистую воду (и не сжигает бюджет)

### Два стула AI-аудита: Банкротство или Черный ящик

До появления новой архитектуры под названием FaithLens, индустрия пыталась решать проблему галлюцинаций двумя одинаково убогими способами.

**Путь первый: Грубая вычислительная сила.** Берутся механизмы вроде SelfCheckGPT, и каждый ответ прогоняется через коммерческие API топовых моделей (GPT-4o). Это как нанять всемирно известного академика с астрономическим рейтом проверять школьные сочинения на опечатки. Орфография будет идеальной, но счет за API обанкротит ваш бизнес к концу недели. Это финансовая черная дыра.

**Путь второй: Дешевые "заглушки".** Для тех, у кого нет бюджетов, создали узкоспециализированные микро-модели (MiniCheck, FactScore). Стоят копейки, но работают в режиме абсолютно глухого черного ящика. На выходе они дают бинарный ответ: «Да, всё чисто» или «Нет, тут ложь». От такой аналитики кровь из глаз идет. Это аналогия с отвратительной пожарной сигнализацией: она оглушительно воет на весь дом, но наотрез отказывается сообщать, в какой комнате возгорание. Для многостраничных юридических контрактов ценность такого детектора равна нулю. Кроме того, на сложных RAG-задачах, где нейросеть плетет логичную, но конфликтующую с фактами чушь, эти детекторы просто ломаются.

### FaithLens: Тройной фильтр и математическое доказательство логики

Обучающие данные пропускали через жесткий тройной фильтр:

1. Базовая гигиена (Label Correctness): Если сгенерированный пример ошибки не соответствует действительности — сразу в мусор. Учить детектор на ошибочных примерах ошибок бессмысленно.

2. Проверка качества объяснения через перплексию: Это чистая магия. Качество объяснения ошибки оценивали математически. Перплексия — это мера неуверенности нейросети. Базовой модели дают текст с ошибкой и замеряют уровень ее сомнений. Затем к тексту добавляют сгенерированное объяснение того, где кроется ложь. Если перплексия (неуверенность) резко падает, значит, текст реально проясняет суть. Если растет — объяснение путаное, и пример удаляется.

3. Кластеризация векторов (Алгоритм Deuts): Чтобы модель не стала узколобой (например, научилась искать только перепутанные даты), алгоритм переводит смыслы ошибок в векторы. Образуются кластеры: в одном углу лежат ошибки с датами, в другом — выдуманные юридические термины. Алгоритм берет по одному самому яркому примеру из каждого смыслового кластера, создавая идеальный зондирующий набор. Никаких однотипных дубликатов.

### Эволюция через метод "Новичка"

Чтобы FaithLens не просто имитировала стиль умных ответов, а стала настоящим аналитиком, применили обучение с подкреплением — **GRPO** (Group Relative Policy Optimization). Этот метод не требует отдельной нейросети-оценщика. Модель генерирует пачку ответов и сама сравнивает их друг с другом.

Они берут «чистую» 8B-модель, которая вообще ничего не знает о поиске галлюцинаций. Ей скармливают объяснение ошибки, которое только что сгенерировала обучаемая FaithLens. Если этот абсолютный «первокурсник» способен, прочитав текст, найти ложь и выдать правильный ответ — FaithLens получает награду. Это заставляет алгоритм оттачивать педагогический навык: никакой воды, запутанных терминов и перескакивания через логические шаги.

### Итоги: Хирургическая точность за копейки

Вся тяжелая математика происходит в лаборатории на этапе тренировки. При использовании мы за нее не платим. На выходе получаем модель, которая стоит в 70 раз дешевле GPT-4o (10 центов против $7.30 за объем) и рвет гигантов по метрикам.

FaithLens работает последовательно: сначала строит скрытую цепочку рассуждений (Chain of Thought), затем генерирует подробное объяснение, и лишь последним токеном выдает вердикт.

---

### ШАГ 3: ПРАКТИКУМ ДЛЯ НЕПРОГРАММИСТОВ (Как повторить это в чате)

Главная проблема, поднятая в тексте — **галлюцинации в предоставленном контексте (RAG)**, когда ИИ игнорирует исходник и подмешивает свои выдумки. Чтобы не ждать внедрения FaithLens, вы можете заставить обычный **ChatGPT** или **Claude** работать по схожим принципам с помощью этих промптов.

Как это работает: Запрещает нейросети обобщать и заставляет ее физически привязывать каждое свое утверждение к конкретной цитате из вашего документа. Нет цитаты — нет факта.

Как это работает: Заставляет модель до того, как она напишет красивый ответ, жестко отсортировать данные и отделить реальность от своих фантазий.

Как это работает: Имитирует алгоритм поиска логических разрывов. Заставляет модель саму стать детектором и доказать причинно-следственную связь (А -> Б).