Начать с задачи, которую должен решить помощник
Для сравнения расходов по дням могут понадобиться дата, разрешённый технический код кампании, сумма и нужный результат. Контакт покупателя или полный комментарий менеджера могут не участвовать в этом расчёте. Отправлять их на всякий случай - значит расширить доступ без объяснённой пользы. Нужные поля определяет владелец задачи вместе с ответственным за данные.
OWASP LLM02:2025 рассматривает раскрытие чувствительной информации через LLM-приложения. Риск касается и переданных сведений, и ответа системы. Просьба в тексте запроса «не показывай контакты» не заменяет ограничения входного набора и прав доступа. Сначала нужно установить, что вообще получает приложение.
Разрешённый список полей часто легче проверять, чем бесконечный список запрещённых названий. Новый столбец исходника тогда не попадает в экспорт автоматически. Но и разрешённое поле требует оценки: название кампании может содержать имя клиента, а сумма - коммерческую тайну. Само наличие колонки в списке не делает её общедоступной.
Найти остаток после поверхностной маскировки
В учебном CSV две вымышленные записи и семь полей. Для нашего вопроса выбраны четыре: код кампании, день, расход и число результатов. Дополнительно в исходнике есть условный адрес, комментарий и служебный токен. Все значения синтетические, настоящих контактов или секретов файл не содержит.
Комментарий содержит узнаваемый маркер DEMO_MARKER_42, служебное поле - DEMO_TOKEN_42. В намеренно слабом режиме скрывается только адрес. Оба маркера остаются. В исправленном режиме экспорт строится заново из четырёх разрешённых полей: комментарий и токен в него не входят.

Локальное демо отбора показывает обе таблицы и позволяет скачать выбранный результат. Оно работает только с заданными учебными строками и не вызывает AI-сервис. Проверка ищет конкретные маркеры этого набора, поэтому ноль найденных маркеров не объявляется универсальным доказательством отсутствия чувствительных данных.
У этого инструмента узкая задача: показать различие между изменением видимого значения и созданием ограниченного набора. Он не решает автоматически вопросы анонимности, допустимости передачи, договоров, хранения или безопасности модели. Их нельзя закрыть успешной очисткой двух демонстрационных строк.
Проверить копии, которые обычно забывают
Чувствительное значение может сохраниться в исходном файле рядом с экспортом, диагностическом сообщении, истории чата, вложении или журнале приложения. В OWASP Logging Cheat Sheet отдельно рассматривается отбор данных для логирования, включая токены и другие чувствительные поля. Не включайте полный входной отчёт в сообщение об ошибке автоматически.
У рабочей интеграции нужно проверить, что фактически отправлено по сети, что сохранено локально и что попало в служебный журнал. Для разрешённого испытания можно заранее использовать вымышленные узнаваемые маркеры. Они помогают найти неожиданные копии, не распространяя настоящие персональные сведения ради теста.
Проверка должна охватывать и неуспешный путь. Ошибка преобразования, отказ модели или повторная отправка иногда сохраняют другой набор данных, чем удачный запрос. Поэтому акт приёмки описывает конкретные состояния. Одна чистая таблица на экране не подтверждает, что все внутренние копии приложения такие же.
Встроить отбор в производственный процесс
Открытый проект Moonshot от AI Verify Foundation показывает подход к воспроизводимой оценке LLM-приложений через заданные испытания. Проект находится в beta. Наш отбор CSV не запускает Moonshot и не выдаётся за проверку модели; полезна сама дисциплина конкретного тестового набора с ожидаемым результатом, применимая и при работе с APAC-инструментами.
В российской команде аналитик формулирует вопрос и проверяет, что сокращённого набора достаточно для расчёта. Владелец данных разрешает его состав и путь передачи. Интегратор реализует экспорт и проверяет журналы, оператор подтверждает, какой файл реально использован. Если для ответа нужны дополнительные поля, их добавляют осознанно, с новой версией списка.
Критерий готовности можно повторить: новый лишний столбец не включается сам, выбранные значения сохраняют смысл, известные тестовые маркеры не проходят в разрешённый экспорт, а ошибки не возвращают полный исходник. Оставшиеся ограничения записываются рядом с результатом. Это управляемый способ подготовить входные данные, без обещания автоматически сделать их анонимными.
Продолжить помогут готовность CRM к рекламной активации, права AI-агента и ограничения выгрузки clean room. Определения first-party data, guardrails и измерения связаны с темой приватности.





