База знаний · риск и приватность
Безопасность данных в AI‑проектах
Безопасность начинается с карты данных и полномочий, а не с общей фразы о защищённом AI.
01 / Разбор
Практический взгляд Владимира
Перед разработкой определяются категории данных, системы‑источники, получатели, владельцы и допустимые операции. Для каждого инструмента задаются отдельные права, а в журнал не должны попадать секреты и лишние персональные данные.
Если заказчику требуется локальный или изолированный контур, его ограничения и стоимость оцениваются отдельно.
02 / Разбор
Внешние факты и ограничения
NIST выделяет специфические риски генеративного AI, а OWASP описывает prompt injection как отдельную угрозу приложений с LLM. Токен антибот‑проверки формы валидируется на сервере по официальной документации Yandex SmartCaptcha. Эти меры дополняют, но не заменяют модель угроз конкретной системы.
AI‑система работает в пределах доступных данных, инструкций и инструментов. Значимые решения требуют проверки по первичным материалам и подтверждения ответственным сотрудником.
Первичные источники