Семь дыр, которые ИИ чаще вставляет в код — и как их ловить
Почему ассистенты генерируют «правдоподобный пример», а не прод: секреты в коде, SQL-склейка, дыры в доступе. Таксономия и сканер ai-vuln-scan.
Stuzhuk Lab — Блог
Химия кода
← Все статьи
Тег
Безопасность
Все статьи блога с этим тегом.
Voodoo.js изнутри: как собственный интерпретатор оживляет обычный HTML
Разбор Voodoo.js изнутри: от DOM после HTML-разборщика браузера до лексера, дерева выражений, интерпретатора, эффектов через Proxy и прямой записи в узлы без eval.
ACL и мультиарендность в RAG: фильтровать права до поиска, а не после
Права доступа в промышленном RAG нельзя оставлять модели. Как изолировать арендаторов, применить список доступа до извлечения, закрыть скрытые каналы утечки и измерить полноту при жёстких фильтрах.
Как оценивать LLM до продакшена: уроки GitHub Secret Scanning
Сначала продуктовое решение и ограничители, потом модель: офлайн-оценка как интеграционные тесты и разбор ошибок.
Ревью кода в эпоху ИИ: что обязан проверить человек после патча агента
Объём агентных запросов на слияние превышает ёмкость ревью: долг проверки, границы человека и модели, контрольный список после разницы изменений, человеческие шлюзы и правила команды для лёгкого и глубокого ревью в 2026.
Агентная инженерия в 2026 году: как управлять ИИ-агентами без потери качества
Практическая модель агентной разработки: контекст, декомпозиция задач, циклы проверки, многоагентная оркестрация, безопасность, метрики и роль инженера в жизненном цикле разработки 2026 года.
Защитные барьеры для ИИ в 2026 году: политики, разрешённые инструменты и безопасная автономность агентов
Практическая модель вывода ИИ-агентов и RAG-систем в промышленную эксплуатацию: политики как код, узкие права инструментов, согласования человеком, проверка атак и аудит, пригодный для разбора инцидентов.
Промпт-инъекции в продакшене 2026: защита RAG, инструментов и агентов от недоверенного контента
Практическая архитектура защиты от промпт-инъекций в RAG и агентных системах: происхождение документов, изоляция контекста, минимальные полномочия, контроль исходящего трафика, песочницы и проверяемая многоуровневая защита.
MCP в продакшене 2026: stateless-спека, безопасность и миграция
Практический разбор Model Context Protocol после релиза 2026-07-28: отказ от сессий, MRTR, маршрутизация по заголовкам, авторизация, shadow MCP и как писать серверы, которые переживают нагрузку.
Референсная архитектура корпоративной ИИ-платформы
Как объединить бизнес-задачи, знания, RAG, агентов, безопасность и наблюдаемость в устойчивую корпоративную ИИ-платформу.
Локальный ИИ не всегда означает приватность
CVE-2026-7482 в Ollama показывает: локальная LLM может раскрыть память процесса, если сервер доступен из сети и принимает недоверенные модели.
Антипаттерны корпоративного ИИ: ошибки, которые дорого исправлять
Какие архитектурные ошибки подрывают корпоративные ИИ-платформы и как предотвратить их до промышленного запуска.
Масштабирование корпоративного ИИ: от пилота к экосистеме знаний
Как расширять корпоративную ИИ-платформу на уровень холдинга, сохраняя единые стандарты, локальные границы данных и управляемую архитектуру.
Безопасная разработка корпоративного ИИ: как выпускать изменения без потери контроля
Как выстроить безопасный жизненный цикл изменений в корпоративной ИИ-платформе: от требований и тестов до выпуска, отката и мониторинга.
Наблюдаемость корпоративного ИИ: как видеть систему целиком
Как организовать наблюдаемость корпоративного ИИ: от инфраструктуры и RAG до безопасности, качества ответов и бизнес-метрик.
Как оценивать корпоративный ИИ: метрики, которым можно доверять
Как измерять качество корпоративного ИИ по поиску, ответам, безопасности и влиянию на бизнес-процессы.
Архитектура промышленного RAG: от поиска к корпоративной платформе
Как спроектировать масштабируемый RAG для множества источников, миллионов документов и разграничения доступа.
Подготовка данных для RAG: как превратить архивы в базу знаний
Как очистить, описать, разбить и безопасно индексировать корпоративные документы для качественных ответов ИИ.
Аппаратная платформа для корпоративного ИИ: проектировать от нагрузки
Как выбрать серверы, ускорители, сеть и хранилище для корпоративной ИИ-платформы без избыточных закупок.
Как выбрать LLM для предприятия: критерии вместо рейтингов
Как выбрать языковую модель для корпоративного ИИ по сценариям, безопасности, стоимости и требованиям к инфраструктуре.
Проектирование корпоративной ИИ-платформы: от пилота к стандарту
Как спроектировать масштабируемую платформу корпоративного ИИ, где знания, безопасность и интеграции важнее отдельных моделей.
Первый пилот корпоративного ИИ: от карты знаний к проверяемой ценности
Как выбрать ограниченный и безопасный пилот корпоративного ИИ, определить критерии успеха и подготовить масштабирование.
Карта корпоративных знаний: от информационного хаоса к основе для ИИ
Как выявить, классифицировать и безопасно подключать знания предприятия для RAG и корпоративного поиска.
Обследование предприятия: как начать проект корпоративного ИИ с фактов
Как провести интервью, проанализировать процессы и выявить источники знаний до проектирования корпоративного ИИ.
Первый день архитектора корпоративного ИИ: начать с предприятия
Почему проект корпоративного ИИ начинается с бизнес-задач, знаний и безопасности, а не с выбора модели или серверов.
Будущее корпоративного ИИ: архитектура на годы вперед
Как построить корпоративную ИИ-платформу, которая переживет смену моделей, поставщиков и форматов данных.
Управление изменениями: как встроить корпоративный ИИ в работу компании
Почему корпоративный ИИ внедряют через пилоты, обучение и обратную связь, а не одномоментным запуском по всей организации.
Управление корпоративным ИИ: от эксперимента к управляемой платформе
Как распределить ответственность, контролировать изменения и обеспечить качество и безопасность корпоративной ИИ-платформы.
ERP как источник знаний, а не конкурент корпоративного ИИ
Как связать корпоративный ИИ с ERP, сохранив ERP источником достоверных данных, роли доступа и контроль операций.
Почему корпоративному ИИ нужны агенты
Как агентные системы связывают языковую модель с корпоративными сервисами и автоматизируют процессы под контролем человека.
Когда действительно нужно дообучение модели
Как отличить задачи корпоративных знаний от задач поведения модели и понять, когда дообучение оправдано.
Безопасность как архитектурный принцип корпоративного ИИ
Почему защита данных, права доступа, проверяемость ответов и аудит должны определять архитектуру корпоративного ИИ с первого дня.
Инфраструктура корпоративного ИИ: проектирование от нагрузки, а не от GPU
Как спроектировать надежную и масштабируемую инфраструктуру корпоративного ИИ, начиная с бизнес-сценариев и требований безопасности.
Векторные базы данных: фундамент семантического поиска в корпоративном ИИ
Как векторная база ускоряет поиск по знаниям предприятия, сохраняет права доступа и становится частью надежной RAG-архитектуры.
Почему эмбеддинги изменили корпоративный поиск
Как векторные представления помогают находить корпоративные знания по смыслу, не отменяя точный поиск и требования безопасности.
Почему предприятиям нужен RAG, а не память внутри LLM
Как RAG отделяет корпоративные знания от модели, поддерживает актуальность документов и сохраняет проверяемый доступ.
Почему появились LLM и какую роль они играют в корпоративном ИИ
Как ограничения поиска и экспертных систем привели к LLM и почему модель — интерфейс к знаниям, а не корпоративная память.
Корпоративная ИИ-платформа: почему LLM — это больше, чем просто чат
Как построить корпоративную ИИ-платформу вокруг слоя знаний, интеграций и безопасности, не привязываясь к одной модели.
Язык бизнеса и язык технологий: как начинать проекты корпоративного ИИ
Почему корпоративный ИИ начинают с измеримой бизнес-задачи, знаний и безопасности, а не с выбора модели.
Предприятие как система знаний: с чего начинается корпоративный ИИ
Почему знания — стратегический актив, а корпоративный ИИ проектируют от бизнес-задачи и безопасности, а не от выбора LLM.
npm и pnpm вводят поэтапную публикацию пакетов
Staged publishing в npm и pnpm 11.3 снижает риск supply chain: сначала черновик на registry, проверка, потом «прод». Плюс trustLockfile и npm 12 prerelease.
Три шаблона SQL-инъекций в Node.js, которые всё ещё доезжают до прода
Конкатенация, шаблонные строки и «безопасная» переменная sql — почему ревью пропускает уязвимости и как ловить их eslint-plugin-pg.
Безопасность песочницы для агентного ИИ: Docker, microVM и CVE-2026-31431
40% команд называют безопасность главным барьером масштабирования agentic AI. Docker Sandboxes, seccomp и изоляция автономного кода.
Распределённые атаки на агентов и мониторинг: новые подходы
Мониторинг с кластеризацией ловит распределённые атаки на 30% быстрее стандартных методов.
Атаки на npm supply chain: что делать на уровне проекта
ignore-scripts, npm ci, provenance и аудит lockfile — слоистая защита, когда в node_modules тысячи транзитивных пакетов.