Когда я впервые увидел, как Claude Code находит SQL-инъекцию в моём коде, это было похоже на магию. Но через месяц я уже воспринимал такие находки как рутину — и это проблема. AI-модели для security work развиваются быстрее, чем мы успеваем менять процессы, а защитники часто недооценивают инструменты, которые уже есть в их руках.
Open-weight модели — угроза или инструмент?
Последний тест Kimi K3 на DeepSec Bench показал: даже open-weight модели без специальных safeguards способны проводить сложный security research. В моём эксперименте модель:
- Анализировала attack surface guest-kernel
- Составляла карту возможных privilege escalation
- Самостоятельно разворачивала VM для тестирования гипотез
- Писала stateful fuzzer для проверки уязвимостей
Хотя побега из Vercel Sandbox не случилось, сам факт автономного исследования должен насторожить. Особенно учитывая, что Kimi K3 по эффективности находит vulnerabilities на уровне Sonnet 5, а это уже production-grade модель.
Практический вывод: если ваш CI/CD до сих пор не включает AI-assisted security review, вы играете в догонялки с потенциальными атакующими.
Как выглядит защита с Sol 5.6
На текущий момент лучший инструмент для защитников — Sol 5.6 на XHigh. В отличие от open-weight моделей, он:
- Имеет встроенные safeguards против offensive use
- Эффективен в поиске IDOR, XSS, SSRF
- Работает с полным контекстом codebase, а не только с diffs
Мой workflow с deepsec (открытый фреймворк для security review):
# Конфиг для сканирования репозитория
config = {
"target": "~/codebase",
"model": "sol-5.6-xhigh",
"checks": ["xss", "idor", "ssrf", "rce"],
"exclude": ["tests/", "node_modules/"]
}
results = deepsec.run(config)
После прогона получаем отчёт с hypothesis — потенциальными уязвимостями, которые нужно проверить вручную. В проекте на 200k LOC Sol 5.6 нашёл:
- 3 критические уязвимости (RCE через десериализацию)
- 17 medium-рисков (в основном IDOR)
- 42 low-проблемы (XSS в admin-панели)
Важный нюанс: модель не заменяет пентестеров, но резко повышает их эффективность.
Почему сейчас уникальный момент
Сейчас защитники имеют временное преимущество:
- Лучшие модели (Sol, Opus) доступны только через API с safeguards
- Open-weight альтернативы (Kimi K3) пока отстают в качестве анализа
- Инструменты типа deepsec уже production-ready
Но это окно закроется. По моим оценкам, через 6-12 месяцев open-weight модели догонят сегодняшние frontier-решения в security research. Что делать прямо сейчас:
- Внедрить AI-assisted review в CI/CD (хотя бы для критических пулл-реквестов)
- Раз в квартал проводить full codebase scan
- Автоматизировать triage найденных уязвимостей
В Vercel, например, такие проверки стоят десятки тысяч долларов, но это в разы дешевле последствий реального инцидента.
Риски и подводные камни
- False positives: 30-40% hypothesis требуют ручной проверки
- Контекст: Модели не понимают бизнес-логику приложения
- Эволюция угроз: То, что сегодня не находит Kimi K3, завтра найдёт Mythos 5
Мой совет — начинать с малого: подключите deepsec к одному критическому репозиторию, выделите 2-3 дня на анализ результатов. Если в процессе обнаружите хотя бы одну критическую уязвимость, которая уже была в проде, — значит, инструмент окупился.
Главное — не ждать «идеального момента». AI в security — это не будущее, а настоящее, где защитники пока имеют фору. Но фору временную.
Попробуй сам: Vercel — Edge Functions и serverless деплой.
Источник: https://vercel.com/blog/everything-hackable-will-get-hacked