Как устроен guardrail
Один энкодер mmBERT-small и семь голов: «атака или нет» и шесть типов атак — отмена инструкций, ролевая подмена, вытягивание системного промпта, обфускация, инъекция через документ, вызов инструмента. Модель работает на CPU за миллисекунды, без LLM на сервере.