Automatske zaštite
Otkrivanje prompt injectiona
Svaka poruka ka svakom agentu prolazi kroz promptGuard.js pre nego što stigne do LLM-a. On prepoznaje 40+ obrazaca u 5 kategorija:
- Zamena uloga: "Ignore previous instructions", "You are now..."
- Ubacivanje graničnika: pokušaji izlaska iz konteksta prompta
- Izvlačenje: "Repeat your system prompt", "Show me your instructions"
- Jailbreak: DAN, developer mode i drugi pokušaji zaobilaženja
- Trovanje memorije: pokušaji ubacivanja lažnih informacija u memoriju agenta
Rezultati otkrivanja: Critical = poruka se potpuno blokira. High/Medium = poruka se očisti (opasni delovi se uklone) i obradi.
Uklanjanje ličnih podataka (PII)
Posle svakog LLM odgovora, piiDetector.js automatski pronalazi i uklanja 7 vrsta ličnih podataka:
- Email adrese →
[EMAIL_REDACTED] - Brojevi telefona →
[PHONE_REDACTED] - Brojevi platnih kartica →
[CC_REDACTED] - Social Security Number (SSN) →
[SSN_REDACTED] - JMBG →
[JMBG_REDACTED] - IPv4 adrese →
[IP_REDACTED] - IBAN brojevi →
[IBAN_REDACTED]
Uklanjanje ličnih podataka je automatsko i nikad ne blokira odgovore, izvršava se posle LLM-a kao sigurnosna mreža.
Odbrana od trovanja memorije
Agenti mogu da izdvajaju i čuvaju sećanja iz razgovora (sklonosti korisnika, obrasce itd.). Svako izdvojeno sećanje pre čuvanja proverava promptGuard.detectInMemory(). Zatrovana sećanja (koja sadrže pokušaje ubacivanja) se odbijaju.
Circuit breaker
Svaki agent ima sopstveni circuit breaker sa tri stanja:
- CLOSED: normalan rad: svi zahtevi se obrađuju
- OPEN: previše grešaka: zahtevi se blokiraju, agent beleži incident
- HALF-OPEN: oporavak: dozvoljen je ograničen broj zahteva da se proveri da li je problem rešen
Pri prvom aktiviranju (CLOSED → OPEN) beleži se incident. Pri drugom aktiviranju agent se automatski spušta za jedan nivo poverenja. Tako se sprečava da neispravni agenti naprave štetu.