Minimalne. Mechanizmy zabezpieczające działają równolegle z generowaniem odpowiedzi i zazwyczaj kończą się, zanim pełna odpowiedź będzie gotowa do dostarczenia. W większości przypadków użytkownicy w ogóle nie zauważają opóźnienia.

Wstępnie zbudowane Guardrails są obecnie domyślnie wyłączone, więc uaktualnienie nie wpłynie na istniejących agentów. Zalecamy włączenie ich (zwłaszcza Focus) dla każdego wdrożenia produkcyjnego. Wkrótce Guardrails będą domyślnie włączone dla nowych agentów. Każdy pojedynczy Guardrail możesz w dowolnym momencie włączać lub wyłączać na karcie Security swojego agenta.

Wbudowane Guardrails (Focus, Content, Manipulation) są dostępne bez dodatkowych kosztów. Niestandardowe Guardrails są rozliczane według użycia, a koszty są przenoszone tak samo jak inne koszty LLM. Możesz też wybrać model, który ocenia Twoje reguły.

Twój monit systemowy kieruje zachowaniem agenta, mówiąc mu, co ma robić i jak odpowiadać. Niestandardowy Guardrail niezależnie ocenia każdą odpowiedź agenta pod kątem Twojej reguły po wygenerowaniu jej przez model i blokuje naruszenia, zanim dotrą do użytkownika. Traktuj monit systemowy jako instrukcje, a Guardrails jako mechanizm egzekwowania.

W przypadku najważniejszych zasad zalecamy stosowanie obu: monit systemowy i Focus Guardrail kształtują zachowanie, a Niestandardowy Guardrail wyłapuje wszystko, co się przedostanie, zwłaszcza w długich rozmowach, w których modele częściej zaczynają odbiegać od tematu.

To zależy od typu Guardrail i sposobu jego konfiguracji. W przypadku niestandardowych Guardrails wybierasz strategię zakończenia: zakończyć rozmowę, przekazać ją innemu agentowi lub eskalować do człowieka. W przypadku gotowych Guardrails (Focus, Content, Manipulation) rozmowa obecnie kończy się po wyzwoleniu. Wkrótce pojawią się dla nich konfigurowalne strategie zakończenia. We wszystkich przypadkach użytkownicy mogą natychmiast rozpocząć nową rozmowę. Guardrail blokuje konkretną odpowiedź, a nie użytkownika.

Każde wyzwolenie jest rejestrowane w analizach rozmów. Zobaczysz, który Guardrail zadziałał, dlaczego oraz jaki był kontekst rozmowy. Skorzystaj z tego, aby z czasem sprawdzać fałszywe alarmy i dopracowywać swoje reguły.

Tak. Guardrails są tworzone specjalnie z myślą o wdrożeniach o wysokiej stawce. Niestandardowe Guardrails pozwalają definiować polityki specyficzne dla danej domeny w języku naturalnym, takie jak „nie udzielaj diagnoz medycznych” lub „nie rekomenduj konkretnych inwestycji”. Te reguły są egzekwowane niezależnie w każdej rozmowie, pomagając ograniczyć ryzyko związane z zgodnością bez potrzeby tworzenia własnej infrastruktury.

Guardrails 2.0 obsługuje również zgodność z AIUC-1 oraz zapewnia dostęp do pierwszych w branży polis ubezpieczeniowych dla AI, co ułatwia przekonanie zespołów ds. bezpieczeństwa i prawnych do wdrożeń produkcyjnych. Choć Guardrails znacząco zmniejszają ryzyko, najlepiej działają jako część szerszej strategii zgodności, a nie jako samodzielne rozwiązanie.

Domyślnie dzienniki rozmów zawierają transkrypt i dane audio, aby wspierać analitykę, kontrolę jakości i doskonalenie pracy konsultantów. Jeśli musisz ograniczyć ekspozycję danych, funkcja Redagowanie historii rozmów automatycznie usuwa wybrane wrażliwe informacje (takie jak imiona i nazwiska, numery kart płatniczych lub inne dane osobowe PII) z transkryptów, nagrań i ładunków webhooków, zanim zostaną zapisane. Tekst jest zastępowany odpowiednimi symbolami zastępczymi, a audio jest zniekształcane sygnałem. To Ty decydujesz dokładnie, które typy encji mają zostać zredagowane. Funkcja Redagowanie historii rozmów jest dostępna dla klientów korporacyjnych.

Tak, i to jest zalecana konfiguracja. Wzmocnienie promptu systemowego kieruje agenta ku właściwym odpowiedziom. Zabezpieczenia niezależnie egzekwują Twoje zasady jako dodatkową warstwę ochrony, więc nawet jeśli model zboczy z kursu podczas długiej rozmowy, naruszenia zostaną wykryte przed dostarczeniem odpowiedzi. Razem tworzą obronę w głąb.

Tak. Każdy Guardrail można indywidualnie włączać i wyłączać. W przypadku większości wdrożeń produkcyjnych zalecamy pozostawienie wszystkich Guardrailów włączonych (zwłaszcza Focus). W niektórych przypadkach konkretny Guardrail może kolidować z zamierzonym zastosowaniem Twojego agenta. W razie wątpliwości przetestuj przed wyłączeniem.