Guardrail türleri

Guardrails birkaç türde gelir; her biri farklı bir risk çeşidine uygundur. Kimi hızlı ve birebirdir; kimi de bir değerlendirme yapmak için yapay zekâ kullanır. Bu sayfa beşini de ele alıyor; böylece neye karşı korunmaya çalışıyorsanız ona doğru aracı seçebilirsiniz.

Pattern — birebir metin eşleştirme

Bir Pattern guardrail'ı belirli bir metni eşleştirir — bir telefon biçimi, bir yasak sözcük, bir kod kalıbı — ve onu engeller. Hızlı ve birebirdir: metin eşleşiyorsa durdurulur ve müşteri sizin belirlediğiniz nedeni görür.

Şu durumda buna başvurun: yakalanacak kesin, bilinen bir metin diziniz olduğunda — bir rakibin adı, alıntılanmasını istemediğiniz bir indirim kodu, reddetmek istediğiniz bir biçim.

PII — hassas verileri koruma

Bir PII guardrail'ı kişiyi tanımlayan bilgileri bulur — e-posta adresleri, telefon numaraları, kart numaraları, kimlik numaraları ve benzerleri — ve ya maskeler ya da mesajı engeller. Bu, uyumluluğun yük beygiridir ve her assistant'ta önerdiğimiz türdür.

Hızlıdır ve desen tabanlıdır; hassas verinin yapılandırılmış çeşitlerini kapsar. Tam olarak neyi tespit ettiğine ve maskelemenin nasıl işlediğine dair derinlemesine anlatım için bkz. PII ve uyumluluk.

Şu durumda buna başvurun: kart numaralarını, kimlikleri ve iletişim bilgilerini kayıtlarınızdan ve yanıtlarınızdan uzak tutmak istediğinizde — yani neredeyse her zaman.

Custom rule (LLM) — kendi iş mantığınız

Bir Custom rule guardrail'ı, sade bir dille yazdığınız talimatlara göre bir mesajı değerlendirmek için yapay zekâ kullanır — "rakiplerimizden adıyla söz eden her mesajı engelle" ya da "agent'ın hukuki tavsiye vermesine izin verme." Birebir bir desen yerine, kuralın ruhunu betimlersiniz ve yapay zekâ onu uygular.

Çıkışta, bir Custom rule konudan sapan bir yanıtı yalnızca engellemekle kalmayıp yeniden de yazabilir, onu yeniden rayına oturtur.

Şu durumda buna başvurun: kural birebir sözcüklerle değil, anlamla ilgili olduğunda — basit bir desenin yakalayamayacağı, "görünce anlarsın" türünden ince sınırlar.

Topic — konuda kalma

Bir Topic guardrail'ı sohbetleri izin verdiğiniz konuların içinde tutar. Konunuzla ilgili olanları sıralarsınız — faturalandırma, siparişler, ürün soruları, iadeler — ve o da bunların açıkça dışına çıkan mesajları nazikçe engeller; sınırda kalan durumlarda ise izin vermeye meyleder (gerçek bir soruyu yanlışlıkla reddetmektense, gri alandaki bir soruya geçit vermek yeğdir).

Şu durumda buna başvurun: agent'ın işine odaklı kalmasını, tartışmalara, konu dışı laf kalabalığına ya da görev alanı dışındaki sorulara çekilmemesini istediğinizde.

Full PII — adlar, yerler ve dahası

Bir Full PII guardrail'ı, standart PII korumasını hassas bilginin daha bulanık çeşitlerinin yapay zekâ destekli tespitiyle genişletir — kişi adları, konumlar, birini tanımlayan tarihler ve sabit bir deseni izlemeyen benzer ayrıntılar. Standart PII guardrail'ı yapılandırılmış veriyi anında yakalarken, bu yalnızca bağlamın ortaya koyduğu şeyler için bir değerlendirme katar.

Şu durumda buna başvurun: en katı gizlilik duruşuna ihtiyaç duyduğunuzda — yalnızca kart numaralarını ve e-postaları değil, adları ve adresleri de maskelemek.

Bir bakışta seçim

İsteğiniz…	Kullanın
Birebir bir sözcüğü, kodu ya da biçimi engellemek	Pattern
Kartları, e-postaları, kimlikleri, telefon numaralarını maskelemek	PII
İnce bir iş kuralını uygulamak	Custom rule
Agent'ı izin verilen konularda tutmak	Topic
Adları ve konumları da maskelemek	Full PII

Guardrail'ları bir arada kullanma

Tek biriyle sınırlı değilsiniz. Tipik bir assistant birkaçını üst üste koyar — örneğin verileri korumak için bir PII guardrail'ı, odaklı kalmak için bir Topic guardrail'ı ve belirli bir iş sınırı için bir Custom rule — sizin seçtiğiniz sırayla çalışır. Küçük ve iyi seçilmiş bir yığın, agent'ı aşırı kısıtlamadan çoğu ihtiyacı karşılar.

→ Sırada gizlilik derinlemesine: PII ve uyumluluk