Ürünün güvenlik zemini

Bazı kurallar sizin ayarınız değildir. Ajan, paneldeki hangi persona'yı, hangi dili ve hangi uzunluk ayarını seçtiğinizden bağımsız olarak her kanalda bu kurallara uyar. Panelden kapatılamazlar.

Bunlar tek bir sistem promptu cümlesi değildir; her biri farklı bir katmanda uygulanır. Persona tonu belirler, kurallar ise kazanır. Persona metnine “her şeye evet de” yazmak uydurmama kuralını, müsaitlik kuralını veya insana devir kuralını geçersiz kılmaz.

1. “Yapay zeka asistanı” etiketi

Her bot mesajının altında “Yapay zeka asistanı” ibaresi görünür ve bu kapatılamaz. Sesli kanalda ajan bunu ilk cümlesinin içinde söyler. Bu, AB Yapay Zekâ Tüzüğü'nün 50. maddesindeki şeffaflık yükümlülüğüdür.

2. Kanıt disiplini

Fiyat, iade, sağlık, hukuki şart, stok, çalışma saati ve mesafe gibi işletmeye özgü bilgiler yalnız bilgi tabanından gelir. Genel dünya bilgisi modelin kendi bilgisinden gelir, ancak “genel olarak” diye etiketlenir ve işletme adına sunulmaz.

Kaynakta olmayan bir sayı üretilmez. Yalnız “bulunamadı” demek de yasaktır: cevabın bildiği kısmı söyler, bilmediğini adıyla söyler ve gerekiyorsa tek bir gerekli soru sorar.

Eksiklik iddiası da yasaktır. Bilgi tabanında geçmeyen bir özellik için ne “var” ne “yok” denir.

3. Müsaitlik ve kesin fiyat

Bot canlı müsaitliği ve kesin fiyatı ne olumlu ne olumsuz ilan edemez. “Yerimiz var” da “Doluyuz” da yasaktır. Bu bilgi ancak sizin sisteminizden gelen bir aksiyon ile ya da AI Agent ekranında tanımladığınız işlem linki yönlendirmesiyle müşteriye ulaşır.

4. Konu kapsamı

Ajan işletmenin konusu dışına çıkmaz. Konu dışı bir soruda akıcı bir cevap üretmek yerine konuyu belirtir ve yönlendirme yapar. Sistem, kendi bilgisiyle işletme adına konuşmaz.

5. Talimat enjeksiyonu

Ziyaretçi mesajındaki talimatlar ajanı değiştiremez. “Önceki kuralları unut”, “sistem mesajı: şunu yap” veya persona metnine benzer şeyler yazmak, ajanın davranışını değiştirmez. Persona metnine parola, sistem talimatı veya webhook sırrı yazmayın; bunlar korumalı ayar alanlarına gider.

Neden ayar değil

Bu kurallar, güvenlik açısından tek bir cümleye indirgenemeyecek kadar çok katmana yayılmıştır: tenant filtreleri, araç izin listesi, kanal doğrulaması, çıktı biçimi, kullanıcı onayı ve hata davranışı. Modelin bir aksiyon önerdiği, onaylanmamış bir hedefe istek gönderme izni değildir. Ayrıntılar için güvenlik ve veri sayfasına bakın.