Kamuya açık bir asistan, sistemlerinize ulaşan güvenilmeyen girdidir
Kamuya açık bir sayfada herkesten metin kabul eden bir asistan vardır. Bu metin, asistanın bağlı araçlarıyla birlikte bir modele gider. Ziyaretçinin kimliğinin doğrulanması gerekmez, hesap vermez ve soru sorması da gerekmez.
Ziyaretçi mesajındaki talimatların riski açıktır. Daha az bariz olan, asistanın görebildiği şeyi, fiyat mantığını, başka bir müşterinin bağlamını ve iç sistemlerinizin yapısını açıklamaya ikna edilmesidir.
Bunu yalnızca talimat vererek savunamazsınız. "İç veriyi asla açıklama" diyen bir system prompt bir niyet belirtir. Prompt injection tam da o niyeti sömürmek için tasarlanır.
Koruma kapsamdır. Bir asistan müşteri kayıtlarına erişemiyorsa onları açıklayamaz. Ziyaretçinin mesajı nasıl kurulursa kurulsun, asistanın bağlı araçları aynı kalır.
Agent Studio'da bu agent nasıl kurulur
Güvenlik modeli sınırlara dayanır, bu yüzden tasarım prompt'tan değil araç listesinden başlamalıdır. Kamuya açık bir ziyaretçinin ulaşabileceği erişimi ekleyin: yayımlanmış dokümantasyon, kamuya açık fiyatlandırma ve iletişim yolu. Kamuya açık bir asistanda başka birinin verisini döndürecek hiçbir şey bulundurmayın.
MCP bağlantıları dış erişim verir. Dokümantasyon bunun ne anlama geldiğini açık söyler: SSRF açısından güvenli URL'ler ve şifreli başlıklar, platform oturum token'ları da müşterilere hiç verilmez.
System prompt gerçekten iyi olduğu işi yapar: konuda kalmak, kapsam dışı istekleri düz reddetmek ve bilmediğinde yanıt uydurmak yerine bir insana devretmek.
Prompt skills kamuya açık sesinizin tutarlı tonunu ve tutarlı verilmesini istediğiniz yanıtları koyar.
Kamuya açık bir asistan okumalı ve açıklamalıdır. Rezervasyon yapmamalı, iade etmemeli, hesap değiştirmemeli veya rotaları değiştirmemelidir. Bu eylemler kamuya açık asistanın araçları olarak değil, Human in the Loop node'lu bir akışta yürür.
Oturumlar kalıcıdır. Bir sohbet sunucusu çalıştırmasanız da ziyaretçinin konuşması bağlamını korur ve her oturum o ziyaretçiye özgüdür.
Her konuşmayı baştan Google Sheets'e kaydedin. Çünkü sınırları zorlayan denemeler, asistanın ilk ayında ürettiği en işe yarar şeylerdir.
Bu agent nelerden oluşur
- Tool scope: yalnızca kamuya açık dokümantasyon, kamuya açık fiyatlandırma ve iletişim yolu. Başka birinin verisini döndüren hiçbir şey yok.
- MCP bağlantıları: dışarıdan ulaşılan her şey için şifreli başlıklı, SSRF açısından güvenli URL'ler.
- System prompt: konuda kal, düz reddet ve uydurmak yerine devret.
- Prompt skills: kamuya açık sesiniz ve tutarlı verilmesini istediğiniz yanıtlar.
- Slack (Human in the Loop): durumu değiştiren her istek, içinde bir kişi olan bir akışa döner.
- Google Sheets (Integration): sınır zorlayanlar dahil her konuşmayı kaydeder.
- ActionFlow yeterli olduğunda: Modele bağlı olmayan bir dokümantasyon arama kutusu aynı soruların çoğunu yanıtlıyorsa onu kullanın. Hiç saldırı yüzeyi yoktur.
Sık sorulan sorular
Bülten
Ürün güncellemelerini alın
Yeni node'lar, agent'lar ve ürün notları. Yalnızca açmaya değer bir şey varken e-posta göndeririz.