AI ajanına kredi tavanı koymak: maliyeti kontrol altında tutmak

Ayın on dokuzu, saat 11.40. Destek biriminin sorumlusu, aylık AI kredisinin dörtte üçünün tükendiğini söyleyen bildirimi açıyor ve iki soruyla baş başa kalıyor: bunu kim yaktı, ayın kalan on bir gününde ne olacak? Panoyu açtığında cevabın büyük kısmı tek bir yerde toplanıyor. Geçen hafta "gelen her talebi araştırıp özetlesin" diye kurulan araştırma ajanı, form spam'inden düşen kayıtlar dahil her yeni lead için tam bir araştırma turu çalıştırmış. Ajan hatalı davranmadı; kendisine verilen işi harfiyen yaptı. Eksik olan şey, o işin ne kadara mal olabileceğine dair bir üst sınırdı.

Bu yazı o sınırın nasıl kurulacağını anlatıyor. Önce tüketimin neden ay ortasına kadar görünmez kaldığını, sonra bir ajan çalıştırmasının aslında neyi harcadığını ele alıyoruz. Ardından tavanın hangi seviyeye konacağı, ilk sayının nereden seçileceği, tavan dolduğunda ne olması gerektiği, gereksiz harcamanın nasıl ayıklanacağı ve tavan koymadan önce maliyeti düşüren ayarlar geliyor. Son bölümlerde bunu aylık bir rutine bağlıyor ve kredi tavanının yanlış araç olduğu durumları işaretliyoruz.

Kredi tüketimi neden ay ortasına kadar görünmez kalıyor?

Klasik yazılım gideri sabittir: kullanıcı sayısı belli, aylık tutar belli, sürpriz yok. Ajan gideri ise değişken bir gider kalemidir ve talep hacmine bağlıdır. Bir ay boyunca gelen lead sayısı iki katına çıktığında lisans faturanız değişmez ama ajanın tükettiği kredi ikiye katlanır. Bu, bütçe tarafında alışkın olmadığınız bir davranış: gider, sizin kararınıza değil, dışarıdan gelen hacme bağlı büyüyor.

İkinci sebep birim maliyetin sezgiye kapalı olması. Bir çalıştırmanın tükettiği kredi, ajanın kaç adım attığına ve her adımda ne kadar bağlam okuduğuna göre değişir. Aynı ajan bir konuşmada üç kredi, ertesi gün on beş kredi harcayabilir; ikisi de doğru çalışmadır. Ortalamaya bakarak yaptığınız tahmin, uç örneklerin taşıdığı yükü gizler. Toplam sahip olma maliyetini hesaplarken abonelik dışı kalemleri saydığınız gibi burada da abonelik rakamının dışında kalan gizli giderleri ayrı bir satır olarak görmeniz gerekir.

Üçüncü sebep de birikimin sessiz olması. Bir ajanın günde otuz çalıştırma yapması hiçbir uyarı üretmez; otuz çalıştırma yirmi iş günü boyunca sürdüğünde ortaya çıkan rakam bütçenin yarısını yiyebilir. Tüketim ani bir sıçramayla değil, düzgün bir eğimle gelir. Bu yüzden "bir şeyler ters gitti" hissi, ancak eşiğin çoktan aşıldığı noktada oluşur.

Bir ajan çalıştırması aslında neyi harcıyor?

Kredi, tek bir şeyin karşılığı değil. Bir çalıştırmada dört ayrı kalem birikir: ajanın okuduğu bağlam, kurduğu düşünce adımları, çağırdığı araçlar ve ürettiği yanıt. Bunlardan en çok gözden kaçanı ilkidir. Ajanın hafızası önceki konuşmayı hatırlattığı için değerlidir, ama uzun bir müşteri geçmişi her çalıştırmada yeniden okunur ve her okuma kredi yakar. Yanıtın kısa olması, çalıştırmanın ucuz olduğu anlamına gelmez.

Araç çağrıları ikinci büyük kalemdir. Ürün tarafındaki 74 otonom aksiyon, ajanın görev açması, lead durumunu güncellemesi, teklif oluşturması gibi işleri kendi başına yapmasını sağlar; her aksiyon bir adım demektir ve her adım hem süre hem kredi tüketir. Beş adımda çözülen bir iş, on iki adımda çözülen aynı işten yarı fiyatınadır. Bu yüzden ajanın "ne yaptığı" kadar "kaç hamlede yaptığı" da bir maliyet sorusudur.

Bu kırılımı sezgiyle tahmin etmeyin. AI kullanım ve kredi panosu tüketimi ajan ve kategori bazında ayırır, günlük kullanımı ve dönem sonu tahminini aynı ekranda tutar; ajan içgörüleri ise hangi aksiyonun ne sıklıkla çalıştığını ve nerede takıldığını çalışma loglarından toplar. Bu iki ekran, tavanı hangi rakamdan koyacağınızı belirleyen veriyi üretir. Mantık, müşteri başına hizmet maliyetini çıkarırken kullandığınızla aynıdır: toplam gideri, onu üreten birime bölersiniz.

Tavan hesap genelinde mi, ajan başına mı konmalı?

Hesap genelinde tek bir tavan kurmak kolaydır ve neredeyse hiçbir işe yaramaz. Toplam tavan dolduğunda hangi ajanın sebep olduğunu söylemez; sadece hepsini birden durdurur. Fatura kesme ajanı, ay sonu raporu yüzünden değil, bir araştırma ajanının aç gözlülüğü yüzünden susar. Bu, maliyet kontrolü değil, rastgele kesinti.

Ajan başına kredi tavanı bu sorunu kaynağında çözer. Her ajana ayrı bir aylık üst sınır koyarsınız ve tavanı aşacak bir çalıştırma daha başlamadan durdurulur. Sınır, çalıştırma yarıda kesildiği için değil, hiç başlamadığı için yarım iş bırakmaz. Bunun operasyonel karşılığı şudur: deneysel bir ajanı canlıya almak artık bütçeyi riske atan bir karar olmaktan çıkar, çünkü en kötü senaryonun rakamı önceden yazılıdır.

Pratikte iki seviyeyi birlikte kullanmak gerekir. Ajan başına tavan, tek bir ajanın kaçmasını engeller; hesap seviyesindeki takip ise toplamın plan sınırına yaklaşmasını görünür kılar. İlkini bir sigorta, ikincisini bir gösterge olarak düşünün. Sigortayı gösterge yerine kullanmaya kalkarsanız, ancak patladığında haber alırsınız.

İlk tavan hangi sayıdan başlamalı?

İlk rakamı tahminle koymayın; iki hafta ölçün. Ajanı önce sınırsız değil, cömert bir tavanla çalıştırın, tüketimini panodan izleyin, sonra gerçekleşen haftalık ortalamanın üzerine belli bir pay ekleyerek tavanı sabitleyin. Pay, hacimdeki mevsimselliğe göre değişir: talebin dalgalı olduğu bir destek ajanında daha geniş, sabit saatte çalışan bir rapor ajanında daha dar olur.

Rakamı seçerken sorulacak asıl soru "ne kadar harcayabilirim" değil, "bu ajanın ürettiği değer ne". Nitelikli lead sayısını artıran bir araştırma ajanının tavanı, o lead'lerin işletmeye kattığı katkının yanında değerlendirilir. Bu, müşteri edinme maliyetini hesaplarken kurduğunuz oran mantığının aynısıdır: mutlak rakam tek başına ne pahalı ne ucuzdur, karşılığına bölündüğünde anlam kazanır.

Ajan türü	Tüketimi belirleyen şey	Tavanı nereden başlatın	İlk ayda izlenecek sinyal
Lead araştırma / zenginleştirme	Gelen kayıt sayısı	Ölçülen haftalık ortalamanın dört katı + dar pay	Çalıştırma başına düşen nitelikli lead
Destek ön eleme	Konuşma hacmi ve mesai dışı yığılma	Yoğun haftanın tüketimi + geniş pay	İnsana devir oranı
Zamanlanmış rapor	Çalıştırma sayısı sabittir	Çalıştırma sayısı × ölçülen birim tüketim	Sapma varsa bağlam şişmesi
Reklam bütçe kontrolü	Kampanya sayısı ve kontrol sıklığı	Günlük kontrol sayısına göre sabit	Boşa çalışan kontrol turları
Deneme aşamasındaki ajan	Belirsiz	Kaybını göze alabileceğiniz rakam	Tavana çarpma sıklığı

Tablodaki mantık tek cümleyle özetlenebilir: tüketimi dışarıdan gelen hacim belirliyorsa payı geniş tutun, kendi takviminiz belirliyorsa dar tutun. Deneme aşamasındaki ajanlarda ise doğru soru "yeter mi" değil, "bu rakamı kaybetsem sorun olur mu".

Tavan dolduğunda ne olmalı?

Tavanın kendisi kadar önemli olan, tavana çarpıldığında ne olacağıdır. En kötü senaryo sessiz durmadır: ajan çalışmayı bırakır, kimse fark etmez, müşteri talepleri yanıtsız birikir. Tavan bir bütçe kararıysa, ona çarpmak da bir operasyon olayıdır ve bildirim üretmelidir.

İkinci karar, çarpmanın normal mi istisna mı sayılacağıdır. Bir ajan her ay tavana çarpıyorsa tavan yanlıştır ya da ajan gereksiz iş yapıyordur; ikisini karıştırmayın. Ayda bir kez, ayın son günlerinde çarpma genellikle sağlıklıdır ve sınırın gerçekten bağlayıcı olduğunu gösterir. Ayın sekizinde çarpma ise ölçümün baştan yanlış yapıldığı anlamına gelir.

Üçüncüsü, durduğunda işin nereye gideceğidir. Kritik bir ajan için devir yolu önceden tanımlı olmalı: akıllı insan devri, karmaşık ya da hassas durumlarda konuşmayı doğru temsilciye aktarır ve müşteriyi çıkmazda bırakmaz. Aynı düzeni bütçe kaynaklı duruşlarda da kurun; ajan durduğunda iş kaybolmasın, kuyruğa girsin. Ajana atadığınız işler kaydın üstünde duran görevler olarak tutulduğunda, duran ajanın bıraktığı yerden bir insan devam edebilir.

Harcamanın hangi kısmı gereksiz?

Tavan koymadan önce sorulacak soru şu: bu tüketimin ne kadarı iş üretiyor? Ajanlarda gereksiz harcamanın en büyük kaynağı, işlenmemesi gereken kayıtların işlenmesidir. Eksik, tekrarlı ya da terk edilmiş kayıtlar üstünde çalışan bir ajan, tam fiyatına hiçbir şey üretmez. Bu yüzden maliyet kontrolünün ilk adımı çoğu zaman veri tarafındadır: çöp veriyi ayıklamak, tavanı sıkmaktan daha fazla kredi kazandırır.

İkinci kaynak, kapsamı gereğinden geniş tetikleyicilerdir. "Her yeni lead" yerine "belirli kaynaktan gelen ve temel alanları dolu olan lead" demek, çalıştırma sayısını ciddi biçimde düşürür ve çıktı kalitesini yükseltir. Aynı mantık gelen kutusu tarafında da geçerlidir: ajanın gürültüyle uğraşmasını istemiyorsanız gürültüyü ondan önce durdurun; spam ve engelleme düzenini kurmak ajan tarafındaki tüketimi de doğrudan azaltır.

Üçüncü kaynak ölü kayıtlardır. Aylardır hareketsiz fırsatlar üstünde takip çalıştıran bir ajan, hiç kapanmayacak işler için kredi harcar. Pipeline'ı düzenli temizlemek yalnızca tahmini düzeltmez, otomasyonun çalıştığı zemini de küçültür. Ajanın iş listesi ne kadar gerçekse, tüketimi de o kadar anlamlı olur.

Tavan koymadan önce maliyeti düşüren ayarlar neler?

Tavan bir güvenlik ağıdır, bir optimizasyon aracı değil. Ağı germeden önce ajanın kendisini ucuzlatmak daha kalıcı bir kazanç sağlar. İlk ayar bağlamı daraltmaktır: ajan bilgi yönlendirme ile her ajanın hangi bilgi kaynaklarına erişeceğini tek tek seçersiniz. Destek ajanının fiyat listesini okumasına gerek yoksa okumasın; okunmayan her kaynak hem daha az kredi hem daha az sapma demektir.

İkinci ayar adım sayısını belirlemektir. Adım adım playbook, aksiyon sırasını modelin kararına bırakmak yerine tanımlamanızı sağlar; koşullu adımlar ve yan etkisiz prova modu, işin kaç hamlede biteceğini önceden görünür kılar. Serbest keşif pahalıdır; tekrar eden bir işte pahalı olmasının bir gerekçesi yoktur.

Üçüncü ayar çalıştırma sıklığıdır. Zamanlanmış çalışma, ajanı belirlediğiniz gün ve saatte çalıştırır; saatlik çalışan bir özet ajanını günde iki kere çalıştırmak çoğu ekipte hiçbir şey kaybettirmez. Dördüncüsü de test ve önizlemedir: yayına almadan önce ajanı canlı test panelinde gerçek senaryolarla denemek, yanlış kurulmuş bir ajanın canlıda kredi yakarak öğrenilmesini engeller.

Tavan aylık rutine nasıl bağlanır?

Bir kez konan tavan, ilk üç ay içinde yanlış rakama dönüşür. Hacim değişir, ajanın işi genişler, yeni bir ajan devreye girer. Bu yüzden tavan gözden geçirmesinin bir takvimi olmalı ve bu takvim zaten var olan bir rutine iliştirilmeli. Aylık kapanış kontrol listesine tek bir madde eklemek, ayrı bir toplantı kurmaktan çok daha uzun ömürlüdür.

Gözden geçirmede üç şeye bakılır: hangi ajan tavanına çarptı, hangi ajan tavanının çok altında kaldı, hangi ajanın çalıştırma başına maliyeti arttı. Üçüncüsü en bilgilendiricidir, çünkü genellikle bağlamın sessizce şiştiğini gösterir. AI analitiği en pahalı konuşmaları ayrı bir kırılım olarak çıkarır; bu listenin başındaki üç konuşmayı okumak, tabloya bakmaktan daha çok şey öğretir.

Rakamı da defterin bütününde tutun. Ajan kredisi, yazılım gideri satırının içinde kaybolmaması gereken değişken bir kalemdir; gelir gider takibinizde ayrı bir satır olarak izlendiğinde, ay sonunda "nereye gitti" sorusu sorulmaz. Çalışma izi de bu tarafta işe yarar: her çalıştırmanın parametresi, sonucu, süresi ve onaylayanı kayıtlı olduğu için tartışmalı bir kalem geriye dönük açıklanabilir.

Kredi tavanı ne zaman yanlış araçtır?

Tavan bir bütçe aracıdır, bir güvenlik aracı değil. Ajanın yapmaması gereken şeyleri yapmasını engellemek için tavan koymak, yangını su faturasıyla söndürmeye benzer. Bunun doğru karşılığı guardrails ile sınırları deklaratif olarak tanımlamak ve her aksiyon türü için otomatik mi manuel onay mı istediğinizi belirlemektir. Tavan "ne kadar", onay kontrolü "ne" sorusunu yanıtlar.

İkinci yanlış kullanım, kalite sorununu bütçeyle çözmeye çalışmaktır. Çok kredi yakan bir ajan genellikle pahalı değil, kararsızdır: aynı işi tekrar tekrar dener, yanlış kaynağa bakar, gereksiz adım atar. Bu durumda tavanı kısmak semptomu bastırır, sebebi yerinde bırakır. Doğru hamle ajanı eğitmek, kapsamını daraltmak ya da işi playbook'a bağlamaktır.

Üçüncüsü de yanlış katmanda tasarruf etmektir. Ajan kredisini kısarken ekibin manuel işini büyütmek çoğu zaman zarardır; asıl karşılaştırma kredi ile boş zaman arasında değil, kredi ile insan saati arasındadır. Altyapı tarafında maliyet ile kontrol arasında kurduğunuz dengenin aynısı burada da geçerli: açık kaynak ile ticari çözüm arasında seçim yaparken olduğu gibi, ucuz görünen seçenek çoğu zaman gideri başka bir yere taşır.

Ajan başına tavanı, onay kontrolünü ve kredi panosunu birlikte kurmak istiyorsanız Rocketly hesabınızı ücretsiz açıp ilk ajanınızı dar bir tavanla deneyebilirsiniz.

Sıkça sorulan sorular

Tavanı çok düşük koyarsam ajan işini yarıda mı bırakır?

Hayır. Tavanı aşacak bir çalıştırma başlamadan durdurulur, çalışırken kesilmez. Yani yarım kalmış bir görev ya da yarım gönderilmiş bir yanıt oluşmaz; o çalıştırma hiç başlamamış sayılır.

Tavan dolduğunda diğer ajanlar da durur mu?

Tavan ajan başına tanımlandığı için yalnızca ilgili ajan durur. Diğer ajanlar kendi sınırları içinde çalışmaya devam eder. Hesap seviyesindeki plan kredisi bittiğinde ise durum farklıdır; onu ayrıca izlemek gerekir.

Hangi ajanın ne kadar harcadığını nereden görürüm?

AI kullanım ve kredi panosu tüketimi ajan ve kategori kırılımıyla gösterir, günlük kullanımı ve dönem sonu tahminini birlikte verir. Aksiyon bazında detay için ajan içgörüleri ve çalışma izi kullanılır.

Tavanı ne sıklıkla gözden geçirmeliyim?

Ayda bir yeterlidir; bunu ay sonu kapanış rutininize iliştirin. Ayrıca yeni bir ajan yayına aldığınızda ya da gelen hacimde kalıcı bir değişiklik olduğunda ara bir gözden geçirme yapın.