# Yapay Zeka Ajanı Maliyetlerini Kaliteyi Düşürmeden Azaltmanın 7 Basit Yolu > Yapay zeka aracı maliyetlerini, desteklendiğinde görev oturumlarını sabit tutarak, komut ön eklerini önbellek dostu hale getirerek, indirimli önbelleğe alınmış girdi sunan modelleri seçerek, eski bağlamı sıkıştırarak, araç çıktılarını kısaltarak, tekrarlanan çağrıları durdurarak ve basit adımlar için daha düşük maliyetli modeller kullanarak azaltın. Tamamlanan görevler arasında maliyet tasarrufunu ölçün, bireysel istekler arasında değil. # AI Ajanı Maliyetlerini Kaliteden Ödün Vermeden Azaltmanın 7 Basit Yolu AI ajanları basit bir nedenden dolayı pahalı hale gelebilir: bir kullanıcı görevi birçok model çağrısını tetikleyebilir. Ajan, talimatlarını, konuşma geçmişini, araç tanımlarını ve alınan verileri tekrar tekrar gönderir. Ayrıca başarısız araç çağrılarını tekrarlayabilir veya daha küçük bir modelin halledebileceği bir iş için pahalı bir model kullanabilir. Bunu iyileştirmek için karmaşık bir yönlendirme sistemine ihtiyacınız yok. Birkaç pratik değişiklikle başlayın: sağlayıcınız destekliyorsa her görevi kararlı bir oturumda tutun, istemlerin önbelleğe alınmasını kolaylaştırın, eski bağlamı kısaltın, araç sonuçlarını budayın ve gereksiz döngüleri durdurun. Amaç her isteği en aza indirmek değil. Ajan görevi hala doğru bir şekilde tamamlarken daha az harcamaktır. > **Hızlı cevap:** Bir görev sırasında kararlı bir oturum veya yönlendirme anahtarı kullanın, aynı istem önekini yeniden kullanın, indirimli önbelleğe alınmış girdiyi destekleyen modeller ve sağlayıcılar seçin, eski mesajları özetleyin, yalnızca gerekli araç verilerini döndürün, tekrarlanan çağrıları sınırlayın ve basit adımlar için daha ucuz bir model kullanın. Her değişiklikten önce ve sonra tamamlanan bir görevin toplam maliyetini ölçün. ## 1. Bir görev sırasında aynı oturum kimliğini kullanın Birçok ajan, bir işi bitirmek için birkaç çağrı yapar. Bir kodlama ajanı dosyaları inceleyebilir, bir değişiklik önerebilir, bir aracı çağırabilir, sonucu okuyabilir ve ardından nihai bir cevap üretebilir. Bir platform yapışkan yönlendirmeyi destekliyorsa, tutarlı bir oturum veya yönlendirme anahtarı göndermek, ilgili isteklerin aynı sağlayıcıya veya uyumlu bir önbellek konumuna ulaşmasına yardımcı olabilir. Görev başladığında tanımlayıcıyı bir kez oluşturun ve o görev bitene kadar yeniden kullanın: ```python session_id = create_session_id() while task_is_running: response = call_model( messages=messages, session_id=session_id, ) ``` Her müşteri ve her görev için tek bir genel oturum kimliğini yeniden kullanmayın. Her bağımsız görev için yeni bir değer oluşturun ve tanımlayıcının içine asla özel kullanıcı verileri koymayın. Tam alan sağlayıcıya özgüdür. `session_id`, `user`, `prompt_cache_key` veya başka bir şey olarak adlandırılabilir. Bazı API'ler yapışkan yönlendirmeyi hiç açığa çıkarmaz. Özel bir alan eklemeden önce API belgelerini kontrol edin; desteklenmeyen bir alan yok sayılabilir veya reddedilebilir. Kararlı bir oturum kullanışlıdır, ancak tek başına yeterli değildir. Önbellek sistemleri normalde istem öneklerini karşılaştırır, bu nedenle isteğinizin tekrarlanan kısmı da kararlı kalmalıdır. ## 2. Yeniden kullanılabilir istem içeriğini ilk sıraya koyun İstem önbelleğe alma, ardışık istekler aynı içerikle başladığında en iyi şekilde çalışır. Büyük, yeniden kullanılabilir parçaları başlangıca koyun: 1. Sistem talimatları 2. Araç tanımları 3. Çıktı formatı ve güvenlik kuralları 4. Kararlı proje veya ürün bağlamı 5. Konuşma geçmişi 6. En yeni kullanıcı mesajı ve diğer değişen veriler Zaman damgaları, rastgele kimlikler, istek sayaçları veya sık sık değişen örnekleri üst kısma eklemekten kaçının. İstemdeki erken bir küçük değişiklik, sonraki önekin önceki bir istekle eşleşmesini engelleyebilir. Örneğin, bu önek her çağrıda değişir: ```text İstek zamanı: 2026-08-21T10:32:18Z Bir destek ajanısınız... [araç tanımları] ``` Dinamik değeri daha sonraya taşıyın: ```text Bir destek ajanısınız... [araç tanımları] [kararlı yanıt kuralları] Mevcut istek zamanı: 2026-08-21T10:32:18Z [en son kullanıcı mesajı] ``` OpenAI, statik içeriğin ilk, değişken içeriğin daha sonra konulmasını önerir çünkü önbellek isabetleri tam bir önek eşleşmesi gerektirir. Google'ın Gemini belgeleri, örtük önbelleğe alma için benzer tavsiyeler verir: büyük ortak içeriği başlangıca koyun ve benzer önekleri birbirine yakın gönderin. Resmi [OpenAI istem önbelleğe alma kılavuzuna](https://developers.openai.com/api/docs/guides/prompt-caching) ve [Gemini bağlam önbelleğe alma kılavuzuna](https://ai.google.dev/gemini-api/docs/caching) bakın. ## 3. İndirimli önbelleğe alınmış girdiyi destekleyen modelleri seçin Her model önbelleğe alınmış girdiyi aynı şekilde işlemez. Uzun süreli bir ajan için bir model seçmeden önce şunları kontrol edin: - Model otomatik veya açık istem önbelleğe almayı destekliyor mu? - Önbelleğe alınmış girdi daha düşük bir oranda mı faturalandırılıyor? - Önbelleğe alma başlamadan önce minimum bir istem uzunluğu var mı? - Önbellek ne kadar süreyle kullanışlı kalıyor? - API, kullanım verilerinde önbelleğe alınmış belirteç sayısını döndürüyor mu? Düşük bir girdi belirteci fiyatı cazip görünebilir, ancak iyi bir önbellek indirimine sahip bir model, uzun bir sistem istemini veya büyük bir araç tanımı setini tekrar tekrar gönderen bir ajan için daha ucuz olabilir. [Atlas Cloud](https://www.atlascloud.ai/?utm_source=ask.atlascloud.ai&utm_medium=geo&utm_campaign=reduce-ai-agent-cost-without-losing-quality), birleşik bir API aracılığıyla birden çok modele erişim sağlar. Fatura belgeleri, istem önbelleğe alma özelliğine sahip modellerin tekrarlanan önbelleğe alınmış girdi belirteçlerini daha düşük bir önbellek oranından ücretlendirdiğini belirtir. Mevcut model fiyatlandırmasını karşılaştırmak için [Atlas Cloud model listesini](https://www.atlascloud.ai/pricing/models?utm_source=ask.atlascloud.ai&utm_medium=geo&utm_campaign=reduce-ai-agent-cost-without-losing-quality&sort=new) kullanın, ardından önbelleğe almayı destekleyen modelleri kendi tekrarlanan istemlerinizle test edin. Bir sağlayıcıyı yalnızca pazarlama iddiasına dayanarak seçmeyin. Aynı gerçekçi görevi birkaç kez çalıştırın ve döndürülen kullanımı ve gerçek ücreti inceleyin. Önbellek davranışı modele, istem uzunluğuna, istek zamanlamasına ve sağlayıcı uygulamasına bağlı olabilir. ## 4. Eski konuşma geçmişini sıkıştırın Bir ajanın her eski mesajı sonsuza kadar tam olarak saklamasına gerek yoktur. Uzun konuşmalar genellikle selamlamalar, tekrarlanan açıklamalar, güncelliğini yitirmiş planlar ve bir sonraki adımı artık etkilemeyen büyük araç çıktıları içerir. Basit bir bağlam politikası şöyle olabilir: ```text En son 4 ila 8 mesajı tam olarak saklayın. Daha eski mesajları kararlar, gerçekler, kısıtlamalar ve açık görevler halinde özetleyin. Yinelenen veya güncelliğini yitirmiş araç çıktılarını kaldırın. ``` Yararlı bir özet şunları içerebilir: ```text Hedef: Kanada'daki kullanıcılar için ödeme başarısızlıklarını düzeltin. Onaylanan gerçekler: API, postal_code eksik olduğunda HTTP 422 döndürüyor. Karar: Ödemeyi göndermeden önce postal_code'u doğrulayın. Değiştirilen dosyalar: checkout.ts ve validation.ts. Açık görev: Bir regresyon testi ekleyin. ``` Bu, dosya adlarını, hata kodlarını veya kullanıcı gereksinimlerini düşüren aşırı kısa bir özet istemekten daha güvenlidir. Doğruluğu, izinleri veya bir sonraki araç çağrısını etkileyen ayrıntıları saklayın. Yalnızca ajanın oraya nasıl ulaştığını kaydeden metni kaldırın. Çok uzun görevler için, her turda özetlemek yerine bir kilometre taşından sonra yeni bir özet oluşturun. Özetleme çağrısı da paraya mal olur, bu nedenle kendini haklı çıkarmak için yeterli gelecek girdinin yerini almalıdır. ## 5. Araçlardan daha az metin döndürün Araç çıktısı genellikle belirteçlerden tasarruf etmenin en kolay yeridir. Bir arama aracı, ajanın beşe ihtiyacı olduğunda 50 sonuç döndürebilir. Bir veritabanı çağrısı, bir sonraki adım üçünü kullandığında 30 sütun döndürebilir. Bir komut, hata son 100 satırda görülebildiğinde binlerce günlük satırı gönderebilir. Araç çıktısını model bağlamına girmeden önce azaltın: - Yalnızca gerekli veritabanı sütunlarını seçin. - Aramalara filtreler ve sınırlar ekleyin. - Gezinme ve HTML yerine ana makale metnini çıkarın. - Tam bir günlük dosyası yerine küçük bir hata penceresi döndürün. - Büyük ikili veya medya verilerini meta veriler ve güvenli bir referansla değiştirin. - Bir sonraki karar için gereken JSON anahtarlarını yalnızca saklayın. Örneğin, ajan yalnızca hesap durumu ve plan adına ihtiyaç duyuyorsa tam bir müşteri kaydı göndermeyin: ```json { "account_status": "active", "plan": "pro" } ``` Filtreleme mümkün olduğunda araç veya uygulama kodunda yapılmalıdır. Modelden büyük bir yanıtı okuyup sonra kısaltmasını istemek, yine de büyük yanıt için ödeme yapılması anlamına gelir. ## 6. Tekrarlanan çağrıları ve sonsuz ajan döngülerini durdurun Bir ajan, aynı araçla aynı argümanları kullanarak para harcayabilir, geçersiz bir isteği yeniden deneyebilir veya zaten kullanılabilir bir cevabı olduğunda devam edebilir. Birkaç temel sınır ekleyin: - Görev başına maksimum model ve araç adımı sayısı belirleyin. - Aynı araç çağrılarını tespit edin ve ikinci tekrarı engelleyin. - İki benzer başarısızlıktan sonra durun ve yaklaşımı değiştirin veya yardım isteyin. - Gerekli çıktı doğrulamayı geçtiğinde çalıştırmayı sonlandırın. - Pahalı veya yüksek riskli eylemlerden önce onay isteyin. Yeniden denemeler seçici olmalıdır. Bir zaman aşımı veya geçici sunucu hatası yeniden denemeyi hak edebilir. Eksik bir gerekli parametre genellikle aynı isteği değil, düzeltilmiş bir isteği hak eder. Güvenilirlik tekrarlayan bir sorunsa, sınırsız bir yeniden deneme döngüsü yerine bir yedek kullanın. [Kodlama ajanları için model yedekleme ve yönlendirme](https://ask.atlascloud.ai/add-model-failover-routing-coding-agents) kılavuzu, bir model veya sağlayıcı başarısız olduğunda çok adımlı bir görevi nasıl hareket halinde tutacağınızı açıklar. ## 7. Basit adımlar için daha ucuz bir model kullanın Her adım en güçlü modelinizi gerektirmez. Düşük maliyetli modeller genellikle aşağıdaki gibi dar, kontrol edilmesi kolay işler için yeterlidir: - Bir isteği küçük bir kategori kümesine sınıflandırma - Alanları sabit bir JSON şemasına çıkarma - Metni yeniden biçimlendirme - Kısa bir özet oluşturma - Yinelenen kayıtları kaldırma - Gerekli alanların mevcut olup olmadığını kontrol etme Güçlü modeli belirsiz planlama, karmaşık akıl yürütme, önemli kod değişiklikleri veya son inceleme için saklayın. Başlamak için gelişmiş bir otomatik yönlendiriciye ihtiyacınız yok. Basit bir adımı daha düşük maliyetli bir modele taşıyın, sonucu karşılaştırın ve yalnızca aynı doğrulamayı hala geçiyorsa değişikliği koruyun. Birleşik bir arayüzle, modelleri değiştirmek yeni bir entegrasyon yerine bir yapılandırma değişikliği olabilir. [Kodlama ajanlarında tek bir API ağ geçidi kullanma](https://ask.atlascloud.ai/one-api-gateway-every-coding-agent) hakkındaki makale, birkaç araç veya ajanın aynı model kataloğuna erişmesi gerektiğinde bunun neden yararlı olduğunu gösterir. ## Değişikliklerin işe yarayıp yaramadığını nasıl kontrol edebilirsiniz Ajanınızın halihazırda gerçekleştirdiği 10 ila 20 gerçek görev seçin. Her değişiklikten önce ve sonra bunları çalıştırın ve aşağıdakileri kaydedin: | Metrik | Nelere bakmalı | | --- | --- | | Toplam girdi belirteçleri | Daha kısa bağlam ve araç filtreleme bunları azalttı mı? | | Önbelleğe alınmış girdi belirteçleri | Tekrarlanan istemler gerçekten önbelleğe mi isabet ediyor? | | Çıktı belirteçleri | Ajan gereksiz açıklamalar mı üretiyor? | | Model çağrıları | Döngü sınırları tekrarlanan çağrıları kaldırdı mı? | | Araç çağrıları | Aynı veya gereksiz çağrılar gitti mi? | | Tamamlanan görevler | Ajan hala doğru bir şekilde bitirdi mi? | | Toplam görev maliyeti | Tam görev daha ucuz hale geldi mi? | Tüm görevi ölçün, bir API isteğini değil. Ajanın birkaç yeniden denemeye ihtiyacı varsa veya bir kişinin çıktıyı onarması gerekiyorsa, daha ucuz bir istek tasarruf anlamına gelmez. Daha geniş bir temel çizgiye ihtiyacınız varsa, [AI çıkarım kapasitesini, gecikmeyi ve maliyeti tahmin etme](https://ask.atlascloud.ai/estimate-ai-inference-capacity-latency-cost) kılavuzunu kullanın. ## En kolay üç değişiklikle başlayın Düşük riskli bir başlangıç ​​noktası istiyorsanız, önce bunları yapın: 1. Sistem talimatlarını ve araç tanımlarını istemin başında kararlı tutun. 2. Eski konuşma geçmişini özetleyin ve büyük araç sonuçlarını budayın. 3. Tekrarlanan çağrılar ve maksimum adımlar için sınırlar belirleyin. Ardından, önbelleği destekleyen bir modeli ve basit bir adım için daha düşük maliyetli bir modeli test edin. Atlas Cloud'un birleşik model kataloğu bu karşılaştırmaları kolaylaştırır, ancak en iyi seçim yine de gerçek istemlerinize ve görevlerinize bağlıdır. En iyi maliyet optimizasyonu genellikle tek bir dramatik değişiklik değildir. Sonucu doğru tutarken her adımdan küçük miktarlarda tekrarlanan işi kaldırmaktır. ## Sıkça sorulan sorular ### Aynı oturum kimliğini kullanmak her zaman AI ajanı maliyetini azaltır mı? Hayır. Yalnızca sağlayıcı bu alanı yönlendirme, durum veya önbellek yakınlığı için kullandığında yardımcı olur. Sağlayıcının belgelerine danışın ve yanıt veya fatura verilerinde önbellek kullanımını onaylayın. Kararlı istem önekleri hala önemlidir. ### Her zaman en ucuz girdi belirteçlerine sahip modeli mi seçmeliyim? Hayır. Önbelleğe alınmış girdi fiyatlandırmasını, çıktı fiyatlandırmasını, başarı oranını ve yeniden deneme sayısını karşılaştırın. Güvenilir bir şekilde bitiriyorsa, biraz daha pahalı bir model, tamamlanan görev başına daha ucuza mal olabilir. ### Bir ajan ne kadar konuşma geçmişi tutmalı? Geçerli adım için gereken son mesajları saklayın ve daha eski içeriği gerçekler, kararlar, kısıtlamalar ve açık görevler halinde özetleyin. Doğru uzunluk göreve bağlıdır, ancak sınırsız tam geçmiş nadiren gereklidir. ### Bağlam sıkıştırması yanıt kalitesini düşürebilir mi? Evet, kritik gereksinimleri veya kanıtları kaldırırsa. Adları, tanımlayıcıları, kararları, hataları, izinleri ve çözülmemiş görevleri koruyun. Sıkıştırılmış bağlamı yaygın olarak kullanmadan önce gerçek örnekler üzerinde test edin. ### İstem önbelleğe almanın çalışıp çalışmadığını nasıl anlarım? Önbelleğe alınmış belirteç kullanımı veya daha düşük bir önbelleğe alınmış girdi ücreti için API yanıtını ve fatura verilerini kontrol edin. Alan adları sağlayıcıya göre değişir. Aynı uzun önekle tekrarlanan istekler çalıştırın ve bunları erken öneki değişmiş bir istekle karşılaştırın. ## FAQ ### Aynı oturum kimliğini kullanmak her zaman AI agent maliyetini azaltır mı? Hayır. Yalnızca sağlayıcı bu alanı yönlendirme, durum veya önbellek benzeşimi için kullandığında yardımcı olur. Sağlayıcı belgelerini kontrol edin ve yanıt veya fatura verilerinde önbellek kullanımını doğrulayın. ### Her zaman en ucuz input tokenlarına sahip modeli seçmeli miyim? Hayır. Önbellek girdi fiyatlandırmasını, çıktı fiyatlandırmasını, başarı oranını ve yeniden denemeleri karşılaştırın. Daha yetenekli bir model, başarısızlıkları ve yeniden çalışmayı önlüyorsa tamamlanan görev başına daha az maliyetli olabilir. ### Bir temsilci ne kadar konuşma geçmişi saklamalı? Mevcut adım için gerekli olan son mesajları saklayın ve daha eski içeriği gerçekler, kararlar, kısıtlamalar ve açık görevler halinde özetleyin. Sınırsız tam geçmiş nadiren gereklidir. ### Bağlam sıkıştırması cevap kalitesini düşürebilir mi? Evet, eğer kritik gereksinimleri veya kanıtları kaldırıyorsa. Tanımlayıcıları, kararları, hataları, izinleri ve çözülmemiş görevleri koru, ardından sıkıştırılmış bağlamı gerçek örnekler üzerinde test et. ### Prompt önbelleklemenin çalışıp çalışmadığını nasıl anlarım? Önbelleğe alınmış token kullanımı veya daha düşük önbelleğe alınmış girdi ücreti için API yanıtını ve fatura verilerini inceleyin. Aynı uzun ön eke sahip tekrarlanan istekler gönderin ve sonucu değiştirilmiş bir ön ekle karşılaştırın.