Yapay zeka ajanı geliştirme canlıda ayakta kalanı

AI ajanı geliştirme, bir dil modelinin hangi adımı atacağına karar verdiği, o adımı atmak için gerçek araçları çağırdığı, sonucu okuyup yeniden karar verdiği yazılımı kurmaktır — hedefe varana ya da bir sınır durdurana kadar. Ürün model değil, modelin etrafındaki döngüdür. Mühendislik de oradadır: ajanın neyi çağırabildiği, hataların ona nasıl döndüğü, adımlar arasında durumun nasıl taşındığı, yoldan çıktığında ne olduğu ve sonradan işi yapıp yapmadığını nasıl bildiğiniz. Sohbet botu cevaplar; ajan eyler ve onu bir prompt değil bir yazılım projesi yapan şey bu eylemdir.

Dar bir görev için çalışan bir prototip genelde bir ila üç hafta alır. Aynı prototipi müşterinin önüne koyabileceğiniz hâle getirmek belirgin biçimde daha uzun sürer — çoğunlukla iki ila dört ay — ve bu sürenin neredeyse hiçbiri prompt yazmaya gitmez. Modelin başa çıkması gereken biçimde bozulan entegrasyonlara, gerilemeleri yakalayan bir değerlendirme setine, yetkilendirmeye, hata ayıklanabilir bir günlüğe ve ajanın tek başına karar vermemesi gereken durumlar için insana devir yoluna gider. Demoyu bütçeleyip ikinci aşamayı bütçelemeyen ekiplerin ajanı pilottan hiç çıkmaz.

Görevi çözen en hafif şeyle başlayın. Birkaç araçlı tek bir ajan için çoğu zaman model sağlayıcısının kendi SDK'sı ve kendi yazdığınız bir döngü işin tamamıdır; üstelik her adımı ayıklayabilir durumda kalırsınız. Orkestrasyon framework'üne, gerçekten kalıcı duruma, dallanan akış denetimine, uzun süren adımlarda tekrar denemeye ya da birkaç eşgüdümlü ajana ihtiyacınız olduğunda uzanın. Framework'ün maliyeti API değildir; kötü bir günde en çok incelemeniz gereken parçaların başkasının soyutlamasının içinde kalmasıdır. Hangisini seçerseniz seçin prompt'ları, araç tanımlarını ve değerlendirme setini framework'ün dışında tutun ki sonradan geçiş bir gün sürsün, baştan yazma olmasın.

İki maliyet vardır ve ekipler düzenli olarak yanlış olanı planlar. Geliştirme maliyeti: dar kapsamlı bir iç ajan tipik olarak 8.000–30.000 $ mühendislik tutar; gerçek entegrasyonları, değerlendirmesi ve izlemesi olan müşteriye dönük bir ajan daha çok 30.000–120.000 $ bandındadır. İşletme maliyeti: token harcaması genelde daha küçük kalemdir ve azaltması en kolay olandır — basit adımları daha ucuz modele yönlendirmek, önbellek ve bağlamı düzenli budamak bunu çoğu zaman yarıya indirir. Ekiplerin unuttuğu kalem bakımdır: modeller kullanımdan kalkar, API'ler değişir, değerlendirme setinin yeniden koşması gerekir. Bir ajanı dürüst tutmak için yılda geliştirme maliyetinin kabaca %15–25'ini ayırın.

Uslu durmasını ummak yerine yapabileceklerini kısıtlarsınız. Pratikte: cevapları getirilen belgelere dayandırın ve ajana kullandığı kaynağı belirtmesini şart koşun; araçlara katı, tipli argümanlar verin ve çalıştırmadan önce doğrulayın; bir aracın dürüstçe "bulunamadı" dönmesine izin verin ve ajana boş dönmenin kabul edilebilir bir sonuç olduğunu öğretin; adım sayısını ve koşu başına harcamayı sınırlayın; geri alınamaz olan her şeyin — ödeme, silme, müşteriye giden mesaj — önüne bir insan onayı koyun. Sonra ölçün. Zor durumları da içeren elli gerçek vakalık bir değerlendirme seti, güvenilirlik hakkında her türlü prompt ayarından fazlasını söyler.

Görev standart, hacim ölçülü ve yanlış cevabın bedeli düşükse no-code platform kullanın — iç SSS yönlendirmesi, talep triyajı, ilk yanıt taslakları. Çalışan bir sonuca gerçekten daha hızlı ulaştırırlar ve görevin asıl neye ihtiyaç duyduğunu size öğretirler. Ajan kendi sistemlerinize gerçek yetkilerle dokunacaksa, sizin hacminizde gecikme veya birim maliyet önemliyse, kendi değerlendirmenize ve denetim izinize ihtiyacınız varsa ya da ajan sattığınız ürünün parçasıysa özel geliştirin. Yaygın yol makul olanıdır: akışı platformda kanıtlayın, sonra bunu hak eden parçaları yeniden yazın.