O çalışırken konuşun: ajanımız neden söz kesmeyi kabul ediyor

İlk test kullanıcılarımızdan biri uzun bir görevde çalışırken sohbete bir düzeltme yazdı — hiçbir şeyi durdurmadan. Sonrasında o anın beklenmedik şekilde iyi hissettirdiğini söyledi: kullandığı diğer ajan aracı, yeni bir mesaj kabul etmeden önce çalıştırmayı durdurmasını istiyor. “Sadece konuşmak için onu durdurmak zorunda kalmak saçma geldi,” dedi, “bunun yanında.”

Haklı ve fark, küçük bir kullanıcı deneyimi inceliği değil. Erkenden alıp sürekli yeniden uyguladığımız bir tasarım kararından geliyor: ajan bir iş arkadaşıdır, bir makine değil. Bir iş arkadaşının sözünü ortasında kesersiniz ve o bunu içeri alır. Onu kapatıp açmazsınız.

Neden “önce durdur” yanlış varsayılan

Kullanıcıyı konuşmadan önce bir çalıştırmayı durdurmaya zorlamanın üç maliyeti var; üçü de kullanıcıya kalıyor:

• Düzeltme çok geç gelir. Ajanın rotadan saptığını fark ettiğiniz an, tam da konuşmanız gereken andır. Durdurmaya zorlamak, siz durdur düğmesini ararken onun yanlış yolda zaman ve token yakmasını izlemek demektir.
• Durdurmak durumu yok eder. Durdurulmuş bir çalıştırma kaldığı yerden devam etmez — baştan başlarsınız ya da daha kötüsü, bir “iptal edildi” taslağı alıp bağlamı yeniden açıklarsınız. Uçuş ortası rota düzeltmeniz, size uçuştaki tüm işe mal olur.
• Kimin kime hizmet ettiğini tersine çevirir. “Makine şu anda sizi duyamaz, sonra gelin” makinenin rahatlığıdır, sizinki değil.

Bizimki gerçekte nasıl çalışıyor

Bir çalıştırma sürerken mesaj gönderdiğinizde, sırayla üç şey olur:

1. Sözleriniz önce kaydedilir. Mesaj, herhangi bir şey dağıtılmadan önce anında konuşma geçmişine düşer. Niyetiniz o andan itibaren kalıcıdır; hiçbir kuyruk, tampon veya zamanlama onu kaybedemez.
2. Bir sonraki adım sınırında iletilir. Ajan, araç çağrısı ortasında elindekini bırakmaz — mesajınızı bir sonraki doğal duraklamada okur; tıpkı bir insanın düşüncesini bitirip sonra sizin görüşünüzü alması gibi.
3. Yeniden başlatmaz, yönlendirir. Çalıştırmanın o ana kadar yaptığı her şey kalır. Mesajınız, hareket hâlindeki bir göreve uygulanan bir rota düzeltmesidir, bir yeniden başlatma değil.

Altındaki ilke: kullanıcı niyetinin kalıcılığı, sistemin rahatlığından önde gelir. Sözler kaydedildikten sonra, aşağıdaki her şey zamanlamadır — ve zamanlama zarif hâle getirilebilir. Kaydedilmemiş niyet ise hiç kurtarılamaz.

Pratikte nasıl görünüyor

En net örnek zaten herkese açık. Saat hikâyesinde, kurucunun isteği ajan çalışırken iki kez yön değiştirdi — “aslında, HTML sürümü yap,” ardından “kurulabilir bir web uygulaması gibi paketle.” Her araya girme, çalıştırma ortasında indi ve yörüngeyi büktü. Kimse durdura basmadı; yayınlanan uygulama, uçuşta iletilen düzeltmelerle şekillendi.

Daha ince günlük sürüm daha sıkıcı ve daha değerlidir: bir araştırma görevinde on mesaj derindesiniz, yanlış karşılaştırmayı kurduğunu fark ediyorsunuz, “onun yerine X ile karşılaştır” yazıyorsunuz — ve çoktan topladığı sekiz iyi kaynağı kaybetmeden döndüğünü izliyorsunuz.

İlke yer değiştiriyor

Bu hafta aynı soruyu karşı taraftan yaşadık: biz sizi böldüğümüzde ne olur — bir dağıtım için sunucu yeniden başlatması? Dürüst yanıtın aynı kural olduğu ortaya çıktı. Dağıtımlar sırasında sunucu artık çalıştırma ortası eklemeleri kabul ediyor (kaydedilmiş sözleriniz yaşar ve bir sonraki çalıştırma onları bağlam içinde alır) ve yalnızca yeni çalıştırma başlangıçlarını duraklatıyor. Kullanıcının çoktan yazdığı girdiyi reddetmek, bizim rahatlığımızın sizin niyetinizi ezip geçmesi olurdu — yukarıda eleştirdiğimiz şeyin ta kendisi, sadece bir operasyon kostümü giymiş hâli.

Bunun yeni olduğunu iddia etmiyoruz — kuyruklu kesintiler, iyi sistemlerin baştan beri çalışma biçimi. Sadece ajan kullanıcı deneyiminde nadir görülüyor; orada “konuşmak için makineyi durdur” nasılsa norm hâline geldi. Sıkıcı ve doğru varsayılan olmaktan memnunuz.