Yapay zeka asistanının sınırları: henüz kaldıramadığı çağrılar

Yapay zeka destekli telefon asistanlarının her tanıtımı size neleri yapabildiğini anlatır. Neleri yapamadığını söyleyen pek çıkmaz; oysa asıl o ikinci liste belirler bu işin size yarayacağını mı, yoksa sizi zor durumda mı bırakacağını. İşte o liste — hem de böyle bir asistanı geliştiren insanların kaleminden.

Çerçeveyi dürüstçe kuralım. Yapay zeka asistanı belirli bir işte gerçekten iyidir: telefonu her seferinde açar, gece ikide bile kibardır, günde kırk kez sorulan aynı on iki soruyu yanıtlar, arayanın adını, numarasını ve arama sebebini not eder. Kaçan çağrıların altında boğulan küçük bir işletme için tek başına bunun bile değeri büyüktür. Ama bir işte iyi olmak, bir telefon görüşmesinin karşınıza çıkarabileceği her şeyde iyi olmak demek değildir; itibarlar tam da bu ikisi arasındaki boşlukta zedelenir.

Bu yazı bir sınır haritası. Ne teknolojiyi yerin dibine sokan bir eleştiri ne de bir satış sayfası; bugünkü teknolojinin sessizce tıkandığı çağrılara, neden tıkandığına ve iyi tasarlanmış bir asistanın o noktada ne yapması gerektiğine dürüst bir bakış. Sınırları bilirseniz aracı parladığı orta alana yöneltir, kenarları kendinize aktarırsınız. Bütün mesele bundan ibaret.

Yapay zeka asistanının neden sınırları var?

Kenarlarını görmeden önce makinenin biçimini bilmek işe yarar. Yapay zeka destekli bir telefon asistanı, arayanın söylediğini dinler, metne çevirir, işletmeniz hakkında bildiklerinden bir yanıt seçer ve bu yanıtı sesli olarak söyler — hepsi aşağı yukarı bir saniyede. Akıcıdır, sabırlıdır, tutarlıdır. Olmadığı şey ise sonucun sorumluluğunu üstlenen bir insandır.

Bu ayrım, herhangi bir teknik özellikten daha önemli. İnsan bir sekreter, göremediği odayı okur. Sesteki titremeyi duyar, düzenli bir müşterinin bugün keyifsiz olduğunu fark eder, arayanın “başka yere giderim” derken blöf yaptığını sezer ve durum apaçık gerektirdiği için bir kuralı sessizce esnetmeye karar verir. Bunlar açıp kapatabileceğiniz özellikler değil. İşin sonucunu paylaşmaktan ve gerçek sonuçlarla yıllar süren kalıp eşleştirmesinden gelirler. Bugünün yapay zekası bunun yüzeyini taklit edebilir ve gerçekten de işe yarar — ama sonucu üstlenen bir insanın kavradığı biçimde neyin tehlikede olduğunu kavramaz.

Bu tek fikri yazının geri kalanı boyunca cebinizde tutun. Aşağıdaki sınırların neredeyse hepsi bunun bir çeşitlemesi: çağrı ya asistanın hissedemeyeceği sonuçlar hakkında muhakeme, ya kendisine hiç verilmemiş bir bağlam ya da sahip olmadığı bir yetki istiyordur.

Girmemesi gereken pazarlık

İndirim isteyen bir arayan düşünün. İlan edilmiş bir kampanyayı değil; üç kötü deneyim yaşadığı için oracıkta uydurduğu, ne kadar iyi niyet koparabileceğini ölçtüğü bir indirimi. Bu çağrıyı iyi karşılayan bir insan, içinden hızlı ve sessiz bir hesap yapar: bu müşteri ne kadar değerli, şikâyet ne kadar haklı, emsal oluşturmadan neyi verebilirim ve işletmeyi korurken karşımdakine dinlendiğini nasıl hissettiririm?

Yapay zeka asistanı bu kişiyle gayet hoş bir sohbet yürütebilir. Yapamayacağı — ve yapmasına izin verilmemesi gereken — şey ticari koşulları doğaçlamak. İndirimler, taksitlendirme, bir ücretten vazgeçmek, karmaşık bir iş için özel fiyat vermek: bunların hepsi parası ve emsali olan kararlar. Asistanın sizin kârınızı harcamaya yetkisi yoktur; hiç tanımadığı bir müşterinin uzun vadeli değerini tartacak bir ölçüsü de.

Buradaki arıza sinsidir, çünkü asistan kendinden emin duyulur. Kekelemez, “emin değilim” demez. Pürüzsüzce yanıtlar; sınırı çizilmemiş bir asistanın pazarlıkta tehlikeli olmasının sebebi tam olarak budur. Yetkisiz özgüven, kimsenin vermeyi düşünmediği bir fiyata sonradan uymak zorunda kalmanızla biter. Çözüm daha akıllı bir yapay zeka değil, net bir sınır: pazarlıklar kaydedilir, özetlenir ve sıcağı sıcağına, sonuçlandırılmadan size aktarılır; çünkü o karar gerçekten size aittir.

Duygusal yükü ağır çağrılar insana aittir

Bazı çağrılar bilgiyle hiç ilgili değildir. Biri köpeği yığıldığı için veteriner kliniğini arar. Biri gece yarısı gerçek bir ağrı ve gerçek bir korkuyla diş kliniğini arar. Biri düğün mekânı rezervasyonunu iptal etmek için arar ve cümlenin ortasında sesi titrer. Bu çağrıların bir ağırlığı vardır; nasıl karşılandıkları yıllarca hatırlanır.

Bir yapay zeka nazik konuşmak üzere eğitilebilir. Yatıştırıcı sözleri söyleyebilir. Ama sarsılmış bir arayan bunu genellikle anlar; anlamadığı zaman bile empati hissedilmez, oynanır ve asistan kendisi için tasarlanmamış bir soruya çarptığı anda sıcaklık, ezbere bir savuşturmaya dönüşüp buharlaşır. Bu tezat — nezaketin ardından gelen robot duvarı — dürüst bir “hemen size birini bağlayayım” demekten çok daha kötüdür.

Duygusal yükü olan çağrılarda doğru davranış çözmek değil, ayıklamaktır. Asistan konuşmanın tonunu tanımalı, kısa ve saygılı bir karşılık verip hızla yoldan çekilmeli: çağrıyı acil olarak işaretlemeli, nöbetteki kişiye yükseltmeli ya da kırmızıyla işaretlediği bir mesaj almalı. Asla yapmaması gereken şey ise akıl vermeye, uzun uzun teselli etmeye ya da o anın duygusal yükünü taşımaya çalışmaktır. O yük, tam olarak bir insan gerektiren kısımdır.

El kitabında doğru yanıtı yazmayan kararlar

Sekiz yıllık bir müşteri arıyor: çocuğuna bakacak kimse kalmadığı için arabasını kapanıştan bir saat sonra bırakabilir mi? Bunun bir kuralı yok. Doğru yanıt, arayanın kim olduğuna, günün nasıl geçtiğine, ustanın beklemeye razı olup olmadığına ve işletme profilinin tamamen dışında kalan bir düzine insani etkene bağlı. Bu bir muhakeme kararı ve yapay zekanın yerini almaktan en uzak olduğu şey de muhakeme.

Asistan ilan ettiğiniz çalışma saatlerini bilir. Bu müşterinin yeni işlerinizin yarısını getirdiğini, baş ustanızın ona bir iyilik borcu olduğunu ya da bir kez bile geç kalmamış birini on dakika fazladan seve seve bekleyeceğinizi bilmez. Kural kitabına bakarak yanıtlar, çünkü elinde yalnızca kural kitabı vardır. Oysa iyi bir işletme sahibinin gün boyu esnettiği şey tam da o kural kitabıdır.

• Kural istisnaları — birini programa sıkıştırmak, iptal süresini esnetmek, bir çalışanın sözlü verdiği sözü tutmak.
• İlişkiyi okumak — on yıllık bir müşteriye ilk kez arayandan farklı davranmak; oysa sistem ikisini de yalnızca “bir arayan” olarak görür.
• Ödünleşimleri tartmak — bugünün geri kalanına bakınca bu randevu için geç saate kadar açık kalmaya değer mi? Asistan “bugünün geri kalanını” göremez.
• Uymayan işi sezmek — bir işin getireceğinden çok baş ağrıtacağını fark edip onu kibarca başka yere yönlendirmek; bu, makinede olmayan bir koku alma yeteneği ister.

Bunların hiçbiri teknolojiye laf atmak değil. Muhakemenin ne olduğunun tarifi: kuralların öngörmediği bir duruma değerleri uygulamak. Bırakın asistan kuralların temiz biçimde kapsadığı vakaları halletsin, insan gerektiren birkaçını da size devretsin. O birkaçına onu karar verdirmeye çalışmak, kendinizin asla vermeyeceği bir kararla sonuçlanır.

Kaos: üç talep, iki kişi, tek telefon

Gerçek telefon görüşmeleri her demodan daha dağınıktır. Arayan cümlenin ortasında fikrini değiştirir. Arka planda biri bağırarak düzeltme yapar. Tek bir çağrının içinde hem randevu, hem şikâyet, hem de işletmenin hiç sunmadığı bir şeye dair soru vardır. İnsanlar sözü yarıda bırakır, geri döner, iki yıl önce ayrılmış bir çalışanın adını söyler ve hattaki kişinin bunlara ayak uydurmasını bekler.

İnsanlar bu konuda şaşırtıcı derecede iyidir. Aynı anda üç ipin ucunu tutar, yarım kalmış bir cümleden ne demek istendiğini tahmin eder ve gürültüyü zarifçe görmezden geliriz. Yapay zeka asistanları burada hızla ilerliyor, ama ipin ucunu en çok kaosta kaçırıyorlar. Ona tek ve net bir niyet verin, mükemmeldir. İç içe geçmiş üç niyetten oluşan bir yumak verin, yanlış ipe tutunabilir, kimsenin söylemediği bir ayrıntıyı teyit edebilir ya da sorulan soruyu değil anladığı soruyu yanıtlayabilir.

İşin güzel yanı, iyi bir asistanın burada güvenli biçimde pes etmesidir. Çözemediği bir karışıklıkla karşılaştığında doğru davranış yavaşlamak, anladığı kadarını teyit etmek ve hâlâ kaybolmuşsa tahmin etmeyi bırakıp mesaj almaktır. Kendinden emin biçimde onaylanan yanlış bir randevu, dürüst bir “bunu doğru anladığımdan emin olmak istiyorum, hemen sizi biri arasın” cümlesinden çok daha pahalıya patlar. Kahramanca tahminlere göre değil, zarif teslimiyete göre tasarlayın.

Yanıtı hiç öğretilmemiş sorular

Bu, çoğu zaman yapay zekanın kusuru sanılır; oysa asıl kusur kurulumdadır. Asistan yalnızca söylediklerinizi bilir: hizmetlerinizi, saatlerinizi, fiyatlarınızı, kurallarınızı. Bu profilin dışında bir şey sorun — “hipoalerjenik ürün kullanıyor musunuz?”, “on dört kişilik bir gruba yer açabilir misiniz?”, “üst kattaki salona tekerlekli sandalyeyle çıkılabiliyor mu?” — ve siz bunu hiç söylemediyseniz asistanın iki seçeneği kalır: bilmediğini kabul etmek ya da bir şey uydurmak.

İyi haber şu: bilgi boşlukları kullandıkça küçülür. Size gönderdiği özetler, arayanların gerçekte hangi soruları sorduğunu ortaya çıkarır; siz de o yanıtları profile eklersiniz. Birkaç hafta içinde ilk günkünden çok daha fazlasını bilir hale gelir. Ama herhangi bir gün yalnızca profilde yazanı bilir; aksini varsaymak, yani hiç anlatmadığınız konularda ondan fikir beklemek, kendinden emin saçmalıkların reçetesidir. Onu iyi besleyin ve geri kalan her şey için “kontrol edeyim” diyecek şekilde ayarlayın.

Tek bir yanlış kelimenin gerçekten sorun olduğu yerler

Çoğu çağrı biraz pay kaldırır. Asistan “perşembe” yerine “salı” duyduysa ve siz bunu özette yakaladıysanız, zarar yok. Ama bazı alanlarda hiç pay yoktur. Uzun bir poliçe numarasını okuyan bir arayan, harf harf hecelenen bir ilaç adı, kesin bir yasal süre, bir doz — burada yer değiştiren tek bir karakter yuvarlama hatası değil, gerçek bir sorundur.

Konuşma tanıma çok iyi ama hâlâ kusursuz değil; özellikle şivelerde, arka plan gürültüsünde, alışılmadık isimlerde ve uzun rakam dizilerinde. Randevu için bu sorun değil, ayrıntıları sonradan teyit edebilirsiniz. Ama bütün mesele kesinlik olduğunda yapay zeka asistanı niyeti yakalayıp insana yönlendirmeli, kaydın tutulduğu yer olmamalı. Muhteşem bir giriş kapısıdır; en kesin, en sonuç doğuran bilgilerinizi saklamak içinse kötü bir yerdir.

Her şey devretmede düğümleniyor

Yukarıdaki sınırların hepsini yeniden okuyun; ortak bir çözümleri olduğunu göreceksiniz. Asistanın zor çağrıları çözmesi gerekmiyor. Onları tanıyıp temiz biçimde devretmesi gerekiyor. Bir sınır, ancak araç onu zorla aşmaya kalkarsa sorun olur. İyi yönetildiğinde sınır, yalnızca iyi işaretlenmiş bir çıkış kapısıdır.

Bu yüzden devretmenin kalitesi, özellik listesinin uzunluğundan daha önemli. Asistan sınırına çarptığında ne oluyor? Arayan, dürüst ve sakin bir “hemen sizi biri arasın” cümlesi mi duyuyor, yoksa aynı üç hazır repliğin döngüsünü mü? İşletme sahibine net bir özet mi geliyor — kim aradı, ne istedi, neden insan gerekiyor — yoksa bağlamsız, muğlak bir “cevapsız çağrı” bildirimi mi? İşe yarayan asistanla sinir bozan asistan arasındaki fark neredeyse tamamen burada.

1. 1
   Sınırı fark et

   Asistan, kendi yetkisinin dışına çıkan bir çağrının işaretlerini — pazarlık, sarsıntı, karışıklık, yanıtlayamadığı bir soru — körü körüne devam etmek yerine fark etmeli.
2. 2
   Kaçamak değil, dürüst ol

   Bir insanın konuyla ilgileneceğini açıkça söylemeli. Vunoon'un asistanı sorulduğunda insan taklidi yapmaz ve elinde olmayan bir yanıtı uydurmaz.
3. 3
   Bağlamı kaydet

   Ad, numara, arama sebebi ve önemliyse konuşmanın duygusal sıcaklığı: kaldığı yerden devam etmek için ihtiyacınız olan her şey.
4. 4
   Hızla yönlendir

   Acil çağrılar sırayı atlar; geri kalanı doğrudan size gönderilen bir özet ve görüşme dökümü halinde gelir, böylece hiçbir şey yarın bakacağınız bir sesli mesajda çürümez.

Sınırlarıyla birlikte iyi kullanmanın yolu

Sınırları bilmek, yapay zeka asistanından uzak durmanın değil, onu özenle kurmanın gerekçesidir. Yetkinliğinin içinde kullanılan bir araç büyük yardımdır; aynı araç yetkinliğinin ötesine zorlandığında korku hikâyeleri başlar. Çizginin doğru tarafında kalmanın yolu şöyle.

• Profili düzgün doldurun. Gerçek hizmetleriniz, saatleriniz, fiyatlarınız ve kurallarınız hakkında ne kadar çok şey bilirse, “bunu bilmiyor” kutusuna düşen çağrı o kadar azalır.
• Yükseltme tetikleyicilerinizi tanımlayın. Hangi durumların hemen bir insan gerek anlamına geldiğine baştan karar verin ve asistanın bunları anında devredecek şekilde ayarlandığından emin olun.
• Bir hafta boyunca özetlerinizi okuyun. Hangi soruları eklemeniz gerektiğini ve hangi çağrıları doğru yönlendirdiğini tam olarak gösterirler; böylece asistan hızla gelişir.
• Güvenmeden önce zor çağrılarla test edin. Kızgın bir müşteri, kafası karışmış biri, acil bir durum gibi davranın. Konuşmadan nasıl çıktığını izleyin. Arayanlarınızın gerçekte yaşayacağı şey o davranıştır.
• Onu son karar mercii değil, giriş kapınız olarak görün. Her çağrıyı yakalar, kolayı zordan ayırır. Zor olanlar yine sizin.

Bunu yaparsanız hesap çok hızlı bir biçimde lehinize döner. Haftada birkaç çağrıyı bile kaçırıyorsanız ve her biri bir randevuya dönüşebilecekse, hepsini güvenilir biçimde yakalayan — ve zor olan birkaçını dürüstçe size aktaran — bir asistan, siz daha dökümlerini okuyup bitirmeden kendini çıkarır. Sınırlar gerçek. Ama görebildiğiniz anda etraflarından dolaşmak da kolay.