Yapay zekâ ne zaman yanılır? Halüsinasyonu tanımak ve AI çıktısını doğrulamak

Bir sohbet botuna müşterinin sipariş durumunu sorun; size sakin ve kendinden emin bir dille cevap versin: tam cümleler, bir kargo takip numarası, bir teslim tarihi. Tek sorun, bunların hiçbirinin gerçek olmamasıdır. İnsanların yapay zeka halüsinasyon derken kastettiği tam olarak budur: modelin, doğruyu söylerken kullandığı akıcılığın aynısıyla yanlış bir şeyi söylemesi. Ne kem küm eder ne de sesini alçaltır. Bir ayrıntıyı uydurur ve onu size bir gerçekmiş gibi uzatır.

Küçük bir işletme için tehlike tam da bu özgüven ile doğruluk arasındaki boşlukta yaşar: teklifteki yanlış bir fiyat, uydurulmuş bir iade koşulu, ürününüzde hiç olmayan bir özellik. Bu yazıda halüsinasyonun aslında ne olduğunu, neden oluştuğunu sade bir dille, yapay zekâya nerede güvenip nerede güvenemeyeceğinizi ve bir çıktıya güvenmeden önce onu doğrulamanın basit bir yolunu anlatacağız.

Halüsinasyon aslında nedir?

Halüsinasyon bir yalan değildir. Yalan söylemek niyet ister; modelin ise niyeti yoktur. Çöken bir uygulamadaki gibi klasik bir arıza da sayılmaz. Model burada olağan işini yapıyordur, yani makul görünen bir metin üretiyordur; ama "makul" ile "doğru"nun yollarının ayrıldığı bir noktada.

Asıl rahatsız edici kısım o özgüvendir. İnsanlar genelde belirsizliğini belli eder: durur, "sanırım" der, ses tonu değişir. Bir dil modeli ise uydurduğu bir rakamı, gerçek bir rakamı söylerken kullandığı aynı düz tonla söyler. Emin olduğu cümle ile yarım saniye önce uydurduğu cümle arasında görünürde hiçbir fark yoktur.

El yapımı mum üreten küçük bir dükkân düşünün. Sahibi asistana soruyor: "bal mumu tedarikçimizin minimum sipariş adedi neydi?" Eğer bu sayı hiçbir yerde kayıtlı değilse, yetenekli bir model yine de derli toplu bir rakam verebilir. Bir cevap gibi okunur. Oysa takım elbise giymiş bir tahminden ibarettir.

Neden olur? Sade bir dille

Bir dil modeli bir veritabanı değil, bir tahmin makinesidir. Bir sonraki olası kelimeyi, sonra bir sonrakini tahmin ede ede kulağa doğru gelen bir cümle kurmak üzere eğitilmiştir. "Buraya makul bir cevap nasıl görünürdü" konusunda olağanüstü iyidir; ama "peki bu gerçekten öyle mi" diye soran ayrı bir iç adımı yoktur.

Ayrıca bilmediğini bilme duygusu da yoktur. Dürüst cevap "bu bilgi bende yok" olduğunda, cevabın şekline uyan bir şey üretmek en az direnç gösteren yoldur. Eğitim sırasında ödüllendirildiği şey sessizlik ya da çekingenlik değil, akıcı ve tam metindir.

Böylece boşluklar doldurulur. Niş bir ayrıntıyı, çok yeni bir gelişmeyi ya da kendi iç rakamlarınızı sorun; model toparlayabileceği en rahat metne uzanır. Çoğu zaman bu metin doğrudur. Bazen kendinden emin bir kurgudur ve doğrusundan ayırt edilemez. Kısacası model, emin olduğu şeyle uydurduğu şeyi aynı güvenle sunar.

Model, bilmediğini bilmez. Yalnızca kulağa doğru geleni bilir; kulağa doğru gelmekse doğru olmakla aynı şey değildir.

Bu, gerçek bir işletmede neye benzer?

Yapay zekâ müşteriyle temas eden işlere dokunduğu anda soyut fikir hızla somutlaşır. Bunlar nadir uç örnekler değil; modele hiç verilmemiş ayrıntılar sorulduğunda ortaya çıkan olağan arıza biçimidir.

• Yanlış bir fiyat. Bir teklif taslağı isteyin; yapay zekâ, gerçek fiyatınıza yakın ama kârınızı sessizce yiyecek kadar sapmış bir rakam yazabilir; ya da müşteri sevinerek kabul edince sizi zor durumda bırakır.
• Uydurulmuş bir özellik. Bir destek yanıtı, yazılımınızda olmayan bir özelliği veya ertesi gün teslimatı vaat edebilir; çünkü sizinki gibi bir firmanın sunacağı bir şeye benziyordur.
• Olmayan bir politika. "30 gün içinde iade edebilirsiniz" der bot; oysa sizin koşulunuz 14 gündür ve artık bir müşteri kendi asistanınızı size karşı delil gösteriyordur.
• Sahte bir kaynak. Bir kaynak, bir mevzuat maddesi ya da bir araştırma isteyin; gerçekmiş gibi duran ama hiçbir yere çıkmayan bir atıf alabilirsiniz.

Örüntüye dikkat edin: her örnek, modele aslında hiç verilmemiş, kontrol edilebilir belirli bir bilgidir. Etrafındaki metin kusursuz olabilir ama merkezindeki bilgi uydurmadır. Üstelik metin ne kadar akıcıysa, hatayı fark etmek o kadar zorlaşır.

Nerede güvenebilirsiniz, nerede güvenemezsiniz?

Her çıktı aynı riski taşımaz; hepsini aynıymış gibi görmek ya sizi felç eder ya da uyutur. İşe yarayan soru, modelin ne kadar zeki olduğu değil, işin ne kadar kritik olduğudur.

Önce doğrulaDüşük riskYüksek risk

Düşük riskli uçta, geri alınabilen ve zaten okuyacağınız işler durur: bir e-postanın ilk taslağı, uzun bir yazışmanın özeti, birkaç konu başlığı önerisi, dağınık notların toparlanması. Burada yapay zekâ gerçek bir zaman kazandırıcıdır ve ara sıra çıkan yanlış bir kelime size yalnızca bir anınıza mal olur.

Yüksek riskli uçta ise olduğu gibi gönderilen ve geri alması zor çıktılar vardır: fiyatlar, sözleşme maddeleri, hukuki ya da vergisel ifadeler, sağlık ve güvenlik yönlendirmeleri, müşterinin harekete geçeceği her şey. Burada her cümle, güvenilecek bir sonuç değil, doğrulanacak bir iddiadır.

Ayrım için sorulacak soru serttir ama işe yarar: bu yanlışsa ve okunmadan giderse bana neye mal olur? Dürüst cevap "biraz mahcubiyet" ise rahatlayın. "Para, bozulan bir söz ya da hukuki bir sorun" ise durup kontrol edin.

Yapay zekâyı bir yardımcı pilot gibi görün, kâhin gibi değil

En sağlam zihinsel model yardımcı pilottur. Yardımcı pilot öneriler sunar, tuhaf görüneni işaret eder, angarya işi üstlenir; koltuktaki kişi ise yine de karar verir ve sonucun sahibi odur. Sorun, yardımcı pilotun bir kâhine, yani artık sorgulamadığınız bir gerçeklik kaynağına dönüştürüldüğü anda başlar.

Böyle bakınca bir yapay zeka satış asistanı ekmeğini hak eder: yanıtı taslaklar, adayı puanlar, sonraki adımı önerir; muhakemeyi ise insan elinde tutar. Otomasyonun hızını alırsınız ama modelin güvenilir biçimde veremeyeceği tek şeyi, yani kendi bilgilerinize dair kesinliği ona devretmezsiniz.

AI çıktısını doğrulamanın basit bir yolu

Her mesaj için resmi bir sürece ihtiyacınız yok. İhtiyacınız olan, riske göre ölçeklenen bir alışkanlık: sıradan bir e-posta için hafif, bir sözleşme için titiz.

1Taslak2Bilgileri doğrula3Kaynağı izle4İnsan onayı5Gönder

• Taslağı taslak olarak görün. Yapay zekânın yazdığı her şey bir başlangıç noktasıdır, asla bir gerçeklik kaynağı değil. Yazı mükemmel, bilgi yine de yanlış olabilir.
• Her belirli bilgiyi kontrol edin. Rakamlar, isimler, tarihler, fiyatlar, koşullar, ürün ayrıntıları; somut olan her şey, hafızanızla değil, gerçek kayıtlarınızla teyit edilir.
• Kaynağın izini sürün. Yapay zekâ bir şeye atıf yapıyorsa, onu açın. Açamadığınız bir kaynak, kaynak değildir; modelin ürettiği bir başka cümledir.
• Son adımda bir insan bırakın. Müşterinin gördüğü ya da harekete geçeceği her şeyde, göndermeden önce bir kişi onay verir. O tek duraksama, zararın çoğunu yakalar.

Pratikte bu, düşük riskli bir not için saniyeler, bir teklif ya da anlaşma için gerçek ve bilinçli bir gözden geçirmedir. Kontrolün derinliğini, önleyeceği hatanın büyüklüğüne göre ayarlayın.

Halüsinasyonu baştan azaltan alışkanlıklar

Doğrulama sizin güvenlik ağınızdır; ama düşüşü de daha olası olmaktan çıkarabilirsiniz. Birkaç alışkanlık, modelin herhangi bir şey uydurma sıklığını ciddi biçimde azaltır. Hiçbiri sihir değildir; her biri modele tahmin için daha az alan bırakır.

• Modeli kendi verinize bağlayın. Gerçek kataloğunuzdan, fiyatlarınızdan ve koşullarınızdan cevap veren bir asistan, genel eğitiminden tahmin yürüten birine göre çok daha az uydurur; kendi verinizle konuşan yapay zekâ yaklaşımının özü budur.
• Ona ihtiyaç duyduğu bağlamı verin. Muğlak istekler uydurmaya davetiye çıkarır; ilgili bilgileri içeren iyi yazılmış, net promptlar ise modele tahmin için çok daha az alan bırakır.
• Alttaki veriyi temiz tutun. Bağlı bir asistan bile dağınık ve güncelliğini yitirmiş kayıtları sadakatle tekrarlar; yani veri temizliği sessizce doğruluğun bir parçasıdır.
• "Bilmiyorum" deme iznini verin. Modele, boşluğu doldurmak yerine belirsizliği işaret etmesini söyleyin; kusursuz olmaz ama bir boşluğu itiraf etme izni işe yarar.
• İşe uygun aracı seçin. Yapay zekâsı gerçek verinize gömülü bir CRM, yandan yapıştırılmış bir chatbottan farklı davranır; ve fark tam da böyle anlarda ortaya çıkar.

Yapay zekâya hiç güvenmemeniz gereken yerler

Dürüst olalım: bazı işler, bağlı olsun ya da olmasın, yapay zekâya devretmeye değmez. Nihai hukuki metin, vergi beyanı, tıbbi tavsiye, mevzuata tabi kesin rakamlar; kendinden emin tek bir hatanın bedeli, aracın kazandıracağı zamandan büyüktür. Buralarda yapay zekâ düşünmenize yardım edebilir ama son sözü söylememelidir.

Aynı temkin, otonomi arttıkça büyür. Yapay zekâ, çıktısını bir insan okumadan ne kadar çok iş yaparsa, tek bir halüsinasyon fark edilmeden o kadar uzağa gider. Bir kişinin göndermesi için yapay zekânın yazdığı bir mesaj, tamamen kendi başına gönderdiği bir mesajdan çok daha az risklidir.

Yapay zekâyı iyi kullanmak, zamanla ona daha çok güvenmek değildir. Kendi muhakemenizin nerede durması gerektiğini tam olarak bilmek ve çıktı emin göründü diye onu oradan oynatmamaktır.

Sıkça sorulan sorular

Mesele yapay zekâdan korkmak ya da ona körü körüne güvenmek değil; hızlı bir insan kontrolünün kolay olduğu yerde onu rahatça kullanmak, olmadığı yerde ise yavaşlamaktır. Rocketly gibi araçlar tam da bu dengeyi gözetir: yapay zekâ taslağı hazırlar, puanlar ve önerir; son kararı ise ekibiniz verir; hızın güvenli olduğu yerde hızlı, önemli olduğu yerde dikkatli. Kendinden emin yazmak bir makine için hiç zor olmadı. Haklı çıkmaksa hâlâ onunla paylaştığınız bir iştir.