Yapay zekâ destekli dolandırıcılık: deepfake ve sahte talimat

Perşembe günü saat dörde çeyrek kala, kırk kişilik bir makine imalatçısının finans sorumlusuna genel müdürden sesli mesaj düşüyor. Ses onun sesi: aynı tonlama, cümlenin ortasında aynı duraklama, hatta her zamanki gibi arka planda hafif bir uğultu. Mesaj kısa; fuarda olduğunu, telefonun çekmediğini, yeni tedarikçiye kapanış saatinden önce avansın gönderilmesi gerektiğini söylüyor. Hesap bilgisi hemen ardından yazılı geliyor. Finans sorumlusu bir an tereddüt ediyor, sonra sesi tanıdığı için gönderiyor. Para iki gün sonra geri çağrılamaz hâle geliyor. Ama şirketin asıl kaybı o transfer değil: sonraki üç hafta boyunca kimse, gerçek bir yöneticiden gelen sıradan bir talebe bile eskisi gibi güvenemiyor.

Bu yazıda yapay zekânın dolandırıcılıkta neyi değiştirdiğini, üç temel saldırı biçimini, sahte talimatın neden bu kadar inandırıcı geldiğini, en pahalı hedef olan ödeme ve hesap değişikliği taleplerini, dikkatli olun uyarısının neden savunma sayılmadığını, doğrulama kuralının nasıl kurulacağını, talimatın kanalda değil sistemde yaşaması ilkesini, aciliyet tuzağının tersine çevrilmiş yeni biçimini, sizi taklit edenlerin müşterilerinize verdiği zararı, olay yaşandıysa ilk saatte yapılacakları ve küçük bir ekipte gerçekten uygulanabilir asgari düzeni sırayla ele alıyoruz.

Yapay zekâ dolandırıcılıkta tam olarak neyi değiştirdi?

Yönetici taklidiyle para transferi istemek yeni bir fikir değil; yıllardır var. Değişen şey fikir değil, maliyet. Eskiden inandırıcı bir sahte talimat üretmek zaman isterdi: hedefin yazışma üslubunu öğrenmek, kusursuz bir dil kurmak, şirketin iç terimlerini doğru kullanmak. Bu emek, saldırının ancak büyük şirketlere yöneltilmesini mantıklı kılıyordu. Şimdi aynı emek dakikalar sürüyor ve kırk kişilik bir imalatçı da hedef olmaya değer hâle geliyor.

İkinci değişiklik dil. Bozuk çeviriyle yazılmış, tuhaf hitaplı e-postalar bir kuşak boyunca en güvenilir uyarı işaretiydi. O işaret artık yok. Üçüncüsü ise şirket içinde yapay zekâ araçlarının denetimsiz kullanılması: ekip üyeleri sözleşme metinlerini, müşteri listelerini ve iç yazışmaları farkında olmadan dışarıya taşıdığında saldırganın işi kolaylaşır. Bu tarafın nasıl yönetileceğini şirkette gizli yapay zekâ kullanımı yazısında ele alıyoruz.

Üç saldırı biçimi: ses, görüntü ve yazışma

Birincisi ses klonlama. Bir yöneticinin birkaç dakikalık kaydı, bir tanıtım videosu veya bir panel konuşması, ikna edici bir ses üretmek için fazlasıyla yeterlidir. Sesli mesaj biçimi saldırgan için ideal: karşı tarafın soru sormasına imkân vermez, ama tanıdıklık hissini tam olarak verir.

İkincisi görüntülü görüşme. Kısa, bağlantısı kötü, kamerası donan bir görüşme bugün üretilebiliyor ve tam olarak beklendiği gibi görünüyor: zaten çoğu kurumsal görüşme kötü bağlantıyla yapılıyor, dolayısıyla bozukluk şüphe değil normallik sinyali üretiyor. Görüşmenin kısalığı da tesadüf değil; uzadıkça sahtelik ortaya çıkar.

Üçüncüsü ve pratikte en tehlikelisi yazışma ele geçirme. Saldırgan yeni bir e-posta göndermez; gerçek bir yazışma zincirinin içine girer. Alt tarafta önceki haftaların gerçek mesajları durur, imza doğrudur, konu satırı sizin yazdığınız konudur. Yalnızca son mesajdaki hesap bilgisi değişmiştir. Bu biçim en az teknoloji gerektirir ve en yüksek başarı oranına sahiptir.

Sahte talimat neden bu kadar inandırıcı geliyor?

İnandırıcılık sesin kalitesinden değil, bağlamın doğruluğundan gelir. Saldırgan sizin gerçekten beklediğiniz bir şeyi ister. Fuar sezonundaysanız fuar masrafı ister; yılsonundaysanız kapanış ödemesi ister; yeni bir tedarikçiyle görüşüyorsanız tam o tedarikçinin adını kullanır. Bu bilgi çoğunlukla gizli kaynaklardan değil, sizin kendi yayınladığınız içeriklerden gelir: iş ilanları, basın bültenleri, sosyal medya paylaşımları, hatta ekip üyelerinin profillerindeki başlıklar.

İkinci inandırıcılık kaynağı hiyerarşidir. Talep, sorgulanması zor bir yerden gelir. Küçük şirketlerde bu etki daha da güçlüdür, çünkü genel müdürle finans sorumlusu arasında bir prosedür katmanı yoktur; ikisi zaten gün içinde birbirine mesaj atarak çalışır. Saldırgan bu doğallığı taklit eder. Ayrıca hangi verinin dışarıya ne kadar açıldığı ve yapay zekâ araçlarının bu veriyle ne yaptığı ayrı bir başlıktır; müşteri verisinin bu araçlarla nasıl güvenli kullanılacağını yapay zekâ ve müşteri verisi yazısında anlattık.

En pahalı hedef: ödeme talimatı ve hesap değişikliği

Sahte talimatların büyük çoğunluğu tek bir noktaya bakar: paranın gideceği hesap. En yaygın biçim, mevcut ve gerçek bir tedarikçinin adına gelen hesap değişikliği bildirimidir. Fatura gerçektir, tutar gerçektir, iş gerçektir; yalnızca hesap numarası saldırganındır. Bu yüzden ödeme tarafındaki kontroller, faturanın doğruluğuna değil, alıcı bilgisinin değişip değişmediğine odaklanmalıdır.

Buradaki en etkili kural şudur: hesap bilgisi değişikliği hiçbir zaman gelen mesajla tamamlanmaz, her zaman sizin başlattığınız bir aramayla tamamlanır. Tedarikçi kayıtlarının hangi alanlarda tutulacağını ve satın alma sürecinin nerelerde onay isteyeceğini tedarikçi yönetimi ve satın alma süreci yazısında ele aldık. Ödemenin karşılığının hangi hesaba düştüğünü hızlıca görebilmek de erken uyarı sağlar; banka hareketlerinin kayıtlarla otomatik eşleştirilmesini banka ekstresi entegrasyonu yazısında anlatıyoruz.

Neden dikkatli olun uyarısı savunma değildir?

Ekiplere sahteyi tanımayı öğretmek, kaybedileceği baştan belli bir yarıştır. Üretim kalitesi her ay artıyor, insanın dikkat kapasitesi ise sabit. Üstelik farkındalık eğitimi ters etki bile yapabilir: insanlar sahteyi tanıyabileceklerine inandıkça, kendi sezgilerine daha çok güvenir ve süreç adımlarını atlamayı meşru görür. Sahteyi tanımaya çalışan bir ekip, aslında kendi yanılabilirliğine bahis oynar.

Deepfake tanımaya çalışmak kaybedilen bir yarıştır; kazanan taraf, tanımaya hiç ihtiyaç bırakmayan tek bir doğrulama adımıdır.

Doğru soru şudur: talimat sahte olsaydı bile para gitmeyecek bir düzen nasıl kurulur? Bu soruya verilen cevap kişiye değil, sürece bakar. İyi tasarlanmış bir kontrol, karşıdaki sesin gerçek olup olmadığını hiç umursamaz; yalnızca ikinci bir kanaldan teyit alınmış mı, ona bakar. Böyle bir kontrol, en yetenekli taklidi bile boşa çıkarır ve ekibin üzerinden tanıma sorumluluğunu tamamen kaldırır.

Doğrulama kuralı nasıl kurulur?

Doğrulama kuralı kısa olmalı ki ezberlensin, ve dar olmalı ki her işi yavaşlatmasın. Aşağıdaki bileşenler çoğu KOBİ için yeterlidir.

• Kanal ayrımı: Talimat hangi kanaldan geldiyse doğrulama başka bir kanaldan yapılır; e-postayla gelen talep telefonla, telefonla gelen talep sistem üzerinden teyit edilir.
• Numaranın kaynağı: Geri arama, mesajın içindeki numaraya değil, kayıtta veya sözleşmede duran numaraya yapılır; bu tek cümle saldırıların önemli bir bölümünü kesin olarak durdurur.
• Yeni alıcı kuralı: Doğrulama tutara değil, alıcının yeni olup olmadığına bağlanır; ilk kez para gönderilen her hesap, tutarı ne olursa olsun ikinci kişinin onayını ister.
• İkinci onaycı: Onaylayan kişi talimatı alan kişi olmamalıdır; iki kişinin de aynı sesli mesajı dinlemesi doğrulama sayılmaz, farklı bir kanaldan bağımsız teyit gerekir.
• Cezasız durdurma hakkı: Bir talebi bekleten çalışanın, talep gerçek çıksa bile hiçbir şekilde azarlanmayacağı yazılı olmalıdır; bu satır olmadan hiyerarşi her kontrolü yener.
• Kayıt zorunluluğu: Doğrulamanın kim tarafından, ne zaman ve hangi numaradan yapıldığı kayda geçer; sonradan tartışma çıkarsa hafızaya değil kayda bakılır.

Bu kuralların yazılı ve tek sayfa olması gerekir. Kritik akışları nasıl kısa ve gerçekten okunan bir formatta yazacağınızı süreç dokümantasyonu ve SOP yazısında anlatıyoruz. Kuralın kapsamını dar tutmak da önemli: her ödemeye çift onay koyan bir şirket iki hafta içinde kendi kuralını delmenin yolunu bulur ve elinde yalnızca kâğıt üstünde bir kontrol kalır.

Talimat kanalda değil, sistemde yaşar

Şirketlerin sesli mesajı veya anlık mesajlaşmayı yasaklaması hem imkânsız hem gereksiz. Yasak yerine tek bir ilke koymak yeterli: hiçbir talimat, sistemde bir kaydı yoksa geçerli değildir. Sesli mesaj bir talimat değil, bir hatırlatmadır; talimatın kendisi ödeme kaydında, satın alma talebinde veya iş akışında görünür. Bu ilke kanal tartışmasını tamamen bitirir, çünkü artık mesajın nereden geldiği önemli değildir.

İlkenin işe yaraması için sistemde kimin ne yapabildiğinin net olması gerekir. Ödeme kaydını kimin oluşturabildiği, kimin onaylayabildiği ve kimin alıcı bilgisini değiştirebildiği ayrı ayrı tanımlanmalıdır; bu ayrımı rol ve yetki yönetimi yazısında ele alıyoruz.

Değişikliğin izi kalmalı

Bir tedarikçinin hesap bilgisi değiştiğinde bu değişikliğin kim tarafından, ne zaman ve hangi gerekçeyle yapıldığı görülebilmelidir. Denetim kaydı olmayan sistemlerde bu tür bir değişiklik sessizce olur ve genellikle aylar sonra fark edilir. Kayıt üzerindeki değişiklik geçmişinin nasıl kurulacağını ve nelere bakılacağını CRM denetim kaydı yazısında anlatıyoruz. Sözleşme ve onay tarafında ise kimliği doğrulanmış imza akışları, taranmış ıslak imza görüntülerine göre çok daha güçlü bir zemin sunar; bu akışların nasıl kurulduğunu e-imza ile sözleşme süreçleri yazısında bulabilirsiniz.

Aciliyet tuzağı ve onun tersi

Klasik uyarı listeleri aciliyeti bir numaralı işaret olarak gösterir: acele ettiren, gizlilik isteyen ve otoriteye yaslanan mesajdan şüphelenin. Bu doğru ama artık eksik. Aciliyet bu kadar bilinen bir işaret hâline geldiği için, daha dikkatli saldırganlar tam tersini yapıyor.

Yeni biçim sakin ve sıkıcı. Önce küçük, sıradan ve tamamen meşru bir talep gelir; belki yalnızca bir belge, belki küçük bir bilgi teyidi. Bu talep yerine getirildiğinde iki şey olur: saldırgan hem sizin kontrollerinizin nerede olduğunu öğrenir hem de yazışma içinde meşrulaşır. Asıl talimat üç gün sonra, artık tanıdık gelen bir zincirin içinden gelir. Bu yüzden şüphe ölçütünü aciliyete bağlamak yetmez; ölçüt her zaman işlemin kendisi olmalıdır. Para veya erişim el değiştiriyorsa, mesaj ne kadar sakin olursa olsun doğrulama çalışır.

Sizi taklit edenler: müşteri tarafındaki risk

Bu konu genellikle şirketin kendi kaybı üzerinden konuşulur, oysa ikinci ve çoğu zaman daha büyük risk müşteri tarafındadır. Sizin adınıza gönderilmiş sahte bir fatura, sizin logonuzla açılmış bir sayfa veya satış temsilcinizin sesiyle yapılmış bir arama, müşterinizin parasını alır ama itibarı sizden götürür. Müşteri kendi kontrol eksikliğini değil, sizin markanızı hatırlar.

Bunun karşılığı savunma değil, önceden konuşmaktır. Müşterilerinize ve tedarikçilerinize hangi durumda ne yapmayacağınızı yazılı olarak bildirin: hesap bilgimizi hiçbir zaman e-postayla değiştirmeyiz, ödeme yönlendirmesini asla anlık mesajla yapmayız, sizden hiçbir zaman doğrulama kodu istemeyiz. Bu kısa bildirim, yılda bir kez tekrarlandığında, sizi taklit eden saldırının başarı ihtimalini gözle görülür biçimde düşürür ve müşteriye sormak için bir zemin verir.

Olay yaşandıysa ilk saat

İlk saat, geri dönüşün mümkün olduğu tek penceredir. Sıralama şudur: önce bankayı arayın ve transferin durdurulmasını isteyin, sonra alıcı bankanın da bilgilendirilmesini talep edin, ardından resmi bildirimleri yapın. Aynı anda ele geçirilmiş olması muhtemel hesabın şifresini ve oturumlarını kapatın, ama posta kutusundaki hiçbir mesajı silmeyin; sonraki incelemenin tek dayanağı o kayıtlardır.

Bu adımlar birinin aklına gelmesine bırakılamaz. Ödeme yapan herkesin masasında, kimin aranacağını ve hangi sırayla ne yapılacağını gösteren tek sayfalık bir kart bulunmalıdır. Olay dışarı yansıdıysa iletişim tarafının nasıl yönetileceğini kriz iletişimi ve marka krizi yönetimi yazısında ele alıyoruz.

Suçlu aramak yerine kontrolü onarmak

Olay sonrası en verimsiz refleks, transferi yapan kişiyi sorumlu ilan etmektir. Bu refleksin bedeli ağırdır: bir sonraki şüpheli talebi kimse yukarı taşımaz, çünkü yanılmanın maliyeti sessiz kalmanın maliyetinden yüksek görünür. Doğru soru kim yaptı değil, hangi adım olsaydı bu olmazdı sorusudur; cevabı genellikle tek bir eksik doğrulama adımıdır ve o adım bir günde eklenebilir.

Küçük bir ekipte asgari düzen

Altı kişilik bir şirkette güvenlik ekibi yoktur ve olmayacaktır. Yine de dört adım, saldırıların büyük bölümünü uygulanabilir bir maliyetle karşılar. Birincisi, para veya erişim el değiştiren her işlem için ikinci kanaldan doğrulama. İkincisi, ilk kez ödeme yapılan her hesap için ikinci onaycı. Üçüncüsü, kritik hesaplarda ikinci adımlı kimlik doğrulama ve şifrelerin ortak bir kasada tutulması. Dördüncüsü, tedarikçi ve müşteri kayıtlarındaki hesap bilgisi değişikliklerinin iz bırakması.

Bu dördünün hiçbiri yapay zekâya özgü değildir; hepsi klasik güvenlik önlemleridir ve yapay zekâ yalnızca onlara duyulan ihtiyacı acilleştirmiştir. Temel korunma adımlarının tamamını KOBİ için siber güvenlik yazısında derledik. Bu düzeni kurmanın en ucuz zamanı, hiçbir şey olmadan önceki dönemdir; en pahalı zamanı ise ilk saatin içindedir.

Sahte talimatlara karşı en güçlü savunma, talimatın kanalda değil kayıtta yaşamasıdır: tedarikçi bilgisi, teklif, sipariş, ödeme ve onay aynı yerde durduğunda bir mesajın tek başına para hareket ettirmesi mümkün olmaz. Rocketly'de müşteri ve tedarikçi kayıtları, ön muhasebe, görev akışları ve kullanıcı yetkileri tek sistemde birleşiyor; ücretsiz hesap açarak kendi doğrulama akışınızı kurabilirsiniz.