Avustralya'nın 350.000 yapay zeka dolandırıcı avcısı, dolandırıcılara karşı rolleri değiştiriyor
Avustralya’daki bir şirket sıra dışı bir iş gücü oluşturdu: tek işi dolandırıcıların zamanını harcamak olan 350.000 yapay zeka ajanı. Şirket, adını Yunan aldatma tanrıçasından alan Apate.ai ve botları yalnızca görünüşte aldatılacak şekilde tasarlandı. Çin bilim yayını Guokr’un haberine göre her ajan, farklı aksanlar, birkaç dil ve kendine özgü bir kişilikle sıradan bir insan — genç ya da yaşlı, erkek ya da kadın — gibi davranıyor.
Hedef kamuoyu değil, dolandırıcılık sektörünün kendisi. Bir dolandırıcılık araması geldiğinde ya da bir kimlik avı sitesi bilgi istediğinde, bir yapay zeka personası yanıt veriyor. Sohbet ediyor, tereddüt ediyor, açıklama istiyor, şifresini unutuyor, bir numarayı yanlış okuyor. Amaç dolandırıcıyı mümkün olduğunca uzun süre meşgul etmek; bu, dolandırıcılık operasyonuna zaman ve para kaybettirirken gerçek insanlara daha sakin bir telefon hattı sağlıyor. Aynı yaklaşım, botların makul ama işe yaramaz bilgilerle form doldurabildiği yatırım dolandırıcılığı ve sahte sitelere de uzanıyor.
Dolandırıcı avcılığı yeni değil. Yıllardır hobici kişiler, dolandırıcılık e-postalarına ayrıntılı hikayeler ve sahte kimliklerle yanıt verip sonuçları çevrimiçi paylaşıyor. Buradaki fark ölçek. Tek bir insan aynı anda bir veya iki konuşmayı yürütebilir; yüz binlerce yazılım ajanından oluşan bir ağ, günün her saati, birkaç dilde aynı anda birçok konuşmayı yürütebilir. Şirket, personaların yeterince çeşitli olduğunu, dolandırıcının birini diğerinden kolayca ayırt edemeyeceğini söylüyor.
Fikir, güvenlik ile etik arasında garip bir kesişme noktasında duruyor. Yaklaşımın savunucuları, dolandırıcıların korku ve kafa karışıklığından kâr eden suçlular olduğunu ve onları yavaşlatmanın kurbanları koruduğunu savunuyor. Eleştirmenler, otomatik aldatmanın — kötü niyetlilere karşı bile olsa — bu uygulamayı normalleştirme riski taşıyıp taşımadığını ya da savunmasız yaşlı bir kişiyi taklit eden bir botun gerçek insanlara yönelik misillemeyi tetikleyip tetikleyemeyeceğini sorabilir. Rapor bu soruları yanıtlamıyor ve teknoloji henüz genç.
Sıradan kullanıcılar için pratik ders daha basit. Dolandırıcılık aramasına karşı en iyi savunma aynı kalıyor: telefonu kapatın, kod veya banka bilgisi paylaşmayın ve numarayı bildirin. Bir yapay zeka tuzağı bu dikkat ihtiyacını ortadan kaldırmıyor. Ancak eski bir silahlanma yarışına yeni bir katman ekliyor — artık dolandırıcıların karşı taraftaki sesin gerçekten bir insan olup olmadığını merak etmesi gereken bir yarış.
Hikayeyi dikkat çekici kılan şey ekonomi. Dolandırıcılık operasyonları hacme dayanır; yeterince arama hiç ödeme yapmayan botlar tarafından yanıtlanırsa, her başarılı dolandırıcılığın maliyeti artar. Bu, spam filtrelerinin ve arama engelleme uygulamalarının arkasındaki mantığın teslimata değil konuşmaya uygulanmış hali. Ölçekte işe yarayıp yaramayacağı, dolandırıcıların sentetik sesleri ne kadar hızlı tespit etmeyi öğreneceğine bağlı.
Küresel okuyucular için bu vaka, yapay zekanın ilk kitlesel pazar rolünün makale yazmak veya görsel üretmek değil, sıradan işlemlerin — dürüst olmayanlar dahil — ortasında yer almak olabileceğini hatırlatıyor. Önümüzdeki birkaç yıl, otomatik tuzakların bankalar ve telekomünikasyon şirketleri için standart bir araç haline mi geleceğini yoksa klasik bir isme sahip tek bir şirketin akıllıca deneyi olarak mı kalacağını gösterecek.