Google DeepMind ve Singapur Hükümeti, cihaz üzerinde çalışan yapay zeka dolandırıcılık tespit aracını duyurdu

Dolandırıcılıkla mücadelede yeni işbirliği

Google DeepMind ve Singapur Hükümeti, vatandaşları dolandırıcılığa karşı korumak için yeni bir yapay zeka aracı duyurdu. Bu işbirliği, Singapur Uluslararası Siber Haftası'nda (SICW 2026) sunuldu. Çalışma, Google DeepMind ve Singapur Hükümet Teknoloji Ajansı (GovTech) arasında, Singapur Hükümeti ile Ulusal Yapay Zeka Ortaklığı kapsamında yürütülüyor.

Singapur'da dolandırıcılığın boyutu

Dolandırıcılık taktikleri basit kimlik avından karmaşık sosyal mühendisliğe kaydı. Saldırganlar, para istemeden önce kurbanları ikna edici konuşmalarla manipüle ediyor. Dolandırıcılık, Singapur'da bildirilen suçların %50'sinden fazlasını oluşturuyor. Ülkedeki kayıplar 2019'dan bu yana 4 milyar S$'ı aşmış durumda. Bu tür dolandırıcılıklar artık tüm kayıpların %80'ine kadarını oluşturuyor.

Cihaz üzerinde çalışan tespit modeli

İşbirliği, gizlilikten ödün vermeden vatandaşları korumaya yardımcı olan cihaz üzerinde çalışan bir dolandırıcılık tespit modeli sunuyor. Cihaz üzerinde çalışan bu model, Singapur'daki tipik akıllı telefonlarda çalışacak şekilde optimize edildi. Google DeepMind'ın hafif Gemma modeli, yerel dolandırıcılık konuşmaları üzerinde ince ayarlandı. İnce ayar verileri, kamu kurumları, bankalar ve yerel figürlerin taklitlerinden trend olan bölgesel planlara kadar çeşitlilik gösteriyordu. Böylece model, iyi huylu sosyal sohbeti gerçek manipülasyondan ayırt edebiliyor.

Yeni model, konuşma verilerini cihaz üzerinde işliyor. Çözüm, tehdit analizini cihaza taşıyarak konuşmaların özel kalmasını sağlıyor. Bu, konuşma kalıplarının daha hızlı analiz edilmesini ve manipülatif niyetin tespit edilmesini sağlıyor. Vatandaşlar, finansal veya kimlik bilgileri ifşa edilmeden önce harekete geçebiliyor.

GovTech Singapur Güven ve Emniyet Direktörü Mark Chen, Google DeepMind ile çalışarak gelişmiş yapay zeka korumasını doğrudan vatandaşların cihazlarına getirdiklerini belirtiyor. Chen'e göre bu yaklaşım, kişisel iletişimleri tamamen özel tutarken yüksek hedefli yerel dolandırıcılık girişimlerini gerçek zamanlı olarak yakalamalarını sağlıyor.

İki aşamalı işlem hattı ve gerçek zamanlı uyarı

Model manipülatif konuşma kalıplarını tespit ettiğinde, kullanıcının cihazında hassas bilgi veya para paylaşmadan önce durup dikkatli olmalarını tavsiye eden gerçek zamanlı bir uyarı tetikliyor. Bu, iki aşamalı bir işlem hattına dayanıyor. Aşama 1'de hafif, verimli bir sınıflandırıcı, minimum güç kullanarak gelen mesajları tarayarak potansiyel tehditleri yakalamaya odaklanıyor. Aşama 2'de ince ayarlı Gemma modeliyle bağlamsal değerlendirme yapılıyor; bir tehdidi doğrulamak veya yanlış alarmı elemek için konuşmanın daha büyük bir anlık görüntüsü analiz ediliyor.

Modern akıllı telefonlarda karmaşık bir dolandırıcılık sınıflandırıcı modeli çalıştırmak kolay bir iş değil ve pil verimliliği kritik bir endişe alanı. Genel modeller genellikle yerelleştirilmiş aldatma teknikleriyle mücadele ediyor, bu da dolandırıcılık tespitini zorlaştırıyor. Ayrıca birçok mesajlaşma platformu uçtan uca şifreli olduğu için özel konuşmaları inceleyemiyor. Bu işbirliği, mesajlaşma platformlarının kullanıcı korumasını uçtan uca şifreleme ile dengelemesi için bir model sunuyor.

Yönetişim ve veri koruması

İnce ayar, GovTech'in yönettiği ve sürdürdüğü GCP ortamında gerçekleşti ve eğitim verilerini izole tuttu. Eğitim, özel veya kişisel olarak tanımlanabilir bilgileri kesinlikle hariç tuttu ve dolandırıcılık raporları ile istihbarat akışlarından elde edilen anonimleştirilmiş veri kümelerini kullandı. Model, çeşitli dolandırıcılık kategorilerini ve gelişen taklit taktiklerini kapsayacak şekilde sentetik diyaloglar ve yerel derlemlerle test edildi.

Mesajlaşma platformları ve işletim sistemi satıcıları, özel verileri ifşa etmeden sohbet etkileşimlerinin güvenli kalmasını sağlamak için bu hafif modelleri doğrudan entegre edebilir. Google DeepMind, projenin yapay zekanın mesajlaşma hizmetlerinin suçla mücadele etmesine nasıl yardımcı olabileceğini gösterdiğini belirtiyor. Şirkete göre koruyucu yapay zekayı doğrudan cihaz üzerinde çalıştırarak güvenlik veya gizlilikten ödün verilmesi gerekmiyor.