Kaspersky’nin Yeni Araştırması: Yapay Zeka Kimlik Avı Saldırılarını Artırıyor
Kaspersky Yapay Zeka Araştırma Merkezi uzmanları, siber suçluların büyük ölçekli kimlik avı ve dolandırıcılık odaklı saldırılar için giderek daha fazla Büyük Dil Modellerini (LLM’ler) kullandığını ortaya koydu. Şirketin yaptığı açıklamaya göre, bu “tehdit aktörleri”, yüksek hacimlerde sahte web siteleri oluşturmanın yanı sıra, sıklıkla kendilerini bu siteleri manuel olarak oluşturanlardan ayıran yapay zekaya özgü ifadeler gibi belirgin izler bırakıyor.
Kaspersky tarafından gözlemlenen kimlik avı örneklerinin büyük bir bölümü, özellikle kripto para borsaları ve kripto cüzdan kullanıcılarını hedef alıyor. Uzmanlar, bir örneği analiz ederek, yapay zekanın içerik oluşturma sürecinde nasıl kullanıldığını ve kimlik avı ile dolandırıcılık web sitelerinin baştan sona oluşturulmasında hangi temel özelliklerin belirleyici olduğunu ortaya koydu.
Kullanılan Dil Ele Veriyor
LLM tarafından oluşturulan metinlerin belirgin işaretlerinden biri, “Bir yapay zeka dil modeli olarak…” gibi ifadelerin yer aldığı feragatnamelerin varlığıdır. LLM kullanımının başka bir ayırt edici göstergesi ise, “İstediğinizi tam olarak yapamasam da benzer bir şey deneyebilirim” gibi belirli tümcelerin sıkça kullanılmasıdır. LLM’ler, yalnızca metin blokları değil, aynı zamanda tüm web sayfalarını oluşturmak için de kullanılabiliyor. Bu durum, hem metnin kendisinde hem de meta etiketler gibi alanlarda kendini gösteriyor.
Sahte sitelerin oluşturulmasında yapay zeka kullanımının başka göstergeleri de mevcut. Örneğin, bazı modeller “araştırmak”, “sürekli gelişen manzarada” ve “sürekli değişen dünyada” gibi sık kullanılan ifadeleri tercih ediyor. Bu terimler, yapay zeka tarafından oluşturulan içeriğin güçlü göstergeleri olarak kabul edilmese de, dikkate değer bir işaret olarak görülebilir.
LLM tarafından üretilen metinlerin bir diğer özelliği ise, modelin dünya hakkındaki bilgi sınırlarını göstermesidir. Bu sınırlama genellikle “Ocak 2023’teki son güncellememe göre” gibi ifadelerle dile getiriliyor. LLM tarafından oluşturulan metin, çoğu zaman kimlik avı sayfasının tespitini zorlaştıran taktiklerle birleştiriliyor. Örneğin, saldırganlar metni gizlemek ve kural tabanlı tespit sistemlerinin eşleştirmesini önlemek amacıyla aksan işaretleri veya matematiksel gösterimler gibi alışılmadık semboller kullanabiliyor.
Yapay Zeka: Tehdit Aktörlerinin Yeni Aracı
Kaspersky Araştırma Geliştirme Grup Müdürü Vladislav Tushkanov, yapay zekanın artık tehdit aktörlerinin bu tür içerikleri otomatik olarak oluşturmasına yardımcı olduğunu vurguladı. Tushkanov, saldırganların LLM’ler aracılığıyla benzersiz ve yüksek kaliteli içeriklere sahip yüzlerce kimlik avı ve dolandırıcılık web sayfası oluşturmayı otomatik hale getirdiğini belirtti. Önceden bu süreç için önemli miktarda manuel çaba gerekmekteydi, ancak yapay zeka bu yükü önemli ölçüde hafifletti.
Tushkanov, büyük dil modellerinin gelişiminin devam ettiğini ve siber suçluların bu teknolojiyi kötü niyetli amaçlar için kullanmanın yollarını araştırmaya başladığını ifade etti. Bununla birlikte, yapılan hataların, bu tür araçların kullanımına, özellikle de otomasyonun artan boyutuna dair içgörüler sağladığını da ekledi. Gelecekteki gelişmelerle birlikte, yapay zeka tarafından üretilen içeriklerin insan tarafından yazılan metinlerden ayırt edilmesinin daha da zorlaşabileceğine dikkat çeken Tushkanov, “Bu durum, metinsel bilgileri meta veriler ve diğer dolandırıcılık göstergeleriyle birlikte analiz eden gelişmiş güvenlik çözümlerinin kullanımını daha da kritik hale getirebilir.” şeklinde konuştu.
