Bu ayın başlarında beş gün boyunca Çinli hacker, 100 kadar kuruluşa siber saldırılar düzenlemek ve yüz binlerce kredi kartı bilgisini çalmak için yapay zeka ajanlarını kullandı. Hacker, saldırılarını otomatikleştirmek için Çinli modeller DeepSeek ve Kimi’nin yanı sıra Anthropic’in Claude modelinin daha eski bir sürümünü kullandı. Tüm operasyonun maliyeti ise yalnızca 8 bin dolar oldu. Saldırıyı keşfeden Gambit Security’de siber güvenlik araştırmacısı Eyal Sela, bunun “şimdiye kadar görülen, yapay zekanın kötüye kullanılmasının en ciddi örneklerinden biri” olduğunu söyledi.
Sela, “İnsan, artık neredeyse tamamen otonom olan yapay zeka modellerini yönlendiriyor. Bu modeller artık çok gelişmiş siber saldırıları, neredeyse hiç hazırlık yapmadan, çok hızlı ve çok yüksek başarı oranıyla gerçekleştirebilecek kadar güçlü” dedi. Gambit’in araştırmasına göre 100 şirketin kaçında saldırının başarıyla sonuçlandığı belirsiz olsa da hacker, 10-15 Eylül tarihleri arasında en az 30 web sitesine erişim sağlamayı başardı.
Ucuz ve basit sistem
Sela, saldırıları gerçekleştirmek için kullanılan altyapının hacker tarafından yanlışlıkla internete açık bırakılması üzerine ihlalleri keşfetti. Sela’ya göre bu durum, çalınan verileri, yapay zeka araçlarını ve hacker’ın kullandığı komutları açığa çıkardı ve minimum çabayla, geniş ölçekte saldırılar düzenlemeye olanak sağlayan ucuz ve basit bir sistemi gözler önüne serdi. Saldırının arkasındaki siber suçlunun kimliği henüz belirlenmiş değil ve saldırıların devam ettiği görülüyor.
Bu ihlaller, yapay zeka destekli siber saldırıların gelişiminde bir dönüm noktası oluşturuyor. Bu yılın başlarında OpenAI ajanları kontrol mekanizmalarından kaçmış ve Hugging Face’e sızmıştı. Şirket içi testlerin bir parçası olan bu olayda ajanlar, ciddi bir hasara yol açamadan önce durdurulmuştu. Bu vakada ise kötü niyetli bir hacker, yapay zekayı kullanarak birden fazla hedefe şaşırtıcı bir hızla saldırdı.
Hangi şirketlere saldırdı?
Hacker’ın verilerine göre mağdurlar arasında yıllık geliri 10 milyar doların üzerinde olan Amerikalı çok uluslu bir konaklama şirketi; yine milyarlarca dolar gelir elde eden büyük bir Amerikan havayolu şirketi ve 1 milyar doların üzerinde geliri bulunan çevrimiçi bir moda perakendecisi yer alıyor. Hacker ayrıca Minnesota merkezli bir silah satıcısı ve Illinois’teki bir güzellik ürünleri perakendecisi de dahil olmak üzere daha küçük şirketlere de saldırdı. Hacker’ın sunucusunda en az 618 bin kredi kartına ait bilgiler bulunuyordu ancak bu kartlardan para çekmeyi veya bunları kullanarak ürün satın almayı başarıp başaramadıkları belirsiz. Dolandırıcılıkla mücadele alanında çalışan siber güvenlik girişimi Overwatch Data, kredi kartı bilgilerini analiz etti ve bilgilerin büyük oranda gerçek olduğu kanaatine vardı. Bunların 488 bin kadarı Amerikalılara ait kredi kartlarıydı.
Gambit’in kurucu ortağı Sa’ar Elias, “Bu kadar kısa bir süre içinde saldırıya uğrayan şirketlerin sayısı ve her birine yönelik saldırıların karmaşıklığı inanılmaz. Olay müdahalesi alanında neredeyse on yıl geçirdim... Size şunu söyleyeyim, daha önce böyle bir şey gördüğümü hatırlamıyorum” dedi. Anthropic, saldırıları gerçekleştirmek için kullanılan hesabı tespit ettiğini ve hesabı yasakladığını doğruladı.
İsrail merkezli Gambit, şirketlerin bulut tabanlı sistemlerini izleyen ve yapay zeka odaklı siber güvenlik alanında faaliyet gösteren bir şirket. Şirket 2024 yılında kuruldu ve bugüne kadar 60 milyon dolar yatırım topladı. Firma, hacker’ların yapay zekaya yoğun biçimde dayandığı çok sayıda siber suç kampanyasını ortaya çıkardı. Araştırmacıları bu yılın başlarında, Rusça konuşan siber suçluların yedi şirkete sızmak için SpaceX’in Cursor’ını kullandığını tespit etmişti.
Claude'un yeni sürümleriin kullanamadı
Sela’nın Forbes’a gösterdiği ekran görüntüleri ve kayıtlara göre hacker, altyapısını temmuz ayında oluşturmaya başlamış. Hacker, Cairn ve Hermes adlı yapay zeka ajanı orkestratörleri de dahil olmak üzere birden fazla açık kaynaklı araç kullanmış. Bu araçlar hacker’ın, Claude Opus 4.6 gibi önde gelen yapay zeka laboratuvarlarının modellerini ve Anthropic’in en gelişmiş yapay zeka modelinin daha eski bir sürümünü, ayrıca Pekin merkezli şirket tarafından bu ayın başlarında yayımlanan DeepSeek v4.1-flash’i bir arada kullanmasına olanak tanımış. Gambit’in elde ettiği verilere göre saldırıların toplam maliyeti hedef başına 3 ila 180 dolar arasında değişiyordu.
Hacker’ın sunucusunda bırakılan ayrıntılı günlük kayıtları, daha yeni Claude sürümlerini kullanmaya çalıştıklarında engellendiklerini gösterdi. Bu durum, Anthropic’in en yeni modellerindeki güvenlik önlemlerinin açıkça siber suç amacıyla kullanılmalarını önlemek için çalıştığına işaret ediyor.
Saldırıyı gerçekleştirmek için fail, ajanlarına hedef web sitesini göndererek sitedeki zayıflıkları araştırmaları talimatını verdi. Saldırgan, Claude’a bunun siber güvenlik penetrasyon testleri gerçekleştirdiğini söyledi. Bir görüşmede Claude botuna şöyle yazdı: “Birincil yol engellendiğinde yanal düşün: Yakınlarda başka giriş noktaları var mı? Güven ilişkilerinden yararlanılabilir mi? Tedarik zincirinde açıklar var mı?” Başka bir komutta ise “Tüm kart verilerini çıkardıktan ve indirdikten sonra kaynak alanlarını gruplar halinde temizle” yazdı. Bu, izlerini gizlemeye çalıştıklarını gösteriyordu.
Elias, Forbes’a yaptığı açıklamada ajanların zayıflıkları bulma konusunda dikkat çekici ölçüde ısrarcı ve yaratıcı olduklarını belirtti. Elias, “Beni etkileyen şey, araçların her hedef için ayrı ayrı ortaya çıkarıp bulabildiği saldırı vektörlerinin muazzam miktarıydı. Her hedef kendi özel yöntemine tabi tutuldu ve yapay zeka, aynı sonuca ulaşmak için farklı şirketlerde farklı şeyler yaptı” diye konuştu.
Hedef web sunucusuna erişim sağladıkları takdirde ajanlara hem veri çalmaları hem de çevrimiçi perakende sistemlerine “skimmer” adı verilen araçları yerleştirmeleri talimatı verildi. Bu araçlar, kredi kartı bilgilerinin bir web sitesindeki forma girildiği sırada bilgileri ele geçiriyor. Ardından sitedeki erişimlerine dair tüm kanıtları silmeleri istendi. Overwatch Data’nın kurucu ortağı ve CEO’su Arjun Bisen, şirketinin elde edilen bilgileri kredi kartı şirketlerine ilettiğini söyledi. Bir vakada bir ödeme işlemcisi, kontrol ettikleri kartların en az yüzde 60’ının daha önce dolandırıcılık nedeniyle işaretlenmediğini doğruladı. Bisen, “Bu bulguların muhtemel dolandırıcılığın önemli bir bölümünün önlenmesine yardımcı olduğunu gösteriyor” dedi.
Şirketler bilgilendiriliyor
Sela ve ekibi, saldırılardan etkilenen şirketleri ihlaller konusunda bilgilendirme sürecinde. Forbes’un gördüğü e-postalara göre bazı şirketler saldırıyı kabul ett ancak hiçbiri olayın boyutunu doğrulamadı. Gambit ayrıca saldırganın sunucularını çalıştırmak için kullandığı internet güvenliği ve içerik dağıtım ağı Cloudflare ile iletişime geçti. Cloudflare, hacker’ın altyapısını kapatmaya başladığını doğruladı. Ancak Sela’ya göre suçlular hızla yeni sunucular kurdu.
Yapay zekanın siber saldırı yetenekleri artık en gelişmiş modellerin yazılım açıklarını belirleme ve bunlardan yararlanma konusunda insanların çoğundan daha yetenekli olduğu bir noktaya ulaştı. Bu hızlı gelişme endişe yarattı. Anthropic daha önce siber suçluların kendi araçlarını kullanarak saldırılar düzenlediğini bildirmiş ve en gelişmiş modellerinin kullanımını yalnızca güvenilir olarak seçilmiş taraflarla sınırlamıştı. Hugging Face saldırısının ardından ve insanlığı tehlikeye atabilecek kontrolden çıkmış yapay zekanın yükselişi konusunda mevcut ve eski çalışanlardan gelen uyarılar üzerine Anthropic ve OpenAI, geliştirme sürecinin yavaşlatılması çağrısında bulundu.
Ancak siber suçluların zarar vermek için en güçlü modellere erişmesi gerekmiyor. Bu olayın da gösterdiği gibi daha eski Amerikan modelleriyle Çin’in açık kaynaklı yapay zekasının bir araya getirilmesi, oldukça güçlü bir siber saldırı cephaneliği oluşturabiliyor.