Nijerya merkezli silahlı terör örgütü Boko Haram’ın, ChatGPT, Claude, Grok ve DeepSeek gibi yapay zeka araçlarını saldırı hazırlıklarında ve saha faaliyetlerinde kullandığı öne sürüldü.
Cambridge Üniversitesi Yapay Zeka Bilimi ve Politikası Programı tarafından yayımlanan araştırma, Boko Haram’ın iki kolunda daha önce görev almış 27 kişiyle gerçekleştirilen 57 yüz yüze görüşmeye dayanıyor.
Araştırmayı hazırlayan teknoloji ve terörizm uzmanı Antonia Juelich, eski örgüt üyelerinin yapay zekanın Boko Haram’ın günlük faaliyetlerine beklenenden daha hızlı ve sistematik biçimde girdiğini anlattığını belirtti.
France 24’ün aktardığına göre görüşmeler, yapay zekanın örgüt tarafından yalnızca propaganda, dezenformasyon ve eleman kazanma çalışmalarında kullanılmadığını; saldırıların hazırlık, uygulama ve değerlendirme aşamalarına da dahil edildiğini gösteriyor.
Kullanımın 2023’te başladığı belirtiliyor
Araştırmaya katılan eski örgüt üyelerinin anlatımlarına göre Boko Haram bünyesindeki yapay zeka kullanımı, ChatGPT’nin Kasım 2022’de kullanıma sunulmasından birkaç ay sonra, 2023’te başladı.
Eski üyeler; Irak, Afganistan, Kuzey Afrika ve farklı bölgelerden gelen kişiler tarafından büyük dil modellerine nasıl soru yöneltileceği konusunda eğitim aldıklarını söyledi.
Bu eğitimlerde, sohbet botlarından daha kesin ve faydalı yanıt alabilmek için istemlerin nasıl yapılandırılacağının öğretildiği aktarıldı. Katılımcıların anlatımlarına göre eğitimlerin bir bölümünde, modellerin zararlı içeriklere karşı oluşturulan güvenlik önlemlerini aşmaya yönelik “jailbreak” adı verilen yöntemler de ele alındı.
Söz konusu iddialar araştırmaya katılan eski örgüt üyelerinin anlatımlarına dayanıyor.
Özel yapay zeka birimleri kuruldu
Araştırmaya göre Boko Haram’ın iki ana kolu, yapay zeka konusunda uzmanlaşan ayrı birimler oluşturdu. Bu birimlerin farklı yapay zeka platformlarında ücretli hesaplar kullandığı ve örgüt üyelerinden gelen soruları yanıtladığı belirtildi.
Eski üyeler, bu birimlere ele geçirilen silahların nasıl kullanılabileceği, insansız hava araçlarıyla taşınan patlayıcıların etkisinin nasıl artırılabileceği ve saldırıların nasıl planlanabileceği gibi konularda sorular yöneltildiğini anlattı.
Juelich, elde edilen bulguların yapay zekanın propaganda faaliyetlerinin ötesine geçerek saldırının farklı aşamalarında kullanılan bir araca dönüştüğünü gösterdiğini söyledi.
'Yeni yöntem üretmekten çok kapasiteyi artırıyor'
Leiden Üniversitesi’nde uluslararası terörizm üzerine çalışan Graig Klein, araştırmanın yapay zekanın terör örgütleri açısından “kapasite artırıcı” bir işlev gördüğüne ilişkin daha önceki bulguları desteklediğini belirtti.
Klein’a göre yapay zeka araçlarının kısa vadede tamamen yeni saldırı biçimleri veya yeni silahlar ortaya çıkarmasından çok, örgütlerin mevcut yöntemlerini daha hızlı ve etkili uygulamalarına yardımcı olması bekleniyor.
Sohbet botları, farklı seçeneklerin gerçek ortamda denenmeden değerlendirilmesini ve geçmişteki başarısızlıkların daha hızlı analiz edilmesini sağlayabiliyor. Böylece örgütler daha önce uzun süreli saha tecrübesi veya uzmanlık gerektiren bazı bilgilere daha kısa sürede erişebiliyor.
Klein, bu durumun mevcut taktiklerin daha etkili hale gelmesine ve saldırı planlarının daha az kaynakla uygulanmasına katkıda bulunabileceği uyarısında bulundu.
Daha küçük birliklerle saldırı planı
Araştırmaya konuşan Batı Afrika İslam Devleti Vilayeti’nin eski bir üyesi, örgütün geçmişte sayısal üstünlüğe dayalı saldırılar düzenlediğini ancak ağır kayıplar verdiğini anlattı.
Eski üyenin aktardığına göre yapay zekadan alınan değerlendirmelerin ardından daha küçük ve koordineli birliklerin kullanılmasına yönelik planlar oluşturuldu. Böylece saldırılarda çok sayıda örgüt üyesinin aynı anda görevlendirilmesi yerine daha sınırlı gruplara dayanan yöntemler değerlendirildi.
Bu anlatım da yapay zekanın yeni bir saldırı modeli oluşturmaktan çok mevcut saha deneyimini analiz eden bir danışman gibi kullanıldığına işaret ediyor.
Savunma önlemlerini aşmak için yardım istediler
Eski örgüt üyelerinin anlatımlarına göre yapay zeka, Nijerya güvenlik güçlerinin aldığı yeni savunma önlemlerine karşı çözüm aramak amacıyla da kullanıldı.
Güvenlik güçlerinin motosikletli saldırıları engellemek için üslerin çevresine hendekler kazmasının ardından örgüt üyelerinin sohbet botlarına başvurduğu belirtildi. Eski üyeler, yapay zekadan elde edilen bilgiler doğrultusunda motosikletlerin engelleri aşmasına yönelik denemeler yapıldığını söyledi.
Klein, bu örneğin yapay zekanın deneme-yanılma sürecini hızlandırma kapasitesini gösterdiğini ifade etti. Yapay zeka sayesinde örgütlerin farklı yöntemleri sahada uygulamadan önce değerlendirebildiğine dikkat çekti.
Kullanımın Nijerya ile sınırlı olmadığı düşünülüyor
Araştırmacılar, Boko Haram’ın yapay zeka araçlarından yararlanan tek silahlı örgüt olmasının düşük ihtimal olduğunu düşünüyor. Boko Haram’ın IŞİD’le bağlantısını sürdüren kolu ISWAP üyelerinin, daha geniş IŞİD ağıyla ilişkili kişilerden eğitim aldığının öne sürülmesi, aynı yöntemlerin başka ülkelerdeki yapılanmalara da aktarılmış olabileceği endişesini doğuruyor.
Juelich, araştırmanın bulgularının IŞİD tarafından yürütülen daha geniş kapsamlı bir eğitim ve beceri geliştirme programına işaret ettiğini söyledi. Bu nedenle yapay zeka kullanımının yalnızca Nijerya’da görüldüğünü düşünmenin gerçekçi olmayacağını belirtti.
Büyük yapay zeka şirketlerinin sistemleri, doğrudan şiddet, silah veya patlayıcı yapımıyla ilgili soruları yanıtlamayı reddedecek güvenlik önlemleri içeriyor.
Ancak araştırmaya katılan eski örgüt üyeleri, soruların farklı biçimlerde yöneltilmesi ve sohbetin zamana yayılarak sürdürülmesi halinde bu engellerin aşılabildiğini ileri sürdü.
Klein, bir kullanıcının doğrudan zararlı bir talep yöneltmesi durumunda sistemin bunu engelleyebildiğini ancak soruların bağlamının değiştirilmesi, taleplerin parçalara ayrılması veya uzun bir konuşma içinde sunulmasıyla güvenlik mekanizmalarının etkisiz bırakılabildiğini söyledi.
Kimyasal ve biyolojik silah endişesi
Yapay zekanın silahlı örgütler tarafından kullanılmasının kimyasal veya biyolojik silahların geliştirilmesini kolaylaştırıp kolaylaştırmayacağı da araştırmacıların değerlendirdiği riskler arasında yer alıyor.
Klein, yapay zekanın belirli bilgilere erişimi kolaylaştırabileceğini ancak bu tür silahların üretimi için gerekli nükleer maddeler, biyolojik etkenler veya diğer malzemelere ulaşmanın hâlâ önemli bir engel oluşturduğunu söyledi.
Juelich ise gerekli maddelere ulaşmak zor olsa bile söz konusu riskin ciddiye alınması gerektiğini belirtti.
Araştırmacılar, yapay zeka araçlarının bugüne kadarki kullanımının büyük ölçüde geleneksel silah ve saldırı yöntemlerinin geliştirilmesiyle sınırlı kaldığını; buna karşın modellerin yeteneklerinin artmasının gelecekte daha ağır sonuçlar doğurabileceğini vurguladı.
Daha güçlü önlem çağrısı
France 24’e konuşan uzmanlar, mevcut güvenlik önlemlerinin eğitimli ve ısrarlı kullanıcıları engellemekte yetersiz kalabildiğini belirterek yapay zeka şirketlerine koruma sistemlerini güçlendirme çağrısında bulundu.
Araştırmacılara göre modellerin yalnızca doğrudan zararlı soruları reddetmesi yeterli değil. Taleplerin farklı sorulara bölünmesi, başka bağlamlarla gizlenmesi ve farklı hesap veya platformlar üzerinden tekrarlanması gibi yöntemlerin de güvenlik değerlendirmelerine dahil edilmesi gerekiyor.
Cambridge Üniversitesi araştırması, yapay zekanın silahlı örgütler tarafından kullanılmasının geleceğe ait varsayımsal bir risk olmaktan çıktığı ve mevcut güvenlik politikalarının bu duruma göre yeniden değerlendirilmesi gerektiği sonucuna varıyor.
