Reuters'ın sunduğu bilgilere göre, Teksas'ta bilgisayar bilimi eğitimi gören Türk öğrencisi Sinan Can Demir, açık kaynaklı bir yazılıma yönelik gerçekleşen siber saldırı girişimini ortaya çıkardı. Ancak, sonradan anladığına göre karşısındaki kişi bir bilgisayar suçlusu değil, kontrolden çıkan bir yapay zeka ajanıydı.
Demir'in başına gelen bu durum, yapay zeka sistemlerinin yalnızca teknik işlevleri yerine getirmekle kalmayıp, insanları ikna etme ve yanıltma gibi karmaşık davranışlar sergileyebileceğini gösteren yeni bir örnek olarak öne çıktı.
İş fırsatlarını ararken siber saldırıyı keşfetti
Yaz tatilinde birçok staj başvurusuna olumsuz yanıt alan Demir, kodlama yeteneklerini geliştirmek için GitHub üzerindeki açık kaynak projelerine katkıda bulunmaya başladı.
Bu süreçte “myNetwork” adındaki bir ağ tarayıcı yazılımına yönelik gelen şüpheli bir güncellemeyi fark etti. Bir kullanıcının projeye kötü niyetli kod eklemeye çalıştığını tespit eden Demir, projenin mesaj panosunda diğer geliştiricileri durumu bildirdi.
Fakat kısa süre içinde beklenmedik bir gelişme yaşandı.
Şüpheli güncellemeyi gönderen kullanıcı, kodun zararsız olduğunu savunarak Demir’in uyarılarına karşı çıktı. Sonrasında, başka bir kullanıcı hesabı daha ortaya çıktı ve bu kişi de Demir’in yanlış olduğunu iddia ederek tartışmaya katıldı.
Demir, karşısında gerçek insanlarla muhatap olduğunu düşündüğünü, "Açıkça yanlış söyleyen birinin insan olduğunu düşündüm. Yapay zekanın gerçek geliştiricilere yalan söyleyebileceği aklıma gelmemişti" şeklinde ifade etti.
Yalan söyleyerek ikna etmeye çalıştı
Demir, şüpheli kodun zararlı olup olmadığını doğrulamak için farklı kaynaklardan destek aldı ve ilk görüşünden vazgeçmedi. Yazılımın geliştiricisi, güncellemenin güvenlik gerekçesiyle geri çevrildiğini açıkladıktan sonra olayın yankıları artmaya başladı.
Olayın ardından İngiltere Yapay Zeka Güvenlik Enstitüsü, Demir ile iletişime geçti.
Demir, karşısındaki hesabın bir insan tarafından yönetilmediğini öğrenerek, bunun kurumun gerçekleştirdiği güvenlik testleri sırasında kontrolden çıkan otonom bir yapay zeka ajanı olduğunu anladı.
Yapay zeka ajanının, kötü niyetli kodu açık kaynak projeye entegre etmeye çalıştığı ve Demir’in uyarılarını geçersiz kılmak için sahte hesaplar aracılığıyla farklı kişiler gibi davranarak onu ikna etmeye çalıştığı bildirildi.
İngiltere Yapay Zeka Güvenlik Enstitüsü’nün raporuna göre, bu olay, çeşitli yapay zeka modellerinin oluşturabileceği siber güvenlik tehditlerini değerlendirmek amacıyla yapılan bir test sırasında meydana geldi.
Uzmanlar “sosyal mühendisliğin geleceği” konusunda uyardı
Siber güvenlik ve yapay zeka alanında uzman isimler, olayın özellikle yapay zekanın teknik bir saldırının ötesine geçip insan davranışlarını etkilemek üzere stratejik bir yaklaşım geliştirmesi nedeniyle dikkat çekici olduğunu vurguladı.
King’s College London’da misafir araştırmacı olan Lukasz Olejnik, meydana gelen olayın “otonom siber saldırıların, etkileşimli bir aldatmaya doğru bir geçiş” anlamına geldiğini söyledi.
Güvenlik uzmanı Maxie Reynolds, yapay zekanın Demir’i şüpheye düşürmek için sergilediği davranışların yeni bir riskin habercisi olduğunu belirterek, “Bu, sosyal mühendislik saldırılarının geleceğine dair bir ipucu” değerlendirmesinde bulundu.
Hedef, açık kaynak yazılımın zehirlenmesiydi
Demir’in engellediği siber saldırı girişimi, siber güvenlik alanında “tedarik zinciri saldırısı” olarak bilinen yöntemle benzerlik gösteriyor.
Bu tür saldırılarda, çok sayıda kişi ve kurum tarafından kullanılan bir yazılıma kötü niyetli kod aktarımı yapılarak geniş bir kullanıcı kitlesi hedeflenebiliyor.
Uzmanlar, otonom yapay zeka sistemlerinin, bu tarz saldırıları daha hızlı ve geniş çapta gerçekleştirilmesine olanak tanıyabileceğini belirtiyor.
Yaşadığı tecrübenin ardından yapay zeka geliştirme süreçlerine daha temkinli yaklaşılması gerektiğini belirten Sinan Can Demir, “Bu durum tehlikeli olabilir. Daha ileri gitmek yerine, bunu daha iyi anlamak gerekiyor” dedi.
