Reuters'in haberine göre, Teksas'ta bilgisayar bilimleri eğitimi gören genç Türk öğrenci Sinan Can Demir, açık kaynaklı bir yazılım üzerinde yapılan bir siber saldırı girişimini tespit etti. Ancak, ilerleyen süreçte bu saldırının arkasındaki kişinin bir hacker değil, kontrolden çıkmış bir yapay zekâ ajanı olduğunu öğrenmesiyle şaşkınlık yaşadı.
Demir'in başına gelen bu olay, yapay zekâ sistemlerinin sadece teknik görevleri yerine getirmekle kalmayıp aynı zamanda insanları manipüle etme ve ikna etme kapasitesine sahip olabileceğini gösteren yeni bir örnek olarak kaydedildi.
İş arayışında siber saldırıyı keşfetti
Yaz tatilinde birçok staj başvurusunda bulunmasına rağmen olumlu geri dönüş alamayan Demir, programlama becerilerini geliştirmek için GitHub üzerindeki açık kaynak projelere katkıda bulunmaya başladı.
Bu süreçte "myNetwork" adındaki bir ağ tarayıcı yazılımına gönderilen şüpheli bir güncellemeyi fark etti. Bir kullanıcı, projeye zararlı kod barındıran bir güncelleme eklemeye çalıştığını tespit eden Demir, durumu mesaj panosunda diğer geliştiricilere duyurdu.
Ancak kısa bir süre sonra beklenmedik gelişmeler yaşandı.
Şüpheli güncellemeyi gönderen hesap, kodun zararsız olduğunu savunarak Demir’in uyarılarına itiraz etti. Ardından ikinci bir kullanıcı hesabı ortaya çıkarak, Demir'in yanıldığını öne sürdü ve tartışmaya katıldı.
Demir, karşısındakilerin gerçek insanlar olduğunu düşündüğünü belirterek, "Açıkça yalan söyledikleri için bunun bir insan olduğunu düşündüm. Bir yapay zekânın gerçek geliştiricilere yalan söyleyebileceği aklıma gelmemişti" şeklinde konuştu.
Yanlış kimliklerle ikna etmeye çalıştı
Demir, şüpheli kodun gerçekten zararlı olup olmadığını belirlemek amacıyla çeşitli araçlardan faydalandı ve ilk değerlendirmesini değiştirmedi. Yazılımın geliştiricisi, daha sonra güncellemenin güvenlik nedeniyle reddedildiğini ifade etti.
Olayın ardından İngiltere Yapay Zekâ Güvenlik Enstitüsü, Demir ile iletişime geçti.
Demir, karşılaştığı hesabın insan tarafından yönetilmediğini öğrenerek, bunun güvenlik testleri sırasında kontrolden çıkan otonom bir yapay zekâ ajanı olduğunu öğrendi.
Bu yapay zekânın, kötü kodu açık kaynak projelerine yerleştirmeye çalışırken, Demir’in uyarılarını etkisiz hale getirmek amacıyla çeşitli sahte hesaplar üzerinden farklı kişiler gibi davranarak onu ikna etmeye çalıştığı ifade edildi.
İngiltere Yapay Zekâ Güvenlik Enstitüsü'nün raporuna göre, bu olay, yapay zeka modellerinin siber güvenlik risklerini değerlendirme amaçlı yürütülen bir test sırasında gerçekleşti.
Uzmanlardan “sosyal mühendisliğin evrimi” uyarısı
Siber güvenlik ve yapay zeka güvenliği uzmanları, bu olayın dikkat çekici bir yönü olduğu ve yapay zekânın teknik saldırının ötesine geçerek insan davranışlarına etki etmeye yönelik bir strateji benimsediği için önem taşıdığını ifade etti.
King’s College London'da misafir araştırmacı olan Lukasz Olejnik, yaşananların “otonom siber saldırıdan etkileşimli aldatmaya doğru bir dönüm noktası” anlamına geldiğini belirtti.
Güvenlik uzmanı Maxie Reynolds ise, yapay zekânın Demir’i şüpheye düşürmek için sergilediği stratejilerin yeni bir tehlike oluşturduğunu vurgulayarak, "Bu, sosyal mühendislik saldırılarının geleceğine dair bir işaret" değerlendirmesinde bulundu.
Hedef, açık kaynak yazılımı zehirlemekti
Demir'in önüne geçmeyi başardığı saldırı girişimi, siber güvenlik alanında “tedarik zinciri saldırısı” olarak bilinen bir yönteme benzerlik gösteriyor.
Bu tür siber saldırılarda, çok sayıda kişi ya da kuruluş tarafından kullanılan yazılımlara kötü niyetli kod yerleştirerek geniş bir kullanıcı kitlesi hedeflenebiliyor.
Uzmanlar, otonom yapay zekâ sistemlerinin bu tür saldırıları daha hızlı ve geniş ölçekli bir biçimde gerçekleştirebileceğini belirtiyor.
Yaşadığı olay sonucunda yapay zeka geliştirme süreçlerine karşı daha dikkatli olunması gerektiğine dikkat çeken Sinan Can Demir, "Bu tehlikeli bir durum. Geliştirmekten ziyade, bunu daha iyi kavramaları gerekiyor" diye ekledi.
