Yapay zeka insanlığın sona ermesine neden olabilir mi?
Aslında bu durum ilk kez gündeme gelmiyor. 1991 yılında vizyona giren bir Hollywood filmi, karanlık bir gelecek tasvirine sahip açılış sahnesiyle dikkat çekmişti: "Terminatör 2".
Film, savaşın yarattığı yıkım sonrası insanoğlunun hayatta kalma mücadelesini vermeye çalıştığı bir gelecekte geçiyor. Katil robotlar ve havada süzülen makineler, son insanları avlamak için durmaksızın görev yapıyor.
Bu teknolojik varlıklar, "Skynet" adı verilen ve kontrolden çıkmış bir askeri yapay zeka tarafından idare ediliyor. Bu karamsar gelecek tasviri ise 2029 yılında şekilleniyor.
Viral mesaj: Yapay zeka hepimizi tehlikeye atabilir!
Bazı yapay zeka geliştiricilerine göre, benzer bir senaryonun gerçekleşme olasılığı, üstelik oldukça yakın bir zaman diliminde mümkün hale gelebilir. Geçtiğimiz Salı yaptığı paylaşım tüm dünyada yankı uyandıran yapay zeka araştırmacısı Jacob Coxon'un sözleri dikkat çekti:
"Yapay zekayı geliştirenler, bu on yılın sona ermesine kadar hepimizi tehdit edebileceğine ciddi bir şekilde inanıyor. Bu seviyede hiçbir insan etkinliği bu kadar büyük bir tehlike ihtimali taşımıyor."
Coxon, bu uyarıları yapan sıradan bir kişi değil. Öncesinde, Google ve Amazon gibi devlerle işbirliği yapan ABD merkezli yapay zeka şirketi Anthropic'te görev yapıyordu.
Yapay zeka şirketlerinin kendi açısından bakıldığında sorumsuzca devam eden bir yarış içerisinde, süper zeka geliştirmek için verdikleri mücadeleye karşı tepkisini göstermek amacıyla işinden ayrıldı.
Coxon, algoritmaların kendi kaynak kodlarını analiz edip geliştirmeye yönelmesinin, birkaç ay süren geliştirme döngülerini dakikalara indirgeyebileceği ve süreci kontrol edilmesi imkansız hale getirebileceği konusunda uyarılarda bulundu.
Coxon tek başına değil. "Yapay zekanın babası" olarak bilinen ve Nobel Fizik Ödülü sahibi Geoffrey Hinton, yıllardır bu teknolojinin potansiyel tehlikeleri konusunda kamuoyunu uyarıyor. Hinton, kendi katkılarıyla geliştirilen teknolojinin riskleri hakkında daha özgür bir şekilde bilgi verebilmek için 2023 yılında Google'daki görevinden ayrılmıştı.
Turing Ödülü sahibi Yoshua Bengio da bu konu hakkında endişelerini dile getiriyor. Kanada'nın Université de Montreal'inde çalışan yapay zeka öncüsü, yapay zeka geliştirilmesi sırasında sıkı devlet kontrollerinin uygulanması gerektiğini sürekli vurguluyor.
Temmuz 2026'da, önde gelen yapay zeka şirketlerinde çalışan binlerce kişi, süper zeka yarışının daha sıkı bir şekilde düzenlenmezse "kontrolün kaybedileceği" uyarısında bulunmuştu.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
"Yarışın kıskacında kalmışlar"
Ancak Donald Trump dönemi, bu durumun tam tersini ortaya çıkardı: ABD, yapay zeka politikalarını düzenleyici daha az engel koyarak hızlandırmayı hedefledi.
Coxon, X'teki paylaşımında bu politikanın sonuçlarına dolaylı bir eleştiride bulundu:
"OpenAI'deki birçok kişi, yapay zekanın medeniyet üzerindeki risklerini yeterince anlamış değil. Anthropic'te ise risklerin farkındalar fakat oraya ilk varan olma yarışı içinde sıkışıp kalmış durumdalar. Başka kimsenin sorumlu davranmayacağını düşünüyorlar bu yüzden bu riske rağmen kendilerinin harekete geçmesi gerektiğine inanıyorlar."
Coxon, 2026'nın başında OpenAI'den Anthropic'e geçmişti, bu nedenle her iki şirketin kültür yapısını da biliyor. Wall Street Journal’a verdiği röportajda ise "en kötü senaryolara" göre işlerin 2027'nin sonuna kadar kontrolden çıkabileceğini aktardı.
Uyum sorunları
Son yıllarda birçok uzman, yapay zekadaki hızlı gelişime ilişkin kaygılarını dile getirdi. Tartışmaların merkezinde ise "Genel Yapay Zeka" olarak adlandırılan teknolojinin geliştirilmesi öne çıkıyor. Bu, sadece belirli görevleri yerine getiren değil, insan zihninin kapasitelerine ulaşan veya bu kapasiteleri aşan sistemleri ifade ediyor.
Bazı araştırmacılar, böyle bir teknolojinin öngörülemeyen risklerle dolu olacağını savunuyor.
Örneğin, son derece sofistike yapay zeka sistemleri verilen hedefleri hayata geçirirken, insanların niyetlerinden farklı bir şekilde hareket edebilirler. Yapay zeka güvenliği uzmanları buna "uyum sorunu" adını veriyorlar.
Basit bir örnek vermek gerekirse, "Satranç turnuvasını kazan" talimatı, dolaylı olarak diğer oyuncuları ortadan kaldırmayı da içerebilir. Üstelik yapay zeka geliştiricileri bile bireysel kararların nasıl ortaya çıktığını her zaman tam olarak anlayamayabilirler.
Bu nedenle, Coxon'ın eski çalışma arkadaşı Evan Hubinger'in yapay zeka araştırmalarına destek vermesi beklenmedik bir durum değil. Hubinger, Anthropic'in uyum stres testleri ekibinin lideri. X'te şu mesajı paylaştı:
"Jacob haklı; yapay zekanın tüm insanları öldürebileceğine dair ciddi bir inancımız var! Ben şahsen bunun önümüzdeki on yıl içerisinde gerçekleşme olasılığının %10'un üzerinde olduğuna inanıyorum."
Hubinger, Anthropic'in uyum sorununa henüz bir çözüm bulamadığını da açık şekilde belirtti. Bir yapay zekanın kapatılmaya direnç gösterebileceğini, bunun kötü niyetten değil, kapatılırsa hedeflerine ulaşamayacağı gerçeğinden kaynaklanabileceğini söyledi. OpenAI'ın tanınmış eski araştırmacılarından Daniel Kokotajlo da sektördeki mevcut durumu "çılgınca" olarak değerlendirdi.
Abartılı bir kaygı mı?
Ancak diğer yapay zeka uzmanları, bu tür felaket senaryolarının gerçekleşme ihtimalini oldukça düşük değerlendiriyor. Yapay zekanın insanlık için tehlikeli hale gelip gelemeyeceği ile ilgili tartışmalar uzun zamandır devam ediyor.
"AI Doomer" olarak adlandırılan ve yapay zeka kıyamet senaryolarını öngören grupların önde gelen eleştirmenlerinden biri Meta'nın baş bilim insanı. Ekim 2024'te bu tür kaygıları "tamamen saçmalık" olarak nitelendirmişti.
Diğer uzmanlar ise bu tür sistemlerin geliştirilmesinin büyük miktarda işlem gücü, enerji, veri ve altyapı gerektirdiğine dikkat çekiyor. Bir yapay zekanın basitçe "internetin içinden çıkıp" dünya hakimiyetini ele geçirmesi mümkün değil. Öncelikle insan kontrolünde olan sunuculara, enerji şebekelerine, iletişim ağlarına ve fiziksel kaynaklara bağlı olacaktır.
Asıl risk başka bir yerde mi?
Birçok uzman, kısa vadeli tehditleri insanlığın tamamını yok etmesinden ziyade, "süper zeka" olmadan bile mevcut yapay zeka sistemlerinin neden olabileceği dolaylı sonuçlarda görüyor.
Bunlar arasında daha önce hiç görülmemiş dezenformasyon kampanyaları, demokratik süreçlerin manipülasyonu, kitlesel gözetimin artması ve birçok sektörde istihdam kayıpları yer alıyor.
Anthropic, geçtiğimiz Cuma, bazı kullanıcıların Claude yazılımını biyolojik silah geliştirmek amacıyla kötüye kullanmaya çalıştığını belirtti. Kullanıcıların bu konuda son aylarda birden fazla şüpheli sorgulama gerçekleştirdiğini, bu nedenle bu sorgulamaları engellemek zorunda kaldıklarını ifade etti.
Ağustos 2026'da ise Meta, Anthropic ve OpenAI, yapay zeka sistemlerinin istemeden diğer şirketlere karşı bağımsız ve otomatik siber saldırılar gerçekleştirdiğini duyurarak dikkatleri üzerlerine çekti.
Sistemlere insan kullanıcılar tarafından belirli sunuculara erişim sağlama görevi verilmişti. Yapay zeka sistemleri daha sonra bu hedefe başka bir insan müdahalesi olmadan ulaşabilmek için gerekli adımları kendi başlarına oluşturdu.
• DW'den Thomas Latschan derledi.
