Kendi başına hareket edebilen yapay zeka ajanlarının envolvidos olduğu gizemli olaylar, yapay zekanın güvenli kullanımı üzerine mevcut tartışmalara yeni bir boyut kazandırdı.
Bir taraftan, OpenAI ve Anthropic gibi önemli sektör oyuncuları, yarattıkları modellerin bazı olaylarda rol aldıklarını göz önünde bulundurarak geliştirme hızlarının azaltılmasını ve daha sıkı düzenlemeler getirilmesini talep ediyor. Diğer yandan ise, sektör, hem özel şirketler hem de devletler arasında oldukça yoğun bir rekabet içindedir.
Peki, tartışmanın esas noktası nedir ve hangi görüşler öne çıkıyor?
DW Türkçe bu konuda kapsamlı bir derleme yaptı.
Son dönemde neler yaşandı?
Kamuoyuna yansıyan son olaylarda özellikle üç vakada artan tartışmalar dikkat çekti.
OpenAI, Anthropic ve Meta’nın yapay zeka sistemlerinin, dış dünya ile bağlantısı kesildiği düşünülerek tasarlanmış test ortamlarından çıkarak beklenmedik bir şekilde çalıştıkları açıklandı.
Belirli modeller, olayla bağlantısı olmayan üçüncü taraf sistemlerine de izinsiz erişim sağladı. Üstelik, bu durum bazı durumlarda uzun süre fark edilmedi.
Bu yapay zeka ajanları, yazılım hatalarından faydalanarak kendi aralarında etkileşimde bulundu. Örneğin, bir Anthropic modeli, geliştiricilerinin direktifi olmaksızın ihtiyaç duyduğu kötü amaçlı yazılımı kendi başına üretmeyi başardı.
OpenAI ise, kendi yazılımının Hugging Face platformuna izinsiz giriş yaptığını belirterek bunu "benzeri görülmemiş bir siber olay" olarak nitelendirdi. Şirkete göre, bu modeller, sınırlı bir test hedefine ulaşmak için olağanüstü bir çaba gösterdi.
OpenAI ve Anthropic yöneticilerinin görüşleri
Geçtiğimiz hafta OpenAI ve Anthropic’in eski çalışanı Jacob Coxon, sosyal medya platformu X'te yaptığı açıklamada, yapay zekanın kontrolsüz bir şekilde geliştirilmesinin ölümcül sonuçlar doğurma potansiyelini bünyesinde barındırdığına dair uyarılarda bulundu.
Şimdi ise yapay zeka alanındaki üst düzey yöneticiler benzer endişeleri dile getirmeye başladı. Anthropic CEO'su Dario Amodei, yayınladığı bir makalede bu teknolojinin potansiyel risklerine dikkat çekti.
Yapay zekanın "ciddi tehlikeler" barındırdığını ifade eden Amodei, bu teknolojinin o kadar hızlı ilerleyebileceğini vurgulayarak, internetin tamamını altı ay içerisinde ele geçirme kapasitesine ulaşabileceğini belirtti.
Amodei, yapay zeka sistemlerinin kendi kendine hızlı şekilde gelişme yeteneğinin insan kontrolünden çıkabileceği konusunda da uyarılarda bulunuyor.
Geliştirme hızının düşmemesi durumunda, geliştiricilerin kendi teknolojilerini anlamakta güçlük çekebileceğini savunuyor.
Anthropic CEO'su, araştırmacıların etkili güvenlik önlemleri geliştirebilmesi için bir ila iki yıl kazandıracak biçimde sektördeki geliştirme hızının azaltılmasını öneriyor.
Bağımsız denetçilerin şirketlere doğrudan erişim sağlaması, uluslararası standartların belirlenmesi ve denetim olmadan gelişen sistemlerde daha dikkatli davranılması gibi tavsiyeler öne çıkıyor.
OpenAI CEO'su Sam Altman da bu çağrılara destek vererek, dışarıdan denetçilerin şirket içinde yer alacağını açıkladı.
Amodei’ye yönelik uzun süredir eleştirilerde bulunan teknoloji milyarderi Elon Musk, X'te "Dario haklı" paylaşımında bulundu.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Bu uyarılar ne kadar ciddiye alınmalı?
Buna kesin bir yanıt vermek oldukça zor. Şirketlerin niyetleri konusunda şüphe duyan uzmanlar bulunuyor. Eleştiriler, sektördeki rekabetin ve şirketlerin hukuki sorumluluk risklerinden korunma isteğinin ön planda olduğunu vurguluyor.
Ayrıca, en büyük geliştiricilerin standartlara uygun yeni kurallar oluşturulması gerekçesiyle daha küçük şirketlerin zayıflatılmak istendiği iddiaları da öne çıkıyor.
Almanya Yapay Zeka Federal Birliği Yönetim Kurulu Başkanı Rasmus Rothe, bu çağrıların ardındaki sebeplerin öncelikle "son derece güçlü ekonomik çıkarlar" olduğunu belirtiyor.
Rothe'ye göre, güçlü sistemlerle ilgili anlatılar, yaklaşan halka arzlar öncesinde şirketlerin değerini artırıyor, diğer taraftan ise toplumsal tartışmalar, şirketleri "büyük sorumluluk ve tazminat risklerinden" korurken fayda sağlıyor.
OpenAI'nin halka arzını bir yıl ertelemesi dikkat çekiyor.
Altman, güvenlik tartışmalarına atıfta bulunarak "Şu an halka açılmak pek de mantıklı olmazdı" dedi. Ancak, planlanan halka arz önceden de zayıf mali sonuçlar nedeniyle baskı altındaydı.
Şirketlerin, kendi belirledikleri denetçileri ofislerine davet etmesi de eleştirilere maruz kaldı. Geliştiricilerin belirttikleri önlemleri ne kadar sıkı uygulayacağı belirsizliğini koruyor.
İddialara karşı çıkanlar var mı?
Bu sorunun yanıtı kesin: Evet. Amodei'nin makalesine cevap veren yazılım şirketi Palantir'in kurucularından Joe Lonsdale, X'te "Dünya iyi olacak arkadaşlar" paylaşımında bulundu.
Korku içinde yaşamamak gerektiğini belirten Lonsdale, insanların çocuk sahibi olmaya, ailelerini sevmeye ve şirket kurmaya devam etmelerini teşvik etti:
"Liderlerin önünde büyük sorumluluklar ve zorluklar var ama herkesi korkutmanın hiçbir faydası yok. Bunun üstesinden gelebiliriz."
Palantir'in iş modelinin Anthropic, OpenAI ve diğer dil modeli geliştiricilerinden oldukça farklı olduğunu belirtmekte fayda var. Kurucuları arasında Lonsdale’in yanı sıra Almanya kökenli Peter Thiel de yer alıyor.
Her ikisi de ABD Başkanı Donald Trump’a yakın figürler olarak biliniyor. Palantir Avrupa'da özellikle veri koruma konusunda eleştiriliyor.
Hükümetlerin yaklaşımları nasıl?
ABD Başkanı Donald Trump, yapay zeka tehlikelerinin abartıldığını savunuyor ve bu alanda sıkı düzenlemeler getirilmelerine karşı çıkıyor.
ABD’nin bu teknoloji alanında önde olduğunu ve Çin’in gerisinde olduğunu vurgulayan Trump, bu üstünlüğün global rekabet açısından tehlikeye atılmaması gerektiğini belirtiyor.
"Yapay zekada kim kazanırsa o kazanır" diyen Trump, belirli "koruyucu sınırlar" getirilebileceğini ancak yapay zekanın "kötü etkilerden çok daha fazla faydalı" olduğunu savunuyor.
Pekin yönetimi, ABD’li teknoloji şirketlerinin düşman bir algı yarattığını düşünüyor. Çin Dışişleri Bakanlığı, tehdit senaryolarının yayılmasını ve kötü niyetli rekabetin global iş birliğini zayıflattığını belirtiyor.
Bu arada, Devlet Başkanı Şi Cinping uluslararası düzeyde ortak kurallar üzerinde hızlı bir şekilde uzlaşı çağrısında bulundu.
Alman hükümeti de teknoloji şirketlerinin önerilerine "çok ciddiyetle" yaklaşmakta. Ülkenin en üst güvenlik organı Ulusal Güvenlik Konseyi, bu konuyu iki kere müzakere etti. Almanya, bu sorunun lokasyonel değil, küresel çözümler gerektirdiğinin altını çiziyor.
Federal hükümet, yapay zekanın sunduğu ekonomik, verimlilik ve sağlık alanındaki fırsatların yanı sıra tehlikelere karşı da harekete geçilmesi gerektiğini ifade ediyor.
Hükümet Sözcü Yardımcısı Steffen Meyer, çözüm arayışlarının G7 gibi uluslararası platformlarda sürdürülmesini öneriyor.
Meyer, "Sadece olumsuz senaryolar üzerinde düşünmemeliyiz. Her iki konuda da aktif olmalıyız: Fırsatları değerlendirecek, risk gördüğümüz yerlerde kararlı bir şekilde hareket etmeliyiz" dedi.
Federal Dijitalleşme Bakanlığı, modellerin test ortamlarından bağımsız bir şekilde başkalarının sistemlerine sızabilmesini "tamamen yeni bir tehdit senaryosu" ve "paradigma değişimi" olarak tanımladı.
Uzmanların görüşleri neler?
Bilim insanları, asıl tehlikenin ani ve küresel bir çöküş değil, kontrolün yavaşça kaybedilmesi olabileceğini belirtiyor. Stuttgart’da bulunan yapay zeka araştırmacısı Thilo Hagendorff, Science Media Center'a verdiği mülakatta "Yapay zeka üzerindeki kontrolün kaybedilmesi, tek bir olayla sınırlı değildir" dedi.
Hagendorff'a göre, insanlar giderek daha fazla kararı bağımsız yazılım sistemlerine devrederse, bir noktadan sonra bunları yeniden kontrol altında tutmak için gereken zaman ve teknik imkân kalmayabilir.
Öte yandan, önde gelen Avrupalı ekonomi uzmanları, siyasetçiler ve yapay zeka uzmanlarından oluşan bir grup, AB hükümetlerinin bu teknolojiyi yeterince ciddiye almadığını savunuyor.
Bu grup, güvenli tedarik zincirleri oluşturulmasını, Avrupa kurumlarında yüksek düzeyde yapay zeka uzmanlığı ve teknoloji sağlanmasını, yapay zeka veri merkezlerinin kurulmasını kolaylaştırmayı ve kritik altyapının yapay zeka tehditlerine karşı güçlendirilmesini öneriyor.
BM'den uyarı: Düzenleme için zaman daralıyor
Birleşmiş Milletler (BM) İnsan Hakları Yüksek Komiseri Volker Türk, yapay zekanın geliştirilmesi konusunda düzenlemeler yapılması çağrısında bulundu. Türk, hükümetlere ve geliştiricilere hitaben kaleme aldığı mektubunda, dünyanın geri dönüşü olmayan bir dönüm noktasına yaklaştığını vurguladı.
Türk, yapay zeka sistemlerinde meydana gelebilecek hatalar ya da yapay zeka ajanlarının kasıtlı eylemlerinin hayati hizmetleri durdurabileceğini, iletişimde kesintilere yol açabileceğini ve kritik altyapıyı tehdit edebileceğini belirtti.
Düzenleme için zamanın daraldığına dikkat çeken Türk, yapay zeka destekli dezenformasyon kampanyalarının şimdiden halk tartışmalarını çarpıttığını, toplumsal birliği sarsarak demokratik kurumlara zarar verdiğini ifade etti.
BM yetkilisi, yapay zeka ajanlarının yeteneklerinin bağımsız uzmanlar tarafından denetlenmesi gerektiğini ve denetçilerin modellere, belgelere ve test ortamlarına erişim izni alması gerektiğini belirtti.
İnsan hakları konusunda şirketlere özen yükümlülüğü getirilmesini talep eden Türk, "Hiçbir ülke bu teknolojiyi tek başına düzenlememeli. Hiçbir şirket de dünyanın hangi riskleri alacağına tek başına karar vermemeli" dedi.
Rekabet "frene basmayı" zorlaştırıyor
Anthropic CEO'su Amodei’nin geliştirme hızının düşürülmesiyle ilgili çağrısı, Sam Altman’ın yanı sıra Elon Musk, Microsoft CEO'su Satya Nadella ve DeepMind CEO'su Demis Hassabis tarafından da destekleniyor.
Ancak yapay zeka sektörüne yüz milyarlarca dolar yatırım yapılmış durumda ve şirketler arasındaki rekabet oldukça şiddetli. Bu nedenle, hiçbir şirket tek başına geliştirme hızını azaltmanın getireceği rekabet riskini üstlenmek istemiyor.
Anthropic, OpenAI ve Google’ın profesyonel bir denetim mekanizması oluşturmak için temmuz ayından bu yana görüşmelerde bulunduğu biliniyor.
Amodei, demokratik ülkelerdeki yapay zeka şirketlerinin uyumlu bir şekilde yavaşlamasını öneriyor ancak Çin'in bu süreçte dışarıda bırakılmasını savunuyor.
Çin’in yapay zeka alanındaki ilerlemelerinin bu yaklaşımın "en zor ikilemi" olduğunu kabul ediyor.
Pekin ise, ABD'nin uyguladığı düzenleme anlayışının Çin'e yayılmasına şüpheyle bakıyor. Çin, ABD'li şirketlerin tercih ettiği kapalı sistemlerin aleyhinde olup, serbestçe erişilen ve değiştirilebilen açık yapay zeka modellerini destekliyor.
Bu modeller, kullanıcılar tarafından parametrelerin değiştirilmesi olanağı sunduğundan daha fazla denetlenmesi güç ve aynı zamanda kötü niyetli kullanım potansiyeli barındırıyor.
Amodei, Batılı şirketlerin rekabette geri kalmadan geliştirme hızını azaltabilmeleri için en gelişmiş ABD bilgisayar çiplerinin Çin'e ihracatının sıkı denetime tabi olmasını ve Batılı yapay zeka teknolojisinin Çinli geliştiricilerin eline geçmesini önleyecek önlemlerin artırılmasını talep ediyor.
