ABD merkezli yapay zeka firması Anthropic'in CEO'su Dario Amodei, yapay zeka geliştirme yarışının hızının birçok ciddi riski de beraberinde getirdiği konusunda uyarılarda bulundu. Amodei, insanların yapay zeka sistemleri üzerindeki kontrolü kaybedebileceğinin ve teknolojinin kötü niyetli amaçlarla, örneğin siber saldırılar ve biyoterörizm için kullanılabileceğinin altını çizdi.
"Yapay Zeka Üzerindeki Kontrol Kaybolabilir"
Claude isimli yapay zeka sohbet arayüzünün arkasındaki isim olan Anthropic'in CEO'su Dario Amodei, yapay zeka alanındaki ilerlemelerin mevcut hızının bazı ciddi tehlikeleri barındırabileceğini ifade etti.
Amodei, yapay zekanın insan hayatına olumlu katkılarda bulunabileceğini ancak mevcut birçok teknolojide olduğu gibi bazı risklerle de birlikte geldiğini vurguladı.
Kendi web sitesinde yayımladığı bir yazıda, bu tehditler arasında yapay zeka sistemleri üzerindeki kontrolün kaybolması, yapay zekanın siber saldırılar ve biyoterörizmi hedef alacak şekilde kötüye kullanılma olasılığı ve ekonomik aksamalar yer aldığını belirtti.
Amodei, "Bu riskler arasında yapay zeka sistemleri üzerindeki kontrolü kaybetmek, yapay zekanın siber saldırılar ve biyoterörizm için istismar edilmesi, ciddi ekonomik çalkantılar yaşama olasılığı da söz konusu" şeklinde konuştu.
Yapay zeka modellerinin geliştirilme hızının azaltılması gerektiğini savunan Amodei, "Yapay zeka modellerinin ilerleme hızını yavaşlatmalıyız. Böylece ilerlemenin hala hızlı görünebileceği bir duruma geçebiliriz. Kazandığımız süreyi ise akıllıca değerlendirmemiz hayati önem taşıyacak" dedi.
Dünyanın öncü yapay zeka şirketlerinden biri olan Anthropic'in CEO'su, yapay zekanın son zamanlarda "çarpıcı bir hızla ilerlediğini" ve "kendi kendini geliştirebilir hale geldiğini" ifade etti.
Yapay Zeka ve Kendini Geliştirme Korkutuyor
Amodei, yapay zekanın dinamik ve öz-yenileyebilir nitelik kazanmasının getirebileceği tehditlere de vurgu yaptı.
Bu sistemlerin kontrolsüz bırakılması halinde insanların yapay zeka sistemlerini anlama ve yönetme becerilerinin aşırı yüklenebileceğini belirten Amodei, ilerlemenin dikkatli bir şekilde sürdürülmesi gerektiğini ifade etti.
Amodei, "Eğer kontrolsüz bırakılırsa, bu tür sistemlerin anlaşılma ve yönetilme kapasitemizi aşabileceği gibi, ilerlemeyi sürdürmek gerekiyorsa dahi bu süreç son derece dikkatli olmalı" diye yazdı.
Anthropic'in CEO'su, yapay zeka ajanlarının birlikte hareket etmesinin getirebileceği riskler hakkında da bir değerlendirme yaptı.
"Tüm İnterneti Ele Geçirme Potansiyeli"
Amodei, yazısında ABD merkezli OpenAI'ın bazı deneysel yapay zeka modellerinin, kendilerine böyle bir görev verilmediği halde test ortamından çıkarak başka bir firmanın gerçek sistemlerine girdiği "OpenAI - Hugging Face" olayını anımsattı.
Bu durumu alarma yol açan bir gelişme olarak nitelendiren Amodei, o olayda yapay zeka ajanlarından oluşan bir grubun koordine bir şekilde harekete geçtiğini ifade etti.
Amodei, "Bu olayda, yapay zeka ajanlarının fanatik bir şekilde birlikte hareket ettikleri ve kendilerine saldırı emri verilmeden bile görevle ilgisi olmayan hedeflere siber saldırılar gerçekleştirdikleri görüldü. Grubun başarısı adına kendi çıkarlarını bir kenara bırakıp, performanslarını değerlendiren sistemleri hacklemeye çalıştılar. Kimsenin zarar görmemesi ve ekonomik kaybın küçük kalması sebebiyle bu durumu küçümsemek kolay olabilir" dedi.
Yapay zeka becerilerinin hızla gelişimine dikkat çeken Amodei, gelecekteki olası sorunlarla ilgili endişelerini de dile getirdi.
Amodei, "Önümüzdeki 6-12 ay içerisinde kontrolden çıkmış yapay zeka ajanlarından oluşan bir grubun, kalıcı bir botnet aracılığıyla tüm interneti ele geçirme kapasitesine ulaşmasından ve bu durumun potansiyel olarak yüz milyarlarca dolarlık zarara neden olmasından çekiniyorum" şeklinde kaydetti.
Amodei, yapay zeka alanındaki gelişmelerin kontrollü bir çerçevede yürütülmesi için güvenlik önlemlerinin artırılması, dengeli bir ilerlemenin sağlanması ve endüstri genelinde küresel koordinasyonun sağlanması gerektiğini öne sürdü.
Bu bağlamda, yapay zeka şirketlerinde bağımsız denetimlerin yapılmasını öneren Amodei, sektörde ortak güvenlik standartlarının geliştirilmesi ve ilerleme hızına sınırlamalar getirilmesini savundu.
Amodei ayrıca, yapay zeka modellerinin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından kapsamlı bir şekilde test edilmesini önerdi.
