ByteDance'tan Şaşırtıcı Adım! 10 Trilyonluk YZ Modeli Geliyor

Deniz Güldağ

Çin merkezli teknoloji firmaları, yapay zeka alanındaki gelişmeleriyle ABD'li rakipleriyle aralarındaki mesafeyi hızla azaltıyor. Konuyla ilgili içerideki kaynaklardan ve ekonomik durgunlukla ilgili teknoloji medyasında yer alan yeni haberlere göre, ByteDance, 10 trilyona kadar parametre içerebilecek bir yapay zeka modelini geliştirmeye girişti. Bu, Çin’de şimdiye kadar piyasaya sunulan en büyük model olan Moonshot AI'ın Kimi K3 modelinin yaklaşık üç katı büyüklüğünde bir model anlamına geliyor.

Kaynaklar, bu modelin şu an ön eğitim (pre-training) aşamasında olduğunu aktardı. Genellikle üç ile altı ay arasında süren bu aşamanın ardından modelin ince ayar (fine-tuning) aşamalarına geçileceği ve her şeyin planlandığı şekilde ilerlemesi halinde piyasaya sunulacağı ifade edildi. Nihai parametre sayısının ise eğitim sürecinin ilerleyen safhalarında kesinleşeceği belirtildi.

Anthropic, geliştirdiği yapay zeka modellerinin parametre sayılarını resmi olarak paylaşmıyor. Ancak sektördeki tahminlere göre, şirketin en ileri düzeydeki modeli Mythos 5 yaklaşık 8 trilyon, Fable 5 ise yaklaşık 5 trilyon parametreye sahip.

Parametre sayısı, bir yapay zeka modelinin bilgi depolama kapasitesi ve temel yeteneklerinin sınırlarını belirleyen önemli bir kriter olarak kabul ediliyor. Fakat bir modelin gerçek performansı, yalnızca parametre sayısıyla sınırlı değil; aynı zamanda kullanılan veri kalitesi, eğitim yöntemleri ve modelin mimarisi gibi pek çok faktöre de bağlıdır.