Shakhsanam KURBANOVA

Haberimin merkezinde 'model damıtma' (distillation) adı verilen bir teknik var. Bu yöntemde, güçlü bir yapay zekâ modelinin ürettiği cevaplar ve muhakeme adımları, çok daha küçük ve özelleştirilmiş bir modeli eğitmek için kullanılıyor. Sonuçta ortaya, devasa hesaplama gücüne ihtiyaç duymadan yerel sunucularda çalıştırılabilen, belirli bir göreve odaklanmış bir sistem çıkıyor. Bu teknik, sektörde yaygın olarak kullanılan meşru bir yöntem; asıl tartışma konusu, Çinli kurumların bu çıktıları yetkisiz biçimde elde edip etmediği.

Araştırma, Washington merkezli Jamestown Vakfı'nın derlediği belgelerle birlikte Reuters tarafından incelendi. Vakfın 60'tan fazla makaleyi analiz eden araştırmacısı Sunny Cheung'a göre Çinli askeri bilim insanları, yalnızca modellerin verdiği doğru cevapları değil, bu cevapların arkasındaki muhakeme sürecini de sistematik biçimde yakalamaya çalışıyor. Cheung, bir modele doğru cevabı öğretmenin bir şey, cevabın arkasındaki mantığı öğretmenin ise çok daha zor olduğunu belirtiyor.

SOSYAL MEDYA DENETİMİNDEN DENİZALTI SİMÜLASYONUNA

Reuters'ın incelediği belgeler, bu tekniğin sivil alanlardan doğrudan askeri sistemlere kadar geniş bir yelpazede kullanıldığını ortaya koyuyor. Çin'in silah sanayisiyle yakın bağları bulunan Kuzey Çin Üniversitesi'ndeki araştırmacılar, Anthropic'in Claude 3 Haiku modelini, sosyal medya izleme ve içerik denetimine yönelik bir metin sınıflandırma modeli için sentetik eğitim verisi üretmekte kullandı.

Çin Askeri Bilimler Akademisi'nde yayımlanan bir çalışmada ise damıtma tekniği, insansız deniz araçlarını, gemileri ve su altı sistemlerini kapsayan simüle edilmiş deniz operasyonlarında taktik donanım üzerinde çalışan bir hedef tanıma modeli için kullanıldı. Ulusal Savunma Teknolojisi Üniversitesi'nde 2024 yılında yayımlanan başka bir makale ise, canlı görüntü analiziyle dronların seyrüsefer desteği almasını sağlamak amacıyla bir görüntü işleme modelinin küçültülerek insansız hava araçlarına yüklendiğini anlatıyor.

Doğrulanan belgeler arasında en dikkat çekici örneklerden biri, Pekin merkezli bir askeri istihbarat ve siber savaş birimi olan PLA Birim 96941'e ait. Geçen yıl bu birimdeki araştırmacıların yayımladığı bir makale, hassas askeri kaynak kodunu işlemek için OpenAI'ın GPT-3.5 modelinin kullanıldığını belgeliyor. Reuters, gazetecilerin incelediği akademik literatüre ek olarak, askeri bağlantılı yaklaşık yirmi dört vaka daha tespit etti.

ANTHROPİC'İN YANITI VE 'KAÇAN' GÜVENLİK ÖNLEMLERİ

Anthropic, Çin'de ya da Pekin kontrolündeki şirketlere Claude modeline ticari erişim sağlamadığını ve politika ihlallerini tespit etmek için izleme sistemleri kullandığını açıkladı. Şirket ayrıca damıtılmış modellerin, orijinal sistemlerdeki güvenlik önlemlerini kaybedebileceğini ve bunun hassas yeteneklerin şirketin kontrolü dışındaki modellere aktarılmasına yol açabileceğini vurguladı. Beyaz Saray, Pentagon, Çin Dışişleri Bakanlığı, PLA ve OpenAI, Reuters'ın yorum taleplerine yanıt vermedi.

WASHİNGTON-PEKİN ARASINDA YENİ BİR CEPHE

ABD'li yetkililer daha önce de bazı Çinli kurumların, damıtma yoluyla Amerikan modellerinin yeteneklerini izinsiz biçimde elde ettiğini, bunun ihracat kontrollerini zayıflatabileceğini ve fikri mülkiyet haklarını ihlal edebileceğini öne sürmüştü. Çin ise bu iddiaları reddederek, Washington'ı yapay zekâda 'hegemonya' peşinde koşmakla suçluyor ve Amerikan şirketlerinin de benzer teknikleri kullandığını savunuyor. Geçtiğimiz hafta Çinli yapay zekâ girişimi Moonshot da, Trump yönetiminin Kimi K3 modelinin damıtma yoluyla geliştirildiği yönündeki iddialarını reddetmiş, sistemin kendi özgün yenilikleriyle inşa edildiğini belirtmişti.

Konu, ABD ile Çin arasında yapay zekâ yönetişimi ve güvenliği üzerine yapılacak görüşmeler öncesinde önemli bir gerginlik noktasına dönüştü. Uzmanlar yine de sınırları hatırlatıyor: yapay zekâ veri şirketi Sapien'in kurucu ortağı Trevor Koverko, damıtılmış sistemlerin öncü modellerden 'tam bağımsızlık' kazanamadığını belirtiyor. Başka bir deyişle, Çin'in geliştirdiği bu sistemler ABD modellerinin çıktılarından beslenmeye devam ettiği sürece, orijinal modellerin gerisinde kalmaya mahkûm.