Y Combinator CEO'su Garry Tan, ABD'li açık ağırlıklı laboratuvarların frontier modelleri damıtmaları gerektiğini söylüyor

Y Combinator CEO'su Garry Tan, model damıtması üzerine tırmanan tartışmada Anthropic'in tam karşısında bir konum edindi: düzenleyicilerin hiçbir şey yapmamasını istiyor ve Amerikalı açık ağırlıklı (open-weight) laboratuvarların ABD frontier modellerinden damıtma yapması gerektiğini düşünüyor.

CNBC'ye Çinli laboratuvarların frontier modellerden bilgi çıkarmasına düzenleyicilerin nasıl yanıt vermesi gerektiği sorulduğunda Tan, "Hiçbir şey yapmazdım" dedi ve şunları ekledi: "Bir Amerikan damıtma rejimi olması gerektiğini savunabiliriz." TechCrunch'a daha sonra bununla ne kastettiğini açıkladı: Daha küçük ABD'li açık ağırlıklı laboratuvarlar, aynı eğitim tekniklerini Amerikan frontier modellerine uygulayabilmeli; böylece ABD, Çinli olmayan ve daha güçlü bir açık ağırlıklı seçenekler setine kavuşmalı.

Damıtma nedir ve neden tartışmalı

Damıtma, bir modelin nasıl davrandığını ve nasıl akıl yürüttünü anlamak için ona yoğun sorgular göndermeyi, ardından öğrenilenleri kullanarak başka bir modeli eğitmeyi içerir. TechCrunch'ın belirttiği gibi, bu, yapay zeka laboratuvarları içinde rutin ve meşru bir tekniktir. Anlaşmazlık, bunun kime, kime karşı yapılmasına izin verildiği konusunda.

Anthropic bu hafta konuyla ilgili ikinci raporunu yayımladı ve Çinli laboratuvarların "yasa dışı damıtma saldırıları" yürüttüğünü öne sürdü: kimliklerini gizlediklerini ve bazı durumlarda modellere izinsiz erişmek için dolandırıcılık ve çalınmış kimlik bilgilerine başvurduklarını iddia etti. Anthropic CEO'su Dario Amodei, ABD'li düzenleyicileri açıkça müdahale etmeye çağırdı.

Tan'ın karşı çıkışı, nereden kaynaklandığı nedeniyle önemli: Silikon Vadisi'nin en prestijli ve en verimli girişim hızlandırıcılarından birinin başkanı, frontier laboratuvarlarının aktif olarak lobi yürüttüğü bir politika sorusunda onlardan kopuyor.

Tan'ın iki parçalı argümanı

Tan çalınmış kimlik bilgilerini onaylamıyor. Konumu, onu ifade ettiği şekliyle, ABD'li laboratuvarların "kapıdan ön taraftan girebilmesi" — yanıltıcı yollarla değil, açıkça damıtma yapması.

Savunması iki noktaya dayanıyor. Birincisi, yapay zeka laboratuvarlarının ödeme yapan müşterilerin modellerinin ürettiği çıktılarla ne yapacağını dikte etmesinin aşırıya kaçmak olduğunu düşünüyor. İkincisi, mülkiyetli (proprietary) laboratuvarların sistemlerini, izinlerini almadan — telif hakkıyla korunmuş bol miktarda materyal dahil — muazzam miktarlarda insan bilgisi özümseyerek inşa ettiğine dikkat çekiyor.

"Kapalı ağırlıklı modellere yapılan API çağrılarıyla kullanıcıların ve müşterilerin ne yapabileceğini kontrol etmek kısıtlayıcı geliyor" diyen Tan, TechCrunch'a geniş ölçüde erişilebilir kamu verisiyle eğitilmiş zekânın, "kısıtlayıcı kullanım koşullarının ardına kilitlenmiş bir şeyden çok bir tür kamu malı" olarak görülmesi gerektiğini savundu.

Frontier laboratuvarlarına savaş değil

Tan, frontier laboratuvarlarının varlığına veya ekonomilerine karşı bir argüman ileri sürmüyor. CNBC'ye bu laboratuvarların "cephededeki (frontier) ve onu ileri taşıyan" olduğunu söyledi ve açık ağırlıklı modeller "insanlara özgürlük ve erişim sağlarken" bu çalışmanın süregiden bir iş olarak finanse edilebilir kalmasını istediğini belirtti.

Korktuğu sonuç, gücün tekelleşmesi. Onun anlatımında, yapay zeka için gerçek kıyamet senaryosu kontrolden çıkan yetenekler değil; sermayeye ve en iyi araştırmacılara en iyi erişimi sahip tek bir mülkiyetli sağlayıcının o kadar ileri gitmesi ki kimsenin yetişememesi. Frontier yapay zekânın tüm gücünü elinde tutan tek bir dev şirketin, dediğine göre, "kötü olurdu."

Neden önemli

Damıtma, ABD yapay zeka politikasında bir fay hattı haline geliyor. Bir tarafta Anthropic iddia edilen suistimali belgeliyor ve düzenleyici bir baskı istiyor. Öteki tarafta Y Combinator'ın başkanı, kamu verisinden türetilmiş model çıktılarının lisanslı bir varlıktan çok kamu malına yakın durması gerektiğini savunuyor. Düzenleyicilerin nerede duracağı; frontier laboratuvarlarının kullanım koşullarıyla aşağı yönlü eğitimi kısıtlayıp kısıtlayamayacağını, Amerikalı açık ağırlıklı laboratuvarların rekabetçi modellere meşru bir yol elde edip etmeyeceğini ve açık ağırlıklı ekosisteminin ne kadarının varsayılan olarak Çinli olacağını belirleyecek.