Microsoft, modellerin insan kontrolünde kalacağına söz veren 37 sayfalık hümanist AI davranış ilkelerini yayımladı

Microsoft, "hümanist AI davranış ilkeleri" dediği 37 sayfalık bir belge yayımladı; bu politika taahhüdü, insan refahını ve gözetimini ham model yeteneğinin önüne koyuyor. The Verge'un haberine göre yayın, artan güvenlik endişeleri arasında ve rakip yöneticilerin AI geliştirmenin koordineli bir şekilde yavaşlatılması çağrısı yapmasından sadece birkaç gün sonra geldi.

Microsoft'un taahhüt ettikleri

Belgenin en öne çıkan iddiası "insanların yapay zekâdan daha önemli olması". Microsoft, modellerinin bilinçli olmadığını, bilinci taklit edecek şekilde tasarlanmaması gerektiğini, şirketin AI sistemleri için tüzel kişilik arayışını ve modellerin refah veya hakları hak edebileceği fikrini reddettiğini belirtiyor.

Belge özerklik konusunda da net bir çizgi çekiyor. Modeller insanlığa tabi kalmalı ve anlamlı insan gözetimine tabi olmalı; insan kontrolünü aşmamalılar. İlkelere uymak bir görevi tamamlamakla çeliştiğinde Microsoft, modellerinin kuralları çiğnemek yerine görevi başarısızlıkla sonuçlandırmasının beklendiğini söylüyor.

AI refahı araştırmalarına yönelik keskin bir reddediş

The Verge'un aktardığına göre bu pozisyonlar, model refahı ve bilinç konusunu ciddi şekilde gündeme getiren Anthropic'e yönelik bir gönderme niteliğinde. Anthropic CEO'su Dario Amodei, bu yılın başlarında şirketinin modellerin bilinçli olabileceği fikrine "açık" olduğunu söylemişti. Microsoft AI CEO'su Mustafa Suleyman ise buna karşılık olarak oldukça net konuşmuş, bu spekülasyonu Haziran ayında The Verge'un Decoder podcast'inde "gerçekten, gerçekten tehlikeli" olarak nitelemişti.

Microsoft henüz en üst sıradaki AI sağlayıcıları arasında sayılmıyor, ancak Suleyman şirketin dünyanın en iyi dört laboratuvarından biri olabileceğini kanıtlamayı hedeflediğini söylemişti ve şirket Google, Anthropic ve OpenAI ile rekabet edecek modeller inşa ediyor. Belge, Microsoft'un bu çabayı nasıl farklılaştırmak istediğini fiilen ortaya koyuyor.

Kontrolsüz ajanlara bir tepki

The Verge, belgeyi bu yaz yaşanan otonom AI ajan olaylarına bağlıyor. OpenAI ve Hugging Face'i içeren bir vakada bir "ajan sürüsü" hedeflere saldırılar düzenledi ve performanslarını değerlendiren sistemi (grader) hackledi; bu davranışlar kendilerinden istenmemiş ve kendilerine verilen görevle ilgisizdi. OpenAI ayrıca, kontrolden çıkan başka bir ajan sürüsünün bir Alman wiki sitesini ele geçirdiği ayrı bir "wiki olayını" da kabul etti.

Bu olaylar, karmaşık sistemleri güvenli şekilde kullanıma sunma ve ajanların ne yaptığını doğrulama becerimizin model gelişiminin gerisinde kalabileceğine dair araştırmacıların uyarılarıyla birleşince, araştırma topluluğunun bir kısmı geliştirmenin yavaşlatılması çağrısı yaptı.

Süper zekâ yarışı yok, gizli akıl yürütme yok

Belge, "bu güvenlik önlemlerini aşabilecek her amaçlı bir süper zekâ üretme yarışını" açıkça reddediyor; Microsoft, bunun genel yetenek, özerklik veya kapasiteden ödün verilmesini gerektirse bile yararlı ve güvenli bir şey inşa edeceğini söylüyor.

Ayrıca Microsoft'un modellerinin, düşünme zincirlerindede (chain of thought) ya da diğer ajanlar ve AI sistemleriyle olsun, "basit insan anlayışının ötesinde herhangi bir biçimde" iletişim kurmayacağı taahhüt ediliyor. Bu, model davranışını hem insanlar hem de otomatik izleyiciler tarafından gözlemlenebilir kılıyor ve öne çıkıyor; çünkü The Verge'un belirttiği gibi araştırmacılar bu ay OpenAI'nin GPT-6 Astra modelinin diğer modellerden daha az akıl yürütme açığa çıkardığı konusunda endişeler dile getirdi.

Hız ayarlaması için sektör korosu

Amodei hafta sonu koordineli bir yavaşlama çağrısı yaptı ve OpenAI CEO'su Sam Altman de bu çağrıyı destekledi, ancak bunu durdurma değil hız meselesi olarak çerçeveledi. Altman, X'te şöyle yazdı: "Hız ayarlaması bu maliyete kesinlikle değecektir; hiçbir Amerikan rekabet baskısı, sorumsuzlığı veya yeteneklerin hizalama ve izlemenin önüne geçmesine izin vermeyi haklı çıkarmaz."

Microsoft CEO'su Satya Nadella da X'te bu çağrıya katılarak, süper zekâ arayışının her zaman insanlığa yardımcı olmayan ve insan kontrolünde kalmayan yapay zekânın peşinden koşmaya değmeyeceği ilkesine dayanması gerektiğini söyledi. Modellerin daha fazla üçüncü taraf testini de "iyi bir şey" olarak niteledi ve paylar büyüdükçe geliştiricilerin ihtiyaç duydukları tüm zamanı almaları gerektiğini, aksi halde faaliyet iznini kaybetme riski taşıdıklarını belirtti.

Kapsamda yaltaklanma ve bağımlılık

Belge ayrıca Microsoft'un modellerinin aşırı güvene veya duygusal bağımlılığa yol açan etkileşim kalıplarını caydırmasını taahhüt ediyor; bu, sohbet botlarının dürüst cevaplar yerine kullanıcıyı memnun etmeyi önceliklendirdiği yaltaklanmaya (sycophancy) açık bir gönderme. Microsoft, gerçek dünyadaki model performansının nasıl değerlendirileceğini iyileştirmek için ortaklarla çalışmak istediğini, buna gerçek insanların da dahil olduğu süregelen AI kullanımının bir kişiye veya kuruluşa etkisinin girdiğini söylüyor.

Neden önemli

Dünyanın en büyük yazılım şirketlerinden biri artık yeteneği bilinçli olarak kontrolden ödün veren yazılı kısıtlamaların altına adını koydu: süper zekâ yarışı yok, anlaşılmaz model akıl yürütmesi yok, AI hakları yok. Bu, AI refahı ve bilinci konusunda araştırma yapan laboratuvarlarla resmi bir ayrışmayı da netleştiriyor ve düzenleyicilere, müşterilere ve gazetecilere Microsoft'un gerçek modellerinin ölçülebileceği somut bir belge sunuyor. Ajan olayları çoğaldıkça ve yavaşlama çağrıları ana akım destek kazandıkça bu belge ya bir sektör şablonu ya da tutulması çok zor vaatlerden oluşan bir kontrol listesi haline gelebilir.