Microsoft, okullar için bağlayıcı yapay zeka güvenliği ve gizlilik ilkelerini benimsedi

Microsoft, Amerika Birleşik Devletleri'nin ikinci en büyük öğretmen sendikası olan American Federation of Teachers (AFT) ve onun New York şubesi United Federation of Teachers (UFT) ile yapılan anlaşma kapsamında, okullardaki yapay zeka için on güvenlik ve gizlilik ilkesini kabul etti. The Verge'in haberine göre, bu şartlar bunları benimseyen her okul bölgesi tarafından sözleşme yoluyla bağlayıcı kılınabilecek şekilde tasarlandı — bu da yapay zeka ürünlerini genellikle düzenleyen gönüllü taahhütlerden daha sağlam bir zemin sunuyor.

İlkeler neleri kapsıyor

Taahhütler arasında, yapay zeka modellerinin öğrenci veya eğitimci verileriyle eğitilmemesi sözü, Microsoft'un baştan topladığı veri miktarına sınırlamalar getirilmesi ve araçlarının nasıl çalıştığına ilişkin ailelere sade bir dille bilgilendirme yapılması yer alıyor. Anlaşma ayrıca yapay zeka arkadaşlarını yasaklıyor ve "yüksek riskli" kararların insan tarafından gözden geçirilmesini şart koşuyor.

The Verge'in aktardığına göre, Kasım ayından itibaren okul bölgeleri bu şartları, tüm sözleşmelerini yeniden müzakere etmek zorunda kalmadan yeni veya mevcut Microsoft anlaşmalarına ekleyebilecek — bu mekanizma, benimsenmenin olabildiğince sorunsuz olmasını amaçlıyor.

Microsoft neden şimdi hareket etti

Anlaşma, ABD'nin en büyük iki okul sisteminin — New York ve Los Angeles'un — birçok öğrenci için yapay zeka araçlarına bir yıllık yasaklar getirmesinin ve bu bölgelere uygun kullanımı ve güvenceleri değerlendirme zamanı tanımasının ardından bir hafta sonra duyuruldu. Ebeveynlerin ve bazı eğitimcilerin sınıflardaki yapay zekaya ve ekranlara daha genel bir şekilde direnmesiyle, Microsoft'un başka yerlerde de benzer kararlara hazırlıklı olduğu görülüyor.

Yalnızca itiraz eden değil, müzakere eden bir sendika

AFT, okullardaki teknolojiyi sert biçimde eleştirirken, yapay zekanın gelişinde teknoloji şirketleriyle iş birliğine açık olmayı sürdürdü. Mayıs ayındaki bir konuşmada AFT Başkanı Randi Weingarten, üçüncü sınıftan önce ekranların ve ortaokuldan önce "öğrenciye yönelik yapay zekanın" yasaklanması çağrısında bulundu. Aynı dönemde sendika, Anthropic, Microsoft ve OpenAI tarafından finanse edilen 23 milyon dolarlık bir eğitimci yapay zeka eğitim merkezi duyurdu.

Microsoft anlaşmasıyla ilgili yorum yapan Weingarten, şartları "demir gibi sağlam" olarak niteledi ve bunların gerektiğini, çünkü "federal hükümet dahil kimsenin gerçek işi yapmaya öne çıkmadığını" söyledi. Şöyle ekledi: "Giderek daha çok öfkelenabiliriz ya da kararlı biçimde hareket edebiliriz; hukuken bağlayıcı hükümlerden aşağısı sadece bir dilek listesidir."

Neden önemli

Büyük tedarikçilerin çoğu yapay zeka güvenliği taahhüdü, müşterilerin onları kolayca uygulanamayacağı politika beyanları olmaya devam ediyor. Bu anlaşma, gizlilik ve güvenlik vaatlerini okul bölgelerinin uygulayabileceği sözleşme şartlarına dönüştürüyor ve ülkedeki her bölgeye hazır bir şablon sunuyor: Kasım ayından itibaren bu dili benimsemek için sözleşmenin tümünün yeniden müzakeresine gerek kalmayacak.

Aynı zamanda bu, tedarikçilerin yerel siyasi baskıya nasıl yanıt verdiğinin bir vaka çalışması. Weingarten federal adım atılmadığını savunurken ve en büyük ABD okul bölgeleri öğrenciye yönelik yapay zekayı tamamen yasaklamaya hazırken, bağlayıcı sözleşme dili, Microsoft gibi bir şirketin araçlarını eğitimcilerin kabul edebileceği şartlarla sınıflarda tutmasının bir yolu hâline geliyor. Benimseme geniş ölçekli olursa, AFT–Microsoft anlaşması sessizce ABD kamu eğitiminde yapay zeka için fiili taban standart hâline gelebilir — ve diğer sendikalarla eğitim teknolojisi alıcılarının atıfta bulunması muhtemel bir emsal oluşturabilir.