Apple, macOS uygulamalarında LLM ve agent çalıştırmak için Foundation Models çerçevesini ayrıntılarıyla anlattı

Her model için tek bir Swift API'si

Apple, macOS için Foundation Models çerçevesini ayrıntılandırdı; bu, uygulamaların içine büyük dil modeli özellikleri — hızlı özetlerden tam kapsamlı agent'lara kadar — eklemek için kullanılan yerel bir Swift API'si. Hacker News'te ortaya çıkan Apple'ın geliştirici dokümantasyonuna göre çerçeve, yalnızca Apple'ın kendi modelleri değil, bir uygulamada herhangi bir LLM'yi kullanmanın standart yolu olarak konumlandırılıyor.

Çerçeve, Apple Intelligence'ın merkezindeki cihaz üzeri temel modele doğrudan erişim sağlıyor; Apple'a göre bu model internet bağlantısı olmadan çalışıyor. Bir görev daha büyük bir model gerektirdiğinde aynı API, Claude ve Gemini gibi sunucuda barındırılan seçeneklere uzanıyor ve bunların tamamında tool calling ile guided generation destekleniyor. Üçüncü taraf sağlayıcılar, çerçevenin Language Model protokolüne uygun bir Swift package yayınlayarak bu ekosisteme katılabiliyor; Apple bu protokolü bir uygulama için doğru modeli seçmenin temel mekanizması olarak tanımlıyor.

Küçük geliştiriciler için ücretsiz Private Cloud Compute

Daha yoğun iş yükleri için Apple, Private Cloud Compute üzerinde çalışan Foundation Models hizmetini sunuyor. App Store Small Business Program'a kayıtlı ve ilk kez App Store'dan indirme sayısı iki milyonun altında olan geliştiriciler bu kapasiteyi hiçbir cloud API maliyeti olmadan kullanabiliyor. Apple, burada işlenen kullanıcı verilerinin saklanmadığını ve ne Apple'ın ne de başkasının erişemediğini iddia ediyor — gizlilik konumlandırması, bulut hizmetini geleneksel API sağlayıcılarından ayırıyor.

Dynamic Profiles agent geliştirmeyi hedefliyor

En agent odaklı özellik Dynamic Profiles: bir oturumun modelini, araçlarını ve talimatlarını çalışırken değiştirmeye yarayan bildirimsel API'lerden oluşan bir set. Geliştirici, oturumu tek bir yapılandırmaya kilitlemek yerine her biri kendi modeli, temperature değeri, reasoning seviyesi ve araç setiyle birkaç profil tanımlıyor ve oturum ortasında bunlar arasında geçiş yapıyor. Transkript her geçişte paylaşıldığı için uygulama, ekstra prompt'a gerek kalmadan bağlamı koruyor. Apple bu profilleri agent'lar, skill'ler ve diğer üst düzey soyutlamalar için uyarlanabilir yapı taşları olarak çerçeveliyor.

Görseller, test ve bir komut satırı aracı

Çerşeve multimodal prompt'ları kabul ediyor; böylece uygulamalar metnin yanına görseller ekleyebiliyor ve modelin görsel içerik hakkında akıl yürütmesini sağlayabiliyor. Vision çerçevesi doğrudan entegre edilmiş durumda; bu da modele hassas metin çıkarma için OCR ve hızlı tarama için barkod okuyucu gibi cihaz üzeri yetenekler kazandırıyor.

Geliştirici hikâyesini tamamlayan iki yardımcı bileşen daha var. Evaluations çerçevesi, prompt'ları test ediyor ve değişen koşullar altında AI destekli davranışı doğruluyor — Apple'a göre bu kapsam, unit test'lerin sağladığının ötesine geçiyor ve talimatlar üzerinde yineleme yaparken, model değiştirirken ya da bir profili ayarlarken önemli. Ayrıca macOS 27'deki yeni fm komut satırı aracı, hiçbir uygulama kodu yazmadan model iş akışlarını betikleme ve otomatikleştirmeyi destekliyor ve fikirden prototipe hızlı bir yol sunuyor.

Açık kaynak yardımcı araçlar ve bir Python SDK

Apple açık kaynak bileşenler de yayınladı. Bir utilities package, çerçevenin üzerine deneysel soyutlamalar ekliyor; bunlar arasında özel skill'ler, bağlam yönetimi yardımcıları ve geliştiricinin seçtiği barındırılmış bir modele bağlanabilen bir Chat Completions istemcisi var. Python için bir Foundation Models SDK ise çerçeveyi Python ekosistemine taşıyarak popüler Python araçları ve değerlendirme package'larıyla entegrasyona izin veriyor.

Dokümantasyon sınırları da çiziyor. Acceptable Use Requirements, Apple Foundation Models'ın yasak kullanımlarını listeliyor ve Apple, AFM 3 Cloud'u entegre etmeyi planlayan AI sistemi sağlayıcılarına bilgi sunduğunu, AB AI Act'in 53(1)(b) maddesine atıfta bulunarak belirtiyor.

Neden önemli

Apple, LLM entegrasyonunu her uygulamanın ayrı ayrı bağlamak zorunda olduğu bir şey değil, temel bir platform yeteneği olarak ele alıyor. Cihaz üzeri çıkarımı, Apple'ın gizlilik odaklı bulutunu ve Claude ile Gemini gibi üçüncü taraf sunucuları kapsayan tek bir Swift API'si geliştiricilere model sağlayıcıları arasında taşınabilirlik kazandırırken, Language Model protokolü sağlayıcılar tarafından oluşturulan package'lardan oluşan bir ekosistemi davet ediyor. Ücretsiz Private Cloud Compute katmanı, küçük uygulamalar için API maliyeti engelini kaldırıyor; Dynamic Profiles'ın Evaluations çerçevesi ve CLI ile birleşimi, Apple'ın agent özelliklerinin macOS yazılımının sıradan parçaları haline gelmesini beklediğini gösteriyor. Açık AI Act atfı da uyumluluk dokümantasyonunun artık bir AI platformu sunmanın bir parçası olduğu hatırlatması niteliğinde.