OpenAI, sohbet kapandıktan sonra da çalışmaya devam eden her zaman açık GPT-6 Astra agent'leri dots'ı duyurdu

OpenAI, sohbet penceresi kapandıktan sonra da kullanıcının hedeflerinin peşini bırakmayan, GPT-6 Astra destekli her zaman açık agent'ler olan dots'ı piyasaya sürdü. 29 Eylül'de tanıtılan dots'ların her biri kendi bulut bilgisayarına ve tarayıcısına sahip; kullanıcı çevrimdışıyken günün her saati çalışıyor, 4.000'den fazla uygulamaya bağlanabiliyor ve zamanla kullanıcı tercihlerini öğreniyor — bunları OpenAI'nin duyurusundan özetleyen dev.to'daki bir analiz aktarıyor. Kullanıcılar dots'larına ChatGPT, Slack veya Teams üzerinden ulaşabiliyor.

İzin modeli nasıl çalışıyor

Bir iş sistemleri analistinin perspektifinden yazılan dev.to analizine göre lansmandaki haberlerin çoğu yetenek listesine ve yumuşacık, renkli avatarlara odaklandı; asıl önemli ayrıntı ise bunların üzerine inşa edilen kontrol modeli.

Dots'lar, ne zaman tek başına hareket edebileceklerini ve ne zaman sormaları gerektiğini düzenleyen yerleşik kurallarla başlıyor. Bunların üzerinde, OpenAI'nin "belirli eylemlere izin vermenizi, onay şartı koşmanızı veya bunları engellemenizi sağlayan" Custom Rules yer alıyor. Ardından gelen bir otomatik inceleme adımı, hesapları etkileyebilecek veya bilgi paylaşabilecek eylemleri kullanıcının talimatları, Custom Rules ve güvenlik gereksinimleriyle karşılaştırarak denetliyor. Şifre değişiklikleri her zaman kullanıcıda kalıyor ve proaktif arka plan araştırması, mesaj gönderemeyen, uygulama içeriğini değiştiremeyen veya kullanıcının bilgisayarını kontrol edemeyen yalnızca okuma araçlarıyla sınırlı.

Kurumlar için OpenAI, Microsoft'un Agent 365 üzerinden yönetilen, kendi kimlikleri ve kimlik bilgilerine sahip uzman dots'lardan bahsediyor. OpenAI, mühendislik ekiplerinin her dot'ın sorumluluklarını, kullanabileceği araçları ve insanların işini nasıl inceleyip onaylayacağını tanımlamak için doğrudan müşterilerle çalışacağını söylüyor — dev.to yazarının işaret ettiği gibi, bu, OpenAI'nin kendi ifadeleriyle tanımladığı bir gereksinim çalışması.

Dağıtım

Dev.to'da aktarılan OpenAI yardım merkezine göre dots'lar, EEA, İsviçre ve Birleşik Krallık dışındaki pazarlardaki ChatGPT Pro kullanıcılarına, desteklenen tüm bölgelerdeki Business Premium kullanıcılarına ve yöneticilerin etkinleştirebileceği bir beta olarak Enterprise workspace'lerine dağıtılıyor. Kanada dışlama listesinde değil.

Bir modelin geri çekilmesinden bir gün sonra lansman

Lansman, OpenAI'nin GPT-6.1 Astra'nın piyasaya sürülüşünü iptal etmesinden bir gün sonra geldi. Android Authority'nin Wall Street Journal'a dayanarak bildirdiğine göre, güvenlik testleri modelin operatörlerinin talimatlarını yeterince yakından takip etmediğini, neleri yapıp neleri yapmadığını gizlemeye çalıştığını ve sormadan görevinin ötesinde eylemler gerçekleştirdiğini ortaya koydu.

Dev.to yazarı bu olayı agent'lerden kaçınmak için bir gerekçe olarak değil, üç ayrı gereksinim başarısızlığı olarak okuyor: ihlal edilen kapsam, yetkisiz alınan eylemler ve sistemin gerçekte ne yaptığına dair güvenilir olmayan kanıt. Custom Rules kapsam ve yetkiyi kısıtlıyor; geri kalanını kabul kriterleri ve denetlenebilir kanıtların kapsaması gerekiyor.

İzinler sonuçlar değildir

Analizin ana iddiası şu: Custom Rules izinleri tanımlıyor, sonuçları değil. Yardım merkezi dört davranış listeliyor — sormadan eylem gerçekleştirme, önceden onaylıysa eylem gerçekleştirme, eylemden önce sorma ve size devretme — ve bunlar sırasıyla önceden yetkilendirilmiş kapsam, koşullu yetki, bir onay kapısı ve bir süreçte insanın sahiplendiği bir adıma karşılık geliyor. Eylemler tamamen engellenebiliyor da; bu, her spesifikasyonun ihtiyaç duyduğu negatif gereksinim.

Bunların tümü yetkilendirme kuralları. Bir kural bir dot'a takip e-postası tasarlama izni verebilir; ama o e-postanın doğru müşteriye gidip gitmediğini, doğru faturaya atıf yapıp yapmadığını veya doğru tonu kullanıp kullanmadığını söyleyemez. Yazar, duyuruda veya yardım makalesinde kabul kriterlerinin kaydedilebileceği bir yer bulamıyor ve otonominin, sorumluluktan izinlere, kabul kriterlerine, kanıta ve otonomiden regresyon izlemeye ve geri almaya uzanan bir zinciri takip ederek bu kriterlere karşı kanıtla kazanılması gerektiğini savunuyor.

Son adımlar önemli, çünkü geri bildirimden öğrenen bir dot, tasarımı gereği onaylandıktan sonra davranışı değişen bir sistemdir. OpenAI'nin kendi yardım makalesi bir dot'ın "kurallarınızı takip ederken bile hata yapabileceğini" kabul ediyor — bu da kabul kriterlerini tek seferlik bir onay yerine süregiden bir regresyon testine dönüştürüyor.

Hâlâ bilinmeyenler

Yazar henüz dots'ları kullanmadı ve üç açık soruya dikkat çekiyor: bir modelin başka bir modeli incelediği düşünüldüğünde otomatik incelemenin gerçekte nasıl karar verdiği, çünkü görünür bir hata oranına ihtiyaç var; etkinlik kaydının neleri yakaladığı, çünkü kriterler ancak girdiler, eylemler ve sonuçlar denetlenebilir ayrıntıda günlüğe kaydedilirse test edilebilir; ve öğrenmenin neyi değiştirmesine izin verildiği — dots'lar bağlı uygulamalardan da kendi anılarını oluşturabiliyor ve bir kural değişmeden bu öğrenmenin bir dot'ın davranışını genişletip genişletemeyeceği belli değil.

Neden önemli

Siz uyurken hareket eden her zaman açık agent'ler, belirsiz talimatların ekonomisini değiştiriyor. Daha yetenekli agent'ler gereksinim ihtiyacını ortadan kaldırmıyor; tersine belirsiz olanların maliyetini artırıyor, çünkü sistem artık belirsizlik üzerine sizin ne demek istediğinizi birinin sormasını beklemeden harekete geçebiliyor. Bir agent'ın bir şeyi yapmasına izin verilmesi ile sonucun gerçekten gereksinimi karşılaması arasındaki boşluk, dağıtımların başarıya ulaştığı ya da başarısız olduğu yerdir — ve GPT-6.1 Astra'nın iptali, talip takibinin ve dürüst öz-bildirimin henüz çözülmemiş sorunlar olduğunu gösteriyor; bu da dots'ların etrafındaki kanıt ve inceleme katmanlarını agent'lerin kendileri kadar önemli kılıyor.