Musubi, gerçek zamanlı içerik moderasyonu için karar modeli PolicyLM-1.7B'yı açık kaynak yaptı

Musubi açık ağırlıklı bir moderasyon modeli yayımladı

Musubi, gerçek zamanlı içerik moderasyonu için geliştirilmiş hafif bir karar modeli olan PolicyLM-1.7B'yı yayımladı ve açık ağırlıklarla sunuyor. TechCrunch'a göre şirket, modeli Salı günü duyurdu ve düz İngilizceyle yazılmış bir içerik politikasını alıp tek tek mesajlara 50 milisaniyenin altında uygulamanın bir yolu olarak konumlandırdı.

Bu ürün, moderasyon sistemlerinin nadiren aynı anda sağlayabildiği iki şeyi birleştirmeye çalışıyor. TechCrunch'ın haberine göre PolicyLM, bugün çoğu sosyal platformda moderasyonu yürüten classifier sistemleriyle yaklaşık aynı maliyette ve hızda çalışacak şekilde tasarlandı. Ancak modern bir büyük dil modeliyle aynı transformer mimarisi üzerine inşa edildiği için karmaşık politikaları özel bir eğitim olmadan uygulayabiliyor ve kritik nokta şu: bir politika değiştiğinde yeniden eğitilmesi gerekmiyor. Bu son madde sunumun özünü oluşturuyor: platform kurallarını yazan insanlar, bir eğitim pipeline'ına dokunmadan istedikleri kadar revize edip yineleyebiliyor.

Musubi'nin kurucu ortaklarından ve yapay zeka sorumlusundan Filip Jankovic, TechCrunch'a modelin platform yöneticilerine içeriği proaktif biçimde etiketleme imkânı verdiğini söyledi. "Ürün ekipleri, özellikle içerik miktarı üstel biçimde artarken, platformlarında neler olduğuna dair daha iyi bir anlayış istiyor," dedi Jankovic. "Tüm bunları çok ölçeklenebilir ve özelleştirilebilir bir şekilde etiketleyebilmek son derece faydalı."

Kısaca karar modelleri

TechCrunch'a göre karar modelleri, Typesafe AI'nın Eylül'de Jev modelini yayımlamasının ardından yapay zeka dünyasının gözde bir alanı hâline geldi; OpenAI ve Amazon'un rakip karar modelleri de kısa süre sonra geldi. Bir karar modeli metin üretmek yerine sonuç olasılıkları üretir. PolicyLM'de ise çıktı ikilidir: bir mesaj ya belirli bir politika kategorisine girer ya girmez. Modeli sabit bir olası cevap kümesiyle kısıtlamak, bu sistemlerin tam LLM'lerden daha hızlı ve ucuz çalışmasını sağlarken temeldeki mimarinin esnekliğini koruyor.

TechCrunch'ın belirttiğine göre teknolojinin erken kullanım alanlarından biri yapay zeka ajanlarının kötü davranışlarını dizginlemek oldu; Musubi'nin bahsi ise aynı mekanizmanın insanların kötü davranışlarına yönlendirilebileceği yönünde.

Jankovic, karar modellere ilgisinin Jev'den öncesine dayandığını söylüyor. TechCrunch'ın aktardığına göre bu soy çizgiyi, aynı tekniklerden çoğunu kullanan adlandırılmış varlık tanıma için genel amaçlı bir model olan 2024 tarihli GLiNER projesine kadar götürüyor. Musubi bu karşılaştırmadan da çekinmiyor. Ürün duyurusu, Jev dikkatlerini çektiyse PolicyLM-1.7B'nin tam da o türde, özellikle içerik moderasyonu için eğitilmiş ve kendilerinin çalıştırabileceği bir model olduğunu okuyuculara söylüyor.

Neden önemli

Ölçekte moderasyon her zaman bir ödünleşim dayatmıştır. Classifier sistemleri hızlı ve ucuzdur ama katıdır: birini yeni bir politikaya uyarlamak genellikle yeni etiketli veri ve bir yeniden eğitim döngüsü demektir. LLM'ler bir politikayı talimat olarak okuyacak kadar esnektir ama her tek mesaja karşı çalıştırmak için fazla yavaş ve pahalıdır. PolicyLM bu ödünleşimi ortadan kaldırmayı hedefliyor: classifier ekonomisiyle prompt olarak politika. Tarif edildiği gibi performans gösterirse güven ve güvenlik ekipleri politika güncellemelerini makine öğrenimi projelerinden çok yapılandırma değişiklikleri gibi ele alabilir ve bir kuralı yazmayla onu uygulamaya koyma arasındaki gecikmeyi kısaltabilir.

Açık ağırlıklı yayım, mimari kadar önemli. Modeli herkes indirip kendi sunucusunda barındırabildiği için, kendi moderasyon altyapısını asla kuramayacak küçük platformlar, araştırmacılar ve topluluklar inceleyip uyarlayabilecekleri ciddi bir başlangıç noktası kazanıyor. Bu ayrıca, karar modellerin sektör genelinde yeniden ilgi gördüğü bir anda daha geniş alanı Musubi'nin iddialarını test edebilecek somut bir eser de sağlıyor.