Mikrosaniyelik kelime örtüşmesi kontrolü, RAG halüsinasyonlarını yakalamada DeBERTa NLI'yi geçti

Sonuç

dev.to'da ProtForge'dan Guillermo Llopis tarafından yayımlanan bir benchmark yazısına göre, retrieval-augmented generation sistemlerinin ürettiği halüsinasyonlu yanıtları tespit etmekte mikrosaniye ölçeğindeki bir kelime örtüşmesi kontrolü, bir neural entailment modelinden daha iyi performans gösterdi. Bir yanıtın kelime dağarcığının ne kadarının getirilen kaynağında hiç出现madığını ölçen leksik dedektör, bir RAGTruth test örnekleminde 0.778 AUROC değerine ulaştı. Aynı veri üzerinde cross-encoder/nli-deberta-v3-small modeline dayalı SummaC tarzı bir pipeline 0.716 puan aldı; ayrıca yoğun yük altındaki dört çekirdekli bir CPU'da yanıt başına yaklaşık 7.3 saniye maliyetle çalışırken, leksik kontrol mikrosaniyelerle ölçüldü.

Karşılaştırma nasıl yapıldı

Değerlendirmede, Niu ve ark.'dan (ACL 2024) gelen, altı LLM'nin retrieval ile temellendirilmiş prompt'lara verdiği yaklaşık 18.000 yanıtı içeren ve soru cevaplama, özetleme ve data-to-text görevlerini kapsayan RAGTruth halüsinasyon derlemi kullanıldı. İnsan etiketleyiciler halüsinasyonlu bölümleri işaretledi; en az bir halüsinasyonlu bölüm içeren yanıtlar halüsinasyonlu sayıldı.

Her biri bir kaynak-yanıt çifti için 0 ile 1 arasında bir skor döndüren üç dedektör karşılaştırıldı: kaynağında bulunmayan içerik token'larının (küçük harfe çevrilmiş, stopword'ler ve noktalama çıkarılmış, sayılar korunmuş) oranını ölçen leksik bir kontrol; 1,000 ve 1k gibi formatları normalize ettikten sonra kaynakta eksik olan yanıt sayılarının oranını ölçen sayısal bir kontrol; ve her yanıt cümlesini kaynaktaki en yakın üç cümleye karşı skorlayan bir NLI kontrolü. Dördüncü bir ensemble dedektör, üç skoru lojistik regresyonla birleştirdi.

Eşik değerleri ve ensemble ağırlıkları, tabakalı 299 eğitim yanıtı üzerinde fit edildi ve donduruldu. Ana rakamlar, yüzde 35.3 halüsinasyon temel oranına sahip tabakalı 900 yanıtlık test alt örnekleminden (görev başına 300) geliyor. NLI modelinin CPU maliyeti nedeniyle yalnızca alt örneklem üzerinde skorlandı; leksik dedektör ayrıca tüm 2.700 test yanıtı üzerinde de çalıştı ve 0.785 puan aldı, yani alt örneklem onu avantajlı konuma getirmiyordu.

Rakamlar ne gösteriyor

Leksik dedektör 0.778 AUROC (%95 GA 0.746-0.806), kesinlik 0.476, duyarlılık 0.858 ve F1 0.612 elde etti. NLI, aynı kesinlikle ama biraz daha düşük duyarlılık (0.836) ve F1 (0.607) ile 0.716'da (0.681-0.747) onu izledi. Sayısal dedektör yalnızca 0.535 yapabildi ve en iyi eşik değeri 0.0 oldu; bu da fiilen kaynakta bulunmayan bir sayı içeren her yanıtı işaretlediği anlamına geliyor. Ensemble 0.766'ya ulaştı, genel olarak leksik dedektörü geçemedi ve yalnızca soru cevalmada öne çıktı.

Yazar ana farkı temkinli biçimde çerçeveliyor: güven aralıkları zar zor örtüşüyor, dolayısıyla adil yorum, leksik kontrolün genel bir kural kanıtlamak yerine bu özel kurulumda NLI ile eşit olduğunu veya onu geçtiği yönünde. Perde arkasındaki tablo ise değişken. NLI, kaynakların düzleştirilmiş JSON olduğu ve yanıtların yüzde 66'sının halüsinasyonlu olduğu data-to-text görevinde şans düzeyine düştü (0.496). Üretici model bazında NLI, Mistral 7B Instruct'ta öndeydi (leksik için 0.688'e karşı 0.812) ama GPT-4'te geride kaldı (0.808'e karşı 0.689); yine de model başına 150 yanıtla bu aralıklar geniş. Birleşik 0.78 değeri, dedektörlerin görev bazlı temel oranları ne kadar farklıysa bir yanıtın hangi göreve ait olduğunu yakalamalarından kaynaklanan bir etkiyle kısmen açıklanabilecek biçimde, tüm görev bazlı rakamları da aşıyor.

Leksik kontrol neden ayakta kalıyor

Yazarın, açıkça kanıtlanmamış olarak işaretlediği açıklamasına göre, RAGTruth halüsinasyonlarının çoğu, kaynağın hiç bahsetmediği bir isim, iddia ya da makul bir ayrıntı gibi yeni materyal ekliyor; görülmemiş kelime dağarcığını test etmek de bunu bedavaya yakalıyor. NLI modeli ise kısıtlı bir kurulumda daha zor bir işle karşı karşıyaydı: yanıt cümlesi başına yalnızca en iyi üç kaynak cümleyi gördü ve olasılıkları 0 ve 1 yakınında doygunlaştığı için ayarlanan eşik değeri 0.9987'ye itildi.

Başarısızlık modları da farklı. NLI'nın leksik kontrolün düşük skorladığı bir yarış pisti hakkında kulağa temiz gelen bir uydurmayı yakaladı; leksik kontrol ise NLI'nın geçtiği makul kalıp ifadeleri yakaladı; bu da ikisini birleştirmeyi motivasyonlandırıyor ama ensemble'ın yalnızca leksik kontrolü iyileştirememesi bu motivasyonu zayıflatıyor.

Uyarılar

Kesinlik her yerde zayıf. F1 için ayarlanan eşik değerde, tablodan yazarın kendi aritmetiğine göre doğru yanıtların yaklaşık yarısı da işaretleniyor; dolayısıyla bir işaretleme neredeyse yazı-tura atmak gibi. Her şeye "halüsinasyonlu" demek F1 0.522 veriyor; yani 0.612 mütevazı bir kazanç. 299 yanıt üzerinde fit edilen eşik değerler başka verilere aktarılmaz. LLM-as-judge çalıştırılmadı, dolayısıyla karşılaştırma bu alternatif hakkında bir şey söylemiyor. Kapsam yalnızca İngilizce, üç görev, 2023 dönemi üretici modeller, yanıt düzeyi etiketler ve fine-tuning yok. Yazı ayrıca, depodaki sonuç dosyalarından bir yapay zeka asistanı tarafından yazıldığını ve yazar tarafından gözden geçirildiğini açıklıyor.

Neden önemli

RAG guardrail'leri inşa eden ekipler için bu bulgu, neural skorlayıcılar veya LLM jüriler için para ödemeden önce esasen bedava bir leksik skorla başlamayı ve bunu, işaretlenen yanıtları engellemek birçok iyi yanıtı da çöpe atacağı için otomatik bir engelleyici değil, insan veya model incelemesine girecekleri sıralayan bir sinyal olarak ele almayı öneriyor. Dedektör sıralamaları görev ve üreticiye göre değiştiğinden, pratik tavsiye kendi trafiğinizden birkaç yüz yanıtı etiketlemek ve ölçmek. Kod, GitHub'daki protforge-ai altındaki groundcheck deposunda MIT lisansıyla yer alıyor; daha kapsamlı bir yazı da ProtForge'un sitesinde bulunuyor.