SelfHeal beta, çalışan Python uygulamalarına doğrulanmış ve geri alınabilir LLM yamaları getiriyor

SelfHeal beta aşamasında

SelfHeal adlı yeni bir proje, yazılım işletmenin daha yorucu yanlarından birine odaklanıyor: uygulama çalışırken ortaya çıkan arızalara. Sanu_sharma00 kullanıcısının dev.to'daki gönderisine göre SelfHeal, Python fonksiyonlarını sorunlar için izliyor — bir istisna ya da başarısız bir health check — ve bir büyük dil modelinden yama yazmasını isteyerek tepki veriyor. Onarılan kod, çalışma alanının izole bir kopyasında doğrulanıyor ve ancak testlerden geçtikten ve bir insan onay verdikten sonra canlı fonksiyonla değiştiriliyor. Paket, pip üzerinden pyselfheal-rt adıyla kuruluyor ve selfheal adıyla içe aktarılıyor. Duyuru, projeyi Rust çekirdeği etrafında kurulmuş bir Python SDK olarak tanımlıyor; kod GitHub'da sanusharma-ui/selfheal adresinde yayınlanmış durumda. Açıkça belirtildiği üzere proje beta aşamasında, bu yüzden kararlılık ve değişen arayüzler konusunda olağan uyarılar geçerli.

Onarım hattı nasıl çalışıyor

dev.to gönderisi, otonom bir yama uygulayıcısını kısa tasmada tutmak için tasarlanmış çok aşamalı bir akış ortaya koyuyor:

1. SelfHeal'ın izlediği bir fonksiyon, ya hata fırlatarak ya da health check'te başarısız olarak arızalanıyor.
2. Arıza bir LLM'e aktarılıyor ve bu modelden bir yama üretmesi isteniyor.
3. Yama, canlı sürece doğrudan uygulanmak yerine kopyalanmış bir çalışma alanında uygulanıyor.
4. Yamalı kod, sözdizimi kontrolü ve bir pytest çalışmasıyla doğrulanıyor.
5. Doğrulama başarılı olursa ve operatör onay verirse, çalışan fonksiyon onarılmış sürümle güncelleniyor.
6. Aktivasyon ardından başarısız olursa, SelfHeal önceki uygulamaya geri dönüyor.

İki tasarım tercihi öne çıkıyor. Birincisi, LLM hiçbir zaman doğrudan çalışan sisteme kod yazmıyor: çıktısı, başka her şeyden önce kopyalanmış çalışma alanını ve doğrulama aşamasını geçmek zorunda. İkincisi, onay kapısı sayesinde bir yama sessizce canlıya çıkamıyor — herhangi bir canlı kod değişikliğinden önce bir insan devrede, bu da üretime hizmet veren veya kullanıcı verisi işleyen her şey için önemli.

Doğrulama ve geri alma

Güvenlik hikâyesi büyük ölçüde doğrulama aşamasına dayanıyor. Sözdizimi kontrolü bariz şekilde bozuk çıktıları yakalıyor ve bir pytest çalışması, yamalı kodu aktivasyondan önce projenin mevcut testlerine karşı sınıyor. Bu da bir ekibin test paketinin kalitesini fiili güvenlik ağı yapıyor: zayıf kapsam zayıf bir kontrol anlamına gelirken, iyi test edilmiş bir fonksiyon hattın bir yamanın amaçlandığı gibi davrandığına dair gerçek kanıt sunuyor. Geri alma kalan boşluğu kapatıyor. Doğrulamadan geçen bir yama bile canlı koşullarla karşılaştığında yanlış davranabilir ve bu durumda araç fonksiyonun önceki sürümüne geri dönüyor. Amaç, kötü bir onarımın uygulamayı orijinal arızadan daha kötü bir duruma sokmaması. Otomatik kontrollerin ne yapmadığına da değinmek gerek: testlerin kapsadığının ötesinde yamanın doğruluğunu incelemiyorlar ve LLM'in düzeltmesinin bir belirti yerine kök nedeni ele alıp almadığını değerlendirmiyorlar. Bu tür yargılar insan onayı adımına düşüyor, bu da mekanik iş otomatikleşirken operatörü hâlâ relevant kılıyor.

Neden önemli

SelfHeal, küçük ama büyüyen bir nişte konumlanıyor: LLM'lerin sadece bir editörde kod önermekle kalmayıp canlı sistemler üzerinde harekete geçmesine izin veren araçlar. Çalışan bir süreci canlı yamalamak geleneksel olarak son çare olarak görülüyordu, çünkü yanlış bir değişiklik bir arızayı onarmak yerine büyütebilir. SelfHeal'ın yanıtı, otomatik onarımı ilk place'da mümkün kılan üç bileşeni — izole doğrulama, insan onayı ve geri alınabilir aktivasyon — bir LLM yama üretecinin üzerine bindirip sıradan bir Python kod tabanının belirli fonksiyonları opt-in yapabilmesi için paketlemek. Ekipler için ilginç soru şu: Bu model, kimse kritik yollara yönlendirmeden önce, güveni önce düşük riskli arızalarda — örneğin huysuz bir yardımcı fonksiyon veya flaky bir endpoint — kazanıp kazanamayacağı. Tek bir dev.to gönderisiyle duyurulan bir beta olarak SelfHeal, bitmiş bir üründen çok bir yön işareti. Ama yönün kendisi — doğrulama ve geri almayı sonradan ekilen değil birinci sınıf özellikler haline getiren, LLM destekli çalışan yazılım bakımı — izlemeye değer.