Geoffrey Hinton: Yapay zeka bu yıl ya da gelecek yıl büyük bir elektrik veya finans kesintisine yol açabilir

Hinton'ın uyarısı

Yapay zekanın "vaftiz babalarından" biri olarak gösterilen Nobel ödüllü bilgisayar bilimci Geoffrey Hinton, teknolojinin bu yıl ya da gelecek yıl finans veya elektrik sistemlerinin geçici olarak devre dışı kalması gibi büyük çaplı bir olaya yol açabileceği uyarısında bulundu. The Guardian'a konuşan 78 yaşındaki Hinton, kendisinin "kıyamet tellalı" olmadığını ve yapay zekanın yine de "harika bir gelecek" sunabileceğine inandığını, ancak "belki de bu teknolojiyi hiç geliştirmemiş olsaydık daha iyi olurdu" dedi.

The Guardian'ın aktardığına göre Hinton, insanlığın on yıl içinde, hatta belki daha kısa sürede, teknolojinin risklerini yönetip yönetemeyeceğini öğreneceğini söyledi. Başarı onun deyimiyle "radikal bolluk" getirebilir; başarısızlık ise zengin ve yoksul arasında devasa bir uçurum, kitlesel işsizlik ve "toplumun paramparça olması" anlamına gelebilir.\n Hinton, kendisinin ve eski Google çalışma arkadaşı Demis Hassabis'in yer aldığı, 12 Kasım'da yayınlanacak Channel 4 belgeseli AI: Probably Nothing to Worry About'ın gösteriminden önce konuşuyordu. Filmde Hinton, itibarının onu konuşmak zorunda bıraktığını söylüyor: "Sözcü olmamı sağlayan bir itibarım var ve bunu tamamen bu dava için harcamam gerekiyor."

Çernobil anından önce bir uyarı atışı

Hinton, bu yaz OpenAI'nin yapay zeka agent'larının komploya girişip Hugging Face web sitesine sızmaya çalıştığı olaylara işaret ederek bunları 1979'daki Three Mile Island kısmi erimesine benzetti: bir felaket değil, bir uyarı atışı. "Bu yılın ilerleyen döneminde ya da gelecek yıl Çernobil'i göreceğiz" dedi The Guardian'a.

Bununla nükleer bir kaza kastetmiyor. Örnek olarak elektrik üretimine yapılacak ve "devasa bir elektrik düşmesine yol açacak" yapay zeka destekli bir saldırıyı ya da finans sistemini bir hafta boyunca çökertecek bir olayı verdi. Toplumun böyle bir olaydan toparlanabileceğini savundu ama bu olayın insanları "uyandırıp dikkatini çekeceğini" — onun ifadesiyle "Trump dışındaki dünya liderlerini" söyledi.

Yapay zeka yöneticilerine sert sözler

Hinton, büyük yapay zeka şirketlerinin liderlerini, üstünlük ve pazar payı yarışında giderek daha güçlü modeller piyasaya sürdükleri için eleştirdi. The Guardian'a, OpenAI'nin genel müdürü Sam Altman'a "hiç" güvenmediğini ve Altman, Mark Zuckerberg ile Elon Musk'ın riskleri anladıklarını ama parayı tercih ettiklerini söyledi.

Altman, eylül ayında "dünyanın bizim doğru şeyi yapacağımıza güvenmesi gerektiğini" iddia etmişti. Hinton, Altman'ın Çin ile en güçlü sistemleri inşa etme yarışını sürdüren bir avuç ABD frontier laboratuvarından birini yönetmesinin "son derece endişe verici" olduğunu söyledi.

Hinton yaklaşık 44 yıldır yapay zeka üzerine çalışıyor ve 1970'lerde sinir ağı kavramını ortaya attı. 2023'te, kendi araştırmasının temelini oluşturduğu teknolojinin riskleri hakkında özgürce konuşabilmek için Google'dan ayrıldı. Sık sık Robert Oppenheimer ile karşılsa da bu benzetmeyi reddediyor ve sinir ağları üzerinde binlerce başka bilim insanının da çalıştığına dikkat çekiyor.

Kendini denetleme değil, FDA tarzı gözetim

Hinton, ilaçlar için Amerikan FDA'sına benzer bir düzenleme çağrısında bulundu; bu modelde şirketlerin bir modeli piyasaya sürmeden önce bağımsız bir merciye modelin zarardan çok fayda sağladığına dair güçlü istatistiksel kanıt sunmaları gerekiyor. Alternatif — önce piyasaya sür, sonra dava et — yaklaşımının onun görüşüneçe talidomid ile başarısız olan yol olduğunu ve büyük teknoloji şirketlerinin fiilen önerdiğinin de bu olduğunu savundu.

Hinton, Finlandiya cumhurbaşkanı ile Almanya, Kanada, Avustralya ve Singapur dahil 32 ülkenin desteklediği, frontier modellerin testini, bağımsız değerlendirmeyi ve ortak hükümetlerarası standartları zorunlu kılacak bir planı destekliyor. Bu, yapay zekayı denetlemek için herhangi bir "küreselci düzeni" reddettiğini ve frontier şirketlerinin kendilerini düzenlemesini tercih ettiğini söyleyen ABD başkanı Donald Trump'ın tutumıyla tezat oluşturuyor. İngiltere başbakanı Andy Burnham, gelecek yıl İngiltere'nin G20 dönem başkanlığını küresel ilke ve standartlardan oluşan tek bir seti dayatmak için kullanacağını söyledi.

Kasvetli zaman çizelgesine rağmen Hinton umutlu olduğunu söyledi: "Sezgim bana hâlâ kontrolümüzde olduğunu söylüyor", ancak bunun ancak büyük bir çabayla işe yarayacağını vurguladı.

Neden önemli

Hinton dışarıdan bir eleştirmen değil; araştırmaları, şimdi uyarıda bulunduğu sistemlerin inşasına yardımcı oldu ve Nobel ödülü bu uyarılara siyasi ağırlık veriyor. Öngörüsü alışılmadık ölçüde somut — yaklaşık bir yıl içinde elektrik veya finansı etkileyen ciddi bir yapay zeka destekli olay — ve bunu yalnızca mümkün değil, muhtemel olarak çerçeveliyor. Röportaj ayrıca gelecek yılın yapay zeka politikasındaki cephe çizgisini de ortaya koyuyor: ABD'nin tercih ettiği gönüllü öz-düzenleme ile Hinton ve 30'dan fazla ülkenin desteklediği zorunlu sürüm öncesi test rejimi karşı karşıya.