Mount Shasta'ta Gemini ile planlanan tırmanışta erzak yetersiz kalınca üç dağcı kurtarıldı

Ne oldu

TechCrunch'ın haberine göre, üç genç adam tırmanışlarını Google'ın Gemini chatbot'u ile planladıkları için Kuzey Kaliforniya'daki Mount Shasta'tan kurtarılmak zorunda kaldı. TechCrunch'ın Chicago Tribune'e ve Siskiyou County şerif ofisinin raporuna dayandırdığı anlatım, adım adım kontrolden çıkan bir yolculuğu tarif ediyor.

Grup sabah saat 3'te yola çıktı. Dağdaki tırmanıcılara, öğlen saat 12'ye kadar zirveye ulaşamamışlarsa geri dönmeleri söyleniyor; şerif raporuna göre bu üçlü zirveye akşam saat 7'de ulaştı, yani dönüş noktasını yedi saat geçmiş olarak. Ardından karanlıkta inmeye çalıştılar, bir aşamada yol sormak için şerif ofisini aradılar ve geceyi Mud Creek Canyon'da geçirmeye mahkûm oldular. Orman Servisi ranger'ları ve gönüllüler onları ertesi sabah dışarı çıkardı.

Şerif ofisi ne dedi

En çok dikkat çeken ayrıntı erzakla ilgili. Şerif ofisine göre Gemini, gruba gerçekte ihtiyaç duyduklarından önemli ölçüde daha az yiyecek ve su götürmelerini önerdi — planladıkları yaklaşık sekiz saatlik tırmanış çok daha uzun bir çileye dönüştüğünde bu eksiklik kritik hale geldi.

TechCrunch, akılda tutulması gereken bir uyarı ekliyor: suçun ne kadarının chatbot'a ait olduğu belirsiz. Dağcıların kendi kararları — öğle dönüş saatinden çok sonra devam etmek ve ardından gece inişi denemek — sonucun oluşmasında açıkça rol oynadı. Ancak erzak önerisi, şerif ofisinin doğrudan yapay zekâ aracına bağladığı kısımdı.

Ofisin tavsiyesi nettı: yola çıkmadan önce doğru ve güncel bilgi almak için yerel ABD Orman Servisi Mount Shasta ranger istasyonunu arayın ve bir yolculuğu planlarken asla yalnızca yapay zekâya güvenmeyin.

Kendinden emin çıktı, yerel bilgi yok

Buradaki arıza türü, büyük dil modelleri için tanıdık bir durum. Chatbot'lar akıcı ve kendinden emin görünen yanıtlar üretir, ancak otoriter kaynaklar değildirler ve belirli bir günde belirli bir dağ hakkında doğrudan bilgiye sahip değildirler. Sert bir dönüş saati gibi yerel güvenlik gelenekleri üretilen bir rota planına girmeyebilir ve uzun bir tırmanışta su ihtiyacı gibi temel konulardaki tahminler, sayının güvenilmez olduğu yönünde kullanıcıya herhangi bir sinyal vermeden düşük kalabilir.

Dağ yolculuğunda paylar her şeyin özüdür: ekstra yiyecek, ekstra su, gün ışığı tamponu. Her şeyin yolunda gideceği varsayımına dayanan bir plan, tam da bir şeylerin ters gittiği gün tehlikeli hale gelir — Shasta'ta olan da buydu.

Neden önemli

Bu olay, yapay zekâ destekli planlamanın fiziksel dünyada sonuçlar doğurduğunun en net kamusal örneklerinden biri. Çoğu yapay zekâ hatası hikâyesinde halüsinasyonlu bilgiler, bozuk kodlar veya kötü özetler vardır; bundaysa iş bir şerif ofisine telefon, kanyonda bir gece ve ranger'larla gönüllüler tarafından gerçekleştirilen bir kurtarma operasyonuyla bitti.

Ayrıca olay, yetkililerin bu araçlardan bahsetme biçiminde de bir dönüm noktası. Bir ilçe kolluk kuvveti artık halka açıkça, yapay zekâyı kendi başına yeterli bir seyahat planlayıcısı olarak görmemesi gerektiğini söyledi — bu tavsiye, chatbot'ların tam da bu amaçla ne kadar rutin şekilde kullanıldığını örtükçe kabul ediyor.

Pratik ders daha çok "asla yapay zekâ kullanma" değil, "doğrula, sonra pay ekle" şeklinde. Bir chatbot araştırma ve organizasyon için makul bir başlangıç noktası olabilir, ancak çıktısının gerçekten yerel bilgiye sahip insanlar ve kaynaklarla karşılaştırılması gerekir ve yüksek riskli her plan, iyimser bir üretilmiş rotanın genellikle dışarıda bıraktığı ekstra yiyecek, su ve zamanı içermelidir.