YAPAY ZEKA YARIŞI NEREYE GİDİYOR? “HEPİMİZİ ÖLDÜREBİLİR”

Anthropic Araştırmacısı Jacob Coxon: “On Yıl İçinde Hepimizi Öldürebileceğine İnanıyorlar”

Yapay zekâ şirketleri arasındaki yarış, sektörün içinden gelen sert bir eleştiriyi gündeme taşıdı. OpenAI ve Anthropic’te üç yıl boyunca ön-eğitim (pretraining) araştırmaları yürüten Jacob Coxon, Anthropic’ten istifa ettiğini açıklayarak her iki şirketi de sorumsuz davranmakla suçladı. Yapay zekâ şirketlerinin hızla kendi kendini geliştirebilen süperzekâya doğru ilerlediğini belirten Coxon, bu yarışın insanlığın geleceği açısından son derece tehlikeli olduğunu savundu.

Coxon’ın paylaşımındaki en çarpıcı ifadelerden biri ise şu oldu: “Hayatlarımızla kumar oynuyorlar.”

Üç yıl boyunca hem OpenAI hem de Anthropic bünyesinde yapay zekâ modellerinin ön-eğitimi üzerine çalışan Coxon, şirketlerin yapay zekâ sistemlerini giderek daha ileri ve otonom hâle getirme yarışının ciddi riskler taşıdığını düşünüyor.

Coxon, istifasının ardından daha ayrıntılı düşüncelerini de paylaşacağını belirterek, yapay zekânın geleceğine ilişkin tartışmayı yalnızca teknoloji şirketlerinin başarıları ve yeni ürünleri üzerinden yürütmenin yeterli olmadığını savundu.

“Bu, Bir Pazarlama Numarası Değil”

Coxon’ın açıklamasındaki en çarpıcı bölüm, yapay zekâ alanında çalışan bazı insanların teknolojinin önümüzdeki on yıl içinde insanlığın tamamını yok edebilecek bir tehdit hâline gelmesinden gerçekten korktuğu iddiası.

Araştırmacı, kamuoyuna yapılan açıklamalarla şirketlerin kapalı kapılar ardındaki tartışmaları arasında fark bulunduğunu öne sürüyor. Ona göre bazı yöneticiler ve kıdemli araştırmacılar, basında daha temkinli konuşurken özel görüşmelerde çok daha ciddi kaygılar dile getiriyor.

Coxon’ın iddiası, “Eğer gerçekten bu kadar tehlikeli olduğunu düşünüyorlarsa neden geliştirmeye devam ediyorlar?” sorusunu da yeniden gündeme getiriyor.

Araştırmacının cevabı ise rekabet baskısı: Şirketler, başka bir laboratuvarın kendilerinden önce bu teknolojiyi geliştireceğine inanıyorsa, riskli olduğunu düşündükleri yarıştan çekilmek yerine öne geçmeye çalışıyor.

Süperzekâ Kendisini Geliştirmeye Başlarsa Ne Olacak?

Coxon’ın korkusunun merkezinde “recursive self-improvement”, yani yapay zekânın kendi gelişim sürecini hızlandırabilmesi ihtimali bulunuyor.

Bugünkü yapay zekâ sistemleri insan mühendislerin ve araştırmacıların belirlediği sınırlar içinde çalışıyor. Ancak sistemler gelecekte yapay zekâ araştırmalarının kendisini yürütmeye, daha iyi modeller tasarlamaya ve kendi haleflerinin geliştirilmesine katkıda bulunmaya başlarsa, gelişme hızı bugünkünden çok farklı bir boyuta ulaşabilir.

Bu ihtimal artık yalnızca dışarıdan yöneltilen bir eleştiri değil. Anthropic de kendi araştırmalarında, yeterince ileri götürüldüğünde yapay zekâ sistemlerinin kendi haleflerini otonom biçimde tasarlayıp geliştirebileceği senaryosunu inceliyor.

Şirket böyle bir noktaya henüz ulaşılmadığını ve bunun kaçınılmaz olmadığını vurguluyor. Ancak konunun Anthropic’in kendi güvenlik araştırmalarının gündeminde bulunması, tartışmanın neden bu kadar önem kazandığını gösteriyor.

Anthropic’in Kıdemli Araştırmacısından Dikkat Çeken Yanıt

Coxon’ın sözleri, Anthropic’in önemli güvenlik araştırmacılarından Evan Hubinger’ın açıklamasıyla daha da dikkat çekici hâle geldi.

Hubinger, Coxon’ın yapay zekânın insanlığın tamamını yok edebileceğine ilişkin değerlendirmesine karşı çıkmadı. Aksine, kendisinin de böyle bir ihtimali ciddi biçimde değerlendirdiğini söyledi.

Hubinger, yapay zekânın önümüzdeki on yıl içinde bütün insanları öldürme ihtimaline kişisel olarak yüzde 10’dan daha yüksek bir olasılık verdiğini açıkladı.

Daha da çarpıcı olanı, Anthropic’in süperzekâ güvenliği konusunda henüz çözülmüş bir noktada olmadığını açıkça belirtmesiydi. Hubinger’a göre şirket elinden geleni yapmaya çalışsa da, süperzekânın “alignment” sorununu henüz çözmüş değil ve bu sorunun çözüleceğine dair kesin bir güvence de bulunmuyor.

Bu açıklama, Coxon’ın bütün sektör adına konuştuğunu kanıtlamıyor. Ancak Anthropic’in kendi saflarından gelen bu değerlendirme, yapay zekânın gelecekte insanlık için varoluşsal bir risk oluşturabileceği düşüncesinin marjinal bir görüş olmadığını gösteriyor.

Korkulan Teknoloji Neden Hâlâ Geliştiriliyor?

Ortaya çıkan tablo, yapay zekâ tartışmasının en zor sorusunu yeniden önümüze koyuyor:

Bir teknoloji insanlık için ciddi bir yok oluş riski taşıyabilir diye düşünülüyorsa, onu geliştirmek için neden hâlâ yarışılıyor?

Coxon’ın yanıtı, yapay zekâ sektöründeki rekabetin bu sorunun önüne geçtiği yönünde.

Bugün için ortada “2030’a kadar insanlık yok olacak” şeklinde kanıtlanmış bir bilimsel öngörü bulunmuyor. Coxon’ın açıklaması da böyle bir kesinlik iddiası değil. Ancak dünyanın önde gelen yapay zekâ laboratuvarlarında çalışan bazı araştırmacıların, gelecekte ortaya çıkabilecek süperzekânın insanlık açısından son derece ağır sonuçlar doğurabileceğini düşündüğü artık açıkça görülüyor.

Tartışmanın en ürkütücü tarafı şu: Yapay zekânın ne kadar güçleneceğinden çok, güçlendiğinde onu kimin kontrol edeceği henüz kesinleşmiş değil.

Mirat Haber – YouTube