Teknoloji Devlerinden BMGK’de Uyarı: Yapay Zekâda Kontrol Kaybı Riski!

OpenAI, Anthropic ve Hugging Face yöneticileri, yapay zekânın risklerini BMGK’ye taşıdı. Oturumda kontrol kaybı, biyolojik silah tehdidi ve küresel güvenlik standartları tartışıldı.

Birleşmiş Milletler Güvenlik Konseyi, yapay zekânın uluslararası güvenliğe etkilerini ele aldı. Fransa’nın çağrısıyla düzenlenen oturum, 23 Eylül’de New York’ta gerçekleştirildi. Toplantı, BM Genel Kurulu’nun üst düzey görüşmeleri sırasında yapıldı.

“Yapay Zekâ ve Uluslararası Güvenlik” başlıklı oturumda sektörün önde gelen isimleri konuştu. OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue değerlendirmelerini paylaştı.

Altman: İnsan denetimi korunmalı

Sam Altman, yapay zekâdaki hızlı ilerlemenin kontrol kaybına yol açabileceğini belirtti. Gücün az sayıda aktörde toplanmasını da temel riskler arasında gösterdi. Altman, insan denetimini koruyacak ulusal ve uluslararası standartlar istedi. Teknolojinin geleceğini belirleyen kararların birkaç şirketin elinde kalmaması gerektiğini vurguladı.

Amodei’den biyolojik silah uyarısı

Dario Amodei, yapay zekânın kötü yönetilmesi hâlinde insanlığın tamamını tehdit edebileceğini söyledi. Biyolojik silah geliştirmek amacıyla kötüye kullanım ihtimaline dikkat çekti. Amodei, modellerin geliştiricilerinin kontrolünü aşmasını da ayrı bir risk olarak değerlendirdi. Ortak test standartları ve önemli güvenlik olaylarının bildirilmesini sağlayacak mekanizmalar önerdi.

Hugging Face: Güç dengesizliği de tehlike

Clément Delangue, güvenlik olaylarının izlenmesi ve açıklanması için daha güçlü standartlar istedi. Yapay zekânın kapalı kapılar ardında geliştirilmesine yönelik eleştirilerini dile getirdi. Delangue, şirketler ve ülkeler arasındaki güç dengesizliğine dikkat çekti. Açık kaynak teknolojilerinin savunma kapasitesini güçlendirebileceğini savundu. Kararların yalnızca korku üzerinden şekillendirilmemesi gerektiğini belirtti.

Gelişmiş sistemler için lisans önerisi

Oturumda konuşan yapay zekâ araştırmacısı Yoshua Bengio, gelişmiş sistemler için lisans önerdi. Geliştiricilerin sorumluluk sigortası yaptırmasını da gündeme getirdi.

Bengio; kötüye kullanım, güç yoğunlaşması ve kontrol kaybını temel tehditler arasında sıraladı. Böylece toplantıda teknik güvenliğin yanında şirketlerin sorumluluğu da tartışıldı.