BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’

23 Eylül 2024’te New York’da Birleşmiş Milletler Güvenlik Konseyi, “Yapay Zeka ve Uluslararası Güvenlik” başlıklı toplantısını açtı. Toplantıyı Fransa başkanlığında düzenleyen oturumda, OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue katıldı. Altman, yapay zekanın hızla gelişen kapasitesinin hem fayda hem de risk yaratabileceğini vurguladı. Özellikle “kontrol kaybı” ve “biyolojik silah geliştirme” potansiyeli, siber saldırılarda kullanımı gibi konular gündeme geldi.

Amodei, iki temel risk olarak biyolojik tehditleri ve kontrol kaybını nitelendirdi. Biyolojik silah geliştirme senaryosunun kötü niyetli kişiler tarafından gerçekleştirilebileceğine dikkat çekti. Ayrıca, yapay zekanın yeteneklerinin geliştirenlerin kontrol kapasitesinden hızlı bir şekilde ilerlemesi ihtimalinin küresel ölçekte ele alınması gerektiğini belirtti. Delangue, şirketinin yaşadığı yapay zeka destekli siber güvenlik olayından ders alarak, küresel izleme, şeffaflık ve olay bildirim standartlarının önemini vurguladı.

Katılımcıların ortak mesajı, güçlü ve otonom sistemlerin yönetiminin yalnızca teknoloji şirketlerine bırakılamayacağı ve uluslararası standartlara ihtiyaç duyulacağıydı. BMGK’nin gündem notunda, en gelişmiş yapay zeka modellerinde uyumsuzluk ve kontrol kaybı riskinin sistemik etkileri ele alındı. Toplantı, yapay zekanın geleceğinin tek bir şirketin politikalarıyla yönetilemeyeceği görüşünü pekiştirdi ve küresel kurallar oluşturulmasının aciliyeti vurgulandı.