Çin’den yapay zeka uyarısı: Kitle imha silahı üretebilir

Çin, yapay zekanın aşırılıkçı gruplar ve terör örgütlerince kitle imha silahları üretmek için kullanılabileceği uyarısında bulundu.

Çin’de yapay zeka teknolojilerine ilişkin yeni yayımlanan güncel risk değerlendirmesinde, yapay zekanın aşırılıkçı gruplar ve terör örgütlerince kitle imha silahları üretmek için kullanılabileceği uyarısına yer verildi. Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ile Ulusal Bilgisayar Ağı Acil Durum Yanıt Teknik Ekibi, “Yapay Zeka Güvenlik Yönetimi Çerçeve Belgesi”nin güncel versiyonunu yayımladı. Yapay zeka teknolojisinin sağladığı gelişen bilgi işleme kabiliyetleriyle sıradan insanlara dahi yıkıcı silahların yapımını öğrenme şansı verebileceğine değinilen belgede, kitle imha silahları ve kritik silah sistemlerinin üretimine dair bilgi ve kabiliyetler üzerindeki kontrol kaybının risklerine işaret edildi. Yapay zeka sistemlerinin eğitmek üzere aralarında nükleer, biyolojik ve kimyasal silahlar ile füze sistemlerine ilişkin temel teorik bilgilerin de yer aldığı içerik bakımından oldukça geniş derlemeler ve verilerden yararlandığına dikkat çekilen belgede, “Yeterli denetim yapılmazsa aşırılıkçı gruplar ve teröristler, yapay zeka vasıtasıyla bu tür silahların tasarımı, imalatı, sentezlenmesi ve kullanılmasına ilişkin bilgileri edinip bu kabiliyetleri geliştirebilirler.” uyarısına yer verildi.

“BARIŞA YÖNELİK RİSKLERİ ARTIRABİLİR” Belgede, yapay zeka sistemlerinin “erişim destekli bilgi üretimi” adı verilen teknikle bir probleme yanıt vermeden önce internet üzerindeki geniş ölçekli güncel verileri taradığı hatırlatılarak, bunun mevcut kontrol sistemlerini etkisiz kılarak barışa ve güvenliğe yönelik riskleri yoğunlaştırabileceği vurgulandı. Bir yapay zeka uygulamasının güvenilir olabilmesi için insan kontrolünün yitirilmemesinin temel ilke olması gerektiğinin altı çizilen belgede, yapay zekanın insan gibi iletişim kurmasının ve öz-farkındalık kazanmasının tehlikelerine dikkat çekilerek, “İnsanlığın varlığı ve kalkınmasını tehdit edebilecek kontrolsüz riskleri engelleyebilmek için yapay zekanın daima insan kontrolünde kalacağından emin olmalıyız.” değerlendirmesinde bulunuldu.