“Otonom Silah” Ne Demek?
Dışarıdan bir kişinin müdahalesine gerek duymayan ve önceden belirlenmiş kıstaslara haiz kişileri ya da hedefleri kendi kendine belirleyip vurabilen, kısacası kendi kendini yönetebilen araçlara “otonom silahlar” deniyor. Bu tür silahlar, en basit haliyle, hali hazırda birkaç yerde kullanılıyor. Örneğin, Kuzey ve Güney Kore arasındaki askerden arındırılmış bir bölgede sabit olarak konuşlanmış bir otonom silah türü 4 kilometreye kadar etrafta hareket eden herhangi bir kişiyi veya nesneyi kendi kendine hedef alıp vurabiliyor. Bir diğer örnek, İsrail’in kullandığı, havada uzun süre kalarak radar sinyalleri saptayabilen ve bulduğu anda bu sinyalin kaynağını yok edebilen otonom füze…
Otonom Silahlar Neden Tehlikeli?
Mayıs 2014’te BM’nin “Belirli Konvansiyonel Silahlar Sözleşmesi” çerçevesinde otonom silahlar üzerine yapılan tartışmaların ana ekseninde “anlamlı bir insan denetiminin olmayışı” yer alıyor. Bu da ister istemez “sorumluluk açığı”nı gündeme getiriyor.
Peki anlamlı denetim demekle neyi kastediyoruz? Daha açıklayıcı olmak için, şöyle bir durum düşünelim: Terörist bir grubun bir okula sinyal yayan bir radar sistemi yerleştirmiş olduğunu ve yukarıda bahsettiğimiz örnekteki gibi radar sinyalinin peşine düşen otonom bir füzenin, bu okuldan gelen radar sinyalini saptadığını ve onu vurduğunu hayal edin. Eğer bu füzenin anlamlı denetime sahip bir kullanıcısı olsaydı, bu kullanıcı, okulu vurmanın insancıl olmayacağına ya da savaş mevzuatına aykırı olacağına karar verip bu eylemi gerçekleştirmezdi.
Örneğimizdeki duruma dönersek, eylem halindeyken kullandığı silahı etkin bir şekilde denetleyen ve yöneten bir kullanıcının yokluğunda ya da gerçekleşen eylemin kanunlara uygun olup olmadığına karar veren bir kişinin yokluğunda, sorumluluk kime ait olacaktır? İşte, otonom (kendi kendini yönetebilen) silahların, birincil olarak, “sorumluluk kıstası”nı yerine getiremeyecek olması, yukarıda bahsettiğimiz mektupta neden bu tür silahlara yasak getirilmesi gerektiği fikrinin ardında yatan endişelerden sadece biridir.
İkinci bir endişe, otonom silahların yasal olarak kullanımına izin verilirse, herhangi büyük askeri bir gücün YZS silahları geliştirmede öne geçtiği takdirde, gelecekte küresel silahlanma yarışının tırmanacağı endişesidir.
Diğer bir kaygı ise, ucuz ve toplu üretime müsait oluşundan dolayı bu tür silahların bir süre sonra kara borsaya düşerek, terörist grupların ya da diktatörlerin eline geçebileceği ve böyle olduğunda soykırım veya suikastlar gibi toplu ölümlerin yaşanabileceği korkusudur.
İşte bu sebeplerle mektupta, gelecekte ortaya çıkabilecek tüm bu olası tehlikelerden dolayı Yapay Zekaya Sahip Silah (YZSS) geliştirme yarışının daha başlamadan bitmek zorunda olduğunun altı çizilmektedir.
