Dijital teknolojiler, siber ağlar daha 2000’lerin başında, “savaşta devrim” (Rumsfeld-Pentagon) kavramıyla savaş tarzını değiştirmeye başlamıştı. Algoritmaların devreye girmesiyle bu “devrim”, Ukrayna savaşında, Gazze soykırımında kendini gösterdi. En son olarak da ABD ve İsrail-İran savaşında yoğun olarak yapay zekâ kullanmaya başlayınca bu savaş tarzı çok daha karmaşık bir üst düzeye sıçrarken derin bir ahlaki uçuruma düştü.
Üretim araçlarının evrimi, üretim tarzlarının sergilediği biçimleri de etkiliyor. “Yıkma/öldürme araçlarının” evrimi (teknolojik-bilimsel gelişmeler), son olarak YZ, “savaş tarzını” sessizce ama köklü biçimde değiştiriyor.
(...)
HATA MI, AHLAKİ ÇÖKÜNTÜ MÜ?
İran’ın güneyinde bir ilçe olan Minap’ta bir kız ilkokulunu Amerikan füzeleri 45 dakika arayla iki kez vurdu, 175 kız öğrenci hayatını kaybetti. YZ destekli hedefleme veri tabanına ilişkin sistem güncellenmemiş ya da hedef yanlış sınıflandırılmış, bu feci fiyaskonun nedeni hâlâ tartışma konusu.
Bu felaketi bir hata olarak okumak olanaklı değil. Minap saldırısı, YZ’nin savaşa entegrasyonunun yapısal açmazının bir semptomu: Hedef doğrulama mekanizmaları zayıflatılmış, sivil zarar değerlendirme ekipleri küçültülmüş, onay süreçleri de bilgisayar hızına yaklaştığı için fiilen anlamsızlaştırılmış. İnsan denetimi teknik açıdan var olsa bile; bir komutan, YZ tarafından üretilmiş yüzlerce hedef seçeneğini dakikalar içinde değerlendirmek zorunda kaldığında, bu denetim artık hukuki bir formalite olmaktan öteye geçemiyor.
(...)
Bir sorun daha var: Savaşlar aynı zamanda YZ eğitimi, evrimi için zengin veri kaynağı, deney alanı sunuyor. YZ, “süper YZ” olmaya doğru, savaşlardan öğrenerek anlaşmazlıkları şiddet yoluyla giderme mantığını/ahlakını da edinerek evriliyor.
Bu alanın en deneyimli bilim insanlarından Eliezer Yudkowsky ve Nate Soares (Machine Intelligence Research Institute’in kurucuları) 2024’te “Eğer biri inşa ederse herkes ölecek” başlıklı bir kitap yazdılar. Kitapta betimlenen süreçler ve olasılıklar, gerçekten çok korkutucuydu ve çok büyük ilgi çekti, tartışma yarattı.
No comments:
Post a Comment