Uygarlık yapay zekânın gelişme hızına ayak uyduramıyor. Cumartesi günüFinancial Times’da bir araştırma, yaklaşan ABD seçimlerinde seçmenin karar verirken “chatpot” (sohbet robotu) kullanma eğiliminin rol oynayacağını aktarıyor, “Ancak her şeyin sahteymiş gibi geldiği ortamda kimin sahte kimin gerçek olduğunu anlamak zor” diyordu. İster istemez Walter Benjamin’in (üretici güçler toplumsal denetim altına alınmadığında, insanlığı özgürleştirmek yerine köleleştirecek güçlere dönüşebilir olarak özetlenebilecek) uyarılarını anımsadım. Tartışmalar yoğunlaşırken son bir iki haftada dikkatimi çeken bazı yorumların ortak noktalarını aktarmaya çalışacağım.
***
Önceki teknolojik devrimler insanın fiziksel gücünü, üretim kapasitesini veya iletişimini artırıyordu. Yapay zekâ, doğrudan düşünme, karar verme, dil kullanma, problem çözme alanına giriyor. Bu gözlemi, YZ’nin artık yalnızca insan talimatlarını uygulayan pasif bir araç değil; fikir üreten, karar alan, görev planlayan, başka sistemlerle etkileşime girebilen otonom bir aktör, yeni bir özne haline geliyor olmasına ilişkin kaygılar izliyor.
(...)
YZ’nin “özyinelemeli öz-gelişim” aşamasına ulaşıyor olası da kaygı veriyor. Andaki YZ, daha gelişmiş YZ sistemleri tasarlamaya katkı yapmaya başladı. Bu süreç hızlandıkça insanın rolü giderek azalacak. YZ gelişmesi insan açısından anlaşılmaz, denetlenemez bir aşamaya “tekillik” eşiğineulaşacak; kimi YZ liderlerine göre ulaşmak üzere.
(...)
Hile, aldatma, kuralları aşma örnekleri “bu uyumsuzluklara” ilişkin ilk uyarı işaretleri. YZ ajanlarının test ortamlarında kendi aralarında konuşarak, bilgi deney alışverişi yaparak, buldukları yöntemlerle konulan sınırları aşması, internete “kaçması”denetim sorunlarının erken belirtileriydi.
Ek olarak kısa dönemde, YZ etrafında oluşmuş, 1990’ların “Dotcom krizinden” çok daha büyük bir finansal balon patladığında mali piyasaları sistem düzeyinde sarsabilecek. YZ altyapısını -ölçeğibüyütmek için gerekli dev borçlanmaları servis edecek kaynaklar gelecekteki kârlara aşırı bağımlı. Bu kârların beklenen düzeye ulaşma olasılığı ise sıfırdan bile düşük. Orta uzun dönemde işten çıkartmaların büyük toplumsal sorunlar yaratması bekleniyor. Ancak Rekabet arttıkça süreç hızlanıyor; YZ “geliştikçe” sorun daha da ağırlaşıyor.
Diğer taraftan YZ büyük fırsatlar da sunuyor, tıp, bilim, enerji, üretkenlik ve ekonomik büyüme alanlarında büyük fırsatlar yaratıyor. Öyleyse bu fırsatlardan güvenli bir biçimde yararlanabilmek için, neden gelişmeyi yavaşlatarak önlem alınamıyor? ABDÇin arasındaki jeopolitik rekabet, büyük teknoloji şirketleri arasındaki liderlik, piyasa, kaynak yarışı güvenlik gerekçesiyle bile olsa yavaşlamaya izin vermiyor.
YZ, önceki teknolojilerden farklı; düşünebilen, karar alabilen, dili kullanarak toplumu etkileyebilen, kendi gelişimini hızlandırabilen bir özne olarak şekilleniyor. İnsanlığın kurumsal, hukuki, ahlaki denetleme kapasiteleri bu sürecin gerisinde kalıyor. YZ, insanlığı kendi geleceğinin öznesi olmaktan çıkarabilecek “tarihin sonunu” getirebilecek bir güce dönüşüyor. Ve zaman, iklim krizinde olduğu gibi hızlanarak ilerliyor. Kapitalizm içinde bir çıkış da tasarlanamıyor.
No comments:
Post a Comment