Felaket Senaryosu Değil, Organizasyon Sorunu: Harari’nin AI Uyarıları

Sessiz Tehlike: “Kıyamet” Dili Değil, Muhasebe Dili

Harari’nin AI Uyarıları, robotların bir gün uyanıp dünyayı ele geçirmesi gibi popüler kıyamet anlatılarına yaslanmıyor; tam tersine, neredeyse soğukkanlı bir muhasebe dili kuruyor. Hikâyeyi daha gündelik ama daha sarsıcı bir ihtimale bağlıyor: Yapay zekâ, bizim hayatı birlikte organize etme biçimimizi değiştirebilir—hem de bunu bağırmadan, “iyileştiriyorum” diyerek yapabilir. Harari’nin işaret ettiği eşik, teknoloji eşiği değil sadece; kurum eşiği. Sağlık, demokrasi ve toplumsal bağlar gibi büyük alanların, birer “ürün” değil birer organizasyon sistemi olduğunu hatırlatıyor. Ve tam da bu yüzden, risk “yanlış cevap vermesi” değil; cevap verme hakkının kime ait olduğunu sessizce yeniden dağıtması.

Sağlık: Devrim Vitrini ve Mahremiyetin Bedeli

Harari’nin çerçevesinde sağlık, dönüşümün en ikna edici vitrini. Çünkü yapay zekâ, tıpta erken teşhis, risk öngörüsü ve kişiselleştirilmiş tedavi gibi alanlarda devrim niteliğinde fırsatlar vadediyor. Video boyunca bu tarafı saklamıyor: daha hızlı görüntü analizi, daha iyi triyaj, daha tutarlı klinik karar destek sistemleri… Bunlar “daha iyi sağlık” gibi duyuluyor. Zaten tam da bu yüzden güçlü: iyi niyetli bir vaat, sistemi değiştirmek için en etkili araçtır.

Kritik Soru: Sağlık Daha İyiyken, Sistem Kimin Elinde Kalacak?

Ama Harari’nin asıl sorusu burada başlıyor: Sağlık daha iyiye giderken, sağlık sistemi kimin elinde kalacak? Tanı koymanın hızlanması hastanın yararına olabilir. Fakat aynı mekanizma, insanın en mahrem verilerini “ham madde”ye dönüştürüp farklı amaçlarla kullanılmaya da açık. WHO’nun yapay zekâ ve sağlık alanındaki etik-yönetişim çerçevesi de bu riskleri “mahremiyet, açıklanabilirlik, hesap verebilirlik, kapsayıcılık” gibi başlıklarda tarif ediyor: Yapay zekâ fayda üretebilir, ama kötü yönetişim faydayı eşitsizliğe ve güven kaybına çevirebilir.

“Ara Katman” Meselesi: Araç Gelmiyor, Düzen Geliyor

Harari’nin “organizasyon” vurgusu burada netleşiyor: Sağlık artık sadece doktor-hasta arasında geçen bir ilişki değil; veri altyapıları, yazılım tedarik zincirleri, denetim mekanizmaları ve kurumsal güven üzerinden çalışan bir sistem. Yapay zekâ bu sisteme girdiğinde, sadece “yeni bir araç” gelmiyor; yeni bir aracı katman geliyor. O katman iyi kurulursa teşhis hızlanır, hatalar azalır, kaynaklar daha adil dağılır. Kötü kurulursa sağlık bir “hizmet” olmaktan çıkar; bir sürekli ölçüm rejimine dönüşür. Harari’nin gözetim endişesi, bu ihtimalin günlük hayata çok hızlı sızabilmesiyle ilgili.

Demokrasi: Sandık Günü Değil, Kendini Düzeltme Yeteneği

Sonra demokrasiye geçiyor Harari. Burada da benzer bir kaydırma yapıyor: Demokrasi, sandık günü yaşanan bir ritüel değil; toplumun kendi hatalarını fark edip düzeltme kapasitesi. Bu kapasite, ortak bir gerçeklik zemini ve sağlıklı bir kamusal diyalog ister. Harari, algoritmaların insan psikolojisini hedefleyerek diyaloğu zayıflatabileceğini söylüyor: Dikkati, korkuyu, öfkeyi ve aidiyet ihtiyacını yönetebilen sistemler, tartışmayı güçlendirmek yerine kırılganlaştırabilir. Video, bu riski “propaganda” kelimesinden daha geniş bir yerden tarif ediyor: duygu yönetimi üzerinden toplumsal dokuyu çözmek.

Manipülasyon Karikatüre Dönüşmesin: Asıl Sorun Amaçların Görünmezleşmesi

“Manipülasyon” kelimesi kolayca karikatüre dönüşebilir. O yüzden meseleye sakin bir çerçeve eklemek gerekiyor: Yapay zekâ sistemleri—özellikle öneri sistemleri ve hedefleme altyapıları—insan davranışını ölçebilir, sınıflandırabilir ve belli çıktılara göre optimize edebilir. Bu optimizasyonun amacı reklam satmak da olabilir, siyasi ikna da, kamu hizmeti de. Yani sorun “teknoloji kötü” değil; sorun teknolojiyle birlikte amaçların görünmezleşmesi. OECD’nin kamu yönetiminde yapay zekâ kullanımına dair raporlarında da algoritmik manipülasyon ve kötüye kullanım risklerinin yönetişim açısından başlıklaşmasının nedeni bu: Sonuçlar kasıtlı biçimde belirli çıktılara zorlanabilir ve bu da güveni aşındırır.

“Zekâ Var, Bilinç Yok”: Sorumluluk ve Hukuk Nereye Oturacak?

Harari’nin “bilinçsiz ama çok zeki” vurgusu, tam burada yeni bir gerilim açıyor. Klasik etik tartışmalarında “niyet” kavramı önemlidir: fail niyet eder, zarar doğar, sorumluluk konuşulur. Fakat Harari’nin işaret ettiği yapıda sistemin niyeti yoktur—ama çıktısı vardır. Bir model bilinç taşımadan davranışları etkileyebilir; bir platform bilinç taşımadan kamusal alanı yeniden düzenleyebilir. Bu da hukuk ve sorumluluk tartışmasını zorlaştırır: Hata olduğunda kim sorumlu? Model mi, modeli kullanan kurum mu, modeli geliştiren şirket mi, veriyi sağlayan sistem mi? UNESCO’nun Yapay Zekâ Etiği Tavsiyesi de “insan hakları, insan onuru, şeffaflık, hesap verebilirlik ve insan gözetimi” gibi ilkelerle bu karmaşayı çerçevelemeye çalışıyor.

Harari’nin Asıl Yeri: Teknoloji Değil, Koordinasyon

Harari’nin yaklaşımında en “FikirSanatlık” nokta, yapay zekâyı bir teknoloji başlığı olmaktan çıkarıp bir toplumsal koordinasyon meselesi olarak ele alması. Sağlığa bakarken verinin nasıl dolaştığını; demokrasiye bakarken dikkatin nasıl dolaştığını konuşuyor. İkisinde de ortak soru aynı: Dolaşımı kim yönetiyor? Kim, hangi ölçütlere göre “öncelik” belirliyor? Hangi kararlar otomatikleşiyor, hangileri insanın elinde kalıyor? Bu yüzden Harari’nin AI Uyarıları, bir “felaket senaryosu” gibi değil; bir altyapı çağrısı gibi okunabilir.

“Kapatmak” Değil “Kurmak”: Direksiyon Olarak Denetim

Burada küçük bir ayrım önemli: Yapay zekâ sağlıkta gerçekten hayat kurtarabilir. Yapay zekâ demokrasiyi yalnızca tehdit eden bir şey değil; doğru tasarlanırsa katılımı artıran ve kamu hizmetini iyileştiren uygulamalar da mümkün. Yani mesele “kapatmak” değil; kurmak. Harari’nin çizdiği hatta denetim mekanizmaları bir fren değil; bir direksiyon. Çünkü yapay zekâ sistemleri hız kazandırır; ama hız, yön olmadan kazaya dönüşür. Denetim dediğimiz şey yalnızca “yasaklar” değil: şeffaflık, etki değerlendirmesi, veri minimizasyonu, bağımsız denetim, algoritmik hesap verebilirlik, kamusal tartışma.

Toplumsal Adaptasyon: Teknoloji Geliyor, Kurumlar Yetişemiyor

Harari’nin konuşmasında bir başka alt damar daha var: toplumsal adaptasyon. Teknoloji hızlanırken toplumun kurumları aynı hızla uyum sağlayamıyor. Bu uyumsuzluk, yapay zekâyı “çok güçlü” kılan şeylerden biri: sistem gelir, ama onu karşılayacak kural, kültür ve denetim gelmezse teknoloji kendine alan açar. Harari bu noktada insan kontrolünün önemini vurguluyor: kontrol bir düğme değil; bir mimari.

Küçük Mitolojik İşaret: Babil Kulesi ve Ortak Dil

Mitoloji burada süs değil, küçük bir işaret. Babil Kulesi anlatısında felaket, kuleyi yapma hevesi değil; ortak dilin dağılmasıdır. Harari’nin demokrasi endişesi de biraz buna benziyor: ortak dil zayıfladığında, sistemin kendini düzeltme kapasitesi de zayıflar. Burada yapay zekâ “kule” değil; kuleyi hızlandıran iş makineleri gibi. Mesele kulenin kaç kat olduğu değil; birlikte anlaşabilme ihtimalimizin ne kadar korunduğu.

Okur Testi

Yapay zekâ “daha iyi kararlar” vaat ederken, bizim asıl kararımız şu mu: Hangi kararları devredeceğiz, hangilerini devretmeyeceğiz?

Kapanış: Karamsarlık Değil, Çıplak Sorumluluk

Sonuçta Harari’nin AI Uyarıları karamsar değil; çıplak. “Felaket olacak” demiyor; “felaket olmasın diye organizasyonu kurmak zorundayız” diyor. Bu, teknolojiye karşı bir korku değil; teknolojiyle birlikte yaşamanın sorumluluğu. Yapay zekâ sağlıkta hayat kurtarabilir—ama bunu yaparken mahremiyeti ve adaleti zedelememeli. Yapay zekâ demokrasiyi hızlandırabilir—ama bunu yaparken diyaloğu zayıflatmamalı. Yapay zekâ toplumu verimli kılabilir—ama bunu yaparken insanı edilgenleştirmemeli. Harari’nin çağrısı, bu üç cümleyi aynı anda taşıyabilen bir kurumsal akıl çağrısı.