Bir teklif, bir insanın adıyla müşteriye ulaştığında, artık salt bir metin değildir; bir sözdür. Sözü veren kimdir? Onu yazan makine mi, yoksa altına imzasını koyan insan mı? Bu soru teknik değil, ahlakidir. Ve hümanist, frankofon felsefe geleneği bu soruyu, mühendislik diline sığmayan bir incelikle sormayı öğretir: teknoloji çağında sorumluluk nerede durur?
Simondon: makineyle birlikte olmak, ona hükmetmek değil
Gilbert Simondon, 1958 tarihli Du mode d'existence des objets techniques eserinde, insanın teknik nesneyle ilişkisini iki uçtan kurtarır: ne kör bir hayranlık, ne de kaygılı bir reddediş. Simondon'a göre insanın rolü, makinenin yanında durmak, onu bir orkestrayı yöneten şef gibi eşgüdümlemektir — köle sahibi de değil, kölesi de değil.
"Tam otomasyon" hayali, tam da Simondon'un eleştirdiği yanılgıdır: makineyi insansız düşünmek, onu ya bir put ya da bir tehdit hâline getirir. Oysa olgun ilişki, insanın makinenin ürettiğini anlamlandırdığı, çerçevelediği ve üstlendiği ortaklıktır. Onay kapısı, bu ortaklığın somutlaşmış hâlidir: insan makineye hükmetmez, ürettiğini sahiplenir.
Ricoeur: yükleme, hesap verebilirlik ve "yetenekli insan"
Paul Ricoeur, sorumluluğu üç katmanda düşünür: geçmişe dönük yükleme (imputation — "bu eylem bana aittir"), geleceğe dönük üstlenme ve başkasına hesap verebilme. Ricoeur'ün l'homme capable (yetenekli, muktedir insan) kavramı, eyleyebilen ve eylediğinin hesabını verebilen özneyi tanımlar.
Bir yapay zeka çıktısı bu üç katmanın hiçbirini tek başına taşıyamaz: makine ne "bu benim eylemimdir" der, ne geleceği üstlenir, ne de hesap verir. Sorumluluk atfedilebilir bir özne gerektirir. Onay anı, işte bu atfın gerçekleştiği andır: bir insan çıktıyı okuyup imzaladığında, onu kendi eylemi olarak yükler. Denetim izinin ("kim, ne zaman, neyi onayladı") felsefi anlamı budur — teknik bir kayıt değil, yüklenebilir bir sorumluluğun izidir.
Levinas: müşteri, karşımızdaki "yüz"dür
Emmanuel Levinas etiği, soyut ilkelerden değil, başkasının yüzüyle karşılaşmadan çıkarır. Yüz, beni sorumluluğa çağırır; ona "hayır, bu benim işim değildi" diyemem. Bir tahsilat e-postası yanlış tonla bir müşteriye gittiğinde, zarar gören soyut bir "kullanıcı" değil, somut bir yüzdür.
Makinenin yüzü yoktur; çağrıyı işitmez. İnsanın onay halkasında bulunması, bu Levinasçı çağrıya bir yanıttır: çıktının ucundaki gerçek insanı hatırlayan, "bunu ona ben gönderiyorum" diyen bir vicdanın devreye girmesidir. VIP müşterinin daima insan incelemesinden geçmesi, verimlilik hesabı gibi görünse de aslında etik bir tercihtir.
Stiegler: teknoloji bir pharmakon'dur
Bernard Stiegler, teknolojinin bir pharmakon olduğunu hatırlatır — aynı anda hem ilaç hem zehir. Yapay zeka da öyledir: doğru çerçevelenirse insan muhakemesini özgürleştirir (sıkıcı, tekrarlı işten kurtarır), yanlış çerçevelenirse muhakemeyi köreltir (insan, düşünmeden onaylayan bir mühre dönüşür).
Buradaki incelik şudur: onay, bir ritüel değil bir edim olmalıdır. Her çıktıyı düşünmeden onaylayan bir insan, pharmakon'un zehir yüzünü seçmiştir. Bu yüzden iyi tasarım, insana az ama anlamlı karar bırakır — riskli, belirsiz, yüksek bedelli olanı. Eleme, insanın dikkatini körelten değil, bileyen bir düzenektir.
Sonuç: hız değil, sahiplenme
Onay kapısını "yavaşlatan bürokrasi" sanmak, meseleyi baştan yanlış kurmaktır. Onay, bir sözün sahiplenildiği, bir yüzün hatırlandığı, bir eylemin bir özneye yüklendiği ahlaki edimdir. Makine muhakeme edebilir; ama sorumluluk, ancak "bunu ben üstleniyorum" diyebilen bir insanda ikamet eder. İşletim katmanının en teknik özelliği olan denetim kaydı, aslında en insani özelliğidir: her kararın bir sahibi olduğunu söyler.
Kaynaklar
- Gilbert Simondon, Du mode d'existence des objets techniques, Aubier, 1958.
- Paul Ricoeur, Soi-même comme un autre, Éditions du Seuil, 1990.
- Paul Ricoeur, Le Juste, Éditions Esprit, 1995.
- Emmanuel Levinas, Totalité et Infini: Essai sur l'extériorité, Martinus Nijhoff, 1961.
- Bernard Stiegler, La technique et le temps, 1: La faute d'Épiméthée, Galilée, 1994.
İnsan onayını iş akışlarınıza etik bir edim olarak nasıl yerleştireceğinizi konuşalım. 30 dakikalık bir görüşme ayarlayın.