Kurumsal yapay zekada asıl darboğaz teknik değil, iktisadi: enformasyon asimetrisi

Silikon Vadisi'nin anlattığı hikâye rahatlatıcı derecede basit: model ne kadar iyiyse, iş o kadar iyi yapılır. Oysa sahada, "iyi model" artık herkeste olan bir emtia. GPT, Claude, Gemini — hepsi bir sohbet penceresinde etkileyici çıktılar üretiyor. Yine de kurumların büyük çoğunluğu pilottan yayına geçemiyor. Bu, mühendislik değil, iktisadi bir problem: alıcının, satın aldığı çıktının kalitesini ucuza doğrulayamaması.

Bu yazıda meseleyi tek bir disiplinin diliyle değil — iktisat, örgüt kuramı ve teknoloji ekonomisinin kesişiminde — ele alacağız.

"Limon piyasası" bir kez daha kuruluyor

George Akerlof'un 1970 tarihli klasik makalesi "The Market for Lemons", kaliteyi gözlemleyemeyen alıcının bulunduğu bir piyasanın nasıl çöktüğünü gösterir: alıcı iyi ile kötüyü ayırt edemediği için ortalama bir fiyat öngörür, iyi mallar piyasadan çekilir, geriye "limonlar" kalır.

Bir yapay zeka çıktısı — bir teklif, bir tahsilat e-postası, bir yönetim özeti — tam da böyle bir "kalitesi gözlemlenemeyen mal"dır. Yüzeyde her çıktı akıcı ve kendinden emindir. Bir satış temsilcisi, önüne gelen otomatik teklifin marjı yanlış hesaplayıp hesaplamadığını bir bakışta anlayamaz. İşte kurumsal yapay zekayı durduran şey budur: modelin ortalama kalitesi yüksek olsa bile, alıcı belirli bir çıktının "iyi" mi "limon" mu olduğunu bilemez. Belirsizlik altında rasyonel örgütün tepkisi, tıpkı Akerlof'un piyasasında olduğu gibi, alışverişten çekilmektir — yani pilotu yayına almamaktır.

Vekâlet problemi: yapay zeka bir "ajan"dır

Adını "ajan"dan (agent) alan yapay zeka sistemleri, iktisadın vekâlet problemini (principal–agent problem) birebir yeniden üretir. Jensen ve Meckling'in 1976'daki firma kuramında formüle ettiği gibi: bir vekil (agent), asilin (principal) çıkarına tam uygun davranmayabilir ve asilin bunu izlemesi maliyetlidir. Buradaki asil, kurum; vekil ise adına iş yapan yapay zekadır.

Klasik vekâlet sorununun iki hastalığı burada da yeniden ortaya çıkar:

• Ahlaki tehlike (moral hazard): Vekilin davranışı tam gözlemlenemediğinde çıkarlar ayrışır. Yapay zeka "kendinden emin ama yanlış" çıktı ürettiğinde bunun bedelini kurum öder.
• İzleme maliyeti (monitoring cost): Her çıktıyı tek tek denetlemek, otomasyonun tasarruf ettiği zamanı geri götürür. Sınırsız denetim, otomasyonun kendisini anlamsız kılar.

Çözüm, iktisatta olduğu gibi, tam gözetim değil, doğru teşvik ve kurum tasarımıdır.

Onay kapıları birer "eleme" mekanizmasıdır

Michael Spence'in sinyalleme kuramı ve Stiglitz–Rothschild'in eleme (screening) modeli, asimetrik enformasyonun kurumsal panzehirini verir: tüm çıktıları değil, doğru çıktıları denetleyen mekanizmalar kur.

İşletim katmanının onay kapıları tam olarak birer eleme mekanizmasıdır. Tutar eşiği, müşteri sınıfı, içerik türü ve kanal bazlı kurallar, sonsuz bir denetim yükünü sonlu ve anlamlı bir denetim kümesine indirger:

• €10.000 üzeri teklifler yöneticiye gider; altındakiler otomatik onaylanır.
• VIP müşteriler daima insan incelemesinden geçer.
• Müşteriye giden her çıktı denetlenir; iç özetler otomatik tamamlanır.

Bu, "her limonu tek tek koklamak" yerine, limon olma olasılığı yüksek işlemleri sistematik olarak elemektir. İzleme maliyetini asimetrinin en yoğun olduğu yere yoğunlaştırır.

Denetim izi bir "güven sinyali"dir

Asimetriyi azaltmanın ikinci yolu güvenilir sinyaller üretmektir. Her onay, düzenleme ve düzeltme kaydı — kim, ne zaman, orijinal çıktı neydi, ne değişti — bir denetim kaydı (audit trail) oluşturur. Bu iz, örgüt içinde ve dışında (uyum, denetçi, müşteri) doğrulanabilir bir kalite sinyalidir. Akerlof'un piyasasını çökerten şeyin, sinyalin yokluğu olduğunu hatırlayalım: sinyali geri getirmek, piyasayı — yani kurumsal benimsemeyi — geri getirir.

Sınırlı rasyonellik ve teknolojinin yönü

Herbert Simon'ın sınırlı rasyonellik (bounded rationality) kavramı, insanın her çıktıyı doğrulayamayacağını hatırlatır; bu yüzden kararı bireye değil, kuruma (institution) yaslamak gerekir. İşletim katmanı, bu anlamda bir yazılım değil, bir kurumdur: belirsizlik altında güveni üreten kural ve rutinler bütünü.

Son olarak, Daron Acemoğlu ve Simon Johnson'ın Power and Progress (2023) tezini analım: teknolojinin verimliliği kimin lehine yönlendireceği kendiliğinden belli değildir; kurumsal tasarımla belirlenir. Yapay zekayı "insanı devreden çıkarmak" için değil, insanın muhakemesini en değerli olduğu yere yerleştirmek için tasarlarsak, hem asimetriyi azaltır hem de değeri geniş bir tabana yayarız.

Sonuç

Sorun modelin zekâsı değil; alıcının, çıktının kalitesini ucuza doğrulayamamasıdır. Onay kapıları eleme, denetim kaydı sinyal, operasyon katmanı ise belirsizlik altında güven üreten kurumdur. "Daha büyük model" bu iktisadi problemi çözmez; daha iyi kurumlar çözer.

Kaynaklar

1. George A. Akerlof, The Market for "Lemons": Quality Uncertainty and the Market Mechanism, Quarterly Journal of Economics, 84(3), 1970.
2. Michael C. Jensen ve William H. Meckling, Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure, Journal of Financial Economics, 3(4), 1976.
3. Michael Spence, Job Market Signaling, Quarterly Journal of Economics, 87(3), 1973.
4. Herbert A. Simon, A Behavioral Model of Rational Choice, Quarterly Journal of Economics, 69(1), 1955.
5. Daron Acemoglu ve Simon Johnson, Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity, PublicAffairs, 2023.

---

Onay kapılarını ve denetim kaydını gerçek bir iş akışında görmek ister misiniz? 30 dakikalık bir görüşme ayarlayın.