Bir yapay zeka iş akışını "akıllı bir asistan" olarak görmek şiirseldir ama mühendislik açısından işe yaramaz. Onu ne olduğu gibi görmek gerekir: girdileri çıktıya dönüştüren, bozucu etkilere (disturbance) maruz kalan, kararlı ya da kararsız olabilen bir dinamik sistem. Klasik mühendislik disiplini bize önce sistemi modellemeyi, sonra kararlılığını garanti etmeyi öğretir. Yapay zeka iş akışlarına da aynı disiplinle bakalım.
Açık çevrim tehlikelidir
Kontrol mühendisliğinin en eski dersi şudur: bir açık çevrim (open-loop) sistem, çıktısını ölçüp geri beslemeden çalıştığı için, model gerçeği tam yansıtmadığı anda sapar ve sapmayı fark etmez. Norbert Wiener'ın 1948'de Cybernetics ile kurumsallaştırdığı fikir tam da budur: kontrol, geri besleme (feedback) ile mümkündür.
Tam otomasyon hayali, açık çevrim bir sistem kurmaktır: yapay zeka üretir, çıktı doğrudan müşteriye gider, hata ancak sonuçta (şikâyet, yanlış fatura, itibar kaybı) görülür. Bu, kazancı yüksek ama kararsız bir sistemdir.
İnsan onayı bir geri besleme denetleyicisidir
İnsanın onay döngüsünde bulunması "otomasyonu yavaşlatan bir engel" değildir; sistemi kapalı çevrime (closed-loop) dönüştüren geri besleme denetleyicisidir. Åström ve Murray'in Feedback Systems (2008) çerçevesiyle söylersek: referans (kurum politikası) ile çıktı arasındaki hata sinyalini ölçen ve düzelten eleman insandır. Her düzeltme, bir sonraki çıktıyı referansa yaklaştıran negatif geri beslemedir.
Ancak kontrol teorisi bize incelikli bir uyarı yapar: geri besleme kazancı yanlış ayarlanırsa sistem salınır. Aşırı-düzeltme (over-correction), her çıktıyı elden geçiren bir denetim rejimi, sistemi hem yavaşlatır hem de denetleyeni yorarak kararsızlaştırır. İyi tasarım, geri beslemeyi hatanın en yüksek olduğu frekansta uygular — yani riskli çıktılarda güçlü, rutin çıktılarda zayıf. Bu, kazanç çizelgeleme (gain scheduling) mantığının onay eşikleriyle uygulanmasıdır.
Gecikme ve verim: Little Yasası
Onay bir kuyruk (queue) yaratır. Kuyruk teorisinin temel özdeşliği, John Little'ın 1961'de kanıtladığı yasadır:
L = λ × W
Yani kuyruktaki ortalama iş sayısı (L), varış hızı (λ) ile bir işin sistemde geçirdiği ortalama süre (W) çarpımına eşittir. Bunu onay kuyruğuna uygularsak: eğer yapay zeka saatte 20 teklif üretiyorsa (λ) ve bir onay ortalama 6 dakika sürüyorsa (W = 0,1 saat), kuyrukta ortalama L = 2 teklif bekler. Denetleyicinin kapasitesi bu yükü kaldıramazsa (ρ = λ/μ ≥ 1) kuyruk sınırsız büyür — sistem kararsızlaşır.
Bu, mühendisçe düşünmenin gücüdür: "onaylar bizi yavaşlatır mı?" sorusu duygusal değil, ölçülebilir bir sorudur. Eleme kurallarıyla insana giden λ'yı düşürür, arayüzle W'yi kısaltırsanız, kuyruk kararlı kalır.
Gözlemlenebilirlik olmadan kontrol olmaz
Kontrol edemediğinizi ölçemez, ölçemediğinizi kontrol edemezsiniz. Bir kontrol sisteminin sensörü neyse, bir yapay zeka iş akışının izlenebilirliği (tracing) odur: her konektör çağrısı, her guardrail kontrolü, her model çağrısı ve her onay kararı kaydedilir. Google'ın Site Reliability Engineering (2016) kitabındaki hata bütçesi (error budget) yaklaşımı buraya doğrudan uyar: sistemin ne kadar hata yapmasına izin verileceğini önceden tanımlar, bütçe dolunca otomasyonu kısar, geri beslemeyi artırırsınız. Bu, kapalı çevrimin işletme diline tercümesidir.
Kararlılık bir özellik değil, bir tasarım hedefidir
Nyquist ve Bode'dan bu yana biliyoruz ki kararlılık tesadüf değildir; kazanç ve faz payları bilinçli bırakılır. Yapay zeka iş akışında bunun karşılığı şudur:
- Geri besleme her zaman var (açık çevrim yok).
- Kazanç riske göre ölçekli (her çıktıyı değil, riskli çıktıyı denetle).
- Kuyruk kararlı (λ ve W ölçülür, kapasite aşılmaz).
- Sensörler tam (uçtan uca izlenebilirlik).
Sonuç
Yapay zekayı yayına almak bir "model" meselesi değil, bir kontrol sistemi tasarımı meselesidir. Geri beslemeyi doğru yere koyan, kazancı riske göre ayarlayan, kuyruğunu Little Yasası'yla boyutlandıran ve sistemini uçtan uca gözlemleyen ekip, kararlı bir sistem kurar. Diğerleri, güzel demolar üreten ama canlı ortamda salınan açık çevrimlerle baş başa kalır.
Kaynaklar
- Norbert Wiener, Cybernetics: Or Control and Communication in the Animal and the Machine, MIT Press, 1948.
- Karl Johan Åström ve Richard M. Murray, Feedback Systems: An Introduction for Scientists and Engineers, Princeton University Press, 2008.
- John D. C. Little, A Proof for the Queuing Formula: L = λW, Operations Research, 9(3), 1961.
- Betsy Beyer, Chris Jones, Jennifer Petoff ve Niall Richard Murphy (ed.), Site Reliability Engineering, O'Reilly, 2016.
Döngüyü uçtan uca ölçümlenmiş görmek ister misiniz? 30 dakikalık bir demo ayarlayın.