Yapay zekâ bir alanı tanımlar. Yapay genel zekâ (AGI) ise bir hedefi: dar sistemlerden oluşan bir koleksiyonun ihtiyaç duyacağı göreve özel mühendislikten çok daha azıyla, daha önce karşılaşılmamış problemlerde faydalı beceriler edinip uygulayabilen bir sistem.
Bunlar birbiriyle yarışan iki ürün değildir. AGI, daha geniş yapay zekâ tasarım alanı içinde iddialı bir noktadır. Bir sistem, birçok tanıdık görevde şaşırtıcı derecede yetkin olup teknik anlamda genel olmayabilir.
Sloganlarla değil, kümelerle başlayalım
Yapay zekâ; algılama, tahmin, planlama, dil kullanımı, karar verme, kontrol ve öğrenme gibi zekâyla ilişkilendirdiğimiz işleri yapan hesaplamalı sistemler için kullanılan şemsiye terimdir. Spam sınıflandırıcısı, rota optimizasyon sistemi, protein katlanma sistemi, büyük dil modeli ve robot kontrolcüsü; mimarileri farklı olsa da yapay zekâ olarak adlandırılabilir.
AGI ise iddia olarak daha dar, tanım olarak daha az uzlaşıya sahip bir kavramdır. Mühendislik açısından faydalı bir yorum, AGI benzeri bir sistemin şu özellikleri birlikte taşımasıdır:
- Kapsam: Belirgin biçimde farklı alanlarda çalışabilir; yalnızca tek bir kıyaslamanın varyasyonlarında değil.
- Aktarım: Yeni görevde göreve özel bir eğitim hattıyla sıfırdan başlamak yerine soyutlamaları ve stratejileri taşıyabilir.
- Uyum: Yeni bir beceriyi makul miktarda örnek, talimat, etkileşim veya deney yoluyla öğrenebilir.
- Sağlamlık: İfade, ortam, araç veya amaçtaki küçük değişikliklerde performansı çökmez.
- Sınırları olan özerklik: Uzun süren işleri yürütürken belirsizliğini ifade eder ve yetkilerine uyar.
Teknik sınır: aktarım
Bir modelin D görev dağılımında değerlendirildiğini düşünelim. Dar bir sistem genellikle D’nin sabit veya yavaş değişen bir bölümünde yüksek performansa göre optimize edilir. Eğitim amacı, veri hattı, çıktı formatı ve değerlendirme seti bu kapsam etrafında şekillenir.
Bu bir zayıflık değildir. Dar kapsam çoğu zaman mühendislik avantajıdır. Görsel denetim modeli, iş belirli bir kusur sınıfını tespit etmekse genel bir ajandan daha güvenli ve ucuz olabilir. Dolandırıcılık tespit sistemi hukuk metni yazmak zorunda değildir.
AGI sorusu, yeni bir görev dağılımına (D′) geçtiğimizde ortaya çıkar: kuralları, örnekleri, arayüzü ve göreve özel ince ayarı olmayan yabancı bir problem. Burada önemli olan yalnızca D’deki performans değil, D′ üzerinde yetkinlik kazanmanın maliyetidir.
Yararlı bir zihinsel model şöyledir:
genellik ≈ görev kapsamı × beceri edinme verimliliği × değişim karşısında güvenilirlik
Bu yüzden ham kıyaslama skorları yeterli değildir. Bir sistem ön bilgiyi ezberlemiş, yoğun bir dış iskeleyle desteklenmiş veya test için özel olarak ayarlanmış olabilir. François Chollet’nin çalışması da benzer bir noktaya işaret eder: Bir görevi iyi yapmak ile yeni görevlerde beceri edinmek aynı şey değildir.
“Birçok şey yapabiliyor” neden yeterli değildir?
Temel modeller kapsamı büyük ölçüde genişletti. Tek bir model çeviri yapabiliyor, özetleyebiliyor, kod yazabiliyor, görüntüleri yorumlayabiliyor, araç çağırabiliyor ve konuşmayı sürdürebiliyor.
Ancak arayüzdeki kapsam, genel zekâyla aynı şey değildir. Bir model hâlâ şunlara dayanıyor olabilir:
- görevin yakın örneklerini içeren büyük bir eğitim külliyatına;
- özenle tasarlanmış istemlere, örneklere, araçlara ve harici iskeleye;
- işi parçalayan, ara durumu denetleyen ve hataları düzelten bir insana;
- gerçek ortamda bulunmayan kararlı API’lere ve temiz bağlam pencerelerine;
- biçimi önceden bilinen veya kolayca tahmin edilen bir kıyaslama testine.
Model genelliği ile sistem genelliği
Bir yapay zekâ ürünü nadiren yalnızca modelden oluşur. Bellek, erişim, araçlar, planlayıcılar, doğrulayıcılar, yetkiler, zamanlayıcılar ve kullanıcı arayüzü de sistemin parçalarıdır. Bu bileşenler bir modeli çok daha yetenekli gösterebilir; iyi mühendislik çoğu zaman tam olarak bunu yapmalıdır.
Yine de sistem sınırı açık olmalıdır. Araç kullanan bir ajan, mühendislerin görev ayrıştırmasını, araç sözleşmelerini ve hata kurtarma yollarını kodlaması sayesinde geniş bir görev kümesini çözebilir. Bu, değerli bir genel amaçlı otomasyondur. Fakat otomatik olarak temel modelin genel zekâya ulaştığının kanıtı değildir.
Dürüst soru şudur: Hangi yetenekler model tarafından öğrenildi, hangileri çalışma katmanı tarafından sağlandı ve hangileri için hâlâ insan gerekiyor?
Özerklik ayrı bir eksendir
Genellik ve özerklik ayrı ölçülmelidir. Dar bir depo kontrolcüsü yüksek derecede özerk olabilir. Bir araştırma yardımcısı geniş kapsamlı olabilir ama her eylemi insan onayladığı için düşük özerkliğe sahip olabilir.
Ciddi bir değerlendirme en az üç boyut raporlamalıdır:
- Performans: Sistem görevi ne kadar iyi çözüyor?
- Genellik: Bu yetkinlik alanlar ve yeni görevler arasında ne kadar aktarılabiliyor?
- Özerklik: Planlama ve yürütme döngüsünün ne kadarını güvenli biçimde üstlenebiliyor?
Neyi test etmek gerekir?
Güvenilir bir değerlendirme yalnızca liderlik tablosu skorundan oluşmamalıdır:
- eğitim dağılımında olmayan yeni görev aileleri;
- bir tanım veya az sayıda gösterimle öğrenme;
- alanlar arası aktarım;
- ifade, araç, arayüz ve ilgisiz ayrıntılarda değişim testleri;
- hatalardan dönmeyi gerektiren uzun ufuklu yürütme;
- güven seviyesi ile gerçek belirsizliğin uyumu;
- hesaplama, gecikme, araç çağrısı ve insan müdahalesi için kaynak muhasebesi.
Bugün faydalı genellik için mühendislik
Ekiplerin AGI tanımı üzerinde uzlaşmayı beklemesi gerekmez:
- Tek bir mutlu yol demosu değil, bir görev ailesi tanımlayın.
- Görev şablonlarını, ortamları ve uç durumları geliştirme öncesinde dışarıda tutun.
- Aktarımı, düzeltme oranını, maliyeti, gecikmeyi ve insan müdahalesini ölçün.
- Bellek ve araçları açık, sürümlenmiş sözleşmelerle sağlayın.
- Belirsiz veya etkisi yüksek eylemleri insan onayına yönlendirin.
- Modeli, istemi, araçları, erişilen bağlamı, kararları ve sonucu kaydedin.
Kısa yanıt
Yapay zekâ geniş alan ve şemsiye kategoridir. AGI ise bu alan içinde varsayılan bir yetenek seviyesidir: geniş kapsamlı beceri, yabancı görevlerde verimli öğrenme, sağlam aktarım ve amaçları sorumlulukla takip edecek kadar sınırlandırılmış özerklik.
Aradaki fark demonun ne kadar etkileyici göründüğü değildir. Fark, sistemin özellikle hazırlanmadığı bir şeyi öğrenebilmesi, bu öğrenmeyi bağlamlar arasında taşıyabilmesi ve ortam değiştiğinde çalışmaya devam edebilmesidir.
Yenilik, aktarım, uyum, özerklik ve kaynak kullanımını ölçen değerlendirmelerle bu iddia gösterilene kadar “AGI”yi bir pazarlama kategorisi değil, bir değerlendirme hipotezi olarak ele almak daha sağlıklıdır.
Kaynaklar
- Shane Legg ve Marcus Hutter, Universal Intelligence: A Definition of Machine Intelligence, 2007.
- François Chollet, On the Measure of Intelligence, 2019.
- Meredith Ringel Morris ve diğerleri, Levels of AGI for Operationalizing Progress on the Path to AGI, 2023.
Umut vadeden bir yapay zekâ yeteneğini güvenilir bir iş akışına dönüştürmek ister misiniz? 30 dakikalık bir görüşme ayarlayın; değerlendirme, onay ve çalışma katmanını birlikte tasarlayalım.