Şu anda şirketinizin bir yerinde, akıllı ve iyi niyetli bir çalışan, bir toplantı öncesi özetlemek için bir müşteri sözleşmesini tüketici bir sohbet botuna yapıştırıyor. Kötü niyetli değil. Verimli. Araç, on iki sayfa okumaktan hızlı, ücretsiz ve bir tarayıcı sekmesi uzaklıkta.
Bu, gölge yapay zeka ve konuştuğumuz her lider onunla ilgili iki şeyi olduğundan az tahmin ediyor: hâlihazırda ne kadar yaygın olduğunu ve bariz yanıtın — bir yasağın — onu ne kadar kötüleştirdiğini.
Yasak gölge yapay zekayı ortadan kaldırmaz. Gizler.
İçgüdü, özellikle güvenlik ve hukuktan gelen, onu yasaklamaktır. Notu gönderin: şirket verisiyle dış yapay zeka araçları yok. Sorumlu hissettirir. Neredeyse hiçbir şey başarmaz.
Yasak, davranışı yaratan teşviki değiştirmez — iş hâlâ araçla daha hızlıdır. Sadece davranışı yeraltına iter. Artık hukuk asistanı sohbet botunu dizüstünde değil telefonunda, kurumsal ağın dışında, sizin sıfır görünürlüğünüz olan yerde kullanır. Riski ortadan kaldırmadınız. Onu tamamen olduğu gibi bırakırken kendinizi ona kör ettiniz. Gözlemleyemediğiniz bir kontrol, kontrol değildir.
Gölge BT, yeni bir şapka takan elli yıllık bir problem
Bunların hiçbiri yeni değil. Gölge BT'yi — çalışanların işlerini yapmak için onaylanmamış araçları benimsemesini — inceleyen araştırmacılar, bunun, resmî sistemlerin insanların kendi başlarına ulaşabildiği alternatiflerden daha yavaş ya da daha hantal olduğu her yerde güvenilir biçimde ortaya çıktığını buldu. O literatürden çıkan ders serttir: gölge benimseme bir suç değil, bir sinyaldir. Onaylı araçlarınızın kendi insanlarınızı tam olarak nerede yüzüstü bıraktığını söyler.
Gölge yapay zeka, hızlandırılmış aynı olgudur. Onaylanmamış araç artık olağanüstü yetenekli ve herkese açık; dolayısıyla "BT'nin sağladığı" ile "kendim kapabildiğim" arasındaki uçurum hiç bu kadar geniş olmadı. Bunu bir disiplin problemi olarak ele almak onu yanlış okur. Bu bir ürün problemidir.
Arzu patikası ilkesi
Peyzaj mimarlarının, döşenmiş yolun uzun yoldan gittiği yerde bakımlı çimenleri kesen toprak patikalar için bir adı vardır: arzu patikaları. Bilge olanlar onları çitle kapatmaz. Onları döşer, çünkü patika, kullanıcıların ayaklarıyla, rotanın nereden geçmesi gerektiğini size söylemesidir.
Gölge yapay zeka, organizasyonunuza aşınmış bir arzu patikasıdır. İnsanlarınız hangi görevlerde yardım istediklerini tam olarak gösterdi — özetleme, taslak hazırlama, çıkarım, çeviri. Bunu bir politikayla çitle kapatmak, kızgınlık ve onaylanmamış sekmelerle dolu bir telefon elde etme yolunuzdur. Onu döşemek — zaten yaptıkları şeyi yapmanın yönetilen bir yolunu sağlamak — riski yönetilen bir yeteneğe çevirme yolunuzdur.
Kolaylıkta kazanın, çünkü işe yarayan tek şey bu
Rahatsız edici gerçek şu: yönetilen yol yalnızca gölge yoldan daha kolaysa kazanır. Çalışanlar tüketici sohbet botunu uyumdan nefret ettikleri için seçmediler. Bir sekme uzaklıkta olduğu için seçtiler. Üç onay ve bir talep formu gerektiren onaylı bir araç, ücretsiz bir web sitesine her seferinde kaybeder.
Dolayısıyla tasarım hedefi "kilitle" değildir. "Güvenli yolu en az direnç yolu yap"tır. Bu, kişisel verinin herhangi bir şey modele ulaşmadan önce otomatik maskelendiği, hassas verinin kendi sınırınızın içinde tutulabildiği, her kullanımın loglandığı ve denetlenebildiği — ama çalışana, açmak üzere oldukları sekme kadar zahmetsiz hissettiren — yönetilen bir iş akışı demektir. Onlara bunu verin; gölge yapay zekanın yasaklanmasına gerek kalmaz. Geçersiz hâle gelir, çünkü artık hızlı olan resmî yoldur.
Seçim hiçbir zaman "gölge yapay zeka ya da yapay zeka yok" değildi. "Göremediğiniz gölge yapay zeka ya da görebildiğiniz yönetilen yapay zeka"dır. Işıkları kapatmak odayı boşaltmaz. Yalnızca içinde ne olduğunu görmeyi bırakmanız anlamına gelir.
Kaynaklar
- Mario Silic ve Andrea Back, Shadow IT – A view from behind the curtain, Computers & Security, Cilt 45, 2014.
Ekibinize gölge yoldan kolaylıkta üstün, yönetilen bir yapay zeka yolu vermek ister misiniz? 30 dakikalık bir görüşme ayarlayın.