Dünyayı robotlardan önce algoritmalar mı yönetecek?

Facebook’a geçtiğimiz günlerde nihayet para cezası verildi. Nedeni Facebook kullanıcılarına ait bilgilerin izinsiz olarak Cambridge Anaylitica şirketine satılması ve bu bilgilerin Amerikan seçmenin tercihlerini etkilemek üzere kullanılması… Sadece bir örnek dahi bilgi teknolojilerindeki gelişmeler sonucu kullanılan algoritmaların nelere kadir olabildiğini göstermek için yeterli. Hayatın her alanına yayılan algoritmaların doğal olarak ne olduğunun anlaşılması ve olumluolumsuz yönlerinin ortaya çıkarılmasına yönelik pek çok soru da akıllara geliyor.

Bilginin üretimi, işlenmesi ve kullanılabilir hale getirilmesi sürecine algoritmalar hakim

Yeni teknolojilerin gelişimi ile birlikte, bilginin ve verinin üretimi, işlenmesi ve kullanılabilir hale getirilmesi sürecinde artık algoritmalar gündemde. Amazon, Facebook ve Google gibi büyük teknoloji şirketleri bilgi akışını yönlendirmek, bilgi içeriğini yapılandırmak, ürün reklamlarını stratejik olarak yerleştirmek ve tüm bunları gelecekteki müşteri davranışlarını tahmin etmek için algoritmik işlemler kullanırken, finansal piyasalarda ise algoritmik süreçler özellikle yüksek frekanslı alımsatım işlemlerinde ön plana çıkıyor.

Algoritmalar Tarafsız ve Nesnel mi?

Geçtiğimiz günlerde akademi ve uygulamacıların katılımıyla New York’da gerçekleşen ve ana teması algoritmalar ve algoritmik süreçler olan Society for Advancement of Socio-Economics (SASE) Konferansı’nda yeniçağın parlayan yıldızı algoritmalar derinlemesine tartışıldı. Bir problemin çözümü için gerekli girdilerin nasıl elde edileceği, nasıl işleneceği ve bu girdilerden nasıl çıktı alınacağına yönelik açık ve mekanik talimatlar kümesi olarak tanımlanan algoritmalar ile ilgili iki temel tartışma konusu bulunuyor. Bunlardan ilki “algoritmaların tarafsızlığı ve nesnelliği”, ikincisi ise “algoritmik sistemlerin sorumluluğu”. Akademisyenler ve alan uzmanlarına göre bu tür algoritmalar ne tarafsız ne de nesneldir; potansiyel olarak bilinçli veya bilinçsiz ayrımcılığa ve önyargıya yol açan seçimlerin, sınıflandırmaların, öznel yorumların ve kararların sonucudur. Buradan çıkacak sonuç, bunlar çok farklı yönlendirmeler için kullanılabilir.

Algoritmik Hesap Verebilirlik Mümkün mü?

İnsanların eylemleri ve deneyimleri giderek daha fazla algoritmik süreçler tarafından tanımlanıyor ve algoritmik sistemler bu işlemlere aracılık ediyor. Bu sebeple, “algoritmik sistemlerin sorumlu tutulması”nın yollarının bulunması da büyük önem taşıyor. Bununla birlikte, şeffaflığı artıran ve çevrimiçi aracıların otomatik karar verme prosedürlerini sorumlu kılan “algoritmik hesap verebilirliği” sağlamak birkaç nedenden dolayı zor bir girişim olarak değerlendiriliyor. Bunların başında ise “gizlilik sorunu” geliyor. Algoritmik formüllere ilişkin yapılacak detaylı açıklamaların, kötü niyetli kullanıcılar ve rekabet açısından olumsuz sonuçlar doğurabileceği düşünülüyor.

Otomatik karar verme sürecinde kullanımı, düzenlemeler açısından kaygıları artırıyor Bir yandan kamuda ve sanayide otomatikleştirilmiş karar verme sistemleri potansiyel yeni fırsatlar sunarken, diğer yandan bu sistemlerin yasal ve düzenleyici çerçevelerinin oluşturulması ayrı bir zorluk olarak karşımıza çıkıyor. Dolayısıyla insanların yerine karar alan sistemlerin yönetişimi (Governance) ve kontrolü konusu büyük önem taşıyor. Bir sistemin tercihlerinizi belli verilere ve sürece dayalı olarak da olsa otomatik olarak karşınıza çıkarması pek çok alanda kararlarımızın kontrol altında tutulabileceği ve bilinçli yönlendirmelerin olanaklı olabileceğini gösteriyor. Bu nedenle bunların kontrolü meselesinin esas önemi hangi amaçlarla kullanılabileceği sorusundan kaynaklanıyor.

“Hesap verebilirlik” algoritmik sistem tasarımının ilk aşamasından itibaren düşünülmeli

Algoritmik süreçlerin yönetişimi konusu henüz az gelişmiş olmakla birlikte iyi bir yönetişim için otomatik süreçlerin tasarımı konusunda çalışmalar hızla devam ediyor. Geliştirilecek sistemin hesap verebilir bir şekilde işlemesi için hesap verebilirlik, tasarım sürecinin ilk aşamasından itibaren bu sistemin bir parçası olmalı. Bu noktada, algoritmaların iyileştirilmesi, hesap verebilir ve şeffaf süreçlerin sağlanması ve algoritmaların yönetimi için kontrol mekanizmalarına odaklanılması büyük önem taşıyor. Bu tür yapay zekâ teknolojilerinin gelişmesi elbette çok önemli ve desteklenmeli. Her şeyden önce tüm kaynakların etkin kullanımını sağlayacak, insanın yaşam kalitesini artıracak olanaklar sağlıyor.

Ama kontrol edilmez, gerekli düzenlemeler yapılmazsa bir o kadar da risk içeriyor. Bu noktada Dünyayı robotlardan önce algoritmaların yöneteceği olasılığını hiç de yabana atmamak lazım.