Son yıllarda yazılımlar sadece komut alan araçlar olmaktan çıktı. Öneriyor, tahmin ediyor, hatta “karar veriyor” gibi görünüyor. Bu noktada haklı bir soru ortaya çıkıyor: Gerçekten düşünen yazılım mı, yoksa onu yönlendiren insan mı?
Yazılım düşündüğünü iddia etmez; biz ona bu anlamı yükleriz. Bir algoritma, kendisine verilen verilerle çalışır. Geçmişten bugüne o veri havuzundaki tüm olayları inceler, öğrenir ve davranışını buna göre sevgiler. Ne sorarsanız onu cevaplar, ne öğretirseniz onu tekrar eder. Yani yazılımın zekâsı, onu besleyen insanın niyeti ve bilgisi kadardır. Tarafsız gibi görünen sistemler bile, onları tasarlayan insanların tercihlerini ve bakış açılarını taşır.
Bugün yapay zeka destekli yazılımlar hangi haberi okuyacağımıza, hangi ürünü alacağımıza, hatta kimi işe alacağımıza dair öneriler sunuyor. Ancak bu öneriler bir “akıl yürütme” sonucu değil, geçmiş verilerin istatistiksel yorumudur. Geçmişte olmuş bitmiş veya devam eden tüm olaylar bugün yapay zekaya yön verebilir. Sonuçları yorumlayan yine insandır.
Asıl tehlike yazılımın düşünmesi değil, insanın düşünmeyi yazılıma bırakmasıdır. “Nasıl olsa sistem biliyor” rahatlığı, sorgulama refleksimizi köreltebilir. Oysa teknoloji bir pusuladır, direksiyon değildir. Yönü gösterir ama rotayı yine biz çizeriz.
Bu yüzden soru aslında yanlış yerde duruyor. Yazılım mı düşünür, insan mı yönlendirir demek yerine şunu sormalıyız: İnsan, olayları yönlendirme sorumluluğunu kendi üstüne almaya devam edecek mi? Cevap evetse, yazılım güçlü bir araçtır. Hayırsa, sorun teknolojide değil, onu kullanan zihniyettedir.
