Yapay zekânın düşünebilme kapasitesini tartışırken, bir diğer kırılgan alan olan karar verme becerisi giderek daha fazla gündeme geliyor. Çünkü karar vermek yalnızca bilgiye değil, değerlere dayanır. Bir doktorun teşhis koyması, bir hâkimin hüküm vermesi ya da bir sürücünün ani fren yapması sadece bilişsel bir süreç değildir; aynı zamanda etik, duygusal ve toplumsal bir süreçtir.

Peki bu karmaşık süreci bir algoritmaya emanet etmek gerçekten ne kadar doğru?

Bugün yapay zekâ sistemleri, neredeyse her sektörde karar destek mekanizmalarının merkezinde yer alıyor. Bankalar kredi verirken, hastaneler teşhis koyarken, sigorta şirketleri risk hesaplaması yaparken, hatta bazı ülkelerde mahkemeler cezaları belirlerken bile algoritmalar devreye giriyor. Ancak bu sistemlerin beslendiği temel şey, geçmiş verilerdir.

Ve geçmiş her zaman adil değildir.

Bir toplumun geçmişinde cinsiyetçi, ırkçı ya da sınıfsal önyargılar varsa; bu önyargılar veriye, oradan da algoritmalara sızar. Böylece, “tarafsız” olması beklenen sistemler, farkında olmadan insan hatalarını yeniden üretir. Kısacası, matematik tarafsız değildir; hangi veriyle beslendiğine bağlı olarak yön alır. Bir yapay zekâ, olasılıklar üzerinden en mantıklı kararı verir ama mantık, her zaman doğruyu göstermez. Bazen bir hayat kurtarmak için kuralı çiğnemek gerekir — işte vicdan tam da bu noktada devreye girer.

Vicdan, sadece aklın değil, duygunun da rehberidir. Bir makine içinse “vicdan”, ancak kod satırlarında tanımlanabilen bir değişkendir — ne eksik, ne fazla.

Yapay zekâ, mantığın sınırlarında dolaşır; oysa insan, mantığın bittiği yerde anlam arar.

Bir anne, yalan söyleyen çocuğunu cezalandırmamakla “yanlış” ama “merhametli” bir karar verebilir. Bir doktor, kuralı esneterek bir hayat kurtarabilir. Bu tür kararlar, algoritmaların dünyasında “hata” olarak tanımlanır. Oysa insan dünyasında, bu hatalar bizi insan kılar.

Bir sistemin vicdan sahibi olabilmesi için, anlam üretebilmesi gerekir. Ancak yapay zekâ yalnızca veriyi işler, anlamı değil. O yüzden bir kararı neden verdiğini “anlamaz”; sadece verilen görevi yerine getirir. Yani sorumluluk, kod satırının değil, onu yazanın omuzlarındadır.

Sorumluluğun silikleştiği yer bizi önemli bir etik ikileme taşır: Eğer yapay zekâ hata yaparsa, kim hesap verecek?

Kod yazarı mı, kullanıcı mı, yoksa sistemin kendisi mi?

Cevap basit gibi görünür: Elbette insan.

Ama işler karmaşıklaştığında, kimsenin tam anlamıyla sorumluluğu üstlenmediği bir “gri alan” ortaya çıkar. Çünkü makine niyet taşımaz. Niyeti olmayan bir varlığa “suç” ya da “sorumluluk” atfetmek mümkün değildir.

İşte tam da bu yüzden, etik tasarım, şeffaf algoritma ve insan denetimi kavramları hayati önem taşır.

Yapay zekâ sistemleri karar verirken neyi, neden yaptığını açıklayabilmelidir. “Açıklanabilir yapay zekâ” denilen bu kavram, yalnızca teknik bir gereklilik değil; toplumsal güvenin temelidir. Çünkü bir kararın adil olup olmadığını anlamanın ilk adımı, o kararın nasıl alındığını bilmekten geçer.

Yapay zekânın hatasız çalışması bizi büyüler; çünkü hatasızlık, insana imkânsız gelen bir idealdir. Ancak hatasızlık, bazen en büyük hatadır.

Çünkü hatalar, vicdanın öğretmenidir.

Bir hata karşısında pişmanlık duymak, öğrenmenin ve gelişmenin yoludur. Fakat bir makine pişman olamaz. O sadece “yeniden başlar”. İnsan ise düşünür, sorgular, değişir. Bir gün makineler karar verdiğinde, belki sonuçlar daha hızlı, daha verimli olacak. Fakat o kararların ardında bir kalp atışı olmayacak.

Belki de insanlığın en büyük sınavı, kendi yarattığı zekânın hatasızlığını değil, vicdansızlığını yönetebilmek olacak.

Teknoloji geliştikçe, insani değerleri hatırlamak daha da önem kazanıyor. Çünkü bizler, düşünmenin yanı sıra hissedebilen varlıklarız. Yapay zekâ, karar vermede bize yardımcı olabilir; ama kararın ahlaki yükünü asla paylaşamaz. O nedenle, teknolojiyi “düşünen bir ortak” değil, sorumluluk bilincine sahip bir insanın elindeki araç olarak konumlandırmak zorundayız. Vicdan, hiçbir zaman otomatikleştirilemez.

Sonuçta mesele, makinelerin düşünebilmesi değil; bizim hâlâ düşünebiliyor, hissedebiliyor ve sorumluluk alabiliyor olmamızda gizli. Yapay zekâ belki bir gün insanı taklit etmeyi mükemmelleştirebilir, ama insan olmanın özünü —vicdanı— asla kopyalayamayacaktır.

Bir sonraki yazımızda, bilginin ışığında güzel günlerde görüşmek üzere…