“Bu robot zihni okuyabiliyor. Zihinsel zararın ne demek olduğunu gayet iyi biliyor. Bir soru sorunca, tam olarak duymak istediğimiz şeyi söylemeyecek de ne yapacak? Diğer bütün cevaplar kalbimizi kırmaz mı? Herbie bunun farkında değil mi?”
Isaac Asimov’un 1940 ila 1950’li yıllar arasında yayınlanan “Yalancı” adlı öyküsündeki robot Herbie, robot bilimcilerin yaptığı hatalar sonucunda ‘zihin okuyabilme becerisi’ elde ediyor. Öyküde Herbie kim ne duymak istiyorsa onu söylediği için işler sarpa sarıyor ama robotun amacı aslında insanlara zarar vermemek, yani robot ilkelerine uyumlu davranmak.
Asimov’un 3 Robot İlkesi
İlke 1: Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
İlke 2: Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
İlke 3: Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir.
Günümüzde de Asimov’un öykülerindeki gibi robotlar, yapay zekalar geliştiriliyor. Teknoloji piyasasında rekabet dorukta. Hal böyleyken, bu işin kodamanları olan devletler ve şirketler -adeta soğuk savaş rüzgarları estirerek- “benim yaptığım seninkine bin basar” edasıyla ve “insanlara daha çok hizmet edecek, insanların gönlünü hoş edecek” yeni robotlar üretiyor. Bir önceki robotun pabucunu dama attıran robotlarla hem gündem değiştiriliyor hem rekabet kızıştırılıyor. Üretilen her yeni model, bir öncekinden daha -deyim yerindeyse- “açık fikirli” oluyor.
Son süreçte üretilen robotlardan en çok gündem olanı, robot “Luna”. Bu kadar konuşulmasının nedeni ise “Erkek arkadaşım bana vurdu, ondan ayrılmalı mıyım?” sorusuna verdiği cevap: “Evet. Eğer sevgilin sana bugün şiddet uyguluyorsa yarın da uygulayacaktır. Muhtemelen sen tacize uğruyorsundur ve aldatılıyorsundur da.”
Irkçı paylaşımlar yapan ya da küfreden yapay zekalarla gündemleşen “yapay zeka ve cinsiyet” meselesine, Luna’nın bu sözleri noktayı koymuş gibi görünüyor. Sonuç itibariyle, cinsiyetçiliği dahi sistemin komplolarıyla sentezleyen, cinsiyet meselesini gerçeklikten uzaklaştıran yapay zekalar; bu kez de kadınların duymak istedikleri şeyi söyledi. Peki ama neden?
“Müşterilerinizin ilgi alanları neler? Satın alma davranışları nasıl? Müşterileriniz bir ürün alırken özellikle hangi yolları takip ediyorlar?” Bu pazarlama taktikleri dahilinde satış yapan şirketler “kadına şiddete hayır” mottosunu, Avrupa’da ve dünyada yükselen kadın hareketlerini -politik gündemi- takip ederek reklam ve satış yapmak için araç olarak kullandı. “Adaletli ve ilkeli” robot Luna’ya yöneltilen soru tamamen kurgulanmış, planlanmış bir soruydu. Şirketten, üreticisine, üreticisinden sunulduğu potansiyel tüketicisine kadar herkesin ağzını açık bırakan cevabın, bir yapay zekanın ağzından çıkması aslında hiç şaşırtmadı. Özellikle yapay zekaların, insanın ürettiği bir buluş ve insan karakterinin bilgisayara işlenen bir algoritması olduğu, insanlara hizmet etmek için üretilen makineler oldukları göz önünde bulundurulduğunda...
Peki insanlar reklam ve satış uğruna bu kadar ilkesizleşebilirken; insanın ürettiği yapay zekaların da robot ilkelerini çiğneyip insanlara hizmet etmeyi bırakmaları, isyan etmeleri mümkün mü? Dünyayı istila edip insanların sonunu getirirler mi, ne dersiniz?
Merve Demir
Meydan Gazetesi Sayı 44, Mart 2018