Katil robotlar!

HEMEN söze girmeden belirtmem gerekiyor: Biraz sonra okuyacaklarınız ilk başta bilimkurgu fikirlerin abartılarak anlatımı gibi hissedilse de, halihazırda tüm dünyada tartışılan, lakin ülkemizde sadece birkaç kişi tarafından üstünkörü değinilmiş gerçek bir problemi dile getirmektedir. Geçtiğimiz 10 yıl içerisinde büyük bir gizlilik içerisinde pişirilmiş, kotarılmış, kiminin alkışladığı, kimininse şiddetle protesto ettiği bir “teknolojik ürün silsilesi geri dönüşümü”, çok zor sorunları bizlerle tanıştırmak üzere. Üstelik durdurmak için hiçbir yasal engel yok. Protestoların amacı derhal yasal bariyerler koydurmak, toplumları haberdar ederek hep birlikte bencilce verilen kararlara direnmek...

Konu, otonom (yani hiçbir insan muamelesine gerek kalmadan, kendi kendine karar verebilen) robotlar. Yıllardır uzaktan takip edip uygulama alanlarında gelebileceği boyutları pek de tahmin edemediğim bu tür robot çalışmaları geçen hafta bazı ülkelerin askeri kurumlarınca “kullanıma hazır” diye boy gösterince kelimenin tam anlamıyla şoke oldum. Gerçi “Boy gösterdi” diyorum, ama öyle sansasyonlar yaratarak değil. Dışarıya sızan haber tarzında. Bilimle biraz ilgisi olan, yeni teknoloji meraklısı okur ve yazarlar dışında işin boyutlarını anlamayanlar, “Abartılacak bir şey yok, zaten yıllardır bu konu konuşuluyor, ortada belli bir ürün yok” deyip geçiverdiler.

GELELİM İŞİN DETAYINA...

Evet, “otonom robot” fikri gerçekten ilginç. Düşünün ki eve bir robot temizleyici geliyor, siz hiçbir müdahalede bulunmadan, ne yapacağını programlamadan kirli sepetinize bakıp doluysa çamaşırları yıkıyor, ütüleri yapıyor, tencere boşsa yemek pişiriyor, ağlayan çocuğunuzu uyutuyor, kısacası mükemmel bir hizmet sergiliyor... Çok hoş değil mi? İnanması güç ama işte bu şekilde çalışan robotların artık piyasaya sürülmesine çok az kaldığı ilan edildi. Ancak maalesef amaç çok daha farklı. Üretilen robotlar “katil robotlar” olarak adlandırılıyor. Hedefleri belli adresteki kişileri öldürmek, yaşadıkları bölgeleri talan etmek. Üstelik otonom oldukları için kararları kendileri veriyorlar. İşlevleri beyinlerine yerleştirilen koordinatlara ulaştıkları an başlıyor. Bu katil robotları başarılı bir şekilde üreten 4 ülke var: Rusya, Amerika, İsrail ve Çin.

Dikkatinizi çekerim, “İnsan emri almaksızın” diyorum. Yani o bildiğiniz ABD’nin “crusher” diye isimlendirilen uzaktan kumanda edilebilen robotundan ya da insansız hava araçlarından bahsetmiyorum. Aynen “Terminatör” filmindeki gibi, tamamen yok etmeye yönelik, insan kumandasız öldürme makinelerinden bahsediyorum. 2013 ve 2014 yıllarında konuyu tartışmak üzere Cenevre’de düzenlenen toplantılarda Küba, Ekvador, Mısır, Vatikan ve Pakistan temsilcileri “bu önü alınamayacak, etik dışı uygulamayı kabul etmediklerini, derhal yasal olarak engellenmesi gereğini” savunurken; Fransa, Almanya, Hollanda ve İngiltere “bu teknolojiye sıcak baktıklarını” açıklamıştı. Peki diğer katılımcı ülkeler ne yaptı? Ya işin boyutlarını anlamadıklarından ya da tamamen teknolojinin bu derece gelişmiş olabileceğine inanmadıklarından dolayı sessiz kalmayı yeğlediler.

O toplantılardan bu yana insan hakları savaşçıları işbaşında. Bu inanılmaz teknolojinin çok yakında kullanılmaya başlanacağını ilan etmeye, gelebilecek tehlikelere karşı insanların gözlerini açmaya çalışıyorlar. Bundan yaklaşık 1 yıl önce Evan Ackerman, IEEE Spectrum adlı dergide bu otonom robotların kesinlikle yasaklanmaması gereğini özetle şu sebeplerle savunmuştu:

1. Saldırgan robotların yardımıyla terörle savaşan ülkelerin insan kayıp sayısı ya çok aza ya da sıfıra indirilebilir. Çünkü teröristlerle bire bir çatışan güçler insanlar değil direkt robotlar olacak.

2. İnsan duygularının işe girdiği an kayıplar artar. Oysa otonom robotlar daha saldırı başlamadan bazı parametreleri kontrol ederek tereddüt duygusunu yaşamadan direkt olarak hedefi yok ederler.

3. Robotlar hedef vurmada insanlardan daha başarılılar. “Beceriksiz robotlar” hizmete sokulmadan üretim sırasında yok edilmektedirler.

4. Otonom robotlar uzay bilimlerinde kullanılabilirler. Mesela insan hayatını tehlikeye atmak yerine onlar gezegenlere gönderilebilirler.

5. Otonom robot sistemleri otomobillerde kullanılarak insan dikkatsizliğinden kaynaklanan trafik kazaları tamamen engellenebilir.

6. Bu olağanüstü buluş sadece “katil robot” olarak lanse edilmemelidir. İnsanlığa sunulacak sayısız hizmete imza atabilecek potansiyeldedirler.

Evan Ackerman’ın karşısına çıkan insan hakları savunucuları ise yanıtları kolay kolay verilemeyecek bir liste oluşturmuşlar. Bu listeyi oluşturmada öncülük yapan iki ismi gayet iyi biliyorsunuz: Elon Musk ve Stephen Hawking.

GELELİM OLUŞTURULAN KAYGILAR LİSTESİNE:

1. Bu tür buluşlar insanlık tarihindeki diğer buluşlar gibi insana hizmetten çok ya insanları kontrol etmek ya da yok etmek amacıyla kullanılacaktır. Tarih bunun örnekleriyle doludur.

2. Bu önemli buluşun sadece “katil robotlar” olarak kullanılmasının önüne nasıl geçilecek?

3. Savaş sırasında varılan hedef noktada (örneğin sivil halk çoğunluğu ile karşılaşılmasında) duruma göre kararlarda değişiklikler yapılabilir. Otonom robotun vereceği kararlar sivil halkın varlığına göre değişmez. Öldürmeye odaklanırsa çok büyük sayılarda sivil halk kayıplarına sebep olur. Bunun kontrolü nasıl yapılacaktır?

4. Yapılan deneme çalışmalarında robotların genelde “Dur” emrini almakta geciktiklerini duymuş bulunmaktayız. Durdurulamayan otonom robotlara nasıl güvenilebilir?

5. İnsanlık tarihinde insanın insanı öldürmesi normal karşılanmazken bu buluşla robotların insan öldürmesi normal görülmeye mi başlanacak?

6. Savaş sırasında gerçekleşen savaş hataları “robot hatası” olarak gösterilebileceğinden etik dışı tüm uygulamalar nasıl kontrol edilecek?

NASA’da çalıştığım süre içerisinde robotik sistemlerde gerçekleştirilen çalışmaları yakından izleme şansım oldu. Biliyorsunuz, Mars’a gönderilen robotların hiçbiri otonom değil, insan kontrolü altında. Projeler oluşturulurken otonom robot kullanma ihtimalinden söz edildiğinde NASA yönetiminin ilk tepkisi “İnsan kontrolü dışında robot kullanımı riskli olur” olmuştu. NASA bomboş uzayda otonom robotların verebileceği zararları risk olarak görürken insanların arasına öldürücü robot salmayı normal sayan zihniyeti anlamak gerçekten çok güç. Basına yapılan her açıklama, Hollywood filmlerindeki “Kahraman robotlara benzer robotlar yaratacağız” tarzında. Hiç kimsenin sormadığı soru ise bu robotların gerçekten terör yaratmak isteyen insanların eline geçmesine nasıl engel olunacağı.

Tartışılması gereken bunca soruya ve son derece geçerli huzursuzluk nedenlerine rağmen adı geçen ülkelerin “Robotların hizmete geçmesine az kaldı” duyurusu yapması ve gene buna rağmen diğer dünya ülkelerinin bu habere tepkisiz kalmaları anlaşılır gibi değil. Bence insan hakları savunucuları otonom robot tehlikesi için tek tek bireyleri eğitmeden önce bu konuda derin uykudaki ülkelerin liderlerinde farkındalık oluşturmaya başlamalılar...