Amjad Al-Sheikh o gün Şucaiyye’deki evinde değildi. Yakındaki bir marketteydi.
Önce beş büyük patlama duydu. Patlamaların şiddeti marketin camlarını kırdı. Al-Sheikh koşarak ailesinin yaşadığı sokağa gitti. Ama ortada sokak kalmamıştı. Evler de yoktu.
Anlattığına göre birkaç dakika önce insanların yaşadığı mahalle, artık beton yığınlarından ve dev çukurlardan oluşuyordu. Her tarafta bağırışlar, duman ve enkaz vardı. İnsanlar elleriyle betonları kaldırmaya çalışıyordu.
Amjad da kazmaya başladı. Ailesini arıyordu. Eşi ve küçük kızı mucize eseri hayatta kaldı. Üzerlerine devrilen bir dolap onları enkazdan korumuştu. Ama Amjad’ın 11 yakını o saldırıda öldürüldü. Kardeşleri, kız kardeşleri ve onların küçük çocukları.
Gazze’de savaş başladığından beri yıkılan bina görüntülerini izlemek artık günlük rutinimiz olmuştu. Tüm şehirdeki binalar her gün onlarca kez büyük patlamalarla yerle bir ediliyordu. İçerideki insanların hayatları ile ilgili detayları pek bilmiyoruz. Savaş koşulları o kadar amansız ki bilgiler ancak bazı tanıklıklar sayesinde bizlere ulaşabiliyor. Çünkü orada yaşayan istisnasız herkesin ilk hedefi öncelikle hayatta kalabilmek.
Bir araştırma İsrail’in, binaları hedef almasının arkasında yapay zeka ile çalışan ve tamamen otomatik kararlar veren büyük bir sistem kurduğu ortaya çıkardı.
İşte bugün +972 Magazine ve Local Call tarafından yayımlanan bu kapsamlı araştırmaya bakacağız birlikte. Özellikle hedeflerin nasıl belirlendiğine, insanların nasıl takip edildiğine ve bir hedefi öldürmek için kaç sivilin ölümünün kabul edilebilir görüldüğüne ilişkin kurulan mekanizmanın varlığını birlikte irdeleyeceğiz.
Araştırma, Gazze savaşında görev yapmış altı İsrailli istihbarat görevlisinin ifadelerine dayanıyor.
Araştırmanın merkezinde ise İsrail ordusunun kullandığı ve “Lavender” adı verilen yapay zeka destekli hedefleme sistemi bulunuyor. Resmi olarak, Lavender sistemi, Hamas ve Filistin İslami Cihadı'nın askeri kanatlarındaki tüm şüpheli militanları, düşük rütbeliler de dahil olmak üzere, potansiyel bombalama hedefleri olarak işaretlemek üzere tasarlanmış bir yapay zeka sistemi.
İsrailli kaynaklar, savaşın ilk haftalarında ordunun neredeyse tamamen Lavender sistemine güvendiğini ve bu sistemin 37 bin kadar Filistinliyi şüpheli militan olarak ve evlerini olası hava saldırıları için hedef olarak belirlediğini söylüyorlar.
Sistem Gazze’de yaşayan insanların büyük bölümüne ilişkin çok geniş bir veri havuzunu analiz ediyor ve kişilerin Hamas ya da Filistin İslami Cihadı’nın askeri yapılanmalarıyla bağlantılı olma ihtimalini değerlendiriyordu.
Bir kişinin Hamas ile bağlantılı olma ihtimali belirli bir puana ulaştığında o kişi potansiyel hedef haline gelebiliyordu. Bu işi de işte yapay zeka destekli bir otomatik sistem yapıyordu.
Araştırmaya göre sistem savaşın ilk dönemlerinde yaklaşık 37 bin Filistinliyi şüpheli örgüt mensubu olarak işaretlemişti. Bunların önemli bir bölümünün düşük rütbeli ya da sıradan örgüt mensubu olduğu varsayılıyordu.
Bu noktada Lavender’ın neden geliştirildiğini anlamak önemli. Biraz açalım.
İsrail ordusunda geçmişte bir kişinin insan hedefi haline getirilmesi yani ortadan kaldırılacak hedef olarak görülmesi ayrıntılı bir istihbarat süreci gerektiriyordu. Bir istihbarat görevlisinin hedef hakkında çeşitli kaynaklardan bilgi toplaması, kişinin gerçekten askeri örgüt mensubu olduğunu doğrulaması, görevini ve önemini belirlemesi, nerede yaşadığını tespit etmesi ve saldırı yapılacağı sırada nerede olduğunu doğrulaması gerekiyordu.
İsrailli istihbarat yetkililerine göre birkaç düzine üst düzey Hamaslı komutan hedeflendiğinde bu yöntem uygulanabilir durumdaydı.
Ancak 7 Ekim’den sonra işler değişmeye başladı. Çünkü artık yalnızca üst düzey Hamas komutanları hedefte değildi. Örgütün askeri kanadındaki düşük seviyeli mensupların ve aslında Gazze’de seçim kazanmış Hamas ile ilişkili olan herkesin hedef alınmasına karar verildi. Böylece potansiyel hedef sayısı birkaç düzineden on binlere çıktı.
İşte ölüm makinası olan Lavender fikri burada ortaya çıktı. Bu büyüklükte bir hedef havuzunu klasik istihbarat yöntemleriyle incelemek mümkün değildi. Böylece onbinlerce insanı ortadan kaldırmak için yapay zeka destekli bir sistem kuruldu.
Lavender, bilinen Hamas ve İslami Cihad mensuplarının davranış ve iletişim özellikleri üzerinden eğitilen bir makine öğrenmesi sistemi olarak inşa edildi.
Sistem daha sonra Gazze nüfusu içerisindeki diğer insanların bu kişilere ne ölçüde benzediğini hesaplıyordu. Göstergelerin çerçevesi o kadar geniş tutulmuştu ki.
Örneğin bilinen bir Hamas mensubuyla aynı WhatsApp grubunda bulunmak, sık telefon değiştirmek, adres değiştirmek veya belirli kişilerle telefon bağlantısı kurmak kişinin hedef olması için yeterli olan puanını yükseltebiliyordu.
Dolayısıyla Gazze’de yaşayan on binlerce insan bu hedef listesine girmişti. Zaten araştırmada konuşan kaynaklar Lavender’ın bu tür durumlarda yanlış hedefler üretebildiğini açık biçimde kabul ediyorlar.
Araştırmadaki en önemli ayrıntılardan biri sistemin doğruluk oranı.
Kaynaklara göre savaşın ilk haftalarında Lavender’ın ürettiği birkaç yüz hedef manuel olarak incelendi ve sistemin yaklaşık yüzde 90 oranında doğru sonuç verdiği sonucuna varıldı. Yani isimlere rastgele bakıldı ve yapay zekanın ürettiği istihbaratın doğru olma oranı belirlendi.
Bunun ardından Lavender’ın sonuçlarının büyük ölçüde doğrudan kullanılmasına izin verildi. Burada yüzde 90 rakamı ilk bakışta oldukça yüksek görünebilir. Ancak hedef sayısı 37 bine ulaştığında durum değişiyor.
Yüzde 90 doğruluk, yüzde 10 hata anlamına geliyor. Bu oran on binlerce insan üzerinde uygulandığında potansiyel olarak binlerce yanlış kişinin hedef listesine girmesi demek.
Bu arada 37 bin kişinin hepsi de silahlı Hamas mensubu kişiler değil elbette. Az önce de belirttiğim gibi Gazze’de seçim kazanmış Hamas ile herhangi bir teması, sempatisi, ilişkisi olan herkes bu listeye ekleniyor. İşte bu sorunlu listenin de yüzde 10’luk hata payı olması neredeyse on binlerce insanın rastlantısal şekilde öldürülmesi anlamına geliyor.
Üstelik hatayı yalnızca hedeflenen kişiyle sınırlı olarak görmemek gerekiyor.
Zira araştırmaya göre bu kişiler çoğunlukla evlerinde, aileleriyle birlikteyken vuruluyordu.
Dolayısıyla işaretlenen tek bir kişi nedeniyle eşi, çocukları, kardeşleri veya aynı binada yaşayan diğer siviller de hayatını kaybediyordu. Yüzbinlerce insan böyle hayatını kaybetti. Tıpkı yazının başında anlattığım olay gibi.
İsrail ordusu +972’ye verdiği resmi açıklamada yapay zekanın insan yerine hedef belirlemediğini, kullanılan sistemlerin istihbarat görevlilerine yardımcı olan araçlar olduğunu ve her hedef için bağımsız insan değerlendirmesi yapıldığını savunuyor.
Fakat araştırmada konuşan istihbarat görevlileri farklı bir tablo çiziyor.
Kaynaklardan biri, Lavender tarafından seçilen düşük seviyeli hedefleri incelemek için askerlerin ortalama 20 saniye ayırdığını söylüyor.
Bu kontrolün temel amacı da kişinin erkek olduğunun doğrulanması sadece.
Çünkü Hamas ve İslami Cihad’ın askeri kanatlarında kadın savaşçı bulunmadığı varsayımıyla hareket ediyorlardı. Dolayısıyla sistem bir kadını hedef olarak belirlediyse bunun muhtemelen hata olduğu düşünülüyordu.
İsrailli kaynak, kendisinin insan olarak sisteme kattığı değerin neredeyse yalnızca bir “onay damgası” olmaktan ibaret olduğunu söylüyor.
Dolayısıyla yapay zekanın belirlediği hedefi 20 saniye düşünüp sadece onay tuşuna basıp yok eden bir ölüm mekanizmasından bahsediyoruz.
Yapay zekanın görevi burada bitmiyor elbette.
Lavender insanları hedef olarak işaretledikten sonra ikinci aşama gerçekleşiyordu.
Bu insanlar nerede vurulacak?
Araştırmaya göre İsrail ordusu bunun için de otomatik takip sistemleri kullandı. Ve bu sisteme “Baba nerede?” ismini koydu.
Sistem hedef olarak belirlenen kişilerin hareketlerini izliyor ve kişinin aile evine girdiğini tespit ettiğinde hedefleme görevlilerine bildirim gönderiyordu.
Kaynakların anlattığına göre yüzlerce veya binlerce isim aynı anda sisteme yüklenebiliyor ve bu kişilerin evlerine dönmeleri beklenebiliyordu.
Bu uygulama sivil ölümler açısından kritik öneme sahip.
Çünkü hedeflerin askeri faaliyet yürütürken vurulması yerine aile evlerinde vurulması, saldırı sırasında eşlerin, çocukların ve diğer aile üyelerinin de yok edilmesi anlamına geliyordu.
Elbette bu tesadüfen verilmiş bir karar değildi. Aileleri topyekün yok etmek fikri esas amaçtı. Ve bu sisteme de “Baba nerede” ismini koymak da elbette tesadüf değildi.
Araştırmada konuşan bir kaynak sistemin çalışma mantığını şöyle açıklıyor: Yüzlerce hedef sisteme giriliyor ve hangisinin eve dönüp vurulabilir hale geleceği bekleniyordu.
Bu yöntem, neden Gazze’de çok sayıda ailenin aynı saldırıda tamamen yok olduğunu açıklıyor bize.
Araştırmanın aktardığı BM verilerine göre savaşın sadece ilk ayında hayatını kaybeden 6 bin 120 kişi yalnızca 1.340 aileye mensuptu. Birçok aile evlerinde toplu biçimde hayatını kaybetmişti. Bu bir soykırım değilse nedir?
Lavender araştırmasının en ağır bölümlerinden biri sivil kayıp sınırlarıyla ilgili. Yani bir hedef insanla birlikte kaç sivilin öldürüleceği de önceden belirlenmiş.
Kaynaklardan birine göre savaşın ilk haftalarında düşük seviyeli bir Hamas mensubunu öldürmek için 20’ye kadar sivilin ölümüne izin verilebiliyordu.
Bu nokta uluslararası insancıl hukuk açısından da son derece önemli.
Savaş hukukunda bir hedef askeri nitelikte olsa bile saldırının beklenen askeri avantajıyla sivillere verilecek zarar arasında orantılılık değerlendirmesi yapılması gerekir. Yani “hedef Hamas mensubudur” demek tek başına sivil kaybı meşru hale getirmez.
Fakat araştırmadaki kaynakların anlattığı sistemde insan hedeflere ilişkin belirli sivil kayıp rakamlarının önceden genel olarak kabul edildiği belirtiliyor. Üst düzey komutanlarda ise bu sayı çok daha yüksek olabiliyor.
Kaynaklara göre bazı saldırılarda tek bir üst düzey komutanı öldürmek için 100’den fazla sivilin ölebileceği kabul edilebilir seviye olarak değerlendiriliyor.
İnsanlık için ne büyük acı.
İsrail’in yapay zeka sistemini en geniş çerçevede eğiterek neredeyse her Gazzeliyi Hamas militanı olarak kodlayan, evlerine gittiğinde askeri yetkililere mesaj yollayan bir ölüm mekanizması geliştirmesi yaşadığımız yüzyılın en büyük yıkımlarından biri olsa gerek.
Lavender araştırmasının asıl önemi yalnızca Gazze’de ne olduğunu açıklamasıyla sınırlı değil elbette.
Bu sistem gelecekte savaşların nasıl yürütülebileceğine dair ciddi bir örnek oluşturuyor maalesef.