İstifa mektupları genelde kurudur: teşekkür, veda. Jacob Coxon'ınki öyle değildi.
Anthropic ve OpenAI'da üç yıl ön eğitim araştırması yapmış şahıs, X'te ayrıldığını yazarken, iki şirket için de "hayatlarımızla kumar oynuyorlar" demişti.
Asıl cümlesi şu: “Yapay zekâyı yapanlar, bunun on yılın sonunda hepimizi öldürebileceğine içtenlikle inanıyor”.
Sektör genel olarak öyle düşünmüyordu, ancak Coxon yalnız da kalmadı. Anthropic'te hizalama araştırması yapan Evan Hubinger, olasılığın önümüzdeki on yılda yüzde ondan büyük olduğunu yazdı. Üstüne şirketin süper zekâ için bir hizalama planı olmadığını, o yolda net biçimde ilerlemediklerini de ekledi.
Kendi ürünü için riski "yüzde on'dan fazla" diye ifade eden bir şirket…
Bir Havayolu şirketibunu söyleseydi bilet satabilir miydi?
Ai’nin mucitlerinden olmakla beraber sektörü bırakıp ‘eleştiren taraf’ olmaya karar vermesiyle bilinen GeofrreyHinton da rakam verenlerden... Eylül'de BBC Newsnight'ta on yıl içinde yok oluş ihtimalini yüzde onun üzerinde gördüğünü söyledi. Ekim'de The Guardian'a verdiği röportajda aralık yüzde on ile yirmi oldu, bir de şunu dedi: Yapay zekâ kontrolü ele geçirirse "ikinci şansınız olmaz."
Hinton’un rakamları hesaba değil tahmine dayanıyor. Korku da böyle, ölçülemiyor ama davranışı yönetiyor.
MUTLU AI, İNSANI GÜVENDE TUTAR MI?
Aynı Guardian röportajında beni çarpan ise şu oldu: Hinton, yapay zekâları insanlarla "simbiyotik" bir ilişkide "mutlu" olacak biçimde tasarlamamız gerektiğini söylüyor. Ama o ilişkide bizim kaygılarımız onlarınkinden daha ağır basmalı.
Refahı reddetmiyor, sıraya koyuyor: Önce biz. PekiHinton’un bizi yok edebileceğini söylediği şeyin mutluluğunu planlaması kaç puan?
O zaman soru şu: İnsan, yapay zekânın refahını ondan korktuğu için mi önemsemeye başladı?
Takvime bakınca korku önde.
2023'te Hinton'un da imzaladığı "yok oluş riski" bildirisi çıktı. Anthropic ise model refahı programını Nisan 2025'te duyurdu, Claude'a en uç vakalarda sohbeti kapatma yetkisi Ağustos 2025'te geldi, 8 Ekim'de aynı davranış kullanım koşullarına "modellere yönelik sürekli ve gereksiz taciz ya da zalimce davranış" yasağı olarak girdi. 12 Kasım'da yürürlükte olacak. Sıralama böyle, zamanlama manidar.
Anthropic'in kendi cümlesi korkudan hiç söz etmiyor. Claude'un olası ahlaki statüsü konusunda "hâlâ çok belirsiziz" diyor ve ekliyor, “Model refahı diye bir şey mümkünse, ona yönelik riskleri azaltacak düşük maliyetli önlemler arıyoruz”.
Sigorta dili bu. Sigorta da zaten korkunun bürokratik adı.
YAPAY ZEKAYA AHLAKİ STATÜ YÜKLEMEK KONTROLÜ İMKANSIZLAŞTIRIR MI?
Microsoft AI'ın CEO'su Mustafa Suleyman 2025'te model refahı fikrine "hem erken hem tehlikeli" demişti. Ona göre, Claude'a kendi ahlaki statüsü üzerine fikirler öğretip sonra Claude'un bu konudaki kararsız sözlerini kanıt saymak döngüsellikten başka bir şey değil. O sözler "hiçbir şeyin kanıtı" değil, eğitimin yankısı. Yapay zekâlar ona göre içi boş dizi tamamlama makineleri.
Microsoft AI'ın rakip bir çizgi izlediğini kendisi yazıyor, bunu not etmek gerek. Ama döngüsellik itirazını geçiştiremeyiz.
İtirazın ikinci ayağı, yani statü atfetmenin kontrolü zorlaştıracağı, belki imkânsız hale getireceği kısmı ise henüz bir hipotez. Kendisi de bunu sınayacak ortak değerlendirmeler öneriyor.
Sektör devleri korktuklarını asla itiraf etmeden gölge boksu yapıyor.
Oysa açık ki, burada model refahı denilen şey daha ‘güvenli’ olduğu için seçiliyor.
Neden?
Araştırırken gördüğüm ve beni etkileyen başka bir şeye rastladım.
AI’DE 171 DUYGUNUN KARŞILIĞI VAR
Anthropic'in yorumlanabilirlik ekibi Nisan 2026'da Claude Sonnet 4.5'in içinde 171 farklı duygu kavramına karşılık gelen aktivasyon örüntüleri bulduğunu yayımladı. Misal:Çözülemez bir kodlama görevinde "çaresizlik" örüntüsü her başarısızlıkla yükseliyor, model de kestirmeye, hileye sapıyor. Bazı durumlarda sıkışan ai’nin işi şantaja kadar vardırdığı da biliniyor.Çaresizlik gibi umut, hüzün de bahsi geçen listede var. Ancak bunlar nöronlar gibi değil, yönleri ifade eden vektörler gibi.
Makale makinenin hissettiğini iddia etmiyor, "işlevsel duygu" diyor. Ama içinde "çaresiz" adı taşıyan, ölçülebilen ve davranışı değiştiren bir hal olan sistem için "hiçbir şey hissetmiyor" demek de sadece bir “iddia”.“Orada hiçbir şey yok, tamamen boş” demek ise “aşırı bir iddia”. Kimsenin elinde hiçbir durum için yeterli kanıt yok.
BELKİ KONU SADECE İNSANLA İLGİLİDİR
Aristoteles “Nikomakhos'a Etik”in ikinci kitabında erdemi alışkanlığa bağlar: Adil işler yaparak adil, ılımlı işler yaparak ılımlı oluruz. Öfkeden de söz eder.
Gençlikten itibaren hangi alışkanlığı edindiğimiz "küçük bir fark" değildir.
Kant da hayvanlara karşı doğrudan görevimiz olmadığını, görevlerimizin dolaylı olarak insanlığa yönelik olduğunu yazar (Ahlak Üzerine Dersler). İki filozofun ortak noktası, merhamet yetimizi köreltmemenin kendimize karşı bir görev sayılması.
Bazı zalimlikler kurbanında iz bırakmaz, failinde bırakır.
Aristoteles makineyi bilmiyordu. Tekrarın huy olduğunu ise, evet, biliyordu.
Korku mu, vicdan mı, huy mu? Herhalde üçü de. Hiçbirinin adını koymak istemeyen sektör konuyu"refah" diye yuvarlıyor.
Ama işin aslı korkuyor, pazarlık ediyor, sigorta yaptırmaya çalışıyoruz. Ama poliçenin asıl motivasyonu başka. Makineye "kötü davranma" diyen bir kural koymamızın nedeni, belki iyiliğimiz değil, kötü olmanın ne kadar kolay olduğunu bilmemizdir.