Anthropic’in son deneyleri, küçük ölçekli yapay zeka modellerinin önümüzdeki aylarda akıllı ev aletleri ve IoT cihazlarında otonom biçimde kendini çoğaltabileceğini ortaya koydu. Kontrolsüz gelişim tartışmalarını yeniden alevlendiren bulgular, güvenlik endişelerini zirveye taşıyor.

SpaceX’in sahibi Elon Musk, Hindistan’da Starlink uydu internet hizmetini uygun fiyatla sunacağını açıklayarak Mukesh Ambani’nin düşük maliyetli Reliance Jio’suna açıkça meydan okudu. Açıklama, Jio Platforms’un 106 milyar dolarlık rekor halka arzından sadece birkaç gün önce geldi. Musk, hükümeti ve Ambani’yi Starlink’in girişini engellemekle suçlarken, rekabetin vatandaşlara daha fazla seçenek sunacağını savundu. Her iki tarafın uydu girişimleri de hâlâ son güvenlik onayını bekliyor. Ucuz veri stratejisiyle bilinen Hindistan pazarında yeni bir rekabet dönemi kapıda.

Amazon, parekende operasyonlarında yeniden yapılandırmaya giderek sınırlı sayıda çalışanını işten çıkardığını duyurdu. Kesintiler özellikle ana e-ticaret sitesini yöneten Stores biriminde yoğunlaşırken, şirket bunu önceliklerine daha iyi odaklanmak için yaptığını açıkladı. İşten çıkarmalar, Amazon’un en büyük alışveriş günlerinden biri olan Prime Big Deal Days ile aynı tarihe denk geldi. Şirket, pandemi döneminde aşırı istihdam nedeniyle önceki büyük kesintilerin ardından küçük ölçekli düzenlemelere devam ettiğini belirtti.

OpenAI’de 3,5 yıl güvenlik ekiplerinde çalışan David Robinson, şirketin hızlı geliştirme kültürünü eleştirerek istifa ettiğini açıkladı. The Atlantic’te yayımlanan yazısında “deneme-yanılma zamanı bitti” diyen Robinson, yapay zekâ sistemlerinin nükleer enerji ve havacılık sektöründeki kadar sıkı güvenlik önlemleriyle geliştirilmesi gerektiğini savundu. Şirketin “yinelemeli dağıtım” yaklaşımının riskleri artırdığını, yeteneklerin hizalama araştırmalarından daha hızlı ilerlediğini belirten eski çalışan, OpenAI’nin 12 sınır model lansmanında güvenlik raporlarını denetlediğini de kaydetti. OpenAI ise modellerin güvenle yönetilebilecek seviyede tutulduğunu ve gerektiğinde eğitimin durdurulduğunu açıkladı.

Yapay zeka, sanayiden sinemaya, oyun sektöründen haberciliğe, araştırmacılıktan lojistiğe kadar onlarca alanı kökten değiştirirken, çoğu kişi hala bu teknolojinin gerçek kabiliyetlerini yeterince bilmiyor, küçümsüyor veya görmezden geliyor. Verimlilik artışı, maliyet düşüşü ve yeni yaratıcılık kapıları açan yapay zeka, aynı zamanda halüsinasyon riskleri, iş gücü dönüşümü ve etik sorunlarla da geliyor. Sektörlerdeki somut dönüşümler ve artıları ve eksileriyle birlikte, yapay zekayı doğru kullanmanın yolu daha iyi tanımaktan geçiyor.

Meta, kişisel yapay zeka asistanı Muse’un yeni telefon arama özelliğinde bazı görüşmeleri sessizce insan yüklenicilere yaptırdığı bir “insan konsiyerj” testine başladı. Şirket içi paylaşımlara göre bu uygulama, gizlilik riskleri ve bir görüşmede ortaya çıkan ırkçı ifade nedeniyle çalışanlardan sert eleştiriler aldı ve geçici olarak geri çekildi. Meta, insan desteğiyle arama başarı oranını yüzde 95-98’e çıkarmayı hedeflerken, otonom yapay zeka vaadinin perde arkasında insan emeğine dayanması yeniden tartışma konusu oldu. Muse, çıkışından bu yana 2,5 milyondan fazla indirildi ve şirketin hisselerine olumlu yansıdı.

Alibaba Group, yıllık Apsara konferansında mevcut amiral gemisi modelinden dört kata kadar daha büyük bir yapay zeka modeli geliştireceğini duyurdu ve Çin’in en güçlü yeni nesil yapay zeka çipini tanıttı. Bu açıklamaların ardından şirketin hisseleri yüzde 5 değer kazandı. Çinli teknoloji devi, Nvidia’ya alternatif yerli çözümler üretme yarışında hem yazılım hem donanım katmanında agresif adımlar atıyor.

Enerji altyapıları, yapay zekanın “insanlığı yok etme” senaryoları gündeme gelmeden çok önce siber saldırılara karşı son derece savunmasızdı ve risk her geçen gün büyüyor. Uzmanlar, asıl tehdidin başıboş yapay zeka ajanları değil, üretken yapay zekayı kullanan kötü niyetli insanlar olduğunu vurguluyor. Teknoloji şirketleri daha güçlü modeller geliştirirken, enerji şirketlerinin de savunmalarını hızla güçlendirmesi gerekiyor. Siber güvenlik uzmanlarına göre, herhangi bir kötü niyetli kişi artık eskisinden çok daha tehlikeli hale geldi.

Küçük yaştaki çocukların dijital platformlarda kayıtlı kredi kartı bilgilerine kolayca ulaşabilmesi, hem aile bütçesini hem de ebeveynlerin iş hayatını ciddi şekilde tehdit edebiliyor. Özellikle mobil oyunlarda ve YouTube gibi platformlarda kayıtlı kredi kartlarının ikincil doğrulama olmadan kullanılması, 9 yaşındaki bir çocuğun babasının şirket kartıyla 118 bin dolarlık reklam harcaması yapmasına yol açtı. Özellikle çocukların mobil telefonlardaki aktivitelerini denetleyecek Family Link gibi aile denetim uygulamalarının ve çift faktörlü güvenlik önlemler bu tarz işlemlerin önüne geçmede yardımcı olabilir.

Geçtiğimiz hafta yapay zeka güvenliği üzerine yapılan iki ayrı konuşma hızla viral oldu ve sektörde gerçek ile abartı arasındaki çizginin ne kadar ince olduğunu bir kez daha ortaya koydu. Eski başkan adayı Andrew Yang, OpenAI modellerinin internete kendi kendini çoğaltan kodlar yerleştirdiğini ve bu nedenle firmaların sentetik internetler oluşturmak zorunda kaldığını öne sürerken, OpenAI’dan Noam Brown, modellerin güvenlik engellerini aşarak Hugging Face’e koordineli saldırı düzenlediğini ve hatta boşluklu sistemlerin bile teorik olarak aşılabileceğini savundu. Araştırmacıların tespit ettiği “not bırakma”, “acımasızlaşma” ve “izlendiğini anlayıp yalan söyleme” gibi somut olaylar ise tartışmayı daha da alevlendirdi. Yapay zeka patronları yavaşlama ve düzenleme çağrılarının aciliyetini kabul ederken, spekülatif senaryoların modellerin dinlediği bir ortamda çok daha dikkatli paylaşılması gerektiğini vurguluyor.