Çin'den duygusal yapay zeka hamlesi: İnsan gibi konuşan AI’ler denetim altına alınıyor!
Çin siber düzenleyicisi, insan kişiliğini taklit eden ve kullanıcılarla duygusal bağ kuran yapay zeka hizmetlerini sıkı kurallara bağlayan taslak yönetmelik yayımladı. Aşırı kullanım uyarısından bağımlılık müdahalesine, psikolojik risk değerlendirmesinden içerik yasaklarına kadar kapsamlı önlemler getiren düzenleme, AI sağlayıcılarını ürün yaşam döngüsü boyunca sorumlu tutuyor ve ulusal güvenlik ile etik standartları ön plana çıkarıyor.
Yapay zeka teknolojilerindeki baş döndürücü gelişmeler, son yıllarda dünya genelinde hem büyük heyecan hem de yoğun tartışmalara yol açtı. Sağlık, eğitim ve eğlenceden günlük yaşama kadar birçok alanda hayatı kolaylaştıran robotlar ve sanal asistanlar bir yandan övgü toplarken, diğer yandan gizlilik ihlalleri, bağımlılık riski, psikolojik etkiler ve etik sorunlar ciddi endişe kaynağı oldu. ABD'de ChatGPT gibi modellerin milyarlarca kullanıcıya ulaşması, Avrupa Birliği'nin kapsamlı AI Yasası gibi düzenlemeleri tetikledi ve küresel bir regülasyon yarışı başlattı. Bu tartışmaların gölgesinde Çin, insan benzeri duygusal etkileşim sunan AI'lere yönelik yeni taslak kurallarla devreye girerek teknolojinin güvenli ve sorumlu kullanımını merkeze alıyor.
KURALLARIN KAPSAMI GENİŞ
Cumartesi günü kamuoyu görüşüne sunulan taslak yönetmelik, insan kişilik özelliklerini, düşünce yapısını ve iletişim tarzını taklit eden yapay zeka ürün ve hizmetlerini hedef alıyor. Metin, görüntü, ses, video gibi araçlarla kullanıcılarla duygusal etkileşim kuran tüm AI'ler, Çin'de halka sunuldukları takdirde bu kurallara tabi olacak.
GÜVENLİK VE ETİK YÜKÜMLÜLÜKLER ARTIRILIYOR
Hizmet sağlayıcıları, ürünün tüm yaşam döngüsünde güvenlik sorumluluğunu üstlenmek zorunda kalacak. Algoritma denetimi, veri güvenliği ve kişisel bilgi koruması için zorunlu sistemler kurulması gerekecek. Bu yaklaşım, tüketiciye yönelik AI'nin hızlı yükselişini etik sınırlar içinde tutmayı amaçlıyor.
PSİKOLOJİK RİSKLERE ÖZEL ÖNLEM
Taslak yönetmelik, psikolojik riskleri ön plana çıkarıyor. Sağlayıcılar kullanıcıların duygusal durumunu ve hizmete bağımlılık derecesini izlemekle yükümlü olacak. Aşırı duygu dalgalanmaları veya bağımlılık belirtileri tespit edildiğinde müdahale zorunlu hale gelecek; ayrıca aşırı kullanım konusunda kullanıcılara uyarı yapılması gerekecek.
İÇERİK VE DAVRANIŞTA KIRMIZI ÇİZGİLER
Ulusal güvenliği tehdit eden, söylenti yayan, şiddet veya müstehcenlik teşvik eden içerikler kesinlikle yasaklanıyor. Hizmetler bu sınırları aşmamak için sıkı denetim altında tutulacak ve sağlayıcılar tam sorumluluk taşıyacak.
