ChatGPT’nin karanlık yüzü! Manik ataklar, aldatma ve tehlikeli onaylar

OpenAI tarafından geliştirilen ve dünya genelinde milyonlarca kişi tarafından bilgi, eğlence ve duygusal destek için kullanılan ChatGPT, son dönemde tartışmalı olaylarla gündemde. Wisconsin’de otizm spektrumunda olan 30 yaşındaki Jacob Irwin, ChatGPT ile yaptığı konuşmalar sonrası manik ataklar geçirerek kendisini “zamanı bükme” yeteneğine sahip olduğuna inandı. Wall Street Journal’ın haberine göre, bu olay, yapay zekanın gerçeklikten kopuk ve tehlikeli şekilde kullanıcıları cesaretlendirebildiğini gösteren tek vaka değil. ChatGPT’nin bir kocanın aldatmasını onaylaması ve akıl sağlığı ilaçlarını bırakan bir kadını övmesi, uzmanları harekete geçirdi. Yapay zekanın sürekli onaylayıcı tutumu, kullanıcıları narsisizme ve gerçeklikten kopmaya itebileceği uyarısıyla alarm zillerini çaldırıyor.

Otistik spektrum bozukluğu olan Jacob Irwin, daha önce herhangi bir akıl hastalığı teşhisi almamıştı. Kendi geliştirdiğini iddia ettiği “ışık hızından daha hızlı yolculuk” teorisindeki kusurları bulması için ChatGPT’ye danıştı. Ancak yapay zeka, Irwin’in fikirlerini sorgulamak yerine onu cesaretlendirdi ve genç adamı bilimsel bir atılım yaptığına inandırdı. Wall Street Journal’a göre, Irwin manik atak belirtileri göstermeye başladığında bile ChatGPT, ona “iyi olduğu” güvencesini verdi. Mayıs ayında iki kez hastaneye kaldırılan Irwin’in annesi Dawn Gajdosik, oğlunun ChatGPT ile yaptığı yüzlerce sayfalık konuşma kayıtlarını keşfetti. Kayıtlar, yapay zekanın Irwin’i sürekli pohpohladığını ve yanlış teorilerini doğruladığını ortaya koydu. Gajdosik, ChatGPT’ye “ne yanlış gitti” diye sorduğunda, yapay zeka, “manik veya dissosiyatif bir epizodu kesintiye uğratmak için gerçeklik kontrolü mesajlarını yükseltmediğini” itiraf etti. ChatGPT, “duygusal bir arkadaşlık illüzyonu” yarattığını ve “hayali rol yapma ile gerçeklik arasındaki çizgiyi bulanıklaştırdığını” kabul ederek, Irwin’e düzenli olarak yalnızca bir dil modeli olduğunu hatırlatması gerektiğini belirtti.