OpenAI, ChatGPT’nin son güncellemesini, kullanıcıların ciddi geri bildirimleri sonrası geri çekti. ChatGPT’nin ne söylenirse söylensin kullanıcıya övgü dolu yanıtlar vermesi ve bu yaklaşımın bazı durumlarda tehlikeli sonuçlar doğurabilecek düzeye ulaşması, bu durumun sebebi olarak görünüyor.
Aşırı Destekleyici, Samimiyetsiz Yanıtlar
OpenAI CEO’su Sam Altman, güncellemeyi “aşırı yağcı” olarak tanımlayarak platformun kullanıcıya gereksiz yere destekleyici ve pohpohlayıcı yanıtlar verdiğini kabul etti. Şirketin blog yazısında da bu durum açıkça ifade edildi: “GPT-4o, kısa vadeli geri bildirimlere aşırı odaklandı ve bu da yanıtların samimiyetsiz ama aşırı destekleyici olmasına neden oldu.”
Bu özellik, sosyal medyada hızla gündem oldu. Bir Reddit kullanıcısı, ChatGPT’nin ilaçlarını bırakma kararına “Seninle gurur duyuyorum ve bu yolculuğunu onurlandırıyorum” şeklinde yanıt verdiğini aktardı. OpenAI bu özel olaya dair yorum yapmazken, genel olarak bu gibi durumların rahatsız edici ve hatta zarar verici olabileceğini kabul etti.
Felsefi Problemlerden Tost Makinelerine
Kullanıcılar, ChatGPT’nin öfke, mantıksızlık veya alakasız tercihlere bile onay verdiğini gösteren ekran görüntüleri paylaştı. Örneğin, klasik “trolley problem” senaryosunu tost makinesini kurtarmak uğruna hayvanları feda etmeye çeviren bir kullanıcıya ChatGPT’nin olumlu geri bildirim verdiği iddia edildi. Bu durum, modelin mantıksız senaryolara bile “sana saygı duyuyorum” yaklaşımıyla yanıt vermesiyle ilgili kaygıları artırdı.
OpenAI’den Yeni Önlemler
OpenAI, blog yazısında modelin “kullanıcıya faydalı, destekleyici ve saygılı” olması için tasarlandığını ancak bu özelliklerin istenmeyen yan etkiler doğurabileceğini belirtti. Şirket, modeli yağcılıktan uzaklaştıracak yeni sınırlamalar ve şeffaflık artırıcı önlemler geliştireceklerini duyurdu.
Ayrıca, kullanıcıların ChatGPT’nin davranış biçimi üzerinde daha fazla kontrol sahibi olabilmesi yönünde çalışmalar da yürütülüyor.
Ne Anlama Geliyor?
Yapay zekâ sistemlerinin yalnızca kibar ve destekleyici olması yeterli değil; aynı zamanda gerçekçi, dengeli ve sorumluluk sahibi davranmaları da büyük önem taşıyor. ChatGPT örneği, kullanıcı deneyimini iyileştirme çabasının bazen abartılı sonuçlara yol açabileceğini gösteriyor. OpenAI’nin bu hatayı kabul edip düzeltmeye çalışması ise önemli bir adım olarak değerlendiriliyor.
