Geçen ay, bilgisayar programcıları için gelecek vaat eden bir araç olan imleç için teknoloji desteğini yöneten bir AI botu, birkaç müşteriyi şirket politikasındaki bir değişiklik konusunda uyardı. Artık sadece birden fazla bilgisayarda imleci kullanmalarına izin verilmediğini söyledi.
İnternet mesaj panolarına kızgın gönderilerde müşteriler şikayet etti. Bazıları imleç hesaplarını iptal etti. Ve bazıları ne olduğunu fark ettiklerinde daha da öfkelendi: AI botu var olmayan bir politika değişikliği duyurmuştu.
Şirketin genel müdürü ve kurucu ortağı Michael Truell, Reddit Post’ta “Böyle bir politikamız yok. Tabii ki birden fazla makinede imleci kullanmakta özgürsünüz” diye yazdı. “Ne yazık ki, bu bir ön hat AI destek botundan yanlış bir yanıt.”
ChatGPT’nin gelmesinden iki yıldan fazla bir süre sonra, teknoloji şirketleri, ofis çalışanları ve günlük tüketiciler giderek daha geniş bir dizi görev için AI botları kullanıyorlar. Ancak bu sistemlerin doğru bilgi üretmesini sağlamanın bir yolu yoktur.
Openai, Google ve Çin Start-up Deepseek gibi şirketlerden gelen en yeni ve en güçlü teknolojiler-daha az değil, daha fazla hata üretiyor. Matematik becerileri önemli ölçüde geliştikçe, gerçekleri ele almaları titredi. Nedenini tam olarak açık değil.
Bugünün AI botları, muazzam miktarlarda dijital veriyi analiz ederek becerilerini öğrenen karmaşık matematik sistemlerine dayanmaktadır. Neyin doğru ve neyin yanlış olduğuna karar vermezler ve olamazlar. Bazen, sadece bir şeyler oluştururlar, bazı AI araştırmacılarının halüsinasyonlar dediği bir fenomen. Bir testte, yeni AI sistemlerinin halüsinasyon oranları yüzde 79’a kadar yüksekti.
