Yapay Zeka Bilmediğini Kabul Etmeyi Öğreniyor
KAIST araştırmacıları, yapay zekanın ‘halüsinasyon’ sorununu azaltacak yeni bir eğitim yöntemi geliştirdi. Yöntem, yapay zekanın bilmediği konularda emin olmadığını ifade etmesini sağlıyor.
Güney Koreli bilim insanları, yapay zekanın kendi bilgi sınırlarını tanımasını sağlayacak yeni bir eğitim yöntemi geliştirdi. Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) araştırmacıları tarafından geliştirilen bu yaklaşım, yapay zekanın yanlış bilgi üretme eğilimini yani ‘halüsinasyon’ sorununu azaltmayı hedefliyor.
Araştırmanın sonuçları, saygın akademik dergi Nature Machine Intelligence’ta yayımlandı. Uzmanlar, yapay zekanın en büyük problemlerinden birinin ‘aşırı özgüven’ olduğunu belirtiyor. Bu durum, özellikle sağlık gibi kritik alanlarda kullanılan sistemlerin, emin olmadıkları konularda dahi kesin yanıtlar vermesine neden oluyor.
Yapay Zekanın Aşırı Güven Sorunu
OpenAI’ın geliştirdiği ChatGPT gibi büyük dil modelleri, daha önceki çalışmalarda doğru olmayan bilgileri gerçekmiş gibi sunabildiklerini göstermişti. Teknoloji dünyasında ‘halüsinasyon’ olarak adlandırılan bu durum, yapay zekanın güvenilirliğini zedeliyor. Bu yeni yöntem, bu soruna çözüm getirmeyi amaçlıyor.
İnsan Beyninden İlham Alan Eğitim Yöntemi
Araştırmacılar, yapay zekanın bilgi belirsizliğini tanıması için insan beyninin çalışma prensiplerinden ilham aldı. Yeni yöntemde, yapay zeka modeli gerçek verilerle eğitime başlamadan önce rastgele ‘gürültü’ verileriyle kısa bir ön eğitim sürecinden geçiriliyor. Bu ön eğitim, modelin kendi belirsizliklerini fark etmesini sağlıyor.
Bu sayede yapay zeka, henüz öğrenmediği konularda yanlış bilgi verme yerine, daha düşük bir güven düzeyinde yanıt üretmeye başlıyor. Araştırmacılar, bu yöntemin yapay zekanın ‘bildikleriyle bilmediklerini ayırt etme’ yeteneğini önemli ölçüde geliştirdiğini ifade ediyor.
Geliştirilen bu eğitim yöntemi, otonom araçlar, tıbbi teşhis sistemleri ve karar destek teknolojileri gibi hata payının minimize edilmesi gereken alanlarda kritik öneme sahip olabilir. Çalışmanın yazarlarından Se-Bum Paik, bu gelişmenin yapay zekanın kendi bilgi durumunu insanlara daha benzer şekilde tanımasına olanak tanıdığını belirtti.
Yorum Yap