Hallucination (Halüsinasyon)
Yapay zekâ modelinin gerçeğe uymayan, uydurma bilgi üretmesi durumudur.
Detaylı açıklama
Hallucination, bir yapay zekâ modelinin doğru gibi görünen ancak gerçekte yanlış olan bilgi üretmesidir. Bu durum, modellerin istatistiksel olarak olası metinler üretmesinden kaynaklanır. Önemli kararlarda yapay zekâ çıktısı mutlaka doğrulanmalıdır.
Günlük hayattan örnek
ChatGPT'nin var olmayan bir kitabı önermesi veya uydurma bir kaynak göstermesi halüsinasyona örnektir.
İş dünyasından örnek
Bir hukuk firması, yapay zekânın ürettiği dava kararlarını mutlaka orijinal kaynaklardan doğrular.