Hallucination
| Hallucination Hallucination refers to an incorrect response from an AI system, or false information in an output that is presented as factual information. | A hallucináció az MI-rendszerekben olyan jelenség, amikor a mesterséges intelligencia pontatlan, félrevezető vagy teljesen hamis információt generál, de azt valós és megbízható tényként tálalja. Ez a probléma különösen gyakori a nagy nyelvi modellekben, például a GPT-rendszerekben, amelyek komplex feladatokat végeznek, mint például szövegírás, kérdések megválaszolása vagy adatok elemzése. Miért történik hallucináció? Adathalmaz hiányosságai: Az MI modellt olyan adatokon képezték, amelyek hibás, hiányos vagy nem megbízható információkat tartalmaznak. Túlzott általánosítás: A modell arra törekszik, hogy minden kérésre választ adjon, még akkor is, ha az adott témáról nem rendelkezik megfelelő információval. Kreatív tartalomgenerálás: Az MI megpróbál következtetni és kitalálni a válaszokat, ami téves információhoz vezethet. Kontextus hiánya: A modell nem érti teljesen a felhasználói kérdés kontextusát, így pontatlan válaszokat adhat. Statisztikai alapú működés: A nyelvi modellek nem „értik” a valóságot, hanem statisztikai mintázatok alapján dolgoznak, ami néha hibákhoz vezet. Gyakorlati példa Egy nyelvi modell feladata, hogy történelmi eseményeket ismertessen. A kérdés: „Ki nyerte az 1970-es labdarúgó-világbajnokságot?” A modell helytelenül válaszolhat: „Az Egyesült Államok nyerte,” miközben a helyes válasz Brazília. | SzTAKI ChatGPT Google Bard DeepMind Gemini |