如何準(zhǔn)確評(píng)估和解決大語(yǔ)言模型中的幻覺(jué)問(wèn)題已成為一個(gè)至關(guān)重要的挑戰(zhàn)。近日，復(fù)旦大學(xué)與上海人工智能實(shí)驗(yàn)室構(gòu)建了針對(duì)中文大模型的幻覺(jué)評(píng)測(cè)數(shù)據(jù)集HalluQA，對(duì)業(yè)界主流的大模型進(jìn)行了評(píng)估。

　　HalluQA采用無(wú)幻覺(jué)率來(lái)評(píng)估大模型的優(yōu)劣。無(wú)幻覺(jué)率越高代表模型幻覺(jué)越低，事實(shí)準(zhǔn)確性越高。在評(píng)測(cè)的24個(gè)主流大模型中，包括百度文心一言ERNIE-Bot、百川Baichuan、智譜ChatGLM、阿里通義千問(wèn)和GPT-4等。

　　從評(píng)測(cè)結(jié)果來(lái)看，幻覺(jué)問(wèn)題對(duì)大模型來(lái)說(shuō)尚有困難，有18個(gè)模型的無(wú)幻覺(jué)率低于50%。在幻覺(jué)消除上，具備檢索增強(qiáng)能力的大模型優(yōu)勢(shì)明顯，在所有模型評(píng)測(cè)中，文心一言在整體幻覺(jué)問(wèn)題解決方面表現(xiàn)突出，排名第一，整體無(wú)幻覺(jué)率為69.33%。

　　行業(yè)普遍認(rèn)為，幻覺(jué)問(wèn)題對(duì)于大模型在多個(gè)領(lǐng)域的落地都可能產(chǎn)生影響，包括客戶(hù)服務(wù)、金融服務(wù)、法律決策和醫(yī)療診斷等。因此解決幻覺(jué)問(wèn)題越好的大模型，才具備更強(qiáng)的產(chǎn)業(yè)落地價(jià)值。