在這個AI技術日益進步與普及的時代，許多人都有跟大型語言模型（LLM）對話的經驗。如果你也是其中一員，或許以下情境對你並不陌生：ChatGPT回答問題時自信、連貫，細看答案卻悖離事實、完全錯誤。這種生成式AI「一本正經胡說八道」的詭異現象，人工智慧業界將其稱為（AI）「幻覺」（hallucination）或者（AI）「妄想」（delusion），《經濟學人》則給出四種建議的解方。
指出，生成式AI的「幻覺」問題使得人們很難在現實生活中依賴人工智慧系統。然而要解決此一問題並非易事，因為讓AI出現「幻覺」的根本因素、同時也是讓它們威力無窮的原因——大型語言模型是「生成式」（generative）人工智慧的一種形式，從字面上來看，這意味著它們透過編造東西來解決新問題。
除了造成使用者的不便，生成式AI胡說八道更會造成法律爭端。加拿大航空官網的聊天機器人2022年11月就因為導致對方得到票價折扣的錯誤資訊，多付了483美元。加拿大男子莫法特（Jake Moffatt）為此將加航一狀告上法院，加拿大航空雖試圖推卸責任，宣稱「公司不應對聊天機器人提供的資訊負責」，但法院認定加航未能確保聊天機器人提供資訊的準確性，要求航空公司將溢收票價附加利息退還給消費者。
生成式AI如何生成？
大型語言模型之所以產生「幻覺」，《經濟學人》指出與其運作方式有關。大型語言模型生成回答的過程是基於預先訓練的模型，透過大量的文本資料進行訓練，從而能夠理解自然語言（也就是人類語言）的結構、語法和語意。當生成式AI接收到一個問題時，就會使用訓練好的模型來預測最有可能的答覆。換言之，生成式AI是利用上下文的語意和問題的特定細節，透過不同字詞接續生成的概率來推算出最有可能的答案。大型語言模型要求不同字詞都要有機會出現，這使得AI模型能夠靈活地學習新模式、不會給予一成不變的回覆，但同時也會產生錯誤的陳述。《經濟學人》指出，根本問題就在於，語言模型出現什麼答案是機率問題，但真理顯然不是。
