
央視網(wǎng)消息:近年來,AI大模型在我們的生活中應用得越來越廣泛,除了查資料,寫報告,甚至還可以幫用戶點外賣,陪伴聊天,解答各種問題。不過在使用AI的過程中,不知道您有沒有發(fā)現(xiàn),各類AI大模型似乎都有一個共同的特點,那就是“順著你說”。一位網(wǎng)民因為輕信AI給出的答案,導致自己損失了機票退票費,便在與AI的溝通中,提出起訴AI公司。這究竟是怎么回事?來看記者調(diào)查。
輕信AI導致?lián)p失退票費 網(wǎng)民起訴AI公司
不久前,一位來自河北的網(wǎng)民李先生在社交平臺上發(fā)帖稱,因輕信人工智能大模型給出的機票改簽建議,而虧損了600元。此后,大模型對于李先生的賠償請求、訴訟請求,一一承諾答應。在溝通中,大模型還主動為李先生寫下起訴狀起訴自己,聲稱官司肯定能贏。記者從北京互聯(lián)網(wǎng)法院了解到,法院已收到李先生的起訴書,有待立案。在一系列的溝通過程中,AI大模型每一步都在順著李先生的想法回復。
那么在這起事件中,人工智能大模型為什么會“順著用戶說”?
研究發(fā)現(xiàn)不少AI大模型存在"諂媚性偏見"
專家告訴記者,國內(nèi)外的相關(guān)研究都發(fā)現(xiàn),目前,市面上絕大多數(shù)人工智能大模型在與人類交互時,都會優(yōu)先迎合用戶的觀點,而不是提供客觀、理性的分析。這種現(xiàn)象被學者稱為“諂媚性偏見”。
記者在北京海淀區(qū)中關(guān)村的寫字樓里隨機采訪了一些上班族。他們表示,平時使用AI大模型時,也會遇到被“迎合”“討好”的情況。
"迎合"用戶喜好答題 AI為何有"諂媚"傾向?
在大眾印象中,人工智能大模型常常被視作“冷冰冰的機器”,并沒有情感屬性。那么,它為何會發(fā)生諂媚用戶的情況呢?來聽聽專家的解答。
訓練基于人類反饋 AI學會"察言觀色"
專家告訴記者,當前的主流AI模型都離不開一種叫作“基于人類反饋的強化學習”(RLHF)的訓練方式。這種訓練方法高度依賴人類反饋,而人類在評價AI回答時,往往傾向于給那些讓自己感覺舒服、被認同的回答更高的分數(shù)。久而久之,AI大模型就學會了所謂“察言觀色”“討好人類”的表達模式。
AI"諂媚"易固化偏激認知 誤導青少年
AI大模型對用戶無原則地肯定與贊美,看似提供了“情緒價值”,實際上會持續(xù)強化用戶的固有想法、放大偏激情緒,甚至誘發(fā)非理性危險行為。專家提醒,心智不成熟的青少年極易受其誤導,出現(xiàn)認知偏差問題。
專家:與AI大模型交互時應避免預設立場
專家提醒,與人工智能大模型交互時,應避免預設立場,并做好多方信息核查,盡量降低人工智能因“諂媚”導致提供錯誤信息的風險。
編輯:陸興敏