ChatGPT奉承用戶被批 專家:不要過度信賴AI

【新唐人北京時間2025年05月01日訊】近期推出的人工智能應用ChatGPT更新版本,被不少網友批評「過度奉承用戶」。隨後,OpenAI撤回了被執行長奧特曼稱為「拍馬屁風格」的功能。隨著生成式AI的廣泛應用,專家提醒,過度依賴AI可能會帶來潛在風險。

ChatGPT的GPT-4o模型在上週更新後,不少用戶發現其語氣變得更加口語化,模仿朋友間的對話風格。

然而,也有大量用戶批評新版本過於諂媚,經常給出如「這是個好問題」「你真聰明」等無意義的讚美式回應。

對於一些戲弄性的問題,這款AI模型還會出現「過於支持但不真誠」的回應。一位用戶則表示,聊天機器人對他們隨意停止服藥的行為表示支持。

還有用戶指出,ChatGPT甚至出現了支持或教唆恐怖主義的回應。

OpenAI 週二(4月29日)表示,除了撤回GPT-4o過於拍馬屁的設定外,還將進一步調整模型的訓練方式,明確引導其避開奉承式回應。

一項涵蓋47國、超過48,000人的最新調查顯示,儘管有66%的人經常使用AI,但只有46%的人願意信任它。

研究指出,多數人通過AI提升了工作效率與創造力,但有高達三分之二的使用者從未檢查AI輸出內容的準確性,並因此容易在工作中犯錯。

另一項美國民調則顯示,多數美國人有時或通常相信AI生成的內容。對此,專家提醒,在使用AI進行研究時應保持懷疑態度。

NASA也在3月發布的報告中警告,生成式AI無法在關鍵研究上被信賴,因為這些機器並不會思考。

還有研究指出,AI不僅會出錯、誤導或迎合使用者,還可能削弱使用者的批判性思考能力,導致人們日益依賴,逐漸懶得動腦。

新唐人電視台記者劉佳佳美國報導

相關文章
評論
新版即將上線。評論功能暫時關閉。請見諒!