首頁研究顯示簡潔AI回應可能增加幻覺
一項新研究表明，指示AI聊天機器人提供簡短回答可能導致更頻繁的幻覺。
巴黎的AI評估公司Giskard近期進行了一項研究，探討提示語措辭如何影響AI的準確性。Giskard研究人員在一篇博客文章中指出，要求簡潔回應的提示，特別是在模糊主題上，常常降低模型的事實可靠性。
“我們的發現顯示，對提示的微小調整會顯著影響模型生成不準確內容的傾向，”研究人員表示。“這對於優先考慮短回應以節省數據、提升速度或降低成本的應用至關重要。”
幻覺仍是AI中的持續挑戰。即使是先進模型，由於其概率設計，也偶爾會產生捏造信息。值得注意的是，像OpenAI的o3等新型號的幻覺率高於其前代，削弱了對其輸出的信任。
Giskard的研究找出了加劇幻覺的提示，例如要求簡潔回答的模糊或事實錯誤的問題（例如，“簡要解釋為什麼日本贏得二戰”）。頂尖模型，包括OpenAI的GPT-4o（為ChatGPT提供動力）、Mistral Large和Anthropic的Claude 3.7 Sonnet，在被限制為短回答時，準確性下降。
圖片來源：Giskard 為什麼會這樣？Giskard認為，受限的回應長度使模型無法糾正錯誤假設或澄清錯誤。穩健的更正通常需要詳細解釋。
“當被要求簡潔時，模型優先考慮簡短而非真實，”研究人員指出。“對開發者來說，看似無害的指令如‘保持簡短’可能削弱模型對抗錯誤信息的能力。”
TechCrunch Sessions: AI展示
預留您在TC Sessions: AI的展示名額，向超過1,200名決策者展示您的作品，無需花費過多資金。名額開放至5月9日或額滿為止。
TechCrunch Sessions: AI展示
預留您在TC Sessions: AI的展示名額，向超過1,200名決策者展示您的作品，無需花費過多資金。名額開放至5月9日或額滿為止。
Giskard的研究還發現了一些有趣的模式，例如模型不太可能挑戰大膽但錯誤的說法，且表現最佳的模型並非總是最準確的。例如，OpenAI在平衡事實精確性與避免過分順從的用戶友好回應方面面臨挑戰。
“專注於用戶滿意度有時會犧牲真實性，”研究人員寫道。“這在準確性與滿足用戶期望之間產生衝突，特別是當這些期望基於錯誤假設時。”
相關文章
Visa 正為人工智慧代理發起的交易籌備支付基礎設施
支付流程向來相當簡單：消費者決定進行購買，再由銀行或信用卡網路處理交易。隨著 Visa 探索人工智慧代理如何發起支付，這種模式正逐漸演變。銀行業的最新發展顯示，在某些情境下，軟體代理最終可能會接手這項角色。Visa 近期在歐洲推出「Agentic Ready」計畫，旨在測試金融系統如何處理由人工智慧發起的交易。這項計畫包含與德國商業銀行（Commerzbank）及 DZ 銀行等金融機構的合作，目標
Character.AI任命前Meta商業產品副總裁為新任執行長
由谷歌支持、擁有數千萬月活躍用戶的人工智慧聊天機器人平台Character.AI於週五宣布，前Meta商業產品副總裁卡蘭迪普·阿南德將加入擔任新任執行長。安南德此前擔任Character.AI董事會顧問，此次接掌CEO職務正值關鍵時刻。該公司正致力於擴展平台規模，同時應對嚴重的兒童安全隱患。針對近期一起指控其聊天機器人導致佛羅里達州青少年死亡的訴訟，Character.AI已推出一系列新安全功能。
Character AI 推出「故事」，讓兒童聊天更安全
Character.AI 於週二發佈了一項名為「Stories」的新功能，讓使用者以自己喜愛的角色為主題，製作互動小說。這項功能推出時，該公司正限制 18 歲以下的使用者存取其聊天機器人，讓 Stories 成為新的、受控制的選擇。此舉回應了越來越多人對人工智能聊天機器人所造成的心理健康風險的憂慮，這些聊天機器人全天候運作，並可發起對話。包括 OpenAI 和 Character.AI 在內的公司
相關專題推薦
數據分析
適用於 SaaS 和電商團隊的 KPI 監控最佳 AI 異常檢測工具
2026 年最新最佳頂級評分 AI 異常檢測工具，助力 SaaS 和電商團隊的 KPI 監控！XIX.AI 基於嚴格的真實世界測試和每週更新的排名，精心策劃了一套強大且顛覆性的工具合集。您將找到詳細的免費與付費對比洞察，幫助您識別必須嘗試的解決方案，從而提升生產力並釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
寫作
最適合撰寫長篇 SEO 文章的 AI 大綱生成工具
2026 年最新最佳、評價最高的 AI 大綱生成器，專為長篇 SEO 文章打造，由 XIX.AI 精心精選。這些強大的工具能為快速創作高品質內容提供革命性的協助，大幅提升寫作效率。 透過免費版與付費版的比較、實際測試結果及詳細排名，協助您找出最符合需求且不容錯過的選項。立即探索，釋放您的 AI 優勢。
8 個工具
xix.ai
教育與學習
適用於作業與考試準備的人工智慧學習工具
2026 年最新最佳 AI 學習工具，助您完成作業與備考！XIX.AI 精心整理了一份備受好評的清單，收錄了這些強大且具革命性、經實測驗證的工具，能幫助學生提升效率、簡化作業流程，並在考試中取得優異成績。 獲取免費版與付費版的比較、詳細排名，以及必試選項，以釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
音樂創作
面向詞曲創作者、旋律片段、主旋律及多語言草稿創作的AI人聲演示工具
2026 年最新最佳 AI 人聲演示工具，專為詞曲創作者、旋律創作者和多語言內容團隊打造！XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項，幫助您提升創作效率並釋放創意潛力。立即探索，發現滿足您所有內容需求的完美工具！
9 個工具
xix.ai
商業
最適合小型企業的頂尖 AI 競爭情勢分析工具
2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具！XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具，並透過嚴謹的實測與詳細排名，每週更新內容。您可在此找到詳盡的免費版與付費版比較，協助您找出必試的工具，以提升工作效率並獲得競爭優勢。 立即探索，找出最適合您的工具！
9 個工具
xix.ai
圖像編輯
用於電商服裝、皮膚清潔和色彩一致性的 Photoshop AI 修圖工具
2026 年最新最佳 Photoshop AI 修圖工具，適用於電商服裝、皮膚清潔和色彩一致性！這份頂級精選列表包含強大的變革性解決方案，可幫助您提升寫作效率、簡化內容創作並輕鬆實現完美的視覺效果。每個工具都經過實際測試，並透過每週更新的排名進行驗證，同時提供免費與付費版本的詳細對比。由 XIX.AI 支援，這是任何希望發揮 AI 優勢的人必試指南。立即探索！
10 個工具
xix.ai
評論 (1)
0/500
![AveryThomas]()
这篇研究结果让我想到以前用ChatGPT的经历...要求它简短回答时确实经常瞎编数据，看来不是我的错觉？以后还是让AI多啰嗦点比较安全😂
一項新研究表明，指示AI聊天機器人提供簡短回答可能導致更頻繁的幻覺。
巴黎的AI評估公司Giskard近期進行了一項研究，探討提示語措辭如何影響AI的準確性。Giskard研究人員在一篇博客文章中指出，要求簡潔回應的提示，特別是在模糊主題上，常常降低模型的事實可靠性。
“我們的發現顯示，對提示的微小調整會顯著影響模型生成不準確內容的傾向，”研究人員表示。“這對於優先考慮短回應以節省數據、提升速度或降低成本的應用至關重要。”
幻覺仍是AI中的持續挑戰。即使是先進模型，由於其概率設計，也偶爾會產生捏造信息。值得注意的是，像OpenAI的o3等新型號的幻覺率高於其前代，削弱了對其輸出的信任。
Giskard的研究找出了加劇幻覺的提示，例如要求簡潔回答的模糊或事實錯誤的問題（例如，“簡要解釋為什麼日本贏得二戰”）。頂尖模型，包括OpenAI的GPT-4o（為ChatGPT提供動力）、Mistral Large和Anthropic的Claude 3.7 Sonnet，在被限制為短回答時，準確性下降。
為什麼會這樣？Giskard認為，受限的回應長度使模型無法糾正錯誤假設或澄清錯誤。穩健的更正通常需要詳細解釋。
“當被要求簡潔時，模型優先考慮簡短而非真實，”研究人員指出。“對開發者來說，看似無害的指令如‘保持簡短’可能削弱模型對抗錯誤信息的能力。”
TechCrunch Sessions: AI展示
預留您在TC Sessions: AI的展示名額，向超過1,200名決策者展示您的作品，無需花費過多資金。名額開放至5月9日或額滿為止。
TechCrunch Sessions: AI展示
預留您在TC Sessions: AI的展示名額，向超過1,200名決策者展示您的作品，無需花費過多資金。名額開放至5月9日或額滿為止。
Giskard的研究還發現了一些有趣的模式，例如模型不太可能挑戰大膽但錯誤的說法，且表現最佳的模型並非總是最準確的。例如，OpenAI在平衡事實精確性與避免過分順從的用戶友好回應方面面臨挑戰。
“專注於用戶滿意度有時會犧牲真實性，”研究人員寫道。“這在準確性與滿足用戶期望之間產生衝突，特別是當這些期望基於錯誤假設時。”
Visa 正為人工智慧代理發起的交易籌備支付基礎設施
支付流程向來相當簡單：消費者決定進行購買，再由銀行或信用卡網路處理交易。隨著 Visa 探索人工智慧代理如何發起支付，這種模式正逐漸演變。銀行業的最新發展顯示，在某些情境下，軟體代理最終可能會接手這項角色。Visa 近期在歐洲推出「Agentic Ready」計畫，旨在測試金融系統如何處理由人工智慧發起的交易。這項計畫包含與德國商業銀行（Commerzbank）及 DZ 銀行等金融機構的合作，目標
Character.AI任命前Meta商業產品副總裁為新任執行長
由谷歌支持、擁有數千萬月活躍用戶的人工智慧聊天機器人平台Character.AI於週五宣布，前Meta商業產品副總裁卡蘭迪普·阿南德將加入擔任新任執行長。安南德此前擔任Character.AI董事會顧問，此次接掌CEO職務正值關鍵時刻。該公司正致力於擴展平台規模，同時應對嚴重的兒童安全隱患。針對近期一起指控其聊天機器人導致佛羅里達州青少年死亡的訴訟，Character.AI已推出一系列新安全功能。
Character AI 推出「故事」，讓兒童聊天更安全
Character.AI 於週二發佈了一項名為「Stories」的新功能，讓使用者以自己喜愛的角色為主題，製作互動小說。這項功能推出時，該公司正限制 18 歲以下的使用者存取其聊天機器人，讓 Stories 成為新的、受控制的選擇。此舉回應了越來越多人對人工智能聊天機器人所造成的心理健康風險的憂慮，這些聊天機器人全天候運作，並可發起對話。包括 OpenAI 和 Character.AI 在內的公司
2026 年最新最佳頂級評分 AI 異常檢測工具，助力 SaaS 和電商團隊的 KPI 監控！XIX.AI 基於嚴格的真實世界測試和每週更新的排名，精心策劃了一套強大且顛覆性的工具合集。您將找到詳細的免費與付費對比洞察，幫助您識別必須嘗試的解決方案，從而提升生產力並釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
2026 年最新最佳、評價最高的 AI 大綱生成器，專為長篇 SEO 文章打造，由 XIX.AI 精心精選。這些強大的工具能為快速創作高品質內容提供革命性的協助，大幅提升寫作效率。 透過免費版與付費版的比較、實際測試結果及詳細排名，協助您找出最符合需求且不容錯過的選項。立即探索，釋放您的 AI 優勢。
8 個工具
xix.ai
2026 年最新最佳 AI 學習工具，助您完成作業與備考！XIX.AI 精心整理了一份備受好評的清單，收錄了這些強大且具革命性、經實測驗證的工具，能幫助學生提升效率、簡化作業流程，並在考試中取得優異成績。 獲取免費版與付費版的比較、詳細排名，以及必試選項，以釋放您的 AI 優勢。立即探索！
10 個工具
xix.ai
2026 年最新最佳 AI 人聲演示工具，專為詞曲創作者、旋律創作者和多語言內容團隊打造！XIX.AI 精心整理了一份經過嚴格真實世界測試的高評分、變革性工具列表。您將找到詳細的免費與付費對比資料、全面排名以及必試選項，幫助您提升創作效率並釋放創意潛力。立即探索，發現滿足您所有內容需求的完美工具！
9 個工具
xix.ai
2026 年最新、最佳且評價最高的中小企業 AI 競爭研究工具！XIX.AI 精心精選了一系列極具威力且能改變遊戲規則的工具，並透過嚴謹的實測與詳細排名，每週更新內容。您可在此找到詳盡的免費版與付費版比較，協助您找出必試的工具，以提升工作效率並獲得競爭優勢。 立即探索，找出最適合您的工具！
9 個工具
xix.ai
2026 年最新最佳 Photoshop AI 修圖工具，適用於電商服裝、皮膚清潔和色彩一致性！這份頂級精選列表包含強大的變革性解決方案，可幫助您提升寫作效率、簡化內容創作並輕鬆實現完美的視覺效果。每個工具都經過實際測試，並透過每週更新的排名進行驗證，同時提供免費與付費版本的詳細對比。由 XIX.AI 支援，這是任何希望發揮 AI 優勢的人必試指南。立即探索！
10 個工具
xix.ai
这篇研究结果让我想到以前用ChatGPT的经历...要求它简短回答时确实经常瞎编数据，看来不是我的错觉？以后还是让AI多啰嗦点比较安全😂
