優越的替代方案是OpenAI的AI轉錄工具:較少的幻覺,更準確性

htmlOpenAI的Whisper,一款於2022年發布的AI驅動語音辨識與轉錄工具,被發現經常產生幻覺或捏造資訊,引發了對其在關鍵場景中可能造成危害的擔憂。
密西根大學的一位研究人員發現,在他審查的公開會議音頻轉錄中,80%存在幻覺。同樣,一位分析了100小時Whisper轉錄的工程師報告說,大約一半的轉錄中出現幻覺,另一位開發者則發現他創建的幾乎每個轉錄中都有幻覺,總計26,000個實例。
雖然轉錄中的小錯誤很常見,但專家指出,Whisper的幻覺程度在AI轉錄工具中是前所未有的。OpenAI聲稱,Whisper這一開源神經網絡在英語語音辨識中達到了接近人類的準確度。它被廣泛應用於各行業,用於轉錄採訪、翻譯內容和生成視頻字幕等任務。
Whisper的廣泛使用可能導致捏造文本、錯誤引用的語句和其他錯誤資訊在各平台上傳播,其影響因原始內容的性質而異。Whisper已整合進某些版本的ChatGPT,用於呼叫中心、語音助手以及Oracle和Microsoft的雲平台,僅上個月從HuggingFace的下载量就超過420萬次。
尤其令人擔憂的是,醫療專業人員越來越多地使用基於Whisper的工具來轉錄患者諮詢。美聯社與超過十二位工程師、研究人員和開發者交談,他們證實Whisper經常捏造短語和整句話,有時甚至包括種族評論、暴力言論,甚至是想像中的醫療治療。
「沒有人希望被誤診,」高級研究所的教授Alondra Nelson強調。
儘管OpenAI建議不要在高風險領域(如決策場景)中使用Whisper,因為準確性缺陷可能導致重大問題,但該工具宣傳的高準確性使其對希望簡化運營的各行業具有吸引力,常常忽略潛在風險。
問題不僅限於長或錄音質量差的音頻;研究人員發現,即使在短而清晰的音頻樣本中也存在幻覺。他們估計,這可能導致數百萬錄音中出現數萬個錯誤轉錄。Gallaudet大學技術訪問計劃主任Christian Vogler,他本身是聾病患者,指出聾病或聽力障礙人士可能無法察覺這些「隱藏在大量文本中的幻覺」。
這些發現突顯了AI行業的一個更廣泛問題:在美國缺乏全面AI監管的情況下,為了利潤而匆忙將產品推向市場。這一點在OpenAI的營利與非營利地位爭議以及近期領導層淡化AI風險的聲明中尤其相關。
OpenAI的發言人告訴美聯社,公司正在持續努力減少幻覺,並重視研究人員的發現,將反饋納入模型更新中。
與此同時,我們建議考慮使用Otter.ai,這是一款深受記者信賴的可靠AI轉錄工具,最近新增了對六種新語言的支持。雖然一位長期用戶報告說,在新的AI摘要功能中出現了一個幻覺統計數據,但該錯誤並未出現在轉錄本身中。Otter.ai建議用戶審查和編輯轉錄內容以確保準確性,特別是對於關鍵任務,指出準確性可能因背景噪音、口音和對話複雜性等因素而異。
對於iPhone用戶,搭載Apple Intelligence的iOS 18.1現在提供AI驅動的通話錄音和轉錄功能,儘管ZDNET的主編Jason Hiner形容其「仍在完善中」。
OpenAI最近宣布計劃為其2.5億ChatGPT Plus用戶提供更多工具。
相關文章
位元組跳動旗下 Seed 啟動全球校園招聘,以虛擬股份爭奪頂尖大模型人才
在大型語言模型的競爭格局中,爭奪頂尖人才仍然是最關鍵的戰略資產。4月1日,位元組跳動宣佈啟動Seed全球校園招聘計劃,作為其大模型人才培養專案的一部分。該活動面向2027屆畢業生及現有實習生,旨在全球範圍內發掘並鎖定AI領域的精英研發與工程人才。規模擴張:全球甄選100名“AI種子”在技術快速進步的背景下,位元組跳動有限公司今年大幅增加了對基礎AI人才的投入:招聘範圍: 該計劃旨在從全球範圍內招聘約100名專注於大模型的傑出候選人,物件為2027屆畢業生。發展路徑: Seed計劃將核心
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
相關專題推薦
評論 (18)
0/500
This transcription tool sounds like a game-changer! If it really cuts down on AI hallucinations, it could be a big win for accuracy in sensitive fields like medicine or law. Excited to see how it stacks up against Whisper! 😄
This transcription tool sounds promising! Less hallucination is a big win for accuracy. Excited to see how it stacks up in real-world use. 😊
This new AI transcription tool sounds like a game-changer! Whisper’s hallucinations were such a mess for serious work, so I’m hyped to see something more accurate. Can it handle noisy audio though? 🤔
이 도구는 정말 구세주예요! AI가 내 녹취록에 허구를 만들어내는 걱정은 이제 안 해요. 정말 정확하고, 짜증나는 환각도 줄어들었어요. 조금만 더 빨라지면 좋겠지만, 정확성이 더 중요하죠! 😊

OpenAI的Whisper,一款於2022年發布的AI驅動語音辨識與轉錄工具,被發現經常產生幻覺或捏造資訊,引發了對其在關鍵場景中可能造成危害的擔憂。
密西根大學的一位研究人員發現,在他審查的公開會議音頻轉錄中,80%存在幻覺。同樣,一位分析了100小時Whisper轉錄的工程師報告說,大約一半的轉錄中出現幻覺,另一位開發者則發現他創建的幾乎每個轉錄中都有幻覺,總計26,000個實例。
雖然轉錄中的小錯誤很常見,但專家指出,Whisper的幻覺程度在AI轉錄工具中是前所未有的。OpenAI聲稱,Whisper這一開源神經網絡在英語語音辨識中達到了接近人類的準確度。它被廣泛應用於各行業,用於轉錄採訪、翻譯內容和生成視頻字幕等任務。
Whisper的廣泛使用可能導致捏造文本、錯誤引用的語句和其他錯誤資訊在各平台上傳播,其影響因原始內容的性質而異。Whisper已整合進某些版本的ChatGPT,用於呼叫中心、語音助手以及Oracle和Microsoft的雲平台,僅上個月從HuggingFace的下载量就超過420萬次。
尤其令人擔憂的是,醫療專業人員越來越多地使用基於Whisper的工具來轉錄患者諮詢。美聯社與超過十二位工程師、研究人員和開發者交談,他們證實Whisper經常捏造短語和整句話,有時甚至包括種族評論、暴力言論,甚至是想像中的醫療治療。
「沒有人希望被誤診,」高級研究所的教授Alondra Nelson強調。
儘管OpenAI建議不要在高風險領域(如決策場景)中使用Whisper,因為準確性缺陷可能導致重大問題,但該工具宣傳的高準確性使其對希望簡化運營的各行業具有吸引力,常常忽略潛在風險。
問題不僅限於長或錄音質量差的音頻;研究人員發現,即使在短而清晰的音頻樣本中也存在幻覺。他們估計,這可能導致數百萬錄音中出現數萬個錯誤轉錄。Gallaudet大學技術訪問計劃主任Christian Vogler,他本身是聾病患者,指出聾病或聽力障礙人士可能無法察覺這些「隱藏在大量文本中的幻覺」。
這些發現突顯了AI行業的一個更廣泛問題:在美國缺乏全面AI監管的情況下,為了利潤而匆忙將產品推向市場。這一點在OpenAI的營利與非營利地位爭議以及近期領導層淡化AI風險的聲明中尤其相關。
OpenAI的發言人告訴美聯社,公司正在持續努力減少幻覺,並重視研究人員的發現,將反饋納入模型更新中。
與此同時,我們建議考慮使用Otter.ai,這是一款深受記者信賴的可靠AI轉錄工具,最近新增了對六種新語言的支持。雖然一位長期用戶報告說,在新的AI摘要功能中出現了一個幻覺統計數據,但該錯誤並未出現在轉錄本身中。Otter.ai建議用戶審查和編輯轉錄內容以確保準確性,特別是對於關鍵任務,指出準確性可能因背景噪音、口音和對話複雜性等因素而異。
對於iPhone用戶,搭載Apple Intelligence的iOS 18.1現在提供AI驅動的通話錄音和轉錄功能,儘管ZDNET的主編Jason Hiner形容其「仍在完善中」。
OpenAI最近宣布計劃為其2.5億ChatGPT Plus用戶提供更多工具。
位元組跳動旗下 Seed 啟動全球校園招聘,以虛擬股份爭奪頂尖大模型人才
在大型語言模型的競爭格局中,爭奪頂尖人才仍然是最關鍵的戰略資產。4月1日,位元組跳動宣佈啟動Seed全球校園招聘計劃,作為其大模型人才培養專案的一部分。該活動面向2027屆畢業生及現有實習生,旨在全球範圍內發掘並鎖定AI領域的精英研發與工程人才。規模擴張:全球甄選100名“AI種子”在技術快速進步的背景下,位元組跳動有限公司今年大幅增加了對基礎AI人才的投入:招聘範圍: 該計劃旨在從全球範圍內招聘約100名專注於大模型的傑出候選人,物件為2027屆畢業生。發展路徑: Seed計劃將核心
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
This transcription tool sounds like a game-changer! If it really cuts down on AI hallucinations, it could be a big win for accuracy in sensitive fields like medicine or law. Excited to see how it stacks up against Whisper! 😄
This transcription tool sounds promising! Less hallucination is a big win for accuracy. Excited to see how it stacks up in real-world use. 😊
This new AI transcription tool sounds like a game-changer! Whisper’s hallucinations were such a mess for serious work, so I’m hyped to see something more accurate. Can it handle noisy audio though? 🤔
이 도구는 정말 구세주예요! AI가 내 녹취록에 허구를 만들어내는 걱정은 이제 안 해요. 정말 정확하고, 짜증나는 환각도 줄어들었어요. 조금만 더 빨라지면 좋겠지만, 정확성이 더 중요하죠! 😊





首頁






