TikTok 因頻繁出現「藍莓」幻覺,移除 AI 影片摘要功能
TikTok 近日宣布,已暫停測試一項旨在為影片自動生成文字摘要的實驗性 AI 功能,並將重新聚焦於更具體的應用場景。 這項名為「AI Overviews」的功能,過去數月來已在美國等市場進行小規模測試,最初的計畫是利用 TikTok 自家的或第三方多模態模型,提供影片的背景資訊及產品推薦。

然而實際運作中,該功能卻出現了嚴重的「幻覺」現象,引發廣泛關注: 它將 Charli D’Amelio 的影片出鏡誤判為「含有不同配料的藍莓集合」、將狗狗訓練教學解讀為「摺紙藝術」,甚至將夏奇拉(Shakira)的宣傳短片描述為「移動的藍色形狀」。
面對演算法理解能力上的重大缺陷,TikTok發言人證實,基於用戶反饋已暫停相關測試,並澄清該功能今後將專注於識別影片中的特定產品,而非嘗試總結整個影片內容。 此決定凸顯了生成式人工智慧在處理動態視覺資訊時仍面臨的技術障礙,包括邏輯矛盾與語義錯誤。
業界觀察家將此事件視為繼 Google「膠水披薩」事件後,又一宗引人注目的 AI 幻覺案例。 儘管近期數據顯示,Google 等大型企業的 AI 概述準確度已有所提升,但 TikTok 的挫折凸顯出:在短影片這種高密度且非結構化的環境中,多模態大型模型的泛化能力仍不足以實現可靠的自動化敘事。 短期內,業界正從追求廣泛的「全面描述」轉向更聚焦的「垂直應用」,透過縮小認知範圍來提升AI工具的實用性與商業可靠性。
相關文章
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑
相關專題推薦
評論 (0)
0/500
TikTok 近日宣布,已暫停測試一項旨在為影片自動生成文字摘要的實驗性 AI 功能,並將重新聚焦於更具體的應用場景。 這項名為「AI Overviews」的功能,過去數月來已在美國等市場進行小規模測試,最初的計畫是利用 TikTok 自家的或第三方多模態模型,提供影片的背景資訊及產品推薦。

然而實際運作中,該功能卻出現了嚴重的「幻覺」現象,引發廣泛關注: 它將 Charli D’Amelio 的影片出鏡誤判為「含有不同配料的藍莓集合」、將狗狗訓練教學解讀為「摺紙藝術」,甚至將夏奇拉(Shakira)的宣傳短片描述為「移動的藍色形狀」。
面對演算法理解能力上的重大缺陷,TikTok發言人證實,基於用戶反饋已暫停相關測試,並澄清該功能今後將專注於識別影片中的特定產品,而非嘗試總結整個影片內容。 此決定凸顯了生成式人工智慧在處理動態視覺資訊時仍面臨的技術障礙,包括邏輯矛盾與語義錯誤。
業界觀察家將此事件視為繼 Google「膠水披薩」事件後,又一宗引人注目的 AI 幻覺案例。 儘管近期數據顯示,Google 等大型企業的 AI 概述準確度已有所提升,但 TikTok 的挫折凸顯出:在短影片這種高密度且非結構化的環境中,多模態大型模型的泛化能力仍不足以實現可靠的自動化敘事。 短期內,業界正從追求廣泛的「全面描述」轉向更聚焦的「垂直應用」,透過縮小認知範圍來提升AI工具的實用性與商業可靠性。
Suno 在法律訴訟中為歌曲新增水印
Suno,這個允許使用者生成由人工智慧創作的音樂的平臺,近日推出了新功能,包括為平臺製作的曲目新增標籤、限制下載,並更新社羣標準以遏制未經授權的複製品。這些更新是在Suno面臨多家唱片公司和藝術家組織提起的多起訴訟之際推出的。在部落格文章中,聯合創始人兼執行長Mikey Shulman概述了核心原則,強調該平臺旨在促進原創創作,同時擴大更廣泛受眾對人工智慧音樂工具的訪問許可權。一個主要的爭議點在於,使用者將人工智慧生成的歌曲上傳到其他流媒體服務並透過操縱系統獲取收入。Suno表示,現在將採用音訊
馬斯克承認 Grok 構建過程中洩露了使用者程式碼,並承諾清除所有歷史資料
埃隆·馬斯克直接回應了圍繞 Grok Build 的隱私爭議,首先以簡單的“True”(屬實)確認了該事件的有效性。他承諾,此前上傳至 SpaceXAI 的所有使用者資料將被永久刪除,並表示“不留一個位元組”。這是人工智慧行業首次由主要科技領袖公開承認錯誤並主動刪除使用者資料。安全研究人員的“釣魚”測試揭示了資料洩露的具體證據此次爭議源於獨立人工智慧安全研究人員 @cereblab 的一份報告。SpaceXAI 推出的 AI 程式設計助手 Grok Build 在其官方網站上聲稱其“優先本地執行,程式碼
美國股市觸及歷史裡程碑,人工智慧與航空航天巨頭準備開啟萬億美元時代
埃隆·馬斯克、山姆·阿爾特曼和達里奧·阿莫迪,這三位科技領域的巨頭,正推動其各自的企業邁向首次公開募股(IPO)。隨著 SpaceX、OpenAI 和 Anthropic——這三家估值接近萬億美元的行業巨頭——即將上市,2026 年被預測將成為美國曆史上新股發行規模最大的一年。這一歷史性的資本激增已引起全球金融界的關注,成為檢驗公共市場吸收如此大規模資金能力的關鍵壓力測試。這些主要融資活動的同步啟動預計將打破 2021 年創下的 1560 億美元紀錄。超級獨角獸的資本博弈每家公司上市的路徑





首頁






