OpenAI 簡化了驗證 AI 生成圖像的流程

隨著 AI 影像生成工具在網路上日益普及且日趨精進,區分真實影像與偽造影像的難度也前所未見地提高。週二,OpenAI 公布了兩項新措施以應對此問題。
該公司已採用開放式的 C2PA 標準,該標準會在元資料中嵌入明確訊號,標示該影像是由 AI 生成的。此外,OpenAI 正與 Google 合作,將名為 SynthID 的隱形浮水印整合至影像中——此浮水印設計上更難被偵測,若惡意行為者試圖掩蓋蹤跡,更難被移除。
這些防護措施目前僅適用於 OpenAI 自家產品生成的圖片,因此無法遏止來自信譽較差的 AI 工具所產生的圖片洪流。不過,這些措施有助於確保 OpenAI 本身不會加劇這個問題。
OpenAI 還預覽了一款公開驗證工具,該工具可同時檢查這兩項標記,讓使用者能輕鬆驗證圖片是否由 AI 生成。初期,此工具僅適用於 OpenAI 產品所生成的圖片,但該公司希望最終能將其擴展至其他工具。
成立於 2021 年的「內容來源與真實性聯盟」(C2PA)是一個非營利組織,致力於減輕 AI 生成影像對公共討論造成的負面影響。 C2PA 標準雖已被多款 Google 產品採用,但業界的採用情況仍不一致。由於 C2PA 訊號可輕易從每個檔案的元資料中取得,因此容易遭到篡改,使其在可信賴的使用者之間最為有效。
SynthID 是一項較新的倡議,旨在提供更強大的防篡改機制。由 Google 開發的 SynthID 水印經過特殊設計,即使惡意行為者試圖透過截圖、調整尺寸或數位處理來移除,該水印仍能持續存在。
這兩套系統旨在相互補充,各自彌補對方的不足。
OpenAI 在其公告中指出:「水印在面對截圖等變換時更具韌性,而元數據則能提供比單純水印更豐富的信息。兩者結合,使來源追溯的韌性遠高於單一層級所能達到的程度。」
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
評論 (0)
0/500

隨著 AI 影像生成工具在網路上日益普及且日趨精進,區分真實影像與偽造影像的難度也前所未見地提高。週二,OpenAI 公布了兩項新措施以應對此問題。
該公司已採用開放式的 C2PA 標準,該標準會在元資料中嵌入明確訊號,標示該影像是由 AI 生成的。此外,OpenAI 正與 Google 合作,將名為 SynthID 的隱形浮水印整合至影像中——此浮水印設計上更難被偵測,若惡意行為者試圖掩蓋蹤跡,更難被移除。
這些防護措施目前僅適用於 OpenAI 自家產品生成的圖片,因此無法遏止來自信譽較差的 AI 工具所產生的圖片洪流。不過,這些措施有助於確保 OpenAI 本身不會加劇這個問題。
OpenAI 還預覽了一款公開驗證工具,該工具可同時檢查這兩項標記,讓使用者能輕鬆驗證圖片是否由 AI 生成。初期,此工具僅適用於 OpenAI 產品所生成的圖片,但該公司希望最終能將其擴展至其他工具。
成立於 2021 年的「內容來源與真實性聯盟」(C2PA)是一個非營利組織,致力於減輕 AI 生成影像對公共討論造成的負面影響。 C2PA 標準雖已被多款 Google 產品採用,但業界的採用情況仍不一致。由於 C2PA 訊號可輕易從每個檔案的元資料中取得,因此容易遭到篡改,使其在可信賴的使用者之間最為有效。
SynthID 是一項較新的倡議,旨在提供更強大的防篡改機制。由 Google 開發的 SynthID 水印經過特殊設計,即使惡意行為者試圖透過截圖、調整尺寸或數位處理來移除,該水印仍能持續存在。
這兩套系統旨在相互補充,各自彌補對方的不足。
OpenAI 在其公告中指出:「水印在面對截圖等變換時更具韌性,而元數據則能提供比單純水印更豐富的信息。兩者結合,使來源追溯的韌性遠高於單一層級所能達到的程度。」
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她





首頁






