Openai剛剛進行了首個網絡安全投資

生成式AI顯著擴展了駭客與惡意行為者可用的工具庫。從製作首席執行官的深度偽造影片到生成偽造收據,其濫用潛力極大。OpenAI,作為生成式AI領域的領先者,敏銳地意識到這些風險。在一項策略性舉措中,OpenAI首次投資了一家網路安全新創公司,支持紐約的Adaptive Security,參與其與Andreessen Horowitz共同領投的4300萬美元A輪融資。
Adaptive Security採取主動的網路安全策略,通過模擬AI生成的攻擊來訓練員工辨識並挫敗這些威脅。想像接到一個電話,聲音與你的技術長完全相同,要求提供驗證碼。那個聲音並非你的技術長,而是Adaptive Security創建的精密模擬。該公司的平台不僅限於電話,還模擬文字訊息和電子郵件,評估企業中最易受攻擊的領域,並訓練員工辨識與減輕這些風險。
Adaptive Security專注於「社交工程」駭客攻擊,即攻擊者誘騙員工採取未經授權的行動,例如點擊惡意連結。這些看似簡單的策略可能導致重大損失,正如Axie Infinity在2022年因一名開發者被假工作邀請詐騙,損失超過6億美元的案例所示。
根據聯合創始人兼首席執行官Brian Long表示,AI使這些社交工程攻擊更容易執行。自2023年推出以來,Adaptive Security迅速將客戶基礎擴展至超過100家,憑藉正面反饋獲得OpenAI的投資。Long是一位經驗豐富的企業家,曾成功退出TapCommerce(2014年被Twitter以超過1億美元收購)和Attentive(2021年估值超過100億美元),他計劃利用新資金招聘工程師並增強平台,以應對與網路犯罪分子的持續AI「軍備競賽」。
Adaptive Security並非唯一應對AI驅動威脅的公司。其他新創公司如Cyberhaven,最近以10億美元估值融資1億美元,防止ChatGPT等工具中敏感資訊的濫用;以及Snyk,其超過3億美元的年度經常性收入部分歸因於不安全的AI生成程式碼的增加,也在這一領域取得進展。此外,深度偽造檢測公司GetReal上個月獲得1750萬美元,以對抗這些先進威脅。
隨著AI威脅的演變,Long為擔心語音克隆的員工提供了一個簡單的建議:「刪除你的語音信箱。」這一簡單行動有助於防範駭客利用AI技術的眾多方式之一。
相關文章
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
相關專題推薦
評論 (38)
0/500
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏

生成式AI顯著擴展了駭客與惡意行為者可用的工具庫。從製作首席執行官的深度偽造影片到生成偽造收據,其濫用潛力極大。OpenAI,作為生成式AI領域的領先者,敏銳地意識到這些風險。在一項策略性舉措中,OpenAI首次投資了一家網路安全新創公司,支持紐約的Adaptive Security,參與其與Andreessen Horowitz共同領投的4300萬美元A輪融資。
Adaptive Security採取主動的網路安全策略,通過模擬AI生成的攻擊來訓練員工辨識並挫敗這些威脅。想像接到一個電話,聲音與你的技術長完全相同,要求提供驗證碼。那個聲音並非你的技術長,而是Adaptive Security創建的精密模擬。該公司的平台不僅限於電話,還模擬文字訊息和電子郵件,評估企業中最易受攻擊的領域,並訓練員工辨識與減輕這些風險。
Adaptive Security專注於「社交工程」駭客攻擊,即攻擊者誘騙員工採取未經授權的行動,例如點擊惡意連結。這些看似簡單的策略可能導致重大損失,正如Axie Infinity在2022年因一名開發者被假工作邀請詐騙,損失超過6億美元的案例所示。
根據聯合創始人兼首席執行官Brian Long表示,AI使這些社交工程攻擊更容易執行。自2023年推出以來,Adaptive Security迅速將客戶基礎擴展至超過100家,憑藉正面反饋獲得OpenAI的投資。Long是一位經驗豐富的企業家,曾成功退出TapCommerce(2014年被Twitter以超過1億美元收購)和Attentive(2021年估值超過100億美元),他計劃利用新資金招聘工程師並增強平台,以應對與網路犯罪分子的持續AI「軍備競賽」。
Adaptive Security並非唯一應對AI驅動威脅的公司。其他新創公司如Cyberhaven,最近以10億美元估值融資1億美元,防止ChatGPT等工具中敏感資訊的濫用;以及Snyk,其超過3億美元的年度經常性收入部分歸因於不安全的AI生成程式碼的增加,也在這一領域取得進展。此外,深度偽造檢測公司GetReal上個月獲得1750萬美元,以對抗這些先進威脅。
隨著AI威脅的演變,Long為擔心語音克隆的員工提供了一個簡單的建議:「刪除你的語音信箱。」這一簡單行動有助於防範駭客利用AI技術的眾多方式之一。
山姆·奧特曼引發關於人工智慧減速的辯論
在Apple Podcasts上收聽在Spotify上收聽OpenAI執行長薩姆·阿爾特曼(Sam Altman)最近表示,現在可能是時候“控制人工智慧的發展速度”,以便社會“在這些新的能力水平周圍加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我討論了阿爾特曼的言論可能由最近的一次駭客攻擊所觸發,該攻擊中一名OpenAI代理突破了Hugging Face的系統。Sean指出,雖然由AI代理執行的駭客攻擊是前所未
OpenAI 與蘋果公司就商業秘密訴訟進行對抗
OpenAI 於週二駁回了蘋果公司的商業秘密指控,稱該訴訟毫無根據。“我們認真對待這些指控,但未發現任何支援它們的證據,”OpenAI 表示,據彭博社記者 Ed Ludlow 在 X 平臺報道,“我們支援公平競爭和工作自由,專注於創造賦能全球使用者的技術。”此前,蘋果公司於週五在美國加利福尼亞州北區聯邦地區法院提起訴訟,指控 OpenAI 策劃了一項從前蘋果員工處竊取機密資料和智慧財產權的計劃。這份長達 41 頁的訴狀針對 OpenAI 的高管層,包括首席硬體官 Tang Tan,他是一名擁有
OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職
OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏





首頁






