Openai刚刚进行了首个网络安全投资

生成式人工智能显著拓宽了黑客和恶意行为者可用的武器库。从制作首席执行官的深度伪造视频到生成虚假收据,其滥用潜力巨大。OpenAI,作为生成式人工智能领域的领先者,敏锐地意识到这些风险。在一项战略举措中,OpenAI首次投资了一家网络安全初创公司,支持纽约的Adaptive Security,参与了由Andreessen Horowitz共同领投的4300万美元A轮融资。
Adaptive Security采取主动的网络安全策略,通过模拟人工智能生成的攻击来培训员工识别和挫败这些威胁。想象接到一个电话,声音与你的首席技术官一模一样,要求提供验证码。那声音并非你的首席技术官,而是Adaptive Security创建的复杂模拟。该公司的平台不仅限于电话,还模拟短信和电子邮件,评估企业中最脆弱的领域,并培训员工识别和缓解这些风险。
Adaptive Security的重点是“社会工程”黑客攻击,即攻击者诱骗员工采取未经授权的操作,例如点击恶意链接。这些看似简单的策略可能导致重大损失,正如2022年Axie Infinity因针对其一名开发者的虚假工作机会诈骗而损失超过6亿美元的案例所示。
据联合创始人兼首席执行官Brian Long称,人工智能使这些社会工程攻击更容易实施。自2023年推出以来,Adaptive Security的客户群迅速增长至100多家,凭借正面反馈获得了OpenAI的投资。Long是一位经验丰富的连续创业者,曾成功退出TapCommerce(2014年被Twitter以超过1亿美元收购)和Attentive(2021年估值超过100亿美元),他计划利用新资金招聘工程师并增强平台,以应对与网络犯罪分子的持续人工智能“军备竞赛”。
Adaptive Security并非唯一应对人工智能驱动威胁的公司。其他初创公司如Cyberhaven,最近以10亿美元估值筹集了1亿美元,以防止在ChatGPT等工具中滥用敏感信息;以及Snyk,其超过3亿美元的年经常性收入部分归因于不安全的人工智能生成代码的兴起,也在这一领域取得进展。此外,深度伪造检测公司GetReal上个月获得了1750万美元,以对抗这些高级威胁。
随着人工智能威胁的演变,Long为担心语音克隆的员工提供了一条简单的建议:“删除你的语音信箱。”这一简单操作有助于防范黑客利用人工智能技术的众多方式之一。
相关文章
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
相关专题推荐
评论 (38)
0/500
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏

生成式人工智能显著拓宽了黑客和恶意行为者可用的武器库。从制作首席执行官的深度伪造视频到生成虚假收据,其滥用潜力巨大。OpenAI,作为生成式人工智能领域的领先者,敏锐地意识到这些风险。在一项战略举措中,OpenAI首次投资了一家网络安全初创公司,支持纽约的Adaptive Security,参与了由Andreessen Horowitz共同领投的4300万美元A轮融资。
Adaptive Security采取主动的网络安全策略,通过模拟人工智能生成的攻击来培训员工识别和挫败这些威胁。想象接到一个电话,声音与你的首席技术官一模一样,要求提供验证码。那声音并非你的首席技术官,而是Adaptive Security创建的复杂模拟。该公司的平台不仅限于电话,还模拟短信和电子邮件,评估企业中最脆弱的领域,并培训员工识别和缓解这些风险。
Adaptive Security的重点是“社会工程”黑客攻击,即攻击者诱骗员工采取未经授权的操作,例如点击恶意链接。这些看似简单的策略可能导致重大损失,正如2022年Axie Infinity因针对其一名开发者的虚假工作机会诈骗而损失超过6亿美元的案例所示。
据联合创始人兼首席执行官Brian Long称,人工智能使这些社会工程攻击更容易实施。自2023年推出以来,Adaptive Security的客户群迅速增长至100多家,凭借正面反馈获得了OpenAI的投资。Long是一位经验丰富的连续创业者,曾成功退出TapCommerce(2014年被Twitter以超过1亿美元收购)和Attentive(2021年估值超过100亿美元),他计划利用新资金招聘工程师并增强平台,以应对与网络犯罪分子的持续人工智能“军备竞赛”。
Adaptive Security并非唯一应对人工智能驱动威胁的公司。其他初创公司如Cyberhaven,最近以10亿美元估值筹集了1亿美元,以防止在ChatGPT等工具中滥用敏感信息;以及Snyk,其超过3亿美元的年经常性收入部分归因于不安全的人工智能生成代码的兴起,也在这一领域取得进展。此外,深度伪造检测公司GetReal上个月获得了1750万美元,以对抗这些高级威胁。
随着人工智能威胁的演变,Long为担心语音克隆的员工提供了一条简单的建议:“删除你的语音信箱。”这一简单操作有助于防范黑客利用人工智能技术的众多方式之一。
山姆·奥特曼引发关于人工智能减速的辩论
在Apple Podcasts上收听在Spotify上收听OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)最近表示,现在可能是时候“控制人工智能的发展速度”,以便社会“在这些新的能力水平周围加固自身”。在TechCrunch《Equity》播客的最新一期中,Kirsten Korosec、Sean O’Kane和我讨论了阿尔特曼的言论可能由最近的一次黑客攻击所触发,该攻击中一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客攻击是前所未
OpenAI 与苹果公司就商业秘密诉讼进行对抗
OpenAI 于周二驳回了苹果公司的商业秘密指控,称该诉讼毫无根据。“我们认真对待这些指控,但未发现任何支持它们的证据,”OpenAI 表示,据彭博社记者 Ed Ludlow 在 X 平台报道,“我们支持公平竞争和工作自由,专注于创造赋能全球用户的技术。”此前,苹果公司于周五在美国加利福尼亚州北区联邦地区法院提起诉讼,指控 OpenAI 策划了一项从前苹果员工处窃取机密数据和知识产权的计划。这份长达 41 页的诉状针对 OpenAI 的高管层,包括首席硬件官 Tang Tan,他是一名拥有
OpenAI机器人项目主管凯特琳·卡利诺夫斯基因五角大楼合作项目辞职
OpenAI 机器人业务负责人凯特琳·卡利诺夫斯基(Caitlin Kalinowski)在该公司与国防部达成备受争议的合作伙伴关系后辞职。“这不是一个轻松的决定,”卡利诺夫斯基在社交媒体声明中解释道。“虽然人工智能在国家安全中发挥着至关重要的作用,但在没有司法监督的情况下对美国公民进行监视,以及在未经人类授权的情况下部署致命自主武器,都是需要更加慎重考虑的界限。”卡利诺夫斯基此前因领导 Meta 的增强现实眼镜部门而闻名,她于 2024 年 11 月加入 OpenAI。在辞职信中,她强调她
Wow, OpenAI's diving into cybersecurity? Smart move! With AI making deepfakes and fake receipts so easy, it’s about time they tackled the dark side of their own tech. Hope they’re ready for the hacker chaos! 😎
Wow, OpenAI's diving into cybersecurity? Smart move! Generative AI's a double-edged sword—deepfakes and fake receipts are no joke. Curious to see how they tackle the dark side of AI. 🕵️♂️
Wow, OpenAI jumping into cybersecurity feels like a superhero gearing up to fight their own villainous creations! 😎 Curious how their investment will tackle those sneaky deepfake and scam issues.
A OpenAI investir em cibersegurança foi uma jogada inteligente! Era hora de alguém lidar com o lado sombrio da IA. Me sinto mais seguro sabendo que eles estão nisso, mas gostaria que compartilhassem mais sobre o que estão fazendo. Mal posso esperar para ver como isso vai se desenrolar! 😏





首页






