Reco 旨在消除各企业的影子人工智能盲点
人工智能正以前所未有的速度在工作场所蔓延。每天,员工都在将人工智能工具连接到企业系统--通常没有经过 IT 安全团队的批准或监督。其结果就是专家们所说的影子人工智能:一个在不受监控的情况下访问公司数据的集成和工具的不断增长的网络。
SaaS 安全和人工智能治理提供商 Reco 的联合创始人兼首席技术官 Tal Shapira 博士说,这种无形的扩张可能成为当今最大的组织威胁之一。他指出,人工智能的应用速度已经超过了当前的企业保障措施。
"从'人工智能即将到来'到'人工智能无处不在',我们只用了大约 18 个月的时间。挑战在于治理框架没有跟上,"Shapira 说。
企业系统中隐藏的威胁
夏皮拉认为,大多数企业安全系统都是为旧时代构建的,在那个时代,一切都隐藏在防火墙和网络边界之后。影子人工智能从内部运作,隐藏在公司自己的应用程序中,从而颠覆了这种模式。
许多现代人工智能工具直接与 Salesforce、Slack 或 Google Workspace 等日常 SaaS 平台集成。虽然这本质上并不危险,但人工智能通常通过权限或插件进行连接,而这些权限或插件在设置后仍处于激活状态。这些 "静默 "连接可能会继续为人工智能提供访问公司数据的权限--即使在安装这些工具的员工离职或停止使用这些工具之后也是如此。这是一个重大的影子人工智能挑战。
夏皮拉说:"更深层次的问题是,这些工具会嵌入公司的基础设施,有时会持续数月或数年而不被发现。
这一类新风险尤其难以追踪,因为许多人工智能系统都是概率性的。人工智能不是执行固定的命令,而是根据模式进行预测。因此,它们的行为会因环境而异,从而增加了监督和控制的难度。
当人工智能出现意外行为时
真实世界的事件揭示了影子人工智能的实际影响。Reco 最近与一家财富 100 强的金融公司合作,该公司认为自己的系统是安全和合规的。在部署 Reco 监控的几天内,该公司在其 Salesforce 和 Microsoft 365 环境中发现了 1000 多个未经授权的第三方集成,其中一半以上是由人工智能驱动的。
其中一个集成是与 Zoom 相连的转录工具,它记录了客户的每一次通话,包括定价谈判和机密反馈。"Shapira 解释说:"他们无意中用自己最敏感的数据训练了一个第三方模型。"没有合同,也不清楚如何存储或使用这些数据。
在另一个案例中,一名员工将 ChatGPT 直接连接到 Salesforce,使人工智能能够在数小时内生成数百份内部报告。虽然效率很高,但这却将客户详情和销售预测暴露给了外部人工智能平台。
Reco 如何揭示看不见的东西
Reco 的平台为公司提供了对哪些人工智能工具连接到其系统以及这些工具能够访问的数据的全面可视性。它可持续扫描 SaaS 环境中的 OAuth 权限、第三方应用程序和浏览器扩展。一旦被识别,Reco 就会指出是哪些用户安装了它们,它们拥有哪些权限,以及这些行为看起来是否异常。
如果连接有风险,系统会提醒管理员或自动取消访问权限。"Shapira 指出:"速度至关重要,因为人工智能工具可以在数小时而不是数天内提取海量数据。
与专注于网络边界的传统安全产品不同,Reco 的目标是身份和访问层。这使它非常适合当今以云为先、依赖 SaaS 的组织,在这些组织中,大多数数据都位于传统防火墙之外。
更广泛的安全警报
行业分析师表示,Reco 的方法反映了一个更大的企业安全趋势:从阻止人工智能转向管理人工智能。思科最近发布的一份关于人工智能就绪程度的报告发现,62% 的企业承认对员工在工作中如何使用人工智能工具的可视性有限。近一半的企业已经面临至少一次与人工智能相关的数据事故。
随着人工智能嵌入主流软件--从 Salesforce 的 Einstein 到微软的 Copilot--挑战不断升级。"你可能会认为自己使用的是一个值得信赖的平台,"Shapira 说,"但却没有意识到它现在包含了自动获取信息的人工智能功能。
Reco 的平台通过监控已获批准和未获批准的人工智能活动来弥补这一差距,帮助企业了解数据流向和原因。
放心采用人工智能
Shapira 认为,我们正在进入 "人工智能基础架构阶段"--届时,无论可见与否,每种业务工具都将以某种形式包含人工智能。这使得持续监控、最小权限访问和有时间限制的权限变得至关重要。
"他指出:"成功的公司不会是那些阻止人工智能的公司。"成功的公司将是那些负责任地采用人工智能的公司,它们拥有保护创新和信任的护栏"。
他强调说,影子人工智能并不反映员工的粗心大意,而是反映了技术发展的速度有多快。"他说:"人们希望提高工作效率。"我们的作用是在不给组织带来风险的情况下实现这一点。"
对于希望在不失去数据控制的情况下利用人工智能的企业来说,Reco 的信息非常直接:你无法确保你看不到的东西的安全。
图片来源:UnsplashUnsplash
相关文章
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
瑞典人工智能初创公司Lovable Eyes在完成主要融资轮后估值达132亿美元
随着人工智能驱动的编码工具日益普及,瑞典初创公司 Lovable 已获一轮重大融资。该公司计划筹集 30 亿美元,其估值有望升至 132 亿美元——这是去年 12 月记录的 66 亿美元的两倍。预计 Menlo Ventures 将主导此次投资。Lovable 的吸引力源于其核心的“氛围编码”(vibe coding)技术,该技术通过消除对复杂编码技能的需求来简化软件开发。用户只需以自然语言描述其需求,系统即可自动生成应用程序。这种直观的方法吸引了个人开发者、设计师和小企业,并扩展至 Work
Google 测试 Remy AI 代理,以 Gemini 为重点转向用户控制
根据《商业内幕》的报道,谷歌正在测试 Remy,这是 Gemini 的一款全新 AI 个人代理工具。该工具旨在代表用户执行任务,从而简化专业工作流程和日常事务。目前,Remy 正在 Gemini 应用的内部员工专属版本中进行测试。该报告引用了一份内部文件以及对两位熟悉该项目的个人的采访。内部资料将 Remy 描述为“全天候个人代理”,将 Gemini 定位为能够代表用户行事的主动助手。接近该项目的消息人士证实,谷歌员工正在积极测试 Remy。谷歌发言人拒绝提供进一步评论。该报告未提及公开发布
相关专题推荐
评论 (2)
0/500
Wait, so employees are just hooking up AI tools to company systems without telling IT? That's like letting a toddler play with matches and expecting no fire. 🔥 Shadow AI is basically the corporate equivalent of 'ask for forgiveness, not permission.' 😅
人工智能正以前所未有的速度在工作场所蔓延。每天,员工都在将人工智能工具连接到企业系统--通常没有经过 IT 安全团队的批准或监督。其结果就是专家们所说的影子人工智能:一个在不受监控的情况下访问公司数据的集成和工具的不断增长的网络。
SaaS 安全和人工智能治理提供商 Reco 的联合创始人兼首席技术官 Tal Shapira 博士说,这种无形的扩张可能成为当今最大的组织威胁之一。他指出,人工智能的应用速度已经超过了当前的企业保障措施。
"从'人工智能即将到来'到'人工智能无处不在',我们只用了大约 18 个月的时间。挑战在于治理框架没有跟上,"Shapira 说。
企业系统中隐藏的威胁
夏皮拉认为,大多数企业安全系统都是为旧时代构建的,在那个时代,一切都隐藏在防火墙和网络边界之后。影子人工智能从内部运作,隐藏在公司自己的应用程序中,从而颠覆了这种模式。
许多现代人工智能工具直接与 Salesforce、Slack 或 Google Workspace 等日常 SaaS 平台集成。虽然这本质上并不危险,但人工智能通常通过权限或插件进行连接,而这些权限或插件在设置后仍处于激活状态。这些 "静默 "连接可能会继续为人工智能提供访问公司数据的权限--即使在安装这些工具的员工离职或停止使用这些工具之后也是如此。这是一个重大的影子人工智能挑战。
夏皮拉说:"更深层次的问题是,这些工具会嵌入公司的基础设施,有时会持续数月或数年而不被发现。
这一类新风险尤其难以追踪,因为许多人工智能系统都是概率性的。人工智能不是执行固定的命令,而是根据模式进行预测。因此,它们的行为会因环境而异,从而增加了监督和控制的难度。
当人工智能出现意外行为时
真实世界的事件揭示了影子人工智能的实际影响。Reco 最近与一家财富 100 强的金融公司合作,该公司认为自己的系统是安全和合规的。在部署 Reco 监控的几天内,该公司在其 Salesforce 和 Microsoft 365 环境中发现了 1000 多个未经授权的第三方集成,其中一半以上是由人工智能驱动的。
其中一个集成是与 Zoom 相连的转录工具,它记录了客户的每一次通话,包括定价谈判和机密反馈。"Shapira 解释说:"他们无意中用自己最敏感的数据训练了一个第三方模型。"没有合同,也不清楚如何存储或使用这些数据。
在另一个案例中,一名员工将 ChatGPT 直接连接到 Salesforce,使人工智能能够在数小时内生成数百份内部报告。虽然效率很高,但这却将客户详情和销售预测暴露给了外部人工智能平台。
Reco 如何揭示看不见的东西
Reco 的平台为公司提供了对哪些人工智能工具连接到其系统以及这些工具能够访问的数据的全面可视性。它可持续扫描 SaaS 环境中的 OAuth 权限、第三方应用程序和浏览器扩展。一旦被识别,Reco 就会指出是哪些用户安装了它们,它们拥有哪些权限,以及这些行为看起来是否异常。
如果连接有风险,系统会提醒管理员或自动取消访问权限。"Shapira 指出:"速度至关重要,因为人工智能工具可以在数小时而不是数天内提取海量数据。
与专注于网络边界的传统安全产品不同,Reco 的目标是身份和访问层。这使它非常适合当今以云为先、依赖 SaaS 的组织,在这些组织中,大多数数据都位于传统防火墙之外。
更广泛的安全警报
行业分析师表示,Reco 的方法反映了一个更大的企业安全趋势:从阻止人工智能转向管理人工智能。思科最近发布的一份关于人工智能就绪程度的报告发现,62% 的企业承认对员工在工作中如何使用人工智能工具的可视性有限。近一半的企业已经面临至少一次与人工智能相关的数据事故。
随着人工智能嵌入主流软件--从 Salesforce 的 Einstein 到微软的 Copilot--挑战不断升级。"你可能会认为自己使用的是一个值得信赖的平台,"Shapira 说,"但却没有意识到它现在包含了自动获取信息的人工智能功能。
Reco 的平台通过监控已获批准和未获批准的人工智能活动来弥补这一差距,帮助企业了解数据流向和原因。
放心采用人工智能
Shapira 认为,我们正在进入 "人工智能基础架构阶段"--届时,无论可见与否,每种业务工具都将以某种形式包含人工智能。这使得持续监控、最小权限访问和有时间限制的权限变得至关重要。
"他指出:"成功的公司不会是那些阻止人工智能的公司。"成功的公司将是那些负责任地采用人工智能的公司,它们拥有保护创新和信任的护栏"。
他强调说,影子人工智能并不反映员工的粗心大意,而是反映了技术发展的速度有多快。"他说:"人们希望提高工作效率。"我们的作用是在不给组织带来风险的情况下实现这一点。"
对于希望在不失去数据控制的情况下利用人工智能的企业来说,Reco 的信息非常直接:你无法确保你看不到的东西的安全。
图片来源:UnsplashUnsplash
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
瑞典人工智能初创公司Lovable Eyes在完成主要融资轮后估值达132亿美元
随着人工智能驱动的编码工具日益普及,瑞典初创公司 Lovable 已获一轮重大融资。该公司计划筹集 30 亿美元,其估值有望升至 132 亿美元——这是去年 12 月记录的 66 亿美元的两倍。预计 Menlo Ventures 将主导此次投资。Lovable 的吸引力源于其核心的“氛围编码”(vibe coding)技术,该技术通过消除对复杂编码技能的需求来简化软件开发。用户只需以自然语言描述其需求,系统即可自动生成应用程序。这种直观的方法吸引了个人开发者、设计师和小企业,并扩展至 Work
Wait, so employees are just hooking up AI tools to company systems without telling IT? That's like letting a toddler play with matches and expecting no fire. 🔥 Shadow AI is basically the corporate equivalent of 'ask for forgiveness, not permission.' 😅





首页






