开放的小语言模型,用于负责任的,实用的AI
地缘政治对人工智能发展和使用的影
随着全球事件持续塑造世界,技术领域尤其是人工智能市场不可避免地受到影响。这种影响涉及人工智能的开发、方法论及在企业中的应用。当前人工智能领域充满兴奋与怀疑,一些人拥抱其潜力,另一些人因其早期发展阶段保持谨慎。
传统的闭环大型语言模型(LLMs),如知名供应商提供的模型,正面临来自更开放模型的竞争,如Llama、DeepSeek和百度的Ernie X1。相比之下,开源开发提供了透明度和社区贡献机会,符合“负责任人工智能”的理念。这种方法考虑了环境影响、使用伦理、学习数据来源以及数据主权、语言和政治相关问题。
以成功开源商业模式闻名的Red Hat,热衷于将协作和透明的方法应用于人工智能。在与Red Hat EMEA首席技术官Julio Guijarro的近期对话中,我们讨论了他们如何以负责任和可持续的方式利用生成式人工智能为企业增加价值的策略。
教育与透明度的需求
Julio强调了人工智能教育的重要性,指出其复杂性常使其对许多人来说是个“黑盒”。“人工智能的内在机制深深植根于复杂的科学和数学,很大程度上仍不为人知,”他说。“当人工智能在封闭环境中开发时,这种透明度不足问题更加严重。”
其他挑战包括某些语言的代表性不足、数据主权问题和信任问题。Julio指出:“数据是组织最宝贵的资产,企业必须意识到将敏感数据暴露给具有不同隐私政策的公共平台的风险。”
Red Hat的人工智能方法
Red Hat应对全球人工智能需求的方法,专注于为终端用户提供利益,同时解决与传统人工智能服务相关的疑虑和限制。Julio强调了小型语言模型(SLMs)的潜力。这些模型可在本地或混合云上运行,使用非专用硬件,并可访问本地业务数据。SLM高效且任务特定,所需资源比LLM少。
SLM的关键优势之一是能够跟上快速变化的业务数据。“大型语言模型可能很快过时,因为数据生成发生在大云之外,紧邻您的业务流程,”Julio解释说。
成本是另一个关键因素。“使用LLM的客户服务查询可能会产生显著的隐性成本,”Julio说。“在人工智能之前,数据查询的范围和成本是可预测的。使用LLM,每次交互都可能增加成本,因为它们基于迭代模型运行。本地运行模型可以更好地控制成本,因为它们与您的基础设施相关,而不是按查询收费。”
幸运的是,组织无需大量投资于GPU等专用硬件。Red Hat致力于优化模型以在标准硬件上运行,专注于企业所需的具体模型,而不是处理大型通用数据集的每次查询。
小型本地化模型的重要性
通过使用和引用本地数据,结果可定制以满足特定需求。Julio提到了阿拉伯语和葡萄牙语地区项目,这些地区未被以英语为中心的大型语言模型很好服务。
大型语言模型存在实际挑战,包括可能影响时间敏感或面向客户应用的延迟问题。将资源和结果保持在用户附近可缓解这些问题。
信任是负责任人工智能的另一个关键方面。Red Hat倡导开放平台、工具和模型,以提高透明度并允许更广泛的社区参与。“这对每个人都至关重要,”Julio说。“我们正在构建能力以民主化人工智能,不仅通过发布模型,还通过提供工具让用户复制、调整和提供服务。”
Red Hat最近收购Neural Magic,旨在帮助企业更轻松地扩展人工智能,提高推理性能,并通过vLLM项目提供更多构建和部署人工智能工作负载的选择。此外,Red Hat与IBM Research合作发布了InstructLab,将人工智能开发开放给具有宝贵业务知识的非数据科学家。
人工智能的未来
尽管对人工智能泡沫存在诸多猜测,Red Hat相信人工智能的未来将针对特定用例定制,并保持开源。这种方法将在经济上可行且对所有人可访问。正如Red Hat首席执行官Matt Hicks所说:“人工智能的未来是开放的。”
相关文章
字节跳动加大核心AI激励,豆包增长14.6%
字节跳动近日召开豆包股权说明会,公布面向豆包部门员工的最新激励政策。豆包股票的行权价已从2026年6月的14.85美元上调至17.02美元,涨幅约为14.6%。此次调整不仅提升了豆包股票的估值,还大幅扩大了其覆盖范围。根据员工岗位的不同,部分员工可能获得相当于其总薪酬约5%的豆包股票。根据新的兑换机制,字节跳动允许员工在整体薪酬包中,将部分现金工资兑换为豆包股权。兑换比例因职级而异,设有20%和30%等不同档位。例如,L2和L3级员工可选择20%的全覆盖兑换比例,而L3和L4级员工的该比例可
MiniMax 推出 10 倍团队计划,以激励全球 AI 专家
MiniMax(稀宇科技)通用人工智能实验室正式推出“10x Team”,这是一项全球人才协作计划。该计划旨在招募跨行业的顶尖专家,探索大模型在垂直领域的深度应用。通过将深厚的行业知识与前沿人工智能技术相结合,MiniMax 致力于将大模型的生产力从通用场景拓展至专业场景,最终推动行业效率实现“十倍增长”。验证行业认知价值,开放多模态核心资源过去与行业专家的合作表明,深厚的专业洞察对于构建高质量、实用的行业专属大模型至关重要。在此基础上,“10x Team”计划将向合作伙伴开放包括多模态模型
韩国启动国家人工智能计算中心建设,投资2.5万亿韩元,目标2028年完成
韩国媒体EtNews报道,韩国AI计算中心(KOACC)的奠基仪式于8月3日在全罗南道顺天市的Solar City数据中心园区举行。该项目总投资额为2.5万亿韩元(约合118.38亿元人民币),计划于2028年投入运营,成为迄今为止韩国在AI基础设施领域规模最大的国家投资之一。该项目的股权分布凸显了深化政企合作的战略意图。三星SDS作为最大股东持有30%的股份,而包括科学技术信息通信部、金融监督院和国家成长基金在内的公共实体合计持有29%的股份。NAVER Cloud紧随其后,持股26.1%,
相关专题推荐
评论 (14)
0/500
이 논의는 사실이네요. 실제로 우리 회사에서도 AI 배포 시 지역 규제 때문에 모델을 커스터마이징해야 했어요. 오픈소스 소형 언어 모델이 더 유연한 솔루션이 될 수 있을 것 같아요. 특히 데이터 프라이버시가 중요한 경우에는요. 레드햇의 접근 방식이 현실적인 문제에 잘 맞는 것 같아요 👍
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟
地缘政治对人工智能发展和使用的影
随着全球事件持续塑造世界,技术领域尤其是人工智能市场不可避免地受到影响。这种影响涉及人工智能的开发、方法论及在企业中的应用。当前人工智能领域充满兴奋与怀疑,一些人拥抱其潜力,另一些人因其早期发展阶段保持谨慎。
传统的闭环大型语言模型(LLMs),如知名供应商提供的模型,正面临来自更开放模型的竞争,如Llama、DeepSeek和百度的Ernie X1。相比之下,开源开发提供了透明度和社区贡献机会,符合“负责任人工智能”的理念。这种方法考虑了环境影响、使用伦理、学习数据来源以及数据主权、语言和政治相关问题。
以成功开源商业模式闻名的Red Hat,热衷于将协作和透明的方法应用于人工智能。在与Red Hat EMEA首席技术官Julio Guijarro的近期对话中,我们讨论了他们如何以负责任和可持续的方式利用生成式人工智能为企业增加价值的策略。
教育与透明度的需求
Julio强调了人工智能教育的重要性,指出其复杂性常使其对许多人来说是个“黑盒”。“人工智能的内在机制深深植根于复杂的科学和数学,很大程度上仍不为人知,”他说。“当人工智能在封闭环境中开发时,这种透明度不足问题更加严重。”
其他挑战包括某些语言的代表性不足、数据主权问题和信任问题。Julio指出:“数据是组织最宝贵的资产,企业必须意识到将敏感数据暴露给具有不同隐私政策的公共平台的风险。”
Red Hat的人工智能方法
Red Hat应对全球人工智能需求的方法,专注于为终端用户提供利益,同时解决与传统人工智能服务相关的疑虑和限制。Julio强调了小型语言模型(SLMs)的潜力。这些模型可在本地或混合云上运行,使用非专用硬件,并可访问本地业务数据。SLM高效且任务特定,所需资源比LLM少。
SLM的关键优势之一是能够跟上快速变化的业务数据。“大型语言模型可能很快过时,因为数据生成发生在大云之外,紧邻您的业务流程,”Julio解释说。
成本是另一个关键因素。“使用LLM的客户服务查询可能会产生显著的隐性成本,”Julio说。“在人工智能之前,数据查询的范围和成本是可预测的。使用LLM,每次交互都可能增加成本,因为它们基于迭代模型运行。本地运行模型可以更好地控制成本,因为它们与您的基础设施相关,而不是按查询收费。”
幸运的是,组织无需大量投资于GPU等专用硬件。Red Hat致力于优化模型以在标准硬件上运行,专注于企业所需的具体模型,而不是处理大型通用数据集的每次查询。
小型本地化模型的重要性
通过使用和引用本地数据,结果可定制以满足特定需求。Julio提到了阿拉伯语和葡萄牙语地区项目,这些地区未被以英语为中心的大型语言模型很好服务。
大型语言模型存在实际挑战,包括可能影响时间敏感或面向客户应用的延迟问题。将资源和结果保持在用户附近可缓解这些问题。
信任是负责任人工智能的另一个关键方面。Red Hat倡导开放平台、工具和模型,以提高透明度并允许更广泛的社区参与。“这对每个人都至关重要,”Julio说。“我们正在构建能力以民主化人工智能,不仅通过发布模型,还通过提供工具让用户复制、调整和提供服务。”
Red Hat最近收购Neural Magic,旨在帮助企业更轻松地扩展人工智能,提高推理性能,并通过vLLM项目提供更多构建和部署人工智能工作负载的选择。此外,Red Hat与IBM Research合作发布了InstructLab,将人工智能开发开放给具有宝贵业务知识的非数据科学家。
人工智能的未来
尽管对人工智能泡沫存在诸多猜测,Red Hat相信人工智能的未来将针对特定用例定制,并保持开源。这种方法将在经济上可行且对所有人可访问。正如Red Hat首席执行官Matt Hicks所说:“人工智能的未来是开放的。”
字节跳动加大核心AI激励,豆包增长14.6%
字节跳动近日召开豆包股权说明会,公布面向豆包部门员工的最新激励政策。豆包股票的行权价已从2026年6月的14.85美元上调至17.02美元,涨幅约为14.6%。此次调整不仅提升了豆包股票的估值,还大幅扩大了其覆盖范围。根据员工岗位的不同,部分员工可能获得相当于其总薪酬约5%的豆包股票。根据新的兑换机制,字节跳动允许员工在整体薪酬包中,将部分现金工资兑换为豆包股权。兑换比例因职级而异,设有20%和30%等不同档位。例如,L2和L3级员工可选择20%的全覆盖兑换比例,而L3和L4级员工的该比例可
MiniMax 推出 10 倍团队计划,以激励全球 AI 专家
MiniMax(稀宇科技)通用人工智能实验室正式推出“10x Team”,这是一项全球人才协作计划。该计划旨在招募跨行业的顶尖专家,探索大模型在垂直领域的深度应用。通过将深厚的行业知识与前沿人工智能技术相结合,MiniMax 致力于将大模型的生产力从通用场景拓展至专业场景,最终推动行业效率实现“十倍增长”。验证行业认知价值,开放多模态核心资源过去与行业专家的合作表明,深厚的专业洞察对于构建高质量、实用的行业专属大模型至关重要。在此基础上,“10x Team”计划将向合作伙伴开放包括多模态模型
韩国启动国家人工智能计算中心建设,投资2.5万亿韩元,目标2028年完成
韩国媒体EtNews报道,韩国AI计算中心(KOACC)的奠基仪式于8月3日在全罗南道顺天市的Solar City数据中心园区举行。该项目总投资额为2.5万亿韩元(约合118.38亿元人民币),计划于2028年投入运营,成为迄今为止韩国在AI基础设施领域规模最大的国家投资之一。该项目的股权分布凸显了深化政企合作的战略意图。三星SDS作为最大股东持有30%的股份,而包括科学技术信息通信部、金融监督院和国家成长基金在内的公共实体合计持有29%的股份。NAVER Cloud紧随其后,持股26.1%,
이 논의는 사실이네요. 실제로 우리 회사에서도 AI 배포 시 지역 규제 때문에 모델을 커스터마이징해야 했어요. 오픈소스 소형 언어 모델이 더 유연한 솔루션이 될 수 있을 것 같아요. 특히 데이터 프라이버시가 중요한 경우에는요. 레드햇의 접근 방식이 현실적인 문제에 잘 맞는 것 같아요 👍
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟





首页






