開放的小語言模型,用於負責任的,實用的AI
地緣政治對AI發展與應用的影響
隨著全球事件的持續塑造我們的世界的,這些事件無可避免地影響科技行業,特別是AI市場。這種影響延伸至AI的開發方式、方法論及其在企業中的應用。當前的AI格局充滿了興奮與懷疑,有些人擁抱其潛力,而其他人則因其早期發展階段而保持謹慎。
傳統的閉環大規模語言模型(LLMs),如來自知名供應商的模型,正面臨來自較新、較開放的模型如Llama、DeepSeek及百度Ernie X1的競爭。相較之下,開源開發提供了透明度及社群貢獻的機會,符合「負責任AI」的理念。這種方法考慮了環境影響、使用倫理、學習數據來源以及數據主權、語言和政治相關問題。
Red Hat,一家以成功開源商業模式聞名的公司,熱衷於將其協作與透明的方法應用於AI。在最近與Red Hat EMEA首席技術官Julio Guijarro的對話中,我們討論了他們如何以負責任且可持續的方式利用生成式AI的潛力,為企業增加價值。
教育與透明度的需求
Julio強調了對AI教育的需求,指出其複雜性質常常使其對許多人來說像個「黑盒子」。他說:「AI的內部運作深植於複雜的科學與數學之中,大多數人對此知之甚少。」「當AI在封閉環境中開發時,這種缺乏透明度的問題更加嚴重。」
其他挑戰包括某些語言的代表性不足、數據主權問題以及信任問題。Julio指出:「數據是組織最寶貴的資產,企業必須意識到將敏感數據暴露於具有不同隱私政策的公共平台所帶來的風險。」
Red Hat的AI策略
Red Hat對全球AI需求的回應專注於為最終用戶提供利益,同時解決與傳統AI服務相關的疑慮與限制。Julio強調了小型語言模型(SLMs)的潛力,這些模型可以在本地或混合雲上運行,使用非專業硬體,並能存取本地商業數據。SLMs高效且針對特定任務,所需資源比LLMs少。
SLMs的關鍵優勢之一是能夠跟上快速變化的商業數據。Julio解釋說:「大型語言模型可能很快過時,因為數據生成發生在大規模雲端之外,就在您的業務流程旁邊。」
成本是另一個關鍵因素。Julio說:「使用LLM的客戶服務查詢可能會產生顯著的隱藏成本。」「在AI之前,數據查詢的範圍和成本是可預測的。使用LLMs,每次互動都可能因其迭代模型而增加成本。在本地運行模型可以更好地控制成本,因為它們與您的基礎設施相關,而不是按查詢計費。」
幸運的是,組織無需大量投資於GPU等專業硬體。Red Hat正致力於優化模型以在標準硬體上運行,專注於企業所需的特定模型,而不是處理每次查詢的大型通用數據集。
小型、局部模型的重要性
通過使用和參考本地數據,結果可以針對特定需求進行定制。Julio提到了在阿拉伯語和葡萄牙語等地區的項目,這些地區未被以英語為中心的大型語言模型充分服務。
大型語言模型存在實際挑戰,包括可能影響時間敏感或面向客戶應用的延遲問題。將資源和結果保持在用戶附近可以緩解這些問題。
信任是負責任AI的另一個關鍵面向。Red Hat提倡開放平台、工具和模型,以增加透明度並允許更廣泛的社群參與。Julio表示:「這對每個人都至關重要。」「我們正在構建能力來民主化AI,不僅是通過發布模型,而是提供工具讓用戶複製、調整和服務這些模型。」
Red Hat最近收購Neural Magic,旨在幫助企業更輕鬆地擴展AI、提高推理性能,並通過vLLM項目提供更多構建和部署AI工作負載的選擇。此外,Red Hat與IBM Research合作發布了InstructLab,將AI開發開放給擁有寶貴商業知識的非數據科學家。
AI的未來
儘管對AI泡沫存在許多猜測,Red Hat相信未來的AI將針對特定用例進行定制並保持開源。這種方法將在經濟上可行並對所有人可及。正如Red Hat首席執行官Matt Hicks所說:「AI的未來是開放的。」
相關文章
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
Slackbot 成為 AI 智慧體
Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
位元組跳動加大核心AI激勵,豆包增長14.6%
位元組跳動近日召開豆包股權說明會,公佈面向豆包部門員工的最新激勵政策。豆包股票的行權價已從2026年6月的14.85美元上調至17.02美元,漲幅約為14.6%。此次調整不僅提升了豆包股票的估值,還大幅擴大了其覆蓋範圍。根據員工崗位的不同,部分員工可能獲得相當於其總薪酬約5%的豆包股票。根據新的兌換機制,位元組跳動允許員工在整體薪酬包中,將部分現金工資兌換為豆包股權。兌換比例因職級而異,設有20%和30%等不同檔位。例如,L2和L3級員工可選擇20%的全覆蓋兌換比例,而L3和L4級員工的該比例可
相關專題推薦
評論 (14)
0/500
이 논의는 사실이네요. 실제로 우리 회사에서도 AI 배포 시 지역 규제 때문에 모델을 커스터마이징해야 했어요. 오픈소스 소형 언어 모델이 더 유연한 솔루션이 될 수 있을 것 같아요. 특히 데이터 프라이버시가 중요한 경우에는요. 레드햇의 접근 방식이 현실적인 문제에 잘 맞는 것 같아요 👍
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟
地緣政治對AI發展與應用的影響
隨著全球事件的持續塑造我們的世界的,這些事件無可避免地影響科技行業,特別是AI市場。這種影響延伸至AI的開發方式、方法論及其在企業中的應用。當前的AI格局充滿了興奮與懷疑,有些人擁抱其潛力,而其他人則因其早期發展階段而保持謹慎。
傳統的閉環大規模語言模型(LLMs),如來自知名供應商的模型,正面臨來自較新、較開放的模型如Llama、DeepSeek及百度Ernie X1的競爭。相較之下,開源開發提供了透明度及社群貢獻的機會,符合「負責任AI」的理念。這種方法考慮了環境影響、使用倫理、學習數據來源以及數據主權、語言和政治相關問題。
Red Hat,一家以成功開源商業模式聞名的公司,熱衷於將其協作與透明的方法應用於AI。在最近與Red Hat EMEA首席技術官Julio Guijarro的對話中,我們討論了他們如何以負責任且可持續的方式利用生成式AI的潛力,為企業增加價值。
教育與透明度的需求
Julio強調了對AI教育的需求,指出其複雜性質常常使其對許多人來說像個「黑盒子」。他說:「AI的內部運作深植於複雜的科學與數學之中,大多數人對此知之甚少。」「當AI在封閉環境中開發時,這種缺乏透明度的問題更加嚴重。」
其他挑戰包括某些語言的代表性不足、數據主權問題以及信任問題。Julio指出:「數據是組織最寶貴的資產,企業必須意識到將敏感數據暴露於具有不同隱私政策的公共平台所帶來的風險。」
Red Hat的AI策略
Red Hat對全球AI需求的回應專注於為最終用戶提供利益,同時解決與傳統AI服務相關的疑慮與限制。Julio強調了小型語言模型(SLMs)的潛力,這些模型可以在本地或混合雲上運行,使用非專業硬體,並能存取本地商業數據。SLMs高效且針對特定任務,所需資源比LLMs少。
SLMs的關鍵優勢之一是能夠跟上快速變化的商業數據。Julio解釋說:「大型語言模型可能很快過時,因為數據生成發生在大規模雲端之外,就在您的業務流程旁邊。」
成本是另一個關鍵因素。Julio說:「使用LLM的客戶服務查詢可能會產生顯著的隱藏成本。」「在AI之前,數據查詢的範圍和成本是可預測的。使用LLMs,每次互動都可能因其迭代模型而增加成本。在本地運行模型可以更好地控制成本,因為它們與您的基礎設施相關,而不是按查詢計費。」
幸運的是,組織無需大量投資於GPU等專業硬體。Red Hat正致力於優化模型以在標準硬體上運行,專注於企業所需的特定模型,而不是處理每次查詢的大型通用數據集。
小型、局部模型的重要性
通過使用和參考本地數據,結果可以針對特定需求進行定制。Julio提到了在阿拉伯語和葡萄牙語等地區的項目,這些地區未被以英語為中心的大型語言模型充分服務。
大型語言模型存在實際挑戰,包括可能影響時間敏感或面向客戶應用的延遲問題。將資源和結果保持在用戶附近可以緩解這些問題。
信任是負責任AI的另一個關鍵面向。Red Hat提倡開放平台、工具和模型,以增加透明度並允許更廣泛的社群參與。Julio表示:「這對每個人都至關重要。」「我們正在構建能力來民主化AI,不僅是通過發布模型,而是提供工具讓用戶複製、調整和服務這些模型。」
Red Hat最近收購Neural Magic,旨在幫助企業更輕鬆地擴展AI、提高推理性能,並通過vLLM項目提供更多構建和部署AI工作負載的選擇。此外,Red Hat與IBM Research合作發布了InstructLab,將AI開發開放給擁有寶貴商業知識的非數據科學家。
AI的未來
儘管對AI泡沫存在許多猜測,Red Hat相信未來的AI將針對特定用例進行定制並保持開源。這種方法將在經濟上可行並對所有人可及。正如Red Hat首席執行官Matt Hicks所說:「AI的未來是開放的。」
如何修復核心網頁指標以獲得更好的 SEO 排名
利用 AI 工具簡化成績單評語撰寫引言用於生成成績單評語的 AI 工具Magic SchoolAlmanac AIChat GPT使用 Magic School 生成成績單評語登入 Magic School選擇成績單評語工具為學生定製評語使用 Almanac AI 生成成績單評語設定課程與評分方案配置評語長度與學生資訊使用 Almanac AI 生成評語比較 Magic School 與 Almanac AI設定的便捷性可定製性與課程內容的整合速度與效率使用
Slackbot 成為 AI 智慧體
Slackbot,嵌入在Salesforce企業訊息平臺Slack中的自動化助手,正在演變為一個AI智慧體。Salesforce技術長Parker Harris設想它將達到與OpenAI的ChatGPT相媲美的病毒式傳播地位。這家雲軟體巨頭於週二推出了更新版的Slackbot。該新版AI驅動版本面向Business+和Enterprise+客戶,可直接在Slack內查詢資訊、起草電子郵件和安排會議。在獲得適當許可權的情況下,它還能與Microsoft Teams和Google Drive等企
位元組跳動加大核心AI激勵,豆包增長14.6%
位元組跳動近日召開豆包股權說明會,公佈面向豆包部門員工的最新激勵政策。豆包股票的行權價已從2026年6月的14.85美元上調至17.02美元,漲幅約為14.6%。此次調整不僅提升了豆包股票的估值,還大幅擴大了其覆蓋範圍。根據員工崗位的不同,部分員工可能獲得相當於其總薪酬約5%的豆包股票。根據新的兌換機制,位元組跳動允許員工在整體薪酬包中,將部分現金工資兌換為豆包股權。兌換比例因職級而異,設有20%和30%等不同檔位。例如,L2和L3級員工可選擇20%的全覆蓋兌換比例,而L3和L4級員工的該比例可
이 논의는 사실이네요. 실제로 우리 회사에서도 AI 배포 시 지역 규제 때문에 모델을 커스터마이징해야 했어요. 오픈소스 소형 언어 모델이 더 유연한 솔루션이 될 수 있을 것 같아요. 특히 데이터 프라이버시가 중요한 경우에는요. 레드햇의 접근 방식이 현실적인 문제에 잘 맞는 것 같아요 👍
This article on small language models is super intriguing! I love how it dives into geopolitics shaping AI—makes me wonder how global policies will steer practical AI use in businesses. 🤔
This article on small language models is super intriguing! I love how it dives into practical AI solutions. Makes me wonder how enterprises will balance efficiency and ethics in AI deployment. Anyone else thinking about the real-world impact? 😄
This article on small language models is super intriguing! 😄 I love how it dives into practical AI with a responsible twist. Makes me wonder if we'll see more companies adopt this approach to dodge ethical pitfalls.
Red Hat's focus on open, small language models is refreshing! It's great to see a company pushing for responsible AI. The practical applications are impressive, but I wish there were more examples to learn from. Still, it's a step in the right direction. Keep it up, Red Hat! 🌟





首頁






