COSAIの発売:設立メンバーはSecure AIのために団結します

AIの急速な成長には、追いつくことができる堅牢なセキュリティフレームワークと標準が必要です。そのため、私たちは昨年、Secure AI Framework(SAIF)を導入し、これが始まりに過ぎないことを認識していました。業界のフレームワークを機能させるには、チームワークと協力する場が必要です。それが現在の私たちの状況です。
アスペン・セキュリティ・フォーラムにおいて、業界の仲間たちと共にCoalition for Secure AI(CoSAI)の立ち上げを発表できることを嬉しく思います。過去1年間、私たちはこの連合を結成するために懸命に取り組んできており、AIが現在および将来にもたらす特有のセキュリティ課題に対処することを目指しています。
CoSAIの創設メンバーには、Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal、Wizといった大手企業が名を連ねています。私たちは、国際標準およびオープンソース団体であるOASIS Openのもとで活動を始めます。
CoSAIの初のワークストリームの紹介
個々の開発者から大企業までが共通のセキュリティ標準とベストプラクティスの採用に取り組む中、CoSAIはAIセキュリティにおけるこの共同の取り組みを支援します。本日、連合が業界や学界と協力して注力する最初の3つの分野を始動します:
- AIシステムのソフトウェアサプライチェーンセキュリティ: Googleは、SLSA ProvenanceをAIモデルに拡張することを推進しており、AIソフトウェアの作成とサプライチェーンを通じた取り扱いを追跡することで、その安全性を見極める支援をしています。このワークストリームは、プロビナンスの確認に関するガイダンスを提供し、第三者モデルのリスク管理、AIアプリケーション全体のプロビナンス評価を通じて、AIおよび従来のソフトウェアのSSDFおよびSLSAセキュリティ原則に基づいてAIセキュリティを強化することを目指します。
- 変化するサイバーセキュリティ環境への防御者の準備: AIガバナンスの日常的な対応は、セキュリティ担当者にとって大きな課題となることがあります。このワークストリームは、防御者が投資すべきポイントや、AIのセキュリティ影響に対処するための緩和技術を特定するためのフレームワークを作成します。このフレームワークは、AIモデルの攻撃的サイバーセキュリティの進歩に合わせて成長します。
- AIセキュリティガバナンス: AIセキュリティのガバナンスには、新たなリソースと、AIセキュリティの独自性を理解する必要があります。CoSAIは、リスクとコントロールのリスト、チェックリスト、スコアカードを開発し、AI製品のセキュリティの準備状況を評価し、管理、監視、報告する実践者を支援します。
さらに、CoSAIは、Frontier Model Forum、Partnership on AI、Open Source Security Foundation、ML Commonsといった団体と協力し、責任あるAIを推進します。
今後の展望
AIが進化し続ける中、私たちはリスク管理戦略がそのペースに追いつくよう全力を尽くしています。過去1年間、AIを安全かつセキュアにするための業界からの大きな支持を見てきました。さらに、開発者、専門家、さまざまな規模の企業が、組織がAIを安全に使用できるようにするための実際の行動を起こしているのを見ています。
AI開発者には、そしてエンドユーザーが求めるのは、挑戦に立ち向かい、責任を持って今後の機会を捉えるセキュリティフレームワークです。CoSAIはこの旅の次の大きなステップであり、近日中のさらなるアップデートをお届けします。CoSAIをサポートする方法については、coalitionforsecureai.orgをご覧ください。その間、GoogleのAIセキュリティに関する取り組みについて詳しく知りたい場合は、Secure AI Frameworkページをご訪問ください。
関連記事
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
「AI LIVE: London」がAIと産業オートメーションをどのように掘り下げるか
このサミットには、世界中から経営幹部が集まり、AIによる変革から経済の変動性に至るまで、世界の産業が直面する喫緊の課題について議論します。「AI LIVE: The London Summit」では、「テクノロジー+人間の目的」をテーマに、2,000名を超える国際的なリーダーが一堂に会し、人工知能の新たな時代について検討を行います。BizClik傘下の『AI Magazine』は、「AI LIVE
Anthropic、AI法テック市場に参入、競争激化
Anthropicは火曜日、法律実務に自動化されたサポートを提供することを目的とした一連の新しいチャットボットの機能を公開した。これらの強化機能は、今年初めに導入された企業固有のプラットフォーム「Claude for Legal」を拡張し、異なる法律分野に特化した専門的な法律プラグインとMCPコネクタを追加するものである。これらのツールは、法律AI分野での競争が激化する中で登場した。3月、エージェント型AIを活用して法律ワークフローを効率化するAI法律スタートアップのHarveyは、110億ド
関連特集おすすめ
コメント (38)
0/500
Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔
Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔

AIの急速な成長には、追いつくことができる堅牢なセキュリティフレームワークと標準が必要です。そのため、私たちは昨年、Secure AI Framework(SAIF)を導入し、これが始まりに過ぎないことを認識していました。業界のフレームワークを機能させるには、チームワークと協力する場が必要です。それが現在の私たちの状況です。
アスペン・セキュリティ・フォーラムにおいて、業界の仲間たちと共にCoalition for Secure AI(CoSAI)の立ち上げを発表できることを嬉しく思います。過去1年間、私たちはこの連合を結成するために懸命に取り組んできており、AIが現在および将来にもたらす特有のセキュリティ課題に対処することを目指しています。
CoSAIの創設メンバーには、Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal、Wizといった大手企業が名を連ねています。私たちは、国際標準およびオープンソース団体であるOASIS Openのもとで活動を始めます。
CoSAIの初のワークストリームの紹介
個々の開発者から大企業までが共通のセキュリティ標準とベストプラクティスの採用に取り組む中、CoSAIはAIセキュリティにおけるこの共同の取り組みを支援します。本日、連合が業界や学界と協力して注力する最初の3つの分野を始動します:
- AIシステムのソフトウェアサプライチェーンセキュリティ: Googleは、SLSA ProvenanceをAIモデルに拡張することを推進しており、AIソフトウェアの作成とサプライチェーンを通じた取り扱いを追跡することで、その安全性を見極める支援をしています。このワークストリームは、プロビナンスの確認に関するガイダンスを提供し、第三者モデルのリスク管理、AIアプリケーション全体のプロビナンス評価を通じて、AIおよび従来のソフトウェアのSSDFおよびSLSAセキュリティ原則に基づいてAIセキュリティを強化することを目指します。
- 変化するサイバーセキュリティ環境への防御者の準備: AIガバナンスの日常的な対応は、セキュリティ担当者にとって大きな課題となることがあります。このワークストリームは、防御者が投資すべきポイントや、AIのセキュリティ影響に対処するための緩和技術を特定するためのフレームワークを作成します。このフレームワークは、AIモデルの攻撃的サイバーセキュリティの進歩に合わせて成長します。
- AIセキュリティガバナンス: AIセキュリティのガバナンスには、新たなリソースと、AIセキュリティの独自性を理解する必要があります。CoSAIは、リスクとコントロールのリスト、チェックリスト、スコアカードを開発し、AI製品のセキュリティの準備状況を評価し、管理、監視、報告する実践者を支援します。
さらに、CoSAIは、Frontier Model Forum、Partnership on AI、Open Source Security Foundation、ML Commonsといった団体と協力し、責任あるAIを推進します。
今後の展望
AIが進化し続ける中、私たちはリスク管理戦略がそのペースに追いつくよう全力を尽くしています。過去1年間、AIを安全かつセキュアにするための業界からの大きな支持を見てきました。さらに、開発者、専門家、さまざまな規模の企業が、組織がAIを安全に使用できるようにするための実際の行動を起こしているのを見ています。
AI開発者には、そしてエンドユーザーが求めるのは、挑戦に立ち向かい、責任を持って今後の機会を捉えるセキュリティフレームワークです。CoSAIはこの旅の次の大きなステップであり、近日中のさらなるアップデートをお届けします。CoSAIをサポートする方法については、coalitionforsecureai.orgをご覧ください。その間、GoogleのAIセキュリティに関する取り組みについて詳しく知りたい場合は、Secure AI Frameworkページをご訪問ください。
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
「AI LIVE: London」がAIと産業オートメーションをどのように掘り下げるか
このサミットには、世界中から経営幹部が集まり、AIによる変革から経済の変動性に至るまで、世界の産業が直面する喫緊の課題について議論します。「AI LIVE: The London Summit」では、「テクノロジー+人間の目的」をテーマに、2,000名を超える国際的なリーダーが一堂に会し、人工知能の新たな時代について検討を行います。BizClik傘下の『AI Magazine』は、「AI LIVE
Anthropic、AI法テック市場に参入、競争激化
Anthropicは火曜日、法律実務に自動化されたサポートを提供することを目的とした一連の新しいチャットボットの機能を公開した。これらの強化機能は、今年初めに導入された企業固有のプラットフォーム「Claude for Legal」を拡張し、異なる法律分野に特化した専門的な法律プラグインとMCPコネクタを追加するものである。これらのツールは、法律AI分野での競争が激化する中で登場した。3月、エージェント型AIを活用して法律ワークフローを効率化するAI法律スタートアップのHarveyは、110億ド
Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔
Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔





家






