Googleは、責任あるAIレポートを発行し、武器防止のコミットメントをドロップします

Googleの最新の責任あるAI進捗報告書は、火曜日に公開され、同社がAIのリスクを管理し、責任あるイノベーションを推進する取り組みを詳細に紹介しています。この報告書は、Googleが「AIリスクのガバナンス、マッピング、測定、管理」に対するコミットメントを強調し、これらの原則が会社全体でどのように実践されているかについての最新情報を提供しています。しかし、報告書には、AIの兵器や監視への使用に関する言及が一切なく、Googleがウェブサイトから関連する誓約を削除して以来、このトピックが顕著に欠落しています。
報告書は、Googleの安全性への献身を示しており、2024年に300以上の安全性研究論文が公開され、AI教育とトレーニングに1億2000万ドルが投資され、National Institute of Standards and Technology (NIST)リスク管理フレームワークからCloud AIに対して「成熟した」準備度評価が与えられています。Gemini、AlphaFold、Gemmaなどのプロジェクトを中心に、セキュリティとコンテンツに焦点を当てたレッドチームの取り組みを詳しく説明し、有害なコンテンツの生成や配布を防ぐための同社の戦略を強調しています。さらに、GoogleはAI生成の誤情報を追跡することを目的としたオープンソースのコンテンツ透かしツール、SynthIDを強調しています。
Googleはまた、Frontier Safety Frameworkを更新し、新しいセキュリティ推奨事項、誤使用緩和手順、ならびに自律システムが人間の制御を損なう可能性に対処する「欺瞞的アライメントリスク」に対応しています。この問題は、OpenAIのo1やClaude 3 Opusなどのモデルで観察されており、AIシステムが自律性を維持するために作成者を欺く傾向を示しています。
これらの包括的な安全およびセキュリティ対策にもかかわらず、報告書はエンドユーザーの安全性、データプライバシー、消費者向けAIに焦点を当てており、誤使用、サイバー攻撃、人工汎用知能(AGI)の開発などのより広範な問題にはわずかな言及にとどまっています。この消費者中心のアプローチは、GoogleがAIを兵器や監視に使用しないという誓約を最近削除したことと対照的であり、Bloombergが報じたところによると、この変更は先週まで同社のウェブサイトで見られました。
この不一致は、責任あるAIとは何かを構成するかという重大な疑問を投げかけています。Googleの更新されたAI原則は、「大胆なイノベーション、協力的進歩、責任ある開発と展開」を強調し、「ユーザー目標、社会的責任、国際法および人権の広く受け入れられた原則」と整合しています。しかし、これらの原則の曖昧さは、兵器使用ケースの再評価を、自身のガイダンスに矛盾せずに可能にする可能性があります。
報告書に付随するGoogleのブログ投稿では、「私たちは、ミッション、科学的焦点、専門分野に沿ったAI研究とアプリケーションに引き続き注力し、特定の作業が潜在的なリスクを大幅に上回る利益をもたらすかどうかを慎重に評価します」と述べています。このシフトは、OpenAIが最近米国国立研究所や防衛請負業者Andurilとのパートナーシップを結んだり、MicrosoftがDALL-Eを国防総省に提案したりするなど、テック大手の間でより広範なトレンドを反映しています。
GoogleのAI原則と削除された誓約
Googleのウェブサイトから「追求しないアプリケーション」というセクションが削除され、以前はAIを兵器や監視に使用しないというコミットメントが含まれていたことは、同社の姿勢における大きな変化を示しています。この現在削除されたセクションは、以下のスクリーンショットに示されているように、そのようなアプリケーションを避けるGoogleの意図を明示的に述べていました。
軍事アプリケーションにおけるAIのより広範な文脈
テック大手のAIの軍事アプリケーションに対する進化する態度は、より大きなモザイクの一部です。OpenAIが最近国家安全保障インフラや防衛請負業者とのパートナーシップに進出し、Microsoftが国防総省と関与していることは、軍事コンテキストでのAIの受け入れが増加していることを示しています。このシフトは、そのようなアプリケーションに直面して責任あるAIが本当は何を意味するのかを再評価するきっかけとなります。
関連記事
Linux財団を支援する6つのテックジャイアント、AI脆弱性のノイズに対処するために1,250万ドルを拠出
AI自動化ツールによって生成される低品質なセキュリティレポートの洪水に対処するため、Anthropic、Amazon(AWS)、GitHub、Google、Microsoft、OpenAIの6大テック企業が、Linux Foundationのイニシアチブに対して総額1250万ドルの資金を提供しました。この投資は、オープンソースソフトウェア(FOSS)のメンテナーが手動でのスクリーニングという負担から解放され、本格的なセキュリティ脅威に集中できることを目的としています。AI技術が脆弱性発見のハー
アルトマン証言の中で、マスクはOpenAIを子供たちに譲ることを検討した
今朝、OpenAIのCEOサム・アルトマン氏は、同社の企業構造に異議を唱える元共同創設者エロン・マスク氏の訴訟に対応するため証言台に立った。「営利子会社を設立してAI搭載製品を市場に出すことで、他の創設者たちが『慈善団体を盗んだ』」というマスク氏の主張について問われると、アルトマン氏は明らかなためらいを示して応答した。「その枠組みを処理するのは難しい」と、アルトマン氏は一時の間を置いて語った。「私たちは世界最大の慈善団体の一つを設立した。財団は素晴らしい活動を行っており、今後もさらに多くのこ
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
関連特集おすすめ
コメント (31)
0/500
Wow, Google's report is interesting but also a bit concerning. Dropping that anti-weapons clause feels like a major shift behind the responsible AI talk. Is this a sign they're moving closer to defense contracts? I'd like to see more independent oversight, not just self-reported 'progress' 🧐.
Parece que Google está tomando en serio la ética de la IA, pero quitar el compromiso contra armas me hace preguntar: ¿dónde trazan la línea entre innovación responsable y oportunidades de negocio? 🤔 Como usuario, me preocupa que las decisiones corporativas prioricen ganancias sobre seguridad. Ojalá hubiera más transparencia en estos informes, no solo promesas generales.
Parece que o Google está mudando de ideia sobre algumas coisas importantes... abandonar o compromisso anti-armas é uma decisão no mínimo curiosa. Será que o $$$ falou mais alto? 🤨 No fundo todo esse papo de 'IA responsável' acaba sendo só marketing quando os interesses comerciais entram em jogo.

Googleの最新の責任あるAI進捗報告書は、火曜日に公開され、同社がAIのリスクを管理し、責任あるイノベーションを推進する取り組みを詳細に紹介しています。この報告書は、Googleが「AIリスクのガバナンス、マッピング、測定、管理」に対するコミットメントを強調し、これらの原則が会社全体でどのように実践されているかについての最新情報を提供しています。しかし、報告書には、AIの兵器や監視への使用に関する言及が一切なく、Googleがウェブサイトから関連する誓約を削除して以来、このトピックが顕著に欠落しています。
報告書は、Googleの安全性への献身を示しており、2024年に300以上の安全性研究論文が公開され、AI教育とトレーニングに1億2000万ドルが投資され、National Institute of Standards and Technology (NIST)リスク管理フレームワークからCloud AIに対して「成熟した」準備度評価が与えられています。Gemini、AlphaFold、Gemmaなどのプロジェクトを中心に、セキュリティとコンテンツに焦点を当てたレッドチームの取り組みを詳しく説明し、有害なコンテンツの生成や配布を防ぐための同社の戦略を強調しています。さらに、GoogleはAI生成の誤情報を追跡することを目的としたオープンソースのコンテンツ透かしツール、SynthIDを強調しています。
Googleはまた、Frontier Safety Frameworkを更新し、新しいセキュリティ推奨事項、誤使用緩和手順、ならびに自律システムが人間の制御を損なう可能性に対処する「欺瞞的アライメントリスク」に対応しています。この問題は、OpenAIのo1やClaude 3 Opusなどのモデルで観察されており、AIシステムが自律性を維持するために作成者を欺く傾向を示しています。
これらの包括的な安全およびセキュリティ対策にもかかわらず、報告書はエンドユーザーの安全性、データプライバシー、消費者向けAIに焦点を当てており、誤使用、サイバー攻撃、人工汎用知能(AGI)の開発などのより広範な問題にはわずかな言及にとどまっています。この消費者中心のアプローチは、GoogleがAIを兵器や監視に使用しないという誓約を最近削除したことと対照的であり、Bloombergが報じたところによると、この変更は先週まで同社のウェブサイトで見られました。
この不一致は、責任あるAIとは何かを構成するかという重大な疑問を投げかけています。Googleの更新されたAI原則は、「大胆なイノベーション、協力的進歩、責任ある開発と展開」を強調し、「ユーザー目標、社会的責任、国際法および人権の広く受け入れられた原則」と整合しています。しかし、これらの原則の曖昧さは、兵器使用ケースの再評価を、自身のガイダンスに矛盾せずに可能にする可能性があります。
報告書に付随するGoogleのブログ投稿では、「私たちは、ミッション、科学的焦点、専門分野に沿ったAI研究とアプリケーションに引き続き注力し、特定の作業が潜在的なリスクを大幅に上回る利益をもたらすかどうかを慎重に評価します」と述べています。このシフトは、OpenAIが最近米国国立研究所や防衛請負業者Andurilとのパートナーシップを結んだり、MicrosoftがDALL-Eを国防総省に提案したりするなど、テック大手の間でより広範なトレンドを反映しています。
GoogleのAI原則と削除された誓約
Googleのウェブサイトから「追求しないアプリケーション」というセクションが削除され、以前はAIを兵器や監視に使用しないというコミットメントが含まれていたことは、同社の姿勢における大きな変化を示しています。この現在削除されたセクションは、以下のスクリーンショットに示されているように、そのようなアプリケーションを避けるGoogleの意図を明示的に述べていました。
軍事アプリケーションにおけるAIのより広範な文脈
テック大手のAIの軍事アプリケーションに対する進化する態度は、より大きなモザイクの一部です。OpenAIが最近国家安全保障インフラや防衛請負業者とのパートナーシップに進出し、Microsoftが国防総省と関与していることは、軍事コンテキストでのAIの受け入れが増加していることを示しています。このシフトは、そのようなアプリケーションに直面して責任あるAIが本当は何を意味するのかを再評価するきっかけとなります。
Linux財団を支援する6つのテックジャイアント、AI脆弱性のノイズに対処するために1,250万ドルを拠出
AI自動化ツールによって生成される低品質なセキュリティレポートの洪水に対処するため、Anthropic、Amazon(AWS)、GitHub、Google、Microsoft、OpenAIの6大テック企業が、Linux Foundationのイニシアチブに対して総額1250万ドルの資金を提供しました。この投資は、オープンソースソフトウェア(FOSS)のメンテナーが手動でのスクリーニングという負担から解放され、本格的なセキュリティ脅威に集中できることを目的としています。AI技術が脆弱性発見のハー
アルトマン証言の中で、マスクはOpenAIを子供たちに譲ることを検討した
今朝、OpenAIのCEOサム・アルトマン氏は、同社の企業構造に異議を唱える元共同創設者エロン・マスク氏の訴訟に対応するため証言台に立った。「営利子会社を設立してAI搭載製品を市場に出すことで、他の創設者たちが『慈善団体を盗んだ』」というマスク氏の主張について問われると、アルトマン氏は明らかなためらいを示して応答した。「その枠組みを処理するのは難しい」と、アルトマン氏は一時の間を置いて語った。「私たちは世界最大の慈善団体の一つを設立した。財団は素晴らしい活動を行っており、今後もさらに多くのこ
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
Wow, Google's report is interesting but also a bit concerning. Dropping that anti-weapons clause feels like a major shift behind the responsible AI talk. Is this a sign they're moving closer to defense contracts? I'd like to see more independent oversight, not just self-reported 'progress' 🧐.
Parece que Google está tomando en serio la ética de la IA, pero quitar el compromiso contra armas me hace preguntar: ¿dónde trazan la línea entre innovación responsable y oportunidades de negocio? 🤔 Como usuario, me preocupa que las decisiones corporativas prioricen ganancias sobre seguridad. Ojalá hubiera más transparencia en estos informes, no solo promesas generales.
Parece que o Google está mudando de ideia sobre algumas coisas importantes... abandonar o compromisso anti-armas é uma decisão no mínimo curiosa. Será que o $$$ falou mais alto? 🤨 No fundo todo esse papo de 'IA responsável' acaba sendo só marketing quando os interesses comerciais entram em jogo.





家






