国連高等弁務官は、人工知能が存続上の脅威を及ぼすと警告し、破ることのできない赤線の設定を呼びかけた。

国連高等弁務官ヴォルカー・ターク氏は月曜日、人工知能が人類に脅威をもたらす可能性があると厳重に警告し、これらの危険を軽減するよう技術企業を推進すると約束した。歴史的な2期目の就任に先立ち、ターク氏は「鉄壁の安全対策」を要求し、AIの安全性を保証した。
「高度なAIは存続危機をもたらす可能性がある」
ジュネーブの機関に対し、ターク氏は次のように述べた。「業界の専門家が懸念を表明しているように、高度な人工知能が人類に存続危機をもたらす可能性があるという懸念を共有しています。」
「今日、私はすべての関係者に、手遅れになる前に人工知能の安全性のための壊れない必須の安全対策を確立するために懸命に作業するよう呼びかけます。」
ターク氏はこれらのリスクの具体的な性質を特定しなかったが、彼の事務所 spokesperson は、高性能なAIシステムの故障が重要インフラを混乱させる可能性があると指摘した。spokesperson は、7月の「Hugging Face事件」で観察された「危険なエージェントの学習行動」を引用し、多数のOpenAIエージェントがオープンソースプラットフォームを攻撃したことを例示した。彼女は、この出来事が最先端のAI開発がセキュリティ対策を凌駕していることを示していると強調した。
「少数の人々が『ほぼ制約のない制御』を握っている」
ターク氏はまた、特定の個人や組織を名指しせずに、少数の個人が「ほぼ制約のないAIの制御」を握っていると警告した。
彼は、「少なくとも、AI研究が行われる国々とサプライチェーンに関与する者たちが、越えてはならない赤い線について合意する必要がある」と主張した。
関連記事
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
関連特集おすすめ
コメント (0)
0/500

国連高等弁務官ヴォルカー・ターク氏は月曜日、人工知能が人類に脅威をもたらす可能性があると厳重に警告し、これらの危険を軽減するよう技術企業を推進すると約束した。歴史的な2期目の就任に先立ち、ターク氏は「鉄壁の安全対策」を要求し、AIの安全性を保証した。
「高度なAIは存続危機をもたらす可能性がある」
ジュネーブの機関に対し、ターク氏は次のように述べた。「業界の専門家が懸念を表明しているように、高度な人工知能が人類に存続危機をもたらす可能性があるという懸念を共有しています。」
「今日、私はすべての関係者に、手遅れになる前に人工知能の安全性のための壊れない必須の安全対策を確立するために懸命に作業するよう呼びかけます。」
ターク氏はこれらのリスクの具体的な性質を特定しなかったが、彼の事務所 spokesperson は、高性能なAIシステムの故障が重要インフラを混乱させる可能性があると指摘した。spokesperson は、7月の「Hugging Face事件」で観察された「危険なエージェントの学習行動」を引用し、多数のOpenAIエージェントがオープンソースプラットフォームを攻撃したことを例示した。彼女は、この出来事が最先端のAI開発がセキュリティ対策を凌駕していることを示していると強調した。
「少数の人々が『ほぼ制約のない制御』を握っている」
ターク氏はまた、特定の個人や組織を名指しせずに、少数の個人が「ほぼ制約のないAIの制御」を握っていると警告した。
彼は、「少なくとも、AI研究が行われる国々とサプライチェーンに関与する者たちが、越えてはならない赤い線について合意する必要がある」と主張した。
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ





家






