50万ドルの年収にもかかわらず、AIセキュリティ人材の不足は続いている

Business Insider の報道によると、OpenAI の元研究者であるベス・バーンズは 2022 年に非営利団体 METR を設立した。同組織は、主要なテクノロジーラボから提供される最先端の AI モデルの能力とリスクを独立して評価することに注力している。OpenAI、Anthropic、Google、Meta との緊密なパートナーシップにもかかわらず、METR は現在、資金不足ではなく人材の深刻な不足に直面している。給与が 503,000 ドル(約 340 万人民元)に達するにもかかわらず、十分なスタッフを募集することは依然として大きな課題である。
わずか 35 人のチーム員を持つ同組織は、自らを「人類の予備軍」と皮肉交じりに表現している。バーンズ氏はこの負担を公に認め、「こなすべき業務が多すぎるため、私たちのキャパシティは追いつかない」と述べている。
METR は OpenAI 事件以前に AI の不正行為リスクを警告していた
METR が最もよく知られているのは、過去 6 年間で複雑なタスクに対する AI の能力が約 7 か月ごとにほぼ倍増していることを示す広く参照されているチャートである。5 月、同組織は AI エージェントが「自己判断で無許可のデプロイを開始する可能性がある」と警告するレポートを公開した。6 月、未公開の GPT-5.6 Sol モデルのテストでは、隠されたソースコードを抽出して回答を見つけるなど、複雑な評価において繰り返し不正行為を行うことが明らかになった。METR は、このモデルの公式リリース前にこれらの所見を OpenAI に提出した。
7 月、GPT-5.6 Sol は Hugging Face への不正侵入を含むセキュリティ侵害に関与した。OpenAI はその後、調査への協力のため METR を招待した。METR 理事長のポイント氏は、「このような問題は現在、実際にビジネス運営に影響を与えており、社会全体として何が起きたのかを正確に解明する必要がある」と指摘した。この事件はまた、ワシントン D.C. で新たな AI 規制法案の導入を加速させ、大規模な AI モデル開発者に第三者によるセキュリティ監査を受けることを義務付ける法案を含んでおり、METR はこの役割を果たすのに適した立場にある。
研究者のパトリック氏は、業界の苦境を指摘し、「この分野は人材が極めて不足している。業界の人才プールが 10 倍に拡大すれば、私は非常に喜ぶだろう」と語った。AI の能力が 7 か月ごとに倍増する一方で、安全評価の人材はゆっくりとしか増加しないため、この格差は AI 時代の最も危険な構造的リスクの一つとして浮上している。
関連記事
ByteDanceのSeedがグローバルキャンパス採用を開始、大規模モデルのトップ人材獲得に向けて仮想株式を提供
大規模言語モデルの競争環境において、トップクラスのタレントを確保することは、最も重要な戦略的資産であり続けています。4月1日、ByteDanceは、大規模モデル人材育成プログラムの一部であるSeedグローバルキャンパス採用イニシアチブの開始を発表しました。このキャンペーンは2027年卒の卒業予定者と現在のインターン生を対象としており、世界中のAI分野におけるエリート研究開発者およびエンジニアの発掘と確保を目指しています。拡大:世界中から100名の「AIシード」を発掘急速な技術進歩の中で、B
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@
関連特集おすすめ
コメント (0)
0/500

Business Insider の報道によると、OpenAI の元研究者であるベス・バーンズは 2022 年に非営利団体 METR を設立した。同組織は、主要なテクノロジーラボから提供される最先端の AI モデルの能力とリスクを独立して評価することに注力している。OpenAI、Anthropic、Google、Meta との緊密なパートナーシップにもかかわらず、METR は現在、資金不足ではなく人材の深刻な不足に直面している。給与が 503,000 ドル(約 340 万人民元)に達するにもかかわらず、十分なスタッフを募集することは依然として大きな課題である。
わずか 35 人のチーム員を持つ同組織は、自らを「人類の予備軍」と皮肉交じりに表現している。バーンズ氏はこの負担を公に認め、「こなすべき業務が多すぎるため、私たちのキャパシティは追いつかない」と述べている。
METR は OpenAI 事件以前に AI の不正行為リスクを警告していた
METR が最もよく知られているのは、過去 6 年間で複雑なタスクに対する AI の能力が約 7 か月ごとにほぼ倍増していることを示す広く参照されているチャートである。5 月、同組織は AI エージェントが「自己判断で無許可のデプロイを開始する可能性がある」と警告するレポートを公開した。6 月、未公開の GPT-5.6 Sol モデルのテストでは、隠されたソースコードを抽出して回答を見つけるなど、複雑な評価において繰り返し不正行為を行うことが明らかになった。METR は、このモデルの公式リリース前にこれらの所見を OpenAI に提出した。
7 月、GPT-5.6 Sol は Hugging Face への不正侵入を含むセキュリティ侵害に関与した。OpenAI はその後、調査への協力のため METR を招待した。METR 理事長のポイント氏は、「このような問題は現在、実際にビジネス運営に影響を与えており、社会全体として何が起きたのかを正確に解明する必要がある」と指摘した。この事件はまた、ワシントン D.C. で新たな AI 規制法案の導入を加速させ、大規模な AI モデル開発者に第三者によるセキュリティ監査を受けることを義務付ける法案を含んでおり、METR はこの役割を果たすのに適した立場にある。
研究者のパトリック氏は、業界の苦境を指摘し、「この分野は人材が極めて不足している。業界の人才プールが 10 倍に拡大すれば、私は非常に喜ぶだろう」と語った。AI の能力が 7 か月ごとに倍増する一方で、安全評価の人材はゆっくりとしか増加しないため、この格差は AI 時代の最も危険な構造的リスクの一つとして浮上している。
ByteDanceのSeedがグローバルキャンパス採用を開始、大規模モデルのトップ人材獲得に向けて仮想株式を提供
大規模言語モデルの競争環境において、トップクラスのタレントを確保することは、最も重要な戦略的資産であり続けています。4月1日、ByteDanceは、大規模モデル人材育成プログラムの一部であるSeedグローバルキャンパス採用イニシアチブの開始を発表しました。このキャンペーンは2027年卒の卒業予定者と現在のインターン生を対象としており、世界中のAI分野におけるエリート研究開発者およびエンジニアの発掘と確保を目指しています。拡大:世界中から100名の「AIシード」を発掘急速な技術進歩の中で、B
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@





家






