Niv-AIが登場、GPUの処理能力とパフォーマンスを強化

電力は人工知能にとって不可欠な資源ですが、新たな計算手法の登場により、データセンター事業者が電力網との連携を効果的に管理する能力が追いつかず、最大30%の稼働率削減を余儀なくされています。
「これらのAI施設では膨大な量のエネルギーが無駄にされています」と、NVIDIAのジェンセン・フアンCEOは同社の年次カンファレンス「GTC」での基調講演で述べました。「利用されない1ワットごとに収益の損失につながります」と同社は年次プレゼンテーションで強調しました。
この問題に対処するため、スタートアップ企業のNiv-AIが本日、1,200万ドルのシード資金を調達して設立された。同社は、独自のセンサーを用いてGPUの電力消費量を正確に測定し、より効率的なエネルギー管理のためのツールを開発することを目指している。
昨年、CEOのトマー・ティモール氏とCTOのエドワード・キジス氏によってテルアビブで設立されたこのスタートアップは、Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward、Aurora Capital Partnersから支援を受けている。同社は企業価値の開示を見送った。
主要なAI研究所では、高度なモデルのトレーニングや実行のために数千台のGPUを連携させていますが、プロセッサが計算タスクとGPU間通信を切り替える際に、ミリ秒単位の急激な電力消費の急増が発生します。
こうした電力サージは、データセンターが電力網からの電力消費を調整する能力を複雑化させる。電力不足を防ぐため、データセンターは一時的なエネルギー貯蔵設備に投資してこれらの急増を緩和するか、GPUの使用を制限するかのいずれかを選択せざるを得ない。どちらのアプローチも、高価なハードウェアに対する投資収益率を低下させる。
「現在の方法では、もはやデータセンターを建設し続けることはできません」と、Grove VenturesのパートナーでありNivの取締役でもあるLior Handlesman氏は述べた。
Nivの戦略の初期段階は、詳細な知見の獲得にあります。同社は現在、自社ハードウェアおよび設計パートナーの設備に、GPUの電力使用量をミリ秒単位で監視するラックレベルのセンサーを設置しています。その目的は、さまざまなディープラーニングワークロードの固有の電力パターンを分析し、データセンターが既存の容量をより有効に活用できるよう支援する手法を開発することです。
エンジニアリングチームは、収集したデータを用いてAIモデルを構築し、データセンター全体の電力負荷を予測・調整できるように訓練することを計画している。これにより、施設エンジニアのための「コパイロット」を事実上創出することになる。
Niv氏は、今後6~8ヶ月以内に米国内の数カ所のデータセンターで実用的なシステムを展開できると見込んでいる。主要なクラウドプロバイダーが新施設の建設において土地利用やサプライチェーンの混乱といった課題に直面している中、このソリューションは特に魅力的だ。創業者は、最終的な製品をデータセンターと電力網をつなぐ重要な「インテリジェンス層」として位置付けている。
「電力網側は、ピーク時にデータセンターが過剰な電力を引き出すことを真に懸念しています」と、ティモール氏はTechCrunchに説明した。「私たちが取り組んでいる課題には、相互に関連する2つの側面があります。第一に、データセンターがGPUをより有効に活用し、すでに契約済みの電力を最大限に活用できるよう支援することです。第二に、データセンターと電力網の間で、より責任ある電力消費パターンを促進できることです。」
関連記事
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
Core Web Vitalsを修正してSEOランキングを向上させる方法
AIツールで報告書コメントの作成を効率化はじめに報告書コメント生成用のAIツールMagic SchoolAlmanac AIChat GPTMagic Schoolを使用した報告書コメントの生成Magic Schoolへのログイン報告書コメントツールの選択生徒向けのコメントのカスタマイズAlmanac AIを使用した報告書コメントの生成コースと評価基準の設定報告書の長さと生徒設定の構成Almanac AIによるコメントの生成Magic SchoolとAlmanac A
関連特集おすすめ
コメント (0)
0/500

電力は人工知能にとって不可欠な資源ですが、新たな計算手法の登場により、データセンター事業者が電力網との連携を効果的に管理する能力が追いつかず、最大30%の稼働率削減を余儀なくされています。
「これらのAI施設では膨大な量のエネルギーが無駄にされています」と、NVIDIAのジェンセン・フアンCEOは同社の年次カンファレンス「GTC」での基調講演で述べました。「利用されない1ワットごとに収益の損失につながります」と同社は年次プレゼンテーションで強調しました。
この問題に対処するため、スタートアップ企業のNiv-AIが本日、1,200万ドルのシード資金を調達して設立された。同社は、独自のセンサーを用いてGPUの電力消費量を正確に測定し、より効率的なエネルギー管理のためのツールを開発することを目指している。
昨年、CEOのトマー・ティモール氏とCTOのエドワード・キジス氏によってテルアビブで設立されたこのスタートアップは、Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward、Aurora Capital Partnersから支援を受けている。同社は企業価値の開示を見送った。
主要なAI研究所では、高度なモデルのトレーニングや実行のために数千台のGPUを連携させていますが、プロセッサが計算タスクとGPU間通信を切り替える際に、ミリ秒単位の急激な電力消費の急増が発生します。
こうした電力サージは、データセンターが電力網からの電力消費を調整する能力を複雑化させる。電力不足を防ぐため、データセンターは一時的なエネルギー貯蔵設備に投資してこれらの急増を緩和するか、GPUの使用を制限するかのいずれかを選択せざるを得ない。どちらのアプローチも、高価なハードウェアに対する投資収益率を低下させる。
「現在の方法では、もはやデータセンターを建設し続けることはできません」と、Grove VenturesのパートナーでありNivの取締役でもあるLior Handlesman氏は述べた。
Nivの戦略の初期段階は、詳細な知見の獲得にあります。同社は現在、自社ハードウェアおよび設計パートナーの設備に、GPUの電力使用量をミリ秒単位で監視するラックレベルのセンサーを設置しています。その目的は、さまざまなディープラーニングワークロードの固有の電力パターンを分析し、データセンターが既存の容量をより有効に活用できるよう支援する手法を開発することです。
エンジニアリングチームは、収集したデータを用いてAIモデルを構築し、データセンター全体の電力負荷を予測・調整できるように訓練することを計画している。これにより、施設エンジニアのための「コパイロット」を事実上創出することになる。
Niv氏は、今後6~8ヶ月以内に米国内の数カ所のデータセンターで実用的なシステムを展開できると見込んでいる。主要なクラウドプロバイダーが新施設の建設において土地利用やサプライチェーンの混乱といった課題に直面している中、このソリューションは特に魅力的だ。創業者は、最終的な製品をデータセンターと電力網をつなぐ重要な「インテリジェンス層」として位置付けている。
「電力網側は、ピーク時にデータセンターが過剰な電力を引き出すことを真に懸念しています」と、ティモール氏はTechCrunchに説明した。「私たちが取り組んでいる課題には、相互に関連する2つの側面があります。第一に、データセンターがGPUをより有効に活用し、すでに契約済みの電力を最大限に活用できるよう支援することです。第二に、データセンターと電力網の間で、より責任ある電力消費パターンを促進できることです。」
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Core Web Vitalsを修正してSEOランキングを向上させる方法
AIツールで報告書コメントの作成を効率化はじめに報告書コメント生成用のAIツールMagic SchoolAlmanac AIChat GPTMagic Schoolを使用した報告書コメントの生成Magic Schoolへのログイン報告書コメントツールの選択生徒向けのコメントのカスタマイズAlmanac AIを使用した報告書コメントの生成コースと評価基準の設定報告書の長さと生徒設定の構成Almanac AIによるコメントの生成Magic SchoolとAlmanac A





家






