おそらく、より信頼性の高いAIを開発するために900万ドルの資金が確保される見込みです。

LLMの能力が向上しているにもかかわらず、ハルシネーションは依然として解決すべき課題であり続けています。最も高度なモデルであっても誤りを生じることがあり、それを検出する方法は存在しますが、業界では依然として最適なアプローチの確立に取り組んでいる状況です。
最近Andreessen Horowitzから900万ドルのシード資金を調達したProbably社は、より確実な誤検出手法の開発を目指しています。
同社の創業者であるピーター・エリアス(上写真)によれば、同社の使命はハルシネーションや事実誤認がユーザーに届くのを防ぎ、決定性システム特有の99.99%という高い精度を実現することであり、これはAIでは達成がはるかに困難な水準です。LLMを用いてこの目標を達成するためには、AIエンジニアリングの根本的な前提を見直す必要があると彼は指摘しています。
Probably社の初期製品は、複雑なデータセットから迅速に回答を生成するよう設計されたデータサイエンスツールです。各結果には出典情報とその導出過程の監査トレイルが含まれており、これはAIツールでは標準的な慣行となりつつあります。
こうした要約内容に誤りが混入するのを防ぐため、同社はエリアスが「データサイエンス用メックスーツ」と呼ぶ高度な制御システムを構築しました。LLMの初期出力は決定性システムによって検証され、データセットと矛盾する結果はすべて却下されます。同社によると、LLMはこの検証器を用いて訓練されており、システム全体が速度と精度の両面で最適化されています。
「私たちが学んだのは、制御システムの強度が高ければ高いほど、必要なモデルの能力は低くて済むということです」とエリアスは語ります。「文脈を十分に洗練すれば、モデルは正しい出力を生成するために苦労する必要がありません。要するに、あいまいさを減らすことが重要なのです。」
これにより、Probably社のデータサイエンスツールははるかに小規模なAIモデルでも動作可能になります。現在のバージョンでは「最先端モデルよりも4つクラス弱い」モデルが使用されており、これによってデータセンターではなくローカルハードウェア、すなわちデスクトップコンピュータ上で動作し、AI利用に伴うトークンコストを大幅に削減できます。
トークンコストが高騰し、多くの顧客がAI予算を見直している今、このアプローチはタイムリーです。エリアスのビジョンはデータサイエンスにとどまらず、会計や医療サービスなど、彼の言葉を借りれば「精度が求められるあらゆる用途」にも同じエンジンを適用できます。
「主要なAI研究所でさえこのアプローチを試そうとしていないのは驚くべきことです」とエリアスは述べています。「彼らには逆風があるのです。何度も修正が必要だという状況から利益を得ているからです。」
関連記事
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
Core Web Vitalsを修正してSEOランキングを向上させる方法
AIツールで報告書コメントの作成を効率化はじめに報告書コメント生成用のAIツールMagic SchoolAlmanac AIChat GPTMagic Schoolを使用した報告書コメントの生成Magic Schoolへのログイン報告書コメントツールの選択生徒向けのコメントのカスタマイズAlmanac AIを使用した報告書コメントの生成コースと評価基準の設定報告書の長さと生徒設定の構成Almanac AIによるコメントの生成Magic SchoolとAlmanac A
関連特集おすすめ
コメント (0)
0/500

LLMの能力が向上しているにもかかわらず、ハルシネーションは依然として解決すべき課題であり続けています。最も高度なモデルであっても誤りを生じることがあり、それを検出する方法は存在しますが、業界では依然として最適なアプローチの確立に取り組んでいる状況です。
最近Andreessen Horowitzから900万ドルのシード資金を調達したProbably社は、より確実な誤検出手法の開発を目指しています。
同社の創業者であるピーター・エリアス(上写真)によれば、同社の使命はハルシネーションや事実誤認がユーザーに届くのを防ぎ、決定性システム特有の99.99%という高い精度を実現することであり、これはAIでは達成がはるかに困難な水準です。LLMを用いてこの目標を達成するためには、AIエンジニアリングの根本的な前提を見直す必要があると彼は指摘しています。
Probably社の初期製品は、複雑なデータセットから迅速に回答を生成するよう設計されたデータサイエンスツールです。各結果には出典情報とその導出過程の監査トレイルが含まれており、これはAIツールでは標準的な慣行となりつつあります。
こうした要約内容に誤りが混入するのを防ぐため、同社はエリアスが「データサイエンス用メックスーツ」と呼ぶ高度な制御システムを構築しました。LLMの初期出力は決定性システムによって検証され、データセットと矛盾する結果はすべて却下されます。同社によると、LLMはこの検証器を用いて訓練されており、システム全体が速度と精度の両面で最適化されています。
「私たちが学んだのは、制御システムの強度が高ければ高いほど、必要なモデルの能力は低くて済むということです」とエリアスは語ります。「文脈を十分に洗練すれば、モデルは正しい出力を生成するために苦労する必要がありません。要するに、あいまいさを減らすことが重要なのです。」
これにより、Probably社のデータサイエンスツールははるかに小規模なAIモデルでも動作可能になります。現在のバージョンでは「最先端モデルよりも4つクラス弱い」モデルが使用されており、これによってデータセンターではなくローカルハードウェア、すなわちデスクトップコンピュータ上で動作し、AI利用に伴うトークンコストを大幅に削減できます。
トークンコストが高騰し、多くの顧客がAI予算を見直している今、このアプローチはタイムリーです。エリアスのビジョンはデータサイエンスにとどまらず、会計や医療サービスなど、彼の言葉を借りれば「精度が求められるあらゆる用途」にも同じエンジンを適用できます。
「主要なAI研究所でさえこのアプローチを試そうとしていないのは驚くべきことです」とエリアスは述べています。「彼らには逆風があるのです。何度も修正が必要だという状況から利益を得ているからです。」
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Core Web Vitalsを修正してSEOランキングを向上させる方法
AIツールで報告書コメントの作成を効率化はじめに報告書コメント生成用のAIツールMagic SchoolAlmanac AIChat GPTMagic Schoolを使用した報告書コメントの生成Magic Schoolへのログイン報告書コメントツールの選択生徒向けのコメントのカスタマイズAlmanac AIを使用した報告書コメントの生成コースと評価基準の設定報告書の長さと生徒設定の構成Almanac AIによるコメントの生成Magic SchoolとAlmanac A





家






