Patronus AIは、AIエージェントの耐久性を試すデジタルワールドを構築するために5,000万ドルの資金調達に成功しました。

AIエージェントはますます高度化しており、単なる質問への回答から、独立して複雑で多段階にわたるタスクを実行するものへと移行しつつあります。
しかし、こうしたエージェントにユーザーに代わって旅行の予約や財務分析を任せられるようになる前に、モデル提供企業やそれらを開発するスタートアップは、さまざまな状況下で信頼性の高いパフォーマンスを発揮できることを証明する必要があります。
AIラボではしばしばベンチマークを用いて自社のモデルの能力を示していますが、たとえエージェント専用のベンチマークで高得点を取ったからといって、そのAIが多様な実世界のタスクを正しくこなせるとは限りません。
2023年に元Meta AIの研究者であるアナンド・カンナッパン氏とレベッカ・チェン氏によって設立されたPatronus AIは、シミュレーションされたデジタル環境を作成してエージェントのパフォーマンスを評価することで、モデル開発者や企業がモデルを微調整し、この目標を達成できるよう支援しています。
サンフランシスコを拠点とするこのスタートアップは、明らかに重要なニーズに応えているのです。Notable Capitalのマネージングディレクターであるグレン・ソロモン氏によれば、ほぼすべての先端AIラボや多くの新興スタートアップが同社の顧客となっており、そのシミュレーション環境への需要はほとんど満たされない状態だということです。
Patronusの収益は過去1年間で15倍に急増し、投資家からの関心も高まっています。木曜日に同社はGreenfield Partnersが主導する5,000万ドル規模のシリーズBラウンドを実施したと発表し、Notable Capital、Lightspeed、Datadog、Samsungも出資に参加しました。これにより累計調達額は7,000万ドルに達しました。
Patronusは「デジタルワールドモデル」と呼ぶ技術を用いて、ウェブサイトや内部システムのレプリカを構築しています。こうした環境では、強化学習による訓練後にエージェントがストレステストを受け、タスクを正しく完了した場合には報酬が与えられ、ミスがあった場合にはペナルティが科せられます。
AIラボは、エージェントがさまざまで時に予測不可能な状況を試すことができるため、これらのデジタルシミュレーションを非常に価値が高いものだと考えています。同社は自身のアプローチを、Waymoが自律走行車を訓練する方法に例えており、まず合成された世界を構築し、厳しい天候や子供がボールを追いかけるような稀な危険状況に対して車両の性能をテストしたのです。
AIエージェントとの違いは、彼らがしばしば近道を取り、結果としてタスクを誤って完了させてしまう点にあります。「Patronusはこうした不正な手法を見抜き、モデルが責任を果たすようにするのが非常に得意だ」とソロモン氏は述べています。
現在Patronusはソフトウェアエンジニアリングや金融分野向けにシミュレーションされたデジタルワールドを提供していますが、カンナッパン氏によれば、これらはまだ始まりに過ぎないとのことです。
「現在は検証可能な問題、つまりすぐにチェックや確認ができる問題に集中していますが、検証不可能または検証が極めて困難な分野もたくさん存在します」と彼は語っています。
こうしたプロセスが検証可能だからといって、それらが簡単だというわけではありません。「私たちは、エージェントを10時間、10日、あるいは10週間も稼働させることができる環境を作り出したいのです」とカンナッパン氏は述べています。
競合他社については、Patronusは主にAIラボがすでに構築しているエージェント行動評価用の内部チームと競争していると考えています。MercorやSurgeのような人間データ関連企業が強化学習を通じてモデル開発者を支援する中、Patronusは人間の介入なしにエージェント行動を評価するという異なるアプローチを採っています。
関連記事
SarvamはHCLTechから2億3,400万ドルの資金調達に成功し、インドで最新のAIユニコーン企業となりました。
Sarvamは月曜日に、15億ドルという評価額で2億3400万ドルの資金調達に成功したことを発表しました。バンガロールを拠点とするこのスタートアップは、政府や企業が重要な人工知能技術やコンピューティングインフラに対する支配力を強化しようとする動きの中で、インド初のAIユニコーン企業となりました。今回の資金調達における主要な戦略的投資家は、インドの大手企業グループHCL GroupのIT子会社であるHCLTechで、総額のうち1億5000万ドルを出資しています。既存の支援者であるKhosla V
10代のハッカーから「アイアン・ドーム」の研究者に転身した人物が、AIフィッシング対策のために2800万ドルを調達
シェイ・シュワルツは、メールによるフィッシング攻撃について熟知している。10代の頃、彼はハッカーとして生計を立てていたが、16歳で逮捕されたことをきっかけに、自身のサイバーセキュリティのスキルを攻撃を仕掛けるのではなく、攻撃を防ぐために活用できると気づいた。その後、彼は10年近くにわたりサイバーセキュリティ分野の要職を歴任し、アイアン・ドーム計画に関連する業務を含め、イスラエルの精鋭防衛・情報部隊
MetaのAIモデルは優れているが、オープンソース化によってその独自性が損なわれている
オープンソースのAI分野には、常に豊富な選択肢が存在してきました。長年にわたり、開発者はMistralやFalconといったモデルに加え、増え続けるオープンウェイトの代替モデルを利用することができました。しかし、MetaがLlamaで参入したことで、状況は一変しました。30億人のユーザー、膨大な計算能力、そしてテックジャイアントとしての権威を持つ企業が、オープンな形で開発を進めるようになったのです
関連特集おすすめ
コメント (0)
0/500

AIエージェントはますます高度化しており、単なる質問への回答から、独立して複雑で多段階にわたるタスクを実行するものへと移行しつつあります。
しかし、こうしたエージェントにユーザーに代わって旅行の予約や財務分析を任せられるようになる前に、モデル提供企業やそれらを開発するスタートアップは、さまざまな状況下で信頼性の高いパフォーマンスを発揮できることを証明する必要があります。
AIラボではしばしばベンチマークを用いて自社のモデルの能力を示していますが、たとえエージェント専用のベンチマークで高得点を取ったからといって、そのAIが多様な実世界のタスクを正しくこなせるとは限りません。
2023年に元Meta AIの研究者であるアナンド・カンナッパン氏とレベッカ・チェン氏によって設立されたPatronus AIは、シミュレーションされたデジタル環境を作成してエージェントのパフォーマンスを評価することで、モデル開発者や企業がモデルを微調整し、この目標を達成できるよう支援しています。
サンフランシスコを拠点とするこのスタートアップは、明らかに重要なニーズに応えているのです。Notable Capitalのマネージングディレクターであるグレン・ソロモン氏によれば、ほぼすべての先端AIラボや多くの新興スタートアップが同社の顧客となっており、そのシミュレーション環境への需要はほとんど満たされない状態だということです。
Patronusの収益は過去1年間で15倍に急増し、投資家からの関心も高まっています。木曜日に同社はGreenfield Partnersが主導する5,000万ドル規模のシリーズBラウンドを実施したと発表し、Notable Capital、Lightspeed、Datadog、Samsungも出資に参加しました。これにより累計調達額は7,000万ドルに達しました。
Patronusは「デジタルワールドモデル」と呼ぶ技術を用いて、ウェブサイトや内部システムのレプリカを構築しています。こうした環境では、強化学習による訓練後にエージェントがストレステストを受け、タスクを正しく完了した場合には報酬が与えられ、ミスがあった場合にはペナルティが科せられます。
AIラボは、エージェントがさまざまで時に予測不可能な状況を試すことができるため、これらのデジタルシミュレーションを非常に価値が高いものだと考えています。同社は自身のアプローチを、Waymoが自律走行車を訓練する方法に例えており、まず合成された世界を構築し、厳しい天候や子供がボールを追いかけるような稀な危険状況に対して車両の性能をテストしたのです。
AIエージェントとの違いは、彼らがしばしば近道を取り、結果としてタスクを誤って完了させてしまう点にあります。「Patronusはこうした不正な手法を見抜き、モデルが責任を果たすようにするのが非常に得意だ」とソロモン氏は述べています。
現在Patronusはソフトウェアエンジニアリングや金融分野向けにシミュレーションされたデジタルワールドを提供していますが、カンナッパン氏によれば、これらはまだ始まりに過ぎないとのことです。
「現在は検証可能な問題、つまりすぐにチェックや確認ができる問題に集中していますが、検証不可能または検証が極めて困難な分野もたくさん存在します」と彼は語っています。
こうしたプロセスが検証可能だからといって、それらが簡単だというわけではありません。「私たちは、エージェントを10時間、10日、あるいは10週間も稼働させることができる環境を作り出したいのです」とカンナッパン氏は述べています。
競合他社については、Patronusは主にAIラボがすでに構築しているエージェント行動評価用の内部チームと競争していると考えています。MercorやSurgeのような人間データ関連企業が強化学習を通じてモデル開発者を支援する中、Patronusは人間の介入なしにエージェント行動を評価するという異なるアプローチを採っています。
SarvamはHCLTechから2億3,400万ドルの資金調達に成功し、インドで最新のAIユニコーン企業となりました。
Sarvamは月曜日に、15億ドルという評価額で2億3400万ドルの資金調達に成功したことを発表しました。バンガロールを拠点とするこのスタートアップは、政府や企業が重要な人工知能技術やコンピューティングインフラに対する支配力を強化しようとする動きの中で、インド初のAIユニコーン企業となりました。今回の資金調達における主要な戦略的投資家は、インドの大手企業グループHCL GroupのIT子会社であるHCLTechで、総額のうち1億5000万ドルを出資しています。既存の支援者であるKhosla V
10代のハッカーから「アイアン・ドーム」の研究者に転身した人物が、AIフィッシング対策のために2800万ドルを調達
シェイ・シュワルツは、メールによるフィッシング攻撃について熟知している。10代の頃、彼はハッカーとして生計を立てていたが、16歳で逮捕されたことをきっかけに、自身のサイバーセキュリティのスキルを攻撃を仕掛けるのではなく、攻撃を防ぐために活用できると気づいた。その後、彼は10年近くにわたりサイバーセキュリティ分野の要職を歴任し、アイアン・ドーム計画に関連する業務を含め、イスラエルの精鋭防衛・情報部隊
MetaのAIモデルは優れているが、オープンソース化によってその独自性が損なわれている
オープンソースのAI分野には、常に豊富な選択肢が存在してきました。長年にわたり、開発者はMistralやFalconといったモデルに加え、増え続けるオープンウェイトの代替モデルを利用することができました。しかし、MetaがLlamaで参入したことで、状況は一変しました。30億人のユーザー、膨大な計算能力、そしてテックジャイアントとしての権威を持つ企業が、オープンな形で開発を進めるようになったのです





家






