Heim
Wahrscheinlich werden 9 Millionen Dollar bereitgestellt, um zuverlässigere KI-Systeme zu entwickeln.

Trotz der wachsenden Leistungsfähigkeit von LLMs bleiben Halluzinationen ein anhaltendes Problem. Selbst die fortschrittlichsten Modelle erzeugen Fehler, und obwohl es Methoden zur Erkennung dieser Fehler gibt, arbeitet die Branche weiter daran, den besten Ansatz zu entwickeln.
Probably, das kürzlich 9 Millionen US-Dollar an Startkapital von Andreessen Horowitz erhalten hat, zielt darauf ab, eine zuverlässigere Methode zur Fehlererkennung zu schaffen.
Der Gründer Peter Elias (auf dem Bild oben) erklärt, dass die Mission des Unternehmens darin besteht, zu verhindern, dass Halluzinationen und faktische Fehler die Nutzer erreichen, und dabei ein Genauigkeitsniveau von 99,99 Prozent anzustreben – ein Niveau, das bei KI-Systemen nur schwer zu erreichen ist. Um dies mit LLMs zu erreichen, sei es notwendig, grundlegende Annahmen der KI-Ingenieurwissenschaft neu zu überdenken, so Elias.
Das erste Produkt von Probably ist ein Datenwissenschaftstool, das darauf ausgelegt ist, aus komplexen Datensätzen schnelle Antworten zu generieren. Jedes Ergebnis enthält eine Quellenangabe sowie einen Nachverfolgungsverlauf seiner Erstellung – eine Praxis, die in KI-Tools zunehmend Standard wird.
Um zu verhindern, dass Fehler in diese Zusammenfassungen eindringen, hat das Unternehmen ein ausgefeiltes System entwickelt, das Elias als „Datenwissenschafts-Mechanikanzug“ bezeichnet. Die ersten Antworten des LLMs werden von einem deterministischen System überprüft, das alle Ergebnisse abweist, die nicht mit dem Datensatz übereinstimmen. Das LLM wurde unter Berücksichtigung dieses Validierers trainiert, und das gesamte System ist laut dem Unternehmen auf Geschwindigkeit und Genauigkeit optimiert.
„Was wir gelernt haben, ist, dass je stärker die Ingenieurskunst hinter diesem System ist, desto weniger Leistungsfähigkeit das Modell benötigt“, sagt Elias. „Wenn man den Kontext ausreichend präzisiert, muss sich das Modell nicht abmühen, korrekte Ausgaben zu erzeugen. Im Grunde geht es darum, Unklarheiten zu verringern.“
Dadurch kann das Datenwissenschaftstool von Probably mit weitaus kleineren KI-Modellen arbeiten. Elias weist darauf hin, dass die aktuelle Version ein Modell verwendet, das „vier Klassen schwächer ist als führende Modelle“, wodurch es auf lokaler Hardware – einem Desktop-Computer statt in einem Rechenzentrum – laufen kann und somit die mit der Nutzung von KI verbundenen Tokenkosten erheblich senkt.
Dieser Ansatz kommt zur rechten Zeit, da die Kosten für Tokens steigen und viele Kunden ihre KI-Budgets neu bewerten. Elias’ Vision geht über die Datenwissenschaft hinaus; derselbe Mechanismus kann auch für Anwendungsfälle wie Buchhaltung oder medizinische Dienstleistungen adaptiert werden – mit seinen Worten: „für jeden anpruchsvollen Anwendungsfall, bei dem Genauigkeit entscheidend ist.“
„Es ist erstaunlich, dass die großen KI-Labore diesen Ansatz noch nicht einmal ausprobiert haben“, sagt Elias. „Sie haben Anreize dagegen, denn sie profitieren von der Notwendigkeit wiederholter Korrekturen.“
Verwandter Artikel
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Trotz der wachsenden Leistungsfähigkeit von LLMs bleiben Halluzinationen ein anhaltendes Problem. Selbst die fortschrittlichsten Modelle erzeugen Fehler, und obwohl es Methoden zur Erkennung dieser Fehler gibt, arbeitet die Branche weiter daran, den besten Ansatz zu entwickeln.
Probably, das kürzlich 9 Millionen US-Dollar an Startkapital von Andreessen Horowitz erhalten hat, zielt darauf ab, eine zuverlässigere Methode zur Fehlererkennung zu schaffen.
Der Gründer Peter Elias (auf dem Bild oben) erklärt, dass die Mission des Unternehmens darin besteht, zu verhindern, dass Halluzinationen und faktische Fehler die Nutzer erreichen, und dabei ein Genauigkeitsniveau von 99,99 Prozent anzustreben – ein Niveau, das bei KI-Systemen nur schwer zu erreichen ist. Um dies mit LLMs zu erreichen, sei es notwendig, grundlegende Annahmen der KI-Ingenieurwissenschaft neu zu überdenken, so Elias.
Das erste Produkt von Probably ist ein Datenwissenschaftstool, das darauf ausgelegt ist, aus komplexen Datensätzen schnelle Antworten zu generieren. Jedes Ergebnis enthält eine Quellenangabe sowie einen Nachverfolgungsverlauf seiner Erstellung – eine Praxis, die in KI-Tools zunehmend Standard wird.
Um zu verhindern, dass Fehler in diese Zusammenfassungen eindringen, hat das Unternehmen ein ausgefeiltes System entwickelt, das Elias als „Datenwissenschafts-Mechanikanzug“ bezeichnet. Die ersten Antworten des LLMs werden von einem deterministischen System überprüft, das alle Ergebnisse abweist, die nicht mit dem Datensatz übereinstimmen. Das LLM wurde unter Berücksichtigung dieses Validierers trainiert, und das gesamte System ist laut dem Unternehmen auf Geschwindigkeit und Genauigkeit optimiert.
„Was wir gelernt haben, ist, dass je stärker die Ingenieurskunst hinter diesem System ist, desto weniger Leistungsfähigkeit das Modell benötigt“, sagt Elias. „Wenn man den Kontext ausreichend präzisiert, muss sich das Modell nicht abmühen, korrekte Ausgaben zu erzeugen. Im Grunde geht es darum, Unklarheiten zu verringern.“
Dadurch kann das Datenwissenschaftstool von Probably mit weitaus kleineren KI-Modellen arbeiten. Elias weist darauf hin, dass die aktuelle Version ein Modell verwendet, das „vier Klassen schwächer ist als führende Modelle“, wodurch es auf lokaler Hardware – einem Desktop-Computer statt in einem Rechenzentrum – laufen kann und somit die mit der Nutzung von KI verbundenen Tokenkosten erheblich senkt.
Dieser Ansatz kommt zur rechten Zeit, da die Kosten für Tokens steigen und viele Kunden ihre KI-Budgets neu bewerten. Elias’ Vision geht über die Datenwissenschaft hinaus; derselbe Mechanismus kann auch für Anwendungsfälle wie Buchhaltung oder medizinische Dienstleistungen adaptiert werden – mit seinen Worten: „für jeden anpruchsvollen Anwendungsfall, bei dem Genauigkeit entscheidend ist.“
„Es ist erstaunlich, dass die großen KI-Labore diesen Ansatz noch nicht einmal ausprobiert haben“, sagt Elias. „Sie haben Anreize dagegen, denn sie profitieren von der Notwendigkeit wiederholter Korrekturen.“
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13











