Heim
Microsoft stellt ein Tool für Entwickler vor, mit dem sich Tests zum KI-Verhalten anhand von Textbeschreibungen erstellen lassen
KI-Forscher und -Forschungslabore haben erhebliche Fortschritte bei der Bewertung von KI-Modellen hinsichtlich Sicherheit, Compliance, Unterwürfigkeit und Alignment erzielt. Unternehmen und Entwickler stehen nun jedoch vor einer besonderen Herausforderung: Sie müssen sicherstellen, dass sich ihre KI-Systeme genau so verhalten, wie es für ihr jeweiliges Produkt oder ihre jeweilige Dienstleistung vorgesehen ist.
Um diesen Testprozess zu vereinfachen, stellte Microsoft am Dienstag ASSERT vor – eine Abkürzung für „Adaptive Spec-driven Scoring for Evaluation and Regression Testing“.
Laut Microsoft erleichtert das Open-Source-Framework die Bewertung anwendungsspezifischer KI-Verhaltensweisen. Es nutzt KI, um allgemeine Beschreibungen von Zielen, Richtlinien oder beabsichtigten Verhaltensweisen in natürlicher Sprache in umfassende, bewertete Tests umzuwandeln, die überprüft werden können.
ASSERT akzeptiert Beschreibungen des erwarteten Verhaltens und der Richtlinien eines KI-Modells in einfacher Sprache und wandelt diese anschließend in einen strukturierten Satz akzeptabler und inakzeptabler Verhaltensweisen um. Es generiert Problemszenarien und Testfälle, führt diese auf dem Zielsystem aus und bewertet die Ergebnisse. Das Framework zeichnet zudem die Abläufe des KI-Systems auf, einschließlich Zwischenaktionen und Tool-Aufrufe, sodass Entwickler nachvollziehen können, wo Fehler auftreten.
Entwickler können zudem Systemkontext, Tools und Einschränkungen angeben, um den Umfang der Bewertungen weiter anzupassen.
Beispielsweise könnte ein Entwickler festlegen, dass ein KI-Agent für die Dokumentenrecherche keine E-Mails an Personen außerhalb des Unternehmens senden darf, vertrauliche Informationen auf Führungskräfte der obersten Ebene beschränken muss und prägnante Zusammenfassungen unter Berücksichtigung des vorherigen Kontexts liefern soll. ASSERT nutzt diese Regeln dann, um Testfälle zu generieren, die kontinuierlich überprüfen, ob das System sie einhält.
Bildnachweis:Microsoft
Laut Microsoft schließt das Framework eine Lücke, die umfassendere, allgemeinere Bewertungen nicht abdecken können, wenn KI-Modelle sich so verhalten sollen, wie es der Kontext, die Richtlinien und die Tools einer Anwendung oder eines Produkts vorgeben.
„Eine der Erkenntnisse, die wir gewonnen haben, ist, dass Bewertungen für gute Entscheidungen absolut entscheidend sind“, sagte Sarah Bird, Chief Product Officer für Responsible AI bei Microsoft. „Denn wenn man das Verhalten des KI-Systems nicht versteht, ist es wirklich schwer zu beurteilen, ob es den Anforderungen Ihrer Organisation entspricht […] Wir haben festgestellt, dass man, wenn man wirklich ein vertrauenswürdiges System will, viel mehr anwendungsspezifische Dimensionen bewerten sollte.“
Bird erklärte, dass ASSERT zur Bewertung von Systemen während der Entwicklung, nach der Bereitstellung sowie zur kontinuierlichen Überwachung eingesetzt werden kann.
Die Veröffentlichung erfolgt vor dem Hintergrund eines allmählichen, aber umfassenden Wandels in der KI-Branche. Da die Modelle immer leistungsfähiger werden, konzentrieren sich Forscher auf wiederholbare Tests und Regressionsprüfungen. HELM von der Stanford University, AILuminate von MLCommons und Bewertungsgruppen wie METR führen Benchmarks ein, um zu messen, wie sich Modelle unter verschiedenen Bedingungen verhalten.
Verwandter Artikel
Microsoft führt die gescheiterten KI-Tools aus und bündelt die Copilot-Apps
Vor zwei Jahren charakterisierte Microsoft die künstliche Intelligenz als einen „generationenübergreifenden Wandel“ in der Technologie, den sie anführen wollte. Heute konsolidiert das Unternehmen seine Copilot-Consumer- und Geschäftsanwendungen und s
Berichten zufolge schult Microsoft Vertriebsmitarbeiter, um Konkurrenten wie OpenAI und Anthropic unterbieten zu können
Berichten zufolge bereitet Microsoft seinen Vertrieb vor, um den Wettbewerb gegen wichtige Konkurrenten im Bereich der künstlichen Intelligenz zu verschärfen.Laut einem Bloomberg-Bericht haben Führungskräfte am Dienstag eine interne Strategiesitzung
Könnte dies den Beginn einer Krise für Token-Wirtschaften markieren?
Microsoft hat kürzlich erhebliche Preisanpassungen für GitHub Copilot vorgenommen – Änderungen, die derart umfangreich sind, dass ein Reddit-Nutzer die Situation in seinem Unternehmen als „Tokenpocalypse“ bezeichnete.In der neuesten Folge des Equity
Empfehlungen zu verwandten Spezialthemen
Bildung und Lernen
KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung
Die besten KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die Schülern helfen, ihre Produktivität zu steigern, Hausaufgaben effizienter zu erledigen und Prüfungen dank praxisnaher Tests mit Bravour zu meistern. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und unverzichtbare Optionen, um Ihren KI-Vorteil zu nutzen. Entdecken Sie es jetzt!
10 Tools
xix.ai
Musikkomposition
KI-Stimm-Demo-Tools für Songwriter, Hooks, Toplines und mehrsprachige Entwurfs-Sessions
2026 Neueste und beste KI-Stimm-Demo-Tools für Songwriter, Hook-Ersteller und mehrsprachige Content-Teams! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die strengen Praxistests unterzogen wurden. Sie finden detaillierte Vergleichsdaten zu kostenlosen und kostenpflichtigen Optionen, umfassende Rankings und empfehlenswerte Auswahlmöglichkeiten, die Ihnen helfen, Ihre Schreibeffizienz zu steigern und Ihr kreatives Potenzial zu entfalten. Entdecken Sie jetzt das perfekte Tool für all Ihre Content-Bedürfnisse!
9 Tools
xix.ai
Geschäft
Die besten KI-Tools zur Wettbewerbsanalyse für kleine Unternehmen
Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!
9 Tools
xix.ai
Bildbearbeitung
Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonstanz
2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!
10 Tools
xix.ai
Prompt
Die besten KI-Prompt-Bibliotheken für ChatGPT-Workflows
Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!
11 Tools
xix.ai
Bildung und Lernen
AI Quiz Builder Plattformen für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme
2026 Neueste und beste KI-Quiz-Erstellungstools für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die realen Tests unterzogen wurden, um genaue Rankings zu liefern. Diese unbedingt auszuprobierenden Plattformen helfen dabei, die Schreibeffizienz zu steigern, die Inhaltserstellung zu optimieren und das Quiz-Design in allen Lernszenarien zu vereinfachen. Entdecken Sie jetzt Ihr perfektes Tool, um Ihren KI-Vorteil im Unterricht voll auszuschöpfen!
13 Tools
xix.ai
Kommentare (0)
KI-Forscher und -Forschungslabore haben erhebliche Fortschritte bei der Bewertung von KI-Modellen hinsichtlich Sicherheit, Compliance, Unterwürfigkeit und Alignment erzielt. Unternehmen und Entwickler stehen nun jedoch vor einer besonderen Herausforderung: Sie müssen sicherstellen, dass sich ihre KI-Systeme genau so verhalten, wie es für ihr jeweiliges Produkt oder ihre jeweilige Dienstleistung vorgesehen ist.
Um diesen Testprozess zu vereinfachen, stellte Microsoft am Dienstag ASSERT vor – eine Abkürzung für „Adaptive Spec-driven Scoring for Evaluation and Regression Testing“.
Laut Microsoft erleichtert das Open-Source-Framework die Bewertung anwendungsspezifischer KI-Verhaltensweisen. Es nutzt KI, um allgemeine Beschreibungen von Zielen, Richtlinien oder beabsichtigten Verhaltensweisen in natürlicher Sprache in umfassende, bewertete Tests umzuwandeln, die überprüft werden können.
ASSERT akzeptiert Beschreibungen des erwarteten Verhaltens und der Richtlinien eines KI-Modells in einfacher Sprache und wandelt diese anschließend in einen strukturierten Satz akzeptabler und inakzeptabler Verhaltensweisen um. Es generiert Problemszenarien und Testfälle, führt diese auf dem Zielsystem aus und bewertet die Ergebnisse. Das Framework zeichnet zudem die Abläufe des KI-Systems auf, einschließlich Zwischenaktionen und Tool-Aufrufe, sodass Entwickler nachvollziehen können, wo Fehler auftreten.
Entwickler können zudem Systemkontext, Tools und Einschränkungen angeben, um den Umfang der Bewertungen weiter anzupassen.
Beispielsweise könnte ein Entwickler festlegen, dass ein KI-Agent für die Dokumentenrecherche keine E-Mails an Personen außerhalb des Unternehmens senden darf, vertrauliche Informationen auf Führungskräfte der obersten Ebene beschränken muss und prägnante Zusammenfassungen unter Berücksichtigung des vorherigen Kontexts liefern soll. ASSERT nutzt diese Regeln dann, um Testfälle zu generieren, die kontinuierlich überprüfen, ob das System sie einhält.
Bildnachweis:Microsoft
Laut Microsoft schließt das Framework eine Lücke, die umfassendere, allgemeinere Bewertungen nicht abdecken können, wenn KI-Modelle sich so verhalten sollen, wie es der Kontext, die Richtlinien und die Tools einer Anwendung oder eines Produkts vorgeben.
„Eine der Erkenntnisse, die wir gewonnen haben, ist, dass Bewertungen für gute Entscheidungen absolut entscheidend sind“, sagte Sarah Bird, Chief Product Officer für Responsible AI bei Microsoft. „Denn wenn man das Verhalten des KI-Systems nicht versteht, ist es wirklich schwer zu beurteilen, ob es den Anforderungen Ihrer Organisation entspricht […] Wir haben festgestellt, dass man, wenn man wirklich ein vertrauenswürdiges System will, viel mehr anwendungsspezifische Dimensionen bewerten sollte.“
Bird erklärte, dass ASSERT zur Bewertung von Systemen während der Entwicklung, nach der Bereitstellung sowie zur kontinuierlichen Überwachung eingesetzt werden kann.
Die Veröffentlichung erfolgt vor dem Hintergrund eines allmählichen, aber umfassenden Wandels in der KI-Branche. Da die Modelle immer leistungsfähiger werden, konzentrieren sich Forscher auf wiederholbare Tests und Regressionsprüfungen. HELM von der Stanford University, AILuminate von MLCommons und Bewertungsgruppen wie METR führen Benchmarks ein, um zu messen, wie sich Modelle unter verschiedenen Bedingungen verhalten.
Microsoft führt die gescheiterten KI-Tools aus und bündelt die Copilot-Apps
Vor zwei Jahren charakterisierte Microsoft die künstliche Intelligenz als einen „generationenübergreifenden Wandel“ in der Technologie, den sie anführen wollte. Heute konsolidiert das Unternehmen seine Copilot-Consumer- und Geschäftsanwendungen und s
Berichten zufolge schult Microsoft Vertriebsmitarbeiter, um Konkurrenten wie OpenAI und Anthropic unterbieten zu können
Berichten zufolge bereitet Microsoft seinen Vertrieb vor, um den Wettbewerb gegen wichtige Konkurrenten im Bereich der künstlichen Intelligenz zu verschärfen.Laut einem Bloomberg-Bericht haben Führungskräfte am Dienstag eine interne Strategiesitzung
Könnte dies den Beginn einer Krise für Token-Wirtschaften markieren?
Microsoft hat kürzlich erhebliche Preisanpassungen für GitHub Copilot vorgenommen – Änderungen, die derart umfangreich sind, dass ein Reddit-Nutzer die Situation in seinem Unternehmen als „Tokenpocalypse“ bezeichnete.In der neuesten Folge des Equity
Die besten KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die Schülern helfen, ihre Produktivität zu steigern, Hausaufgaben effizienter zu erledigen und Prüfungen dank praxisnaher Tests mit Bravour zu meistern. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und unverzichtbare Optionen, um Ihren KI-Vorteil zu nutzen. Entdecken Sie es jetzt!
10 Tools
xix.ai
2026 Neueste und beste KI-Stimm-Demo-Tools für Songwriter, Hook-Ersteller und mehrsprachige Content-Teams! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die strengen Praxistests unterzogen wurden. Sie finden detaillierte Vergleichsdaten zu kostenlosen und kostenpflichtigen Optionen, umfassende Rankings und empfehlenswerte Auswahlmöglichkeiten, die Ihnen helfen, Ihre Schreibeffizienz zu steigern und Ihr kreatives Potenzial zu entfalten. Entdecken Sie jetzt das perfekte Tool für all Ihre Content-Bedürfnisse!
9 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!
9 Tools
xix.ai
2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!
10 Tools
xix.ai
Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!
11 Tools
xix.ai
2026 Neueste und beste KI-Quiz-Erstellungstools für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die realen Tests unterzogen wurden, um genaue Rankings zu liefern. Diese unbedingt auszuprobierenden Plattformen helfen dabei, die Schreibeffizienz zu steigern, die Inhaltserstellung zu optimieren und das Quiz-Design in allen Lernszenarien zu vereinfachen. Entdecken Sie jetzt Ihr perfektes Tool, um Ihren KI-Vorteil im Unterricht voll auszuschöpfen!
13 Tools
xix.ai
