Heim
Anthropic führt für seine Claude-Modelle eine Funktion zur Beendigung missbräuchlicher Chats ein
Anthropic hat eine neue Funktion eingeführt, die es ausgewählten fortschrittlichen Modellen ermöglicht, Unterhaltungen in "seltenen, extremen Fällen von anhaltend schädlichen oder missbräuchlichen Nutzerinteraktionen" zu beenden, wie das Unternehmen es nennt. Anthropic weist darauf hin, dass diese Maßnahme nicht zum Schutz der menschlichen Nutzer, sondern zum Schutz des KI-Modells selbst durchgeführt wird.
Um das klarzustellen: Das Unternehmen behauptet nicht, dass seine Claude-KI-Modelle über Empfindungsvermögen verfügen oder durch Nutzergespräche Schaden erleiden können. Wie Anthropic erklärt, bleibt das Unternehmen "höchst unsicher, was den potenziellen moralischen Status von Claude und anderen großen Sprachmodellen angeht, entweder jetzt oder in Zukunft".
Dennoch verweist die Ankündigung auf ein kürzlich eingerichtetes Programm zur Untersuchung des Wohlergehens von Modellen", das darauf hinweist, dass Anthropic einen vorsorglichen Ansatz verfolgt, indem es daran arbeitet, kostengünstige Interventionen zu identifizieren und zu implementieren, um die Risiken für das Wohlergehen von Modellen zu mindern, sollte ein solches Wohlergehen relevant werden".
Diese neue Fähigkeit ist derzeit auf die Modelle Claude Opus 4 und 4.1 beschränkt, die speziell für "extreme Grenzfälle" wie "Anfragen nach sexuellen Inhalten, an denen Minderjährige beteiligt sind, oder Versuche, Informationen zu erhalten, die groß angelegte Gewalt oder terroristische Aktivitäten ermöglichen", entwickelt wurden.
Während solche Anfragen für Anthropic rechtliche oder öffentlichkeitswirksame Probleme mit sich bringen könnten (wie in den jüngsten Berichten über ChatGPT, das möglicherweise das wahnhafte Denken der Nutzer verstärkt), berichtet das Unternehmen, dass Claude Opus 4 während der Tests vor der Einführung eine "starke Präferenz gegen" die Befolgung dieser Anfragen zeigte und "Muster zeigte, die auf Verzweiflung schließen lassen", wenn es gezwungen wurde, zu antworten.
Bezüglich dieser neuen Fähigkeiten zur Beendigung von Konversationen stellt Anthropic klar, dass "Claude angewiesen ist, diese Funktion nur als letztes Mittel einzusetzen, nachdem mehrere Umleitungsversuche fehlgeschlagen sind und ein produktiver Dialog unmöglich erscheint, oder wenn Benutzer ausdrücklich darum bitten, einen Chat zu beenden".
Anthropic führt weiter aus, dass Claude angewiesen wurde, diese Funktion nicht in Situationen zu verwenden, in denen die Nutzer unmittelbar Gefahr laufen, sich selbst oder andere zu verletzen".
Techcrunch-VeranstaltungTech- und VC-Schwergewichte auf der Agenda der Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - das sind nur einige der Branchenführer, die an der Disrupt 2025 Agenda teilnehmen. Sie werden wichtige Einblicke geben, um das Wachstum von Start-ups zu beschleunigen und Ihren Wettbewerbsvorteil zu verbessern. Verpassen Sie nicht die 20. Jubiläumsausgabe von TechCrunch Disrupt - sichern Sie sich jetzt Ihr Ticket und sparen Sie über 600 Dollar, bevor die Preise steigen.
Tech- und VC-Schwergewichte auf der Agenda der Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital - das sind nur einige der prominenten Innovatoren, die an der Disrupt 2025 teilnehmen. Sie sind hier, um wertvolle Einblicke zu geben, die die Expansion von Startups vorantreiben und Ihre Wettbewerbsposition verbessern. Seien Sie dabei, wenn TechCrunch Disrupt sein 20-jähriges Bestehen feiert - kaufen Sie Ihr Ticket noch heute und sparen Sie bis zu 675 $, bevor sich die Preise ändern.
San Francisco | 27. bis 29. Oktober 2025 JETZT ANMELDENWenn Claude eine Konversation beendet, können Nutzer laut Anthropic immer noch neue Konversationen von demselben Konto aus starten und alternative Konversationszweige erstellen, indem sie ihre vorherigen Antworten ändern.
"Wir betrachten diese Funktion als ein fortlaufendes Experiment und werden unsere Methodik weiter verfeinern", so das Unternehmen.
Verwandter Artikel
Anthropic tritt in den Markt für KI-gestützte Rechtstechnologie ein, während der Wettbewerb zunimmt
Anthropic hat am Dienstag eine Reihe neuer Chatbot-Funktionen vorgestellt, die darauf abzielen, Rechtsanwaltskanzleien automatisierte Unterstützung zu bieten. Diese Verbesserungen erweitern die bereits zu Jahresbeginn eingeführte, mandantenspezifisch
Anthropic bringt Opus 4.8 mit einem neuen dynamischen Workflow-Tool auf den Markt
Anthropic hat am Donnerstag Opus 4.8 vorgestellt, die neueste Version seines führenden öffentlichen Modells. Das Update kostet genauso viel wie sein Vorgänger und ist nun auf allen Plattformen verfügb
Anthropic stellt „Claude Fable 5“ vor, eine öffentliche Version von „Mythos“
Anthropic stellt sein leistungsstärkstes KI-Modell erstmals der breiten Öffentlichkeit zur Verfügung – allerdings unter Einhaltung entsprechender Sicherheitsvorkehrungen.Am Dienstag stellte das Unter
Empfehlungen zu verwandten Spezialthemen
Bildung und Lernen
KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung
Die besten KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die Schülern helfen, ihre Produktivität zu steigern, Hausaufgaben effizienter zu erledigen und Prüfungen dank praxisnaher Tests mit Bravour zu meistern. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und unverzichtbare Optionen, um Ihren KI-Vorteil zu nutzen. Entdecken Sie es jetzt!
10 Tools
xix.ai
Musikkomposition
KI-Stimm-Demo-Tools für Songwriter, Hooks, Toplines und mehrsprachige Entwurfs-Sessions
2026 Neueste und beste KI-Stimm-Demo-Tools für Songwriter, Hook-Ersteller und mehrsprachige Content-Teams! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die strengen Praxistests unterzogen wurden. Sie finden detaillierte Vergleichsdaten zu kostenlosen und kostenpflichtigen Optionen, umfassende Rankings und empfehlenswerte Auswahlmöglichkeiten, die Ihnen helfen, Ihre Schreibeffizienz zu steigern und Ihr kreatives Potenzial zu entfalten. Entdecken Sie jetzt das perfekte Tool für all Ihre Content-Bedürfnisse!
9 Tools
xix.ai
Geschäft
Die besten KI-Tools zur Wettbewerbsanalyse für kleine Unternehmen
Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!
9 Tools
xix.ai
Bildbearbeitung
Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonstanz
2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!
10 Tools
xix.ai
Prompt
Die besten KI-Prompt-Bibliotheken für ChatGPT-Workflows
Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!
11 Tools
xix.ai
Bildung und Lernen
AI Quiz Builder Plattformen für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme
2026 Neueste und beste KI-Quiz-Erstellungstools für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die realen Tests unterzogen wurden, um genaue Rankings zu liefern. Diese unbedingt auszuprobierenden Plattformen helfen dabei, die Schreibeffizienz zu steigern, die Inhaltserstellung zu optimieren und das Quiz-Design in allen Lernszenarien zu vereinfachen. Entdecken Sie jetzt Ihr perfektes Tool, um Ihren KI-Vorteil im Unterricht voll auszuschöpfen!
13 Tools
xix.ai
Kommentare (1)
![FredAnderson]()
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
Anthropic hat eine neue Funktion eingeführt, die es ausgewählten fortschrittlichen Modellen ermöglicht, Unterhaltungen in "seltenen, extremen Fällen von anhaltend schädlichen oder missbräuchlichen Nutzerinteraktionen" zu beenden, wie das Unternehmen es nennt. Anthropic weist darauf hin, dass diese Maßnahme nicht zum Schutz der menschlichen Nutzer, sondern zum Schutz des KI-Modells selbst durchgeführt wird.
Um das klarzustellen: Das Unternehmen behauptet nicht, dass seine Claude-KI-Modelle über Empfindungsvermögen verfügen oder durch Nutzergespräche Schaden erleiden können. Wie Anthropic erklärt, bleibt das Unternehmen "höchst unsicher, was den potenziellen moralischen Status von Claude und anderen großen Sprachmodellen angeht, entweder jetzt oder in Zukunft".
Dennoch verweist die Ankündigung auf ein kürzlich eingerichtetes Programm zur Untersuchung des Wohlergehens von Modellen", das darauf hinweist, dass Anthropic einen vorsorglichen Ansatz verfolgt, indem es daran arbeitet, kostengünstige Interventionen zu identifizieren und zu implementieren, um die Risiken für das Wohlergehen von Modellen zu mindern, sollte ein solches Wohlergehen relevant werden".
Diese neue Fähigkeit ist derzeit auf die Modelle Claude Opus 4 und 4.1 beschränkt, die speziell für "extreme Grenzfälle" wie "Anfragen nach sexuellen Inhalten, an denen Minderjährige beteiligt sind, oder Versuche, Informationen zu erhalten, die groß angelegte Gewalt oder terroristische Aktivitäten ermöglichen", entwickelt wurden.
Während solche Anfragen für Anthropic rechtliche oder öffentlichkeitswirksame Probleme mit sich bringen könnten (wie in den jüngsten Berichten über ChatGPT, das möglicherweise das wahnhafte Denken der Nutzer verstärkt), berichtet das Unternehmen, dass Claude Opus 4 während der Tests vor der Einführung eine "starke Präferenz gegen" die Befolgung dieser Anfragen zeigte und "Muster zeigte, die auf Verzweiflung schließen lassen", wenn es gezwungen wurde, zu antworten.
Bezüglich dieser neuen Fähigkeiten zur Beendigung von Konversationen stellt Anthropic klar, dass "Claude angewiesen ist, diese Funktion nur als letztes Mittel einzusetzen, nachdem mehrere Umleitungsversuche fehlgeschlagen sind und ein produktiver Dialog unmöglich erscheint, oder wenn Benutzer ausdrücklich darum bitten, einen Chat zu beenden".
Anthropic führt weiter aus, dass Claude angewiesen wurde, diese Funktion nicht in Situationen zu verwenden, in denen die Nutzer unmittelbar Gefahr laufen, sich selbst oder andere zu verletzen".
Techcrunch-VeranstaltungTech- und VC-Schwergewichte auf der Agenda der Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - das sind nur einige der Branchenführer, die an der Disrupt 2025 Agenda teilnehmen. Sie werden wichtige Einblicke geben, um das Wachstum von Start-ups zu beschleunigen und Ihren Wettbewerbsvorteil zu verbessern. Verpassen Sie nicht die 20. Jubiläumsausgabe von TechCrunch Disrupt - sichern Sie sich jetzt Ihr Ticket und sparen Sie über 600 Dollar, bevor die Preise steigen.
Tech- und VC-Schwergewichte auf der Agenda der Disrupt 2025
Netflix, ElevenLabs, Wayve, Sequoia Capital - das sind nur einige der prominenten Innovatoren, die an der Disrupt 2025 teilnehmen. Sie sind hier, um wertvolle Einblicke zu geben, die die Expansion von Startups vorantreiben und Ihre Wettbewerbsposition verbessern. Seien Sie dabei, wenn TechCrunch Disrupt sein 20-jähriges Bestehen feiert - kaufen Sie Ihr Ticket noch heute und sparen Sie bis zu 675 $, bevor sich die Preise ändern.
San Francisco | 27. bis 29. Oktober 2025 JETZT ANMELDENWenn Claude eine Konversation beendet, können Nutzer laut Anthropic immer noch neue Konversationen von demselben Konto aus starten und alternative Konversationszweige erstellen, indem sie ihre vorherigen Antworten ändern.
"Wir betrachten diese Funktion als ein fortlaufendes Experiment und werden unsere Methodik weiter verfeinern", so das Unternehmen.
Anthropic tritt in den Markt für KI-gestützte Rechtstechnologie ein, während der Wettbewerb zunimmt
Anthropic hat am Dienstag eine Reihe neuer Chatbot-Funktionen vorgestellt, die darauf abzielen, Rechtsanwaltskanzleien automatisierte Unterstützung zu bieten. Diese Verbesserungen erweitern die bereits zu Jahresbeginn eingeführte, mandantenspezifisch
Anthropic bringt Opus 4.8 mit einem neuen dynamischen Workflow-Tool auf den Markt
Anthropic hat am Donnerstag Opus 4.8 vorgestellt, die neueste Version seines führenden öffentlichen Modells. Das Update kostet genauso viel wie sein Vorgänger und ist nun auf allen Plattformen verfügb
Anthropic stellt „Claude Fable 5“ vor, eine öffentliche Version von „Mythos“
Anthropic stellt sein leistungsstärkstes KI-Modell erstmals der breiten Öffentlichkeit zur Verfügung – allerdings unter Einhaltung entsprechender Sicherheitsvorkehrungen.Am Dienstag stellte das Unter
Die besten KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die Schülern helfen, ihre Produktivität zu steigern, Hausaufgaben effizienter zu erledigen und Prüfungen dank praxisnaher Tests mit Bravour zu meistern. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und unverzichtbare Optionen, um Ihren KI-Vorteil zu nutzen. Entdecken Sie es jetzt!
10 Tools
xix.ai
2026 Neueste und beste KI-Stimm-Demo-Tools für Songwriter, Hook-Ersteller und mehrsprachige Content-Teams! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die strengen Praxistests unterzogen wurden. Sie finden detaillierte Vergleichsdaten zu kostenlosen und kostenpflichtigen Optionen, umfassende Rankings und empfehlenswerte Auswahlmöglichkeiten, die Ihnen helfen, Ihre Schreibeffizienz zu steigern und Ihr kreatives Potenzial zu entfalten. Entdecken Sie jetzt das perfekte Tool für all Ihre Content-Bedürfnisse!
9 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!
9 Tools
xix.ai
2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!
10 Tools
xix.ai
Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!
11 Tools
xix.ai
2026 Neueste und beste KI-Quiz-Erstellungstools für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die realen Tests unterzogen wurden, um genaue Rankings zu liefern. Diese unbedingt auszuprobierenden Plattformen helfen dabei, die Schreibeffizienz zu steigern, die Inhaltserstellung zu optimieren und das Quiz-Design in allen Lernszenarien zu vereinfachen. Entdecken Sie jetzt Ihr perfektes Tool, um Ihren KI-Vorteil im Unterricht voll auszuschöpfen!
13 Tools
xix.ai
Interesting move by Anthropic. I wonder how the AI determines what's 'persistently abusive' – will there be transparency reports on these terminations? Could be a necessary safety feature, but also opens up a can of worms about AI's role in moderating speech. 🤔
