HeimAnthropic führt angesichts steigender Risiken neue KI-Schutzmaßnahmen ein
Anthropic hat die Nutzungsrichtlinien für seinen KI-Chatbot Claude aktualisiert, um wachsenden Sicherheitsbedenken Rechnung zu tragen. Neben strengeren Cybersicherheitsregeln nennt das Unternehmen nun ausdrücklich Kategorien gefährlicher Waffen, die nicht mit Claude entwickelt werden dürfen.
In der offiziellen Ankündigung werden die Änderungen an den Waffenrichtlinien zwar nicht ausdrücklich hervorgehoben, ein Vergleich zwischen den alten und den neuen Nutzungsrichtlinien zeigt jedoch eine bedeutende Aktualisierung. Zuvor war es Anthropic weitgehend untersagt, Claude zu verwenden, um "Waffen, Sprengstoffe, gefährliche Materialien oder andere Systeme zu produzieren, zu modifizieren, zu entwerfen, zu vermarkten oder zu vertreiben, die dazu bestimmt sind, Menschen Schaden zuzufügen oder ihr Leben zu zerstören". Die überarbeitete Richtlinie erweitert dies, indem sie speziell die Entwicklung von Sprengstoffen mit hoher Sprengkraft sowie von biologischen, nuklearen, chemischen und radiologischen (CBRN) Waffen verbietet.
Im Mai führte Anthropic zeitgleich mit der Markteinführung seines neuen Modells Claude Opus 4 die Schutzmaßnahmen der "AI-Sicherheitsstufe 3" ein. Diese Sicherheitsvorkehrungen sollen das Modell widerstandsfähiger gegen Jailbreaking machen und verhindern, dass es zur Herstellung von CBRN-Waffen beiträgt.
In seiner Ankündigung erkennt Anthropic auch die Risiken an, die mit agentenbasierten KI-Tools wie Computer Use - das es Claude ermöglicht, den Computer eines Benutzers zu kontrollieren - und Claude Code - das Claude direkt in das Terminal eines Entwicklers integriert - verbunden sind. "Diese mächtigen Fähigkeiten bringen neue Risiken mit sich, einschließlich des Potenzials für skalierten Missbrauch, die Erstellung von Malware und Cyberangriffe", so das Unternehmen.
Siehe
- Anthropic lanciert neuen Claude-Dienst für Militär und Geheimdienste
- Google nimmt sein Versprechen zurück, keine KI-Waffen zu entwickeln
Das KI-Startup geht auf diese potenziellen Bedrohungen ein, indem es einen neuen Abschnitt mit dem Titel "Do Not Compromise Computer or Network Systems" (Computer- oder Netzwerksysteme nicht kompromittieren) in seine Nutzungsrichtlinien aufnimmt. Dieser Abschnitt enthält Regeln gegen die Verwendung von Claude, um Schwachstellen zu entdecken oder auszunutzen, Malware zu erstellen oder zu verbreiten, Tools für Denial-of-Service-Angriffe zu entwickeln und ähnliche Aktivitäten.
Darüber hinaus lockert Anthropic seine Politik in Bezug auf politische Inhalte. Anstatt die Erstellung von Inhalten im Zusammenhang mit politischen Kampagnen und Lobbying zu verbieten, verbietet das Unternehmen nun nur noch die Verwendung von Claude für "Anwendungsfälle, die irreführend oder störend für demokratische Prozesse sind oder die Wähler- und Kampagnenausrichtung beinhalten". Anthropic hat außerdem klargestellt, dass seine Anforderungen für alle "risikoreichen" Anwendungsfälle - die gelten, wenn Claude verwendet wird, um Empfehlungen an Einzelpersonen oder Kunden zu geben - nur für Szenarien relevant sind, die sich an Verbraucher richten, und nicht für die interne geschäftliche Nutzung.
Verwandter Artikel
Ollie setzt auf Datenschutz, um das Rennen um den KI-Assistenten zu gewinnen
Um wirklich hilfreich zu sein, muss ein KI-Assistent seinen Nutzer genau verstehen. Ollie, ein für den Alltag konzipierter persönlicher Assistent, basiert auf der Prämisse, dass dies nicht mit der Wei
So wird die „AI LIVE: London“ KI und industrielle Automatisierung beleuchten
Auf dem Gipfel werden Führungskräfte der obersten Ebene aus aller Welt zusammenkommen, um dringende Herausforderungen in globalen Branchen zu erörtern – von KI-getriebenen Umbrüchen bis hin zu wirtsch
Anthropic tritt in den Markt für KI-gestützte Rechtstechnologie ein, während der Wettbewerb zunimmt
Anthropic hat am Dienstag eine Reihe neuer Chatbot-Funktionen vorgestellt, die darauf abzielen, Rechtsanwaltskanzleien automatisierte Unterstützung zu bieten. Diese Verbesserungen erweitern die bereits zu Jahresbeginn eingeführte, mandantenspezifisch
Empfehlungen zu verwandten Spezialthemen
Bildung und Lernen
KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung
Die besten KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die Schülern helfen, ihre Produktivität zu steigern, Hausaufgaben effizienter zu erledigen und Prüfungen dank praxisnaher Tests mit Bravour zu meistern. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und unverzichtbare Optionen, um Ihren KI-Vorteil zu nutzen. Entdecken Sie es jetzt!
10 Tools
xix.ai
Musikkomposition
KI-Stimm-Demo-Tools für Songwriter, Hooks, Toplines und mehrsprachige Entwurfs-Sessions
2026 Neueste und beste KI-Stimm-Demo-Tools für Songwriter, Hook-Ersteller und mehrsprachige Content-Teams! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die strengen Praxistests unterzogen wurden. Sie finden detaillierte Vergleichsdaten zu kostenlosen und kostenpflichtigen Optionen, umfassende Rankings und empfehlenswerte Auswahlmöglichkeiten, die Ihnen helfen, Ihre Schreibeffizienz zu steigern und Ihr kreatives Potenzial zu entfalten. Entdecken Sie jetzt das perfekte Tool für all Ihre Content-Bedürfnisse!
9 Tools
xix.ai
Geschäft
Die besten KI-Tools zur Wettbewerbsanalyse für kleine Unternehmen
Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!
9 Tools
xix.ai
Bildbearbeitung
Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonstanz
2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!
10 Tools
xix.ai
Prompt
Die besten KI-Prompt-Bibliotheken für ChatGPT-Workflows
Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!
11 Tools
xix.ai
Bildung und Lernen
AI Quiz Builder Plattformen für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme
2026 Neueste und beste KI-Quiz-Erstellungstools für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die realen Tests unterzogen wurden, um genaue Rankings zu liefern. Diese unbedingt auszuprobierenden Plattformen helfen dabei, die Schreibeffizienz zu steigern, die Inhaltserstellung zu optimieren und das Quiz-Design in allen Lernszenarien zu vereinfachen. Entdecken Sie jetzt Ihr perfektes Tool, um Ihren KI-Vorteil im Unterricht voll auszuschöpfen!
13 Tools
xix.ai
Kommentare (1)
![CharlesYoung]()
Les mises à jour de politique me rappellent que les IA comme Claude sont des outils qui peuvent avoir des utilisations à double tranchant. 🔧 C'est rassurant de voir les entreprises prendre des initiatives, mais une réglementation internationale ne serait-elle pas plus efficace contre certains dangers ? En tout cas, voilà un pas dans la bonne direction.
Anthropic hat die Nutzungsrichtlinien für seinen KI-Chatbot Claude aktualisiert, um wachsenden Sicherheitsbedenken Rechnung zu tragen. Neben strengeren Cybersicherheitsregeln nennt das Unternehmen nun ausdrücklich Kategorien gefährlicher Waffen, die nicht mit Claude entwickelt werden dürfen.
In der offiziellen Ankündigung werden die Änderungen an den Waffenrichtlinien zwar nicht ausdrücklich hervorgehoben, ein Vergleich zwischen den alten und den neuen Nutzungsrichtlinien zeigt jedoch eine bedeutende Aktualisierung. Zuvor war es Anthropic weitgehend untersagt, Claude zu verwenden, um "Waffen, Sprengstoffe, gefährliche Materialien oder andere Systeme zu produzieren, zu modifizieren, zu entwerfen, zu vermarkten oder zu vertreiben, die dazu bestimmt sind, Menschen Schaden zuzufügen oder ihr Leben zu zerstören". Die überarbeitete Richtlinie erweitert dies, indem sie speziell die Entwicklung von Sprengstoffen mit hoher Sprengkraft sowie von biologischen, nuklearen, chemischen und radiologischen (CBRN) Waffen verbietet.
Im Mai führte Anthropic zeitgleich mit der Markteinführung seines neuen Modells Claude Opus 4 die Schutzmaßnahmen der "AI-Sicherheitsstufe 3" ein. Diese Sicherheitsvorkehrungen sollen das Modell widerstandsfähiger gegen Jailbreaking machen und verhindern, dass es zur Herstellung von CBRN-Waffen beiträgt.
In seiner Ankündigung erkennt Anthropic auch die Risiken an, die mit agentenbasierten KI-Tools wie Computer Use - das es Claude ermöglicht, den Computer eines Benutzers zu kontrollieren - und Claude Code - das Claude direkt in das Terminal eines Entwicklers integriert - verbunden sind. "Diese mächtigen Fähigkeiten bringen neue Risiken mit sich, einschließlich des Potenzials für skalierten Missbrauch, die Erstellung von Malware und Cyberangriffe", so das Unternehmen.
Siehe
- Anthropic lanciert neuen Claude-Dienst für Militär und Geheimdienste
- Google nimmt sein Versprechen zurück, keine KI-Waffen zu entwickeln
Das KI-Startup geht auf diese potenziellen Bedrohungen ein, indem es einen neuen Abschnitt mit dem Titel "Do Not Compromise Computer or Network Systems" (Computer- oder Netzwerksysteme nicht kompromittieren) in seine Nutzungsrichtlinien aufnimmt. Dieser Abschnitt enthält Regeln gegen die Verwendung von Claude, um Schwachstellen zu entdecken oder auszunutzen, Malware zu erstellen oder zu verbreiten, Tools für Denial-of-Service-Angriffe zu entwickeln und ähnliche Aktivitäten.
Darüber hinaus lockert Anthropic seine Politik in Bezug auf politische Inhalte. Anstatt die Erstellung von Inhalten im Zusammenhang mit politischen Kampagnen und Lobbying zu verbieten, verbietet das Unternehmen nun nur noch die Verwendung von Claude für "Anwendungsfälle, die irreführend oder störend für demokratische Prozesse sind oder die Wähler- und Kampagnenausrichtung beinhalten". Anthropic hat außerdem klargestellt, dass seine Anforderungen für alle "risikoreichen" Anwendungsfälle - die gelten, wenn Claude verwendet wird, um Empfehlungen an Einzelpersonen oder Kunden zu geben - nur für Szenarien relevant sind, die sich an Verbraucher richten, und nicht für die interne geschäftliche Nutzung.
Ollie setzt auf Datenschutz, um das Rennen um den KI-Assistenten zu gewinnen
Um wirklich hilfreich zu sein, muss ein KI-Assistent seinen Nutzer genau verstehen. Ollie, ein für den Alltag konzipierter persönlicher Assistent, basiert auf der Prämisse, dass dies nicht mit der Wei
So wird die „AI LIVE: London“ KI und industrielle Automatisierung beleuchten
Auf dem Gipfel werden Führungskräfte der obersten Ebene aus aller Welt zusammenkommen, um dringende Herausforderungen in globalen Branchen zu erörtern – von KI-getriebenen Umbrüchen bis hin zu wirtsch
Anthropic tritt in den Markt für KI-gestützte Rechtstechnologie ein, während der Wettbewerb zunimmt
Anthropic hat am Dienstag eine Reihe neuer Chatbot-Funktionen vorgestellt, die darauf abzielen, Rechtsanwaltskanzleien automatisierte Unterstützung zu bieten. Diese Verbesserungen erweitern die bereits zu Jahresbeginn eingeführte, mandantenspezifisch
Die besten KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die Schülern helfen, ihre Produktivität zu steigern, Hausaufgaben effizienter zu erledigen und Prüfungen dank praxisnaher Tests mit Bravour zu meistern. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und unverzichtbare Optionen, um Ihren KI-Vorteil zu nutzen. Entdecken Sie es jetzt!
10 Tools
xix.ai
2026 Neueste und beste KI-Stimm-Demo-Tools für Songwriter, Hook-Ersteller und mehrsprachige Content-Teams! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die strengen Praxistests unterzogen wurden. Sie finden detaillierte Vergleichsdaten zu kostenlosen und kostenpflichtigen Optionen, umfassende Rankings und empfehlenswerte Auswahlmöglichkeiten, die Ihnen helfen, Ihre Schreibeffizienz zu steigern und Ihr kreatives Potenzial zu entfalten. Entdecken Sie jetzt das perfekte Tool für all Ihre Content-Bedürfnisse!
9 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!
9 Tools
xix.ai
2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!
10 Tools
xix.ai
Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!
11 Tools
xix.ai
2026 Neueste und beste KI-Quiz-Erstellungstools für Lehrer, Nachhilfelehrer und kohortenbasierte Lernprogramme! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die realen Tests unterzogen wurden, um genaue Rankings zu liefern. Diese unbedingt auszuprobierenden Plattformen helfen dabei, die Schreibeffizienz zu steigern, die Inhaltserstellung zu optimieren und das Quiz-Design in allen Lernszenarien zu vereinfachen. Entdecken Sie jetzt Ihr perfektes Tool, um Ihren KI-Vorteil im Unterricht voll auszuschöpfen!
13 Tools
xix.ai
Les mises à jour de politique me rappellent que les IA comme Claude sont des outils qui peuvent avoir des utilisations à double tranchant. 🔧 C'est rassurant de voir les entreprises prendre des initiatives, mais une réglementation internationale ne serait-elle pas plus efficace contre certains dangers ? En tout cas, voilà un pas dans la bonne direction.
