amazon-bedrock

Über amazon-bedrock

Fachwissen zum Erstellen generativer KI-Anwendungen auf Amazon Bedrock. Es umfasst den Modellaufruf über die Converse-API und InvokeModel, die durch Abruf erweiterte Generierung mit Wissensdatenbanken, Bedrock-Agenten, Inhaltssicherheit mit Guardrails sowie die Bereitstellung und Skalierung von Agenten mit AgentCore. Nutzen Sie es beim Aufrufen von Modellen, beim Einrichten von Wissensdatenbanken, beim Erstellen von Agenten, beim Anwenden von Guardrails, beim Bereitstellen auf AgentCore, bei der Fehlerbehebung von Bedrock-Fehlern wie „ThrottlingException“ und „AccessDeniedException“ oder bei der Auswahl zwischen Modellen wie Claude, Llama, Nova und Titan. Außerdem behandelt es das Zwischenspeichern von Prompts, Quoten-Zustandsprüfungen, Kostenverfolgung, Modellmigration, Chunking-Strategien und AgentCore-Zahlungen; es ist jedoch ausdrücklich nicht für das Training benutzerdefinierter Modelle, „Rekognition“ oder „Comprehend“ vorgesehen. Da sich Bedrock-APIs, Modell-IDs und Konfigurationsparameter häufig ändern, besteht der Skill darauf, vor der Antwort die mitgelieferten Referenzdateien als primäre Informationsquelle zu lesen.

Ein zentrales Thema ist die Bedrock-API-Landschaft, die fünf separate Endpunkte bereitstellt, deren unsachgemäße Verwendung eine häufige Fehlerquelle darstellt: die „bedrock control plane“ zum Auflisten von Modellen und Verwalten des Zugriffs; „bedrock-runtime“ zum Aufrufen von Modellen über „Converse“ oder „InvokeModel“; „bedrock-mantle“ für OpenAI-kompatible APIs (empfohlen für neue Nutzer); sowie „bedrock-agent“ und „bedrock-agent-runtime“ für die Konfiguration und den Aufruf von Agenten. AgentCore ist ein separater Dienst mit eigenen Endpunkten für die Steuerungs- und Datenebene. Die Skill empfiehlt den AWS-MCP-Server für die Ausführung in einer Sandbox und die Protokollierung von Audits, funktioniert jedoch mit jedem Agenten, der über AWS-CLI-Zugriff verfügt.

Kritische Warnungen und Sicherheitspraktiken werden besonders hervorgehoben. „maxTokens“ sollte immer explizit festgelegt werden, da bei Nichtfestlegung weitaus mehr Kontingent reserviert wird als erforderlich und dies zu unerwarteter Drosselung führt; die Guardrails-Maskierung personenbezogener Daten (PII) gilt nur für Antworten, während unmaskierte Inhalte weiterhin in CloudWatch protokolliert werden; außerdem sind aktuelle Versionen von boto3 und AWS CLI v2 erforderlich. Die Sicherheitsrichtlinien bevorzugen IAM-Rollen gegenüber Benutzern, bereichsbezogene Berechtigungen, den Secrets Manager, den „Confused-Deputy“-Schutz sowie die Behandlung von durch den Agenten generierten Parametern als nicht vertrauenswürdige Eingaben. Die Converse-API wird gegenüber dem InvokeModel wegen eines einheitlichen Anfrage-/Antwortformats bevorzugt, wobei Tabellen für Fähigkeiten und Modellauswahl auf weiterführende Referenzdateien verweisen.

FAQ

Welche Bedrock-API sollte ich zum Aufrufen eines Modells verwenden?

Am Endpunkt „bedrock-runtime“ empfiehlt der Skill die Converse-API gegenüber dem InvokeModel, da sie ein einheitliches Anfrage-/Antwortformat für alle Modelle bietet. Das InvokeModel ist für seltene anbieterspezifische Funktionen reserviert, und für neue OpenAI-kompatible Projekte wird „bedrock-mantle“ empfohlen.

Warum wird so viel Wert darauf gelegt, bei jedem Aufruf „maxTokens“ festzulegen?

Wird „maxTokens“ nicht festgelegt, wird standardmäßig der Maximalwert des Modells verwendet (z. B. 64K für Claude Sonnet) und stillschweigend weit mehr Kontingent reserviert als benötigt, was eine häufige Ursache für unerwartete „ThrottlingException“-Fehler ist.

Wie viele Bedrock-API-Endpunkte gibt es und wozu dienen sie?

Fünf: „bedrock“ (Steuerungsebene), „bedrock-runtime“ (Modelle aufrufen), „bedrock-mantle“ (OpenAI-kompatible APIs), „bedrock-agent“ (Agenten und Wissensdatenbanken konfigurieren) und „bedrock-agent-runtime“ (Agenten aufrufen und Wissensdatenbanken abfragen). AgentCore ist ein separater Dienst mit eigenen Endpunkten.

Wovor warnt der Skill in Bezug auf Guardrails und PII?

Die Maskierung von personenbezogenen Daten (PII) im Rahmen der „Guardrails“ gilt nur für die API-Antwort; der ursprüngliche, unmaskierte Inhalt, einschließlich personenbezogener Daten, wird weiterhin im Klartext in CloudWatch Logs protokolliert. Zur Einhaltung von HIPAA/DSGVO wird empfohlen, diese Protokolle mit KMS zu verschlüsseln und den Zugriff darauf einzuschränken.

Eignet sich dieser Skill für das Training benutzerdefinierter Modelle oder die Verwendung von Rekognition?

Nein. Es wird ausdrücklich darauf hingewiesen, dass es nicht für das Training benutzerdefinierter Modelle, für Rekognition oder Comprehend vorgesehen ist. Der Schwerpunkt liegt auf Modellaufruf, RAG, Agenten, Guardrails und AgentCore.

Alle Dateien