amazon-bedrock

소개 amazon-bedrock

Amazon Bedrock에서 생성형 AI 애플리케이션을 구축하기 위한 도메인 전문 지식입니다. 여기에는 Converse API 및 InvokeModel을 통한 모델 호출, 지식 기반을 활용한 검색 강화 생성(Retrieval-Augmented Generation), Bedrock 에이전트, Guardrails를 통한 콘텐츠 안전성 확보, AgentCore를 활용한 에이전트 배포 및 확장 등이 포함됩니다. 모델 호출, 지식 기반 설정, 에이전트 생성, 가드레일 적용, AgentCore로의 배포, ThrottlingException 및 AccessDeniedException과 같은 Bedrock 오류 해결, 또는 Claude, Llama, Nova, Titan과 같은 모델 선택 시 이 가이드를 활용하십시오. 또한 프롬프트 캐싱, 할당량 상태 확인, 비용 추적, 모델 마이그레이션, 청크링 전략, AgentCore Payments에 대해서도 다루고 있지만, 사용자 지정 모델 훈련, Rekognition 또는 Comprehend에는 명시적으로 적용되지 않습니다. Bedrock API, 모델 ID 및 구성 매개변수가 빈번하게 변경되므로, 이 스킬은 응답하기 전에 번들로 제공되는 참조 파일을 주요 정보 출처로 반드시 확인해야 합니다.

주요 주제는 Bedrock API 환경으로, 오용 시 흔히 오류의 원인이 되는 5개의 별도 엔드포인트를 제공합니다: 모델 목록 표시 및 액세스 관리를 위한 bedrock control plane; Converse 또는 InvokeModel을 통해 모델을 호출하기 위한 bedrock-runtime; OpenAI 호환 API를 위한 bedrock-mantle(신규 사용자에게 권장됨); 그리고 에이전트 구성 및 호출을 위한 bedrock-agent 및 bedrock-agent-runtime이 있습니다. AgentCore는 자체 제어 및 데이터 플레인 엔드포인트를 갖춘 별도의 서비스입니다. 이 스킬은 샌드박스 실행 및 감사 로깅을 위해 AWS MCP 서버를 권장하지만, AWS CLI에 액세스할 수 있는 모든 에이전트와 호환됩니다.

이 스킬은 중요한 경고 사항과 보안 관행을 우선적으로 강조합니다. maxTokens는 항상 명시적으로 설정해야 합니다. 설정하지 않을 경우 필요한 양보다 훨씬 많은 할당량이 예약되어 예상치 못한 스로틀링이 발생할 수 있습니다. Guardrails PII 마스킹은 응답에만 적용되며, 마스킹되지 않은 콘텐츠는 여전히 CloudWatch에 기록됩니다. 또한 최신 버전의 boto3 및 AWS CLI v2가 필요합니다. 보안 지침에서는 사용자보다 IAM 역할을, 범위 지정된 권한, Secrets Manager, 혼란스러운 대리(confused-deputy) 보호, 그리고 에이전트가 생성한 매개변수를 신뢰할 수 없는 입력으로 취급하는 것을 권장합니다. 통합된 요청/응답 형식을 위해 InvokeModel보다 Converse API를 선호하며, 기능 및 모델 선택 테이블은 더 자세한 참조 파일을 가리킵니다.

자주 묻는 질문

모델을 호출하려면 어떤 Bedrock API를 사용해야 하나요?

bedrock-runtime 엔드포인트에서 스킬은 모든 모델에 걸쳐 통일된 요청/응답 형식을 제공하는 Converse API를 InvokeModel보다 권장합니다. InvokeModel은 드문 공급자별 기능에 한정되어 사용되며, 새로운 OpenAI 호환 작업에는 bedrock-mantle을 권장합니다.

왜 매 호출마다 maxTokens 설정을 강조하나요?

maxTokens를 설정하지 않으면 모델의 최대값(예: Claude Sonnet의 경우 64K)이 기본값으로 적용되며, 필요한 양보다 훨씬 더 많은 할당량을 자동으로 예약하게 됩니다. 이는 예기치 않은 ThrottlingException이 발생하는 흔한 원인입니다.

Bedrock API 엔드포인트는 몇 개이며 각각의 용도는 무엇입니까?

다섯 가지입니다: bedrock(제어 플레인), bedrock-runtime(모델 호출), bedrock-mantle(OpenAI 호환 API), bedrock-agent(에이전트 및 지식베이스 구성), bedrock-agent-runtime(에이전트 호출 및 지식베이스 쿼리)입니다. AgentCore는 자체 엔드포인트를 가진 별도의 서비스입니다.

스킬은 Guardrails 및 PII에 대해 어떤 경고를 표시하나요?

가드레일(Guardrails)의 PII 마스킹은 API 응답에만 적용되며, PII를 포함한 원본 마스킹되지 않은 콘텐츠는 여전히 일반 텍스트로 CloudWatch Logs에 기록됩니다. HIPAA/GDPR 준수를 위해 해당 로그를 KMS로 암호화하고 접근을 제한할 것을 권장합니다.

이 스킬은 사용자 지정 모델 훈련이나 Rekognition 사용에 적합한가요?

아니요. 이 스킬은 사용자 지정 모델 훈련, Rekognition 또는 Comprehend용이 아니라고 명시하고 있습니다. 이 스킬은 모델 호출, RAG, 에이전트, 가드레일 및 AgentCore에 중점을 둡니다.

모든 파일