AWS, GuardDuty AI Protection 출시…Bedrock·SageMaker 위협 탐지
GuardDuty가 비정상 모델 호출, 비용 탈취, 프롬프트 인젝션을 감시하고 Security Hub로 AI 위협 결과를 전달한다.
[태그:] SageMaker
AWS 세이지메이커 하이퍼팟, 추론 데이터 캡처·허깅페이스 직접 배포 추가
AWS가 세이지메이커 하이퍼팟 추론에 다단계 데이터 캡처, 허깅페이스 직접 배포, 로컬 NVMe 로딩 등 다섯 기능을 더했다.
AWS, 허깅페이스서 세이지메이커로 원클릭 배포 지원
AWS가 허깅페이스 모델 페이지에서 버튼 클릭만으로 세이지메이커 스튜디오로 이동하는 딥링크 통합을 발표했다.
AWS 세이지메이커, 추론 벤치마크 결과 MLflow 실시간 연동
AWS가 세이지메이커 AI 추론 최적화 벤치마크 결과를 MLflow에 실시간으로 스트리밍하는 통합 기능을 공개했다.
AWS, 세이지메이커 AI 멀티턴 강화학습 훈련 모범사례 공개
아마존웹서비스가 다단계 에이전트 강화학습 훈련 시 보상 설계와 환경 구축에 관한 실전 지침을 공개했다.
Amazon Nova 파인튜닝으로 이메일 데이터 추출 정확도 94.77% 달성
AWS가 Amazon SageMaker AI와 Nova 모델 파인튜닝을 통해 이메일 데이터 추출 정확도를 최대 94.77%까지 높이는 방법을 공개했다. 비용은 절반으로 줄고 ...
Amazon SageMaker AI에서 NVIDIA Blackwell GPU로 모델 훈련 최적화하는 방법
AWS가 NVIDIA Blackwell GPU를 탑재한 P6-B200 인스턴스에서 Amazon SageMaker AI 훈련 작업을 최적화하는 실용 가이드를 공개했다.
SeedVR2, AWS SageMaker로 영상 초고해상도 구현…바이트댄스 오픈소스 모델 활용
AWS SageMaker AI에 바이트댄스 Seed팀의 오픈소스 영상 복원 모델 SeedVR2를 배포하는 방법을 다루는 AWS 공식 블로그 포스트가 공개됐다. 전통적 영상 ...
ComfyUI, Amazon SageMaker AI에서 대규모 이미지 생성 자동화하는 법
AWS가 ComfyUI 워크플로를 Amazon SageMaker AI 처리 작업으로 구동하는 방법을 공개했다. Z-Image Turbo 모델과 GPU 인스턴스를 결합해 수백 장의 고품질 ...
AWS SageMaker, CloudWatch 통합 AI 추론 모니터링 대시보드 출시…100개 이상 상세 지표 제공
AWS가 SageMaker AI 추론 엔드포인트에 100개 이상의 상세 지표를 제공하는 SageMaker Insights 대시보드를 CloudWatch에 출시했다. GPU 상태, KV 캐시 압력, ...
아마존 SageMaker AI, 컨테이너 캐싱 도입…생성AI 모델 확장 속도 최대 2배
AWS가 아마존 SageMaker AI에 컨테이너 이미지 캐싱 기능을 추가해 생성AI 추론 엔드포인트의 신규 인스턴스 확장 지연을 최대 51% 줄였다.
아마존 SageMaker, P-EAGLE로 LLM 추론 속도 최대 1.69배 향상
AWS가 개발한 P-EAGLE이 아마존 SageMaker JumpStart에 탑재됐다. 추측 디코딩을 완전 병렬화해 EAGLE-3 대비 최대 1.69배 처리량을 높인다.
