Xây dựng các ứng dụng AI giọng nói độ trễ cực thấp trên AWS
Theo công bố của AWS. Khám phá cách Cartesia tận dụng Mô hình Không gian Trạng thái và cơ sở hạ tầng AWS để cung cấp các giải pháp chuyển văn bản thành giọng nói và giọng nói thành văn bản.
- • Cartesia sử dụng Mô hình Không gian Trạng thái để cung cấp chuyển văn bản thành giọng nói và giọng nói thành văn bản dưới 100ms.
- • Sonic là mô hình chuyển văn bản thành giọng nói phát trực tuyến hàng đầu của Cartesia với thời gian tạo byte âm thanh đầu tiên khoảng 90ms.
- • Ink là mô hình chuyển giọng nói thành văn bản của Cartesia được xây dựng cho các ứng dụng AI hội thoại.
- • Sonic được cung cấp dưới dạng gói mô hình Amazon SageMaker AI thông qua AWS Marketplace.
Giới thiệu về AI giọng nói
Giao diện giọng nói đang nhanh chóng trở thành chế độ tương tác mặc định cho hàng triệu người dùng trên toàn thế giới trong các trợ giúp ảo, trung tâm liên lạc hỗ trợ AI và công cụ trợ năng. Tuy nhiên, việc mang lại trải nghiệm giọng nói tự nhiên thực sự vẫn là một trong những thử thách lớn nhất trong cơ sở hạ tầng AI khi người dùng kỳ vọng độ phản hồi giống như con người.
Mô hình Không gian Trạng thái
Các mô hình biến áp truyền thống gặp khó khăn với độ trễ phát trực tuyến vì chúng xử lý toàn bộ chuỗi trước khi tạo ra đầu ra. Mô hình Không gian Trạng thái xử lý một chuỗi như một hệ thống phát triển liên tục theo thời gian, xử lý từng bước và mang theo một trạng thái nội bộ nhỏ gọn về phía trước để phù hợp với dữ liệu phát trực tuyến thời gian thực.
Triển khai trên AWS
Bạn có thể triển khai các mô hình Cartesia trực tiếp vào tài khoản AWS của riêng mình để đảm bảo chủ quyền dữ liệu, kiểm soát độ trễ hoặc tuân thủ. Sonic được cung cấp dưới dạng gói mô hình Amazon SageMaker AI thông qua AWS Marketplace, cho phép bạn triển khai tới một điểm cuối SageMaker chạy hoàn toàn trong VPC của bạn.
- 1. aws.amazon.comMở nguồn