Tôi rất hào hứng thông báo về việc triển khai inference container chuyên dụng - một trong những sản phẩm mà tôi rất mong muốn xây dựng khi tôi mới gia nhập @togethercompute và giờ đây, sau 6 tháng, chúng tôi đã chính thức ra mắt! Xin gửi lời khen ngợi lớn đến đội ngũ - điều này giúp dễ dàng thực hiện inference cho các mô hình yêu cầu tính toán dày đặc như video, âm thanh và tạo hình đại diện với các nguyên tắc cho tự động mở rộng, xếp hàng, ưu tiên, số liệu, ghi nhật ký và nhiều hơn nữa. Nếu bạn đang xây dựng trong lĩnh vực này, tôi rất muốn nghe từ bạn!