Hy4 preview

Hy4 Preview là mô hình Mixture-of-Experts mã nguồn mở thế hệ mới của Tencent Hunyuan. Mô hình còn được gọi là Tencent Hy4 Preview hoặc Hunyuan 4 Preview, có tổng cộng 770 tỷ tham số, kích hoạt 49 tỷ tham số cho mỗi token và hỗ trợ cửa sổ ngữ cảnh trên một triệu token. Mô hình hướng đến lập trình, công việc văn phòng, nghiên cứu khoa học, suy luận và quy trình tác tử phức tạp.

Hy4 Preview phù hợp với việc hiểu kho mã lớn, lập kế hoạch và gỡ lỗi phần mềm, phân tích tài liệu dài, công việc văn phòng nhiều tệp, nghiên cứu khoa học, tác tử dùng công cụ và quy trình cần duy trì ngữ cảnh qua nhiều bước. Mô hình đặc biệt hữu ích cho nhiệm vụ kéo dài thay vì một câu trả lời ngắn.

Điểm mạnh gồm hiểu ngữ cảnh dài, lập kế hoạch nhiều bước, lập trình, sử dụng công cụ, gỡ lỗi, xác minh và thực thi tác tử kéo dài. Kiến trúc MoE thưa cung cấp dung lượng tổng thể lớn trong khi chỉ kích hoạt một phần tham số cho mỗi token, còn trọng số mở hỗ trợ triển khai và đánh giá độc lập.

Hy4 Preview là bản xem trước sớm chứ chưa phải Hy4 chính thức, vì vậy hành vi, khả năng cung cấp, giá và chi tiết tích hợp có thể thay đổi. Trước khi triển khai, cần kiểm thử hồi quy, kiểm tra thao tác công cụ, theo dõi quá trình suy luận dài và chuẩn bị mô hình dự phòng. Việc tự vận hành toàn bộ trọng số mở cũng đòi hỏi tài nguyên lớn.

Sử dụng ID Hy4 Preview hiển thị trong danh mục TokenHub cùng endpoint và API key TokenHub. Tuân theo định dạng của endpoint đối với tin nhắn, tùy chọn suy luận, truyền luồng, công cụ và đầu ra có cấu trúc. Nếu chuyển từ Tencent Hunyuan API, hãy kiểm tra trường yêu cầu, lược đồ công cụ và cách phân tích phản hồi trước khi chuyển lưu lượng sản xuất.

Hãy kiểm tra trang mô hình TokenHub hiện tại để biết giá đầu vào, đầu ra, bộ nhớ đệm hoặc giá theo yêu cầu cùng các endpoint được hỗ trợ. Ước tính chi phí bằng độ dài đầu vào, đầu ra, hành vi suy luận, số yêu cầu đồng thời, lần gọi công cụ và tỷ lệ thử lại thực tế. Không nên coi giá ra mắt hoặc khả năng cung cấp tạm thời là cam kết lâu dài.

Hãy ưu tiên đánh giá Hy4 Preview khi cần ngữ cảnh dài hơn nhiều, thực thi nhiều bước mạnh hơn, dự án phần mềm lớn, công việc nhiều tài liệu hoặc nghiên cứu khoa học. Hy3 có thể an toàn hơn nếu hệ thống sản xuất hiện tại đã phụ thuộc vào hành vi, độ trễ hoặc hợp đồng tích hợp đã được kiểm chứng của mô hình này. Hãy thử cả hai trên cùng tập tác vụ đại diện trước khi chuyển đổi.