Opus 5.5 luôn suy nghĩ: giới hạn đầu ra không chỉ dành cho câu trả lời
Opus 5.5 không cho tắt suy nghĩ thích ứng, còn max_tokens bao gồm cả suy nghĩ và văn bản. Nhóm chuyển mô hình cần đo lại ngân sách đầu ra và mức effort thay vì giữ nguyên kỳ vọng cũ.
Một yêu cầu từng tắt suy nghĩ ở Opus 5 không thể giữ nguyên cấu hình khi chuyển sang Opus 5.5. Theo Anthropic, suy nghĩ thích ứng luôn bật ở bản mới; đặt thinking thành disabled hoặc dùng ngân sách suy nghĩ thủ công sẽ bị từ chối.
Giới hạn max_tokens vẫn bao gồm cả suy nghĩ và phần trả lời. Vì thế, số token dành cho văn bản nhìn thấy không bằng toàn bộ giới hạn đã đặt của ứng dụng đó. Token suy nghĩ vẫn được tính vào đầu ra ngay cả khi nội dung đó không được trả về để hiển thị.
Tham số effort điều chỉnh mức nỗ lực, nhưng không phải một ngân sách token cứng. Mặc định của Opus 5.5 là medium, trong khi Opus 5 mặc định high. Cùng một yêu cầu bỏ trống effort có thể vì vậy chạy ở mức khác sau khi đổi mô hình.
Với nhóm xây dựng trợ lý tiếng Việt, phép thử chuyển đổi nên xem cả câu trả lời bị cắt, thời gian chờ và lượng token. Mức giá thấp hơn không tự bảo đảm một tác vụ rẻ hơn nếu cách dùng ngân sách thay đổi. Đây là suy luận triển khai từ tài liệu, không phải đo hiệu năng trên tiếng Việt.
프리즘코리아 편집국 > Linh Nguyễn
