Tiền như một thang đánh giá có nghĩa là: - Các hành động LLM có thể được xếp hạng - Những sai lầm có hình phạt có thể đo lường - Phần thưởng có thể so sánh giữa các công cụ
Suy nghĩ của tôi là tiền nên hoạt động như một tín hiệu định hướng mạnh mẽ cho các nhiệm vụ có tính chủ động. Không chỉ vì nó mã hóa các giá trị, mà còn vì nó: - thực thi sự khan hiếm - tạo ra chi phí cơ hội - cung cấp một đơn vị phổ quát để đánh giá Đây là một khung khác biệt hoàn toàn cho việc đào tạo sau này so với RLHF truyền thống.
30