Có rất nhiều cuộc trò chuyện về việc định dạng JSON/XML/những lời nhắc cho LLM sẽ tăng gấp 10 lần đầu ra của ChatGPT, Claude, Grok, v.v. Nhưng điều đó hoàn toàn không đúng. Mô hình có cùng một cửa sổ ngữ cảnh cho dù bạn đang yêu cầu "Chiến tranh và Hòa bình" hay {"story": "Chiến tranh và Hòa bình"}. Mọi người nghĩ rằng JSON/XML đánh lừa mô hình vì họ thấy đầu ra dài hơn trong các định dạng có cấu trúc, nhưng đó chỉ là mối tương quan chứ không phải nguyên nhân.... bạn chỉ đang đặt câu hỏi tốt hơn với những kỳ vọng rõ ràng hơn. Điều thực sự hiệu quả để tăng gấp 10 lần đầu ra là những lời khuyên "nhàm chán" nhưng đây là nó: Phân chia các yêu cầu phức tạp thành các phần nhỏ, sử dụng các lời nhắc "tiếp tục", và cụ thể về những gì bạn muốn thay vì hy vọng rằng các thẻ XML/JSON sẽ bằng cách nào đó vượt qua kiến trúc cơ bản của các mô hình transformer.