自然な会話には、中断や人をめぐって話すことが含まれますが、LLM が単一の自己回帰シーケンスとしてモデル化することは困難です。文の途中で休憩のような映画の台本を使ってテキストシーケンスを作成することで、かなり遠くまで行けると思いますが、本当の解決策には、一時停止のために列に並べられたり、中断の優先順位に上げたりして、聞くことと考えることを並行して行うことのようです。異なるストリームのトークンを混ぜ合わせ、注意を向けてカスタムの何かを行うことはもっともらしいようです。