チャットテンプレートについて ローカルLLMのチャットテンプレートはモデルによってバラバラで、けっこう不便に感じる場面が多いです。 Alpacaデータセットに由来するAlpaca形式(###Instruction\n\n...)や、ChatGPTが採用するChatML形式が有名ですが、例えばLlama-2-ChatやMistral Instructはそれぞれ独自のテンプレートを使っています。 OpenAI APIを利用したアプリケーションをローカルLLMで置き換えたい場合、ChatGPTと同じChatMLに対応したモデルが使えると便利です。 ChatMLテンプレート: <|im_start|>…