Articles in the category of unsloth

为解决unsloth模型在使用FastLanguageModel进行多批次生成时出现乱码问题，作者发现FastLanguageModel在启用fast_inference后会将padding_side自动设置为right，导致生成结果乱码。通过手动将padding_side改为left，并在每次生成后重置此参数，成功避免了乱码。此外，使用gpt-5-codex对代码进行调试，确保模型正常输出...