实战私有数据微调ChatGLM3

任务介绍

• 基于 data 目录下的数据训练 ChatGLM3 模型，使用 inference Notebook 对比微调前后的效果。
• （可选）：将 gen_dataset Notebook 改写为 py 文件。

交付

1.1 基于 data 目录下的数据训练 ChatGLM3 模型
https://github.com/QingYang1807/AI-Large-Model-Fine-Tuning-Camp/blob/main/%E4%BD%9C%E4%B8%9A/%E4%BD%9C%E4%B8%9A6/1.%E5%9F%BA%E4%BA%8E%20data%20%E7%9B%AE%E5%BD%95%E4%B8%8B%E7%9A%84%E6%95%B0%E6%8D%AE%E8%AE%AD%E7%BB%83%20ChatGLM3%20%E6%A8%A1%E5%9E%8B%EF%BC%8C%E4%BD%BF%E7%94%A8%20inference%20Notebook%20%E5%AF%B9%E6%AF%94%E5%BE%AE%E8%B0%83%E5%89%8D%E5%90%8E%E7%9A%84%E6%95%88%E6%9E%9C%E3%80%82/1.%E5%9F%BA%E4%BA%8E%20data%20%E7%9B%AE%E5%BD%95%E4%B8%8B%E7%9A%84%E6%95%B0%E6%8D%AE%E8%AE%AD%E7%BB%83%20ChatGLM3%20%E6%A8%A1%E5%9E%8B/qlora_chatglm3_timestamp.ipynb

1.2 使用 inference Notebook 对比微调前后的效果。
https://github.com/QingYang1807/AI-Large-Model-Fine-Tuning-Camp/blob/main/%E4%BD%9C%E4%B8%9A/%E4%BD%9C%E4%B8%9A6/1.%E5%9F%BA%E4%BA%8E%20data%20%E7%9B%AE%E5%BD%95%E4%B8%8B%E7%9A%84%E6%95%B0%E6%8D%AE%E8%AE%AD%E7%BB%83%20ChatGLM3%20%E6%A8%A1%E5%9E%8B%EF%BC%8C%E4%BD%BF%E7%94%A8%20inference%20Notebook%20%E5%AF%B9%E6%AF%94%E5%BE%AE%E8%B0%83%E5%89%8D%E5%90%8E%E7%9A%84%E6%95%88%E6%9E%9C%E3%80%82/2.%E4%BD%BF%E7%94%A8%20inference%20Notebook%20%E5%AF%B9%E6%AF%94%E5%BE%AE%E8%B0%83%E5%89%8D%E5%90%8E%E7%9A%84%E6%95%88%E6%9E%9C%E3%80%82/chatglm_inference.ipynb

2.将 gen_dataset Notebook 改写为 py 文件
https://github.com/QingYang1807/AI-Large-Model-Fine-Tuning-Camp/blob/main/%E4%BD%9C%E4%B8%9A/%E4%BD%9C%E4%B8%9A6/2.%E5%B0%86gen_dataset%20Notebook%E6%94%B9%E5%86%99%E4%B8%BApy%E6%96%87%E4%BB%B6/gen_dataset.py