第四周作业二-大模型高效微调工具HF PEFT

任务

• 在“LoRA 低秩适配 OpenAI Whisper-Large-V2 语音识别任务”中，为中文语料的训练过程增加过程评估，观察 Train Loss 和 Validation Loss 变化。课程代码（ https://github.com/DjangoPeng/LLM-quickstart/blob/main/peft/peft_lora_whisper-large-v2.ipynb ）

• 在“LoRA 低秩适配 OpenAI Whisper-Large-V2 语音识别任务”中，当 LoRA 模型训练完成后，使用测试集进行完整的模型评估。课程代码（ https://github.com/DjangoPeng/LLM-quickstart/blob/main/peft/peft_lora_whisper-large-v2.ipynb ）

作业提交方式

将执行完的 ipynb 文件（有运行结果）上传至 GitHub，然后将相关 ipynb 的 GitHub 链接（比如： https://github.com/DjangoPeng/LLM-quickstart/blob/main/transformers/pipelines.ipynb ） 复制到下方的评论框，然后点击“提交”按钮即可。

交付

https://github.com/QingYang1807/AI-Large-Model-Fine-Tuning-Camp/blob/main/%E4%BD%9C%E4%B8%9A/%E4%BD%9C%E4%B8%9A4-%E7%AC%AC%E5%9B%9B%E5%91%A8%E4%BD%9C%E4%B8%9A2/second/peft_lora_whisper_large_v2.ipynb

评价

作业优点
提交了作业，并对测试集进行了评估，赞

作业缺点
训练过程中的过程评估增加的不多

改进之处
再接再励，加油