如何访问到AutoDL中运行的的Web Gradio
参与AutoDL文档： 开放端口 由于实例无独立公网IP，因此不能任意开启额外的端口。但是AutoDL为每个实例都预留了一个可对外暴露的端口，技术实现为将实例中的6006端口映射到公网可供访问的ip:…
作者： 林清杨
Java版本的LangChain
GitHub： https://github.com/langchain4j/langchain4j 文档：docs.langchain4j.dev 教程：https://docs.langchain…
【系统硬件】英伟达安培卡 vs 老推理卡硬件参数对比
原文地址：https://zhuanlan.zhihu.com/p/441153412
AutoDL HuggingFace连不上问题解决
问题 AutoDL HuggingFace连不上，无法下载ChatGLM3-6B模型 原因 网络原因，无法访问 解决方案 使用ModelScope社区镜像下载 模型下载代码 pip install m…
第五周作业-使用 LangChain，并调用 GPT API Key 实现文本摘要和翻译聊天助手。
任务 使用 LangChain，并调用 GPT API Key 实现文本摘要和翻译聊天助手。 交付 进行中…
第一周作业-大语言模型技术发展与演进
单项选择题 n-gram 模型中的“n”通常代表什么？ A. 神经网络的层数 B. 词汇表的大小 C. 上下文中的词数 D. 可选的参数数量 最大似然估计在 n-gram 模型中的主要目的是什么？ A…
第三周作业二-实战Transformers模型微调
任务 使用完整的 YelpReviewFull 数据集训练，对比看 Acc 最高能到多少。课程代码（ https://github.com/DjangoPeng/LLM-quickstart/blob…
第三周作业一-大模型开发工具库Hugging Face Transformers
任务 替换课程示例代码中的模型（ https://github.com/DjangoPeng/LLM-quickstart/blob/main/transformers/pipelines.ipynb…
第四周作业二-大模型高效微调工具HF PEFT
任务 在“LoRA 低秩适配 OpenAI Whisper-Large-V2 语音识别任务”中，为中文语料的训练过程增加过程评估，观察 Train Loss 和 Validation Loss 变化。…
第四周作业一-实战Transformers模型量化
任务 使用 GPTQ 量化 OPT-6.7B 模型。课程代码（ https://github.com/DjangoPeng/LLM-quickstart/blob/main/quantization/…
实战私有数据微调ChatGLM3
任务介绍 基于 data 目录下的数据训练 ChatGLM3 模型，使用 inference Notebook 对比微调前后的效果。 （可选）：将 gen_dataset Notebook 改写为 p…
大模型分布式训练框架Microsoft DeepSpeed，调整ZeRO-3 配置文件，使其支持 T5-3B 甚至 T5-11B 模型训练
任务介绍 调整 ZeRO-3 配置文件，使其支持 T5-3B 甚至 T5-11B 模型训练。 作业提交方式： 提交运行起来后 NVIDIA-smi 和 htop 的输出截图即可，跟视频里给老师大家展示…
智谱章节-使用AdvertiseGen广告数据集lora微调ChatGLM3-6B作业
作业描述 使用官方提供的示例，成功微调出广告数据集，要求使用 Lora 进行微调： 你能看到 loss 的下降，并在最终回到 3.2 左右。 你需要自己适配 inference.py 中的代码，并迁移…
微调报错解决-ValueError: invalid literal for int() with base 10: ‘.ipynb_checkpoints’
报错日志 You are using an old version of the checkpointing format that is deprecated (We will also silen…
curl –help
Usage: curl [options…] <url> –abstract-unix-socket <path> Connect via abstract Unix d…
ZIP 文件处理操作手册
ZIP 文件处理操作手册 本手册提供 zip 和 unzip 命令的使用方法，覆盖文件和目录的压缩与解压缩操作。这些命令适用于 Unix-like 系统，包括 Linux 和 macOS，用于处理 ….
Docker 自定义网络与容器管理手册
Docker 自定义网络与容器管理手册 本手册旨在提供一个关于如何使用Docker自定义网络和容器的详细指南，包括创建自定义网络、在该网络上运行容器并分配静态IP地址，以及如何删除自定义网络。适用于希…
国内近200家大模型总结
国内近200家大模型总结 本文总结了188家国内现有大模型企业，以及各企业开发的模型和所处行业。受公众号排版限制不能使用表格，需要购买表格版的朋友请私信我。 序号 公司 大模型 省市 类别 1 百度 …
MicroSoft Copilot 提示
了解 Copilot 提示 Copilot 提示是用于告诉 Copilot 所需内容的说明或问题。 提示可以包括四个部分：目标、上下文、期望和源，如下图所示： 可以在提示中添加一点或很多内容，但只需要…
微软的生成式 AI 入门课程，十八节课，视频、文本、代码
面向初学者的生成式 AI （版本 2） – 课程 https://github.com/microsoft/generative-ai-for-beginners.git 通过 Microsoft C…