GPU显存被占用无法清理问题解决
问题 运行了多个jupyter lab notebook后，发现out of memory 显存不够了，意识到GPU被无用的进程占用 通过nvidia-smi发现，gpu任务占用列表为空，看不到占用情…
分类： 技术文章
爆显存(CUDA OOM)什么原因？
问题 爆显存(CUDA OOM)什么原因？ 原因 A：如果执行程序报错OOM显存不足，那么最简单的调试办法是设置batch size=1然后逐步增大，观察跑到多大bs时OOM，以此为依据再决定升配成多…
如何访问到AutoDL中运行的的Web Gradio
参与AutoDL文档： 开放端口 由于实例无独立公网IP，因此不能任意开启额外的端口。但是AutoDL为每个实例都预留了一个可对外暴露的端口，技术实现为将实例中的6006端口映射到公网可供访问的ip:…
Java版本的LangChain
GitHub： https://github.com/langchain4j/langchain4j 文档：docs.langchain4j.dev 教程：https://docs.langchain…
【系统硬件】英伟达安培卡 vs 老推理卡硬件参数对比
原文地址：https://zhuanlan.zhihu.com/p/441153412
AutoDL HuggingFace连不上问题解决
问题 AutoDL HuggingFace连不上，无法下载ChatGLM3-6B模型 原因 网络原因，无法访问 解决方案 使用ModelScope社区镜像下载 模型下载代码 pip install m…
智谱章节-使用AdvertiseGen广告数据集lora微调ChatGLM3-6B作业
作业描述 使用官方提供的示例，成功微调出广告数据集，要求使用 Lora 进行微调： 你能看到 loss 的下降，并在最终回到 3.2 左右。 你需要自己适配 inference.py 中的代码，并迁移…
微调报错解决-ValueError: invalid literal for int() with base 10: ‘.ipynb_checkpoints’
报错日志 You are using an old version of the checkpointing format that is deprecated (We will also silen…
curl –help
Usage: curl [options…] <url> –abstract-unix-socket <path> Connect via abstract Unix d…
ZIP 文件处理操作手册
ZIP 文件处理操作手册 本手册提供 zip 和 unzip 命令的使用方法，覆盖文件和目录的压缩与解压缩操作。这些命令适用于 Unix-like 系统，包括 Linux 和 macOS，用于处理 ….
Docker 自定义网络与容器管理手册
Docker 自定义网络与容器管理手册 本手册旨在提供一个关于如何使用Docker自定义网络和容器的详细指南，包括创建自定义网络、在该网络上运行容器并分配静态IP地址，以及如何删除自定义网络。适用于希…
国内近200家大模型总结
国内近200家大模型总结 本文总结了188家国内现有大模型企业，以及各企业开发的模型和所处行业。受公众号排版限制不能使用表格，需要购买表格版的朋友请私信我。 序号 公司 大模型 省市 类别 1 百度 …
MicroSoft Copilot 提示
了解 Copilot 提示 Copilot 提示是用于告诉 Copilot 所需内容的说明或问题。 提示可以包括四个部分：目标、上下文、期望和源，如下图所示： 可以在提示中添加一点或很多内容，但只需要…
docker创建连接ubuntu
要使用Docker拉取Ubuntu镜像并启动一个容器，你可以按照以下步骤操作。首先，确保你已经安装了Docker。如果还没有安装Docker，你需要先安装它。 以下是使用Docker拉取Ubuntu镜…
docker命令手册
Docker 提供了一系列的命令来帮助用户管理容器、镜像、网络和卷等资源。以下是 Docker 命令的分类介绍，适合作为手册使用： 1. 容器管理 docker run：创建一个新的容器并运行一个命令…
阿里云大数据计算服务MaxCompute 使用教程
阿里云大数据计算服务MaxCompute 使用教程 https://edu.aliyun.com/course/312644 课程介绍 云原生大数据计算服务 MaxCompute是面向分析的企业级 S…
Hologres实时数仓
名称 实时数仓Hologres(原交互式分析)播放视频 帮助文档：Hologres产品帮助文档 开发者社区：Hologres技术分享与实践 视频中心：客户案例，最佳实践分享 实时数仓20讲：Holog…
生产级Python项目目录结构参考
一个生产级别的Python项目通常需要一个清晰、可维护的目录结构，以便于开发、测试和部署。以下是一个示例目录结构，它遵循常见的Python编程和项目管理最佳实践： my_project/ │ ├── …
Python编码规范
Python编码规范是一套旨在提高代码可读性和一致性的指南。Python社区普遍接受的编码规范是PEP 8（Python Enhancement Proposal 8）。以下是根据PEP 8以及一些通…
MaxCompute 基本概念
一、术语表 在开始使用MaxCompute产品前，您可以提前查阅MaxCompute所涉及的术语及其含义，为了解产品及快速上手提供帮助。本文为您介绍MaxCompute涉及的术语及其概念。 A Acc…