分类： AI
安装GPU版本的Pytorch环境
一、卸载已安装的torch、torchvision、torchaudio pip uninstall torch torchvision torchaudio 二、环境安装 2.1 确定显卡支持的CU…
模型量化技术
模型参数与显存占用计算方法
下载Meta-Llama-3-8B详细步骤
官网：https://llama.meta.com/llama-downloads/ Huggingface：https://huggingface.co/meta-llama/Meta-Llama-…
flowith
简单体验了一下AI 生产力工具 Flowith，太强了。 很开心有人能对 AI 原生产品的 UI 和交互有如此深入的思考。 整个产品在生成式 UI 的探索上比现在的所有产品都要靠前。 而且很好的结合了…
当前最佳代理：evo.ninja
evo.ninja 在 AutoGPT Arena 黑客马拉松中获得了排行榜的首位，证明了它是最佳的开源通用代理。用户可以尝试访问 evo.ninja。
MiraData: A Large-Scale Video Dataset with Long Durations and Structured Captions
github：https://github.com/mira-space/MiraData 知乎-OpenDataLab-可以用于文生视频大模型训练的数据集？ ## MiraData: A Large…
【LangChain-ChatChat】linux下向量化PDF文件时出错：ImportError: 从文件 *.pdf 加载文档时出错：libGL.so.1: cannot open shared object file: No such file or directory
问题 加载文档时出错：libGL.so.1: cannot open shared object file: No such file or directory。已跳过。 原因 A： 这是系统缺少必要…
如果要跑大模型，显卡显存计算
问题 1、要跑大模型，要多少显存 2、6B如果要自己搭建，显存要多少 回答 1、显存大小 = 大模型 多少B 2 +2GB富余空间用于存储对话记忆等内容 2、6B 2 + 2 = 14GB以上显存可支…
OpenAI 为 DALL-E 3 图像生成器引入编辑功能
打开DALLE，输入提示词生成图片 点击图片，打开编辑页 查看完整的Propmt Imagine a tranquil and serene landscape that evokes a profo…
ComfyUI
介绍 The most powerful and modular stable diffusion GUI, api and backend with a graph/nodes interface….
AutoDL GPU型号简介
附GPU型号简介¶ 型号 显存 单精(FP32) 半精(FP16) 详细参数 说明 Tesla P40 24GB 11.76 T 11.76 T 查看 比较老的Pascal架构GPU，对于cuda11…
GPT-SoVITS
Bilibili: https://www.bilibili.com/video/BV12g4y1m7Uw ![](https://1-1256857171.cos.ap-beijing.myqclo…
LangChain-ChatChat
GitHub https://github.com/chatchat-space/Langchain-Chatchat?tab=readme-ov-file GitHub Wiki https://g…
AttributeError: st.session_state has no attribute “history”. Did you forget to initialize it?
问题 AttributeError: st.session_state has no attribute "history". Did you forget to initiali…
GPU显存被占用无法清理问题解决
问题 运行了多个jupyter lab notebook后，发现out of memory 显存不够了，意识到GPU被无用的进程占用 通过nvidia-smi发现，gpu任务占用列表为空，看不到占用情…
爆显存(CUDA OOM)什么原因？
问题 爆显存(CUDA OOM)什么原因？ 原因 A：如果执行程序报错OOM显存不足，那么最简单的调试办法是设置batch size=1然后逐步增大，观察跑到多大bs时OOM，以此为依据再决定升配成多…
如何访问到AutoDL中运行的的Web Gradio
参与AutoDL文档： 开放端口 由于实例无独立公网IP，因此不能任意开启额外的端口。但是AutoDL为每个实例都预留了一个可对外暴露的端口，技术实现为将实例中的6006端口映射到公网可供访问的ip:…
Java版本的LangChain
GitHub： https://github.com/langchain4j/langchain4j 文档：docs.langchain4j.dev 教程：https://docs.langchain…