标签：大模型

这场关于AI大模型训练平台的冒险，虽然充满了挑战与冲突，但正是这些波折造就了一个功能强大、前景广阔的AI训练平台。对于团队来说，这不仅是技术的胜利，也是智慧、协作与毅力的象征。每一次的挣扎与突破，都是…

account_circle 林清杨 schedule2024年8月9日folder_openAIcomment无评论

llama3.1 8B mac M3 Max 64GB，用ollama跑llama3.1 8B，速度飞快，和gpt3.5响应速度差不多 llama3.1 70b 问答前后对比，64GB内存刚好够用，速…

大模型训练超参数文档数据来源：https://huggingface.co/docs/transformers/v4.41.3/en/main_classes/trainer#transformer…

account_circle 林清杨 schedule2024年5月14日folder_openAIcomment无评论

问题 1、要跑大模型，要多少显存 2、6B如果要自己搭建，显存要多少回答 1、显存大小 = 大模型多少B 2 +2GB富余空间用于存储对话记忆等内容 2、6B 2 + 2 = 14GB以上显存可支…

account_circle 林清杨 schedule2024年4月1日folder_open大模型comment无评论

国内近200家大模型总结本文总结了188家国内现有大模型企业，以及各企业开发的模型和所处行业。受公众号排版限制不能使用表格，需要购买表格版的朋友请私信我。序号公司大模型省市类别 1 百度 …

2024年3月21日微信文章 Prompt工程师压箱底绝活——Prompt的基本组成部分、格式化输出与应用构建提示词编写规则提示词编写示例测试提示词方法和平台要测试提示词，使用国内任何一家提…

完成大模型微调训练营第0期的学习，拿到毕业证书啦！！！回味无穷，没有辜负购课时候的目标🎯，工作中都用上了，但是还得继续不断消化实践，推荐～

在极客时间 AI 大模型微调训练营学习一学期下来，目前就要结束了，现对于整个学期做个总结如下： 1、目前在什么岗位做什么？目前在做 1、AI业务场景落地 2、提效AI开发的产品平台。 2、为什么选择…

一、选择题 1、n-gram 模型中的“n”通常代表什么？ A. 神经网络的层数 B. 词汇表的大小 C. 上下文中的词数 D. 可选的参数数量 2、最大似然估计在 n-gram 模型中的主要目的是什…

作者写了一篇论文：Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4 总结下来就是 26 条有效…

一、背景在Google Colab上使用T4 GPU完成微调训练的模型，保存了模型和训练状态的文件存放在Google Colab /content目录内，需要备份。考虑到下载到本地需要大量的流量，且…

account_circle 林清杨 schedule2023年6月12日folder_open大模型comment无评论

account_circle 林清杨 schedule2023年6月12日folder_open大模型comment无评论

OpenBMB携手清华大学自然语言处理实验室，共同推出《大模型交叉研讨课》，意在为对大模型感兴趣的同学提供相关资源，为大模型领域的探索打下基础。本课程将手把手带领同学从深度学习开始快速了解大模型的相关…

https://xinghuo.xfyun.cn/desk