检索系统里的评价指标全解析：Recall、Precision、NDCG、CLIP Score 到底在测什么？
引入 在推荐、图文检索、多模态搜索、RAG 等各种“查得准”至关重要的任务里，评价指标就像体检报告，决定了你的系统是否健康。别看名字复杂，其实这些指标背后都是很朴素的数学思想。 这篇文章带你从零到一，…
标签： 机器学习
大模型 SFT、RM、RL 等算法原理及应用场景
一、SFT（Supervised Fine-Tuning，监督微调） 1. 原理 核心思路：基于已有的大模型（通常是预训练语言模型），在标注好的高质量指令数据集上进行监督学习。 训练目标：最小化模型输…
从零开始，在北京“手搓”一个NLP数据集的全记录
最近接了个活儿，要做一个针对北京周边“农家乐”用户评价的情感分析模型。需求不复杂，就是把用户的评论分成积极、消极和中性/建议三类。我心想这不就是个文本分类任务嘛，挺常规的。 第一反应当然是去“军火库”…
构建智能体的实用指南
来源： Agents 实用构建指南 OpenAI – A practical guide to building agents https://cdn.openai.com/business-guid…
交叉熵公式
交叉熵（Cross Entropy）常用于分类问题中衡量两个概率分布之间的差异。它的公式如下： 1. 对于二分类问题（Binary Classification）： 给定真实标签 y \in \{0,…
rag 向量检索的基础
RAG（Retrieval-Augmented Generation，检索增强生成）是当前构建强大问答系统和知识对齐模型的核心范式。它结合了「信息检索」和「生成式模型」的优点，极大提升了 LLM（大语…
统计语言模型 vs 神经语言模型：一场语言理解的进化之战
趁热打铁，继续写语言建模系列第 2 篇文章：《统计语言模型 vs 神经语言模型》。 一、语言模型的起点：让机器理解语言的概率世界 语言模型（Language Model, 简称 LM）本质上是用于计算…
深入理解 n-gram：原理、应用与实践
🚀 本文是自然语言处理中基础又核心的知识之一 —— n-gram 的全景式讲解。无论你是 NLP 新手，还是 AI 应用工程师，这篇文章都能帮你用一句话总结 n-gram，又能带你深入挖掘它在深度学习…
《Building effective agents》-建立高效的 Agent
前言 2024 年 12 月 20 日 文章来源：Building effective agents 过去的一年里，我们与来自各行各业、构建大型语言模型（LLM）Agent 的数十个团队进行了合作。我…
Docker Compose 部署运行 Dify
一、安装docker 安装 Dify 之前, 请确保你的机器已满足最低安装要求： CPU >= 2 Core RAM >= 4 GiB 操作系统 软件 描述 macOS 10.14 or …
怎么建立估计10万+软文点击率的模型？
上一篇，我们通过一个项目讲解了“实战 5 步”的前两步。在第一步“定义问题”中，我们定义了要处理的问题，也就是根据点赞数和转发数等指标，估计一篇文章能实现多大的浏览量。同时我们还将它归类为回归问题；在…
怎么定义问题和预处理数据？
机器学习是一种从数据生成规则、发现模型，来帮助我们预测、判断、分析和解决问题的技术。现在，你是不是跃跃欲试，准备动手开跑机器学习程序了？ 不要着急，在实战之前你还需要掌握最后一个知识点，也就是机器学习…
什么是机器学习
什么是机器学习 这个问题其实不好回答，因为机器学习涵盖的内容太多了。 机器学习之父 Arthur Samuel 对机器学习的定义是：在没有明确设置的情况下，使计算机具有学习能力的研究领域。 国际机器学…
特征工程全面指南：从基础到进阶
特征工程全面指南：从基础到进阶 引言 特征工程是数据科学和机器学习中至关重要的一步，它涉及将原始数据转换为可以有效训练模型的特征。本文将系统性地探讨特征工程的各个方面，包括数据预处理、特征构建、特征选…
面试题 – 机器学习
一、决策树 决策树（Decision Tree）是一种常用的机器学习算法，主要用于分类和回归任务。它是一种基于树形结构的算法，可以直观地表示决策过程。决策树通过递归地选择最佳属性进行划分，将数据集分解…