#数据/训练

Dongxi 东锡 NLP@dongxi_nlp· 14:28AI 评分3131

AI 时代，年轻人应该怎么办？很简单，几个关键词： 1. Stranford CS336 2. Sebastian Raschka: Build a Reasoning Model 3. Nathan Lambert: Reinforcement Learning from Human Feedback 4. 谭成义三分化

Nathan Lambert@natolambert· 20:04AI 评分3131

不错的讨论串，一些闭源实验室使用的强化学习细节正在慢慢泄露出来。

Dongxi 东锡 NLP@dongxi_nlp· 17:41AI 评分4141

本文探讨了 LoRA 和 QLoRA 后训练系列文章的第三篇核心内容。文章梳理了 rank 秩、low-rank approximation 低秩近似和 quantization 量化这三个基础概念。这些概念均可通过矩阵中的 pattern 模式这一统一视角串联起来。

南京物理AI与世界模型大会开幕：三位图灵奖得主发声，发布50个典型应用场景

2026物理AI与世界模型大会在南京正式启幕，三位图灵奖得主与多位行业专家齐聚探讨物理AI与世界模型的发展。大会现场成立了国家数据标注先行先试苏皖城市联盟，发布了50个典型应用场景，并战略签约总规模50亿元的物理AI与世界模型投资基金。

Dongxi 东锡 NLP@dongxi_nlp· 14:48AI 评分2525

Instruction Tuning 沿用预训练的下一个 token 预测目标，通过 cross-entropy loss 衡量差距并提高正确 token 概率。模型会利用 chat template 将数据对转换为对话格式 token 序列。文章最后指出 loss mask 用于标出需要计算损失的 token，是该 recipe 中的重要部分。

🚨 AI News | TestingCatalog@testingcatalog· 03:36AI 评分6161

HUD 推出了 DataVendor 数据交易市场公测，允许企业向 AI 实验室出售私有数据用于模型训练和评估。该平台禁止公开代码库上架，所有上架项在上线前均会通过自动化扫描检测机密泄露与个人数据，并且买家可在购买任务集前在工作空间中运行单个随机任务进行验证。

Rohan Paul@rohanpaul_ai· 03:04AI 评分5757

HUD 推出了名为 DataVendor 的在线私有数据交易市场，供公司向 AI 实验室出售用于模型训练的私有数据。在该平台上，买方可以浏览、查看自动化质量结果、尝试样本并按标价购买，同时支持在 HUD 工作空间内运行来自任务集的随机任务。

Rohan Paul@rohanpaul_ai· 01:28AI 评分6262

Maxinsights 推出了 MaxGlove 智能手套，用于记录人类在工作时手部的触觉和力矩数据，以此解决纯视觉机器人训练数据无法捕获力觉信号的问题。该产品旨在为机器人抓取和操作提供直接的力学数据支持，并计划到 2027 年实现百万小时的力触数据采集目标。

小红书 NeurIPS 2026 论文 Hint Tuning：用推理模型思维链作 hint 减少 31.5% 推理 token

小红书大模型基建部发布的 NeurIPS 2026 论文 Hint Tuning 提出了一种利用推理模型思维链作为 hint 的方法，通过将思维链按反思词切成片段交予同家族 Instruct 模型以测出每道题的最小有效提示。该方法据此构造长度可变的训练数据，在使用 1000 条数据的情况下使推理 token 减少了 31.5%。

从遥操作到第一视角采集：中国人形机器人数据收集行业实地观察

中国人形机器人数据收集行业经历了从遥操作和同构采集向第一视角采集的演进。研究显示，中国已拥有超过150家人形机器人公司和40个国有机器人数据收集中心，相关初创企业在二〇二五年九月前吸引了50亿元人民币投资。第一视角采集技术通过佩戴式设备记录人类手部动作，正成为解决机器人灵巧操作数据难题的新趋势。

Aravind Srinivas@AravSrinivas· 05:29AI 评分6060

Perplexity 与英伟达联合推出了 JOLT 自蒸馏与强化学习训练法，通过对教师模型施加惩罚以防止其偏离学生模型过远。实验表明，JOLT 在 MATH 评测基准上以少 6.5 倍的训练 token 数达到与 GRPO 相当的表现，而 JOLT+ 则在数学、编码、终端任务和工具调用评测基准上显著超越 GRPO。

Perplexity@perplexity_ai· 03:21AI 评分4242

New research: We developed JOLT, a post-training method where one model acts as both teacher and student, with the teacher trained to give feedback the student can use. On MATH, it matched GRPO's accuracy with 6.5x fewer training tokens. https://www.perplexity.ai/hub/blog/a-good-teacher-meets-the-student-where-they-are

Dongxi 东锡 NLP@dongxi_nlp· 18:33AI 评分4646

大语言模型在预训练后需经后训练转变为实用助手，该阶段主要涵盖指令微调、偏好对齐以及RLVR三种核心技术。本文作为后训练系列文章的第一篇，后续几周将通过深入浅出的文章与实验代码全面呈现后训练全貌。

AI 公司正试图通过记录熟练工人的工作来训练 AI 机器人

一家专注于收集真实世界数据的 AI 实验室 HUMXN 宣布，将通过补贴水电、暖通空调、管道疏通等家居服务，为 homeowners 提供免费服务以换取在室内使用可穿戴捕捉技术记录熟练工人的工作过程。这些录像数据将被用来训练 AI 机器人。

AI 开始挑战最复杂的系统：生命

量子位报道了 AI 生命科学从单点分子模型向生命世界模型的转向。文章指出，尽管 AI 制药在分子层面取得了进展，但新药研发的真正难点在于理解复杂的系统性生命过程；中美两地目前正加速布局生物数据、多尺度建模与实验验证等基础设施，推动 AI 进入理解生命系统的新阶段。

AI 公司 HUMXN 免费上门修水电，录制技师作业收集数据训练 AI 机器人

AI 实验室 HUMXN 计划通过补贴管道、电工和暖通空调等居家服务，换取在住宅内录制技术工人作业过程的权限，以采集真实世界数据来训练 AI 机器人。该项目首批在明尼阿波利斯、芝加哥和迈阿密三座城市落地，房主可免费获得符合条件的居家服务，服务人员照常拿报酬。

Karina@karinanguyen· 06:54AI 评分3131

evals 是向前沿实验室出售数据以及构建您自己的自改进模型的基石。构建高端 evals 极其有价值且重要。

一名普林斯顿大学博士生投递了 2,300 份工作后仍未找到工作

一名拥有普林斯顿大学化学工程博士学位的求职者自 2024 年毕业以来已投递超过 2,300 份工作，至今仍未获得录用。这反映出当前高学历白领群体正面临严峻的就业市场深度冰冻期。

小红书 AllSpark 提出 Skill2Env：如何把 Skills 变成 Agent 的训练场

小红书 AllSpark 团队提出 Skill2Env，这是一套以 Agent 能力需求为导向的自动化环境合成框架，旨在从已有 Skills 出发构建可执行训练环境。

小红书 AllSpark 提出 Skill2Env：如何把 Skills 变成 Agent 的训练场

小红书 AllSpark 团队提出 Skill2Env，这是一套以 Agent 能力需求为导向的自动化环境合成框架。该框架能够从已有的 Skills 出发，构建出可执行的训练环境。

NVIDIA 与 AI4Bharat 推出 Nemotron-pretraining-Indic-v1 语料库与开源数据生成管线

NVIDIA 联合 IIT Madras 旗下 AI4Bharat 推出 Nemotron-pretraining-Indic-v1，这是一个包含约 2.8 万亿 token、覆盖 22 种印度语言的合成预训练语料库，并同步开源了用于生成该语料的 GPU 加速数据生成管线。

混合优于微调：双语预训练在数据受限场景下优于超参数搜索

在数据受限的语言模型预训练中，引入高资源辅助语言进行数据混合，比激进的超参数调整更能提升模型性能。研究显示，数据混合带来的性能提升相当于增加 2–3 倍验证集数据量或 2–13 倍下游任务准确率，且该优势随模型规模（150M 至 1.43B 参数）扩大而显著增长。实践建议优先采用数据混合策略，并通过 μP 将小规模代理模型的超参数迁移至大模型。

AI 实验室正收购倒闭初创公司的数据用于模型训练

AI 实验室正通过 SimpleClosure 和 Sunset 等中介机构，收购倒闭初创公司的代码库、Slack 聊天记录及工作空间数据，以解决高质量训练数据短缺问题。

Karina Nguyen 期待 AI 自动化数据与 RL 环境公司

Karina Nguyen 近日公开表示，迫切期待 AI 技术能够实现对所有数据及强化学习（RL）环境公司的自动化改造。这一观点强调了 AI 在优化数据处理流程与自动化训练环境方面的潜力，反映了行业内对于提升数据与 RL 基础设施自动化水平的持续关注。

2026年全球物理AI领域融资额已达480亿美元

截至2026年10月8日，全球机器人和物理AI企业今年累计融资近480亿美元，已超过去年全年。资本布局正从制造机器人本体向研发通用智能系统、建设“机器人健身房”及探索实际应用场景延伸，行业正通过大规模人类视频数据训练与商业部署积累，以验证Scaling Laws在具身智能领域的有效性。

Flo Health 如何用 Databricks AI Runtime 构建更安全、更实用的开源模型

Flo Health 借助 Databricks AI Runtime 在无服务器 NVIDIA H100 GPU 上对开源模型进行分布式微调，通过 26 个 AI 评委及超 15,000 条隐私优先的合成数据，构建了监督微调与 DPO 相结合的强化训练流程。该方案在确保医疗安全与实用性的同时，将推理成本较调用前沿模型 API 降低了一个数量级，并赋予了公司对模型行为与生命周期的深度控制权。

Anthropic 为 Claude 推出 Dashboards 和 Motion 功能

Anthropic 为 Claude 推出两项测试功能：Dashboards 可通过提示词将数据源转化为自动更新的实时看板，并支持导出至 Amplitude 等工具；Motion 则支持从文本、图表和图像生成可编辑、可导出为 MP4 的动画解释视频。此外，Docs、Slides 和 Design 功能已结束测试并向所有用户开放，Claude Design 将于 12 月 14 日前整合进主应用。

Periodic Labs 创始人谈合成超级智能：从半导体到超导体

Periodic Labs 的 Liam Fedus 和 Ekin Dogus Cubuk 在访谈中阐述了“合成超级智能”的愿景，即通过强化学习与物理实验的深度结合，让 AI 能够像科学家一样在噪声和不确定性中进行科学发现。他们强调，科学发现不同于数学或编码，物理实验是验证知识的最终基准，通过赋予实验室仪器“智能”，可以将数十年的科学试错压缩至数月。

ServiceNow 发布 AutoSynthData：为企业级智能体生成训练数据

ServiceNow CoreAI 推出的 AutoSynthData 框架通过分析目标模型在特定环境中的失败案例，利用更强的教师模型生成并验证针对性的训练任务，从而构建高质量的合成数据集。该方法在 EnterpriseOps Gym 的 Hybrid 和 ITSM 环境中实验显示，通过该流程生成的合成数据进行微调，能有效提升智能体的任务完成能力。

机器学习研究智能体为何不会过拟合？

Amazon Science 研究发现，机器学习研究智能体之所以在基准测试中不易过拟合，是因为成功的策略具有高度可压缩性。研究通过将智能体的优化策略压缩为极短的提示词（如 32 个 token），并由重现智能体在无验证集访问权限下复现，证实了这些策略捕捉的是数据的真实结构而非记忆。该方法不仅解释了过拟合的缺失，还提供了一种通过压缩瓶颈识别过拟合的检测手段。

Amazon 研究：当多个 LLM 裁判达成一致时，我们该相信吗？

Amazon 研究团队提出了一种依赖感知（Dependence-aware）的标签聚合方法，用于解决 LLM 作为裁判时的评估偏差问题。该方法通过 Ising 模型建模裁判间的相关性，在相关性分类、毒性检测和摘要评估任务中，较加权多数投票基准提升了 9% 至 14% 的准确率。该方案无需人工标注标签，通过分析评估日志中的一致性模式，能有效识别并剔除因共享提示词或训练谱系导致的冗余投票。