内容类型
拿来就能用的实操内容：提示词技巧、工作流搭建、工具用法与踩坑经验。
35 条精选近 30 天 31 条共收录 460 条
Orca Security 推出 Discovery AI 智能体，通过结合 RAG、多阶段模型分配及人工反馈闭环，将自然语言请求转化为云基础设施查询。该方案通过九阶段流水线架构，实现了相比基准方案 90% 的成本降低、93% 的输入 token 减少以及 75% 的延迟优化。
推荐理由：Orca Security 通过多阶段 Agent 架构将自然语言转化为复杂查询，其在成本、延迟和准确性上的优化实践为构建生产级智能体应用提供了可参考的流水线设计思路。
Anthropic 在 AI Engineer NYC 大会上介绍了新功能 Dynamic Workflows（flows），该功能允许 Claude 自动编写编排程序并决定智能体拓扑，取代了以往手动配置协调器和子智能体列表的模式。开发者可在 Claude Console 中使用该功能，通过设置会话预算和利用“dreaming”等内存优化手段，实现复杂任务的自动化执行与效率提升。
推荐理由：Anthropic 推出的 Dynamic Workflows 允许 Claude 自主编排智能体拓扑，通过自动化任务拆解和流程管理，为处理复杂任务提供了新的自动化范式。
AWS 官方发布教程，指导用户在泰国、马来西亚、新加坡、印尼和台湾通过 Amazon Bedrock 的全局跨区域推理功能调用 GPT-6 Sol、GPT-6 Luna 和 GPT-6 Astra 模型。该方案通过配置推理配置文件 ID，允许用户在本地容量受限时将请求路由至其他已部署模型的商业 AWS 区域，并提供了 IAM 权限设置、SCP 配置及监控管理的具体实现步骤。
推荐理由：本文详细介绍了在特定亚太地区通过 Amazon Bedrock 全局跨区域推理功能调用 GPT-6 模型的方法，为解决本地容量限制提供了可落地的配置指南。
AWS 发布了支持多节点部署的 Ray LLM DLC，允许用户在 Amazon EKS 上通过预填充（prefill）与解码（decode）分离架构运行大模型。该方案利用 NIXL 和 EFA 实现节点间的高速 KV 缓存传输，无需编写自定义代码即可通过 YAML 配置实现 OpenAI 兼容的推理端点，有效解决了计算密集型预填充与内存带宽敏感型解码任务的资源竞争问题。
推荐理由：该教程展示了如何利用 AWS 新推出的多节点 Ray LLM DLC，在 Amazon EKS 上实现大模型的预填充与解码分离推理，为优化高并发推理性能提供了可落地的架构参考。
AWS 官方发布教程，指导开发者在 Amazon SageMaker AI 上利用 llama.cpp 部署模型，支持标准文本生成及通过 SemIf 适配器实现结构化决策。该方案允许模型直接返回选项概率而非生成文本，适用于路由请求、动作选择等 Agent 场景，并提供了 CPU 与 GPU 的部署路径及性能基准参考。
推荐理由：本文介绍了在 Amazon SageMaker AI 上使用 llama.cpp 部署决策模型的方法，通过 SemIf 适配器可直接获取选项概率而非生成文本，适合需要结构化输出的 Agent 工作流。
Hamel Husain 将其 Applied AI Evals 课程的核心要点浓缩为 12 张信息卡，涵盖了误差分析、评估时机、指标选择、LLM 裁判信任度、合成数据生成及部署策略等关键实践。该指南旨在帮助开发者通过结构化的方法构建更可靠的 AI 系统，并提供了如转移矩阵定位 Agent 失败等具体操作技巧。
推荐理由：这份指南将复杂的 AI 评估流程拆解为 12 个实操概念，为开发者在构建可靠 AI 系统时提供了可落地的评估策略与避坑建议。
Postman 介绍了其 Agent Mode 的架构实践，通过动态工具选择、Schema 驱动的数据读取及精细化的上下文管理，解决了在成熟产品中集成智能体的复杂性。该系统利用 Amazon Bedrock 的跨区域推理、模型灵活性、提示词缓存及数据保护功能，实现了生产环境下的高性能与高可靠性。
推荐理由：Postman 分享了在成熟产品中集成 AI 智能体的工程实践，通过动态工具选择、Schema 驱动的数据读取及分层上下文管理，为构建生产级智能体提供了可迁移的架构模式。
Ai2 团队通过引入基于 GPU 时间预算、分层公平调度和调度合约的系统，取代了原有的优先级调度模式。该方案将资源分配从操作任务转变为透明的预算过程，有效解决了 GPU 资源占用（squatting）和优先级膨胀问题，并将人工维护需求降低了 74%，同时保持了 98% 的集群占用率。
推荐理由：Ai2 分享了通过引入 GPU 时间预算和分层公平调度机制解决集群资源争抢问题的实践，为管理大规模分布式训练集群提供了可借鉴的策略。
NVIDIA Dynamo 引入会话级标识符（Session ID），将推理基础设施升级为程序感知系统，支持会话感知路由、共享 KV 缓存索引及跨 vLLM 和 SGLang 的缓存策略编排。该方案通过在工具调用边界应用背压和会话感知调度，在 SWE-bench 等测试中将智能体任务吞吐量提升了 12-16%，并提出了 KvHint 接口以实现更主动的 KV 缓存管理。
推荐理由：NVIDIA Dynamo 通过引入会话级标识符，实现了从请求级到程序级的推理基础设施升级，通过会话感知调度和 KV 缓存管理显著提升了智能体任务的吞吐量。
Hugging Face 官方博客介绍了如何通过 HuggingChat 中的 ML-intern 智能体，以低成本自动化完成模型微调、蒸馏及评估任务。作者分享了包含预算限制、基准测试及冒烟测试的提示词编写技巧，并展示了包括植物病害识别、图像 LoRA 及轻量化模型蒸馏在内的六个实际案例，所有提示词已在 GitHub 开源。
推荐理由：作者通过实测展示了如何利用 HuggingChat 中的 ML-intern 智能体完成从数据集构建、模型训练到评估发布的完整流程，并提供了可复用的提示词模板与成本控制策略。
Cloudflare 正在开发内部工具 CryptoLabe，通过 AI 扫描代码库、配置文件和文档，自动发现加密算法的使用情况并评估抗量子（PQ）迁移需求。该工具基于 Cloudflare Developer Platform 构建，利用 Agents SDK 和 Workflows 进行自动化分析，旨在帮助工程团队识别迁移障碍并制定优先级，Cloudflare 同时公开了部分提示词供行业参考。
推荐理由：Cloudflare 分享了利用 AI 工具 CryptoLabe 扫描代码库以识别加密算法并规划抗量子迁移的实践经验，为企业进行大规模安全升级提供了可参考的方法论。
GitHub Copilot 推出 canvases 功能，允许用户通过 /create-canvas 指令及自然语言描述，无需编码即可生成看板、检查清单或仪表盘等自定义界面。该界面支持人机双向实时交互，用户与 Agent 可在同一界面同步更新状态，且创建的 canvas 可保存为扩展供团队共享或个人复用。
推荐理由：文章介绍了如何利用 GitHub Copilot 的 canvases 功能通过自然语言创建自定义工作流界面，并展示了人机协作的实时交互方式。
GitHub Security Lab 推出 Fuzzing Taskflow，这是一个基于 LLM 的自主模糊测试流水线，可自动完成 C/C++ 项目的入口识别、测试用例编写、覆盖率分析、崩溃分类及漏洞报告生成。该工具利用 Claude Sonnet 5 作为默认模型，通过 MCP 工具与 Shell 驱动分离决策与执行，旨在解决模糊测试中人工参与度高的瓶颈。
推荐理由：该工具通过 LLM 智能体自动化处理 C/C++ 项目的模糊测试全流程，为开发者提供了一种可迁移的自动化安全审计方案。
GitHub Copilot 团队通过重构 Pull Request 视图，实现了对包含百万行代码和数百条评论的超大规模请求的高性能渲染。核心方案包括将代码行与评论区拆分为独立的几何布局，采用懒加载测量与滚动锚定技术，并利用自动化性能监测循环持续优化渲染效率，确保在处理复杂交互时界面依然流畅。
推荐理由：文章详细解析了 GitHub Copilot 应用如何通过双重几何布局和自动化性能监测机制，解决超大规模代码合并请求在渲染与交互时的性能瓶颈。
Together AI 团队在 NVIDIA Vera Rubin NVL72 平台上适配并优化了 ThunderKittens 内核，通过利用 Rubin 架构的新特性（如 64 字节 K 步长、576 列张量内存、328 KiB 共享内存及 B 端收集器）显著提升了 NVFP4 和 FP8 GEMM 的性能。
推荐理由：Together AI 团队分享了在 NVIDIA Vera Rubin 架构上优化 GEMM 内核的实践经验，通过利用更大的共享内存、双倍 K 步长及 B 端收集器等新特性，为开发者提供了提升计算性能的具体优化路径。