跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

12 条精选近 30 天 11 条共收录 88 条

更新

部署工程的精选

今天10月15日周四第 1–12 条
10月14日周三
  1. 雷峰网77

    1688 全面接入 AI 电商工作台 Accio

    阿里旗下数字供应链平台 1688 宣布,即日起平台逾 1 亿年度活跃买家和超 100 万源头厂商可直接开通全球电商 AI 工作台 Accio。买家可用采购助手在全球 128 个国家和地区找供应商、比价、发询盘,并用电商管家运营淘宝、天猫、抖音、拼多多、京东等平台的店铺;卖家下载“1688 生意助手”绑定店铺后,可管理 1688 店铺并完成发图上架、广告分析和客户接待等动作。

    推荐理由:1688 将 AI 工作台向逾 1 亿买家和百万厂商开放,可观察 B 类电商经营全链路的智能体落地方式。

  2. AWS Machine Learning Blog66

    Anchor Browser 集成 AgentCore payments,让智能体自动完成 x402 支付

    Anchor Browser 与 Amazon Bedrock AgentCore payments 集成,让 AI 智能体在浏览器会话内自动完成 x402 协议的机器间支付,现已上线 AWS Marketplace。

    推荐理由:原文给出 Anchor Browser 与 AgentCore payments 的集成方式与 x402 支付流程,读者可据此判断智能体自动付费的落地路径。

  3. Google DeepMind91

    Google DeepMind 发布 Gemini 4 Argon,面向开发者与企业开放 API

    Google DeepMind 发布前沿模型 Gemini 4 Argon,今日通过 API 在 AI Studio 和 Gemini 平台向开发者与企业开放,Google AI Ultra 订阅者可在 Google Antigravity 使用,Ultra 和 Pro 订阅者可在 Gemini 应用和搜索 AI Mode 使用。

    推荐理由:Gemini 4 Argon 的完整能力清单与开放入口,可用于比较各前沿模型在编码、科研与安全对齐上的差异。

  4. Hugging Face Blog75

    Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型

    Liquid AI 发布 LFM2.5-24B-A2B,一个总参数 24B、每 token 仅激活 2B 的推理模型,面向端侧运行、可调用工具的智能体。它在 LiveClaw 上得分 48.09,高于 Qwen3.6-35B-A3B 的 38.19,在 8 项工具使用与智能体基准中 5 项领先或持平。

    推荐理由:LFM2.5-24B-A2B 用 2B 激活参数对比更大 MoE 的端侧成绩与推理速度,可作为端侧智能体选型的参考。

10月13日周二
  1. AWS Machine Learning Blog60

    在 Amazon Bedrock 上用 Grok 4.7 构建长周期智能体

    AWS 官方博客介绍在 Amazon Bedrock 上通过跨区域推理配置使用 SpaceXAI 的 Grok 4.7 构建工具调用智能体,该模型支持低、中、高、xhigh 四档推理强度和 500K token 上下文窗口。

    推荐理由:给出 Grok 4.7 各级推理强度在智能体任务上的正确率与 token 消耗实测,可供按请求选档参考。

  2. NVIDIA Blog71

    NVIDIA RTX Spark 上市前更新本地 AI 软件生态

    NVIDIA 在 RTX Spark 笔记本 10 月 16 日上市前公布一批软件更新,覆盖本地智能体、创作应用与开发者工具。GitHub Copilot、Hermes、OpenClaw、Perplexity、Pi 和 WorkBuddy 等智能体应用支持 MXC 与 OpenShell 安全沙箱,并可通过开源路由库 NVIDIA Switchyard 在本地与云端模型间分流。

    推荐理由:梳理 RTX Spark 上市前的本地 AI 软件生态清单,可据此判断本地智能体在 PC 上的可用程度。

10月8日周四
  1. GitHub Blog · AI & ML67

    GitHub 推出 AI 密钥检测分类器,推送前拦截时间低于 2 毫秒

    GitHub 发布基于 ModernBERT 的通用密钥检测分类器,在推送路径上以不到 2 毫秒评估候选密钥,据称可将可拦截的密钥数量提升一倍以上。该模型与 Microsoft Applied Sciences 合作构建,能利用周边代码上下文判断数据库 URL、Kubernetes Secret 与 Dockerfile 中的密码类值。

    推荐理由:GitHub 公开九季度密钥泄露数据与新型分类器的拦截时延,可据此判断推送前防护的工程取舍。

  2. Microsoft Research74

    Microsoft Research 开源 Agent Lightning v1.0:3500 行轻量智能体 RL 框架

    Microsoft Research Asia 提出 Harnessed Agentic RL 训练范式并开源 Agent Lightning v1.0,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架中重新实现智能体。

    推荐理由:微软研究院提出直接用部署 harness 参与强化学习训练的范式,并给出 3500 行开源实现与完整编码智能体训练示例。

10月1日周四
  1. Google DeepMind89

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向可信网络安全防御者开放,并将逐步扩展至开发者、企业和消费者。

    推荐理由:Gemini 4 Argon 公布输出上限与多项基准成绩,可据此判断前沿模型在长程编码与企业工作流上的位置。

9月30日周三
  1. Artificial Analysis62

    韩国 Upstage 发布 Solar Mini 4 推理模型,Intelligence Index 得分 24

    韩国 AI 实验室 Upstage 发布专有推理模型 Solar Mini 4,在 Artificial Analysis Intelligence Index 上得分 24,较上一代旗舰 Solar Pro 3 的 8 分高出 16 分。

    推荐理由:Artificial Analysis 用统一基准拆解 Solar Mini 4 的智力分数、成本与缓存命中,可看清小激活参数模型的性价比边界。

8月20日周四
  1. Mistral AI64

    Mistral 发布 Agentic Search 检索层,FinanceBench 准确率提升至 3 倍

    Mistral AI 发布 Agentic Search,一个面向 AI 系统的多步检索层,通过 search、open、navigate、read、grep 五个工具让模型在复杂文档中查找、翻阅并核验信息。

    推荐理由:Mistral 官方披露 Agentic Search 在两个检索基准上的准确率、token 与延迟变化,可据此判断多步检索相对传统 RAG 的收益。