技术方向
跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
5 条精选近 30 天 5 条共收录 23 条
Liquid AI 发布 LFM2.5-24B-A2B，一个总参数 24B、每 token 仅激活 2B 的推理模型，面向端侧运行、可调用工具的智能体。它在 LiveClaw 上得分 48.09，高于 Qwen3.6-35B-A3B 的 38.19，在 8 项工具使用与智能体基准中 5 项领先或持平。
推荐理由：LFM2.5-24B-A2B 用 2B 激活参数对比更大 MoE 的端侧成绩与推理速度，可作为端侧智能体选型的参考。
NVIDIA 在 RTX Spark 笔记本 10 月 16 日上市前公布一批软件更新，覆盖本地智能体、创作应用与开发者工具。GitHub Copilot、Hermes、OpenClaw、Perplexity、Pi 和 WorkBuddy 等智能体应用支持 MXC 与 OpenShell 安全沙箱，并可通过开源路由库 NVIDIA Switchyard 在本地与云端模型间分流。
推荐理由：梳理 RTX Spark 上市前的本地 AI 软件生态清单，可据此判断本地智能体在 PC 上的可用程度。
在旧金山 Microsoft 活动上，NVIDIA 与 Microsoft 宣布为 Windows PC 上的 AI 智能体共同设计硬件与软件，并推出 RTX Spark 笔记本与紧凑台式机。
推荐理由：NVIDIA 与 Microsoft 围绕本地运行 AI 智能体重构 Windows 硬件与系统底座，读者可据此了解端侧智能体的算力与部署路径。
Liquid AI 在 d1 决策模型家族下开源 d1-3B 和实验性 d1-omni-600M 两款模型，两者均为开放权重并已上线 Hugging Face。
推荐理由：Liquid AI 开源两款决策模型，给出了端侧与 GPU 延迟实测和七项基准对比，可据此判断小模型做实时决策的可行性。
Google DeepMind 发布 EmbeddingGemma 2，这是原生将文本、图像、音频和视频映射到统一嵌入空间的端侧多模态嵌入模型，基于 Gemma 4 架构、Apache 2.0 许可、740M 参数。
推荐理由：EmbeddingGemma 2 把多模态嵌入压到 740M 参数并给出向量截断与内存数据，可据此评估端侧检索方案的可行性。