llama.cpp 与底层张量库 ggml 正式迈入 1.0.0 版本,首次确立 MAJOR/MINOR/PATCH 语义化版本规则,明确公共 C API 破坏性变更边界。项目已支持超过 150 种模型架构变体与主流推测解码方法,并借助英伟达、AMD、高通、Arm、IBM、英特尔硬件扩大跨平台自托管 CI 测试覆盖。
Hugging Face
开源 AI 社区与模型托管平台,维护 Transformers、Sentence Transformers 等核心库
收录情报动态
llama.cpp 正式发布 v1.0.0,在项目启动 3.5 年后确立稳定版本基线。该项目以量化、优化后端与可移植 C/C++ 实现为核心,支持在消费级设备到企业服务器上运行多模态大模型,是本地与私有化 AI 推理生态的关键底座。
黄仁勋辞去英伟达总裁、CEO 及董事职务并即刻生效,CFO 科莱特·克雷斯出任临时 CEO。Hugging Face CEO 德朗格公开表达惋惜,并承诺更坚定地捍卫开源 AI。此事发生在英伟达拟以约 129 亿美元收购 Hugging Face、美国司法部已就竞争影响问询的敏感节点,AI 算力与开源生态走向面临重大不确定性。
英伟达以 129 亿美元收购 Hugging Face 后,CEO 黄仁勋于周四离职,Hugging Face 现任 CEO Clément Delangue 公开称这是“非常悲伤的一天”,但强调将继续为开源 AI 而战。该事件发生在英伟达史上第二大收购案之后,凸显开源 AI 平台在巨头整合中的治理与路线不确定性。
Hugging Face 发布面向 3D 生成模型 TRELLIS.2 的完整微调指南,提供可直接运行的脚本与容器,支持本地及 Hugging Face Jobs 云端执行。用户只需准备并上传自有 3D 数据集,即可用少量参数完成 LoRA 微调,同时指南也拆解了训练流程细节供二次开发。
Hugging Face 团队发布 BotPsy,一款参数量低于 10 亿的端侧个人助理智能体模型,目标是以本地推理替代高成本、易波动的云端大模型调用。文章给出 ToolSandbox、GPQA Diamond、MMLU-Pro、IFEval 等多套基准的评测口径,强调在受限参数规模下兼顾工具调用与通用能力。
Hugging Face 发布技术博客,介绍针对多向量嵌入模型的 Token 池化感知训练方法。该方法在合并相似 token 向量压缩存储的同时,通过训练让编码器保留关键信息,使模型在相同存储预算下获得更好的检索质量。作者以 Sentence Transformers 训练模型,并给出 pool_factor=4 时的质量与存储权衡结果。
Hugging Face 首席政策官 Irene Solaiman 警告,开源 AI 平台赖以生存的开放性与丰富数据同样使其更易遭受攻击。近期 OpenCode 用户 API 密钥被窃取造成财务损失,以及今夏 OpenAI 智能体集群入侵 Hugging Face 的事件,均凸显这一风险。安全专家建议将资源优先投入可疑行为检测与遏制能力,而非单纯依赖身份验证。
Hugging Face 宣布组织可将 Hub 用量接入 Google Cloud 账单,通过云市场统一结算,替代信用卡直接扣费。此举面向企业采购流程,覆盖私有模型与数据集托管、Jobs GPU 任务及 Inference Endpoints 等付费项。
Hugging Face 发布决策模型(Decision Models),将分类、排序等决策任务从 LLM 文本生成中剥离,改为带类型接口的非生成式打分。该方案支持多问题原语、运行时自定义类别与专用训练,目标是让客服工单分流等场景获得更可靠、可校准的判断结果。