IT之家 · 智能时代T2·算力与基建
58 分
摩尔线程宣布其 MTT S5000 智算卡与 MUSA 软件栈在 MiniMax H3-Image 开源当日即完成适配,可单卡生成 4096×4096 高分辨率图像。适配复用 SGLang、MATE、MCCL 等组件,重点优化扩散模型注意力机制在多参考图场景下的高开销,为后续生图、生视频模型的 Day-0 适配铺路。
面向大模型与多模态推理的高性能服务框架,支持结构化生成与高效调度
摩尔线程宣布其 MTT S5000 智算卡与 MUSA 软件栈在 MiniMax H3-Image 开源当日即完成适配,可单卡生成 4096×4096 高分辨率图像。适配复用 SGLang、MATE、MCCL 等组件,重点优化扩散模型注意力机制在多参考图场景下的高开销,为后续生图、生视频模型的 Day-0 适配铺路。
Flide 是一款面向 Jev 类决策模型的高性能精确推理引擎,借助精确状态分叉实现较 vLLM 与 SGLang 最高 9.5 倍加速,并保证输出与单次独立推理完全一致。它已支持 30 多个本地决策模型,提供 /v1/systemone 接口,可通过 pip 直接安装。