关闭

百易AI博客

当前位置:与“边缘设备”相关的标签

NVIDIA加速Gemma 4:边缘设备能跑本地智能体,性能跃升

NVIDIA加速Gemma 4:边缘设备能跑本地智能体,性能跃升
NVIDIA 宣布 Gemma 4 在 RTX 显卡和 Jetson 平台上的推理性能显著提升,RTX 4090 延迟降至 10ms 内、吞吐量增加五倍,Jetson AGX Xavier 达到 30 tokens/s、是之前的 three 倍。这一突破使手机级 SoC、嵌入式板卡及车载控制器等边缘设备也能运行复杂 L...