DEXUN GPU NEWS
GPU裸金属资讯
查看GPU裸金属资讯，掌握选型、配置和部署要点。
混合部署还是统一型号？6项兼容与效率差异别漏评
混合部署可以利用不同计算卡的性能特点，也会增加驱动、算子、调度和运维复杂度。本文从六项差异出发，给出可执行的验证步骤与适用条件，帮助判断异构部署是否值得。
阅读全文 →
不同推理框架适配同一硬件，性能收益差多少？
同一硬件上的推理速度，取决于框架能否调用合适的计算后端、覆盖模型算子并减少数据搬运。本文以 Raspberry Pi 5 的 Arm CPU 为例，比较 TensorFlow Lite、NCNN 与 MNN，并给出可复现的测试方法。
阅读全文 →
持续高并发的AI接口更适合配置动态合批
持续高并发时，动态合批可将多个请求合并执行，在吞吐量、等待时间和尾延迟之间取得平衡。本文说明适用条件、配置步骤、参数起点及监控方法，并比较动态合批与固定批处理的差异。
阅读全文 →
