分类 · Model Farm

NASNet

NASNet,按 Model Farm 官方样例进行预处理与结果解析,逐板卡验证。

看看在哪块板上多快 ›

犀牛派 X1 · FP32 · 实测 66.8 ms · 可在 1 块板卡上运行 · 1 个已验证的构建

样例输入
  1. tiger_cat99.7%
  2. tabby0.3%
  3. Egyptian_cat0%
  4. tiger0%
  5. lynx0%

机房真机 犀牛派 X1 · FP32 · 处理耗时 66.8 ms

实测速度

每块板卡、每种精度,都在真机上测过

真机处理时延的中位数。多阶段模型计入各阶段处理,生成模型的耗时受输入和输出长度影响。

  • —需适配

    Model Farm 尚无本板卡的可加载构建

  • W8A16不支持

    NASNet W8A16 在猫、狗、公交三张图中最高 logit 均触及输出量化上限 18.9135,浮点参考及 FP16 约为 21–23。需核对上游量化校准与输出范围,暂停该精度。

  • FP16不支持

    NASNet FP16 在独立真机多图测试通过后,实际网站复用上下文的请求仍将猫识别为 stopwatch/web_site。显式 FLOAT32 输入输出及首次预热尚不能保证线上正确性,暂停上线并继续排查执行路径差异。

  • FP32默认69.5ms14.4 FPS

规格

任务
分类
输入尺寸
224×224
来源
Model Farm
已知限制
使用同仓库 FP32 TFLite 图,在 X1 保留的旧 AidLite / TFLite GPU 环境运行;这是 GPU 推理,非 NPU 构建,GPU 内部精度由插件决定。QNN FP16 在网站复用请求中出现错误分类,W8A16 输出触及量化上限,两个 QNN 构建均暂停。
许可证
—
版本
1.0.0
浏览社区公开工作流 →

放进你的工作流,换上你的输入

工作流里的每一次运行都在机房真机上执行,跑通后可以一键导出到你自己的板卡。

浏览全部模型 ›