MODULE 04 · 产品测试展示

大模型轻量化部署
与数据全生命周期管理

在服务器上对模型执行真实的低位宽量化,并用零样本评测核对量化前后的精度对比。

“功能测试”区的低位宽量化与“性能指标”区的零样本评测均已接入服务器后端,会真实执行任务。功能测试、性能指标、测试记录也可作为三个独立页面单独访问,见 functional-testing.html、performance-metrics.html、test-records.html。

PLATFORM OVERVIEW从模型接入到数据管理
流程示意
01统一接入模型注册与标准化适配接入层
02轻量化处理知识蒸馏 · 结构化剪枝 · 量化优化层
03多终端服务动态部署、版本切换与回滚服务层
04数据全生命周期构建、存储、检索与归档数据层
FUNCTIONAL TESTING

低位宽量化

PERFORMANCE CRITERIA

以项目指标核对测试数据

以下为验收目标,非实测结果
主流模型适配与动态部署
≥50类
分类去重后,逐类验证部署与调用
模型参数量下降
≥50%
以实际参数总数统计,非文件大小
模型性能损耗
≤10%
与参数量指标对同一模型联合判定
有效多模态数据样本
≥1,000万
有效内容、唯一标识与持久化存储

性能测试方法

查看统计口径与计算公式

参数量下降率 =(原模型参数量 − 压缩模型参数量)÷ 原模型参数量 × 100%。降低位宽、文件大小或显存占用不等于参数量下降。

越高越好的性能指标:损耗率 = max(0,(原模型得分 − 压缩模型得分)÷ 原模型得分) × 100%。越低越好的指标反向计算差值;基线必须为正数。

同一模型配对须同时满足参数量下降率 ≥50% 和性能损耗率 ≤10%。计算使用未四舍五入的值进行判断,不得拼接不同配置的结果。

“主流模型”和“类”的划分须测试前确认。样本计数排除空内容、副本及重复导入;需另行验证多模态覆盖、持久化和实际管理能力。页面输入总量不能替代这些证据。

TEST RECORDS

保留演示记录,明确待核验材料

导出包含功能演示和后端任务的操作记录。记录保存在浏览器本地存储中,跨页面与刷新均会保留,请及时导出或按需清空。

操作记录 0 条

  1. 暂无记录。从任一功能演示开始。
测试证据准备清单
  • 软件版本、实际设备配置、操作系统与运行环境。
  • 不少于50类模型的分类清单、来源、版本、适配与部署日志。
  • 同一模型配对的实际参数量、固定测试集、指标定义与逐样本结果。
  • 千万级有效样本入库记录、各模态分布、持久化校验与管理操作记录。
TEST HANDOFF

按同一口径准备送测材料

功能步骤对应产品文档,性能阈值对应项目目标第四点。

导出当前会话记录

包含前端演示及未核验的录入信息,不是正式测试报告。可下载 JSON,或复制下方内容保存。

下载 JSON 文件