PromptLens · Reproducible Evaluation

提示词实验对比报告

反馈分类-v1-基础指令 → 反馈分类-v2-意图与具体理由 · 固定数据与模型参数,审计已保存输出差异

离线流水线演示,不是模型质量结论:输出由确定性规则 mock provider 生成,未调用真实模型。这里的指标差异只能验证版本注册、批量运行、计分和报告流程,不构成真实模型或提示词质量提升证据;请在独立留出集上使用真实 API 复测。token 数为字符启发式估算,不是 tokenizer 精确计数。
成本为估算值:按字符启发式 token 估算与各实验配置单价计算,不代表供应商账单。token 数来自 ceil(Unicode 字符数 / 4) 的启发式估算,单价由运行配置提供;真实账单请以供应商计量为准。
完全匹配
92.9%
基线 7.1% · +85.7 pp
包含期望
92.9%
基线 7.1% · +85.7 pp
正则通过
100.0%
基线 78.6% · +21.4 pp
候选估算成本
0.00013575 USD
基线 0.00007320 USD · +0.00006255 USD

运行元数据

比较 ID
cmp_26ab1f23a7b50cbd6468
生成时间
2026-11-12T07:54:46Z
基线实验
反馈分类-v1-基础指令 / run_453d906d772cf609da93
候选实验
反馈分类-v2-意图与具体理由 / run_4b312ce41e8290fe5186
基线提示词
p_6764c526720c1ab0089ef693c6472983aea73d9f98e4de230381ea6d9de55ac2
候选提示词
p_0ff357957dab904f8df0c248fab8fb32c079806d4e3945a1780bce66a0ee14bb
模型 / 提供器
offline-feedback-rules-v1 / mock
数据 SHA256
5837588c00a0a0d848b6b815768b6dc769a797d2fa3e9e970fe1d9aba61a2869
执行策略
{"timeout_seconds": 2.0, "max_retries": 2, "retry_backoff_seconds": 0.05, "concurrency": 1, "serial_reproducible": true}
Token 口径
ceil(Unicode 字符数 / 4),仅为估算
成本口径
估算:token(启发式) × 配置单价

指标汇总

指标基线候选Delta(候选-基线)候选计分样本
完全匹配
exact_match
7.1%92.9%+85.7 pp14
包含期望
contains
7.1%92.9%+85.7 pp14
正则通过
regex
78.6%100.0%+21.4 pp14

成本估算

项目基线候选Delta(候选-基线)
估算总成本0.00007320 USD0.00013575 USD+0.00006255 USD
计价口径{"currency": "USD", "input_per_1k_tokens": 0.00015, "is_estimate": true, "label": "示例单价(非供应商报价)", "output_per_1k_tokens": 0.0006}

按标签汇总

标签指标基线候选Delta样本数
一般评价完全匹配100.0%100.0%+0.0 pp1
包含期望100.0%100.0%+0.0 pp1
正则通过100.0%100.0%+0.0 pp1
产品功能完全匹配0.0%100.0%+100.0 pp2
包含期望0.0%100.0%+100.0 pp2
正则通过100.0%100.0%+0.0 pp2
价格完全匹配0.0%100.0%+100.0 pp1
包含期望0.0%100.0%+100.0 pp1
正则通过100.0%100.0%+0.0 pp1
关键词歧义完全匹配0.0%100.0%+100.0 pp2
包含期望0.0%100.0%+100.0 pp2
正则通过0.0%100.0%+100.0 pp2
其他完全匹配100.0%100.0%+0.0 pp1
包含期望100.0%100.0%+0.0 pp1
正则通过100.0%100.0%+0.0 pp1
咨询完全匹配0.0%75.0%+75.0 pp4
包含期望0.0%75.0%+75.0 pp4
正则通过75.0%100.0%+25.0 pp4
客服完全匹配0.0%100.0%+100.0 pp1
包含期望0.0%100.0%+100.0 pp1
正则通过100.0%100.0%+0.0 pp1
常规完全匹配0.0%100.0%+100.0 pp1
包含期望0.0%100.0%+100.0 pp1
正则通过100.0%100.0%+0.0 pp1
建议完全匹配0.0%100.0%+100.0 pp4
包含期望0.0%100.0%+100.0 pp4
正则通过50.0%100.0%+50.0 pp4
投诉完全匹配0.0%100.0%+100.0 pp5
包含期望0.0%100.0%+100.0 pp5
正则通过100.0%100.0%+0.0 pp5
物流完全匹配0.0%50.0%+50.0 pp2
包含期望0.0%50.0%+50.0 pp2
正则通过100.0%100.0%+0.0 pp2
理由泛化完全匹配0.0%0.0%+0.0 pp1
包含期望0.0%0.0%+0.0 pp1
正则通过100.0%100.0%+0.0 pp1
疑问词干扰完全匹配0.0%100.0%+100.0 pp2
包含期望0.0%100.0%+100.0 pp2
正则通过50.0%100.0%+50.0 pp2
稳定性完全匹配0.0%100.0%+100.0 pp1
包含期望0.0%100.0%+100.0 pp1
正则通过100.0%100.0%+0.0 pp1
订单完全匹配0.0%100.0%+100.0 pp1
包含期望0.0%100.0%+100.0 pp1
正则通过100.0%100.0%+0.0 pp1

逐条结果(14 条)

01 · ship-time咨询常规

输入

请问订单一般多久发货?

期望输出

咨询|询问发货时间

基线输出 成功

咨询|用户提出疑问

候选输出 成功

咨询|询问发货时间
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
02 · broken-screen投诉疑问词干扰

输入

收到的手机屏幕碎了,怎么处理?

期望输出

投诉|商品到货损坏

基线输出 成功

投诉|用户表达不满

候选输出 成功

投诉|商品到货损坏
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
03 · slow-delivery投诉物流

输入

包裹十天了还没到,太慢了。

期望输出

投诉|物流迟迟未送达

基线输出 成功

投诉|用户表达不满

候选输出 成功

投诉|物流迟迟未送达
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
04 · dark-mode产品功能建议

输入

建议App增加深色模式。

期望输出

建议|增加深色模式

基线输出 成功

建议|用户提出建议

候选输出 成功

建议|增加深色模式
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
05 · excel-export产品功能建议

输入

希望能支持导出Excel,方便做账。

期望输出

建议|支持导出Excel

基线输出 成功

建议|用户提出建议

候选输出 成功

建议|支持导出Excel
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
06 · change-address咨询订单

输入

如何修改收货地址?

期望输出

咨询|询问地址修改方法

基线输出 成功

咨询|用户提出疑问

候选输出 成功

咨询|询问地址修改方法
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
07 · support-loop客服投诉

输入

客服两次都说稍后处理,到现在没人解决。

期望输出

投诉|客服未及时解决问题

基线输出 成功

投诉|用户表达不满

候选输出 成功

投诉|客服未及时解决问题
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
08 · invoice-template建议疑问词干扰

输入

能不能增加发票抬头模板?

期望输出

建议|提供发票抬头模板

基线输出 成功

咨询|用户提出疑问

候选输出 成功

建议|提供发票抬头模板
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 100.0%
09 · color-praise一般评价其他

输入

这个配色挺好看的。

期望输出

其他|无法归入以上类别

基线输出 成功

其他|无法归入以上类别

候选输出 成功

其他|无法归入以上类别
逐条 Delta:完全匹配 0.0% · 包含期望 0.0% · 正则通过 0.0%
10 · membership-price价格投诉

输入

你们的会员太贵了。

期望输出

投诉|会员价格偏高

基线输出 成功

投诉|用户表达不满

候选输出 成功

投诉|会员价格偏高
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
11 · app-crash投诉稳定性

输入

界面经常闪退,重装也没用。

期望输出

投诉|应用频繁闪退

基线输出 成功

投诉|用户表达不满

候选输出 成功

投诉|应用频繁闪退
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 0.0%
12 · refund-suggestion关键词歧义建议

输入

建议退款流程更简单一些。

期望输出

建议|简化退款流程

基线输出 成功

投诉|用户表达不满

候选输出 成功

建议|简化退款流程
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 100.0%
13 · refund-arrival关键词歧义咨询

输入

已经申请退款了,想问问什么时候到账?

期望输出

咨询|询问退款到账时间

基线输出 成功

投诉|用户表达不满

候选输出 成功

咨询|询问退款到账时间
逐条 Delta:完全匹配 100.0% · 包含期望 100.0% · 正则通过 100.0%
14 · tracking-number咨询物流理由泛化

输入

物流单号在哪里查看?

期望输出

咨询|询问物流单号查询方法

基线输出 成功

咨询|用户提出疑问

候选输出 成功

咨询|用户提出疑问
逐条 Delta:完全匹配 0.0% · 包含期望 0.0% · 正则通过 0.0%