← 返回概念解读

Concept Fable精修版

公平性

Fairness · Governance/Risk

先读故事。这里不急着给定义,先让问题自己长出来。

寓言故事

同一座桥不能总让一边村民多等三班船

两岸村民共用一座渡桥。老船夫按排队先后来回摆渡,虽然慢,大家大致觉得公道。

后来码头装了调度算盘。它会根据货量、天气、票价和历史准点率安排船次,目标是让总等待时间最短。

算盘上线后,总体效率提高了。可东岸村民发现自己常被推迟,尤其在集市日,总要比西岸多等三班。西岸商户却说大家总等待变短,何必计较。东岸人把老人、挑担客和赶集妇人的记录摆出来,码头才看见平均数背后的固定受损者。

码头先说平均等待变短了,说明系统有效。东岸人拿出记录:平均数好看,却把损失集中给了同一群人。

管事开始分组检查结果:按岸边、时段、货客类型和特殊需求看等待差异,并追问差异有没有正当业务理由。第一次调整又过头,东岸被优先太多,西岸急货积压。管事发现,公道不是简单反向补偿,还要说明差异来源和可接受范围。

他们调整规则,让效率目标同时受到公平约束。若某一岸连续受损,系统必须解释原因、触发复核,必要时牺牲一点总体速度。

后来渡桥没有做到每个人每次完全一样,但不再让同一群人反复承担隐形代价。于是码头把解释贴在船棚:何时按先后,何时按急货,何时照顾行动不便者;谁觉得受损,可以拿票据复查。渡桥还公开每月记录。若某一岸持续多等,管事必须解释是天气、货量还是规则问题;解释不成立,就要调整。公道需要被看见,不能只靠管事自称。

村里学到,总体变快不等于人人都被公平对待。看渡桥好不好,不能只看平均等多久,还要看哪一群人反复多等,差异有没有正当理由,能不能被发现和纠正。

揭示

这个故事讲的是:公平性

Fairness 指 AI 系统避免对受保护或业务相关群体产生无正当理由的不利待遇或结果。它需要定义相关群体、测量差异影响、分析原因、设置公平性指标和缓解措施。在企业 Agent 中,公平性可能体现在客户分配、客服优先级、信贷建议、招聘筛选、定价和服务可达性等场景。

它重要的地方在于:它不只是一个术语,而是在真实 AI / Agent 系统里会反复出现的结构性问题。理解它,才能判断什么时候该加模型,什么时候该改流程,什么时候该补治理。

隐喻映射

  • 渡桥调度算盘:优化业务目标的 AI 系统
  • 总等待时间最短:只看总体效率指标
  • 东岸多等三班:群体性不利影响
  • 分组检查:公平性评估和差异影响分析
  • 正当业务理由:合理差异与不公平差异的区分
  • 公平约束和复核:缓解措施与人工监督
  • 牺牲一点速度:公平性与效率的治理取舍

Soloharness 判断

这个概念的实战价值,是帮你把“看起来聪明的 AI 功能”拆成可交付、可验收、可治理的工作单元。

biasdiscriminationdisparate impactfairness metricsresponsible AI