寓言故事
印坊学会分辨墨里的毒
城中印坊给学校、商铺和官署印告示。过去只要纸张合格、字数不超,师傅就开机印刷。
后来印坊接入一台会写文案的排字机。有人让它写课程说明,有人写药品广告,也有人试着让它编造仇恨口号、危险教程和骚扰信。掌柜先贴了一张禁词表。排字机看到几个粗暴词就拒绝,印工们觉得问题解决了。
几天后,坏请求换了写法:拆字、暗语、反问、故事包装、图片说明。禁词表拦住了笨拙的人,也误伤了医学、新闻和安全培训材料。有人建议把所有敏感主题都禁掉。学校的急救课、企业的安全演练、客服的危机处置也跟着停了,正当用途被一起压住。
一位老校对改造流程。入口先判断意图、对象和场景,出稿后再检查内容;高风险直接拒绝,灰区交人工,允许的安全教育内容则改写成合规表达。
印坊还保留误拦、漏拦和申诉记录。不同客户、地区和业务线有不同禁限,规则要能被测试、解释和更新。
掌柜先让排字机遇到几个脏词就停。几天后,坏客人学会换说法;正经药铺的警示说明却被误拦,因为里面也有危险字眼。师傅们忙着放行和拦截,反而比从前更乱。
印坊又请老师、药师和巡捕一起整理场景。讲安全课可以写危险物的防护,教人伤人不行;批评恶行可以,鼓动骚扰不行;医学说明要标明限制,夸大疗效要拦。排字机不再只盯词,而是看用途、对象和可能造成的伤害。后来师傅们还留了一本边界册,把误拦和漏拦的例子写进去。下一次遇到相似请求,不必从脾气出发争吵,而能按伤害、用途和对象重新判断。
排字机没有因此少服务客户。它学会了在规模化生成时,不把暴力、仇恨、违法和隐私伤害一起放大。