寓話
印刷工房は墨の中の毒を見分けることを学んだ
町の印刷所は学校、商店、役所の告示を刷っていた。以前は紙が規格に合い、字数が超過していなければ、職人は機械を動かして印刷した。
後に印坊は文案を書ける植字機を導入した。ある者は講座説明を書かせ、ある者は薬品広告を書き、またある者は憎悪スローガン、危険なチュートリアル、嫌がらせの手紙を捏造させようとした。店主はまず禁止語リストを貼った。植字機はいくつかの粗暴な語を見ると拒否し、印工たちは問題が解決したと思った。
数日後、悪意あるリクエストは書き方を変えた。文字の分解、隠語、反問、物語による包装、画像による説明。禁止語リストは稚拙な者を遮ったが、医学、ニュース、安全研修の資料も誤って傷つけた。誰かがすべての敏感なテーマを禁止しようと提案した。学校の救急授業、企業の安全訓練、カスタマーサービスの危機対応もそれに伴って止まり、正当な用途も一緒に押さえ込まれた。
ある老校正者がプロセスを改造した。入口でまず意図・対象・場面を判断し、出稿後に内容を検査する。高リスクは直接拒否し、グレーゾーンは人手に回し、許可される安全教育コンテンツはコンプライアンス表現に書き換える。
印坊は誤って止めた記録、見逃した記録、異議申立ての記録も保持している。顧客、地域、事業ラインごとに禁止・制限は異なり、ルールはテスト可能で、説明可能で、更新可能でなければならない。
店主はまず植字機に、いくつかの汚い単語に遭遇すると停止させた。数日後、悪質な客は言い換えを覚えた。まともな薬舗の警告説明は誤って遮断された。危険な語句が含まれていたからだ。職人たちは通過と遮断に忙しく、かえって以前より混乱した。
印坊はまた、教師、薬師、巡捕を一緒に招いてシーンを整理した。安全講義では危険物の防護を書けるが、人を傷つける教えはだめ。悪行を批判するのはよいが、嫌がらせを扇動するのはだめ。医学説明は制限を明記しなければならず、効能を誇大に語るのは止めなければならない。植字機はもはや語だけを見ず、用途、対象、起こりうる害を見る。後に師匠たちは境界冊を一冊残し、誤って止めた例と見逃した例を書き込んだ。次に似た要求に遭ったとき、気性から争うのではなく、害、用途、対象に基づいて再判断できる。
排字機はそれによって顧客へのサービスを減らさなかった。スケール生成の際に、暴力、憎悪、違法、プライバシー侵害を一緒に増幅しないことを学んだ。