← 概念解説に戻る

Concept Fable

システムカード

先に結論:System Cardは、展開済みAIシステムの能力、構成、リスク、緩和策、評価結果、適用境界、監督メカニズムを記述する文書である。Model Cardよりもエンドツーエンドのシステムに注目し、モデル、RAG、ツール、権限、データフロー、ユーザーインタラクション、運用制御を含む。

System Card · ドキュメント

まず物語を読む。ここでは急いで定義を示さず、まず問題そのものを立ち上がらせる。

寓話

親方だけでなく、工房全体を記録する

町が各職人に作業証を作った後、事故はいくらか減った。しかしある注文は依然として間違った。職人に問題はなく、誤りは派工プロセス、倉庫ツール、検収規則の間にあった。

顧客は責任の所在を問う。管事は師匠の作業証を出し、師匠の技量が合格であることを証明した。倉庫はツールの説明書を出し、インターフェースが正常であることを証明した。しかし、システム全体がどのように設計・評価・制御されているかを説明できる者は誰もいなかった。

町長はまずすべての文書を一つの戸棚に収めた。資料は多かったが、それでも外部の審査者がシステムリスクを理解できる説明にはならなかった。

後に彼らは工房総冊を書いた:工房の目標、顧客、師匠、道具、物の流れ、鍵、リスク、補救方法、試工の結果、人手による監視、既知の制限。

総台帳は議論を個々の職人から全体の納品へ移す。一人の受付係のリスクは、話術だけでなく、資料棚、外部ツール、鍵、取引記録、シフト交代の流れ、熟練工への引き継ぎからも生じる。

リリース審査では、チームは総冊に沿って項目ごとに確認した:どの能力を公開約束できるか、どの失敗モードに監視があるか、どのシーンで拒否またはエスカレーションしなければならないか。工房もそれにより多くの口論が減った。以前は誤りが出た後、各自が自分の部分は壊れていないと証明した;今はまず責任チェーンのどこが断裂したかを見て、それからツールを直すか、プロセスを直すか、権限を直すか、受け入れを直すかを決める。

総帳簿もシステムの変化に合わせて更新する必要がある。師匠を替え、道具を増やし、顧客を拡大し、データソースを変えることは、いずれもリスク面を変える。外部審査者が再び来た時、もはや分散した戸棚を案内して回られることはない。彼はまず総帳簿を見て、この工房が誰にサービスし、どの扉に鍵がかかり、どの作業を老師匠に引き継がせる必要があるかを知り、それから対応する証拠を抜き取り検査する。

町長は最後に理解した。企業が買うのは一人の職人ではなく、現実の業務に影響を与えるシステム一式なのだ。システムレベルの説明は全体の責任チェーンをカバーしなければならない。後に管理人はこの経験を日々の規則に書き加えた。まずシナリオを見て、次に境界を見て、最後に失敗したときに誰が引き継げるかを見る。これらがすべて明確になって初めて、美しいデモは納品可能な仕事になる。

明らかにする

この物語が語るのは:システムカード

System Cardは、展開済みAIシステムの能力、構成、リスク、緩和策、評価結果、適用境界、監督メカニズムを記述する文書である。Model Cardよりもエンドツーエンドのシステムに注目し、モデル、RAG、ツール、権限、データフロー、ユーザーインタラクション、運用制御を含む。

企業Agentのリリース時、System Cardは製品、コンプライアンス、顧客信頼、監査資料として機能し、外部の人がシステムにできること、できないこと、リスクがどう制御されるかを理解するのを助ける。

メタファーのマッピング

  • 職人の作業証:Model Card
  • 工房総冊:System Card
  • モデル、ツール、データフロー、権限:エンドツーエンド AI システムの構成
  • リリース前の項目別チェック:システムレベルのリスクレビュー
  • システムの変化に合わせて更新:デプロイ変更はシステムリスクを変える

Andy(任旭)判断

この概念の実戦的価値は、「賢く見えるAI機能」を納品可能、検収可能、ガバナンス可能な作業単位に分解する手助けをすることです。

モデルカードリスク評価
京ICP备2026014272号