生成AIを試すところまでは、たいていの会社がもう到達しています。止まるのはその先です。 私が担当するのは、AIが外しても業務が止まらない形に設計して、本番で動き続けさせるところ。要件定義から実装、運用、障害対応まで一人でやります。
「精度が足りないから」ではありません。むしろ精度はそこそこ出ていて、それでも現場に置けない。理由はここに集まります。
誤判定そのものより、誤判定が起きたときに人が何もできなくなる作りのほうが問題です。止まらない出し方にしておく必要があります。
1つ直すと前できていたことができなくなる。しかも気づかない。デグレを検知できない自動化は、いずれ触られなくなります。
一度大きく外すと、以降は全部人が見直すようになります。そうなると自動化した意味が消えます。信用は設計で守るものです。
どこをAIに任せて、どこを人が見るか。丸ごと自動化も丸ごと手動もしません。しかもその境界はコードの中ではなく、お客さん自身が書き換えられる場所に置きます。
断定させない項目をつくる。判断材料が原理的に存在しないものは、あえて自動化しない。そして項目を黙って落とさない。気づかないまま消えている状態が一番こわい不具合です。
本番の実データを固定したテストを用意して、改修前と1文字でも変わっていないかを突き合わせてからリリースします。いきなり全体に反映せず、記録だけ取る段階を挟みます。
厳しくなる/甘くなる方向の変更は、こちらの判断だけで入れません。原因・選べる案・実装コストを1枚にまとめて出して、承認をもらってから本番に入れます。
クライアント業務・自社事業で実際に動いているものから3つ。守秘のため会社名は業種で書いています。下の一覧に1つだけ、その場で触れるものがあります。
提出された研修動画を1本ずつ人が全数目視していた品質チェックを、AIの一次判定+人の最終確認に再設計。フォーム提出をトリガーに動画を解析し、項目ごとの判定とタイムスタンプ付きの指摘をシートに書き戻します。要件定義から運用・障害対応・定例での仕様説明まで担当。
カリキュラムに準拠したスライド教材を、シナリオ生成・画像生成・スライド組み立てまで自動化。手作業で数時間〜数日かかっていた教材がボタン1つで出ます。実行時間の制限は状態保存と時限トリガーで突破し、キャラクターの一貫性やルビの制御はプロンプト層で担保しました。
スタッフはスマホでQRを読むだけで出退勤。シフト表・勤務実績・給与計算までスプレッドシート1つで完結します。深夜割増・週40時間超・日をまたぐシフトの期待値を全て手計算してテストで固定してあるので、仕様変更で金額が変わったら検知できます。実店舗で稼働中。
どの工程の、どの判断を、誰の責任で置き換えるのか。そこを決めるところから一緒に整理させてください。
「これって自動化できます?」の段階で大丈夫です。できない場合は、できないと理由つきでお伝えします。
詳細版には、本番で起きた事故とその再発防止策まで書いています。