中小企業のAI導入で最初に決めたいのは、使うAIではなく「人が確認する場所」
「AIを仕事に使ってみたい。でも、間違ったことを書かれたら困る」。そう感じて手が止まっている方は多いはずです。
AI導入の話は「どのAIを選ぶか」から始まりがちです。ただ、小さな会社が先に決めておきたいのは、使うAIの種類ではなく、AIが出したものを誰がどこで確かめ、最終的に誰が決めるかのほうです。
この記事では、その「人が確定する場所」の決め方を、仮想のケースを交えて整理します。
目次
「どのAIを使うか」から入ると、判断が止まりやすい
中小企業庁「2025年版 小規模企業白書」（第2部 第1章 第1節）の第2-1-10図では、「利益拡大」「売上拡大」を目指す小規模事業者は、着手する必要がある経営課題として「人材確保」「省力化・生産性向上」と回答した割合が比較的高い、と説明されています。
省力化に関心が向くと、次に出てくるのはたいてい「どのAIを使えばいいか」という質問です。ただ、道具を決めても、出てきた文章や数字をそのまま使ってよいかは決まりません。
そこが決まらないまま試すと、結局すべて読み直すことになりがちです。
IPAが掲載する「テキスト生成AIの導入・運用ガイドライン」（2024年7月公開）も、生成AIを導入すれば即座に業務改善につながるとは言い切れず、利用する人に活用のイメージがあるかどうかで効果の表れ方が変わる、と説明しています。
AIに任せる工程と、人が確定する工程を分ける
決め方は複雑ではありません。
仕事の流れを工程に分け、それぞれを「AIに下書きさせてよい工程」「人が確かめる工程」「人が決める工程」の三つに割り振ります。
目安は、その工程の結果があとから取り返せるかどうかです。社内で使うメモなら、間違っていても直せます。相手に渡す数字や、条件を約束する文は、渡したあとでは取り返しがつきません。
取り返しがつかない工程ほど、人が決める側に置きます。
仮想例：受け取った資料を要約して、社内の作業メモにする
以下は説明のための仮想例です。実在する企業や相談内容をもとにした事例ではありません。
取引先から届いた仕様の資料が20ページある。全員が読む時間は取れないので、要約して社内の作業メモにしたい。工程に分けると、こうなります。
- 資料のうち、AIに入力してよい範囲を選ぶ（人）
- 要約の下書きを作る（AI）
- 原文と突き合わせ、抜けと誤りを直す（人）
- 作業メモとして確定し、共有する（人）
AIが担うのは2つ目だけです。1つ目と3つ目を飛ばすと、誰も裏を取っていない要約が、社内で「決まったこと」として流通しはじめます。
出力を確認するとき、何を見るか
「確認する」と決めても、何を見るのかが決まっていなければ読み流して終わります。社内で使う文書なら、まず見るのは次の2点です。
- 書いてある事実をたしかめる。
もっともらしく書かれていても、事実に反する内容や、実際には存在しない情報が混ざることがあります。前掲のガイドラインは、これを減らす方法は知られているものの、完全に解消することはできない、としています。 - 見方がかたよっていないか見る。
学習したデータのかたよりが出ることがあります。一方の見方に寄っていないか、差別につながる表現が無いかを見ます。
社外に出す文書では、ここにもう1点が加わります。他人の文章や商標・意匠に似ていないか。事実でないことや、人や団体の名誉を傷つけることを書いていないか。
同ガイドラインも、これらを生成物を引用したり外部に公開したりするときの注意として整理しています。
ただし、社内で使うだけなら他人の権利を見なくてよい、という意味ではありません。社内向けでも似たものになっていないかは目を通し、社外に出すときは確認の項目として立てる、という違いです。
そして、AIが書いたものであっても、外に出した文書について問われるのは出した側です。社外に出すものほど、確認を厚くしておいてください。
当社が付け加えているのは、その内容を判断できる人が確認するという条件です。
判断できない領域の出力は、目を通しても確認したことになりません。確認できる人がいない工程は、AIに任せる側から外す。これは資料にある話ではなく、当社が置いている線引きです。
入れてよい情報を決め、決めたことを一枚に残す
確認と対になるのが、入れてよい情報の線引きです。
前掲のガイドラインは、入力を制限することが推奨される情報として、著作権保護情報、氏名や住所、電話番号といった個人情報、組織の内部文書や秘密保持契約を締結した情報といった組織の機密情報を挙げています。入力したプロンプトが学習データとして利用されると、第三者による生成物にそれらの情報が含まれる可能性があるためです。
最初から詳しい規程は要りません。
「お客様の名前が入っているものは入れない」のように、自社で判断できる短い線から始めるほうが続きます。
使うサービスの契約形態や、入力した内容が学習に使われるかどうかの設定は、提供元の公式ページで確認し、確認した日付を残してください。
ただし、学習に使われない設定にすることと、お客様や従業員の個人情報を入れてよいかどうかは、別の話です。個人情報を外部のサービスで扱う場合は、その扱いが個人情報保護法の求めるものになっているかを、設定とは別に確かめる必要があります。判断がつかないうちは、入れないでおくのが安全です。
決めたことは、紙一枚か、共有フォルダのメモ一つにまとめます。
- 何に使うか（対象の工程）
- 入れてよい情報と、入れない情報
- 出力を確認する観点
- 確認する人と、最終的に決める人
- 判断できないときに誰へ相談するか
同ガイドラインは、利活用ガイドラインが存在しない場合、利用方法を利用者が自己判断せざるを得ず、個人情報を入力して漏洩してしまう、効果的な利用方法がわからず利用をやめてしまう、といった事態が起きる可能性が高くなる、と指摘しています。決めていないことは、現場では各自の判断になります。
小さく試して、確認にかかる手間ごと確かめる
決めたら、対象と期間を区切って試します。
同ガイドラインは、導入・運用のプロセスをPDCAサイクルとして示し、1周目はスモールスタート、2周目は本番導入と、何度も回して改善を重ねる必要がある、と説明しています。
ここからは資料ではなく、当社が仕事の中で置いている目安です。
試すときに見るのは、下書きができた速さだけではありません。
確認と直しにかかった時間、確認する人が判断に迷った回数も記録しておくと、その工程を任せ続けてよいかを判断できます。下書きの時間より確認の時間が長くなるなら、その工程はまだ人が最初から書いたほうが速い、という結論もあり得ます。
効果の出方は、扱う情報と工程によって変わります。
だからこそ、最初に決めたいのは「どのAIを使うか」ではなく、「どこを人が確定するか」になります。
まずは手元の仕事をひとつ選び、工程に分けて、どこに確認を置くかを書いてみてください。工程の分け方そのものから整理したい場合は、小さな会社の業務改善は、ツール選びより「仕事の流れ」を見るところからもあわせてご覧ください。どこを人が持つべきか判断がつかない場合は、ワンスフォルのDX支援・業務デジタル化のページもご覧ください。
参考資料
- IPA「テキスト生成AIの導入・運用ガイドライン」（掲載：独立行政法人情報処理推進機構（IPA）／作成：同機構 産業サイバーセキュリティセンター 中核人材育成プログラム7期生「生成AIのセキュリティリスクと対策プロジェクト」／2024年7月公開、ページ最終更新2024年7月31日。確認日 2026-09-20）。本書には、記載内容はIPAおよび産業サイバーセキュリティセンターの意見を代表するものではなく、中核人材育成プログラム卒業プロジェクトメンバーの見解に基づく旨が明記されています。
- 中小企業庁「2025年版 小規模企業白書」第2部 第1章 第1節（発行元：中小企業庁／2025年版。確認日 2026-09-20）。同節が用いている調査は、株式会社帝国データバンク「令和6年度中小企業の経営課題と事業活動に関する調査」（2024年11〜12月実施のWebアンケート。全国75,000者の事業者を対象に有効回答17,848者・回収率23.8％、うち大企業170社を除く中小企業・小規模事業者17,678者を分析。ほかに商工会および商工会議所の会員である小規模事業者から有効回答6,910者）です。第2-1-10図の数値は本文に引用していません。
- 個人情報保護法については、2026年7月17日に改正法が公布され、政令・規則・ガイドライン等は整備が進められています（個人情報保護委員会「令和８年 改正個人情報保護法について」 確認日 2026-09-20）。本記事は改正の内容には立ち入っていません。
