生成AIの導入で最初にやるべきことは、ツールを選ぶことではありません。今やっている仕事を書き出し、試す業務を一つ決めることです。
「ChatGPTを触ってはみたが、仕事のどこで使えばよいか分からない」。山口県内の経営者の方からも、この段階でのご相談をよくいただきます。社内にIT担当者がいない、検証にあてる時間が取れない、という事情が重なると、契約だけ先に進んで活用が止まってしまうことがあります。
この記事では、中小企業が生成AI導入でつまずきやすい6つの悩みを、公的資料で確認できる内容と、現場での進め方に分けて整理します。
山口県内でも確認されている生成AI導入の課題
まず、公的資料で確認できる事実から見ていきます。
生成AIが適用しやすい業務と、しにくい業務がある
山口県議会の決算特別委員会委員長報告（令和7年11月定例会）では、県のAIトランスフォーメーション推進事業について報告されています。やまぐちDX推進拠点「Y-BASE」で生成AIの実証環境を無償提供し、伴走支援や研修を行った結果、問合せ対応の省力化やシステム内製化作業の効率化といった活用事例が生まれた一方、生成AIの適用が進まない業務があるという課題を把握したと報告されています。
つまり、すべての業務が生成AIに向いているわけではない、ということが公的な場でも確認されています。向いている業務を見極める作業が、導入前に必要になります。
多くのサービスから目的に合うものを選ぶのが難しい
同じ報告の中で、多様な生成AIサービスの使い分けが困難であることも課題として挙げられています。ツール選びに迷うのは、担当者の知識不足ではなく、支援を受けた事業でも共通して起きている論点だといえます。
なお、この報告は県の事業を通じて把握された内容であり、県内企業全体を調査した統計ではありません。
デジタル化すべき経営課題の優先順位を決める必要がある
山口県は「デジタル対応型経営課題診断」を実施しています。県の案内によれば、県内中小企業がデジタル化に向けて優先的に取り組むべき経営課題を明確にし、デジタル経営転換を図る取組を支援することを目的とした事業です。中小企業診断士が企業を訪問（オンライン可）し、「会社のデジタル化には何が必要か」を経営課題から診断します。診断は無料で、希望者にはY-BASEによるDXコンサルティングも用意されています。
順番が「課題の明確化 → デジタル化」である点は、そのまま生成AIにも当てはまります。募集期間や対象社数は年度によって変わるため、利用を検討する場合は県のページで最新情報をご確認ください。
中小企業が生成AI導入で悩む6つのこと
1. 自社のどの業務に生成AIを使えるのか分からない
どのような悩みか
ツールは触ってみたものの、自社の仕事のどこに当てはめればよいかが見えない状態です。
なぜ中小企業で起こりやすいか
一人が複数の業務を兼務していると、仕事の手順が文章として残っていないことが多くなります。頭の中にある業務は、比較や選定の対象にしづらいものです。棚卸しの時間を取りにくいことも理由の一つです。
そのまま進めた場合の問題
「なんとなく使う」状態が続き、効果が確認できないまま契約だけが残ります。
最初に行う具体的な対応
直近1週間の仕事を、時間のかかっている順に書き出します。そのうえで「文章を書く」「情報を探す」「内容をまとめる」作業に印を付けてください。生成AIが助けになりやすいのは、この3つが中心です。
2. ChatGPT、Gemini、Microsoft Copilotなどの違いと選び方が分からない
どのような悩みか
サービスが多く、比較記事も多く、どれを選べばよいか判断できない状態です。
なぜ中小企業で起こりやすいか
機能の更新が速く、検証には時間がかかります。専任担当者がいない場合、検証時間そのものを確保しにくくなります。前述のとおり、使い分けの難しさは県の事業でも課題として挙げられています。
そのまま進めた場合の問題
比較検討が長引き着手が遅れるか、複数契約して費用だけが増えます。
最初に行う具体的な対応
すでに使っている業務システムに合わせて一つ選び、1〜2か月試すのが現実的です。Microsoft 365を使っているならCopilot（Microsoft 365の中に組み込まれた生成AI機能）、Google Workspaceを使っているならGemini、特定の基盤がないならChatGPT、といった決め方で構いません。文章作成の用途であれば、どれを選んでも極端な差が出る場面は多くありません。
3. 顧客情報・個人情報・社内資料を入力してよいか不安
どのような悩みか
何を入力してよいのか基準がなく、担当者ごとに判断が分かれている状態です。
なぜ中小企業で起こりやすいか
利用規約やデータの扱いを読み込む担当者がいないため、判断を保留したまま各自の運用になりがちです。
そのまま進めた場合の問題
社外に出してはいけない情報が入力される、あるいは反対に全員が怖がって誰も使わない、という両極端になります。
最初に行う具体的な対応
A4一枚で「入力してよい情報」と「禁止する情報」を決めます。契約書、個人情報、未公開の価格や設計情報は禁止、公開済みの自社情報や固有名詞を伏せた文章は可、といった形です。あわせて、入力内容が学習に使われない設定や法人向けプランの有無を確認してください。IPAのサイトで公開されている「テキスト生成AIの導入・運用ガイドライン」も、導入、運用（社内ルールの策定・文書化）、リスク管理を章として分けて整理しています。順番に考えるための枠組みとして参考になります。
4. AIの回答が正しいか判断できず、誰が確認するのか決まっていない
どのような悩みか
生成AIは、事実と異なる内容をもっともらしい文章で出すことがあります（ハルシネーションと呼ばれます）。その確認役が決まっていない状態です。
なぜ中小企業で起こりやすいか
既存業務にチェック工程がある会社は少なく、新しく確認者を置く余裕もないためです。
そのまま進めた場合の問題
誤った内容が社外向け文書に混ざるか、逆にすべてを疑って二度手間になります。
最初に行う具体的な対応
「AIは下書きまで、最終確認は人」という線を業務ごとに引きます。特に、数値、固有名詞、法令や制度に関する記述は、必ず一次情報で確認する運用にしてください。
5. 一部の社員が試すだけで、社内の業務として定着しない
どのような悩みか
関心のある社員だけが使い、研修を実施しても数か月後には元に戻っている状態です。
なぜ中小企業で起こりやすいか
個人の工夫で終わってしまい、手順や指示文（プロンプト）、確認方法が共有されないためです。研修は「使い方を知る」場であり、「業務に組み込む」作業とは別物です。
そのまま進めた場合の問題
属人化が進み、その社員が異動・退職すると使い方ごと失われます。
最初に行う具体的な対応
対象業務を一つに絞り、手順書を1枚だけ作ります。記載するのは、目的、入力してよい情報、指示文の例、確認する人の4項目で十分です。月に一度見直す日を決めておくと形が保たれます。
6. 有料プランや支援費用に見合う効果が出るか分からない
どのような悩みか
費用をかける判断がつかず、無料版のまま止まっている状態です。
なぜ中小企業で起こりやすいか
効果が「作業時間の短縮」という見えにくい形で表れるうえ、導入前の作業時間を測っていないため、比較ができないからです。
そのまま進めた場合の問題
感覚で「効果がなかった」と判断し、途中で打ち切ることになります。
最初に行う具体的な対応
導入前に、対象業務の作業時間、修正回数、利用頻度を2〜4週間記録します。そのうえで、全社契約ではなく1〜2名分の有料プランから始めてください。なお、生成AIを導入すれば必ず効率化できるわけではありません。測って判断できる状態を作ることが目的です。
失敗しにくい導入方法
ここまでの内容を、実行できる4段階にまとめます。
ステップ1：時間がかかっている仕事を洗い出す
1週間分の業務を書き出し、所要時間の長い順に並べます。ツールの話は、この段階では出しません。
ステップ2：人が最終確認できる業務を一つ選ぶ
選びやすいのは次のような業務です。
- 取引先へのメールの下書き
- 会議メモの整理と要点の抽出
- 提案書・見積書の構成案づくり
- 問い合わせが多い内容のFAQ整理
- お知らせやSNS投稿など情報発信の下書き
いずれも、間違いがあっても社内で気づける段階の仕事です。最初の一つは、これらの中から選ぶことをおすすめします。
ステップ3：入力してよい情報と禁止する情報を決める
A4一枚のルールを作り、対象業務に関わる人に共有します。分量よりも、判断に迷わないことを優先してください。
ステップ4：作業時間・修正回数・利用頻度を導入前後で比較する
導入前の記録と比べます。時間が変わらなくても、修正回数が減った、着手までの心理的な負担が減った、という変化が出ることもあります。効果が出なかった場合は、業務の選び方を変えて次を試します。
よくある質問
無料版の生成AIから始めてもよいですか？
問題ありません。まずは無料版で1〜2週間試し、使う場面が定まってから有料プランを検討する順番で構いません。ただし無料版は入力内容の扱いや機能が有料版と異なる場合があるため、利用前に各サービスの規約と設定を確認してください。
社内の情報を入力しても大丈夫ですか？
一律に「大丈夫」とは言えません。入力してよい情報と禁止する情報を自社で決めることが先です。個人情報や契約情報など、外部に出せない情報は最初から対象外にし、公開済みの情報や固有名詞を伏せた文章から始めるのが安全です。
社員研修を一度行えば使えるようになりますか？
研修だけで定着することは多くありません。研修は使い方を知る場で、定着には「どの業務で、誰が確認して、どう記録するか」という運用の設計が別途必要になります。
どの業務から試すのがおすすめですか？
文章の下書き、会議メモの整理、FAQの整理など、人が最終確認できて、失敗しても影響が社内にとどまる業務です。基幹システムに関わる業務や、判断責任の重い業務から始めるのは避けてください。
効果はどのように測ればよいですか？
作業時間、修正回数、利用頻度の3つを、導入前と導入後で比べます。数値そのものより、記録が残っていて次の判断ができることが重要です。
まとめ
生成AI導入の出発点は、ツール選びではありません。今の仕事を整理し、試す業務を一つ決めることです。山口県の公的資料でも、適用しやすい業務とそうでない業務があること、サービスの使い分けが難しいこと、そしてデジタル化すべき経営課題を明確にする必要があることが示されています。
まずは1週間分の仕事を書き出し、人が最終確認できる業務を一つ選んでみてください。そこから、入力ルールと効果の測り方を整えていけば、無理のない形で進められます。
株式会社スワークスでは、山口県内の中小企業を中心に、生成AIを使う業務の整理、小規模な試行、社内ルールづくり、継続できる手順の整備を支援しています。具体的な依頼内容が決まっていない段階でも、現在の仕事や困りごとから一緒に整理できます。