ローカル生成 AI を安全に使い続けるための運用ルールとチェックリスト【中小企業のためのローカル生成 AI 導入ガイド 第 5 回】

連載の最終回は、ローカル生成 AI を社内で安全に使い続けるための運用です。ローカル生成 AI は、データを外部に出さない構成をとれることが利点ですが、設定や運用を誤ると、その利点が失われてしまいます。導入時と運用中に確認したいポイントを、チェックリストとして整理します。

1. ネットワークの公開範囲と認証

ローカル生成 AI のソフトウェアの多くは、初期設定では同じ PC からのみ接続を受け付けます。Ollama は標準で 127.0.0.1（自分自身）のポート 11434 で待ち受け、LM Studio のサーバーも標準では同じ PC からの接続のみです。

部署で共有するために接続範囲を広げる場合は、次の点を確認します。

• 認証を有効にする：LM Studio では API トークンによる認証を設定でき、公式資料でも、同じ PC 以外からの接続を許可する場合は認証の有効化を推奨しています。GEEKOM の検証記事も、標準では認証がない構成のため、ポートをインターネットに直接公開しないよう注意を促しています。
• 接続元を社内に限定する：Windows のファイアウォールなどで、接続を許可する範囲を社内のネットワークに限定します。
• 外部公開につながる設定を禁止する：トンネリングサービスなど、社外から接続できるようにする仕組みは、社内ルールで使用を禁止するか、管理者の承認制にします。
• 利用者ごとのアカウント：共有の画面（Open WebUI など）を使う場合は、利用者ごとにアカウントを分け、役割と権限を設定します。

2. 外部と通信する機能を確認する

ローカルのソフトでも、外部と通信する機能を持つものがあります。

• Ollama にはクラウド上のモデルや Web 検索を使う機能があり、公式資料では、設定ファイルまたは環境変数（OLLAMA_NO_CLOUD=1）で無効にする方法が案内されています。
• LM Studio は、モデルとの対話や文書の読み込み、ローカルサーバーはインターネット接続なしで動作する一方、モデルの検索・ダウンロード、実行エンジンの追加、アプリの更新確認には通信が必要と説明されています。
• チャット画面のソフトには、Web 検索やクラウドストレージとの連携機能を持つものがあります。使わない機能は無効にし、使う場合は社内ルールに沿っているかを確認します。

導入時に、どの機能を使い、どの機能を無効にしたかを記録しておくと、担当者が替わったときにも確認しやすくなります。

3. モデルとソフトウェアのライセンスを確認する

オープンウェイトモデルは自由に使えるとは限らず、モデルごとに利用条件（ライセンス）が定められています。商用利用の可否、利用者数や用途の制限、表示義務などは、モデルの配布ページで確認します。ソフトウェアについても同様です。

社内では、次のような項目を台帳にして管理しておくと安心です。

項目	記録する内容の例
モデル名・版	モデルの名称、量子化の種類、ダウンロード日
入手元	配布ページの URL
ライセンス	ライセンスの名称、商用利用の条件、確認日
用途	どの業務で使っているか
担当者	導入・更新を判断した人

4. 更新とバックアップ

• OS・ドライバー・ソフトの更新：セキュリティ更新を適用する時期と手順を決めます。更新後に動作が変わることがあるため、主要な質問で回答を確認してから本番に戻すと安心です。
• オフライン環境の場合：インターネットから切り離して使う場合も、更新ファイルやモデルを持ち込む手順と、その確認方法を決めておきます。
• バックアップ：RAG に登録した文書、設定、利用者情報などをバックアップの対象にします。モデルのファイルは再ダウンロードできる場合でも、使っている版を記録しておきます。
• 停止時の代替手段：故障やメンテナンスで止まったときに、業務をどう続けるかを決めておきます。

5. 利用ルールを決めて周知する

• 入力してよい情報：個人情報や取引先の機密情報を扱ってよいか、扱う場合の条件。個人情報保護委員会の注意喚起が示すとおり、個人情報は利用目的の範囲内で扱う必要があります。
• 出力の確認：AI の回答には誤りが含まれることを前提に、数値・固有名詞・根拠を確認してから使うこと。
• 社外への提出物：AI が作成した文章を社外に出す場合の確認手順。
• 相談窓口：使い方や判断に迷ったときの問い合わせ先。

総務省・経済産業省の「AI事業者ガイドライン（第 1.2 版）」には、AI を利用する事業者が確認できるチェックリストが用意されています。社内ルールを作る際の確認に活用できます。

6. 体制と見直し

小規模な企業では、専任の担当者を置くのは難しいかもしれません。それでも、「機器とソフトを管理する人」「利用ルールを決める人」「困ったときの相談先」は明確にしておきます。半年に 1 回など時期を決めて、使われ方やルールを見直すと、形だけのルールになるのを防げます。

運用チェックリスト

区分	確認する内容
ネットワーク	接続を受け付ける範囲は必要最小限か／認証を有効にしているか／インターネットに公開していないか
外部通信	クラウド連携・Web 検索などの機能の有効・無効を確認し、記録したか
ライセンス	使っているモデル・ソフトの利用条件を確認し、台帳に記録したか
更新	OS・ドライバー・ソフトの更新手順と時期を決めたか
バックアップ	文書・設定・利用者情報のバックアップと、停止時の代替手段を決めたか
利用ルール	入力してよい情報、出力の確認、社外提出時の手順を周知したか
権限	ナレッジ（文書）ごとに閲覧できる人を限定したか
体制	管理担当・ルール責任者・相談窓口を決め、見直しの時期を決めたか

連載のまとめ

この連載では、ローカル生成 AI の考え方（第 1 回）、PC の選び方（第 2 回）、A9 Mega を例にした構築（第 3 回）、社内文書を使う RAG（第 4 回）、そして運用のルール（第 5 回）を紹介しました。ローカル生成 AI は、PC を用意すれば終わりではなく、目的とルールを決めて小さく始め、効果を確かめながら広げていく取り組みです。まずは 1 つの業務と 1 台の PC から始めてみてはいかがでしょうか。

GEEKOM 法人ストアでは、各製品の仕様書（PDF）を資料ダウンロードページで公開しています。想定している用途や利用人数をお知らせいただければ、構成の比較やお見積りのご相談にも対応いたします。なお、AI ソフトウェアやモデルの動作環境は各ソフトの提供元でご確認ください。