ローカルLLMは、仕事のどこを担えるのか。

LAB #002 · LOCAL LLM / PHASE 1

クラウドAIとの役割分担を見据えた、既存GPUによる実用性検証

AIを業務に取り入れる機会が増えるほど、次に考えるべきことも変わってきます。

foredoomでは、ChatGPTやCodexをWebサイトの制作・運用、開発、業務自動化などに活用しています。AIは単に質問に答えてもらう道具ではなく、実際の仕事を進めるための重要な仕組みのひとつになっています。

一方、AIへ任せる仕事が増えていけば、利用コストや処理量、情報の取り扱いといった課題も大きくなります。

すべての作業に高性能なクラウドAIが必要なのか。繰り返し発生する処理や大量の情報整理など、手元のPCで動くAIに任せられる仕事もあるのではないか。

そうした疑問から、foredoomではローカルLLMの検証を始めました。

目指しているのは、クラウドAIをローカルAIへ置き換えることではありません。

仕事の内容に応じてAIや仕組みを使い分け、人が判断や創造など、より価値の高い仕事に時間を使える環境をつくること。

そのためには、ローカルAIに何ができ、何が難しいのかを、実際の業務に近い条件で確かめる必要があります。

今回のPhase 1では、既存のWindows PCを使ってローカルLLMの環境を構築。過去の業務データやChatGPTの会話履歴を用いた検証、文章生成、日常的な利用環境の整備まで取り組んでいます。

本記事では、2026年9月から10月にかけて得られた結果と、今後の活用方針を紹介します。

BACKGROUNDクラウドAIだけに依存しない業務環境を考える

現在のAIは、複雑な問題の整理からプログラムの実装まで、幅広い仕事を支援できます。

foredoomでも、これまで人が行っていた作業の一部をAIへ任せることで、業務の進め方そのものを見直してきました。

今後は、さらに多くの作業をAIが担う可能性があります。

例えば、日々届く修正依頼の整理、過去の作業履歴からの情報抽出、実装した内容の記録、記事や資料の下書き作成などです。

こうした処理が増えるたびにクラウドAIを利用する方法もありますが、すべてを同じ仕組みで処理する必要はないかもしれません。

内容がある程度決まっている作業や、大量のデータを繰り返し扱う処理であれば、ローカルAIを活用できる可能性があります。

また、情報を外部サービスへ送らずに処理できることも、ローカルAIを検討する理由のひとつです。

foredoomが将来目指しているのは、クラウドAI、ローカルAI、AIエージェントを組み合わせた業務環境です。

ただし、すべてをAIへ任せるわけではありません。決まったルールで正確に処理できる作業には通常のプログラムを使い、顧客対応や重要な判断は人が担うことも必要です。

現時点では、次のような役割分担を想定しています。

担当	想定する役割
クラウドAI	複雑な問題の解決、新しい仕組みの設計、高度な判断支援
ローカルAI	大量の情報整理、要約、下書き、繰り返し発生するAI処理
通常のプログラム	検索、データ変換、決まったルールに従う処理
人	顧客対応、価値判断、品質確認、公開・最終判断

もちろん、これは現時点での仮説です。

実際にどこまで任せられるのか。その境界を見つけることが、今回の研究の大きな目的です。

DATA VALIDATION何の仕事を任せるのか。実際のデータから検証を始める

ローカルLLMの検証では、単にAIと会話できるかではなく、実際の仕事にどう利用できるかを重視しました。

初期には、過去の見積記録4,120行を分類・構造化する実験に取り組んでいます。

Qwen3 14Bを使った検証では、元の記録に存在しない情報をAIが正確に復元することはできず、安全に処理しようとするほど人による確認が増える問題が見えてきました。

結果として、全件を事前に構造化する方針は中止。過去データは必要なときに検索し、新しい記録から精度の高い情報を蓄積する方法へ切り替えています。

この経験から、AIで処理できることと、AIで処理する価値があることは別だと分かりました。

その後、別の検証として取り組んだのが、過去のChatGPT会話から、記事制作に必要な情報を取り出すことです。

foredoomでは、AIとのやり取りの中に、Web制作や業務自動化の試行錯誤が数多く残されています。また、別に運営するゲーム・シミュレーター関連メディアでも、過去のトラブル対応や機材の検証経験を記事に活用する構想があります。

そこで、過去の会話をもとに、何を試して、どんな結果になり、最終的に何を選んだのかをAIが正しく整理できるかを検証しました。

代表的な題材は、ゲーム用ハンドルコントローラーの冷却ファンに関する過去のやり取りです。

会話には、質問、提案、実際に試したこと、暫定的な対処、最終的に採用した運用方法など、異なる意味の情報が混在しています。

人であれば文脈から判断できる内容でも、AIが同じように区別できるとは限りません。

Qwen3 14Bによる検証では、引用先のIDがすべて一致しているにもかかわらず、質問を実施済みの事実として扱うなど、内容の解釈に誤りが見つかりました。

出典を正しく示せることと、その意味を正しく理解していることは別の問題です。

これは、将来的に過去の仕事や判断をAIが活用するKnowledge Assetを構築するうえでも、見過ごせない課題です。

この検証については、次のLAB記事で詳しく取り上げる予定です。

HARDWAREまずは既存PCで、どこまで動くのか

ローカルAIの研究を進めるにあたり、新たに専用マシンを購入する選択肢もありました。

しかし、必要となる性能や実際の業務効果が分からない段階では、投資判断の材料が不足しています。

そこで、まずは既存のWindows PCを検証環境として利用することにしました。

今回使用した主な環境は以下のとおりです。

項目	検証環境
OS	Windows 11
CPU	AMD Ryzen 7 9800X3D
GPU	AMD Radeon RX 9070 XT
VRAM	16GB
メモリ	32GB
ストレージ	SSD 2TB
AI実行環境	LM Studio / llama.cpp / Vulkan
操作端末	MacBook Pro M1 Pro

このPCは、もともとゲーム用途を含めて導入したものです。

ローカルAI専用機ではありませんが、16GBのビデオメモリを搭載しており、比較的小さな言語モデルであればGPU上で実行できる可能性があります。

初期検証では、LM StudioとVulkanを使ってQwen3 14Bなどを実行しました。

モデルの読み込みや文章生成はできたものの、WindowsのタスクマネージャーではGPU使用率が低く見える場面があり、本当にGPUが活用されているのか判断しにくい状態でした。

そこでAMD ADLXを利用し、GPUの動作を別途計測しています。

Qwen3 14Bの短時間試験では、GPU平均使用率96.2%、最大98%を記録。VRAMも約13.87GB使用されていました。

測定項目	結果
GPU平均使用率	96.2%
GPU最大使用率	98%
VRAM使用量	約13.87GB
GPU平均温度	60.8℃
GPU最大温度	61℃
TBP平均	252.8W

少なくとも今回の条件では、RX 9070 XTを利用したGPU推論が実際に行われていることを確認できました。

ただし、GPUが十分に使われていることと、AIが正確な結果を出せることは別です。

ハードウェアの能力だけでなく、AIの出力品質や実行環境との相性も検証していく必要があります。

RUNTIMEモデルが同じでも、実行環境によって結果が変わる

ローカルLLMの検証で興味深かったのは、AIモデルそのものを変更しなくても、実行環境によって結果が変わることです。

その一例がGemma 4 12Bでした。

LM Studioではモデルの読み込みに成功したものの、Thinkingと呼ばれる推論過程の制御が期待どおりに動作せず、最終的な回答が出力されないケースがありました。

そこで、LM Studioを経由せず、独立したllama.cppで実行する構成へ切り替えています。

同じGemma 4 12Bでも、この環境では推論や出力形式を期待する形で制御でき、その後の検証を進められるようになりました。

モデルを選ぶだけで、ローカルAIの使い勝手や実務性能が決まるわけではありません。

実行ソフトウェアや設定との組み合わせも含めて評価する必要があると分かりました。

また、複数のモデルを比較する中では、文章生成の速さ、指示への忠実さ、情報の正確さなど、得意とする部分にも違いが見られました。

同じGPUを使っていても、モデルによって仕事への適性が異なる可能性があります。

こうした実行環境の違いや、モデルごとの用途別評価についても、今後のLABで個別に記録していきます。

DAILY USEローカルAIを、日常の制作環境から利用する

Windows PC上でローカルLLMが動くことは確認できましたが、日常業務で活用するには使いやすさも重要です。

foredoomでは、普段のWeb制作や開発をMacBook Proで行っています。

そのため、ローカルAIの処理はWindows側に任せ、Macから利用できる仕組みを整えることにしました。

今回は新たなチャットシステムを開発するのではなく、llama.cppに標準で備わっているWeb UIを利用しています。

構成は次のとおりです。

MacBook Pro → ローカルネットワーク → Windows PC → llama.cpp / Gemma 4

MacBook Pro
ブラウザから操作

↓ ローカルネットワーク

Windows PC
RX 9070 XT / VRAM 16GB

llama.cpp / Gemma 4
GPUでAIの計算処理を実行

AIの計算処理はWindows側のGPUが担当し、Macではブラウザから質問や回答を扱います。

2026年10月24日には、Macからの接続に加え、日本語入力、複数ターンの会話、前の発言を踏まえた文章の修正まで確認できました。

接続範囲はローカルネットワーク内に限定し、外部インターネットへの直接公開は行っていません。

また、必要なときだけ起動・停止できる構成としており、現時点では常時稼働させる方式は採っていません。

これにより、検証用に動かしていたローカルLLMを、普段の作業環境から利用できる状態まで整えることができました。

WRITING文章生成では実用性を確認。用途によって評価は変わる

ここまでの検証では、過去の会話から情報を正確に取り出すなど、厳密さを求める処理を中心に評価していました。

しかし、実際の業務では、すべての作業に同じ水準の正確さが求められるわけではありません。

文章の下書きやアイデア整理であれば、人が内容を確認して修正する前提で利用できます。

そこで、Macから接続したGemma 4 12Bを使い、日本語による長文作成や相談も試してみました。

代表的なテストでは、個人事業のWeb制作会社を想定し、今後3年間のAI活用と事業計画を作成するよう依頼しています。

9章構成、4,000〜5,000文字程度という条件に対し、約4,394文字の日本語文章を生成。章立てを最後まで保ち、日本語も概ね自然なものでした。

文章の下書きや考えの整理には、十分に活用を検討できる結果です。

一方、内容を詳しく確認すると、すでにforedoomで導入している技術を新しく提案するなど、実際の状況と合わない部分もありました。

モデルの能力だけでなく、適切な前提情報を与えることや、人による内容確認が重要になります。

また、文章を自然に書けるからといって、過去の会話を正確に解釈したり、顧客からの依頼を自動的に処理できたりするわけではありません。

ここまでの検証で見えてきたのは、ローカルLLMを一括して「使える」「使えない」と評価することの難しさです。

文章作成に向いているモデルが、正確な情報抽出にも適しているとは限らない。

その違いを把握するため、foredoomでは情報抽出と日本語の文章作成を別々の評価対象として扱うようになりました。

今後は、実際の仕事に必要な品質を基準に、モデルごとの役割を検討していきます。

なお、約4,394文字という結果はWeb UIでの試用によるもので、正式な生成速度Benchmarkの数値ではありません。

SEARCHローカルAIだけで解決しない方がよいこともある

今回の研究を通じて、もうひとつ見えてきたことがあります。

それは、すべての問題にAIを使う必要はないということです。

例えば、過去のChatGPT会話を大量に検索する仕組みでは、ローカルLLMによる情報抽出を検討する一方、まず通常のプログラムとデータベースを使う方法も試しました。

約2,700万文字に及ぶ会話データをPythonとSQLiteで検索可能にしたところ、必要な会話を探すという目的に対して、十分に実用的な結果を得られています。

AIを使わなくても、確実かつ高速に処理できる仕事があるわけです。

一方で、検索した会話の中から「何が実際に行われたのか」「最終的にどんな判断をしたのか」を理解するには、文章の意味を扱うAIの能力が必要になる場面もあります。

探すことと、理解することは別の仕事です。

この違いを整理すれば、通常のプログラムとローカルAIを組み合わせ、無理のない仕組みを構築できる可能性があります。

ChatGPTの過去履歴をどのように検索し、知識として活用していくのかについては、別のLAB記事で詳しく紹介する予定です。

INVESTMENT高性能なAI専用機を、今すぐ導入しない理由

ローカルLLMの検証を進めると、より大きなモデルを動かせるマシンへの関心も高まります。

大容量メモリを搭載したMacやAI専用PCなど、ハードウェアにはさまざまな選択肢があります。

今回のRX 9070 XT 16GBでも複数のモデルを実行できましたが、メモリ容量には当然限界があります。

例えばgpt-oss-20bについては、想定する設定でのGPUメモリ使用量が大きく、日常利用するWindows PCとしては安全余裕が小さいと判断したため、実行試験を見送っています。

動作できなかったわけではなく、運用上の余裕を考慮した判断です。

一方、文章作成や情報整理など、現在の環境でまだ検証できる業務は数多く残っています。

そのため、現時点では大型のローカルAI専用機を追加購入していません。

今後の投資判断で重視するのは、単に大きなモデルを動かせるかどうかではありません。

16GBという制約によって実際の業務に支障が生じているのか。より大きなモデルを使うことで、品質や処理量、コストにどのような改善が期待できるのか。

そうした効果が具体的に確認できてから、必要なハードウェアを検討する方針です。

NEXT PHASE次の段階は、実際の業務へ組み込むこと

Phase 1では、既存のWindows PCでローカルLLMを動かし、Macから日常的に利用できる環境を整えるところまで進みました。

GPUの動作や文章生成の実用性を確認できた一方、クラウドAIの利用量や人の作業時間をどれだけ減らせるのかについては、まだ結果が出ていません。

次のPhase 2では、実際の業務へローカルAIを組み込み、その効果を測ることが中心になります。

検証候補は、Web制作・運用で発生する依頼内容の一次整理、実装後の変更履歴の要約、記事や資料の下書き作成などです。

それぞれについて、クラウドAIのみで処理する場合とローカルAIを組み合わせる場合を比較し、最終的な品質、処理時間、人による修正負担、クラウドAIの使用量を評価します。

処理が速くても、内容を誤って解釈したり、人による確認が大幅に増えたりするのであれば、十分な効果が得られたとは言えません。

また、将来的にはAIエージェントや、過去の仕事・判断を蓄積して活用するKnowledge Assetとの連携も検討しています。

これまでに得られた知識を次の業務へ引き継ぎ、同じ情報を何度も整理し直す必要のない環境を目指しています。

こうした仕組みが実務で安定して利用できるようになれば、将来的な顧客向けAI基盤や業務自動化サービスへの展開も視野に入ります。

ただし、いずれも今後の検証や構想であり、実用化できたことを示すものではありません。

NEXT RESEARCH次のLABで扱う4つのテーマ

Phase 1で見えてきた課題は、今後のLABで個別に記録していきます。

LAB #003｜AIは過去の会話から、事実を正しく読み取れるのか。

引用先は正しくても、意味を取り違える。過去会話の抽出で見えた課題を記録します。

LAB #004｜同じAIモデルでも、実行環境によって結果は変わるのか。

Gemma 4 12Bの推論制御を、LM Studioとllama.cppで比較します。

LAB #005｜ローカルLLMは、仕事によってどこまで使い分けられるのか。

文章作成と情報抽出を分け、16GBのGPUで動く6モデルの仕事への適性を比べます。

LAB #006｜ChatGPTの過去履歴は、どうすれば使える知識になるのか。

2,700万文字の会話をPythonとSQLiteで検索。情報を探す処理と意味理解の役割を整理します。

CONCLUSIONクラウドで試し、繰り返す仕事をローカルへ

foredoomでは、まずクラウドAIを使って新しい仕事の進め方を試し、手順が定まった処理や繰り返し発生する仕事を、ローカルAIへ移していくと考えています。

検索やデータ変換など、ルールが明確な処理には通常のプログラムを使う。顧客対応や品質確認、公開の判断は人が担う。それぞれの得意な部分を組み合わせていきます。

この役割分担で本当に人の手間が減るのかは、まだ検証の途中です。次は実際の仕事で使い、品質と人の確認負担、クラウドAIの使用量を見ていきます。

仕組みに任せられる仕事を任せ、人が考え、判断し、新しい価値を生み出す時間を増やす。

ローカルAIの研究も、そのための取り組みとして続けていきます。

Experiment Record

対象	既存Windows PCを活用したローカルLLM実行環境
検証期間	2026年9月〜10月
目的	クラウドAIとローカルAIの役割分担を検討するため、既存GPUによるローカルLLMの能力と実用性を確認
主な環境	AMD Ryzen 7 9800X3D / Radeon RX 9070 XT 16GB / RAM 32GB / Windows 11
使用技術	LM Studio、llama.cpp、Vulkan、Qwen3 14B、Gemma 4 12B、AMD ADLX
Status	MONITORING
確認できた結果	既存GPUによるローカルLLMの実行、Qwen3 14BのGPU負荷計測、Macからの利用環境構築、日本語の複数ターン会話・長文生成、過去業務データの構造化方針見直し
継続課題	実務導入による効果測定、情報抽出の正確性、Cloud・Local・Humanの役割分担、AIエージェント・Knowledge Assetへの展開

Update Log

• 2026年9月26日前後既存Windows PCでローカルLLM検証を本格化。Qwen3 14Bによる業務データ検証、GPU計測などを実施
• 2026年10月過去のChatGPT会話を用いたKnowledge抽出の検証を展開
• 2026年10月24日Gemma 4の日常利用環境を構築。MacからのWeb UI接続、日本語会話、長文生成を確認