スマホで動くLLM：オンデバイスAIの最新動向2025

ここ数年、チャットボットや文章生成ツールなど、生成AIは業務のあらゆる場面に広がってきました。 しかし、その多くはクラウド上のモデルにアクセスする形で、「ブラウザの向こう側にいるAI」との付き合い方でした。

一方で2025年のモバイル領域では、スマートフォンそのものが高性能なAI端末へと変化しています。 端末内に小型のLLMを搭載し、テキスト・音声・画像をローカルで処理する「オンデバイスAI」が、主要OSやチップベンダーを中心に急速に広がっています。

この変化は、ユーザー体験だけでなく、マーケティングの設計にも影響を与えます。 たとえば、「どのタイミングで」「どんなメッセージを」「どのチャネルで」届けるかという意思決定が、 ユーザーの手元のAIによってローカルに最適化される世界が見えつつあります。

オンデバイスLLMとは、その名のとおり、 スマートフォンやタブレットなどの端末の中で直接動作する大規模言語モデル のことです。従来のようにクラウド側でモデルを動かし、その結果だけを端末に返す方式とは異なり、 推論処理の多くを端末内で完結させるのが特徴です。

ここで重要なのは、オンデバイスLLMが「クラウドLLMのミニ版」というよりも、 モバイル用途に最適化された小型モデル（Small Language Model） として設計されている点です。 パラメータ数や計算量を抑えつつ、実務でよく使うタスクに必要な性能を維持するよう工夫されています。

主要スマホプラットフォームでは、すでにオンデバイスAIを前提とした機能が次々と登場しています。 テキストの要約や文章作成、通知の整理、画像の生成や検索など、日常的な操作の裏側で小型モデルが動いているケースも増えています。

マーケターにとって重要なのは、「端末内で完結するAI」が、ユーザー体験のどこに組み込まれつつあるかを把握し、 自社のアプリやコミュニケーション設計にどうつなげるかを考えることです。

オンデバイスLLMの利点は技術的にもさまざまありますが、マーケティング担当者にとって特に重要なのは、 次のようなユーザー体験の変化です。

• レスポンスの速さ（レイテンシ低減）
  通信経由ではなく端末内で推論が行われるため、ユーザーの入力に対してより素早い応答が可能になります。 チャット型UIや音声アシスタント、会話型サポートなど、待ち時間がストレスになりやすい場面で効果が出やすい特徴です。
• オフライン・低帯域環境への強さ
  通信が不安定な場所でも、一部のAI機能を継続して動かせるようになります。 たとえば、店舗内・イベント会場・移動中など、ネットワーク条件に左右されやすいシーンでも、ガイドやレコメンドを継続して提供できます。
• ローカルコンテキストの活用
  カレンダー・メモ・アプリ内の行動履歴など、端末内の情報と組み合わせたパーソナライズがしやすくなります。 これにより、「同じメッセージを一斉配信する」のではなく、 ユーザーごとにタイミングやトーンを変えるコミュニケーション を設計しやすくなります。
• クラウド利用コストのコントロール
  一部のタスクを端末側にオフロードすることで、クラウド側の推論コストを抑える設計も可能になります。 すべてをオンデバイスに寄せるのではなく、「軽い処理は端末」「重い処理はクラウド」のように役割分担することで、 全体として無理のない運用を目指せます。

ここからは、マーケティングの現場で想定しやすいオンデバイスLLMの活用シナリオを整理します。 ポイントは、「ユーザーの手元で」「瞬時に」「文脈を理解して」動くことを前提に考えることです。

🎯 アプリ内ガイド＆コーチング

SaaSプロダクトや金融・ECアプリなどでは、 オンボーディングや機能説明が複雑になりがちです。 オンデバイスLLMをアプリに組み込むことで、ユーザーの操作履歴や画面コンテキストに応じて、 「いまこの画面でできること」を自然な文章で案内するガイドを提供できます。

• フォーム入力中に、入力内容を理解したうえで次のアクション候補を提案する。
• 機能が多いアプリで、「この画面からできること」をチャット形式で対話ガイドする。
• ユーザーの目的（例：初めての投資、引っ越しでの住所変更など）に応じたシナリオを端末内で生成する。

🛒 パーソナライズされたレコメンド＆コンシェルジュ

従来のレコメンドは、サーバー側のアルゴリズムが中心でした。 これにオンデバイスLLMを組み合わせることで、 ユーザーの「いまの状況」や自然言語での要望を踏まえたコンシェルジュ的な提案がしやすくなります。

• ユーザーが「週末に家族で出かけたい」と入力すると、過去の閲覧や位置情報の傾向も踏まえて候補プランを提案。
• アプリ内のレビューや商品説明を要約し、「あなた向けに一言でまとめるとこういう商品です」と伝える。
• 閲覧・購入・お気に入りなどのログから、「このユーザーらしい選び方」を端末内で推測し、提案のトーンを変える。

📣 通知・メッセージの「手元最適」パーソナライズ

プッシュ通知やアプリ内メッセージは、配信側のロジックに依存しがちです。 オンデバイスLLMを活用すると、配信されたテンプレートメッセージを、 ユーザーの状況や好みにあわせて端末側で微調整するような発想も可能です。

• 同じキャンペーン情報でも、「短く知らせる」「丁寧に解説する」などテキスト量やトーンをユーザーごとに調整。
• ユーザーが関心を示しやすい要素を抽出し、そのポイントを強調した要約を表示。
• 「忙しそうな時間帯」には要点だけ、「時間に余裕がありそうな週末」には詳しい解説への導線を出すなどの工夫。

📊 顧客インサイトのリアルタイム抽出（現場向け）

営業やカスタマーサクセス担当者が利用するモバイルアプリでも、オンデバイスLLMは有効です。 顧客訪問やオンラインミーティング後に、 その場でメモや議事録から要点を抽出し、次のアクション候補を提示するといった用途が考えられます。

• 商談メモを入力すると、「決裁者」「課題」「次回までの宿題」などを自動的に整理。
• 移動中に音声でメモを残し、その場で要約とToDoリストを生成。
• 顧客ごとの過去のメモと照合し、「前回の懸念点」と「今回の変化」を整理してフィードバック。

オンデバイスLLMの導入は、開発チームだけのテーマに見えがちですが、 マーケティング側が初期の段階から関わることで、ユーザー価値のある機能設計につながります。 ここでは、マーケター視点で押さえたい進め方を整理します。

✅ ステップA：ユースケースの優先順位づけ

まずは、「どこにAIを入れると、ユーザー体験とビジネス成果の両方に意味があるか」を整理します。 すべてを一気にAI化するのではなく、ユーザーのストレスが大きい箇所や、 コミュニケーションの複雑さが目立つ箇所から着手するのがおすすめです。

• ユーザーや社内メンバーへのヒアリングで、「わかりづらい」「手間がかかる」ポイントを洗い出す。
• アプリの行動データから、離脱が集中している画面やステップを確認する。
• 「案内」「要約」「レコメンド」「入力補助」など、LLMで支援しやすいタスクをマッピングする。

🧪 ステップB：プロトタイプで体験を検証する

次に、開発チームと連携しながら、小さなプロトタイプで体験を検証します。 この段階では、クラウドLLMとオンデバイスLLMを比較しながら設計することも多くなります。

• まずはクラウドLLMで理想的な出力を確認し、オンデバイスLLMでどこまで再現できるかを比較。
• 応答速度・出力の質・端末の負荷など、ユーザーテストで感触を確かめる。
• 「全てをLLMに任せる」のではなく、固定テキストとLLM出力の組み合わせで安定性を高める。

🧱 ステップC：クラウドとの役割分担を設計する

実サービスへの組み込みでは、オンデバイスLLMとクラウド側のモデル・配信基盤との役割分担を明確にします。 ここでのポイントは、「どの処理をどこで行うか」を指針として文書化しておくことです。

• 軽量な要約・変換・テキスト整形などはオンデバイス、それ以外はクラウドで実行。
• クラウド側では、キャンペーンロジックやKPI管理など、全体最適に関わる処理を担う。
• オンデバイス側では、ユーザー単位の体験調整や、文脈に応じた微調整を担当。

🧮 ステップD：評価指標とガバナンスの設計

オンデバイスLLMは「動けば終わり」ではありません。 定期的な評価とチューニングの仕組みを作ることで、長期的な改善サイクルを回しやすくなります。

• 出力品質について、ユーザーフィードバックや社内レビューのフローを用意する。
• 誤解を招きやすい表現や不適切な出力を抑えるためのガイドライン（禁止ワード、トーン＆マナーなど）を整理。
• マーケティングチームと開発チームで、定期的に「AI体験レビュー会」を実施し、改善テーマを共有。

オンデバイスLLMは、まだ発展途上の領域です。 しかし、スマホ向けチップセットやモデル圧縮技術の進歩により、「端末内でできること」は着実に広がっています。

今後数年で起こりそうな変化として、マーケティング観点から注目したい点を整理します。

• 「パーソナライズの実行者」がサーバーから端末へシフト
  これまでは、配信プラットフォームやCDP側で「誰に何を届けるか」を細かく決めていました。 これからは、大枠の方針や素材はサーバー側で用意し、最終的な形を端末側のAIが組み立てる設計が増えていきます。
• AIアシスタントが「ブランド接点」になる
  音声・チャット・カメラなど、ユーザーが日常的に触れるアシスタント機能の中で、 ブランドやサービスが自然なかたちで名前を挙げられるかどうかが重要になります。 検索エンジンにおけるSEOと同じように、「アシスタントにどう語ってもらうか」を設計する時代が近づいています。
• マーケターに求められるAIリテラシーの変化
  モデルの種類やパラメータ数を深く理解するというよりも、 「どのタスクをどこで処理させるか」「その結果をどう体験に埋め込むか」という設計力が問われるようになります。

本記事では、「スマホで動くLLM」を軸に、オンデバイスAIの基本とマーケティングでの活用可能性を整理しました。 最後に、マーケターがいまから取り組めるアクションを簡単にまとめます。

• 自社アプリやモバイル接点の体験を棚卸しし、「わかりづらい」「手間がかかる」箇所を洗い出す。
• 「案内」「要約」「レコメンド」「入力補助」など、LLMで支援できそうなタスクをマッピングする。
• 開発チームと一緒に、小さなプロトタイプでオンデバイスLLMの体験をテストする。
• クラウドとオンデバイスの役割分担を整理し、将来の拡張を見据えたガイドラインを作成する。
• AI体験の評価指標とフィードバックループ（ユーザー／社内）を整え、改善サイクルを回す。

オンデバイスLLMは、「一部のテック企業だけの話」ではなく、 多くのユーザーが日常的に触れるスマホのOSレベルで進んでいる変化です。 だからこそ、早い段階から仕組みと考え方を押さえておくことが、数年後の差につながっていきます。

まずは難しい専門用語をすべて理解しようとするのではなく、 「ユーザーの手元で、AIが何をしてくれると嬉しいか」という視点から、 自社のモバイル体験を見直してみてください。