GeminiがPixelでアプリを操作して注文を代行──日本で始まった「スクリーン オートメーション」の確定条件と、D2C事業者が「AIに操作される側」として整えること

  • URLをコピーしました!

Googleは2026年11月11日、11月のPixel Dropを日本語版の公式ブログで発表した。目玉の1つが、Geminiに特定のアプリを使った日常のタスクを任せられる機能だ。ブログが例に挙げるのは、食料品の買い物、配車の予約、テイクアウトの注文、お気に入りのレストランの予約である。対象はGoogle Pixel 11とPixel 10シリーズで、日本、英国、インドで使えるようになったとしている。Pixel Dropの更新は、発表日から数週間かけて順次提供される。

機能の名前は「スクリーン オートメーション」で、Geminiアプリのベータ版の機能だ(Pixel ヘルプ)。Geminiは端末の中に「仮想スマートフォン環境」を作り、そこでアプリの画面を読みながら操作する。利用者は進み具合を画面で確かめられ、途中で止めることもできる。注文の確定などの最後の手順は、利用者自身が行う。ヘルプによれば、使えるのは18歳以上で、個人のGoogleアカウントでログインしている人に限られる。言語は英語・日本語・韓国語だけで、一部のアプリでしか使えない。日本で対応するアプリの名前は公表されていない(11月12日時点。ヘルプも公式ブログも「一部のアプリ」「特定のアプリ」と書くだけで、アプリ名は挙げていない)。

年末商戦の直前に、自社のアプリや注文の画面が「人ではなくAIに操作される」場面が、日本でも現実になり始めた。本稿では、公式ブログ、ヘルプページの日本語版と英語版、報道を突き合わせ、確定している条件とまだ公表されていない点を表に分ける。11月10日に取り上げたAIモードの空席探しとは仕組みが違うので、その違いも整理する。そのうえで、D2C事業者やEC事業者が自社アプリと注文導線のどこを点検すればよいかをまとめる。

目次

確定している条件と、まだ分からないこと

公式ブログの説明は短く、細かな条件はヘルプページにまとまっている。2つを読み比べると、表現が食い違う箇所もある。ブログは例として「お気に入りのレストランの予約」を挙げている。ところがヘルプの対応タスクの一覧で、サポート対象のすべてのAndroid端末に共通するのは「配車の予約」「料理の注文」「食料品の注文」の3つだけだ。飲食店の予約は、どの端末向けの一覧にも見当たらない(同ヘルプで追加のタスクが載るのはGalaxy Z Flip 8とZ Fold 8で、商品の売買、旅行の予約、チケットの購入だ)。下の表は、本稿が2つの資料とITmedia Mobileの報道を突き合わせて整理したものだ。

項目 確定していること 未公表・注意点
対象機種 ヘルプの一覧に載るPixelは、Pixel 10、10 Pro、10 Pro XL、11、11 Pro、11 Pro XL、11 Pro Foldの7機種 ITmediaは「Pixel 10aを除く」と報じた。ヘルプの一覧で折りたたみ型は11 Pro Foldだけで、Pixel 10 Pro Foldは載っていない
利用者の条件 18歳以上。個人のGoogleアカウントでログインしていること。仕事用・学校用・管理対象のアカウントでは使えない 有料プランへの加入が必要かどうかは、ブログにもヘルプにも書かれていない
国・言語 インド、日本、韓国、英国、米国。言語は英語・日本語・韓国語 提供は順次。すべての端末に同じ日に届くわけではない
対応タスク(全端末共通) 配車の予約、料理の注文、食料品の注文 ブログはレストランの予約も例に挙げるが、ヘルプの一覧にはない
対応アプリ 「一部のアプリ」に限られる 日本の対応アプリ名は公表されていない(11月12日時点)
途中の操作 「進行状況を表示」で見守り、「タスクを停止」で止められる ヘルプは「Google Pixel 10 または Galaxy S26 デバイスではタスクを引き継ぐことはできません」としている
利用の上限 1日のリクエスト数と、同時に処理できるタスク数に上限がある 具体的な数はヘルプに書かれていない(Geminiアプリの使用量上限のページを参照するよう案内している)

対応アプリの名前が出ていないことが、事業者にとっていちばん大きな空白だ。自社アプリが対象に入っているかどうかを、外から確かめる手段は今のところない。ヘルプは、対応するアプリの一覧をGeminiの設定画面で確かめられる場合があるとしているわけではない。実際に対応端末を手元に用意し、Geminiに自社アプリでの注文を頼んで動き方を見るのが、確かめる方法としては最も確実だ。ただし提供は順次なので、まだ動かなくても対象外だとは言い切れない。

仕組み──端末の中の「仮想スマホ」がアプリの画面を操作する

この機能は、日本で初めて出たものではない。Googleは2026年2月25日、Android上で複数の手順を踏むタスクをGeminiに任せるベータ版を米国の公式ブログで発表した。最初の対象は米国と韓国で、端末はPixel 10、10 Pro、10 Pro XLとSamsungのGalaxy S26シリーズだった。対象は食品、食料品、配車のカテゴリーの一部のアプリに限られていた。今回の日本での提供は、この機能が対象国を広げたものにあたる。

仕組みは、ヘルプの日本語版で次のように説明されている。「Gemini は、オンデバイスの仮想スマートフォン環境を使用してアプリでタスクを完了します」。2月の発表では、これを「安全な仮想ウィンドウ」と呼び、限られたアプリだけに触れ、端末のほかの部分には触れないとしていた。Geminiはこの環境でアプリの画面を読み、人と同じように画面を操作する。ヘルプによれば、Geminiは「チャットを閉じてもバックグラウンドでタスクを継続」する。アプリごとに操作の許可が必要で、「常に許可」「毎回確認」「許可しない」から選べる。

AIが勝手に買い物を確定させないための線引きも書かれている。ログイン情報や支払いの詳細は、チャットに直接入力しないよう求めている。情報の入力、取引の確定、ログイン、アカウントの作成では、利用者に自分で操作するよう求めることがある。ドライバーへのメッセージの送信や届け先の住所の変更の前には、利用者に確認を求める。最後に、乗車予約の確認や注文確定といった最終ステップを利用者が完了させる。一方で、ヘルプは「注文を完了しなかった場合、商品がカートに残ることがあります」とも書いている。

もう1つ押さえておきたいのが、Googleの「アプリ連携」との関係だ。ヘルプには「Gemini が アプリ連携 を使用してタスクを完了できる場合は、スクリーン オートメーションではなくアプリ連携が使用されます」とある。アプリ側がGeminiと正式に連携していればそちらが優先され、連携がないアプリでは画面を操作する方法が使われる、という順番だ。Googleが外部アプリを検索とGeminiに呼び込む動きは、Connected Apps Platformの記事で取り上げた。画面の操作は、正式な連携がない場合の手段という位置づけになる。

AIモードの「空席探し」とは何が違うか

11月6日には、日本のGoogle検索のAIモードで、レストランの空席を探す機能も始まっている(AIモードの空席探しの記事)。どちらも「AIが予約や注文を手伝う」機能だが、仕組みが大きく違い、事業者が手を入れる場所も変わる。空席探しは、ぐるなび、一休、ebicaなどの連携先の情報をGoogleが横断して調べ、予約ページへのリンクを示す。スクリーン オートメーションは、利用者の端末の中で、アプリの画面をAIが直接操作する。下の表は、本稿がAIモードの発表と今回のヘルプを並べたものだ。

項目 AIモードの空席探し(11月6日) Geminiのスクリーン オートメーション(11月11日)
入口 Google検索のAIモード(ブラウザ・Googleアプリ) 対象のPixel・Galaxy端末のGeminiアプリ
AIが触るもの 連携先の予約サイトやウェブサイトの空席情報 端末上のアプリの画面そのもの
事業者との連携 ぐるなび・一休・ebicaなどの予約サービスとの連携 アプリ側の連携は前提にしない。連携済みのアプリはアプリ連携が優先される
AIが進める範囲 空席の一覧を示し、予約ページにリンクする アプリの中で商品や条件を選び、最終確認の手前まで進める
確定するのは 利用者がリンク先のページで予約する 利用者が注文確定などの最終ステップを行う
事業者が整える場所 予約サイトへの空席の公開、予約台帳、ビジネスプロフィール 自社アプリの画面の作りと注文の手順

空席探しでは、AIに見つけてもらえるかどうかを、予約サービスとの連携や空席の出し方で左右できた。スクリーン オートメーションでは、事業者側に「登録する」入口がない。利用者が自社アプリを入れていて、そのアプリがGeminiの対象に入っていれば、AIは人と同じ画面をたどる。差がつくのは、AIがその画面を迷わず進められるかどうかだ。ただし、どのアプリが対象になるかをGoogleがどう決めているかは公表されていない。

自社アプリの「詰まりやすい場所」を点検する

Googleは、アプリをどう作ればGeminiが操作しやすいかという指針を、今回の発表では示していない。そのため以下は、ヘルプに書かれた仕組みと制約から本稿が推論した点検の観点で、Googleの説明ではない。考え方の軸は2つある。1つは、AIが画面の意味を読み取れるか。もう1つは、AIが止まって利用者に操作を返す場面が、必要以上に多くないかだ。Pixel 10のように途中で引き継げない端末では、AIが止まればタスクはそこで終わるおそれがある。

点検する箇所 AIの代行で起きうること 確かめること
起動直後のポップアップ クーポンやアンケートの全画面表示で、目的の画面にたどり着くまでの手順が増える 閉じるボタンが分かりやすく、閉じたあとに元の画面へ戻れるか
ボタンや商品名の表示 画像だけのボタンや、文字が入っていないアイコンは意味を取り違えやすい 主要なボタンに文字のラベルがあるか。商品名・容量・価格が文字で表示されているか
ログインの切れ ログインには利用者の操作が必要になる。引き継げない端末では途中で止まるおそれがある ログイン状態がどのくらい保たれるか。再ログインを求める頻度が高すぎないか
カートと注文確認の画面 確定しなかった注文の商品がカートに残る 確認画面に合計額・届け日・届け先がまとまって出るか。残ったカートに自動の催促通知を送っていないか
アプリ内の自由記述・レビュー ヘルプは、AIには読めるが人には見えない悪意のある指示による攻撃(プロンプトインジェクション)に触れている 投稿型のレビューや画面上の文章に、隠れた指示を書き込まれる余地がないか
計測 AIの操作による注文が、人の操作と区別なく計上される 操作の速さや経路の変化で、離脱率やカート放棄率の数字が急に動いていないか

カートの扱いは見落とされやすい。利用者が最後の確定をしなければ、AIが入れた商品はカートに残る。多くのECアプリは、カートに商品が残ると催促のプッシュ通知やメールを送る。利用者が意図して選んだ商品ではない可能性があるので、催促の効き方や放棄率の数字が今までと違って見えるかもしれない。AIの操作による注文かどうかをアプリ側で見分ける方法をGoogleは示していないので、提供が広がる数週間は、指標の急な変化をこの機能と結びつけて点検しておくとよい。

正式な連携を持つかどうかも判断のしどころだ。ヘルプのとおり、アプリ連携で済むタスクは画面の操作より優先される。画面の操作は、デザインの変更のたびにAIの動き方が変わるおそれがある。一方で連携には開発の手間と、Google側の受け入れの条件がかかる。AIによる代行購入の扱いは事業者ごとに分かれていて、WalmartとAmazonの対応の違いのように、受け入れる側と止める側がある。自社がどちらに寄るのかを、技術の対応の前に決めておく必要がある。

キャンペーン導線を設計するときの確認項目

年末商戦では、クリエイターの投稿や広告から、アプリ内のキャンペーンページに誘導する施策が増える。スクリーン オートメーションが広がると、投稿を見た利用者が「このアプリで○○を頼んで」とGeminiに話しかけ、AIがアプリを操作するという道筋もありうる。もっとも、日本で対応するアプリや、どこまでの指示に応えるかは分かっていない。今の段階では、AIが代わりに操作しても施策の条件が崩れないかを確かめておく程度でよい。事務所とブランドが打ち合わせで確認したい項目は次のとおりだ。

  • クーポンの適用方法:コードの入力や、投稿のリンクを踏むことが条件になっていないか。AIがアプリを直接開いた場合に特典が外れないか
  • 商品の指名のしやすさ:投稿で紹介する商品名と、アプリ内の商品名・検索で出る名前が一致しているか
  • 期間限定ページの位置:キャンペーンページがアプリのトップや検索から見つかるか。投稿のリンクからしか入れない作りになっていないか
  • 成果の計測:アフィリエイトやクリエイター別のコードで成果を数えている場合、AIの代行による注文で紐づけが切れないか
  • 確認画面での表示:特典の適用や合計額が、利用者が最後に確定する画面ではっきり分かるか
  • 年齢と対象者:機能は18歳以上・個人アカウントに限られる。若年層向けの施策では、この経路をあてにしない

どの項目も、AI専用の対応というより、人の利用者にとっても分かりやすい導線かどうかの点検に近い。文字で読める商品名、迷わない確認画面、リンクに頼らないクーポンは、AIの代行がなくても離脱を減らす。AIが代わりに操作する範囲が広がるほど、こうした基本の作りの差が成果の差として表に出やすくなる、という整理で準備しておけば、過剰な投資は避けられる。

どこまで任せられるかは、まだ「ベータ」の段階

ヘルプは、この機能がベータ版であることを繰り返し断っている。「Gemini は間違えることや予期しない動作をすることがあります」と書き、緊急の用件や機密情報が関わるタスクには使わないよう求めている。2月の米国の発表も、注意して見守り、必要なら中断するよう利用者に呼びかけていた。AIが画面を操作するエージェントは、PCを操作するGPT-6 Astraの記事で見たようにパソコンでも進んでいる。それでも、利用者が最後に確定するという線は、Googleの今回の設計でも保たれている。

事業者にとって今の時点で確かなのは、日本でも、AIが自社アプリを人と同じ画面で操作しうる環境が、対象のPixelから順に広がり始めたということだ。対応アプリ、日本で使えるタスクの正確な範囲、利用の上限の数は公表されていない。まずは対応端末で自社アプリの動き方を試し、ポップアップ、ラベル、ログイン、カート、確認画面の5か所に詰まりがないかを見ておきたい。対応アプリの一覧や開発者向けの指針が公表された時点で、正式な連携に進むかどうかを判断すればよい。


本記事は、株式会社TORIHADAが運営するクリエイターエコノミー専門メディア「CREATORS POST」がお届けしました。最新のマーケティング・クリエイター動向を、実務目線で発信しています。

TORIHADAに無料相談する →

この記事はAIを活用して書いています。

TikTokマーケティングのお問い合わせはTORIHADAへ

torihada

TikTokを活用したマーケティング施策でお困りの際は、TORIHADAまでご相談ください。コンテンツの企画制作、施策のKPI設計とPDCAの実行まで、一貫してサポートいたします。

また、700人以上のクリエイターやインフルエンサーが所属する「PPP STUDIO」から、お客様に適した人材のキャスティングも可能です。

「TikTokの運用のやり方が分からない」「思うような成果が出ない」「インフルエンサーマーケティングをやってみたい」など、ノウハウや実績に基づきお客様の課題や要望に沿って最適なプランをご提案します。

お問い合わせはこちら

この記事が気に入ったら
いいね または フォローしてね!

  • URLをコピーしました!

TORIHADA RECRUIT

TORIHADA中途採用はこちら
目次