AIより前から、罠は一人ずつ違う顔をしていた

はじめに その問いなら、私は一度、突き当たったことがある

前回、最後にこう問うた。固定された画面は撮れた。保存できた。複数の人が、同じものを見たと確認できた。では、一人ずつ違う画面は、誰が撮るのか。撮った一枚が、その人だけのものだったとき、誰が全体を見つけるのか。そして、誰がそれを立証するのか。

01 調べる者には、映らない罠

あるサイトを調べていたときのことだ。私のお客様が運営する、ごく普通のサイトだった。あやしい商売をしていたわけではない。お客様は、正規に販売されていたWordPressのテンプレートを購入し、それを使って、まっとうにサイトを運営していた。ただ、それだけだった。

ところが、そのサイトが、訪問者をまったく無関係な、あやしいページへ誘導していた。気づかないうちに、詐欺的なサイトへ転送していたのである。仕込んだのは、お客様ではない。購入したテンプレートの中に、その仕掛けが最初から埋め込まれていた。しかも、後で分かったことだが、一件だけではなかった。同じ種類の仕掛けを抱えたサイトが、ほかにもあった。罠は、テンプレートという商品に乗り、それを購入した事業者のサイトへ、知らないうちに広がっていた。

厄介だったのは、その誘導が、すべての訪問者に起きるわけではなかったことだ。

そして、調査している私の画面には——出ない。管理する側からアクセスしている者には、罠がその顔を見せなかった。サイトの持ち主であるお客様が、自分の環境から見る限り、何もおかしなところはない。だからこそ、お客様自身も長い間、気づけずにいた。もう一度アクセスしても、同じ現象は起きない。誰かが「あやしいページへ飛ばされた」と訴えても、こちらでは同じ状況を再現できない。ログを取ろうとしても、うまく掴めない。確かに何かがおかしい。そう分かっているのに、証拠が手のひらから逃げていく。

02 これに、AIは要らない

念のために言っておく。この仕掛けに、AIは要らない。機械学習も、生成AIも、何も要らない。やっていることは、単純な条件分岐だ。アクセスしてきた相手のIPアドレスを見る。ブラウザの種類を見る。何回目の訪問かを数える。Cookieを確認する。そのうえで、こう振り分けているだけである。

こうした処理は、特別に高度な技術ではない。基本的な条件分岐でも実装できる。「一人ずつ違う画面を見せる」という発想は、AIの発明ではない。もっと素朴で、もっと古い。閲覧する相手によって表示内容や転送先を変え、調査する者には通常の画面を見せる手口は、広い意味で「クローキング」と呼ばれる。私が遭遇したのも、その一種だった。しかも、その手口は、作った本人の手を離れ、商品として流通していた。テンプレートに埋め込まれ、それと知らずに購入した事業者のサイトで、勝手に動いていた。

前回、私は、一人ずつ違う解約画面が現れるのは時間の問題だと書いた。だが、正確にはこう言うべきだった。

03 執行は、もともとこの問題に弱い

第1部で確認したことを、思い出してほしい。X社の申込画面は、固定されていた。同じ条件で開けば、同じ金額、同じタイマー、同じボタンが表示される。だから、スクリーンショットを撮れる。保存できる。複数の人が同じ画面を見たと確認できる。そして「ここでは支払総額が分かりにくい」「ここでは契約条件が正しく伝わらない」と、問題を一つずつ指し示せる。固定された画面ほど、立証しやすい。

クローキングは、その前提を正面から崩す。誰が見ても同じではない。調べる者に合わせて、画面を変える。証拠を集めようとする者には、通常の画面しか見せない。低い発生率は、結果として証拠収集を難しくする。実際にどの条件で表示を変えていたのかを突き止めなければ、単なる偶然なのか、検出を避ける設計だったのかも分からない。

考えてみれば、当然のことだ。固定された画面ほど立証しやすいという執行上の偏りは、AIが登場するのを待っていなかった。クローキングは、もう以前から、その弱点を突いていた。

04 AIは、この荒い手口を精密にする

ここまでは、AI以前の話である。では、AIが加わると、何が変わるのか。従来のクローキングによる出し分けは、比較的荒い。管理する側から来たか、そうでないか。何回目の訪問か。一定の割合に当たったか。振り分けの基準は、あらかじめ決めた条件である。AIは、その荒さを精密にする。

AIによる個別最適化が加われば、画面は、いよいよ一人ずつ違うものになる。同じ条件を外から再現し、並べて見比べることは、さらに難しくなる。第1部で扱ったX社の画面は、誰が撮っても、原則として同じものが撮れた。一方、一人ずつ最適化された画面では、撮った一枚は、その人の、その瞬間の画面でしかない。

05 同じ性質が、いくつもの顔を見せる

ここで、少し立ち止まりたい。この記事を読んでいる人の多くは、二つの立場を同時に持っている。サブスクリプションを運営する事業者であり、他社のサービスを利用する消費者でもある。「撮れない画面」は、その立場ごとに、別の顔を見せる。

• 事業者にとっては、作れてしまう誘惑

  解約率を下げたい。継続率を高めたい。数字を改善したい。その気になれば、単純な条件分岐でも、AIでも、利用者ごとに違う導線を組める。調査する者には見せず、特定の利用者にだけ難しい画面を出す。誰にも全体を見比べられないまま、数字だけを改善する。そうした仕掛けが、技術的には手の届く場所にある。

• 事業者にとっては、知らずに背負わされる危険

  私のお客様のように、正規に購入したはずのものに、撮れない罠が埋め込まれていることもある。自分のサイトが何をしているのか、持ち主本人にも映らない。その意図がなくても、加害する側に立たされてしまう。作る誘惑と、運ばされる危険。事業者は、その両方にさらされている。

• 消費者にとっては、気づけない罠

  最後に何かを解約したとき、あなたが見た画面は、あなただけに表示されたものだったかもしれない。隣の人には、もっと簡単な解約ボタンが表示されていたかもしれない。別の人には、あなたにはなかった割引が出ていたかもしれない。利用者は、自分がほかの人より不利な画面を見せられているのかどうかを、簡単には確かめられない。

• 執行にとっては、立証を難しくする壁

  調査しようとする者には、問題のない画面を出す。実際の利用者には、別の画面を出す。一つの性質——撮れなさ——が、立つ場所ごとに、まったく違う顔を見せる。

06 それでも、立証できないわけではない

一人ずつ違う画面は、立証が難しい。だが、不可能ではない。固定された画面のように、スクリーンショット一枚で全体を示すことはできない。それでも、方法がないわけではない。

• サーバーに残るログ
• 多数のテスト用アカウントを使った検証
• どの条件で何を表示するかを決めた設計資料
• 利用者ごとの配信履歴
• A/Bテストや評価指標の設定
• 担当者間の指示や運用記録

外から画面を撮れないなら、内側の記録を確認する。固定画面でなければ立証できない、ということではない。ただし、そのためには、事業者が持つ記録へアクセスする必要がある。消費者が、自分の画面を一枚撮るだけでは足りない。

この問題と直接同じではないが、消費者法の議論では、必要な資料を事業者だけが持ち、消費者が証明することが難しい場合に、事業者側へ説明や立証の負担を求める考え方が、すでに現れている。たとえば、解約料をめぐる「平均的な損害」の問題では、計算に必要な資料を主に事業者が保有しているため、消費者側の立証が難しいことが問題になってきた。これは、AIによる画面の出し分けを直接扱った議論ではない。それでも、「必要な記録を持っている側に、説明を求める」という考え方は共通している。

動的な画面が増えるほど、誰に何を表示したのかを事業者が記録し、公正な出し分けだったと説明できる状態を、どこまで求めるのかが重要になる。

07 誰も、隣の人と見比べられない

最後に、第1部で置いてきたものを、もう一度手に取りたい。X社の申込画面は、誰が見ても、原則として同じ顔をしていた。だから、気づいた人は、別の誰かと見比べて「これは、おかしい」と言い合えた。同じ「2,490円」を見た。同じ10分のタイマーを見た。同じボタンを押した。経験を重ね合わせることができた。クローキングでは、それが難しくなる。

1人の体験が、ほかの人の体験と重ならない。証拠が集団で共有されない。私のお客様のサイトで、長い間、問題が見つからなかった理由もそこにあった。転送された人はいたはずである。しかし、その経験が一つの束にならなかった。AIによる個別最適化は、この見比べをさらに難しくする。全員が自分だけの画面を見る。「あなたにも、あの引き止めが出た？」と聞いても、答えはそれぞれ違う。

それでも、撮った画面に意味がないわけではない。その人が、その瞬間に何を見たかを示す証拠にはなる。ただし、一枚の画面だけでは、仕組み全体を語れない。ほかの利用者にも同じ導線が表示されたのか。人によって、解約のしやすさが変えられていたのか。どの条件で、誰に、何が表示されたのか。その一枚だけでは分からない。

思い返せば、私のお客様は、自分のサイトの画面を何度見ても、罠を見つけられなかった。持ち主自身の画面には、映らなかった。罠は、一枚の画面の中にあったのではない。誰に、どの画面を出すかを決めている、その裏側にあった。一人ずつ違う画面を生み出しているもの。その画面を、何のために組み立てているのか。何を最大化するように設計されているのか。お客様のサイトに埋め込まれていた仕掛けは、訪問者を別のサイトへ誘導するために動いていた。お客様自身の目的——まっとうにサイトを運営すること——とは別の目的が、同じサイトの裏側で走っていた。

画面を見るだけでは、その目的は分からない。解約画面も、やがて同じ問題を抱えるかもしれない。表向きは、親切な提案に見える。

その裏側で、何を最大化しようとしているのか。解約を減らすためなのか。それとも、利用者が納得して選べるようにするためなのか。同じ一枚の画面が、どちらの目的から組み立てられたのかを、私たちは、画面を見るだけでは見分けられない。

この記事の、いちばん奥

撮れない罠は、AIの発明ではなかった。ずっと前から、商品に埋め込まれ、出回ってさえいた。AIは、その荒い手口を、一人ずつを狙う精密なものへと変える。

固定された画面は、一枚撮れば全体を示せました。だが、一人ずつ違う画面では、立証が消えるのではなく、立証の場所が変わります。利用者の一枚から、事業者が持つ記録の側へ。だからこそ、私たちが会員システムに残すべきなのは、都合よく振り分ける仕組みではなく、誰に何を見せたかを、後から誠実に説明できる記録です。会員を管理する時代は終わりました。これからは、人との関係を設計する時代です。その関係は、見比べられなくなった時代にこそ、記録の誠実さとして問われます。

AIと解約 ・ 第3部（完・会員ビジネスLab） その画面は、誰のために組み立てられたのか — AIに何を命じるかを、決めるのは人間だ AIと解約 ・ 第1部（会員ビジネスLab） 同じサービスなのに、解約画面が人によって違う — シリーズを最初から読む この連載の土台 ・ 会員ビジネス論 チャーンレートを下げるために、解約を難しくしてはいけない — 防げた解約だけを減らす「ホワイトパターン」の設計

FAQ よくあるご質問