昨今の IT の発達を最大限に取り入れた最新のサイバープロパガンダ手法である「Fake News（フェイクニュース）」ですが、攻撃者にとっては非常に効果的かつ比較的安価な世論操作手法となっていることがトレンドマイクロの調査からわかりました。前回の記事では「フェイクニュース」の実行のためには 3 つのプロセスが必要であることに触れました。ニュースとして拡散するために必要な情報コンテンツの「作成」、作成したコンテンツのインターネット上への「発信」、発信したコンテンツに大きな注目を集めるための「プロモーション（拡散）」です。広告や宣伝のためにインターネットを利用する「Web マーケティング」には様々なサービスが存在し、この「作成」、「発信」、「拡散」の各段階をすべて賄うことができます。これらのサービスには、一般企業が提供する正規サービスだけでなく、正当な手法とは言い難いグレーゾーンに位置するサービスや、アンダーグランドマーケットで提供される明らかに不正なサービスすらあります。特に中国、ロシア、中東地域で多くのサービスの存在を確認しました。トレンドマイクロではインターネットとディープ Web を調査し、「フェイクニュース」の作成、発信、拡散にも使用可能な各種サービスについて、その一般的な価格帯を割り出しました。
※注：本記事内での価格は、2017 年 6 月時点の為替レートで現地通貨を日本円に換算したものです
■ネットコンテンツの作成と発信関連の価格表
様々なネットコンテンツの作成を請け負うサービスに加え、作成したコンテンツを希望するメディア経由で発信可能とするサービスが存在します。中には「記事広告」のように正規の手段でメディアに載せる方法もありますが、広告の体裁を取らずに希望のメディア経由で配信できることを謳うなどのサービスも各国に存在することを確認しました。以下は「フェイクニュース」の作成と発信にも利用可能なサービスの一般的な価格表です。
一例として、コンテンツマーケティングサービスを謳う中国のサイトでは 1,500 ワードまでの記事をおよそ 3,200 円で作成を請け負うとしています。同時に作成したコンテンツの各種ニュースサイトへの掲載もおよそ 8,200 円～ 2 万 1,000 円の追加料金で請け負うとしています。料金の例として、中国国内の有名ポータルサイトである「新浪（sina.com）」への掲載はおよそ 1 万 3,000 円となっています。
図：中国のコンテンツマーケティングサービスの価格表示例
同様にロシアでは、4,000～6,000 文字までの記事を国内のニュースサイトに掲載することをおよそ 55 万～99 万円で、国内の新聞や雑誌上で広告と表示されない形で記事掲載することをおよそ 270 万円程度で可能としている PR 代理店の存在が報じられています。
また、「フェイクニュース」のコンテンツにも利用できるパーツの作成にも使用可能な無料サイトもあります。米国のジョークサイトでは、TV ニュースで報道されたかのような偽画像を自身で作成することができるツールを提供しています。このようなサイトで作成された画像であっても、使用方法によっては虚偽の情報に信ぴょう性を与えるための道具となりえます。
図：無料サービスで作成できる偽画像のサンプル例
■ネットコンテンツの拡散関連の価格表
各種ソーシャルメディア上で「Like/Dislike（いいね！）」やコメント、リツイート、シェアなどを集めるサービスが存在し、ネット上のコンテンツに人々の注目を集めるために利用可能です。対象とするソーシャルメディアは「Twitter」、「Facebook」、「YouTube」、「Instagram」、「Google+」のような世界的なものから、中国の「Weibo（微博）」、「WeChat（微信）」、ロシアの「VKontakte（VK）」、「Odonoklassiniki（OK）」など、各国ごとの人気ソーシャルメディアまで多岐にわたります。意見誘導の手段として、ソーシャルメディア上でのアンケート調査や「change.org」のようなオンライン署名活動の結果に介入する不正投票や不正署名も販売されています。
ソーシャルメディアのアカウントにフォロワー（ソーシャルメディアにっては「友達」、「登録者」など用語が異なる場合がありますが、本記事ではすべて「フォロワー」で統一します）を増やすことも影響力の強化という観点で大きな意味を持ちます。フォロワーが多いアカウントはソーシャルメディア上での影響力が大きい「ネット有名人」とみなされ、その情報発信が数万人に影響したり、一般メディアの注目を集めたりすることもあるからです。
このようなソーシャルメディア上での活動を売買するような行為は、多くのソーシャルメディアでは規約で禁止されています。そのため、これらのサービスは、グレー、もしくは不正なサービスであると言えます。「フェイクニュース」の攻撃者は、これらのサービスを自身の流したコンテンツに注目を集めるために利用します。以下の表では、トレンドマイクロの調査で確認された各種ソーシャルメディア上での活動を 1,000 件単位で販売する場合の価格をまとめました。
このようなソーシャルメディア上の活動の価格は、ソーシャルメディアの種類と活動の「質」により変わります。一般的に、より広範囲に影響を与えることができる人気の高いソーシャルメディア上での活動の方が高値で取引されます。例えば、動画コンテンツの視聴回数 1,000 回の価格について、「YouTube」の場合には 110 円～330 円の範囲ですが、「Youku（优酷网）」、「LeTV（乐视视频）」など中国の動画サイトの場合には 3 円～30 円と大きな差があります。また、「Instagram」上での 1,000「いいね！」は 2 円～310 円で購入することができるのに対し、「YouTube」上での 1,000「いいね！（YouTube の用語では高評価/低評価（like/dislike））」は 1,600 円～3,200 円、さらに「Facebook」での 1,000「いいね！」はおよそ 7,600 円～8,900 円という価格設定の違いを確認しています。
次に、同一のソーシャルメディア上での単価の差は、活動の「質」によります。例えば、自動応答のボットアカウントによる「いいね！」は単価が安く、実在人物アカウントからの「いいね！」は単価が高くなります。さらにコメントやリツイート、シェアなどで短文を付加する場合には、文章の複雑さ、その地域の言語を使用する必要がある、その地域に実際に在住しているアカウントから行うなど、付加された条件によって単価は大きく変わります。例えば中東地域のサービスでは、「Twitter」上でのボットによる 1,000 リツイートをおよそ 440 円で提供しているのに対し、中東地域のアラビア語ネイティブユーザによる 1,000 リツイートの価格はおよそ 2 万 9,000 円となり、約 66 倍もの価格差が生じます。
図：ソーシャルメディア上での活動を販売する中東のサービスのサイト表示例
■実行リソースの調達方法
ソーシャルメディア上でフォロワーを 1,000 人分集めるためには、1,000 人分のアカウントを操作する必要があります。同様に、「いいね！」やコメント、リツイートなどを集めるためにも、多くのアカウントを操作する必要があります。このような Web 上の活動の実行リソースを賄うために、以前から見られる手法の 1 つに「クリックファーム」があります。「クリックファーム」とは、例えば広告の URL を大量にクリックするなどの Web 上の活動を大量に実行するために、同時に複数台の端末を操作するシステムのことです。「クリックファーム」のサービスは地下マーケットで提供されています。トレンドマイクロの調査では、1 万台以上の端末を操作し、GPS などの位置情報を偽装したり、操作のすべてを自動化することも可能としている中国のアンダーグラウンドサービスの存在を確認しています。このサービスでは、100 台の端末の操作が可能なサーバをおよそ 160 万円程度で提供しています。
図：「クリックファーム」サービス提供サイト例
またロシアでは、このようなソーシャルメディア上での活動を行うためのリソースを「クラウドソーシング」するためのサービスが「オンラインコラボレーションサービス」などの呼称で複数存在しています。この「オンラインコラボレーションサービス」の中でも規模の大きいものは 200 万人以上の会員を擁し、YouTube、Twitter、Facebook、Instagram、VK、OK のようなロシアで人気のソーシャルメディアをサポート対象としています。サービスの会員は指定されたソーシャルメディア上での活動、例えば指定された投稿に「いいね！」をつけるなど、を「仕事」として行うことによって「ポイント」を稼ぐことができます。会員に特定の仕事を依頼するためにもポイントが必要ですが、このポイントはオンラインで購入することもできます。1 万ポイントは正規価格ではおよそ 2,100 円ほどですが、アンダーグラウンドマーケットでは半値以下の 900 円ほどで購入することが可能です。「フェイクニュース」の攻撃者はこのようなアンダーグラウンドマーケットを利用してポイントを購入し、より安価に仕事を依頼するものと推測されます。
図：ロシアのオンラインコラボレーションサービスサイトの例
■「フェイクニュース」キャンペーンを実行した場合の試算
ここでは「フェイクニュース」の「費用対効果」を測るため、過去に確認された「フェイクニュース」キャンペーンを元に、同様のキャンペーンを実行するためのプロセスを想定し、そのすべてを既存サービスで賄った場合のコストを試算してみます。
- 30 万以上のフォロワーを持つ「ネット有名人」を 1 カ月間で作成 ＝ 26 万円
多くのフォロワーを持つ「ネット有名人」の言動はソーシャルメディア上で、そして実社会に対しても大きな影響を持つものとされます。中国のマーケティングサービスでは、「Weibo」上で 7,825 万フォロワーを持つ有名人のアカウントからポストすることを、およそ 2,000 万円の価格で請け負うと謳っています。
図：「ネット有名人」によるポストを請け負うとしているサイト表示例
ポストを請け負うアカウントとその価格などが明示されているこのような需要のある「ネット有名人」ですが、各種ソーシャルメディア上で既存のアカウントや攻撃者が新規作成したアカウントを、数万から数十万のフォロワーを持つ「ネット有名人」に仕立てあげるキャンペーンの存在が判明しています。ここでは、中国の「Weibo」上で特定のアカウントを 1 カ月で 30 万人以上のフォロワーを持つ有名人に仕立て上げるキャンペーンを想定し、試算してみましょう。まず新規で作成したアカウントに対し、当初は 500 人のフォロワーを購入するなど、段階的にフォロワーの増加を行います。同時に、活発なアカウントに見せるため、Weibo 上での投稿などの活動を、週 3 ,500 回程度から段階的に増加させ、4 週目には 10 倍の 3 万 5,000 回以上まで増やします。フォロワーと活動が増加すると共に、自発的にフォロワーになる一般利用者も多くなり、作成からわずか 1 カ月間で 30 万以上のフォロワーを持つ「ネット有名人」となります。
このキャンペーンをすべてサードパーティのサービスで賄ったとすると、フォロワーの購入におよそ 16 万円、活動の購入におよそ 10 万円で、合わせて 26 万円程度で達成可能と試算できます。
図：「Weibo」上でのフォロワーの販売を謳うサービスの例 - 米国の地方大学での抗議活動を扇動 ＝ 1,100 万円
2017 年 4 月、米国ミネソタ州の St. Olaf College で学長が人種差別的であるとする情報を発端に、学生の抗議活動が発生しました。しかし、後にこの抗議活動の発端となった情報は「フェイクニュース」だったことが確認されました。
同様の「フェイクニュース」キャンペーンを行うためには、まず自分が扇動したい話題やイデオロギーに関する議論を活発化させるため、合わせて 1,000 人のメンバーを持つ 20 のグループを複数のソーシャルメディア上で作成し、4 万件の「いいね！」と 2 万件のコメントによるプロモーション活動を行います。これらのグループの活動が定着したあと、グループ内の意見を誘導するため、少なくとも 10 件の「フェイクニュース」と共に、それを補完するための動画 50 件を公開。それらの虚偽情報を 10 万件の「いいね！」や 5 万件のリツイートを使用して拡散します。これら想定される活動をすべて合わせると、少なくとも 14 万件の「いいね！」、2 万件のコメント、5 万件のリツイート、グループの作成と運営やニュースや動画として拡散させるためのコンテンツ作成などが必要です。このキャンペーンに必要なこれらの活動をすべてアンダーグラウンドサービスで賄ったとすると、総コストはおよそ 1,100 万円と試算されます。
- ジャーナリストに対する信用棄損と組織的中傷 ＝ 610 万円
攻撃者は自身の利益に反する情報を発信するメディアやジャーナリストを黙らせるために、「フェイクニュース」キャンペーンを仕掛けることがあります。実際にメキシコの人気ジャーナリストAlberto Escorcia は何らかの原因で彼の信用を棄損しようとする「フェイクニュース」キャンペーンの標的となりました。ここでは同様のジャーナリストに対する 4 週間にわたる「フェイクニュース」キャンペーンを想定し、試算してみましょう。まず、標的の評判を貶める内容の「フェイクニュース」と関連動画が週に 1 本ずつ発信されます。これらの偽情報は 5 万件のリツイートと 10 万件の「いいね！」により拡散されます。また同時に 10 万件のリツイートや 2 万 5 千件の「いいね！」を伴った 2 万件弱のコメントによる組織的中傷も、継続して行われます。これらの「フェイクニュース」キャンペーンをすべてアンダーグラウンドサービスで賄ったとすると、総コストはおよそ 610 万円と試算されます。実際にはこのようなキャンペーンは 1 カ月のみでは終了せず、繰り返し執拗に行われることが多いようです。
このように、「フェイクニュース」は世論を操作し実社会に影響を与える手段として、攻撃者にとっては「費用対効果」の高い手法となっています。このことから、さまざまな「フェイクニュース」キャンペーンがより頻繁に発生するようになることが予想されます。今後も継続、拡大するであろう「フェイクニュース」に対し、我々はどのように対抗すべきでしょうか？次回は「フェイクニュース」への対策について考えます。
※本記事の内容は当社発行のレポート「The Fake News Machine: How Propagandists Abuse the Internet andManipulate the Public」(英語)に基づくものです。「フェイクニュース」に関してより深く知るためにはこちらのレポートもご一読ください。
参考記事：
「Exploring the Online Economy that Fuels Fake News」
By Lion Gu, Vladimir Kropotov and Fyodor Yarochkin (Senior Threat Researchers)
■「Fake News（フェイクニュース）」連載記事リンク：
- 「フェイクニュース」：インターネットを利用した世論操作
/archives/15770 - 安価に可能な世論操作、「フェイクニュース」の価格相場は？（本稿）
/archives/15778 - 「フェイクニュース」を見破るためには？
/archives/15789
※記事構成：岡本 勝之（セキュリティエバンジェリスト）