AI時代の「誤情報リスク」とどう向き合う？ SNS研究の第一人者に教わる対策法

山口

フェイク情報が影響を及ぼす領域はさまざまありますが、特に象徴的なものは2つです。

1つ目は、防災・防犯の領域です。2024年の能登半島地震の際、SNS上では東日本大震災の津波の映像を使って「いまこんな災害が起きている」とウソの投稿をしたり、「被災地に外国人窃盗団が集結している」といった根拠不明の発信をしたりするアカウントが確認できました。ほかにも事実に紐づかない救助要請や支援を騙る募金詐欺など、さまざまなフェイク情報が拡散されていました。

少し前には、ある自治体で起きた「熊出没のフェイク情報」の騒動も話題になりましたね。路上に出没した熊の写真がSNSにアップされ、町の公式アカウントがこれを拡散して注意喚起しました。しかしあとから、画像の投稿者が「生成AIで作成したフェイク画像だった」と申し出てきて、町側が誤情報の拡散を謝罪する事態になりました。

山口

2つ目は、行政・選挙の領域です。2025年には、千葉県内の4市が国際協力機構（JICA）の事業の一環として、アフリカ諸国の「ホームタウン」に認定されました。一方で、この取り組みをめぐっては、制度の趣旨とは異なる内容がSNSや一部海外の報道で広まり、さまざまな意見が寄せられる状況も見られました。

この過程で、各自治体の外国人関連の政策に関するフェイク情報がSNSなどで拡散し、自治体には真偽確認の問い合わせが殺到しました。誤った情報の拡散が、自治体の業務を圧迫する――こうした事態は、もはや例外ではなく、各地で頻発しています。

また、選挙においては、選挙戦の際にかなりの量のフェイク情報が投稿されています。それらが真偽不明のものと入り混じって情報が錯綜することで、選挙結果にも甚大な影響を及ぼすようになってきました。

行政や選挙についてフェイク情報を流布しているアカウントは、その地域に住んでいない人のものであることも少なくありません。こうした外部の人間が、その地域の今後を決める重要な政策・選挙の行く末を左右してしまっている現状は、「地域自治の危機」ともいえるでしょう。

フェイク情報の選挙への影響は、以前から国際的な問題にもなっています。2016年の米国大統領選挙においては、選挙前の3か月間でトランプ氏に有利なフェイク情報が3,000万回、そしてクリントン氏に有利なフェイク情報が760万回Facebook上でシェアされました。いずれも事実に基づく投稿の拡散数を大きく上回っていたことが、のちの調査で判明しています^*１。

この出来事を契機に2016年は「フェイク情報元年」と呼ばれるようになりました。その後もフェイク情報の問題は収束するどころか、生成AIの普及によって、より容易かつ大量に拡散されるようになり、影響はむしろ加速しています。

山口

そうですね。また、フェイク情報と並べてお話ししておきたいのが、誹謗中傷の問題です。

誰もが強い発信力を手にした現代では、SNSを通じた誹謗中傷の形も複雑化・多様化しています。誹謗中傷が原因で、人が亡くなってしまう悲しい事例も、後を絶たない状況です。

私の調査では、10代を中心とした若い人ほど、ネット上で誹謗中傷を受けている確率が高いという結果も出ています。学校現場でもネット上のいじめが大きな問題になっており、これは健やかな地域社会を築くうえでは見逃せない問題だと考えています。

山口

本物と区別がつかないような画像や動画を、誰もが簡単につくれる時代になったいま、私たちは正しい知識を持って、「ウソと本当」が複雑に入り混じる世界と向き合っていく必要があるのです。

山口

背景にあるのは、SNSの普及により誰もが自由に情報発信できる「人類総メディア時代」の到来です。すべての人が過剰な情報発信力を持った結果、スマートフォンから一国の大統領に、直接ヘイトスピーチを送ることすら可能になりました。一部の人がこの力を乱用することで、フェイク情報や誹謗中傷が大きな影響力を持ってしまっているのです。

ただ、ここで強調しておきたいのは、「人類総メディア時代」は多くのメリットも生み出している、ということです。場所や時間の制約なくコミュニケーションが取れるようになったことで、人々のコミュニティは豊かな広がりを見せています。さまざまなマイノリティが同じ境遇の人たちとつながりやすくなったことで、SNSを起点にポジティブなムーブメントも多々沸き起こっています。

山口

地域の観点で見ても、メリットは大きいでしょう。SNSの普及のおかげで、あらゆる自治体がローコストで地域の魅力を発信できるようになりました。

たとえば、神奈川県葉山町では、SNSで「#葉山歩き」というハッシュタグを設けて、住民や観光客に写真を投稿してもらうことで、自治体職員の方の力だけでは届けられない、さまざまな魅力発信を行うことができています。因果関係までは証明しきれていませんが、結果として葉山町では、この取り組みをはじめてからの人口の社会増減がプラスに転じたというデータ*^２も出ています。

山口

こうしたSNSによる情報収集・発信の面では、「人類総メディア時代」のおかげで、都市部と地方の格差が縮まっているといえるでしょう。ただし、それだけ大きな力を持つツールだからこそ、リスクもまた大きいのだ、という自覚を持つことが大事ですね。

山口

みなさんにも、IT技術の進歩に伴って急速に社会が変化している実感があるとは思いますが、私は現状について、まだまだ「情報社会の黎明期」だととらえています。

近代化の歴史を紐解くと、1500年代半ばの重火器の発明で「軍事力の民主化」といえる状況が起こりました。それまで戦争は訓練された騎士が担っていたところ、重火器によって一般の人でも短期間で戦力になれるようになったのです。その結果、封建領主の支配力が弱まり争いが激化し、「戦争に勝つこと」が重要な価値観として共有されるようになりました。

「軍事力の民主化」の末の争いは、幕開けとなったきっかけから約200年続いて収束しています。また、その後の産業革命でいわゆる「経済力の民主化」が進みましたが、これも同じように約200年の時間をかけて展開していきました。

こうした過去の大きな社会構造の変化を踏まえると、いままさに起きている「情報の民主化」もまた数百年続くと考えられます。データ流通量の統計を見ても、ここ数年で爆発的な伸びが観測できますが、AIが別のAIを開発するような時代がすぐそこに迫っていることもふまえれば、いまはまだ「情報社会の黎明期から発展期に差しかかる段階」だといえるのではないでしょうか。

山口

そうですね。たとえば最近、とある地域の名産品を騙った偽の商品が出回る事件がありました。その商品はAIがつくった動画広告によってSNS上で宣伝され、購入してみると広告とはまったくの別物が届く、という被害が続出したのです。

昨今の生成AIの進化はすさまじく、一見すると偽物だとは気づけないようなクオリティの画像や動画――いわゆる「ディープフェイク」と呼ばれるようなコンテンツが、一瞬にして作成できてしまいます。手塩にかけてつくった農産物のブランド名を他者が勝手に騙るという詐欺行為は昔からありましたが、最近はそれに拍車がかかってきていますね。

特に日本の農産物や工業製品は国際的に見てもブランド力が高いので、こうした詐欺のターゲットになりやすい傾向にあります。詐欺が増えれば正規の商品の売上が落ちるだけでなく、ブランドそのものの信頼度が低下してしまいます。「実は美味しくない」「偽物を出すところだ」などという評判が一度広まってしまうと、回復するのには大変な時間と労力がかかります。

山口

本物か偽物か判別できない情報が出回ること自体は、もう防ぎようがありません。そのため、今後はこうした情報の真偽をなるべく正確に判定するような技術の導入や、フェイク情報が出回った際の対策を事前に整えておくことが、自治体や企業にも求められていくと考えています。

たとえば、東京都では最近外国人関連のフェイク情報が流れた際、速やかに公式アカウントで事実を発表して「そのようなことはありません」と否定し、「#TOKYO_CORRECT」というハッシュタグを用いて正しい情報の拡散を試み、事態を早期に収束させました。

山口

これは素晴らしい事例なのですが、ほかの自治体でやろうとすると、十分な人員や予算などのリソースが必要です。

フェイク情報の問題は、地域に関係なく発生しますが、とくに地方では、人口規模や組織体制の違いから、対応に工夫が求められる場面もあります。一方で、限られたリソースのなかでも実践できる対策は多く存在しており、地域の実情に合わせて少しずつ取り組みを進めていくことが重要です。

山口

自治体がすべき対策としては、大きく3つのポイントがあります。

1つ目は「SNS運用のルール・ガイドライン作成」です。たとえばカナダのオンタリオ州の公共セクターでは、州の公式アカウント、トップである大臣のアカウントから行政に関わる専門家、幹部、そして職員の個人アカウントまで、それぞれの立場に応じたSNS運用のガイドラインを細かく分けて作成しています。

私は、こうした規定をすべての自治体が必ず作成するべきだと考えています。最低限のマナーや禁止事項を明確に定めておくことが、自治体としての情報発信におけるミスを減らすとともに、フェイク情報に対して毅然と対応する組織文化の醸成につながります。先行事例は多々あるので、それらを参考に作成すれば、そこまで難易度の高いものではないと思われます。

山口

2つ目は「SNSモニタリング」です。都道府県レベルの自治体なら、SNSモニタリングは不可欠でしょう。フェイク情報に対しては、それが拡散されて盛り上がる前に迅速な対応をすることが重要なので、自分たちの自治体についてどのような情報が拡散されているのか、いち早くキャッチすることが欠かせません。

3つ目は「事実に基づく正しい情報の発信」です。これもフェイク情報対策における、重要な原則のひとつです。誤った情報が拡散された際には、犯人捜しや投稿者への否定に走らず、冷静に正しい情報を広くアナウンスすることに徹してください。

こうした自治体の発信には誹謗中傷が殺到することが往々にしてあるので、SNS担当者のケアも不可欠です。ただ大事なのは、そのうえで正しい情報を発信し続けることです。

SNSは能動的な発信しかない言論空間のため、大量に発信する極端な人たちが目立ちます。しかし、9割以上の穏健な人々はほとんど自らの意見を発信せずに、タイムラインを見守っています。そういったサイレントマジョリティに向けて、事実に基づく正しい情報を公式として発信し続けることが、自治体としての自衛につながります。

山口

まず大前提として「あらゆる情報は偏っているし、間違っていることもある」という認識を持ちましょう。私の調査では、フェイク情報の拡散手段として最も多かったのが「家族、友人、知人との直接の会話」だ、という事実も明らかになっています。結局、SNS上だろうとリアルの会話だろうと、人は間違える生き物なんですよね。

山口

ただ、この事実をもって「誰も信用するな」と言いたいわけではありません。「どんなに偉い人、身近な人でも間違えるんだ」と意識したうえで、情報を受け取る際も伝える際も、しっかりと正誤を吟味することが大事なんです。

SNSやAIは、「どう使うか」が注目されがちですが、それと同じくらい重要なのが、「情報を正しく受け取る」ための基礎的な知識や、情報特性やリスクに対する理解です。SNSを「使える」からといって、SNSに流れる情報の特性を「知っている、理解できている」とは限りません。

お金を稼ぐためにフェイク情報を流す人がいること、自分の見たい情報ばかりが集まってくる「フィルターバブル」という現象があること、私たちの調査ではSNSの炎上1件につきネガティブな投稿をしている人は全体の0.00025％ほどのごく少数であること……そういった現実への正しい理解を持つことで、情報を適切に扱う能力、すなわち「情報リテラシー」が培われていくのです。

何でもすぐに調べられる時代だからこそ、一呼吸おいて「自分で」考える。その姿勢こそが、違和感に気づくための手がかりになるのかもしれません。

山口

最も重要なのは「他者も自分も尊重する」という、シンプルな道徳心を忘れないことです。

自分が言われて嫌なことを、相手に言わない。「いいね」の数より、「自分が心から楽しめているか」を大事にする。過度に比較することなく、お互いの違いを認め合う……言葉にするとありふれたことですが、みんなで健やかな情報社会を築いていくためには、こういったことを一つひとつ大切にする姿勢が、本当に必要なんです。

先ほど言及した「軍事力の民主化」「経済力の民主化」といった技術の発展期には、世界は大変な混乱に包まれました。しかしそんななかでも、人々は試行錯誤しながらルールをつくり、新しい技術が安全に活用される環境を整えていきました。

だから私は、いままさに「情報の民主化」によって起こっている混乱も、過去と同じように乗り越えていけるはずだと信じています。大切なのは「自分も間違えるかもしれない、誰かを傷つけるかもしれない」という前提を胸に刻み、正しい知識と思いやりをもって他者と向き合うこと。そうすれば、SNSも生成AIも、私たちの暮らしをよりよくするためのパートナーとして、これからも活用し続けられるはずです。