「正しい情報」を届ける責任——地域の安心を技術で守る、長野県伊那市の挑戦

宮島

伊那市では、フェイク情報による具体的な被害がすでに発生していたわけではありません。正直なところ、当初から強い危機感を抱いていたという状況ではなかったのですが、SNS時代における情報環境の変化そのものは強く感じており、「決して他人ごとではない」という問題意識は常に持っていましたね。

宮島

そんななか、NTT東日本さんから今回の実証に関するお話をいただいたのですが、ちょうどその頃からYouTubeやSNSなどでフェイク情報が増えているという実感もありました。

加えて、偽情報の拡散が選挙結果を左右したり、ある自治体の公式アカウントが誤って偽画像を拡散してしまったりといった事案も発生しています。世の中でもこの問題が大きくクローズアップされるなか、誰もが気軽にフェイク画像や動画をつくれる時代になってきたと感じていました。

今後、こうした対策は行政のみならず、企業や個人単位でも不可欠になってくるでしょう。市民のみなさんの安心・安全を守る立場として、技術検証への協力は意義あるものと考え、今回の実証実験への参加を決めました。

宮島

当市は小さな田舎の市町村なので、外部から意図的に狙われる確率は相対的には低いと考えていますが、リスクはどの自治体にも存在すると考えています。さらに、このあたりは山に囲まれた地形なので、大雨や地震などの際に道路が寸断されて、市内の一部エリアが「陸の孤島」のようになるケースもありえます。そういうときにフェイク情報が混ざってくると、被害状況の把握や支援の手配が遅れてしまうかもしれません。

また、これは伊那市に限った話ではないですが、フェイク情報というのは「必ずしも明確な悪意を持った人が仕掛けてくるケースだけではない」というのも難しいポイントだなと。実際に誤って偽画像を拡散してしまった自治体の事例も「遊びで友人を驚かせるつもりでつくった画像を、友人が本物だと信じて善意のもとで通報、それを自治体が公式に拡散してしまった」という経緯でした。

このように、拡散のプロセスに「善意」が含まれているケースは少なくないでしょうし、どの自治体でも起こり得る話だと思っています。

宮島

「市役所のお墨付き」がつくことですね。私たちが公的に発信する情報には責任が伴います。それだけ、自治体が発信する情報に、みなさんが信頼を置いてくださっているということでもあると思っています。

また、情報の受け手の多くは、「本当か嘘か」を白黒はっきりさせたいと思いがちです。でも、ひとつの投稿や写真のなかに「部分的にフェイクだけど、80％は本当」「画像自体は本物だけど、文章はほとんど嘘」といったグラデーションが含まれているケースも少なくありません。

こうした文脈を踏まえても、責任ある立場から「本当か嘘か」を判定するのはとても難しく、だからこそ慎重にならざるを得ない。今回の実証実験においては、そのあたりの判断の負担軽減や信憑性の担保にどこまで寄与してくれるのか、また、技術だけでは判断が難しい領域がどこにどれくらい残るのか、しっかり見極めたいなと考えていました。

石倉

フェイク情報の問題は、必ずしも強い悪意から生まれるものばかりではありません。宮島さんがおっしゃるように、善意や思い込みが重なった結果、意図せず誤った情報が拡散してしまうケースも多々あります。

こうした状況に対し、NTT東日本では「技術によってどこまで社会を支えられるのか」という観点から、偽・誤情報対策の研究開発に取り組んできました。その一環として、総務省の採択を受け、AIベンチャーのNABLASと協力して、2025年8月より「電話音声フェイク検知および偽・誤情報総合対策」の開発・実証を進めています。

今回の伊那市さまとの取り組みは、その研究成果を「地域の現場でどのように活かせるのか」を検証するための大切な一歩です。単にシステムを導入するのではなく、公的な情報の信頼性をどう守るかという課題に対し、現場の運用や判断のプロセスまで踏み込んで、自治体のみなさまとともに試行錯誤を重ねてきました。

石倉

まず、私たちがこのシステムを通じて実現しようとしていることは、大きく3つにわけられます。そして、それぞれに鍵となる技術があります。

①信頼できる発信者が正しい情報を投稿していることが確認できる
②悪意のある投稿者がフェイクコンテンツを投稿したときにフェイクと見破れる
③転載・拡散された際にもその情報が正しいか否かが判定できる

①の「信頼できる発信者が正しい情報を投稿していることが確認できる」を実現するために用いられているのは、DID / VC（分散型ID／検証可能なデジタル証明書）です。

これは「この情報が確実に伊那市から発行されたものである」とデジタル上で証明するための技術です。デジタルの情報は簡単にコピーや加工ができるため、「これは本当に公式の情報なのか」という疑念が生まれやすいのですが、自治体がDID / VCを用いて発信する情報に証明書を付与すると、その有無をもって確実に判断することができます。

石倉

②の「悪意のある投稿者がフェイクコンテンツを投稿したときにフェイクと見破れる」については、画像・動画のフェイク判定AIを開発しました。確認したい情報URLを入力、または画像・動画をアップロードして検証ボタンを押すだけで、AIによって生成・編集された情報かどうかを検出します。

石倉

③の「転載・拡散された際にもその情報が正しいか否かが判定できる」については、ウォーターマーク（電子透かし）とファクトチェックエージェントを用いて対応します。

ウォーターマークは、DID / VCで発行した証明書などを、見た目上の変化なく画像や動画に埋め込む技術。該当する情報が途中で改ざんされているかどうかを判定することもできます。ファクトチェックエージェントは、テキストの事実関係を判定する技術です。これらによって、正しい投稿か否かを拡散・転載後も検証できるような状態を実現します。

石倉

このように技術を組み合わせることで、より精度高く偽・誤情報を見破るシステムの構築をめざしています。

宮島

今回の実証には大きく2つのフェーズがありました。ウォーターマーク付きの画像を投稿するフェーズと、情報を受け取る市民の目線で投稿を判定するフェーズです。

投稿する側としては「手順がひとつ増えるものの大きな課題感なくスムーズに使える」という感触でした。証明書をウォーターマークに埋め込んで「自分たちが発信した情報である」と証明する技術については、いますぐにでも使える有効なものだなと感じました。

投稿を判定する検証では、元画像の上に偽情報をレイヤーで重ねたり、ごく小さい範囲のみ改ざんしたりするケースを試してみました。加工範囲がかなり狭いと検出が難しい場合もありましたが、判別の精度は想像以上に高かったです。

人の目では加工と判断できないほど精巧な改ざん画像であっても確認できたことや、生成AIで生成したものを正確に見破れることなどは、素直に「すごいな」と感心しましたね。

宮島

一方で気になったのは、「生成AIでつくったからといって、それが必ずしも『嘘』とはいえないケース」にどう対応するのかという部分です。

たとえば、自治体がチラシのデザインを生成AIで作成し、ウォーターマーク付きで投稿したとします。この場合、「証明書あり＝本物」と「生成AIで作成＝フェイクの可能性」という矛盾した判定が出てしまうかもしれない。

また、いまどきのスマートフォンの写真は相当な補正処理が入っていますが、それを「画像加工されている」として嘘と判定すべきかというと、そうはなりませんよね。技術的な判定結果をそのまま「嘘か本当か」の判断に直結させることの難しさを、実証実験のなかでもあらためて考えさせられました。

石倉

文脈をとらえた真偽判定については、おっしゃるとおり今後も検証・改善が必要な部分ですね。

また、現状のシステムでは、SNSで見かけた画像を確認する際に、一度ダウンロードしてからシステムにアップロードするという手順が必要で、利便性にも課題があるなと感じています。今後はSNSを見ながら、ワンクリックで確認できるかたちをめざして、改良していきたいと思っています。

加えて、判定結果の「見せ方」も重要な課題だなと受け止めています。判定の結果をどのように表現するべきか、その根拠はどこまで表示するべきか。すべての根拠を並べると複雑すぎてわかりにくくなりますが、こちらでサマリーしすぎても情報が薄く不安が残る可能性もあります。「誰に・どんな場面で・どう使ってもらいたいか」を明確に定めたうえで、最適な見せ方を設計する必要があると感じています。

宮島

ひとつは、判定結果に頼りすぎてしまう可能性と、どう向き合うかです。とくに公的な機関がかかわっている場合、「市役所が本当と言っているなら正しいはずだ」と受け止められることは、決して珍しくありません。すると悪意のある人たちは「このツールで本物と判定されるような偽情報をつくろう」と考えはじめるかもしれない。どんな技術でもイタチごっこになっていくわけですが、そうしたリスクも意識する必要があります。

宮島

もうひとつ、ユーザー側の使い方を想定し、それに合わせた設計・周知を行うことが重要になってくるかなと。「真偽を明確に判断するツール」としてリリースするなら、技術精度や表示方法はその基準を満たす必要があります。でもいまの段階は「怪しいと思ったときに参考になる」というところ。「判断を補助するひとつのツール」として考えれば、すでに十分に有効だと思います。

そのあたりをどこまで技術的に調整して、どういった用途のツールとしてリリースするのかは、まだまだ検討の余地があるなと。

石倉

「これを使えば真偽がわかる」という断定的なツールが実現できるのであれば理想的ですが、私も今回の実証で、それが容易ではないということがあらためて実感できました。現時点では「偽・誤情報対策の判断の根拠を提供する仕組み」として設計していくことが、社会実装への現実的な一歩だと思っています。

宮島

これまで自治体は、発信するところまでが責任範囲だったかもしれません。しかし、情報量がこれほどまでに増え、そのなかに偽・誤情報が多く混ざってくる時代においては、「発信した情報が拡散された先で起きること」についても、責任を持つ時代になってきているのだろうなと感じています。

SNSやAIなどを背景に、技術によって生み出されるフェイク情報に対しては、技術で対抗していくことが求められます。今回のようなシステムを活用し、自分たちの情報がどのように語られているかをキャッチし続けることが、これからの自治体には欠かせなくなってくると思います。

石倉

今回は自治体向けの実証でしたが、情報を発信するのは自治体だけではありません。企業も、官公庁も、医療機関も、さまざまな主体が信頼性の高い情報を届ける責任を持っていると思います。

DID / VCのような証明書の仕組みは、広く使われ、多くの方に知っていただくことで、信頼性が高まる技術です。今回いただいた知見を活かして、より多くの方に使っていただけるかたちをめざしていきたいと思っています。

宮島

フェイク情報との向き合いについては、今回のようなツールの導入といったハード面へのアプローチと、リテラシー向上の活動といったソフト面へのアプローチを、同時に進めていく必要がありますね。どちらか一方だけでは、本質的な課題の解消には至らないだろうと感じています。

伊那市では職員向けに、職場で生成AIを活用する際のガイドラインを整備し、「AIが偽・誤情報を生成する場合もある」などの意識を共有する取り組みを強化しています。市民向けにもスマートフォン教室を開催するなど、地道な啓発活動を続けています。

石倉

まさにそのとおりだと思います。偽・誤情報への関心は高まってきましたが、「どうすれば情報に惑わされないか」「自分が誤情報を拡散してしまわないためにはどうすればいいか」という具体的な対策は、まだ十分には知られていません。私たちも、みなさんとともにこうした課題に向き合えるよう、技術開発と情報発信の両面から取り組んでいきたいと考えています。

宮島

よくいわれることですが「ひとつの情報だけを見て信じないこと」が基本だと思います。運営元がよくわからないメディアやまとめサイトなどには誤情報が多いのはもちろん、大手メディアが発信源であっても、絶対に正しいというわけではありません。インターネット上で見かけるすべての情報は、基本的にまず疑ってかかる必要がある時代になっています。

また、今回の実証を通じて、私自身があらためて実感したのは「判断や行動する前に、いったん立ち止まること」の大切さです。実際にシステムを使って情報の真偽を確認するプロセスを踏んでみると、一度情報を受け止めることで、より冷静に判断できる場面があるのだという体感がありました。技術があることで、そうした立ち止まる選択肢が生まれる。今回のフェイク判定ツールも、そのひとつになり得ると思っています。

今回の実証で用いられた技術は「正しいかどうかを断定する存在」ではなく、「考えるための土台をつくる存在」として機能するときに、最もその価値を発揮するものだととらえています。こうした技術、ツールを市民のみなさんとともに適切に使いこなせるような社会をつくっていく——それがこれからの行政に求められていることだと感じます。