一般ユーザーによるTwitter投稿

台風15号は各地に被害を残し、特に静岡県を中心とした水害が注目されました。水害に関する情報がマスメディア・SNS共に錯綜する中、Twitterから描画AIによる虚偽情報が発信、幅広くシェアされたのは記憶に新しいと思います。

この虚偽情報はBuzzFeed Japanによる検証記事、日本ファクトチェックセンターによる検証記事、リトマスの大谷編集長のTwitter個人アカウントでの検証、当リトマスで検証記事が出ました。ファクトチェックの他にも、この件に関するニュースが多数出ています。

虚偽画像は、群雄割拠の描画AIによるものです。描画AIはDALL・E2Midjourney等さまざまありますが、今回の静岡の水害の虚偽画像はStable Diffusionによるもの(虚偽情報を投稿した本人談)です。

基本的に描画AIはオンラインで使用するものが多いのですが、Stable Diffusionはパソコンにインストールし、オフラインで使用できる(ただしスペック依存)のがひとつの特徴であり、またオープンソースで作られているのも特徴です。

ここでStable Diffusionの利用規約を確認したいと思います。サイトに飛んでみましょう。「ライセンス」があります。そこに何が書かれているか。

Use Restrictions
(中略)
-To generate or disseminate verifiably false information and/or content with the purpose of harming others;
(後略)

使用制限
(中略)
-他者に危害を加える目的で、検証可能な虚偽の情報および/またはコンテンツを生成または流布すること。
(後略)

Stable Diffusion(GitHub)

To generate or disseminate verifiably false information and/or content with the purpose of harming others“、「他者に危害を加える目的で、検証可能な虚偽の情報および/またはコンテンツを生成または流布すること」を明確に禁じています。つまり、今般の虚偽情報は、Stable Diffusionの規約違反なのです。

この場合、「他者に危害」は例えば行政への偽計業務妨害に問われる可能性も否定できません。描画AIを自己のクリエイティビティを広げる行為に利用することはいいのですが、社会的に迷惑をかける行為は許可されません。こうしたSNSを通じた虚偽情報流布では過去に逮捕者も出ています(熊本地震でのライオン脱走デマ、起訴猶予)

特に災害時は誤情報・偽情報が流れやすくなります。過去の映像・画像や今回のように虚偽画像を用いて「今の情報」のように装う情報に惑わされやすくなります。心を揺さぶる情報には注意が必要です。「これは拡散しなければ」という情動が強ければ強いほど、いったん立ち止まり、その情報の出どころを確認するように心がけたいものです。

(西村晴子)

最後までお読みいただき、ありがとうございました。 
この記事を読んでよかった、役に立ったと思われた方は、シェアボタン(右下)をクリックして、サポートしていただければ幸いです。
ご意見・ご感想はこちらからお送りください。