「ChatGPT」の悪用による、中国初の逮捕者が出ました。

今年2月にも、浙江省杭州市で「ChatGPTで政府発表っぽい文章を作ったら拡散されて警察が捜査」という事件がありましたが、こちらは立件までにはいたっていなかったようです。

さて、今回の逮捕ではどのように悪用されていたのでしょうか。

中国の情報サイト「IT之家」によると、逮捕されたのは深圳市で「自媒体」（SNS上で運営されるメディア、個人サイト）を運営する洪という男性。

4月25日、21ものブログで「甘粛省で鉄道事故、線路補修作業中の9人死亡」という内容のニュースを掲載。そのアクセス数が累計1万5000PVを超えるなど一定の注目を集めたため、警察が捜査し5月5日に逮捕されました。

「なるほど、ChatGPTでフェイクニュースを作ったのか」と早合点しそうになったのですが、どうもちょっと違うようです。

洪は「易撰」というブログ執筆支援ツールを使っていました。ホットな話題の表示やニュースサイトの記事を簡単に切り貼りして、ブログ記事を執筆できるというものです。

ただ、同じ文章を複数のアカウントに同時投稿すると、プラットフォーム側に検知されて削除されてしまいます。そこでChatGPTを使って、少しずつ文章を変えて規制を免れたということのようです。

我々日本人にもわかりやすいような例で考えると、「宿題のレポートをまるまるコピペすると先生にばれるので、ChatGPTで内容は同じで表現が違う文章に変更した」ようなものでしょうか。

生成AIは最終的に人類社会にポジティブな効果をもたらすと期待していますが、直近ではこうした悪用が激増することは間違いないでしょう。