Googleがユーザーデータを児童ポルノと誤判定して勝手に削除から見るGAFA対策の困難

(写真:ロイター/アフロ)

 クラウドストレージに保管していたファイルが事前警告もないまま無断で削除されたということで一部のネット民の間で騒ぎになっていたようですが、その経緯が報じられておりました。

「Googleドライブのエロ画像が消された」ネットで話題 削除の基準は? 誰が判断? Googleに聞く(ITmedia 19/11/15)

ポリシーに反すると判断された場合、コンテンツを削除したり、ファイル共有を制限したり――といった措置をとるという。

出典:ITmedia

 記事から判断するに、どうやらGoogleの運用するアルゴリズムで児童ポルノのようなものであると判断さた画像ファイルが自動的に削除されたということなのでしょうか。本件では二次エロ画像が話題になっていましたが、巷では家族写真が削除の対象になったという話はいくつか上がってきており、また、Google側の説明でも「人間が目視でチェックしているわけではなく、『自動システムによるスキャンで乱用を示すシグナルを検出している』(Google日本法人の広報担当者)という」ということで、これはGoogleは通信内容について秘密を守っていますよという立て付けを維持するための抗弁を用意しています。実際、チェックするべきデータ量は膨大でしょうし、駄目判定をされた画像をいちいち人間が目視して判定するというのも現実的ではないでしょうから、致し方のないことではあります。

 公共に広くクラウドストレージサービスを提供するGoogleとしては、児童ポルノに関連したデータをホスティングするという事態が発生することは、結果として犯罪に荷担することにもつながるため絶対に避けたい状況でしょうから、こうした形で自衛策を講じるというのはそれなりに理解できるものがあります。

 しかしながら、ユーザー側からすれば誰とも共有せず単にファイルを保管していただけで勝手に削除されるのはけしからんと感じる部分はあるでしょう。しかも、子どものいるユーザーならば家族で訪れたプールで撮影した写真や動画などが児童ポルノと判定され、身に覚えのないデータを不適切に判断されて抗弁の余地なくいきなりユーザーアカウントをBANされる危険性もあるかもしれません。

 このあたりはザックリと米国式に考えるなら、Googleの提供するサービスがどういうポリシーで運用されているかを確認・認識していなかったユーザー側の落ち度ということになるのでしょう。極端な言い方をすれば、これが原因でアカウントそのものが失効することもなければ逮捕もされずに済んだのだからGoogleの温情に感謝すべきということになるのかもしれません。

 ここでユーザーが理想と考えるストレージサービスは合法・非合法にかかわらずユーザーの権利を100%保護してくれるものになると思うのですが、そうしたサービスをGoogleはパブリッククラウドレベルでは提供していないということになります。まずはGoogleのポリシーがあり、ユーザーの利用目的がそれに抵触するものであれば、Googleは容赦なく排除するということです。そして、こういう運用方針はおそらく他のすべてのパブリッククラウドサービスにも当てはまることなのではないかと思います。

 つまり、いずれのサービス運営者も自らの立場が危うくなるようなファイルをホスティングするリスクはできるだけ避けたいであろうし、そのためには常になんらかの形でファイル内容を確認するために自動スキャンのような行為を実施しているとしても不思議ではないということです。もちろんファイル内容について一切関知していない事業者もあることでしょうが。

 今回の場合、もしファイルを圧縮・暗号化していればどうだったのだろうかという点も気になるところですが、Googleのようなテクノロジーリソースを持つ事業者であれば、逆に圧縮・暗号化されたファイルの中身をどこまで検知できるかを実験するための場としてこうしたクラウドストレージサービスを利用している可能性が無いとは言えないなと妙な妄想をしてしまいます。

 いずれにしても、パブリックな形で提供されているクラウドストレージサービスというのは大変便利ですが、最悪の場合にはどこの誰にのぞかれても支障がないような内容のファイルだけをアップするぐらいにしておくのが精神衛生上良いのではないかと思う次第です。しかし、そうだとすると育児記録や診療データなどをクラウドストレージサービスで保存している人は、やっぱり全部ローカルに移しておくべきか悩むことになります。

 機械や人工知能が通信内容を見る限り、それについては日本の憲法が定めた通信の秘密を犯さないと言えるのかどうか悩ましいという議論が改めて出てくるかもしれませんが、先般の「GAFA対策」の検討内容の報道を見る限り、マズいとは思っているけどGAFAは日本の憲法や法律を無視してサービスを提供されたらお手上げという結論になっているのもまた事実です。

GAFAに「通信の秘密」適用へ=実効性が課題-総務省会議(時事ドットコム 19/2/13)

 結局、この手の日本政府の対策が後手に回り、GAFAが日本の社会通念上、あるいは日本人が考える道理にそわずに概ね便利なサービスを提供して支持を得たあとで、実は児童ポルノに引っかかりそうな家族写真も無断削除の対象になりかねないのに日本政府は日本人のデータを海外事業者から憲法通り守ることができないとするならば、一番苦労するのは日本の憲法も法規もきちんと守る国内事業者であることは間違いないでしょう。

 海外のサービスが便利だからと使っていたら、日本の法律に守られていなくて理不尽な対応をされるケースは、別にGAFAに限らず並行輸入も含めた貿易がらみでは日常的に起きることですが、データ資本主義の時代になって気がついたら日本人や日本企業のデータが当たり前のように海外のサービスの上にあるとき、万が一どうするのかについて改めて考えておく必要がありそうです。