「犬」を「猫」と認識させる？ 画像生成AIの“無断学習”を阻止するツールが登場
後を経たないAIによる「不正学習」
ネット上の画像やアート作品がAIのモデル学習に無断で使用されるケースは後を経たず、著作権を巡って訴訟に発展することもある。 2023年1月、米国の複数のアーティストが「素材や個人情報を同意なくスクレイピングされた」として、Midjourneyなどに対して集団訴訟を起こした（同年10月に棄却）。また、2月には写真販売サイトのGettyImagesがStable Diffusionの親会社Stability AIを相手に提訴している。 自身の才能や個性こそが「売り」であるアーティストたちにとって、自分の作品が勝手に学習され、“模倣”されてしまう懸念は強い。 また、生成AIによる「作品」の著作権についても議論が始まっている。例えば、2022年8月にMidjourneyで生成されたAI作品がアートコンテストのデジタルアート部門で1位を獲得して“大炎上”した。SNS上では「ロボットをオリンピックに参加させるようなものだ」とバッシングされている。 一方、翌年8月ワシントンD.C.では「AIが生成したアート作品は著作権保護の対象外」という連邦判事の判決が下っている。日本では2024年1月に文化庁が「AIと著作権に関する考え方について」という素案を発表し、ようやく規範作りに乗り出したところだ。
そもそもAIに学習をさせない「Kin.art」
もう1つ、AIスクレイピングからデジタル作品を守ってくれるのが「Kin.art」だ。こちらは画像に「毒」を持って防ぐNightshadeとは異なり、作品をKin.artのプラットフォームにアップするだけで、AIの不正アクセス自体を防御してくれるという。 Kin.artの共同設立者であるRosmans De Vryは次のように述べている。「たとえばAIは『鳥』を学習するとき、インコやワシや青い鳥といった『ラベル』の付いた画像のデータセットで訓練します。でもその画像やラベルをぐちゃぐちゃにすると、学習できなくなりますよね」 つまり、Kin.artの仕組みはこうである。まずKin.artにアップされた画像を小さく分割（セグメンテーション）してAIの学習を阻害する。さらに、画像に付随するメタデータやテキストなど、画像に関連づいているラベルをごちゃ混ぜにしてしまうのだ。 AIのトレーニングアルゴリズムは画像とメタデータの両方に依存するため、「四本足と尻尾と鼻を持ち、毛皮で覆われた生き物」を「犬（だろう）」と学習する。しかしKin.artでは画像の構成自体もしくはラベルのいずれかを破壊して「ごちゃ混ぜバージョン」を作ってしまうため、AIが正確に学習することを実質的にできなくしてしまうのである。 De Vryは「この二重のアプローチによって、アーティストの作品をAIの不正学習から保護するのです」と述べている。 Kin.artは利用登録をすれば誰でも無料で利用できる。生成AIにヒヤヒヤしているクリエイターたちにとっては、心強いツールとなることだろう。
文：矢羽野晶子 /編集：岡徳之（Livit）
