KNNポール神田です。

テイラースイフトの似画像がX.comが拡散され、X側が『TaylorSwift』を検索ワードで機能させないという処置をとった。

■スウィフトさん偽画像、Xで拡散　AIで生成か、米政府も憂慮

カリーヌ・ジャン=ピエール氏はホワイトハウスの第35代報道官

2024年1月30日現在では、『TaylorSwift』をX.comで検索すると、元のように表示されるようになっている。一時的な措置だったと考えられる。

https://twitter.com/search?q=TaylorSwift&src=typed_query&f=user

■わいせつ画像の拡散は、『生成AI』が問題だったのか？

カリーヌ・ジャン=ピエール氏が『大統領令などで生成AI問題に対応している』と答えるのは、記者からの質問に対する答えであった。今回の『テイラースイフト』さんの偽画像がきっかけとしてるものではなかった。

『テイラー・スウィフトの誤ったイメージの流布は憂慮すべきことだ。私たちは、このような事件が女性と女児に不釣り合いな影響を与えていることを知っています。 　@POTUS　（米国大統領）は、実行措置を通じて偽の AI 画像のリスクを確実に軽減することに取り組んでいます。真の解決策を見つける作業は今後も続きます』

カリーヌ・ジャン=ピエール報道官は、自身がLGBTと公言している初の黒人報道官でもある。

今回の、問題は、『テイラー・スイフト』という有名人と『生成AI』で作られた『わいせつ偽画像』ということで話題となっているが、どう考えても『生成AI』というよりも、『アップロードして拡散させた側』に問題があるとしか思えない。

インターネットの誕生前から、雑誌の有名人写真をコラージュしたものは存在するし、インターネット普及機の『アイコラ画像』は、もはやネット上の『NSFW（ノットセーフフォーワーク：職場では危険）』として好事家の趣味として長年存在している。

変化したのは、『生成AI』や『画像AI』の進化だ。

■『生成AI』を恐れる現在の『ラッダイト運動』

19世紀の産業革命の勃興時に、イギリスの織物工業地帯で機械を破壊する『ラッダイト運動』が存在した。当時も当初は職を奪う『機械』にフォーカスが当てられていたが、根底には低賃金や児童労働などの背景もあった。

同様に『21世紀のAI革命』も、AIがなんでも人間を超えていく未来に対しての怖さが現れているように感じる。これは、1960年代の『コンピューター化社会』の管理下を恐れるにも似ている。

『テイラースイフト』の画像が一気に拡散したものも、X.com側の『AI』によるフィルタリングが、まともであれば防げたのではなかっただろうか？

■誰もが簡単に生成AI画像を作れる時代

もはや、数多くのプロンプトサイトで、『テイラースイフト（TaylorSwift）』さんそっくりの顔のプロンプトは、ほぼ生成され尽くしており、プロンプトに『TaylorSwift』と打ち込むだけで簡単に生成AI画像は作れてしまう。

顔認識機能による画像AIも進化している。

また、表情や、そこに別のボディやポージングが学習されたものが『LoRA（Low-Rank Adaptation）』として合成されると、簡単にフェイク画像は作れてしまう。

同時に『テイラースイフト』の顔を固定化したままいろんな画像は生成できるようになっている。

ネットワーク上のぷらっとフォーマーのサービスでは『NSWF（not safe for work ）職場での閲覧注意』でボカされたり、権利侵害をしないよう呼びかけられてはいるが、明らかに権利を侵害された権利者側が、無数にある『プロンプト（呪文）サイト』に申告しない限り対応できないのが現状である。

このあたりは、プロンプトサイト統一で権利侵害された情報を共有できる仕組みが必要だと思う。無数にできたプロンプト共有サイト全体に対しての世界的な『プロバイダー責任制限法』のようなものが必要なフェイズだ。

むしろ想像画像の生成同様に、ニセ画像の生成も簡単になってしまったことも問題だ。また、かけあわせたり、ミックスすると、どこまでが本人経由なのかもわからないややこしい時代になっている。

『ツール道具を作った人』、『作った人』、『公開されるプラットフォーマー』とあるが、やはり、作った人のリテラシーが一番問われるべきだと思う。