Yahoo!ニュース

アンチによる「炎上」が支えていた? TwitterのAI「右派推し」の原因とは

平和博桜美林大学教授 ジャーナリスト
By Matt Hecht (Public Domain)

アンチの人々による「炎上」が、実はツイッターのアルゴリズムの「右派推し」を支えていたのかもしれない――。

ニューヨーク大学の研究チームが、調査結果から、そんな見立てを示している。

ツイッター社は10月、自社のAIアルゴリズムに、左派(リベラル派)よりも右派(保守派)の政治家のツイートを優先的に表示するバイアス(偏り)があった、と公表していた。

ニューヨーク大のチームが、その原因の一つとして着目したのが「炎上」だ。ツイートに対する「炎上度」が高い政治家をランキングしたところ、その大半は保守派だった、という。

そして、「炎上」つまり批判的なコメントなどの多さも、ツイッターのアルゴリズムによって、「エンゲージメント」の高さとして評価されているのではないか、と指摘する。

つまり、保守派の政治家をツイッター上で批判するアンチの人々が、実はアルゴリズムによる「右派推し」を支えていた、という皮肉な構図だった可能性があるのでは、と。

アルゴリズムが影響力を持つメディア空間で、何が起こっているのか。

●「右派推し」の原因を探る

ツイッターのアルゴリズムはなぜ保守派の政治家を「推す」のか? 我々の研究では、思いもしない、だが説得力のある理由が示されている:とても「炎上」しやすいからだ。我々のデータによれば、米国の保守政治家は、リベラルよりも「炎上度(ratio)」(ツイッターのスラング)が高い傾向にある。

ニューヨーク大学教授でソーシャルメディア・政治センターの共同所長であるジョシュア・タッカー、ジョナサン・ナグラーの両氏と同センターのリサーチサイエンティスト、ミーガン・ブラウン氏の研究チームは10月27日、ワシントン・ポストへの寄稿で、こんな調査結果を公表した。

タッカー氏らが述べている「ツイッターのアルゴリズム」の問題とは、その前週、ツイッター社が公表したものだ。

社内の研究チームによる日本と北米・欧州計7カ国の調査によると、同社のアルゴリズムには、右派政治家のツイートを左派政治家よりも優先表示するバイアス(偏り)が見られたという。その格差は、カナダで4倍近くにも上った。

だが同社は、その原因についてはわからない、としていた。

※参照:TwitterのAIに「右派推し」のバイアス その対策とは?(10/25/2021 新聞紙学的

そこでニューヨーク大の研究チームが調べたのが、「炎上度(ratio)」のデータだ。

●「炎上度」を調べる

ここで使われている「炎上度」とは、メリアム・ウェブスター辞典のサイトでは「ツイートが受けるネガティブな反応」と説明されている。

具体的には、あるツイートに対して、コメントのないリツイートや「いいね」の数を、コメントのある返信や引用ツイートの数が上回った場合、その内容はネガティブな反応が多いことから、こう呼ばれているという(好意的な反応のケースもなくはないようだ)。

タッカー氏らの調査では、あるツイートへの「返信+引用ツイート-リツイート」の数を「返信+引用ツイート+リツイート」の合計で割った値を、この「炎上度」の指標とした。

タッカー氏らが調査対象としたのは、米国の連邦議会議員のツイートだ。研究チームでは日々、全ツイートのうちの10%を収集しており、このうち2021年1月1日から10月23日までの期間で、議員のツイートの「炎上度」を調べた。

その上で、「炎上度」の高い上位20人をランキングしたという。

すると、1位と2位は民主党の上院議員だった。クリステン・シネマ氏(アリゾナ州)とジョー・マンチン氏(ウェストバージニア州)の2人で、いずれも民主党が目指す上院の議事妨害規制撤廃に反対姿勢を示すなど、バイデン政権の方針との衝突から、議論の的となっている議員たちだ。

そして、残る18人を見ると、スーザン・コリンズ氏(上院・メーン州)やトランプ氏批判で知られるリズ・チェイニー氏(下院・ワイオミング州)ら、すべて共和党の上下両院議員だった。

研究チームはさらに、議会での投票データから、各議員の政治的立ち位置と「炎上度」の関係を調べたところ、リベラル派から保守派へと、「炎上度」は高くなる傾向にあった、という。

●嘲っているつもりかも知れないが

これは保守派の政治家の声をツイッターが増幅する理由を説明する手がかりになるかもしれない――なぜなら、ユーザーのエンゲージメントによってツイートを増幅するようアルゴリズムに学習させる場合、そのエンゲージメントが、ツイートや投稿者を賞賛したり、それを楽しんだりしているのか、憎しみを示しているのかは考慮しないだろうから。

ツイッターのアルゴリズムで、中身がポジティブかネガティブかは関係なく、「エンゲージメント」の高さが重視されていたとすると、それは「炎上度」による優先表示につながっていた可能性もあるのではないか――そんな見立てだ。

では、ツイッターのアルゴリズムの「右派推し」を支えていたのは、誰か?

反対の立場の政治家による投稿を炎上させるツイッターユーザーは、その政治家を嘲り、貶めているつもりかもしれない。だが実際には、その政治家を「推す」ことになっているのかもしれないのだ。

もしこの見立てが正しければ、アルゴリズムの「右派推し」バイアスを支えていたのは、熱心なアンチのユーザーだった、ということになる。

叩いていたつもりが、実は敵に塩を送っていたという皮肉な構図だ。

●ネガティブな反応が増幅を呼ぶ

ユーザーのネガティブな反応が、アルゴリズムによってコンテンツの増幅につながる、という現象は、フェイスブック(メタ)でも指摘されている。

同社は2016年から、リアクション用のアイコンとして、従来の親指マークの「いいね!」に加えて、「超いいね!(ハート)」「うけるね(笑い)」「すごいね(驚き)」「悲しいね(涙)」「ひどいね(怒り)」の5つの絵文字を加えている。

ワシントン・ポストは10月26日、同社がコンテンツのランキングのアルゴリズムで、この5つの新絵文字アイコンに「いいね」の5倍の価値をつけていたと報じている。これは、フェイスブックの元社員、フランシス・ホーゲン氏が暴露した内部文書に基づく調査報道の一環だ。

これら絵文字アイコンの反応を呼び起こすコンテンツは、ユーザーからより多くのエンゲージメントを集める傾向にあったという。

だが当時、社内の研究者からは、これがユーザーの「怒り」をかき立てるような“物議をかもす”コンテンツの優先につながれば、「スパム/悪用/クリックベイト(釣り)のコンテンツ増加を、不用意に招く可能性がある」と指摘されていたという。

そして、すでにウォールストリート・ジャーナルが報じたように、2018年初めのアルゴリズム変更を経て、実際に「怒り」のコンテンツが増幅され、「再共有されるものには、誤った情報や毒性、暴力的コンテンツが過剰に含まれている」との問題点が社内でも認識されていた、という。

結局、フェイスブックは「怒り」の重みづけを段階的に減らし、2020年にはゼロにした、という。

●「炎上」「怒り」が先導するメディア空間

ニューヨーク大の研究やフェイスブックの内部文書から見えてくるのは、「炎上」「怒り」が先導し、アルゴリズムによって増幅される殺伐としたメディア空間だ。

そんな荒れ果てたメディア空間に、ユーザーはいつまでとどまっているだろうか。

(※2021年11月1日付「新聞紙学的」より加筆・修正のうえ転載)

桜美林大学教授 ジャーナリスト

桜美林大学リベラルアーツ学群教授、ジャーナリスト。早稲田大卒業後、朝日新聞。シリコンバレー駐在、デジタルウオッチャー。2019年4月から現職。2022年から日本ファクトチェックセンター運営委員。2023年5月からJST-RISTEXプログラムアドバイザー。最新刊『チャットGPTvs.人類』(6/20、文春新書)、既刊『悪のAI論 あなたはここまで支配されている』(朝日新書、以下同)『信じてはいけない 民主主義を壊すフェイクニュースの正体』『朝日新聞記者のネット情報活用術』、訳書『あなたがメディア! ソーシャル新時代の情報術』『ブログ 世界を変える個人メディア』(ダン・ギルモア著、朝日新聞出版)

平和博の最近の記事