人間を裏切った今年の「失敗テクノロジー」８選
ク・ボングォンの「AI時代、人間の道」
技術は常に成功を期待して開発され登場するが、様々な理由で失敗したりもする。「マサチューセッツ工科大学（MIT）テクノロジーレビュー」は毎年、「今年の失敗テクノロジー」の一覧を発表する。この一覧には、誤った設計や開発意図によって作られた欠陥技術、誤った投資政策やマーケティング、市場の未成熟などによって市場で失敗した技術、初めから人間を攻撃するために設計された邪悪な技術など、多くの分野にわたっている。同誌は2024年の失敗テクノロジーの一覧に、グーグルの「政治的に正しい人工知能（AI）」、イスラエルの「ポケベル爆弾」、AIが作成する無意味なゴミ画像など8個を選定した。 ■1. グーグルの「政治的に正しいAI」 2月、グーグルが「Gemini」に画像生成機能を追加した。グーグルが「ChatGPT」の対抗馬として押し出した対話形生成AIのGeminiによる文字列から画像を作る機能だが、発表直後に物議を醸した。アインシュタイン、バイキング、教皇、ナチス・ドイツの軍人などを表現する際、一般的には白人・男性であるこれらの歴史的人物を有色人種や女性として描写する事例が報告された。グーグルは発表後わずか20日ほどで謝罪し、Geminiの画像生成機能を「停止」させた。AIは膨大なデータを学習し、性的、人種的、職業的な偏向性を持つようになるが、グーグルはGeminiがこのような偏向性を正すための人為的な調整を行ったため、新たな問題を生んだのだ。 ■2. イスラエルの「ポケベル爆弾テロ」 9月17日と18日、レバノン全域でポケベルや無線機が同時に鳴った直後に爆発した。37人以上が死亡し、約3000人が顔や手を負傷した。イスラエルが長期にわたり組織的に計画してきた民間人を対象とする無差別遠隔爆弾テロだった。イスラエルはダミー会社を設立し、遠隔制御で爆発するポケベルや無線機をレバノンのイスラム勢力に販売してきた。ある9歳の子どもは、ポケベルが鳴った直後に父親に持っていく最中に爆発によって死亡した。 ■3. AIのゴミ画像 生成AIが無意味な画像を生成して流通させるため、インターネットはAIが作りだしたゴミ画像であふれている。 代表的なものが、フェイスブックで「シュリンプ・ジーザス」（shrimp Jesus）を検索すると出てくる無意味な合成画像の山だ。AIが自主的にアカウントを開設し、コンテンツを自動生成する現象が深刻化している。AIアカウントは、インスタグラムやTikTokのようなSNSプラットフォームに参加（クリック・いいね・コメント）を誘導する目的で、AIが生成した画像を添えた投稿を短時間で生成する機能も実行する。「シュリンプ・ジーザス」コンテンツが生成された背景には、SNSでの広告収益の追求がある。セキュリティー会社「タレス」の4月の報告書によると、昨年のインターネット全体のトラフィックのほぼ半分（49.6％）がボット（ロボット）によるものだった。そのうちの悪性ボットによるウェブトラフィックの割合は、2022年の30.2％から2023年には32％に増加した。その分、人間が生み出すトラフィックが減少したのだ。これは、「（ボットと商業組織の活動で）インターネットが事実上死亡した」という「死んだインターネット」理論を再燃させている。 ■4. ボーイング「スターライナー」、宇宙飛行士を残したまま地球に帰還 6月5日、ボーイング社の「スターライナー」は初の有人試験飛行のために、米航空宇宙局（NASA）所属の宇宙飛行士スニタ・ウィリアムズ氏とバリー・ウィルモア氏を乗せて地球を飛び立ったが、任務遂行に失敗した。スターライナーは国際宇宙ステーション（ISS）到達後、ヘリウム漏れと推進機に問題が発生した。8日後にスターライナーに搭乗して地球に戻る予定だった宇宙飛行士を宇宙に残し、3カ月後の9月に「無人帰還」した。NASAは先月、宇宙飛行士の安全を確保するため、スターライナーの「無人帰還」を決定し、宇宙飛行士の帰還には、イーロン・マスク氏が率いるスペースXの宇宙カプセル「ドラゴン」を活用することを決めた。スペースXのドラゴンは、来年2月に国際宇宙ステーションに滞在中のウィルモア氏とウィリアムズ氏を乗せて帰還する予定だ。 ■5. 米セキュリティー企業の事故で恐怖の「MSブルースクリーン」 7月、米国のセキュリティー企業「クラウドストライク」（CrowdStrike）のアップデート問題で、全世界で約850万台のパソコンが麻痺する事態が発生した。米国・欧州・日本など世界中で航空会社や金融機関、報道機関が大きな被害を受けた。米国・ドイツ・オランダなどでは航空便の運航に問題が発生し、5000機以上の航空機の運航がキャンセルされ、米国のデルタ航空の場合、キャンセル率は20％に達した。シカゴ商品取引所（CME）とロンドン証券取引所（LSE）も一部機能が停止し、オーストラリア最大の銀行の送金サービスも停止した。英国のスカイニュースとニュージーランドのABC放送も中断された。 クラウドストライクは、マイクロソフトのクラウド（MS Azure）やコンピューターのOS（ウィンドウズ）と合わせて販売されることが多いため、クラウドストライクのサービス停止によってウィンドウズのエラー画面「ブルースクリーン」が表示され、マイクロソフトに対する消費者の非難が噴出した。韓国ではこのサービスを利用するところが少なかったため、相対的に被害が少なかった。 「MITテクノロジーレビュー」はこの他にも、ロボット、水耕栽培、LED照明を利用した室内科学営農を掲げた「垂直農場」や、消費者が直接遺伝子検査を行えるようにする「23andMe」も2024年の失敗テクノロジーに選定した。関連企業が収益を生みだすことに失敗し消費者や投資家の信頼を失ったことから失敗テクノロジーに名を連ねた。地球温暖化をもたらす炭素排出を減らすために炭素排出権を取引する「自発的炭素市場」も、今年の失敗テクノロジーに加えられた。取引の需要不足で炭素取引市場「ノリ」（Nori）は閉鎖され、存在しない炭素排出権を販売する詐欺師も登場し、市場への信頼が失われた。 ク・ボングォン｜人とデジタル研究所所長 (お問い合わせ japan@hani.co.kr )
