Yahoo!ニュース

なぜ人類は、自ら進んでAIに支配されるようになるのかーー清浄化と従属化願望のもとでー

上山信一慶應大学名誉教授、経営コンサルタント
出典:Estonia Tool Box

 AI(人工知能)の知能が人類を上回る「シンギュラリティ(技術的特異点)」があるのかないのか、しばしば議論になる。私はどっちに転んでも人類はAIに進んで支配されたがるようになると思う。なぜか。清浄化と依存への願望が根っこにあるからだ。

●大学の清浄化

 最近のエピソードから始めたい。5月下旬、久しぶりに米ハーバード大学に行った。卒業式も見たが荒れていた。大学当局がパレスチナ問題に対する抗議運動を抑圧し、抗議運動をリードした学生13人を卒業させなかった。そのため式の途中でボイコットして席を立つ学生が続出し、学生代表も答辞で「キャンパスに言論の自由がなくなった。創業者ミスター・ハーバードよ、聴いているか」と呼びかけた。一方で上空には「ユダヤ人の命を守れ」 という垂れ幕をたなびかせた飛行機が飛び、分断を印象付けた。 

 学生たちの主張は「大学はイスラエル系ファンドに対する投資をやめろ。理不尽なガザ侵攻に間接的に加担したくない」というもので、まあ穏健だ。ところが当局は抗議した13人の卒業を認めないという強硬措置で反応した。学生たちの姿勢は硬化し、この日も儀式自体は厳かに進んだが、常に抗議の声(いわゆる「やじ」)が絶えない、異例の式典になった。

 大学には学問の自由、言論の自由が不可欠だ。それが脅かされる事態は異常だが、日本でも状況は似ている。かつての国立大学、例えば私の母校京都大学の寮は百花斉放の活動家のたまり場だった。 キャンパスの入り口には米国の軍事行動や政府を批判する立て看板があるのが当たり前だった。ところが最近、当局は寮の建て替えを機に正常化(清浄化)を図り、立て看板も市条例をもとに撤去した。また学生のデモも減った。

 今はネット上で誰でも自分の意見が言えるがそこでは 不特定多数に向けたアピールは実質、できない。反対派はHPを見に来ない。SNSも見たくないものは目に触れないからだ。一方でデモ、街頭演説、立て看板はいやおうなしに目に触れる。多様な意見の存在を知る機会であり、言論の自由や民主主義の基盤にある。英国の民主主義はハイドパークでの自由な演説で育ったと言われる。大学では常識を疑うことこそが知の源泉とされる。社会全体にも増して言論の自由が大切だ。我が国でも海外でも当局による管理は過去は極めて緩かった。そのため学生たちもあまりに野放図だったかもしれない。しかし今は逆にいきすぎた正常化(清浄化)を突っ走るように見える。

●清浄化を批判したジェイコブス

 清浄化が進むのは大学だけではない。企業でも官庁でも「コンプライアンス」が最優先とされ、社内ではハラスメントの疑いを恐れ、誰しもがおとなしくなった。戦略をめぐる大論争もあまり起こらない。街並みはきれいに整備され、猥雑(わいざつ)な看板や不潔な建物はどんどん撤去される。そしてきれいなオフィスビル、コンビニ、ATMに象徴される画一的で便利で、しかし魅力のない街、社会ができていく。

 ここで思い出すのがジャーナリスト出身のユダヤ人経済学者、ジェーン・ジェイコブスの主張である。 ジェイコブスは「ニューヨークや ボストンなど大都会では所得の低い人たちが住むごちゃごちゃした下町の方が楽しくストレスが少ない」「郊外のきれいな住宅街では人と人のつながりが薄く路上での犯罪なども見過ごされやすい、弱者にも優しくない」と喝破した。 猥雑な下町では人と人の関係が密接で、普段から世間話などをしていていざという時に助け合う。 所得は低くても安全で幸せなのだと都市計画のあり様に警鐘を鳴らした。

●清浄化は人類を愚かにする

 最近の世の中は便利になったようで、実は不便である。なんでもネットやスマホ、機械でできる。だが効率化の半面、イレギュラー対応での融通が利かない。JR東日本が有人対応の「みどりの窓口」を廃止し過ぎて批判されているが、これもネット予約や 券売機 などの機械に過剰に期待したせいだ。

 金融機関やメーカーへの問い合わせも、今はなかなか電話がつながらない。 ネットでチャットするとAIが回答してくるが、大抵的外れである。苦情や問い合わせは、ウェブサイトやマニュアルを見てもわからないから発生する。用意された答えをAIが回答しているだけでは足りない。

  サービスやショッピングに限らず、なんでも清浄化、画一化、均質化が進み、きれいなウェブサイトやきれいな住宅街など、何事も表層だけが公開される。買い物に行っても対話はなく、きれいに整形され工業製品になったパックの野菜や肉を買う。 料理の仕方もネットで調べる。全てが システム化され、知らない人との会話が減った 。

「寂しいならAIロボットと対話すればいい」という議論が出ているがそんなに人間は単純ではない。AIは過去の文脈の中からそれらしいものを拾ってきて目の前に並べるだけだ。ちょっとした癒やしにはなるが、新たなひらめきは全くインスパイアされない。

 清浄化や画一化が進むと、人類はどんどん馬鹿になっていく。こうした予感のもと、「AIが人間を支配するのではないか」と言った議論が出てくる。

〇ナチスへの服従の自主性

 ナチスドイツが権力を奪取した経緯は興味深い。民主主義の手続きの中で彼らは独裁に至った。つまり人々は進んでナチスの独裁を求めた。人間は何も考えずに何かに従属すると楽になるという習性がある。言われたことをただやると一定の幸せを感じる。自分で工夫して何かに挑むことをやめる。人間は性善でも性悪でもなく性怠惰なのだ。

 その意味で、マニュアルに従いコンプライアンスに疑問を持たずAIの指示に従って生きていくのは、実は人間の適性に合っている。だからAIによる社会の支配は実現する。実はAIには人間を支配する意思はない。人間が支配を好むと知ると、AIが忖度(そんたく)してどんどん支配したがる(してくれる)ようになる。

●脱AI支配は人間性怠惰説との戦い

この記事は有料です。
改革プロの発想&仕事術(企業戦略、社会課題、まちづくり)の定期購読をお申し込みください。

改革プロの発想&仕事術(企業戦略、社会課題、まちづくり)

税込214円/月初月無料投稿頻度:月1回程度(不定期)

筆者は経営コンサルタント。35年間で100超の企業・政府機関の改革を手掛けた。マッキンゼー時代は大企業の再生・成長戦略・M&A、最近は橋下徹氏や小池百合子氏らのブレーン(大阪府市、東京都、愛知県、新潟市等の特別顧問等)を務めたほか、お寺やNPOの改革を支援(ボランティア)。記事では読者が直面しがちな組織や地域の身近な課題を例に、目の前の現実を変える秘訣や“改革のシェルパ”の日常の仕事と勉強のコツを紹介する。

※すでに購入済みの方はログインしてください。

※ご購入や初月無料の適用には条件がございます。購入についての注意事項を必ずお読みいただき、同意の上ご購入ください。欧州経済領域(EEA)およびイギリスから購入や閲覧ができませんのでご注意ください。
慶應大学名誉教授、経営コンサルタント

専門は戦略と改革。国交省(旧運輸省)、マッキンゼー(パートナー)を経て米ジョージタウン大学研究教授、慶應大学総合政策学部教授を歴任。平和堂、スターフライヤー等の社外取締役・監査役、北九州市顧問、アドバンテッジ・アドバイザーズ顧問を兼務。東京都・大阪府市・愛知県の3都府県顧問を歴任。著書に『改革力』『大阪維新』等。京大法、米プリンストン大学院修士卒。これまで世界119か国を旅した。大学院大学至善館特命教授。オンラインサロン「街の未来、日本の未来」主宰 https://lounge.dmm.com/detail/1745/。1957年大阪市生まれ。

上山信一の最近の記事