AIに「核戦争と同じ滅亡リスク」、テック幹部ら350人超が警鐘
AI（人工知能）の安全性を検証する米国の非営利団体「センター・フォー・AIセーフティー（CAIS）」が、AIには人類を滅亡させるリスクがあるとし、警鐘を鳴らした。
「人類絶滅リスクの軽減は世界の優先事項」
声明には、AI研究の第一人者として知られるジェフリー・ヒントン氏や、対話AI「Chat（チャット）GPT」を開発した米オープンAIのサム・アルトマンCEO（最高経営責任者）など、350人以上が共同で署名した。
「AIによる（人類）絶滅のリスクを軽減することは、パンデミックや核戦争などの社会的なリスクと同様に、世界の優先事項であるべきです」（CAIS）
声明はこのように、わずか1文の簡潔なものだった。だが、それには理由があるという。
CAISによれば、AIの専門家やジャーナリスト、政策立案者、そして一般の人々は、AIによってもたらされる重要かつ緊急的なリスクについて議論するようになってきた。だが、重大なリスクがあるにもかかわらず、懸念を表明することが困難な場合があるという。
今回の簡潔な声明文は、この障壁を克服し、議論を開始することを目的としているという。また、このリスクを深刻に受け止めている専門家や公人が増えていることを社会に周知させる目的もあるという。
共同署名には、米マイクロソフトのケビン・スコットCTO（最高技術責任者）や、米アルファベット傘下のAI開発部門、グーグル・ディープマインドのデミス・ハサビスCEO、米AI新興企業、アンソロピック（Anthropic）のダリオ・アモデイCEOなども名を連ねた。ウェブサイトでは現在、科学者や著名人（教授や経営者など）からの署名を募っている。
AI半導体のエヌビディア、時価総額1兆ドル
こうした中、AI関連株は急騰している。AI用半導体を開発・製造するエヌビディア（NVIDIA）の株価は米株式市場で、上場来高値を更新した。
同社の時価総額は1兆ドル（約140兆円）に達し、アップルやマイクロソフト、アルファベット、米アマゾン・ドット・コムなどと共に「1兆ドルグループ」のリストに名を連ねた。半導体企業で時価総額が1兆ドルの大台に乗るのは初めてだ。
高まる懸念、開発一時停止の要求も
米テクノロジー業界はAIの大きな可能性に興奮を覚えているが、その一方で、技術が制御不能になることを恐れる人も増えている。オープンAIが昨年ChatGPTをリリースして以降、この技術が人類に計り知れない脅威をもたらすとし、規制を求める声が高まっている。
3月には「高度なAI基盤には安全上の懸念がある」として、開発を少なくとも半年間停止するよう求める署名活動が広がった。これには米起業家のイーロン・マスク氏やアップル共同創業者のスティーブ・ウォズニアック氏などが署名した。マスク氏らは「まず、AI設計のための安全基準を設定し、リスクの高いAI技術の潜在的な危害を抑制するべきだ」と訴えた。
米ウォール・ストリート・ジャーナルによれば、テクノロジー企業の経営者や政治家なども、AIがもたらす危険性について警鐘を鳴らしている。しかし、今回の共同署名に参加した人たちは、「最も緊急性が高いリスクについて、彼らはまだ話し合っていない」と指摘している。
一方で、サイバーセキュリティーの責任者らは、「まだ初期段階にある生成AIに対する期待や、それがもたらすリスクは誇張されている」と述べているという。
筆者からの補足コメント：
今回の共同署名で、真っ先に名前が出てきたGeoffrey Hinton（ジェフリー・ヒントン）氏は先ごろ話題になった人物です。AI研究の第一人者と呼ばれ、先ごろグーグルを退社しました。ヒントン氏はNY Timesとのインタビューで、インターネットが偽の写真、動画、テキストで埋め尽くされ、一般の人々が「もう何が真実か分からなくなる」と語り、急速に普及する生成AIとその開発競争に警鐘を鳴らしました。同氏によれば、AIはしばしば、膨大なデータの中から予期しない振る舞いを学んでしまう。このことは、人間がコンピューターコードを生成させるだけならば問題ない。しかしそのコードを実際に実行することを許可した場合は問題だと危惧しています。完全自律型兵器（キラーロボット）が現実のものになることに恐怖を感じているといいます。
- （本コラム記事は「JBpress」2023年6月2日号に掲載された記事を基にその後の最新情報を加えて再編集したものです）
