セッション6「AI、エネルギー／アフリカ、地中海」

Gettyimages

　最後のセッションでは、リードスピーカーとして、ローマ教皇フランシスコが登場し、AIに関して懸念を述べた。ローマ教皇がG7に参加したのは初めてのことで、G7の円卓にあの白い法衣は違和感があったが、すさまじい「存在感」だった。そのスピーチの要旨は以下の通りだ。 　「AIの誕生は、複雑で画期的な変革をもたらす真の意味での認知的な産業革命だ。こうした変革は、知識へのアクセスの民主化や科学的調査の飛躍的進歩、求められる苦行の削減といったポジティブな可能性を持つ。その反面、先進国と発展途上国の間の、もしくは支配層と被支配階層の間のさらなる大きな不公正をももたらす。 　人間と環境との関係は、常に人間が生み出した道具によって媒介されてきた。これを弱点、あるいは欠陥と見なす人もいる。しかし、実際には肯定的なものだ。それは、私たちが『自己の外側にあるものに傾倒する』存在であり、『超越したものに対して根本的に開かれている』存在であるという事実に由来する。こうした開放性は、私たちの『テクノ・ヒューマン状態』の根源であり、他者や神に対する開放性の根源であると同時に、私たちの芸術的・知的創造性の根源でもあるのだ。 　そうした中、AIは『アルゴリズムによる選択』、つまり明確に定義された基準または統計的推論に基づくいくつかの可能性の中から、技術的な選択を行うことができる。しかし人間は、選ぶだけでなく、心の中で決めることができる。なぜなら、人間には知恵があり、古代ギリシャ人が『フロネシス』(実際的な行動にかかわる知性の一種)と呼んだものを持ち、聖書に耳を傾けることができるからだ。 　それゆえ、重要な決定は常に人間に委ねられなければならないということが、非常に重要だ。この原則の例として、人間の介入なしに人間の命を奪うことができる致死的な自律型兵器の開発が挙げられる。それらは最終的には禁止されなければならない。 　AIが選択を導き出すために用いるアルゴリズムは、客観的でも中立でもない。例えば、刑務所の受刑者に自宅軟禁を認めるかどうかの判断を裁判官が行うのに役立つように設計されたアルゴリズムがあるとする。これらのプログラムは、犯罪の種類、刑務所での行動、心理的評価、囚人の民族的出自、学歴、信用格付けなどのデータに基づいて選択を行う。 　だが人間は常に発展しており、その行動が私たちを驚かせることがある。こうしたことを機械は考慮できない。アルゴリズムが数値で形式化された現実しか調べられないのだ。 　現在、多くの学生が学習に、特にエッセイを書くために、AIにますます依存している。 　厳密に言えば、いわゆる生成型人工知能(Chat-GPT)は、実際には『生成型』ではない。なぜなら新しい分析や概念を生成するのではなく、探し出すことを繰り返し、それに魅力的な形を与えているだけだからだ。こうしたことは、人間の教育プロセスそのものを損なう危険性がある。 　教育は『真の反省』の機会を提供するべきだ。だが、ある概念が絶えず繰り返されるという理由だけで、ますます異議を唱えられなくなる危険性がある。 　AIは常に、それを発明し、開発した人々の世界観によって形作られているのだ。この点に関して特に懸念されるのは、今日、社会生活に関する主要な問題について合意を見つけることがますます困難になっていることであり、AIを形作るべき哲学に関するコンセンサスがますます少なくなっていることだ。 　それゆえ、必要なのは、文化、宗教、国際機関、大企業から支持を得ることができる一連のグローバルで多元的な原則を持った『アルゴリズム倫理』を発展させていくことなのだ。 　もしも私たちが、グローバルな価値観の単一のセットを定義するのに苦労するなら、私たちは少なくとも、どのように生きるかに関するジレンマや対立に対処し、解決するための共通の原則を見出すことが大事だ。 　この課題に直面して、私たちは政治的行動が緊急に必要だ。最も多様な分野とスキルが関与する健全な政治だけが、AIの課題と将来性に対処することができるのだ。その目標は、人間の創造性と進歩の理想を抑圧することではなく、むしろそのエネルギーを新しい経路に向けることにある」 　まさに、今回のG7サミットの白眉と言えた。もしかしたら、プーリア・サミットに関して、10年後に残っているのは、このフランシスコ教皇の警告だけかもしれない。