「ChatGPT」開発会社が“シンギュラリティ”へ提言　人間とAIの関係に危機感

チャットAIボット「ChatGPT」などを開発する人工知能研究所・OpenAIのCEO（最高経営責任者）であるサム・アルトマンさんが、シンギュラリティ（技術的特異点）とその先を見据え、OpenAIの指針を米国時間2月24日に発表した。

サム・アルトマンさんは、OpenAIのミッションは「人間よりも賢い人工知能（※）が、全人類に利益をもたらすようにすること」であると説明。

一方、人間よりも賢い人工知能がもたらすもの（筆者注：一般にシンギュラリティと解される）は、「誤用、事故、社会的混乱などの深刻なリスク」も伴うと言及した。

その上で「良いことは最大に、悪いことは最小」にして、OpenAIが「最も大切にしている原則」を、短期的な方針および長期的な視点という形で示した。

※なお、サム・アルトマンさんは「人間よりも賢いAI」をAGIと称しているが、AGI（Artificial General Intelligence：汎用人工知能）は、人間と同様の感性や思考回路を持つ人工知能のことである

OpenAIの短期的な方針「社会のAI導入を段階的に」

サム・アルトマンさんは、短期的な指針として以下の3つを挙げている。

AIを段階的に社会へ展開しながら、運用経験を積んでいく

AIを段階的に社会へ展開することで、人々や政策立案者・制度に対し、何が起きているかを理解してもらい、AIシステムのメリットとデメリットを経験してもらい、経済を適応させ、規制を整備する時間を与える。

その一方、シンギュラリティに近づくにつれて、AIの開発およびリリースは、メリット・デメリット（悪意のある人物に力を与える、社会や経済の混乱を引き起こす、危険な競争を加速させるなど）双方を勘案しながら、社会が望んでいる以上に慎重に行われなければならない。

AI導入の課題をうまく乗り切る最善の方法は、迅速な学習と慎重な反復による緊密なフィードバック・ループである。

AI活用を促進する＆民主化する

「社会でAIをもっと使うことは良いことにつながる」と考えているため、APIを公開したりオープンソース化したりと、AI活用を促進する。

また、より良い研究、権力の分散、より多くの利益、そしてより幅広い人々が新しいアイデアを提供することにつながるため、AIへのアクセスを民主化する。

AIリリース前に監査の実施＆AIに関する公的基準の策定

新しいAIシステムを公開する前（ある時点からは開発する前）に、（OpenAIとは）独立した監査を受けることが重要である。

また、いつトレーニングを終え、いつモデルをリリースしても安全であると判断し、いつモデルを実稼働環境から引き離すべきかについて、公的な基準を策定することも重要である。

長期的な視点「重要な局面では“減速”すべき」

その一方、長期的な視点として、サム・アルトマンさんは「人類の未来は人類によって決定されるべきであり、その進歩に関する情報を一般大衆と共有することが重要である」と言及。

人間よりも賢い人工知能が世界に悲痛な被害を与えるかもしれないことなどを懸念し、「（シンギュラリティを目指す）すべての取り組みに大きな監視の目が向けられ、主要な決定には国民的な協議が行われるべき」とした。

その上で、改めて「社会に適応するための十分な時間を与えるために（安全性を確保する上でも、重要な局面で）減速することは重要」と警鐘を鳴らす。

サム・アルトマンさんは最後に「私たちは、まだ誰も完全にはイメージできないような、人類が繁栄する世界を想像することができます。そのような繁栄に合致したAGIを世界に提供したいと考えています」と結んだ。