GPT-4以上のAIの開発停止を求める公開書簡【内容まとめ】…マスクやウォズニアックなどが署名（海外）

3/30(木) 11:10配信

多くのAIの専門家と企業のリーダーが、AI開発の一時停止を求める公開書簡に署名した。

フューチャー・オブ・ライフ・インスティテュートの書簡は、新しい技術を導入するための「制御不能な」競争について警告している。

書簡では、誤った情報の拡散と労働市場における自動化に関する懸念が挙げられている。

人工知能の重鎮たちが、高度なAI開発の一時停止を呼びかけた。

イーロン・マスク（Elon Musk）、スティーブ・ウォズニアック（Steve Wozniak）、
ピンタレスト（Pinterest）共同創業者のエヴァン・シャープ（Evan Sharp）、
Stability AIのCEOのエマド・モスタク（Emad Mostaque）らが、強力なテクノロジーによる実存的リスクの
低減に取り組む非営利団体「Future of Life Institute」が発行した公開書簡に署名したのだ。

この書簡は、OpenAIのGPT-4のようなAIシステムが「一般的なタスクにおいて人間並みの競争力を持つ」ようになり、
人類と社会に対する潜在的なリスクをもたらすと警告している。この書簡は、AIを研究する組織に対し、
新技術の危険性が適切に評価されるまで、GPT-4よりも強力な技術の開発を6カ月間休止するよう求めている。

また、「AIのゴッドファーザー」とも呼ばれるヨシュア・ベンジオ（Yoshua Bengio）や
コンピュータサイエンティストのスチュアート・ラッセル（Stuart Russell）も、
この書簡に賛同しています。なお、記事執筆時点では、OpenAIの代表者は署名していない。

書簡では、誤った情報の拡散、労働市場における自動化のリスク、
文明のコントロールが失われる可能性などの懸念が挙げられています。以下、その要点を紹介する。

https://news.yahoo.co.jp/articles/f0054dd1a4696a88475a6c5ddeb6e7eb3856e5fc?page=1