こんにちは、中西です。
世界中に激震を走らせているChatGPTの最新バージョンGPT-4が、とんでもない性能になっています。
それがあまりにもやばいということで、なんとイーロンマスクを始めとするAIの世界トップクラスの専門家や起業家らが、
GPT-4以上(つまり現時点ではGPT-5)のAI開発の停止を集団で求める活動(公開書簡への署名)を始めました。
▼GPT-4以上のAIの開発停止を求める公開書簡【内容まとめ】…マスクやウォズニアックなどが署名(海外)(BUSINESS INSIDER JAPAN)
https://news.yahoo.co.jp/articles/f0054dd1a4696a88475a6c5ddeb6e7eb3856e5fc
一部引用します。
『この書簡は、OpenAIのGPT-4のようなAIシステムが
「一般的なタスクにおいて人間並みの競争力を持つ」
ようになり、人類と社会に対する潜在的なリスクをもたらすと警告している。
この書簡は、AIを研究する組織に対し、新技術の危険性が適切に評価されるまで、GPT-4よりも強力な技術の開発を6カ月間休止するよう求めている。
(中略)なお、記事執筆時点では、OpenAIの代表者は署名していない。
書簡では、誤った情報の拡散、労働市場における自動化のリスク、文明のコントロールが失われる可能性などの懸念が挙げられています。(以下略)』
この開発停止要望には、裏の意図(例えばイーロンマスクがビジネス上有利に進めるために停止を求めているなど) の可能性が全くないのか個人的には気になります。
別の報道では、この書簡に対してBing AIを提供しているマイクロソフトはコメントを拒否し、Googleは無回答のようです。
コメント欄を見ると賛否両論で、オーサーも批判されてて、もはや誰の何が正解か分かりません笑
公開書簡が言うようにGPT-4のリスクがどの程度か全くよくわからないと言うのは確かにあると思います。ただ半年間も開発停止を要求するほどのことなのか。
多分この公開書簡の要望は無視される気がしますが、いずれにしろChatGPTを始めとするAIが、ここにきてとんでもない領域に入っているのは間違いないと思われます。