GPT-5が今年中に登場し、ChatGPTが人間と見分けがつかなくなる可能性がある。
人工知能（Artificial General Intelligence）は、AIにそれだけの力を与えることで起こりうる影響について、大きな懸念を抱かせる。
/avatars/O7qWTINAmZEm.png)
/2023/03/30/image/jpeg/iXzS3ZgJQFpgx2l7B6KKbWjqVzt1k8RhkDli7Uum.jpg)
「GPT-5が今年中に人工知能（AGI）を実現する」という技術起業家、開発者のシーチー・チェンの主張は、AI界に大きな波紋を広げています。
この主張が正確であれば、AI技術の進歩は広範囲に影響を及ぼす可能性があります。
"私は、gpt5が今年12月にトレーニングを完了する予定であり、OpenAIがAGIを達成することを期待していると聞いています。"とチェンは月曜日にツイートした。
"つまり、実際にAGIを実現できるかどうか、みんなで熱く議論することになる。つまり、そうなるということです。"
これは、GPT-5のアップグレードで、生成AIが人間と見分けがつかなくなる可能性があることを暗示しています。
一方、チェン氏は、GPT5でAGIを実現することがOpenAI内の総意というわけではなく、"ゼロではない人たちが、そこに到達すると信じている "とコメントしています。
AIが、人間ができるあらゆるタスクや概念を学習・理解する能力をAGIと呼ぶのに対し、AIは特定のタスクを実行できるマシンを指す。 AGIは、特定のタスクや機能に限定されない、より高度なAIといえます。
AGIは、AIが実現するプロセスを加速させ、人間を反復作業から解放することで、生産性を向上させる可能性がある、という側面もあります。
しかし、AIに大きな権限を与えることは、予期せぬ、あるいはマイナスの効果をもたらす可能性があります。AGIによって、極めて説得力のある人間のようなボットがソーシャルメディア上で拡散し、有害な誤報やプロパガンダが密かに広まる可能性があります。
AIパワーがもたらす影響
Chenは、中島ヨウヘイの最近のツイートを引用し、その中で "AI founder "の実験が "ギョッとするような 実験"であると述べています。
この実験では、AIに次のタスクを作成する目標が与えられ、AIはそれらを実行しながら自分のタスクリストを生成し、並び替えを続けていきます。
この実験は今のところ検索にしかつながっていないが、ChenはチャットボットプラグインとGPT-5の力で、多くの人が信じているよりもAGIの実現に「とても近い」と考えている。
AGIは、ChatGPTのようなAIにそれだけの力を与えることで起こりうる反作用について、大きな懸念を抱かせる。
イーロン・マスクをはじめ、1000人以上の技術リーダーや研究者が水曜日に公開書簡に署名し、AIの開発は偽情報やプロパガンダの拡散を加速させる可能性があり、GPT-4を超える進歩を停止することが人類の最善の利益になると警告しています。
"我々は、すべてのAI研究所に対し、GPT-4より強力なAIシステムの訓練を少なくとも6カ月間、直ちに一時停止することを求める。この一時停止は、公的かつ検証可能で、すべての主要な関係者を含むものでなければなりません」と、書簡は述べています。
"このような一時停止が迅速に実施できない場合は、政府が介入してモラトリアムを制定すべきである。"
