OpenAIは今日、数十億ドルの取引と企業パートナーシップで認識できません。それは輝くAIの未来を所有しようとしますか
OpenAIはチャットボットの軍拡競争の中心にあり、ChatGPTの公開と数十億ドル規模のマイクロソフトのパートナーシップにより、GoogleとAmazonが製品にAIを実装することを急ぐことに拍車をかけています。OpenAIはまた、ベインと提携して、コカ・コーラの事業に機械学習をもたらし、他の企業パートナーに拡大する計画です。
OpenAIのジェネレーティブAIが今や大企業であることは間違いありません。必ずしもこのように計画されていたわけではありません。
OpenAIサムCEOアルトマンは先週の金曜日に「AGIとそれ以降の計画」というタイトルのブログ記事を公開しました。この記事では、彼は彼の会社の人工知能(AGI) - 既存に近くなく、多くの疑いのない人間レベルの機械知能 - は、全人類に利益をもたらし、「すべての人に信じられないほどの新しい機能を与える可能性を秘めている」と宣言しました。アルトマンは、広範で理想主義的な言葉を使って、AI開発は決して止めるべきではなく、「人類の未来は人類によって決定されるべきだ」と主張し、彼自身の会社に言及しています。
このブログ記事とOpenAIの最近の行動は、ChatGPTの誇大宣伝サイクルのピーク時に起こっているすべて、OpenAIのトーンと使命が、もっぱら非営利団体だった設立からどれだけ変化したかを思い出させるものです。同社は常にAGIが存在する未来に目を向けてきましたが、利益を求めず、開発するコードを自由に共有するなど、コミットメントに基づいて設立されました。
OpenAIは、Altman、Elon Musk、Peter Thiel、LinkedInの共同創設者Reid Hoffman、その他の技術リーダーによる非営利研究組織として2015年に設立されました。設立声明の中で、同社は「金銭的リターンを生み出す必要性に制約されることなく、人類全体に利益をもたらす可能性が最も高い方法でデジタルインテリジェンスを前進させる」研究へのコミットメントを宣言した。ブログは、「私たちの研究には財政的義務がないため、ポジティブな人間への影響に焦点を当てることができる」と述べ、すべての研究者は「論文、ブログ投稿、またはコード、および当社の特許(もしあれば)は世界と共有される」を共有することが奨励されると述べた。
8年後の今、私たちは透明でもポジティブな人的影響によっても推進されない会社に直面していますが、代わりに、共同創設者マスクを含む多くの批評家が主張しているように、スピードと利益によって支えられています。そして、この会社は、欠陥はあるが、人間の従業員を犠牲にして職場の自動化のいくつかの要素を増やす準備ができている技術を解き放っています。たとえば、Googleは、何千人もの労働者を解雇するため、コードをオートコンプリートするAIによる効率の向上を強調しています。
OpenAIが最初に始まったとき、それは未決定の終わりで、オープンな方法で基本的なAI研究を行うと想定されていました。共同創設者のグレッグ・ボックマンは、ニューヨーカーに「今の私たちの目標は...やるべき最善のことをすることです。それは少し曖昧です。」これは、会社が何らかの方向のために資本資源に目を向けた2018年に方向転換をもたらしました。「私たちの主な受託者義務は人類に対するものです。私たちは、使命を果たすためにかなりのリソースを結集する必要があると予想しています」と、同社は2018年に更新された憲章に書いています。
2019年3月までに、OpenAIは非営利の地位を落とし、「上限付き利益」セクターを設立しました。これにより、同社は投資を受けることができ、投資家に投資の100倍の利益を上限とします。同社の決定は、Googleのようなビッグテックのライバルと競争したいという願望の結果である可能性が高く、その後すぐにマイクロソフトから10億ドルの投資を受けることになった。営利企業の設立を発表したブログ記事では、OpenAIは今日と同じ言語を使用し続け、「人工知能(AGI)が全人類に利益をもたらすことを保証する」という使命を宣言しました。ニュースが最初に発表されたときにマザーボードが書いたように、彼らの主な目標が利益であるとき、ベンチャーキャピタリストが人類を救うことができると信じるのは非常に困難です。
同社は、2019年のGPT-2言語モデルの発表とその後のリリースで反発に直面した。当初、同社は「技術の悪意のあるアプリケーションに関する懸念」のため、トレーニングモデルのソースコードをリリースしないと述べた。これは部分的に有益なAIを開発するという同社のコミットメントを反映していますが、あまり「オープン」でもありませんでした。批評家は、なぜ会社がそれを差し控えるためだけにツールを発表し、それを宣伝スタントとみなすのか疑問に思いました。3ヶ月後、同社はオープンソースのコーディングプラットフォームGitHubでモデルをリリースし、このアクションは「特に強力なジェネレーティブモデルの文脈で、AIにおける責任ある公開の重要な基盤である」と述べた。
2020年に同社で3日間を過ごした調査記者のカレン・ハオによると、OpenAIの内部文化は、慎重で研究主導のAI開発プロセスに反映されなくなり、先に進むことが増え始め、「AI誇大広告サイクル」を煽るという非難につながった。従業員は現在、仕事について沈黙し、新しい会社の憲章を具現化するように指示されていました。
「会社が公に支持するものと、密室でどのように運営されているかの間には、ミスアライメントがあります。時間が経つにつれて、それは激しい競争力を可能にし、透明性、開放性、コラボレーションの創設の理想を侵食するために、これまで以上に多くの資金を求める圧力が高まっています」とHaoは書いています。
しかし、OpenAIにとって、GPT-2の展開は成功であり、現在の会社への道のりとなるものでした。「それは間違いなくサクセスストーリーフレーミングの一部だと思います」と、現在の政策研究責任者であるマイルス・ブランデージは、GPT-2を議論する会議で述べた、とハオは報告した。「このセクションのリードは次のとおりです。私たちは野心的なことをしました、今、何人かの人々がそれを複製しています、そしてここにそれが有益だったいくつかの理由があります。」
それ以来、OpenAIはGPT-2リリースフォーミュラの誇大宣伝部分を維持しているように見えますが、開放性を否定しました。GPT-3は2020年に発売され、すぐにマイクロソフトに「独占的に」ライセンスされました。同社がGPT-4に目を向けているにもかかわらず、GPT-3のソースコードはまだリリースされていません。このモデルは、APIを使用してChatGPTを介してのみ一般にアクセスでき、OpenAIはモデルへのアクセスを保証するために有料層を立ち上げました。
OpenAIがこれを行った理由はいくつかあります。1つ目はお金です。同社はAPI発表ブログで、「技術を商業化することは、継続的なAI研究、安全性、政策の取り組みにお金を払うのに役立つ」と述べた。2つ目の理由は、大企業を支援することに対する偏見です。「大企業以外の誰もが基礎となる技術の恩恵を受けるのは難しい」とOpenAIは述べた。最後に、同社は誤用の場合に対応できるため、オープンソースではなくAPIを介してリリースする方が安全であると主張しています。
金曜日のアルトマンのAGIブログ記事は、創業の原則からさらに逸脱しているにもかかわらず、オープンAIのサニートーンを打つパターンを続けています。多くの研究者は、AGIを具体的に定義できなかったことを含め、ブログ記事の重要性と物質の欠如を批判した。
「AGIは角を曲がったところにあると私たちに言い続けていますが、あなた自身のいまいましいウェブサイトでそれの単一の一貫した定義を持つことさえできません」と、その危険な偏見とそれらを欺く可能性を含む大規模な言語モデルのリスクに関する画期的な論文を公開したためにGoogleから解雇されたコンピュータ科学者のTimnit Gebruはツイートしました。
エミリーM.ワシントン大学の言語学教授であり、その論文の共著者であるベンダーは、「彼らは実際の世界の実際の問題に対処したくない(権力の譲りを必要とする)」とツイートした。彼らは「スーパーインテリジェンス」を作り出すことができるだけでなく、人類と「同調」な方法でそうする慈悲を持つ神を信じたいと思っています。
このブログ記事は、人々がChatGPTのようなチャットボットの進歩にますます幻滅している時期に来ます。アルトマンでさえ、今日のモデルは重要なことをするのに適していないと警告しています。人間レベルのAGIが存在するかどうかはまだ疑問ですが、OpenAIが開発に成功したらどうでしょうか?ここでいくつかの質問をする価値があります。
同社が当初想定していたように、このAIは責任を持って共有され、オープンに開発され、利益の動機がないでしょうか?それとも、多くの不安な欠陥があり、主にOpenAIに利益をもたらす大きな給料日のために、急いで展開されますか？OpenAIはSFの将来のクローズドソースを維持しますか?
マイクロソフトのOpenAI搭載のBingチャットボットは、レールから外れ、嘘をつき、ユーザーを非難し、誤った情報を広めています。OpenAIはまた、アプリを使用してカンニングする学生に対する教育者からの懸念が高まっているにもかかわらず、独自のチャットボットで生成されたテキストを確実に検出することはできません。人々は、OpenAIが周りに設定したガードレールを無視するために言語モデルを簡単に脱獄し、ランダムな単語やフレーズを与えるとボットが壊れます。OpenAIは基礎となるモデルのコードを共有しておらず、ある程度、OpenAI自体がその仕組みを完全に理解している可能性は低いため、誰もその理由を正確に言うことはできません。
これらすべてを念頭に置いて、OpenAIが一般の人々に求めている信頼に値するかどうかを慎重に検討する必要があります。
AIへの置き換えの影響かGoogleでもリストラが始まっている。
OpenAIはコメントの要請に応じなかった。
