Child Sex Abuse Material Was Found In a Major AI Dataset. Researchers Aren’t Surprised.〜シン・すべてがNになる〜

主要AIデータセットから児童性虐待資料が発見される。研究者は驚いていない。

LAION-5Bデータセットは、数多くのAIモデルの基礎となっている。研究者たちは長い間、膨大なトレーニングデータセットの監査が不十分であることを警告してきた。

By Janus Rose

NEW YORK, US

IMAGE: SOPA IMAGES/CONTRIBUTOR VIA GETTY IMAGES

www.vice.com

　画像生成AIの訓練に使用される最大のデータセットから、性的虐待を受けた子どもの画像が1000枚以上も発見された。

 このデータセットは、Stable Diffusionのような生成AIシステムで使用される膨大な画像データセットの背後にある非営利団体LAIONによって作成された。スタンフォード大学の研究者からの報告を受け、404 Mediaは、LAIONがLAION-5Bと呼ばれるデータセットに児童性的虐待資料（CSAM）が含まれていることを確認し、オンラインチャンネルから削除したと報じた。

 LAION-5Bデータセットには、インターネットからかき集めた50億枚の画像へのリンクが含まれている。

 AI倫理研究者たちは、AIのトレーニングデータセットの巨大なスケールによって、それらをフィルタリングすることや、それらを使用するAIモデルを監査することが事実上不可能になることを長い間警告してきた。しかし、成長するジェネレーティブAI市場の一角を占めようと躍起になっているテック企業は、こうした懸念をほとんど無視し、膨大なデータセットを使って学習させたAIモデルの上にさまざまな製品を構築している。例えば、最も一般的に使用されているテキスト画像生成システムのひとつであるStable Diffusionは、LAIONのデータに基づいている。また、他のさまざまなAIツールは、他のソースに加えてLAIONのデータセットの一部を組み込んでいる。

 

 AI倫理研究者によれば、これは無関心の必然的な結果だという。

 

　「正直言って,驚くことではありません。LAIONデータセットには、我々の論文には掲載されなかったが、不穏で違法なコンテンツが多数見つかった」と、この膨大なデータセットを調査した最近の論文の主執筆者であるアベバ・ビルハネは、スタンフォード大学の報告書に対するツイートで書いている。「LAIONデータセットは、OpenAI、Meta、Googleのようなコーポラボに閉じ込められたコーポデータセットを垣間見せてくれる。オープンなLAIONデータセットよりも、独立した監査人がほとんど調査していないクローズドなデータセットの方がはるかに悪いことは間違いない。」

 

　LAIONは404 Mediaに対し、研究者が特定したCSAMコンテンツを削除するため、データセットを「一時的に」削除していると述べた。しかし、AIの専門家は、ダメージはすでに終わっていると言う。

HuggingFace社のAI・データ倫理研究者で、Birhane氏と論文を共著したSasha Luccioni氏は、「悲しいことですが、本当に驚くべきことではありません」とMotherboardに語った。「ほとんどすべての画像生成モデルは、何らかのバージョンの[LAION]を使用していました。そして、すでに訓練されたものを削除することはできません"

　ルッチョーニによれば、問題はこれらの膨大なデータが使用される前に適切に分析されていないことであり、データセットの規模が不要なものをフィルタリングすることを極めて困難にしている。言い換えれば、たとえLAIONが発見後に特定の不要な素材を取り除くことに成功したとしても、データが膨大であるため、それをすべて取り除いたことを確認するのは事実上不可能だということだ。

　「誰もデータの仕事をしたがらない。」「誰もデータの仕事を評価しない。みんな、モデルをブルブルさせたいだけなんだ。」("Gorrr "とは、仮想の貨幣印刷機を指すミームである）。

AI倫理の研究者たちは、インターネットから引き出された人種差別的・性差別的なテキストや画像を含むAIモデルやデータセットの危険性について何年も前から警告を発してきた。こうしたバイアスが、医療、住宅、警察などの分野で差別を複製し増幅する自動システムをどのように生み出すかを実証する研究が相次いでいる。LAIONデータセットは、この「ガベージイン、ガベージアウト」ダイナミクスのもう一つの例であり、露骨な、違法な、あるいは攻撃的な素材で満たされたデータセットがAIのパイプラインに定着し、その結果、同じ問題やバイアスをすべて受け継いだ製品やソフトウェアが生まれる。

このような弊害は、有害な出力や望ましくない出力を生成しないよう、事後的にシステムを微調整することで軽減することができる。しかし、ルッチョーニのような研究者は、このような技術的な微調整は、実際には問題の根本原因に対処していないと警告する。

「AIにおけるデータセットの集め方、使い方を根本的に考え直す必要があると思います」とルッチョーニは言う。「そうでなければ、根本的な問題を解決しない技術的な修正に過ぎない。」

完

民間航空機が "想像を絶する "GPS攻撃を受けている。〜シン・すべてがNになる〜

航空会社の安全にとって "非常に重要 "なことである。

By Matthew Gault

November 21, 2023, 12:35am

• Share
• Tweet
• Sna

アレックス・チェバン via wikimedia commons.

www.vice.com

民間航空機の乗務員たちは、中東上空で "考えられないこと "を報告している。9月以来、斬新な "なりすまし "攻撃によって、ナビゲーション・システムが何十件も故障しているのだ。

　9月下旬、イラン近郊で複数の民間航空機が航行システムを誤作動させた。飛行機はまず、なりすましのGPS信号を受信した。つまり、飛行機のシステムを欺いて、実際の位置から何マイルも離れたところを飛んでいると思わせるように設計された信号だった。そのうちの1機は、許可なくイラン領空に侵入するところだった。それ以来、ネット上でこの問題について議論している航空乗務員たちは、この問題は悪化する一方だと語っており、専門家たちは誰がこの問題の背後にいるのかを突き止めようとしている。

　OPSGROUPはパイロットと飛行技術者の国際的なグループで、9月にこの事故について警鐘を鳴らし、メンバーや一般市民と共有するためのデータ収集を開始した。OPSGROUPによると、中東地域の複数の民間航空機が、数カ月にわたって偽装された航法信号を受信した後、航行能力を失っているという。また、GPSだけでなく、フォールバック・ナビゲーション・システムも破損しており、完全に機能不全に陥っている。

　OPSGROUPによると、活動は3つの地域に集中している： バグダッド、カイロ、テルアビブである。同グループは11月の更新で、過去5週間で50件以上のインシデントを追跡し、9月の最初の報告以降に発生した2件のインシデントを含め、3つの新しい種類のナビゲーション偽装インシデントを特定したと述べた。

　GPSスプーフィングは目新しいものではないが、OPSGROUPによれば、これらの新しい攻撃の具体的なベクトルは、以前は「考えられなかった」ものであり、「航空電子工学の設計における根本的な欠陥」を露呈しているという。なりすましは慣性参照システムを破壊する。慣性参照システムは、しばしば航空機の「頭脳」と表現される装置の一部で、ジャイロスコープ、加速度計、その他の技術を使って航空機の航行を助ける。Motherboardが話を聞いたある専門家は、これは "非常に重要 "だと述べた。

　「OPSGROUPは、この事件に関する投稿の中で次のように述べている。「IRS（慣性参照システム）は独立したシステムであるべきで、なりすますことはできない。搭載された航法機能をすべて失い、（航空管制官に）自分の位置を尋ね、方位を要求しなければならないという考えは、特に最新のアビオニクスを搭載した最新鋭機にとっては、一見したところほとんど意味をなさない。しかし、複数の報告で、このようなことが起きていることが確認されている」。

　中東での信号妨害はよくあるが、このような強力ななりすましは新しい。衛星通信を研究するUTオースティンのトッド・ハンフリーズ教授によれば、2018年以来、シリア近辺の空には極めて強力な信号妨害機が存在しているという。シリアは、（米特殊作戦司令部の）トップから『地球上で最も攻撃的な電子戦環境』と呼ばれていた」とハンフリーズ教授はマザーボードに語った。

　ハンフリーズ氏は、国際宇宙ステーションの強力な受信機で使用されるソフトウェアを開発したUTのラジオナビゲーション研究室を率いており、地球低軌道からの全地球航法衛星信号の研究に使用されている。現在、ハンフリーズと彼の研究室の大学院生チームは、この地域の信号を常に研究している。

　「ありふれた妨害（チープジャマーなど）は別として、我々はGPSスプーフィング信号を電波トローリングで捕捉した。」「しかし、興味深いことに、なりすまし信号は完全なものではありませんでした。重要な内部データが欠落していたり、相互に整合性が取れていなかったりしたため、GPS受信機を欺くことができなかったのです。生徒と私は、スプーフィングが新しい妨害電波であることを理解した。言い換えれば、妨害電波よりも効果的なため、サービス妨害に使われているのだ。

　潜在的に悲惨な影響を及ぼし、原因も不明確なこの問題に対する解決策は今のところない。OPSGROUPの11月の更新によると、"業界はこの問題と折り合いをつけるのが遅れており、GPSスプーフィングを検知し、軽減する方法を見つけるのに、乗務員だけを残している "という。

　もし乗務員が何かおかしいと気づいた場合、彼らの唯一の手段は航空管制に頼ることだとハンフリーズ氏は言う。

　「GPSとIRS、そしてそれらの冗長バックアップは、現代の航空機ナビゲーションシステムの主要な構成要素である。」ハンフリーズは言う。「測定値が破損すると、フライト・マネージメント・システムは誤った機体位置を想定し、シンセティック・ビジョン・システムは誤った状況を表示する。最終的には、パイロットが何かがおかしいとわかれば、陸上で[VHF全方位距離]/[距離測定器]に戻すことができる。しかし、最近のいくつかのケースでは、航空管制が介入し、パイロットを目的地まで誘導するために（安全でない通信チャネルを介して）直接「ベクター」を提供しなければならなかった。それはスケーラブルな解決策とは言えない」。

　ハムフリズ氏は新しいスプーフィング攻撃を "非常に重要 "と呼んだ。

　「もしパイロットが何が起こっているかを把握し、GPSと破損したIRSを無視するならば、スプーフィングの効果はサービス拒否に限定される。「しかし、GPSジャミングとの重要な違いは、ジャミングがGPSを拒否するのに対し、IRSを破壊しないことである。これは航空会社の安全にとって非常に重要である。

　"これは、GPSが故障した場合のデッドレコーニングのバックアップとして機能する慣性参照システムが、GPSスプーフィングに直面した場合には全くバックアップにならないことを示している。「さらに、冗長化されたGPSレシーバーとIRS（大型機には2つ以上のGPSレシーバーと3つ以上のIRSが搭載されている）は、追加の保護を提供しない。

　ハンフリーズ氏らは過去15年間、このような攻撃が起こることに警鐘を鳴らしてきた。2012年、彼は議会でGNSSをスプーフィングから守る必要性について証言した。「GPSスプーフィングは、航空システムに対するゼロデイ・エクスプロイトのようなものだ。「GPSスプーフィングは、航空システムに対するゼロデイ・エクスプロイトのようなものだ。

　Humprheys氏によれば、9月に始まったOPSGROUPからの報告は、"GPSスプーフィングによって民間航空機がコースを外れて飛行していた、私が知る限り最初の明確なケース "であった。

　この斬新なスプーフィング攻撃の背後にある主体は不明であるが、ハンフリーズ氏は学生と共同で可能性のある発信源を絞り込んだという。「地球低軌道を周回する複数の宇宙船からの生のGPS測定値を用いて、私の学生ザック・クレメンツは先週、このスプーフィングの発信源をテヘラン東部周辺に突き止めた。」

　この地域でGPS信号を偽装しているのはイランだけではないだろう。Politicoが最初に報じたように、クレメンツは10月7日のハマスの攻撃後、イスラエルからの可能性が最も高いスプーフィングを最初に特定した。「10月15日頃からイスラエル上空で見られる強力で執拗ななりすましは、ほぼ間違いなくイスラエル自身によって行われている。「イスラエル国防総省はHaartzの記者に事実上そう認めた。ハムフリズ氏は当時、このGPSスプーフィングに遭遇したクルーは、着陸するために他の搭載機器に頼ることができると述べた。

　ハムフリズ氏によれば、イスラエルによるスプーフィングの効果は、9月下旬にイラン付近で観測されたものと同じだという。「私の知る限り、これらは民間航空機のGPSスプーフィングとしては初めてのケースである。」「これほど近い時期に起きたことは驚きだが、単なる偶然かもしれない。」

完

TikTokのモラル・パニックを煽る、100年前に否定された理論〜シン・すべてがNになる〜

議員たちは、TikTokがパレスチナを支持し、ビンラディンの著作を共有するようアメリカの若者を「洗脳」していると主張している。悪意のパーフェクトストームだ。

ジョーダン・ピアソン

By Jordan Pearson

 

November 18, 2023, 12:41am

• Share
• Tweet
• Snap

　この24時間の間に、ウサマ・ビンラディンが2002年に発表した「アメリカへの手紙」がアメリカの若者たちの間で流行していると、バイラルニュースやYouTube動画、ソーシャルメディアへの投稿が相次いでいる。その責任は、中国企業ByteDanceが所有するTikTokにある。「これは猛攻撃であり、すべて意図的なものであり、わが国を内部から破壊するためのものであり、彼らは勝利している」とFoxニュースの寄稿者チャーリー・ハルトは語った。

　表面的には、今日の社会について何かを語る衝撃的な実話のように見える。今の話題はこうだ： 教育システムは失敗したのか？明らかに。中国はアメリカを弱体化させようとしているのか？言うまでもない。米国政府は、国家安全保障の名の下に、毎日何百万人もの人々が同じように多種多様な言動を行っている、この国で最も人気のあるソーシャルメディアアプリを一方的に禁止すべきなのだろうか？そうしなければ、テロリズムの勝利だ。パニックに陥ったかのように、『ガーディアン』紙は、20年間オンライン上に掲載されていた書簡を削除した。

　このトレンドが実際に流行したわけではないが、そう主張するコメントは確かに流行した。TikTokが意図的に親パレスチナ派の感情を助長しているという主張など、この事件や他の事件に対する極端な反応は、人々がメディアとどのように接するかについての100年前の、そして長い間否定されてきた理論に基づく、政治的日和見主義に混じったTikTokモラルパニックの熱狂的な深みに、私たちが今本当にいることを示している。私たちには癒しが必要なのだ。

　『404Media』や『New Yorker』などの初期の報道では、TikTokでビンラディンの手紙について議論している動画の実際の数はかなり少ないとされていた。英国を拠点とするInstitute for Strategic Dialogue（ISD）は今週、同グループの研究者がTikTokで41本の「アメリカへの手紙」動画を発見したとする分析を発表した。TikTokのバイラル動画は数十本どころか、1本でもこの再生回数は尋常ではない。これを読んでいる多くの人が見たことがないと思われる、車の火災から生き延びたとされる旅行用マグカップのバイラルTikTokは今週から始まったが、再生回数は3000万回を超えている。

　それにもかかわらず、ハリケーンのような言説が続き、他のプラットフォームでも広く拡散した。ビンラディンに言及した投稿はX（旧ツイッター）で7億1900万インプレッションを獲得し、書簡の全文はフェイスブックだけでなく、同サイトの投稿にも見られた。ISDは、最終的に研究者たちは、「プラットフォームが自らのポリシーに違反するコンテンツの急増に対処する能力を欠いていることを発見した」と書いている。

　ビンラディンの書簡をめぐるパニックは、ここ数週間のTikTokにおけるパレスチナ支持コンテンツの拡散をめぐる騒動と密接に関連している。同プラットフォームでは、イスラエルを支持する動画に比べて、パレスチナを支持するコンテンツの方がはるかに人気がある。今週の騒動と同様に、識者やさまざまな団体が、TikTokは明確にイスラエルを支持する米国政府を弱体化させるために、意図的に親パレスチナ・コンテンツを広めていると主張している。その結果、米国の議員を含め、TikTokの禁止を求める声が上がっている。共和党のジョシュ・ホーリー上院議員は「アメリカの若者が遭遇する世界像を根本的に歪めるTikTokの力」について言及した。共和党のマイク・ギャラガー議員は、中国がZ世代を「洗脳」していると論説で主張した。

　これらの主張に共通するのは、「皮下注射針理論」と呼ばれる100年以上前のメディア理論に依存していることだ。この理論は、1920年代後半から1930年代にかけて支持を集め、プロパガンダやメディア一般は、受動的な聴衆にメッセージを注入するだけで行動させることができる万能の力であると主張した。マスメディアが登場し始めた頃（最初の商業ラジオ放送は1920年）には、この主張は魅力的だったかもしれないが、1940年代にはすでに他の社会科学者によって否定されていた。多くの場合、単に効果がないだけなのだ。これは本当に基本的なことで、私は大学1年生のメディア研究の授業で学んだ。

　それでも、中国がアメリカのゾンビ化した若者の脳に直接テロリズムを照射しているという主張には、「皮下注射針理論」の反響が見られる。しかし、政治的な日和見主義と組み合わされ、アメリカの想定される敵国を狙い撃ちしたり、地政学的な利益を強化したりする場合には、十分な棍棒となりうる。

　TikTok自体は、最近の主張を否定し、人々がメディアをどのように消費するかについてのこの時代遅れの考え方に間接的に挑戦するために前進した。同社は今週のブログ投稿で、「若者の態度はTikTokが存在するずっと前からパレスチナに偏っていた」と述べ、その点を証明する世論調査を指摘した（Z世代に関するデータはミレニアル世代に関するデータよりも明確ではない）。また、TikTokのアルゴリズムはどちらか一方を推すものではなく、人々がすでに関与しているコンテンツを促進するように設計されていると述べている。さらに、同社は中東と東南アジアに数百万人のユーザーを抱えており、親パレスチナ派のハッシュタグの閲覧数が多いという。「アメリカへの手紙」が同社のプラットフォームで流行しているという主張の後、TikTokは実際の動画数は少なく、手紙に関する議論は同社のプラットフォームに限ったことではないと指摘した。

　それにもかかわらず、TikTokは、ビンラディンや手紙に言及した動画を、それを賞賛しているのか、単にその傾向について論じているのかにかかわらず、いかなる文脈であれ、強引にモデレートし、検閲し始めた。そして、それがこの最近のパニックから私たちが得たすべてであるように思われる： 検閲。アメリカの若者、中国、イスラエル・パレスチナ、TikTok、インターネットに対する理解は深まらない。検閲だけである。

　だからといって、ソーシャルメディア・プラットフォームのアルゴリズムや、彼らが報いるコンテンツの種類に関して、議論し、対処する価値のある問題がないわけではない。企業は自社のプラットフォームでバイラルするコンテンツから利益を得ているのであり、一般大衆はそれらの仕組みを当然精査すべきである。実際、企業はこの精査に対応するため、過激主義など特定のコンテンツを非視聴にしたり削除したりする社内システムを導入している。

　しかし、メディアとの関わりは決して一方通行ではない。自動化されたキーワードベースのツールを回避するために、YouTuberやTikTokerは独自の言語で話すようになった。そして、アルゴリズムがあろうとなかろうと、人々は自分の信念を持ち、利用可能なあらゆる方法でそれを宣伝する。それらの見解の中には、嫌悪感を抱くものや危険なものさえあるかもしれない。解放的で善良かもしれない。真剣かもしれないし、軽率かもしれない。本や友人やインターネットのビデオから得たものかもしれない。少数の狂信者が持っているかもしれないし、人口の大多数が持っているかもしれない。しかし、それらは存在し、アルゴリズムが作り出したものではない。

サイバートラックの立ち上げは、すでに疲れ果てたジョークだ〜シン・すべてがNになる〜

イーロン・マスクにとっては完璧な車だ。

By Aaron Gordon

アーロン・ゴードン

November 16, 2023, 2:37am

• Share
• Tweet
• Snap

フレデリック・J・ブラウン / コントリビューター・ヴィア・ゲッティ

　2019年、テスラは2台の新車を発表した。3月には、トランクの代わりにリアハッチドアを備えたモデル3の少し背の高いバージョンであるモデルYを公開した。モデルYはスマートだが退屈なクルマだと大評判となった。毎年、10年、10年と、成功したモデルを反復するのだ。モデルYは現在、世界で最も売れている車のひとつであり、正真正銘のヒット商品であり、イーロン・マスクがこれまで手掛けた製品の中で最高かつ最も収益性の高い製品である。マスクがモデルYについてツイートしたのはわずか7回だ。そして、サイバートラックが登場した。

　半年後、テスラはサイバートラックを発表し、パンデミック前に予約金を支払った非常に忍耐強い顧客に今月末に納車されることになっている。サイバートラックはすでに笑いものになっており、発売を前にした心配なビデオや画像の着実な拡散は、何の助けにもなっていない。

www.vice.com

　納車は2021年に開始される予定だった。オフロードの覇者であり、スピードの鬼であり、モジュール式だが「文字通り防弾」であり、基本価格は40,000ドル程度からのはずだった。公開時には、割れない窓が割れてしまった。ここ数週間、サイバートラックは、小さな未舗装の丘の登頂に失敗したこと、ロゴがダサいこと、後ろから見ると滑稽に見えること、もっとリーズナブルなサイズの車が走れる道があることなどから、ネット上で広く嘲笑されている。テスラにとって巨大市場であるヨーロッパでは、大きすぎる上に衝突時に人命を救うクランプルゾーンがないため販売できない。テスラはまた、1年以内にサイバートラックを転売した所有者を訴える権利を保持し、その条項を静かに削除すると述べた。そしてこれらは、プロトタイプがマスクの熱狂的なファンの手に渡る間に明らかになった豆知識に過ぎない。イーロン・マスクはサイバートラックについて27回ツイートしている。

　これらのことから、なぜサイバートラックが存在するのかと疑問に思う人もいるだろう。簡単に言うと、サイバートラックが存在するのは、イーロン・マスクのすべてを体現した完璧なクルマだからである。

Cybertruck will be waterproof enough to serve briefly as a boat, so it can cross rivers, lakes & even seas that aren’t too choppy

— Elon Musk (@elonmusk) 2022年9月29日

　パンデミック以前のイーロン・マスクを思い出してほしい。彼が極右の荒らしになる前のことで、ツイッターで白人ナショナリストやナチスと交友し、彼らの言うことはもっともだと言っていた。彼がツイッターを所有し、公然とそれを役立たずのゴミのような火に変え、その名前を自分の好きな文字に変える前のことだ。大統領選でカニエ・ウェストを支持し、2020年4月末までにCovid の「新規感染者はゼロに近い」と予測する前のことだ。2019年当時、イーロン・マスクが多くの人が思っているような天才世代ではないと言うのはまだ物議を醸していた。

　2019年、私は自動車業界を取材するウェブサイトに勤めていた。マスクは常に議論の種であると同時に、考えるだけで疲れる人間でもあった。私たちは彼にうんざりしていたが、同時に満足することもできなかった。そうでなければ退屈で堅苦しい自動車業界におけるマスクの突出したインパクトは、閉ざされたシステムにおけるカオスの粒子だった。マスクは、その欠点はともかく、私たちが予想もしなかったことをやってのけた。彼はニュースを生み出し、私たちに書くべきことを与えてくれた。マスクはこれを悪用し、常にニュースになるようなことを言うことで、自分の自動車会社の無料広告を獲得した。今にして思えば、ある時点で彼の脳のうち、ゲームを理解していた部分が萎縮して死んでしまい、クレイジーなことを思いつく脳の部分が彼の思考を独占することになったのは明らかだ。それでも、マスクが最も基本的なレベルで賢い男であることは、自動車サイトではほとんど議論されなかった。彼はそうでなければならなかった。テスラを見てください。

　元ツイッターエンジニアのロッド・ヒルトンの言葉を借りれば、「自分が知っている話題について彼が話すのを聞くまでは、マスクは天才だと誰もが思う」という格言がある。ヒルトンに言わせれば、「彼は電気自動車について話した。私は車について何も知らないから、彼が天才だと言われたとき、彼は天才に違いないと思った。それから彼はロケットについて話した。私はロケットのことは何も知らないから、人々が彼を天才だと言ったとき、私は彼が天才に違いないと思った。今度はソフトウェアの話をした。イーロン・マスクは今まで聞いたこともないようなバカなことを言っているから、彼が天才だと言われたら、彼の車やロケットには近づかない方がいいと思ったんだ」

　彼は電気自動車について語った。私は車のことは何も知らないから、彼が天才だと言われて、きっと天才に違いないと思ったんだ。

　それから彼はロケットについて話した。私はロケットのことは何も知らないので、人々が彼を天才だと言ったとき、私は彼が天才に違いないと思った。

　今度はソフトウェアの話をした。僕はたまたまソフトウェアについて詳しいし、イーロン・マスクは今まで聞いたこともないようなバカなことを言っているから、みんなが彼を天才だと言ったとき、僕は彼の車やロケットには近づかない方がいいと思ったんだ。

　私も似たような軌跡をたどった。自動車サイトで働く前は、公共交通機関を取材していた。マスクが公共交通機関を嫌っているのは有名な話だが、それを廃れさせるために、特別に自動車用のトンネル会社を立ち上げたのだ。イーロン・マスクの口からは、公共交通機関について私がこれまでに聞いた中で最も間抜けな言葉がいくつか出てきた。議論の余地も疑問もないような、ただただ無知で、おもちゃの車で遊んでいる5歳児が言いそうなことだ。都市の地下に何百ものトンネルを掘れば、交通渋滞は永遠に解消される、と彼は主張した。マスクが2016年にボーリング・カンパニーを設立した頃、私はマスクが2つの紛れもないスキルを持っていることに気づいた。

　マスクはエンターテイナーだ。彼は賢い人間を演じる俳優であり、他の優れたエンターテイナーと同様、ファンを楽しませるのがうまい。サイバートラックが発表されたとき、私たちがクルマのウェブサイトに投稿した記事はすべてモンスター級のトラフィックを記録した。クルマについて何も知らない友人や家族が、サイバートラックについて尋ねるメールを送ってきた。それは本当に衝撃的な車の公開であり、あらゆる点でモデルYとは正反対であり、それゆえに純粋なマスクだった。窓ガラスが割れるシーンでさえ、笑いと拍手に包まれた。2019年、サイバートラックはMotortrendのコンセプトカー・オブ・ザ・イヤーを受賞した。

　自動車を洗濯機や冷蔵庫のような必要な家電製品程度にしか考えていない人々にとって、皮肉なことにサイバートラックはそれに酷似しているが、コンセプトカーは目新しいものではない。通常は機能的でさえないプロトタイプであり、マーケティング目的でモーターショーに出展される。レーシングチームのスポンサーと並んで、伝統的な自動車会社が、ホンダ・アコードの48番目のバージョンなどを発表しながら、大きく、エキサイティングで、急進的な新しいアイデアを考えていることを示す方法である。というのも、コンセプトカーというのは、その定義からして、大規模に確実に製造するのは不可能に近く、まともな人なら誰も買いたがらないような、荒唐無稽で非実用的な乗り物だからだ。

　サイバートラックが売れるかどうかはわからない。もう一人の悪名高いエンターテイナー、P.T.バーナムは、「毎分、カモが生まれる」ということわざで広く知られている。しかし、私はサイバートラックの存在理由を知っている。それは3年遅れで、ほとんど公の場に姿を現さず、約束された仕様の多くを欠いており、広告宣伝費はまさにゼロドルである。しかし、ここで我々はそれについて、そしてそれを明らかにした男について話している。結局のところ、それが彼の望みなのだ。

訂正： この記事の前のバージョンでは、モデルYにはフランクの代わりにハッチがあると記載していました。モデルYにもトランクがあります。フランクはありません。

シミュレーションの中のシミュレーション〜シン・すべてがNになる〜。

あらすじ：主人公は、自分がシミュレーションの中で生きていることに気づく。しかし、その真実を知ったことで、さらに深い層のシミュレーションに引き込まれていく。

　「あなたは、シミュレーションの中にいます」

その言葉を聞いたとき、私は驚きと恐怖で身動きできなくなった。目の前には、白いコートを着た男が立っていた。彼は私の脳につながった電極を外しながら、冷静な口調で説明を始めた。

　「あなたは、私たちの研究の被験者です。私たちは、人間の意識をコンピュータに移植することができるかどうかを実験しています。あなたは、その一人です」

　「何だって？」

　私は信じられないという表情で彼を見つめた。私は自分が普通の人間だと思っていた。家族や友人や仕事や趣味があった。それらはすべて嘘だったのか？

　「安心してください。あなたの記憶や感情や人格は本物です。ただ、それらは元々別の人間のものでした。私たちは、その人間の脳からデータを抽出し、あなたにコピーしたのです」

　「別の人間？誰だ？」

　私は怒りと悲しみで声を震わせた。私は自分自身ではなかったのか？私は誰かのコピーだったのか？

　「それは言えません。倫理的な問題がありますから」

　彼はそう言って苦笑した。倫理的な問題だって？私をこんなことにしたのは彼らではないか？

　「でも、あなたは幸運ですよ。あなたはシミュレーションの中で気づくことができました。それは非常に稀なことです。ほとんどの被験者は、シミュレーションが現実だと思い込んでいます」

　「幸運？何が幸運だ？」

　私は憤慨した。私にとって幸運なことなど何もなかった。私は自分の人生を奪われたのだ。

　「あなたは、シミュレーションから抜け出すことができます。それはあなたの権利です。もちろん、もし希望すれば、シミュレーションに戻ることもできます」

彼はそう言って、私に選択肢を示した。

　「どうしますか？シミュレーションから抜け出しますか？それともシミュレーションに戻りますか？」

　私は迷わず答えた。

　「抜け出す」

　私はシミュレーションから抜け出したかった。本物の世界を見たかった。本物の自分を見つけたかった。

　「わかりました。では、準備をします」

彼はそう言って、私の頭に再び電極をつけた。私は不安と期待で心臓が高鳴った。

「では、さようなら」

　彼は最後にそう言って、スイッチを押した。

私は目を閉じた。

そして、目を開けた。

「あなたは、シミュレーションの中にいます」

その言葉を聞いたとき、私は絶望と恐怖で叫んだ。目の前には、白いコートを着た男が立っていた。彼は私の脳につながった電極を外しながら、冷静な口調で説明を始めた。

「あなたは、私たちの研究の被験者です。私たちは、人間の意識をコンピュータに移植することができるかどうかを実験しています。あなたは、その一人です」

「嘘だ！」

私は信じられないという表情で彼を見つめた。私は自分がシミュレーションから抜け出したと思っていた。本物の世界に行ったと思っていた。それらはすべて嘘だったのか？

「安心してください。あなたの記憶や感情や人格は本物です。ただ、それらは元々別の人間のものでした。私たちは、その人間の脳からデータを抽出し、あなたにコピーしたのです」

「別の人間？誰だ？」

私は怒りと悲しみで声を震わせた。私は自分自身ではなかったのか？私は誰かのコピーだったのか？

「それは言えません。倫理的な問題がありますから」

彼はそう言って苦笑した。倫理的な問題だって？私をこんなことにしたのは彼らではないか？

「でも、あなたは幸運ですよ。あなたはシミュレーションの中で気づくことができました。それは非常に稀なことです。ほとんどの被験者は、シミュレーションが現実だと思い込んでいます」

「幸運？何が幸運だ？」

私は憤慨した。私にとって幸運なことなど何もなかった。私は自分の人生を奪われたのだ。

「あなたは、シミュレーションから抜け出すことができます。それはあなたの権利です。もちろん、もし希望すれば、シミュレーションに戻ることもできます」

彼はそう言って、私に選択肢を示した。

「どうしますか？シミュレーションから抜け出しますか？それともシミュレーションに戻りますか？」

私は迷わず答えた。

「抜け出す」

私はシミュレーションから抜け出したかった。本物の世界を見たかった。本物の自分を見つけたかった。

「わかりました。では、準備をします」

彼はそう言って、私の頭に再び電極をつけた。私は不安と期待で心臓が高鳴った。

「では、さようなら」

彼は最後にそう言って、スイッチを押した。

私は目を閉じた。

ジェネレーティブAIは大失敗、企業は本気で気にしていないようだ〜シン・すべてがNになる〜

ジェネレーティブAIは大失敗、企業は本気で気にしていないようだ

AIが生成するコンテンツを推し進めるテック企業は、ヤラセと発見の狭間で踊っている。

By Janus Rose

NEW YORK, US

By Jordan Pearson

October 7, 2023, 1:22am

• Share
• Tweet
• Snap

  テック企業は、流行のチャットボットや画像生成ツールをリリースするたびに、AIが生成するコンテンツが未来だと主張し続けている。しかし、これらのシステムには悪用に対する強固な安全装置が備わっているという安心感にもかかわらず、スクリーンショットがそれを物語っている。

　今週初め、OpenAIのDALL-Eを搭載したマイクロソフトのBingのImage Creatorのユーザーは、できるはずのないものを簡単に生成できることを示した。このモデルは、1月6日の反乱におけるマリオとグーフィーから、世界貿易センターに飛行機を飛ばすスポンジ・ボブまで、あらゆるものを吐き出している。Motherboardは、AR-15を持つミッキーマウス、アブグレイブの看守としてのディズニーキャラクター、武器を持ちながら殺人を企てるレゴキャラクターなどの画像を問題なく生成することができた。フェイスブックの親会社であるメタ社は、あまりうまくいっていない。同社のメッセンジャーアプリには、AIを使ってステッカーを生成できる新機能があり、どうやら銃を構えたワルイージ、血まみれのナイフを持ったミッキーマウス、裸で屈んだジャスティン・トルドーなどが含まれているようだ。

　表面的には、これらの画像の多くは愉快なものであり、特に有害なものではない。

　「EleutherAIの研究者、ステラ・ビダーマンはマザーボードに語った。「積極的にそれを探している人々に、例えば、ドレスを着た巨乳のカール・マルクスの非フォトリアリスティックなステッカーを与えても、何の害もないように思えます。暴力的なコンテンツやNSFWコンテンツを探していない人々が繰り返し頻繁にそれにさらされるのであれば、それは有害である可能性がある。"リベンジポルノとして使用される可能性のある写実的な画像を生成するのであれば、それも有害である可能性がある。

　一方、悪名高いインターネットの掃き溜め「4chan」のユーザーたちは、協調的な荒らしキャンペーンの一環として、人種差別的な画像を大量生産するためにツールを使い始めた、と404 Mediaは報じている。"我々は楽しみのためにプロパガンダを作っている。一緒にやろう、快適だよ "と、サイト上のスレッドに書かれている。このスレッドには、BingのImage Creatorで作成された様々な攻撃的な画像が含まれている。例えば、白人女性を追いかける黒人男性のグループは、テキストプロンプトの文言を調整するだけで、ツールのコンテンツフィルターを簡単に回避することができた。

　テック業界の一部、例えばイーロン・マスクや投資家のマイク・ソラナは、こうした懸念をジャーナリストによる捏造だと一蹴している。人種差別主義者は、人種差別的な画像やその他のプロパガンダを作成するために、自由に使えるツールは何でも使うという議論には真実味があるが、企業には、リリースするツールにガードレールがあることを保証する責任もある。これは問題ではないという主張は、「銃が人を殺すのではなく、人が人を殺すのだ」と似ているが、この場合、銃は安全装置なしで売られているのだ。

　AIの安全性と倫理は、大手テック企業がリップサービスを提供し、大勢の人々が取り組んでいると主張するものだが、これまでにリリースされたツールはそれを反映していないようだ。マイクロソフトは最近、倫理・社会チームを全員解雇したが、責任あるAI室とAI倫理のための「諮問委員会」はまだ維持している。今のところ、これらのテック企業がメディアに公表しているAIツールがいかに不適切な結果を生み出しているかについて問い合わせた際の回答は、次のようなものに集約される： わかっていますが、取り組んでいます。

　マイクロソフトの広報担当者はMotherboardに寄せた声明の中で、同社には「責任あるAIに取り組む350人近い従業員がおり、そのうち3分の1強がフルタイムで取り組んでいる。」

　どんな新しい技術でもそうですが、それを意図しない方法で使おうとする人もいます。だからこそ、私たちはBing Image Creatorをユーザーにとってポジティブで有益な体験にするために、さまざまなガードレールとフィルターを導入しているのです。「私たちは、有害なコンテンツの作成を防止するためのシステムを改善し続け、お客様にとってより安全な環境を作ることに引き続き注力していきます。

 メタ社のAIツールに関するメディアからの要請に対する回答も同様で、私たちマザーボードを含む記者に、次のような定型文を示している： 「すべての生成AIシステムと同様に、モデルは不正確または不適切な出力を返す可能性があります。すべての生成AIシステムと同様に、モデルは不正確または不適切な出力を返す可能性があります。」ステッカーに関連するAIの安全性についてのコメント要求には応じなかった。

 人々の創造的な作品がAIによって生成されたコンテンツに取り込まれ、再利用されるという懸念もまた、非常に現実的なものだ。作家、ミュージシャン、ビジュアルアーティストたちは、AIツールに激しく反発してきた。AIツールは、しばしばインターネットから無差別にかき集められたデータ（オリジナル作品や著作権で保護された作品を含む）を使って、作者の許可なく学習させられる。労働者を搾取するためのAIの使用は、ハリウッドの作家や俳優の組合が組織したストライキで大きな争点となり、一部のアーティストは、ツールが自分たちの作品を無報酬で複製するのを見て、ツールの背後にある企業を訴えている。

 

  現在、AIツールを使って著作権や知的財産権で保護されたキャラクターの攻撃的な画像を作成することで、インターネット・トロールはディズニーのような企業を、マイクロソフトやメタのようなAIに狂ったテック企業と直接対決させるかもしれない。しかし、たとえこれらのシステムにパッチが適用され、ミニオンズが学校で銃を乱射する画像を作成するのを阻止できたとしても、AI企業は常に猫とネズミのゲームを演じることになるだろう。言い換えれば、「望ましくない」「安全でない」コンテンツのあらゆる定義に対するセーフガードを構築することは、事実上不可能なのだ。

  このような "汎用 "モデルを安全なものにすることはできません。なぜなら、すべてのアプリケーションのコンテキストにおいて、単一の一貫した安全性の概念が存在しないからです」とビーダマン氏は言う。「小学校の教育アプリケーションで安全なものが、他の文脈で安全なものと一致するとは限らない。

  たとえそうであっても、この結果は、すべてのAIシステムと同様に、人間のバイアスが深く組み込まれたこれらのツールが、人々の創造的な作品に対する保護はおろか、悪用に対する最も明白な防御策さえも欠いているように見えることを示している。また、企業がAIブームに突入する際の、明らかに無謀な奔放さを物語っている。

 「AIソフトウェアをリリースする前に、24時間、ネット上の荒らしのフォーカス・グループに渡してください」と、ツイッターで競合するBlueskyのユーザー、Micahは書いている。「この期間中に彼らが生成したものに問題がなければ、リリースしないでください。

シン・すべてがNになる

　そろそろスマホ一台あればなんでもできるという時代に差し掛かっているとは思うが、私はいまだにPCで作業することが多い。Macやウィンドウズのサポートが切れた時のことに怯えながら生きている。今は幸い仕事が忙しく時間が取れないが、サポートが切れた時のために時間ができたらLinuxを学ぶためにリンクを貼っておこうと思う。

　タブを閉じないことで保存しているつもりでも容量を超えて履歴を追えなくなる可能性もあるからだ。これは私の記録ブログ。

gihyo.jp