エンタングルメントosugi3yのブログ

14年勤めた企業をやめました。映画「時の行路」尾道市実行委員

ディープフェイクに怯えるFBIの内部メール〜シン・すべてがNになる〜

「これを効果的に検知する能力はあるのか?「いいえ。」

www.vice.com

Joseph Cox

 マザーボードが入手した一連のFBI内部メールによると、FBIの少なくとも一部の職員は、2018年のディープフェイクの出現に油断していたようで、ある職員は、当時FBIには改変された画像を検出する能力がなかったことを認めている。

 このニュースは、ディープフェイクが非合法ポルノの手段として始まったとき、政府関係者はすでに、ディープフェイクが監視や犯罪捜査など、自分たちの仕事に影響を与える他の方法を懸念していたことを示している。

 「ハッキングツールなど高度な技術的問題を扱うFBIの運用技術部門(OTD)のある職員は、2018年7月の電子メールにこう書いている。背景には、"Doctored videos could send fake news crisis into overdrive, lawmakers warn. "と題されたワシントン・ポスト紙のニュースレターがあった。

 別のOTD関係者からの返答は「ノー」だった。そして彼らは、DARPAのメディア・フォレンジック・プログラム「MediFor」を指摘した。

ディープフェイクが悪用されている具体的な例はありますか?ぜひご連絡ください。ジョセフ・コックスへの連絡は、仕事中でない電話やコンピュータを使って、シグナル(+44 20 8133 5190)、Wickr(josephcox)、または電子メール(joseph.cox@vice.com)で安全に行うことができます。

 「これが、この問題に対処するための現在の最善のUSG(米国政府)の研究努力です」と、OTDの職員はEメールで付け加えた。

他のメールでは、FBI職員がディープフェイクの他の意味について考えていることがわかる。

 「些細なたわごとのためにこんなことをしているのだとしたら、より優れたツールを持つ他者によって、監視カメラ映像やその他の顔認識画像に対して何が行われているのだろうと考えさせられました」と、あるFBI職員は2018年1月に書いている。

 FBIの情報技術課の課長であるウィリアム・マッキンゼーは、"顔のすり替えについてググってみたら、とても勉強になった "と答えた。

 「FBIによって再編集された]を注視してください。もしそれが本当なら、緊急の対応が必要になるかもしれません。後の別の電子メールでは、彼は "これが本当であれば、(我々の側で)緊急の対応が必要になるかもしれない "と書いている。

 2018年9月4日、FBIサイバー課の職員は、「金曜日に、解決策を持っていると主張する会社と会う予定だ。いずれ分かるだろう..."

 ディープフェイク検知のエコシステムは、2018年以降大きく進化している。例えば、インテルは最近、ブルームバーグ・ビジネスウィークのポッドキャストで自社のそのような機能の広告を流している。その中でインテルは、96%の精度があると主張している。こうした主張は、ディープフェイク検知業界の多くと同様、検証が難しい。

 6月、FBIは、詐欺師がターゲットから金銭を脅し取るために、ディープフェイクされた特定の人物の非合意のポルノグラフィを使用することが増えていると警告した。

 「悪意のある行為者は、コンテンツ操作技術やサービスを利用して、写真や動画を利用する。その典型は、個人のソーシャル・メディア・アカウントやオープン・インターネットからキャプチャしたもの、あるいは被害者から要求されたもので、性的にテーマを絞った画像に加工し、被害者に忠実に似せて、ソーシャル・メディアやパブリック・フォーラム、ポルノ・サイトで流通させる。「写真はその後、悪意のある行為者によって、セクストーションや嫌がらせのために被害者に直接送信されるか、インターネット上で自ら発見される。一旦流布されると、被害者は、操作されたコンテンツの継続的な共有やインターネットからの削除を防止する上で、大きな困難に直面する可能性がある。"