同社は、人工知能プラットフォームがAIを法的および倫理的な方法で軍事的意思決定に統合すると述べています。
億万長者のPeter Thielの会社であるPalantirは、GPT-4やプライベートネットワーク上の代替手段のような大規模な言語モデルを実行するためのソフトウェアであるPalantir人工知能プラットフォーム（AIP）を立ち上げています。ピッチビデオの1つで、Palantirは軍がAIPを使用して戦争を戦う方法をデモしています。ビデオでは、オペレーターはChatGPTスタイルのチャットボットを使用して、ドローン偵察を注文し、いくつかの攻撃計画を生成し、敵の通信の妨害を組織します。
Palantirのシナリオでは、「東ヨーロッパ内の活動の監視を担当する軍事オペレーター」は、敵が友好軍の近くで軍事装備を集めているという警告をAIPから受け取ります。その後、オペレーターはチャットボットに詳細を表示するように依頼し、もう少し情報を入手し、AIにユニットが何であるかを推測するように依頼します。
「彼らはその地域にどの敵ユニットがいるかを尋ね、AIを活用して可能性のあるユニットフォーメーションを構築します」とビデオは言いました。何が起こっているかについてAIの最善の推測を得た後、オペレーターはAIにより良い写真を撮るように頼みます。写真を撮るためにリーパーMQ-9ドローンを発売し、オペレーターは友好軍の近くにソビエト時代のロシアの車両であるT-80戦車があることを発見します。
その後、オペレーターはロボットにそれについて何をすべきか尋ねます。「オペレーターはAIPを使用して、この敵の装備を標的にするための3つの可能な行動コースを生成します」とビデオは言いました。「次に、AIPを使用して、これらのオプションをコマンドチェーンに自動的に送信します。」オプションには、F-16、長距離砲、またはジャベリンミサイルで戦車を攻撃することが含まれます。ビデオによると、AIは、近くの軍隊がミッションを実施し、妨害システムを自動化するのに十分なジャベリンを持っているかどうかを皆に知らせます。
パランティア（Palantir）のピッチは、もちろん、信じられないほど危険で奇妙です。AIPデモには「人間・イン・ザ・ループ」がありますが、彼らはチャットボットに何をすべきかを尋ね、その行動を承認する以上のことをしていないようです。ドローン戦争はすでに戦争を抽象化し、人々がボタンを押すだけで広大な距離を殺すのを容易にしています。これらのシステムの結果は十分に文書化されています。軍の将来に関するパランティアのビジョンでは、より多くのシステムが自動化され、抽象化されるだろう。ビデオの面白い癖は、ユーザーを「オペレーター」と呼ぶことです。これは、軍事的文脈では、シールチームシックスのようなグループのひげを生やした特殊部隊の略語です。パランティアの世界では、アメリカのエリート軍は、国境でロシアの戦車をどうするかをロボットに尋ねるキーボードカウボーイと同じニックネームを共有しています。
Palantirはまた、ここで軍事固有のAIや大型言語モデル(LLM)を販売しておらず、既存のシステムを制御された環境に統合することを提案しています。AIPデモは、FLAN-T5 XL、GPT-NeoX-20Bの微調整バージョン、Dolly-v2-12b、およびいくつかのカスタムプラグインなど、さまざまなオープンソースLLMをサポートするソフトウェアを示しています。棚から微調整されたAIシステムでさえ、戦場で何をすべきかを尋ねることを悪夢にする可能性のある既知の問題がたくさんあります。例えば、彼らは単に物事をでっち上げたり、「幻覚」を起こしたりする傾向があります。特にGPT-NeoX-20Bは、EleutherAIと呼ばれるスタートアップによって作成されたOpenAIの言語モデルの以前のバージョンであるGPT-3のオープンソースの代替品です。EleutherAIのオープンソースモデルの1つは、チャイと呼ばれる別のスタートアップによって微調整され、最近、6週間話したベルギー人男性に自殺を説得しました。
Palantirが提供しているのは、AIを採用し始めたペンタゴンの安全と制御の幻想です。「LLMとアルゴリズムは、法的および倫理的な方法で使用されることを確実にするために、この高度に規制された敏感な文脈で制御されなければならない」とピッチは述べた。
Palantirによると、このコントロールには3つの柱が含まれます。最初の主張は、AIPがこれらのシステムを分類されたネットワークと「戦術的なエッジのデバイス」に展開できるということです。機密データとリアルタイムデータの両方を責任ある、法的、倫理的な方法で解析できると主張しています。
ビデオによると、ユーザーはPalantirに裏面したシステム内のすべてのLLMとAIができることを制御できます。「AIPのセキュリティは、LLMとAIが見ることができるものと見ることができないもの、そして彼らができることとできないことを特徴としている」とビデオは言った。「オペレーターが行動を起こすにつれて、AIPは安全なデジタル操作記録を生成します。これらの機能は、敏感で分類された環境で重大な法的、規制的、倫理的リスクを軽減するために不可欠です。
ビデオの半分は軍のAIのユースケースであり、残りの半分はシステムのバックエンドのビューです。これは、AIPがこれらのLLMの周りに設定すると思われるガードレールのツアーで、これらのLLMを安全にし、誰がどのような情報にアクセスできるかをコントロールします。
AIPがしないことは、LLMのさまざまな有害な問題にどのように対処するか、そして軍事的な文脈でどのような結果をもたらす可能性があるかを推測することです。AIPは、軍事AIの使用を「倫理的」かつ「法的」にすると約束する「フレームワーク」と「ガードレール」を超えて、これらの問題の解決策を提供していないようです。
