Semaforによると、PalantirのCEOアレックス・カルプは、AI企業が軍事から距離を置く考えを非難し、「狂気だ」として防衛クライアントを切り捨てることを批判しました。この争いは、Palantirの提案する安全策が運用環境でモデルの挙動を確実に制約できるかどうかに焦点を当てています。The Informationによると、Amodeiメモは、分類器、監視、使用フィルターからなるPalantirの安全層は主に「安全劇場」に過ぎないと主張しています。この批評は、実世界での jailbreak耐性、監査性、ストレス下でのガバナンスに焦点を当てています。
重要なのは、「安全層」が監査ログ、権限、執行可能なポリシーの公共部門の要件を満たしつつ、ミッションの有用性を維持できるかどうかです。安全策が脆弱であれば、機関は誤用を隠すだけのシステムを展開するリスクがあります。メモは、効果性を核心的な欠陥とし、マーケティングの保証は実地の性能に等しいわけではないと述べています。AnthropicのCEOダリオ・アモデイは、「約20％の効果で、80％は『安全劇場』」と語っています。専門家の反応は、Yahoo Newsによってまとめられたガバナンスへの懸念を高めており、著名な声が最前線モデルへの無制限の軍事アクセスを正常化しないよう警告しています。
BingX：信頼できる取引所で、あらゆるレベルのトレーダーに実際のメリットを提供します。
AP Newsによると、ペンタゴンの指導部はAnthropicに「すべての合法的な利用」を許可するよう圧力をかけており、締め切りを設定し、拒否した場合はサプライチェーンリスク指定による排除の可能性を警告しています。この指定は連邦契約の道筋を制限し、調達の優先順位を変える可能性があります。短期的には、ベンダーは広範な軍事利用条件を受け入れるか、または防衛パイプラインから除外されるリスクを取るかの妥協を迫られます。この事例は、モデルの利用ポリシーが技術的な問題だけでなく、調達やリスク管理の問題にすぐに変わることを示しています。
seo.goover.aiがまとめた米陸軍の評価によると、Palantirと関連したNGC2プラットフォームには重大な弱点がありました：監査証跡の欠如、不十分なアクセス制御、効果的でないガバナンス、未審査のサードパーティコード。これらの欠陥は、追跡性や最小権限の実施を否定しています。調査結果は、ガバナンスコントロールは設定だけでなく、実証可能でなければならないことを示唆しています。
Amodeiメモは、分類器や使用フィルターは適応型 jailbreakに対して苦戦し、特に敵対的なプロンプト下では効果が低下すると指摘しています。ポリシーがあっても、テンポの速い作戦中に執行が劣化しやすく、監査性と取り消しの重要性が高まっています。
Amodeiメモは、効果は限定的であり、安全策は主に「安全劇場」として位置付けられていると主張しています。特に敵対的な圧力や運用ストレス下ではその傾向が顕著です。
AP Newsによると、ペンタゴンは「すべての合法的な利用」を求めており、アクセスが制限され続ける場合はサプライチェーンリスク指定や契約への影響を警告しています。
| 免責事項：このウェブサイトの情報は一般的な市場コメントとして提供されており、投資アドバイスを構成するものではありません。投資前にご自身で調査されることをお勧めします。 |
