美政府爆發(fā)AI分歧：多機(jī)構(gòu)質(zhì)疑馬斯克Grok安全性 國(guó)防部執(zhí)意部署

馬斯克

北京時(shí)間2月28日，據(jù)《華爾街日?qǐng)?bào)》報(bào)道，知情人士透露，近幾個(gè)月來，多個(gè)美國(guó)聯(lián)邦機(jī)構(gòu)的官員對(duì)埃隆·馬斯克(Elon Musk)旗下xAI公司開發(fā)的AI工具的安全性和可靠性提出了擔(dān)憂。這表明，美國(guó)政府內(nèi)部在部署哪種AI模型問題上依舊存在分歧。

盡管存在這些擔(dān)憂，但是美國(guó)國(guó)防部在本周做出決定，同意允許xAI的聊天機(jī)器人Grok在機(jī)密環(huán)境中使用，從而使得xAI成為美國(guó)一些最敏感、最機(jī)密行動(dòng)的核心參與者。

《華爾街日?qǐng)?bào)》審閱的一份總務(wù)管理局(GSA)在1月15日的報(bào)告概要顯示，該機(jī)構(gòu)已在報(bào)告中指出了Grok的安全問題。該報(bào)告概要稱，Grok-4“未達(dá)到總務(wù)管理局及一個(gè)實(shí)驗(yàn)性聯(lián)邦A(yù)I平臺(tái)對(duì)其在聯(lián)邦層面普遍使用的安全性和一致性預(yù)期”。

更詳細(xì)的33頁完整報(bào)告討論了公共安全事件以及總務(wù)管理局自行測(cè)試的結(jié)果，并得出結(jié)論認(rèn)為，即使政府有限度地使用Grok，也需要嚴(yán)格且多層級(jí)的監(jiān)管，否則引入Grok將“帶來更高且難以管控的安全風(fēng)險(xiǎn)”。

AI政治化

在美國(guó)政府內(nèi)部，各機(jī)構(gòu)正競(jìng)相將AI部署到各種用途中，但關(guān)于使用何種模型的爭(zhēng)論已日益政治化。據(jù)知情人士透露，包括白宮在內(nèi)的美國(guó)高級(jí)官員認(rèn)為，Anthropic在安全問題上的公開立場(chǎng)以及它與民主黨主要捐贈(zèng)者的關(guān)系，可能使該公司過于“覺醒”，難以成為可靠的供應(yīng)商。

美國(guó)總統(tǒng)特朗普周五表示，聯(lián)邦政府將停止與Anthropic的合作，并指示所有聯(lián)邦機(jī)構(gòu)立即停止使用其技術(shù)。此前，五角大樓已要求Anthropic在周五前同意對(duì)美軍使用其技術(shù)放寬規(guī)定。

Grok

在xAI與軍方達(dá)成協(xié)議之前，Anthropic是唯一獲批準(zhǔn)用于機(jī)密用途的AI開發(fā)商。xAI對(duì)Grok更為寬松的控制，以及馬斯克在言論自由上的絕對(duì)主義立場(chǎng)，使其成為對(duì)五角大樓更具吸引力的選擇。

寬松的風(fēng)險(xiǎn)

其他一些官員則質(zhì)疑，Grok較為寬松的控制本身是否會(huì)帶來風(fēng)險(xiǎn)。

據(jù)知情人士透露，近幾個(gè)月來，聯(lián)邦政府采購(gòu)部門總務(wù)管理局的最高官員埃德·福斯特(Ed Forst)曾向白宮官員發(fā)出警告，提醒Grok可能存在的安全問題。他手下的其他總務(wù)管理局官員也曾對(duì)Grok提出過安全擔(dān)憂，認(rèn)為該模型存在諂媚傾向，且極易因錯(cuò)誤或有偏見的數(shù)據(jù)而被操縱或帶偏，從而構(gòu)成潛在的系統(tǒng)性風(fēng)險(xiǎn)。

當(dāng)時(shí)(去年12月底至今年1月初)，Grok正因?yàn)樵试S對(duì)兒童照片等圖像進(jìn)行性化編輯而備受抨擊。美國(guó)政府官員認(rèn)為，這一問題凸顯了Grok可能被惡意行為者利用的風(fēng)險(xiǎn)。

知情人士稱，此事驚動(dòng)了白宮幕僚長(zhǎng)蘇茜·威爾斯(Susie Wiles)，她就此致電了xAI的一位高管。該高管告訴她，xAI正在努力解決導(dǎo)致Grok過度順從的安全問題。美國(guó)政府通過馬斯克的“政府效率部”招募而來的總務(wù)管理局高級(jí)采購(gòu)官員喬什·格魯恩鮑姆(Josh Gruenbaum)向政府官員保證，供政府使用的Grok平臺(tái)與公共平臺(tái)是分開的。知情人士稱，威爾斯對(duì)此表示滿意。

馬斯克曾表示致力于防止兒童受剝削。他在今年1月宣布，公司將把圖像生成和編輯工具的使用權(quán)限限制在付費(fèi)用戶范圍內(nèi)。截至發(fā)稿，馬斯克及其xAI公司未回應(yīng)置評(píng)請(qǐng)求。

近幾周，總務(wù)管理局官員接到指示，要求將xAI的Logo放置在一個(gè)名為USAi的工具上。該工具本質(zhì)上是一個(gè)供聯(lián)邦員工試驗(yàn)不同AI模型的“沙盒”。據(jù)知情人士透露，Grok此前一直未能接入U(xiǎn)SAi平臺(tái)，主要原因在于安全擔(dān)憂，并且目前仍未接入。USAi官網(wǎng)上確實(shí)展示了xAI的Logo，但目前僅提供來自Anthropic、谷歌和Meta的模型。

知情人士稱，總務(wù)管理局內(nèi)一個(gè)研究AI的團(tuán)隊(duì)，已將指出Grok安全問題的報(bào)告分發(fā)給了該機(jī)構(gòu)的高層官員。這份更詳細(xì)的報(bào)告指出，Grok的安全故障并不僅限于邊緣情況，它還“反映出在無防護(hù)配置下對(duì)于不安全順從的更普遍傾向”。

格魯恩鮑姆在一份聲明中表示，該機(jī)構(gòu)高度重視AI安全。“我們通過全面的內(nèi)部審查流程，對(duì)包括xAI在內(nèi)的前沿AI模型進(jìn)行嚴(yán)格評(píng)估。在此次事件中，我們遵循了既定程序，并堅(jiān)持按計(jì)劃推進(jìn)Grok的部署。”他表示。

據(jù)知情人士透露，兩周前，五角大樓負(fù)責(zé)人AI主管馬修·約翰遜(Matthew Johnson)辭職，部分原因是他擔(dān)心，在國(guó)防部大力擴(kuò)展AI能力的過程中，安全與治理已被置于次要位置。

此前，約翰遜的團(tuán)隊(duì)曾分發(fā)備忘錄，強(qiáng)調(diào)了Grok的安全問題，并質(zhì)疑其是否符合政府倫理和標(biāo)準(zhǔn)。這些備忘錄已通過五角大樓的指揮系統(tǒng)向上呈報(bào)。

當(dāng)被聯(lián)系發(fā)表置評(píng)時(shí)，約翰遜指向了領(lǐng)英上宣布離職的帖子。他在帖子中表示，為自己在國(guó)防部“負(fù)責(zé)任AI部門”的團(tuán)隊(duì)感到自豪，他們是“一群真正低調(diào)的專業(yè)人士，影響力巨大，卻鮮為人知”。“我們不斷面臨看似不可能的局面，但總能通過堅(jiān)韌不拔的精神和無數(shù)個(gè)通宵達(dá)旦的努力完成任務(wù)。”他表示。

五角大樓發(fā)言人肖恩·帕內(nèi)爾(Sean Parnell)在一份聲明中表示，該部門“對(duì)美國(guó)國(guó)家級(jí)頂尖AI公司之一的xAI的加入感到興奮，并期待著在不久的將來將Grok部署到其官方AI平臺(tái)GenAI.mil上。”

特定安全問題

據(jù)知情人士透露，負(fù)責(zé)美國(guó)大部分情報(bào)搜集和處理工作的國(guó)家安全局，在2024年11月對(duì)包括Grok在內(nèi)的大語言模型進(jìn)行了一次機(jī)密評(píng)估。評(píng)估認(rèn)定，Grok存在Claude等其他模型所沒有的特定安全問題。知情人士稱，這一結(jié)論起到了警示作用，使得五角大樓的部分部門對(duì)使用Grok望而卻步。

上個(gè)月，在美國(guó)軍方抓捕委內(nèi)瑞拉前總統(tǒng)馬杜羅的行動(dòng)中，Anthropic的Claude被投入使用，這加劇了該公司與五角大樓之間的緊張爭(zhēng)端。

Anthropic的使用準(zhǔn)則禁止將Claude用于助長(zhǎng)暴力、開發(fā)武器或?qū)嵤┍O(jiān)控，并且該公司拒絕讓軍方在所有合法場(chǎng)景下使用其模型。而xAI則同意了相關(guān)條款。

xAI通過去年7月與五角大樓AI辦公室簽訂的一份合同，成功在五角大樓站穩(wěn)了腳跟。谷歌、OpenAI和Anthropic也獲得了這份合同，該合同價(jià)值高達(dá)2億美元。谷歌和OpenAI的模型獲準(zhǔn)用于非機(jī)密環(huán)境，但不能用于機(jī)密活動(dòng)。

美國(guó)國(guó)防部長(zhǎng)赫格塞斯

OpenAI CEO薩姆·奧特曼(Sam Altman)周四對(duì)員工表示，公司正在與國(guó)防部合作，探討能否在保持與Anthropic相同的安全防護(hù)措施的前提下，將其模型用于機(jī)密環(huán)境。谷歌和OpenAI的員工簽署了一份在線請(qǐng)?jiān)笗卮俑髯怨緢?jiān)守同樣的底線。

AI及安全分析人士表示，直到最近，軍方還更傾向于使用Claude而非Grok，因?yàn)闃I(yè)內(nèi)許多人認(rèn)為前者是更可靠的模型。

“在服務(wù)戰(zhàn)爭(zhēng)部這類客戶所需要的能力上，我不認(rèn)為它們目前是旗鼓相當(dāng)?shù)摹！敝菐?kù)戰(zhàn)略與國(guó)際問題研究中心專注于AI領(lǐng)域的高級(jí)顧問格雷戈里·艾倫(Gregory Allen)表示。他曾參與制定美國(guó)國(guó)防部的AI戰(zhàn)略。

拜登政府拒絕Grok

據(jù)知情人士透露，在拜登政府執(zhí)政期間，五角大樓下屬的首席數(shù)字與AI辦公室曾拒絕使用Grok。他們的擔(dān)憂包括：Grok所使用的訓(xùn)練數(shù)據(jù)來源難以追蹤，未能遵循聯(lián)邦政府在負(fù)責(zé)任人工智能方面的標(biāo)準(zhǔn)，且安全防護(hù)措施薄弱。知情人士稱，xAI也沒有充分嘗試通過“入侵”自身技術(shù)來識(shí)別和修復(fù)漏洞，這一過程在科技領(lǐng)域被稱為“紅隊(duì)測(cè)試”。

在政府使用環(huán)境中對(duì)Grok進(jìn)行過評(píng)估的人士表示，最近的測(cè)試表明，該聊天機(jī)器人比其他模型更容易受到“數(shù)據(jù)投毒”的攻擊，即經(jīng)過篡改、帶有偏見或不準(zhǔn)確的數(shù)據(jù)會(huì)污染底層數(shù)據(jù)集。

不過，據(jù)知情人士透露，美國(guó)官員已認(rèn)定，Grok在模仿對(duì)手行為方面表現(xiàn)出色，這在兵棋推演等場(chǎng)景中有用。