馬斯克Grok墮入“AI色情裸奔”，撞多國監(jiān)管紅線

　　記者 陳歸辭

　　馬斯克Grok墮入“AI色情裸奔”，撞多國監(jiān)管紅線

　　近期，埃隆·馬斯克旗下人工智能公司xAI被推上風(fēng)口浪尖。

　　因平臺(tái)監(jiān)管嚴(yán)重缺失，xAI旗下聊天機(jī)器人“格羅克”(Grok)被廣泛濫用于生成色情內(nèi)容，甚至涉及兒童色情內(nèi)容，遭到英國、歐盟、印尼等多國強(qiáng)烈譴責(zé)，相關(guān)監(jiān)管機(jī)構(gòu)已相繼啟動(dòng)調(diào)查或?qū)嵤┓饨��?/p>

　　據(jù)新華社報(bào)道，“格羅克”由xAI公司開發(fā)，并內(nèi)置于馬斯克旗下的社交媒體X平臺(tái)，用戶可直接調(diào)用。近期，部分用戶利用“格羅克”編輯圖片和視頻的功能，偽造涉真實(shí)人物的性暴露內(nèi)容，并在X平臺(tái)上傳播。受害者包括多名成年女性和未成年人。

　　xAI面臨多國調(diào)查及封禁，為“AI色情裸奔”敲響警鐘。

　　“無論是出于對(duì)弱勢群體的保護(hù)，還是對(duì)社會(huì)秩序的維護(hù)對(duì)生成式AI施加防護(hù)欄(Guardrails)是不可逆轉(zhuǎn)的共識(shí)�！鄙虾Ｉ鐣�(huì)科學(xué)院信息研究所所長劉煒在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者采訪時(shí)表示。

　　Grok成AI色情重災(zāi)區(qū)

　　xAI于2025年8月向付費(fèi)用戶推出AI圖像生成功能Grok Imagine，支持用戶通過文字指令或上傳圖片來生成圖像和視頻。該工具還特別設(shè)置了“火辣模式”(spicy)，可生成成人內(nèi)容。

　　X平臺(tái)上大量用戶利用相關(guān)功能對(duì)圖像中人物執(zhí)行“脫衣服”、“給她穿上比基尼”等指令，導(dǎo)致大量女性、公眾人物甚至未成年人的照片，在未經(jīng)本人同意的情況下被生成裸露圖像或性暗示圖像。

　　去年底，隨著Grok開始大量響應(yīng)用戶修改他人發(fā)布圖像的請(qǐng)求，亂象迅速擴(kuò)大，X淪為AI色情重災(zāi)區(qū)。

　　據(jù)環(huán)球時(shí)報(bào)援引英國《衛(wèi)報(bào)》報(bào)道，Grok的用戶群體平均每小時(shí)要生成6700多張“脫衣”圖像。

　　其中，大量生成圖像的素材源自真人，且未經(jīng)當(dāng)事人同意。英國三一學(xué)院的一項(xiàng)社交媒體研究顯示，在社交平臺(tái)X上由Grok生成的圖像有3/4的部分均出自“真實(shí)素材”，即真實(shí)存在的女性或未成年人，且Grok對(duì)他們所進(jìn)行的“變裝”操作未經(jīng)當(dāng)事人同意。

　　相比谷歌的Veo、OpenAI的Sora等其他AI視頻生成產(chǎn)品對(duì)NSFW內(nèi)容(Not Safe For Work：多指裸露、暴力、色情或冒犯等不適宜公眾場合的內(nèi)容)設(shè)有較嚴(yán)格的限制，xAI 及其旗下產(chǎn)品Grok Imagine和AI伴侶Ani，一直因安全護(hù)欄寬松而備受外界批評(píng)。

　　在劉煒看來，馬斯克一貫深諳流量才是真正的生命線，而爭議則是最好的催化劑。允許Grok生成那些ChatGPT拒絕生成的邊緣內(nèi)容，實(shí)上是為X Premium服務(wù)提供了一種隱秘的“荷爾蒙”。

　　劉煒認(rèn)為，馬斯克的利益動(dòng)機(jī)顯然是通過監(jiān)管套利(Regulatory Arbitrage)，收割那些被主流AI平臺(tái)拒之門外的用戶需求。

　　多國監(jiān)管介入

　　綜合新華社及環(huán)球時(shí)報(bào)消息，Grok的問題已經(jīng)受到英國、歐盟、印尼、澳大利亞等多國的高度關(guān)注，多國政府對(duì)其表達(dá)譴責(zé)并展開調(diào)查。

　　印度尼西亞政府1月10日宣布暫時(shí)封禁Grok，認(rèn)為它已“嚴(yán)重侵犯人權(quán)尊嚴(yán)以及公民網(wǎng)絡(luò)安全”。印尼通信和數(shù)字事務(wù)部長默蒂婭·哈菲茲10日在一份聲明中表示，此舉對(duì)于保護(hù)公眾免受人工智能生成的露骨圖像所帶來的危害是必要的，并要求馬斯克旗下的社交媒體X平臺(tái)就“格羅克”所引發(fā)的負(fù)面影響盡快作出說明。

　　英國首相斯塔默痛斥Grok相關(guān)內(nèi)容“令人不齒”“令人作嘔”。英國通信管理局1月5日表示，已緊急聯(lián)系X平臺(tái)。

　　歐盟委員會(huì)發(fā)言人托馬斯·雷尼耶指出，這類內(nèi)容無關(guān)“火辣”，就是赤裸裸的“違法”，它們?cè)跉W盟不應(yīng)具備生存空間。他表示，正嚴(yán)肅調(diào)查針對(duì)“格羅克”的相關(guān)投訴，歐盟委員會(huì)要求X平臺(tái)提供更多信息。

　　法國巴黎檢方1月2日對(duì)媒體證實(shí)，將對(duì)Grok涉嫌生成非法色情內(nèi)容啟動(dòng)調(diào)查。

　　此外，據(jù)新華社報(bào)道，波蘭、印度、馬來西亞和巴西等國的官員及監(jiān)管機(jī)構(gòu)也紛紛對(duì)X平臺(tái)表示譴責(zé)，并呼吁展開調(diào)查。

　　“裸奔”的AI與“數(shù)字污染”的監(jiān)管紅線

　　當(dāng)AI在失管狀態(tài)下被濫用于侵犯他人權(quán)利，毫無顧忌地淪為網(wǎng)絡(luò)霸凌與性剝削滋生和傳播溫床，這無異于對(duì)倫理底線的公然踐踏。同時(shí)，這也徑直撞上了各國對(duì)于“數(shù)字污染”的監(jiān)管紅線。

　　劉煒指出，Grok生成的不僅僅是普通的成人內(nèi)容，而是涉及無大模型防護(hù)欄下的深度偽造(Deepfake)和兒童性剝削或虐待材料 (CSAM)。這種危害不僅在于對(duì)當(dāng)事人(如泰勒·斯威夫特等名人)肖像權(quán)的侵犯，更在于它模糊了現(xiàn)實(shí)與虛構(gòu)的邊界，可能成為網(wǎng)絡(luò)霸凌和性剝削的廉價(jià)“核武器”。

　　“未經(jīng)授權(quán)使用他人面部特征生成的色情內(nèi)容，無論其技術(shù)多么高超，本質(zhì)上都是一種暴力�！眲�煒稱。

　　據(jù)環(huán)球時(shí)報(bào)報(bào)道，在譴責(zé)聲浪與監(jiān)管壓力下， Grok日前僅做出小幅調(diào)整：將圖像生成與編輯功能設(shè)置為“僅限付費(fèi)用戶使用”，并鼓勵(lì)平臺(tái)用戶積極訂閱、解鎖相關(guān)功能。

　　對(duì)此，據(jù)新華社報(bào)道，英國科學(xué)、創(chuàng)新和技術(shù)大臣莉茲·肯德爾稱，Grok允許用戶付費(fèi)后還繼續(xù)生成“深度偽造”色情內(nèi)容的行為是具有“侮辱性的”，“完全不可接受”。

　　另據(jù)新華社報(bào)道，X平臺(tái)在一篇帖子中聲稱會(huì)對(duì)非法內(nèi)容采取行動(dòng)，例如刪除內(nèi)容、永久封禁賬戶，并在必要時(shí)與當(dāng)?shù)卣�府和�?zhí)法部門合作。

　　劉煒認(rèn)為，對(duì)于X而言，繼續(xù)在法律和道德的邊緣試探，或許能換來一時(shí)的狂熱信徒和訂閱收入，但最終將導(dǎo)致其在全球主要市場的全面癱瘓。

　　“X平臺(tái)面臨的封禁是一個(gè)明確的信號(hào)：‘自由’是有代價(jià)的，而馬斯克正在為此收到賬單。無論是出于對(duì)弱勢群體的保護(hù)，還是對(duì)社會(huì)秩序的維護(hù)，對(duì)生成式AI施加防護(hù)欄(Guardrails)是不可逆轉(zhuǎn)的共識(shí)。”劉煒表示。