馬斯克旗下聊天機(jī)器人面臨多國封禁

　　近期，特斯拉CEO馬斯克旗下人工智能公司xAI被推上風(fēng)口浪尖。因平臺監(jiān)管嚴(yán)重缺失，xAI旗下聊天機(jī)器人“格羅克”(Grok)被廣泛濫用于生成色情內(nèi)容，甚至涉及兒童色情內(nèi)容，遭到英國、歐盟、印尼等多國強(qiáng)烈譴責(zé)，相關(guān)監(jiān)管機(jī)構(gòu)已相繼啟動調(diào)查或?qū)嵤┓饨��?/p>

　　Grok是由xAI公司開發(fā)，并內(nèi)置于馬斯克旗下的社交媒體X平臺，用戶可直接調(diào)用。近期，部分用戶利用“格羅克”編輯圖片和視頻的功能，偽造涉真實(shí)人物的性暴露內(nèi)容，并在X平臺上傳播。受害者包括多名成年女性和未成年人。

　　xAI于2025年8月向付費(fèi)用戶推出AI圖像生成功能Grok Imagine，支持用戶通過文字指令或上傳圖片來生成圖像和視頻。該工具還特別設(shè)置了“火辣模式”(spicy)，可生成成人內(nèi)容。

　　X平臺上大量用戶利用相關(guān)功能對圖像中人物執(zhí)行“脫衣服”“給她穿上比基尼”等指令，導(dǎo)致大量女性、公眾人物甚至未成年人的照片，在未經(jīng)本人同意的情況下被生成裸露圖像或性暗示圖像。

　　去年底，隨著Grok開始大量響應(yīng)用戶修改他人發(fā)布圖像的請求，亂象迅速擴(kuò)大，X淪為AI色情重災(zāi)區(qū)。據(jù)《環(huán)球時(shí)報(bào)》援引英國《衛(wèi)報(bào)》報(bào)道，Grok的用戶群體平均每小時(shí)要生成6700多張“脫衣”圖像。

　　其中，大量生成圖像的素材源自真人，且未經(jīng)當(dāng)事人同意。英國三一學(xué)院的一項(xiàng)社交媒體研究顯示，在社交平臺X上由Grok生成的圖像有3/4的部分均出自“真實(shí)素材”，即真實(shí)存在的女性或未成年人，且Grok對他們所進(jìn)行的“變裝”操作未經(jīng)當(dāng)事人同意。

　　相比谷歌的Veo、OpenAI的Sora等其他AI視頻生成產(chǎn)品對NSFW內(nèi)容(Not Safe For Work：多指裸露、暴力、色情或冒犯等不適宜公眾場合的內(nèi)容)設(shè)有較嚴(yán)格的限制，xAI及其旗下產(chǎn)品Grok Imagine和AI伴侶Ani，一直因安全護(hù)欄寬松而備受外界批評。

　　綜合新華社及《環(huán)球時(shí)報(bào)》消息，Grok的問題已經(jīng)受到英國、歐盟、印尼、澳大利亞等多國的高度關(guān)注，多國政府對其表達(dá)譴責(zé)并展開調(diào)查。

　　印度尼西亞政府1月10日宣布暫時(shí)封禁Grok，認(rèn)為它已“嚴(yán)重侵犯人權(quán)尊嚴(yán)以及公民網(wǎng)絡(luò)安全”。印尼通信和數(shù)字事務(wù)部長默蒂婭·哈菲茲10日在一份聲明中表示，此舉對于保護(hù)公眾免受人工智能生成的露骨圖像所帶來的危害是必要的，并要求馬斯克旗下的社交媒體X平臺就“格羅克”所引發(fā)的負(fù)面影響盡快作出說明。

　　英國首相斯塔默痛斥Grok相關(guān)內(nèi)容“令人不齒”“令人作嘔”。英國通信管理局1月5日表示，已緊急聯(lián)系X平臺。

　　歐盟委員會發(fā)言人托馬斯·雷尼耶指出，這類內(nèi)容無關(guān)“火辣”，就是赤裸裸的“違法”，它們在歐盟不應(yīng)具備生存空間。他表示，正嚴(yán)肅調(diào)查針對“格羅克”的相關(guān)投訴，歐盟委員會要求X平臺提供更多信息。

　　法國巴黎檢方1月2日對媒體證實(shí)，將對Grok涉嫌生成非法色情內(nèi)容啟動調(diào)查。此外，波蘭、印度、馬來西亞和巴西等國的官員及監(jiān)管機(jī)構(gòu)也紛紛對X平臺表示譴責(zé)，并呼吁展開調(diào)查。

　　此外，美國3名民主黨參議員于1月9日要求蘋果和谷歌下架X和Grok應(yīng)用，認(rèn)為在馬斯克未能阻止平臺傳播未經(jīng)同意的色情內(nèi)容前，兩款應(yīng)用不應(yīng)繼續(xù)留在應(yīng)用商店。

　　據(jù)《環(huán)球時(shí)報(bào)》報(bào)道，在譴責(zé)聲浪與監(jiān)管壓力下，Grok日前僅做出小幅調(diào)整：將圖像生成與編輯功能設(shè)置為“僅限付費(fèi)用戶使用”，并鼓勵(lì)平臺用戶積極訂閱、解鎖相關(guān)功能。

　　對此，據(jù)新華社報(bào)道，英國科學(xué)、創(chuàng)新和技術(shù)大臣莉茲·肯德爾稱，Grok允許用戶付費(fèi)后繼續(xù)生成“深度偽造”色情內(nèi)容的行為是具有“侮辱性的”，“完全不可接受”。

　　另據(jù)新華社報(bào)道，X平臺在一篇帖子中聲稱會對非法內(nèi)容采取行動，例如刪除內(nèi)容、永久封禁賬戶，并在必要時(shí)與當(dāng)?shù)卣�府和�?zhí)法部門合作。馬斯克本月還發(fā)文警告稱，任何利用Grok生成非法內(nèi)容的用戶，都將“面臨與上傳非法內(nèi)容相同的后果”。xAI公司則表示，會刪除包含兒童色情內(nèi)容在內(nèi)的違法帖子，并封禁相關(guān)賬號。

　　業(yè)內(nèi)人士認(rèn)為，此次事件可能推動各國加快AI監(jiān)管立法進(jìn)程，尤其是針對生成式AI的內(nèi)容審核、用戶權(quán)益保護(hù)等環(huán)節(jié)的規(guī)范。

　　北京商報(bào)綜合報(bào)道