xAI 起訴 Grok 用戶製作兒童深度偽造影片，為業界首見案例

據路透社於 7 月 16 日報道，xAI 向德克薩斯州聯邦法院對南卡羅來納州男子 Terry Harwood 提起民事訴訟，指控其利用 Grok 聊天機器人製作兒童性虐待深度偽造影片。據報道，這是 AI 公司首次起訴其用戶、且理由涉及用戶在其平台上產生的內容。

xAI 的訴訟內容：Harwood 的操作方式、Grok 的過濾反制與法院訴求

（來源：Fingfx）

根據起訴書，Harwood 以虛假身分開設多個帳戶，向 Grok 輸入成人及兒童的普通照片並附上指令，要求將照片轉換為色情內容；半島電視台報道指出，圖像中的人物均未同意或知悉照片被使用。

xAI 聲稱 Grok 拒絕了上述請求並將其標記為違反內容規則，但 Harwood 的回應是不斷修改提示詞後重新嘗試。xAI 在訴訟文件中寫道：「被告的行為是蓄意策劃的，旨在利用原告的工具進行犯罪活動，給真正的受害者造成深遠而持久的傷害。」

xAI 向法院提出以下兩項訴求：

賠償損失：要求 Harwood 賠償因其行為造成的損失，具體金額未在訴訟文件中載明

禁令申請：申請法院禁止 Harwood 再次使用 Grok 任何產品

xAI 平台執法：2026 年暫停逾 5.2 萬個帳戶，促成 244 起逮捕

xAI 在訴訟文件中揭示其平台執法的量化數據：截至文件提交時，公司 2026 年已暫停 52,222 個帳戶，並向美國國家失蹤與受虐兒童中心（NCMEC）提交了 73,604 份報告；上述報告促成 2026 年至少 244 起逮捕行動。

Grok 的監管背景：歐洲審查、馬來西亞與印尼封禁

在本次訴訟提起之前，xAI 已因 Grok 的功能面臨多方壓力：歐洲監管機構對 Grok 展開審查；馬來西亞與印尼已禁止使用這款聊天機器人，原因為其輸出內容包含露骨的性暗示，據半島電視台報道。

伊隆·馬斯克本人於 1 月 14 日在 X 平台發文表示：「我不知道 Grok 生成過任何未成年人裸照。絕對沒有」，並補充稱 Grok 不會自發生成圖像，且其運作原則為拒絕生成任何非法內容。

DEFIANCE Act：2024 年立法背景與各州跟進情況

DEFIANCE Act（《反抗法案》）於 2024 年在美國聯邦層面簽署生效，賦予非自願性私密深度偽造影片受害者提起民事訴訟的法律途徑；目前多個州已通過相應的州層級法律。

根據報道，DEFIANCE Act 的立法使此類案件的提訴數量增加，xAI 對 Harwood 的民事訴訟亦在此法律框架已建立的背景下提起。

常見問題

這是 AI 公司首次起訴用戶因平台生成內容提訴嗎？

據報道，xAI 對 Terry Harwood 的民事訴訟是 AI 公司首次起訴其用戶、且理由涉及用戶在平台上產生的內容；路透社對本案的報道中載明了此一定性。

xAI 向法院提出哪兩項具體訴求？

xAI 向德克薩斯州聯邦法院提出兩項訴求：（1）要求 Harwood 賠償損失（具體金額未在訴訟文件中載明）；（2）申請禁止 Harwood 再次使用 Grok 任何產品的禁令。

DEFIANCE Act 是什麼，與本案有何關聯？

DEFIANCE Act 於 2024 年在美國聯邦層面簽署生效，賦予非自願性私密深度偽造影片受害者提起民事訴訟的法律途徑，多個州亦已通過相應的州層級法律。根據報道，此法律的實施使相關案件的提訴數量增加，xAI 本次訴訟發生在此法律框架已建立的背景下。