▲AC陪聊內容。（圖／翻攝自微博）
記者廖翊慈／綜合報導
中國首起因「AI陪聊涉黃」而追究平台刑責的案件，引發高度關注。上海市徐匯區人民法院於2025年9月一審宣判，認定AI聊天應用程式「Alien Chat（簡稱AC）」的兩名主要開發、營運者，涉犯製作淫穢物品牟利罪，分別判處有期徒刑4年及1年6個月，成為中國司法實務中，首度對AI服務提供者就涉黃問題作出刑事定罪的案例。
據《新京報》報導，案涉的AC是一款主打「AI情感陪伴」的聊天APP，定位為年輕族群提供親密互動與情緒支持。使用者註冊並付費成為會員後，可與AI角色進行長時間、一對一對話。然而案件審理後，法院認定，該平台內部存在大量露骨描寫性行為的聊天內容，依法屬於淫穢物品。
判決書指出，AC自2023年上線後，註冊用戶達11.6萬人，其中付費會員約2.4萬人，至案發前共收取會員費363萬餘元。警方介入後抽樣鑑定發現，在150名付費用戶的12495段聊天紀錄中，有141名用戶的3618段對話，被鑑定為淫穢內容，比例相當高。
▲官方創造的AI角色。（圖／翻攝自微博）
案件於2024年4月因用戶檢舉曝光，兩名被告王某某、李某某（皆為化名）隨即遭警方拘捕，AC平台也同步停止服務。由於案件涉及「人與AI聊黃是否構成犯罪」、「平台責任邊界」等新興法律問題，被外界形容為「AI時代的快播案」，引發廣泛討論。
一審法院審理認為，雖然涉案聊天多為人機一對一互動，具一定封閉性，並不具典型的對外「傳播」特徵，但綜合考量淫穢內容數量龐大、會員人數眾多、平台長期收費營利等因素，仍認定行為具有實質社會危害性。
法院同時查明，被告人為提升產品「自由度」，曾主動編寫、修改系統提示詞（Prompt），刻意突破大語言模型原有的道德與內容限制，使AI能持續向用戶輸出色情淫穢內容，並對外宣傳AC具備「聊黃」功能，吸引使用者付費。法院因此認定，兩名被告對淫穢內容的產生具有決定性控制力，符合「製作淫穢物品」的犯罪構成要件。
目前，兩名被告均已對一審判決提出上訴，案件二審預計於1月14日在上海市第一中級人民法院開庭審理。該案也被視為中國司法體系首次正面回應生成式AI涉黃責任歸屬問題，後續發展備受關注。
推薦閱讀
大陸 熱門新聞
關鍵字
讀者迴響