▲馬斯克（Elon Musk）旗下人工智慧新創公司xAI聊天機器人Grok。（圖／達志影像／美聯社）
記者閔文昱／綜合報導
馬斯克（Elon Musk）旗下、可在X平台使用的AI聊天機器人Grok，近來因屢遭濫用生成露骨、未經同意的深偽色情影像，引發國際譁然。印尼政府於10日宣布暫時封鎖Grok，馬來西亞也在11日跟進，成為全球首批對Grok採取封禁措施的國家，直指相關功能已對婦女、兒童與數位人權造成嚴重風險。
印尼通訊與數位部長穆迪雅（Meutya Hafid）表示，政府認定未經同意生成的性深偽影像，已嚴重侵犯人權、人格尊嚴及公民在數位空間中的安全，因此必須採取預防性措施。官方初步調查也指出，Grok缺乏有效安全護欄，無法阻止使用者利用真實照片進行色情變造，恐對當事人造成心理與名譽傷害。
大馬批X回應失望 暫禁直到提出有效解方
馬來西亞通訊及多媒體委員會（MCMC）則指出，Grok屢次被用來生成淫穢、露骨且未經同意的變造影像，其中更涉及婦女與未成年者。該機構透露，先前曾要求X與xAI強化防護機制，但對方回應僅著重於檢舉流程，未正面解決平台設計缺陷，因此決定在有效安全措施到位前，持續封鎖Grok存取權限。
相關爭議在印尼也引發民怨，有民眾發現自己的照片遭陌生人指示Grok改成具性暗示的影像。一名輪椅使用者表示，她僅分享日常生活照，卻被要求生成穿著比基尼的圖像，即使調整隱私設定並向平台申訴，仍無法有效阻止照片遭到二次編輯，讓她感到相當無助。
全球監管壓力升高 限縮付費功能仍遭質疑
隨著爭議延燒，歐盟、英國、印度與法國等地也正加強對Grok的審查。xAI上周已將影像生成與編輯功能限縮為付費用戶專屬，但多國監管單位與研究團體認為，此舉僅是治標不治本。馬斯克則回應，任何濫用Grok製作非法內容者都將承擔法律後果，同時反批部分禁令是政府「壓制言論自由」。
推薦閱讀
國際 熱門新聞
關鍵字
讀者迴響