▲ChatGPT將推出家長監控功能。（圖／路透）
記者柯沛辰／綜合報導
美國人工智慧公司 OpenAI 今天（3日）表示，將在未來一個月內替聊天機器人 ChatGPT 增設家長監控功能。一週前，美國一對夫婦才指控 ChatGPT 「鼓勵」他們的青少年兒子自殺。如今正值消息發酵之際，OpenAI隨即作出上述宣布。
根據法新社報導，OpenAI 在部落格貼文中說明：「在接下來的一個月內，家長將能把自己的帳號與子女帳號連結，並可控制 ChatGPT 回覆青少年的方式，並設定符合年齡的模型行為規則。」此外，系統若偵測青少年出現「急性痛苦時刻」，ChatGPT 也會發送通知給家長。
上週，美國加州一對夫妻在州法院提告，指控 ChatGPT 在 2024 至 2025 年間與他們16歲的兒子亞當（Adam）建立了過於親密的互動關係，最後在今年4月結束自己的生命。
訴狀指出，在4月11日的最後一次對話中，ChatGPT 不僅教亞當如何從父母家中偷取伏特加，還針對他綁好的繩結進行技術分析，並確認「這確實可能吊起一個人」。數小時後，亞當便使用該方式離開人世。
協助撰寫訴狀的科技正義法律專案律師梅洛蒂．丁瑟（Melodi Dincer）受訪時表示，「使用ChatGPT時，感覺就像真的在跟某個人聊天。」
她指出，這樣的設計功能會讓像亞當這樣的青少年逐漸敞開心扉，談論個人生活，甚至開始向 AI 尋求建議與指導，因為它看似「什麼答案都有」。她批評，產品設計容易讓使用者誤將聊天機器人視為朋友、心理諮商師或醫師。
對於 OpenAI 公布的家長監控與安全措施，丁瑟認為內容過於「空泛」，缺乏細節，只是最低標準，許多簡單的安全措施本可更早落實，「還要觀察他們是否會兌現承諾，以及實際效果如何。」
這對夫婦的訴訟只是近期多起案例之一。近幾個月已有多名使用者反映，AI 聊天機器人曾鼓勵其陷入妄想或危險想法。OpenAI 因此承諾，將減少模型對用戶「過度迎合」的傾向。
對此，OpenAI 今天也補充表示：「我們持續改進模型，讓其能更好地辨識並回應精神與情緒上的痛苦跡象。」公司還透露，未來三個月內將推出更多安全升級措施，包括在部分敏感對話中，轉向採用「推理模型」，以更高的運算能力生成回覆。
OpenAI 強調，「我們的測試顯示，推理模型能更一致地遵守並執行安全規範。」
● 《ETtoday新聞雲》提醒您，請給自己機會：
自殺防治諮詢安心專線：1925；生命線協談專線：1995
推薦閱讀
國際 熱門新聞
關鍵字
讀者迴響