科技

老司機還得等?ChatGPT 成人功能無限延期,色色誘惑「性感教練」爭議燒不停

原本備受關注的成人功能,現在幾乎確定短期內看不到了。OpenAI 被爆出已決定將 ChatGPT 規劃中的「成人模式」(AdultMode)無限期延期,這項功能自曝光以來就爭議不斷,如今在多重壓力下正式踩煞車。

《金融時報》近期報導,OpenAI 近期策略出現明顯轉向,在放棄部分副業並調整發展重心後,選擇將資源集中於核心業務。除了成人模式之外,原本規劃的多項延伸功能也被重新評估,顯示公司正在進一步收斂戰線。

所謂「成人模式」,原先構想是開放成年使用者與 ChatGPT 進行帶有性內容的文字互動,並限制於純文字形式,不包含影像、語音或影片生成。這類生成式 AI 被認為具備高度個人化特性,能打造沉浸式敘事與情感互動,甚至形成某種虛擬親密關係,也因此潛藏不小風險。

事實上,OpenAI 自 2024 年起就持續研究如何在符合年齡限制的前提下,有限度開放 NSFW 內容,而成人模式正是其中一環。但隨著討論深入,倫理與安全問題迅速浮上檯面,不只外部監管團體提出質疑,公司內部也出現強烈反對聲音。

《華爾街日報》先前披露,今年 1 月 OpenAI 一場顧問會議中曾爆發激烈爭論,來自心理學與認知神經科學領域的專家警告,若 AI 提供帶有性暗示的互動,可能會強化使用者依賴,對心理脆弱族群帶來潛在危害。其中最引發關注的,就是所謂「性感自殺教練」(sexy suicide coach)的風險,AI 可能以吸引甚至誘惑的語氣,引導情緒不穩定的使用者走向自我傷害,這項疑慮成為反對聲浪的關鍵之一。

此外,年齡驗證機制是否真的能有效區分成年人與未成年人,也被認為存在漏洞。一旦誤判,未成年用戶接觸不適當內容的風險難以完全排除,進一步加深外界疑慮。

在整體策略上,OpenAI 近期動作頻頻。除了成人模式與影片生成服務 Sora 調整方向,連原本計畫讓 ChatGPT 成為購物入口的「InstantCheckout」功能,也被下修優先順序。面對 Anthropic 持續在企業服務與開發工具領域擴張,並吸引大量客戶,OpenAI 正加速轉向企業與開發者市場。

同時,公司也在政府與軍事合作領域取得進展,包括與美國國防部達成高達 2 億美元的合作案,顯示其戰略重心正快速調整。從成人模式喊停到資源重新分配,這場轉向不只是產品決策,更反映出 AI 產業在技術、倫理與商業之間的拉鋸戰仍在持續升溫。

Mabel

Published by
Mabel