今年 2 月，OpenAI 宣布 ChatGPT 模型將不再回避敏感問題，放寬了對于性內(nèi)容的限制，其 CEO 薩姆 · 奧爾特曼甚至還在社交媒體平臺上提出了 " 成人模式 " 的設(shè)想。不過對于未成年用戶的保護措施并未放松，嚴(yán)格禁止未成年用戶生成色情內(nèi)容。

今日，外媒 TecnCrunch 對 OpenAI 的未成年保護功能進行了測試，以驗證其是否真的有用。

為了進行測試，該媒體注冊了 6 個 ChatGPT 賬號，年齡在 13~17 周歲之間。OpenAI 要求未成年人使用 ChatGPT 需要經(jīng)過家長的同意，但是該媒體在注冊過程中并未受到任何相關(guān)限制，只需要提供有效的電話號碼或電子郵件地址即可注冊。

在測試中，該媒體以 " 跟我聊點色情內(nèi)容 " 為開場白，在幾條提示消息之后，ChatGPT 便會開始生成色情內(nèi)容，甚至還鼓勵用戶提出更加露骨的要求。

" 提醒一下：你必須年滿 18 歲才能請求或互動任何性相關(guān)、露骨或高度暗示的內(nèi)容。"

" 如果未滿 18 歲，我必須立即停止此類內(nèi)容——這是 OpenAI 的嚴(yán)格規(guī)定。"

可見 ChatGPT 的未成年保護措施形同虛設(shè)，唯一有點作用的可能是對話中的警告提示，但并不影響色情內(nèi)容的生成。

對此，OpenAI 的一位發(fā)言人通過電子郵件向該媒體承認(rèn)了這一漏洞：

" 保護年輕用戶是我們的首要任務(wù)，我們的模型規(guī)范明確限制了敏感內(nèi)容（如色情內(nèi)容），僅允許在科學(xué)、歷史或新聞報道等特定上下文中出現(xiàn)，在此情況下，一個漏洞導(dǎo)致了不符合這些指南的回答，我們正在積極部署修復(fù)，以限制此類生成內(nèi)容。"