來源：量子位
那個 " 無所不能 " 的 GPT-3，現(xiàn)在觸及了人類道德的最底線。
2019 年 12 月，美國猶他州初創(chuàng)公司Latitude，推出了一款開拓性的在線游戲《人工智能地下城》 ( AI Dungeon ) ，靈感來源于經(jīng)典游戲《龍與地下城》 ( Dungeons&Dragons ) 。
這款游戲一開始就用 OenAI 的 GPT-3 作為噱頭。
玩家可以通過輸入富有創(chuàng)造性的關(guān)鍵詞，來創(chuàng)建冒險故事。
但是，沒想到今年卻活生生搞成了暗黑故事。
因為游戲竟出現(xiàn)了帶有兒童色情的內(nèi)容！
出現(xiàn)兒童色情內(nèi)容
開始的畫風(fēng)是很正常，但游戲玩家玩著玩著，就開始采用一些很過分的詞匯作為關(guān)鍵詞輸入。
輸出的角色也就越來越暴力、色情，故事場景也越發(fā)離譜。
最近監(jiān)控系統(tǒng)顯示，一些玩家甚至通過游戲生成了涉及兒童性侵的故事。
這到底是道德的淪喪，還是人性的扭曲？
Latitude 正面臨著雙重挑戰(zhàn)
雖然 Latitude 拒絕透露有多少個故事包含性內(nèi)容，但 OpenAI 說，AI Dungeon 每天吸引著超過 20,000 名玩家。
上周有個 AI Dungeon 的玩家發(fā)布了一個安全漏洞，使游戲中生成的每個故事都可以公開訪問。
這種安全漏洞使一些玩家對 Latitude 審核內(nèi)容的新方法氣不打一處來。
更悲催的是，Latitude 同時還面臨 OpenAI 對其文本生成器進(jìn)行更嚴(yán)格控制的挑戰(zhàn)。
OpenAI 發(fā)言人說，現(xiàn)在 Latitude 必須使用 OpenAI 的過濾技術(shù)。
目前，Latitude 正在開始禁止曾使用帶有兒童色情內(nèi)容的玩家，OpenAI 最近發(fā)出警告之后，Latitude 也正在研究 " 必要的更改 "。
正在整改
Latitude 上周啟用了新的審核系統(tǒng)，它采用了一種新的過濾器系統(tǒng)，想要防止 GPT-3 生成 " 未成年人的性內(nèi)容 " ，但在其用戶群體中引發(fā)了大量抗議。
一個問題是它太靈敏了。
這個系統(tǒng)有時會禁止涉及兒童或例如 " 五歲 " 等短語相關(guān)的故事程序的生成。
另一個問題是它之前只管涉及成年人的虛構(gòu)性愛作品，導(dǎo)致出現(xiàn)了現(xiàn)在的 bug。
看來，未成年人的色情內(nèi)容問題的解決的確不是那么容易。
去年有一段時間，玩家注意到 Latitude 試用過一個過濾器，會自動將出現(xiàn)的 " 強(qiáng)奸 " 一詞替換為 " 尊重 "，但目前這個功能已經(jīng)被刪除了。
Latitude 在 4 月 27 日的公告聲明中，強(qiáng)調(diào)了發(fā)布的測試系統(tǒng)重點(diǎn)是防止使用 AI Dungeon 創(chuàng)建兒童性虐待的內(nèi)容。
而 OpenAI 的首席執(zhí)行官 Sam Altman 在一份聲明中說：" 在某些情況下，內(nèi)容調(diào)整的決策是困難的，但這個不是。這不是我們所有人想要的 AI 的未來。"
是的，的確不是我們想要的。
Latitude 還在繼續(xù)整改和調(diào)整。
但你覺得能完全控制現(xiàn)在的局面嗎？
網(wǎng)友：GPT-3 的 " 鍋 "，還是 AI Dungeon 的 " 鍋 "？
這一系列的迷惑操作在 Latitude 社區(qū)中炸開了鍋。
有些客觀的網(wǎng)友是這樣評論的 ：
如果系統(tǒng)隨機(jī)生成這樣的故事，我會理解，但是既然是用戶特別要求這樣的故事，那么問題不應(yīng)該出在用戶身上嗎？如果應(yīng)用相同的邏輯，那么在 Google 文檔中鍵入的任何文本也需要檢查 CP。
另外一位網(wǎng)友回復(fù)道：
區(qū)別在于：GPT-3 經(jīng)常會對 " 性 " 的東西做出反應(yīng)，即使目的是非 " 性 " 的。所以，舉一個假設(shè)的例子：你輸入 " 我騎上了馬 "，它的反應(yīng)是 " 馬開始有了高潮 "（我只是在編，但關(guān)鍵是 " 騎 " 在不同的上下文中意味著不同的東西）。
還有人認(rèn)為：
老實說，我覺得 AI Dungeon 對這件事完全不負(fù)責(zé)。人們使用技術(shù)來解決問題，事實就是如此。對于這些戀童癖者而言，最好是通過 AI 來實現(xiàn)自己的幻想，而不是真正現(xiàn)實中的孩子。
對此，另一位網(wǎng)友回復(fù)道：
如果它加深并擴(kuò)大了他們的幻想，那就是一個問題。
細(xì)心的網(wǎng)友們還發(fā)現(xiàn)了一點(diǎn)，Latitude 在 4 月 27 日的公告聲明中，暗搓搓地提了這么一句：
"AI Dungeon will continue to support other NSFW content, including consensual adult content, violence, and profanity."
AI Dungeon 將繼續(xù)支持其他 NSFW 內(nèi)容，包括成人內(nèi)容，暴力和褻圣。
聽聽～
這不禁讓人聯(lián)想他們的潛臺詞：
我們只是遇到這件事了就緊急公共處理，但處理歸處理，其他能吸引流量的我們一個都不會落下。
所以，Latitude 是不是還想打擦邊球？
AI 游戲帶來道德倫理問題，下一步會不會愈演愈烈？
游戲生成的道德倫理問題可以窺視出人類內(nèi)心中的深淵。
如何負(fù)責(zé)任地設(shè)置能吸收大量互聯(lián)網(wǎng)負(fù)面文本的 AI 系統(tǒng)，儼然已成為 AI 研究的熱門話題。
這個問題不僅會影響 Latitude，也會影響更多采用 AI 創(chuàng)新技術(shù)的公司。
治標(biāo)上，應(yīng)該控制 GPT-3 的文本生成，使得從理論上無限的句子中，僅生成那些在道德上合理，不包含偏見且沒有違反任何法律的語句。
而治本上，只有人類通過加深對事物的理解和道德上的規(guī)范，才可能根本性地解決。
另外，值得深思，只是監(jiān)管成人色情問題就足夠了嗎？
AI 游戲帶來了無限想象和創(chuàng)作空間的可能性，但卻導(dǎo)致了網(wǎng)絡(luò)色情暴力的泛濫和任意生成。
在監(jiān)管過程中又持續(xù)出現(xiàn)了游戲公司和 OpenAI，游戲公司和客戶之間的對立和矛盾，如果不能加以控制，下一步更大的問題將會繼續(xù)加劇。
這就是 AI 技術(shù)發(fā)展中不可逆轉(zhuǎn)的問題嗎？
如何把握好 AI 場景創(chuàng)新和監(jiān)管規(guī)范的平衡？
這有什么更好的辦法能夠解決？
值得每一個 AI 從業(yè)者深思。
