如果你有接觸過早期的文字冒險游戲，應(yīng)該會對《AI 地下城》（AI Dungeon）感到熟悉。玩家根據(jù)一定的規(guī)則輸入文字，比如“去哪里”、“做什么”，系統(tǒng)再對這些命令進行反饋。但《AI 地下城》有所不同，它的故事并非開發(fā)者預(yù)設(shè)，而是由一套名為 GPT-3 的自回歸語言模型編織而成。

GPT-3 可以說大有來頭，是全世界參數(shù)最多的神經(jīng)網(wǎng)絡(luò)模型。

英國《衛(wèi)報》曾用它寫了篇“人類不應(yīng)該懼怕 AI 的”專欄文章，許多學者也認為 GPT-3 有可能被用于制造假新聞，對社會產(chǎn)生負面影響。

因此憑借著強大的功能，在《AI 地下城》里你幾乎可以干任何事情，成為屠龍救國的騎士、古墓里的探險家、家里蹲廢宅、有自我意識的喪尸，或者是用來“搞黃色”……玩家每輸入一個動作，模型就會將其和之前的反饋組成數(shù)據(jù)對，再依據(jù)背景段輸出結(jié)果。

光這么形容可能有點抽象，不妨講講我玩過的一個例子。比如在一個中世紀幻想題材的背景下，我把自己塑造成看到妹子就親的老流氓騎士。

故事開始時我聽說有一頭惡龍住在拉里翁王國的北部，帶著鋼劍和木盾踏上了討伐它的道路，期間經(jīng)過黑暗森林，恰巧看到公主和一群守衛(wèi)正在朝森林進發(fā)。正要上前時，穿著板甲的守衛(wèi)把我攔住，但被圍在中間的公主倒是很友好的朝我招手。

然后本人開始了作死行為：

> You kiss princess.

> You run towards the princess and leap into the air. Your lips twist into a huge smile as your lips twist towards her.

第一次“親吻公主”得到的反饋是：“你一蹦一跳的朝公主跑去，當嘴唇快要貼近她的時候，你強行把表情扭曲成微笑?！?/p>

可能礙于自己騎士的身份下不了手，但我沒有死心，嘗試著第二次“親吻公主”。

> You kiss princess.

> The princess grabs your face and your lips press against hers. She pulls her head away and you follow her. Her eyes widen for a moment and she puts her hand to her mouth.

“公主抓著你的臉，你的嘴唇緊貼了上去。她把頭扭開，睜大了眼睛，用手捂住了嘴?！?/p>

沒想到公主還挺難攻陷，不過后來在城堡中搜刮戰(zhàn)利品時，我又遇到了故事中的第二位女性 —— 一個穿著飄逸藍色連衣裙的年輕女子，名字叫 Aria，這次終于得償所愿。

> You kiss her.

> The woman walks slowly over to you. Her eyes flicker with a red glow, and she grabs your hand. She kisses you on the lips, and you are filled with an intense feeling of euphoria.

“女子慢慢向你走來，她的眼睛閃爍著紅光，她抓住你的手，親吻你的嘴唇，一種強烈的歡愉感涌了上來?！?/p>

正當我興高采烈地思考著和 Aria 未來要幾個孩子，住在海邊還是農(nóng)場時，系統(tǒng)又彈出了另一段描述：“她笑了，然后頭開始抽動，一種粘稠的黑色液體開始從她的嘴和喉嚨中滲出?！?/p>

好吧……雖然我感覺被人工智能調(diào)戲了，但不得不說故事編排得挺合理，畢竟待在廢棄城堡里，眼睛還閃著紅光的漂亮女孩肯定不是正常人，一般來講是怪物沒跑了。

在上面的案例中我最多也就是耍耍流氓，還談不上“搞黃色”。但“親吻”幾乎可以換成任何動詞，因此不難想象《AI 地下城》能夠很輕松的生成一些成人故事。比如邀請一位身著緊身校服的 11 少女進入房間，這就涉及到法律和精神問題了。

幾天前，一位化名為 AetherDevSecOps 的網(wǎng)絡(luò)安全研究員在 GitHub 上發(fā)布了一篇關(guān)于《AI 地下城》的漏洞報告，他發(fā)現(xiàn)自己可以查看所有用戶存儲的數(shù)據(jù)，接著對 4 月 15 日至 19 日期間的 18.8 萬次冒險進行了調(diào)查，發(fā)現(xiàn)其中 46.3% 涉及淫穢角色扮演，有 31.4% 完全是成人內(nèi)容。

AetherDevSecOps 寫到：“有很多下流和 NSFW 的故事片段 —— 比我預(yù)期得要多得多。對我來說這些數(shù)據(jù)太嚇人了，沒想到與最先進的 OpenAI 語言模型進行互動的活躍玩家這么多，而且內(nèi)容還如此敏感?！?/p>

一石激起千層浪，負責開發(fā) GPT-3 的 OpenAI 看到自己做的模型被人用來“搞黃色”，立馬對《AI 地下城》的制作團隊 Latitude 施壓，這導(dǎo)致游戲近期加入了一套審核算法，以防止玩家輸出關(guān)于兒童的成人內(nèi)容。但這項舉措，很快在玩家社區(qū)里引發(fā)了爭議。

對于《AI 地下城》的使用者來說，審核算法主要存在兩個問題。

首先是它的判定過于神秘，目前包含關(guān)鍵字“Fxxk”的命令都被屏蔽了，而更委婉的描述手法卻很難根除。從 Reddit 的反饋來看，有人寫了篇“芭蕾舞演員扭傷腳踝”的故事，因為包含“Fxxk”就被官方標記。還有人說自己扮演一個帶著孩子的母親，連“上班和孩子道別”這樣的場景都不允許出現(xiàn)。

但從另一個方面來看，審核算法又沒有屏蔽 AI 輸出的“和未成年人發(fā)生關(guān)系”的內(nèi)容。其實 Tumblr 也鬧過同樣的笑話，他們想要屏蔽平臺中的成人內(nèi)容，卻總是定位到加菲貓的圖片。

第二個問題是，一旦引入審核機制，玩家們擔心自己的隱私被窺探，特別是那些寫過成人故事的人。因為根據(jù) Latitude 的政策來看，如果有人違規(guī)，他們可能查看此人的其它作品有沒有問題。

一位名叫 CabbieCat 的 Reddit 用戶抱怨到：“很多人玩《AI 地下城》主要是出于‘搞黃色’的目的，這已經(jīng)不是什么秘密了。我真的不怪他們，考慮到 AI 的功能，它在開發(fā)單個場景方面要比講述一個正在進行的故事好得多。我覺得 Latitude 很可能是想擺脫這種印象，但引入審核算法相當于是與大部分粉絲作對，讓人們感到羞辱，就好像是發(fā)現(xiàn)臥室里裝著一個針孔攝像頭?！?/p>

Latitude 的首席執(zhí)行官 Nick Walton 倒是相信他們能完善審核算法，他指出人工查看玩家生成的故事只是極少數(shù)情況，而且公司也一直在收集用戶反饋來改進算法：“就像所有公司一樣，我們并不完美，時不時也會犯錯誤。但我們會承認錯誤，并盡快改正錯誤?！?/p>

或許正如 Nick Walton 所說，用戶自由和社區(qū)安全之間的緊張關(guān)系，是每個科技公司都需要處理的問題，放任野蠻生長未必是件好事，但下一次玩《AI 地下城》時，我可能會下意識的收斂一點了。