一开始的 "地牢主人 "算法出现了黑暗、令人不安的转变。
 
起初是一个有趣的、怪异的实验--由OpenAI使用复杂的文本写作算法，为类似《龙与地下城》的角色扮演冒险创造一个人工智能地下城主--随着玩家开始角色扮演虐待、有毒和危险的故事而发生了黑暗的转变。
 

 
游戏 "AI Dungeon "将玩家扔进了一个不可预测的，主要是即兴的文本冒险，根据玩家的选择来调整和即兴的叙事。然而，据《连线》报道，该游戏的创建者，一家名为Latitude的初创公司，上个月了解到一些玩家利用这种自由的叙事方式来进行涉及性虐待未成年人的角色扮演--这暗中表明了控制高级机器学习的应用是多么困难，而且这也是一个棘手的法律和内容监管挑战。
 
监管反击
纬度迅速宣布更新其内容审核做法，禁止人工智能算法接受或使用某些术语，并手动审查任何被标记的游戏。虽然在这种情况下，这是一个简单而明显的步骤，但一些 "人工智能地下城 "的玩家已经变得非常有发言权，抱怨他们声称纬度公司的过度行为或侵犯隐私。
 
据《连线》报道，"内容审核决定在某些情况下是困难的，但不是这个，"OpenAI首席执行官Sam Altman说。"这不是我们任何人想要的人工智能的未来。"
 
广告
极端谨慎的态度
用户抱怨自动标记系统过于严格--据《连线》报道，一位用户说他们因为提到一台 "8岁的笔记本电脑 "而被标记，而人工监督则侵犯了他们的隐私。但鉴于Latitude似乎遇到了网络社区的一个黑暗角落，额外的谨慎似乎更有道理。
 
同时，Latitude在其公告中提到，它仍将支持暴力和成人内容，只要它能证实游戏中的虚构叙事涉及成年人的同意。