在因敏感言论被封后,那部AI生成动画恢复放映了

《Nothing,Forever》是一部最近在Twitch平台上引发了广泛关注的动画作品,基本由粗糙的画面、不知所云的剧情和机械的电子音构成,之所以能引起讨论,是因为它纯粹是由AI生成的,我们之前也对此有过报道。

这部形式上模仿了美国90年代的情景戏剧《宋飞传》的动画,在Twitch平台上号称“永不停播”,因为它采用了OpenAI里GPT-3语言预测模型,号称可以实时采集评论区用户的文字内容,并根据观众的反馈来调整剧情走向。

不过虽然在技术上能做到“永不停播”,但在两个星期前,这个节目还是因为其他原因被平台封禁。

2月5日,在该动画的一场深夜个人脱口秀中,虚拟人物Larry发表了一系列关于跨性别者的侮辱性言论,包括了“质疑变性人是否患有精神疾病”以及“变性人是否正在破坏社会结构”等内容。

显然,这样的言论势必会引发多数人的抵制与不满,按照规定,Twitch平台对《Nothing,Forever》采取了14天封禁的处罚,而这部动画在最近即将重新恢复播放。

虽然发表争议言论的是AI而非真人,但AI背后的研发团队无疑需要为这起事故承担相应的责任。在开发团队发布的一份声明中,他们就表示这“完全是我方错误导致的一个技术问题。”

开发团队宣称根本原因是由于OpenAI的内容审核工具对AI模型意外失效,才导致了后续的事故。为了能避免类似问题的再次出现,开发人员表示正在组建一个关于AI的“安全委员会”,以便人工智能的审核水平能够紧随技术发展,以做到实时检测可能的敏感内容。

如果AI可以与人类互动并学习相应知识,那么如何避免它被大量错误或者无意义的内容“污染”?这可能是之后人们需要探讨的问题。

为了让节目重新上线,团队还宣布会引入一个“观众互动系统”,这个系统能够让观众安全地与节目互动,并且依旧能产出有创意的新内容,但他们目前暂未透露更多的情报。

尽管AI已经显现出了自己的一部分“创造力”,但在彻底取代人类工作之前,人类还得发明出新的岗位来解决它产生的问题,这可能也算是一种另类的“塞翁失马”了。

热门相关:骑士归来   我的师父很多   醉三千,篡心皇后   巡狩万界   别那么骄傲