在TikTok因平台安全问题被拖入有史以来第一次美大型国会听证会数月之后,该公司今天宣布了一系列政策更新和新功能及技术计划,从而使这个基于视频的社交网络成为更安全、更有保障的环境--尤其是对年轻用户而言。
这些变化正在试图解决美国参议员在调查TikTok商业行为时提出的一些问题,包括该应用上普遍存在的饮食失调内容和危险的骗局,这些内容对青少年和年轻成年人尤其有害。此外,TikTok正在制定一个路线图以解决有关LGBTQ和未成年人安全的仇恨意识形态方面的其他严重问题--后者将涉及让创作者指定其内容的年龄适宜性。
TikTok还表示,它正在扩大其政策以保护其平台的安全性、完整性、可用性和可靠性。该公司表示,它将于今年在华盛顿特区、都柏林和新加坡开设网络事件监测和调查响应中心作为这一扩大努力的一部分,从而能更好地禁止对TikTok内容、账号、系统和数据的未授权访问。
TikTok未来的另一个重大变化是采用新的适龄设计方法--这已经是监管机构关注的一个话题。
在英国,针对儿童的数字服务现在必须遵守立法标准,从而可以解决儿童隐私、跟踪、家长控制、使用操纵性“黑暗模式”等问题。与此同时,在美国,立法者正在努力更新现有的《儿童隐私法(COPPA)》以增加对青少年的保护。TikTok已经为不同年龄段的用户提供了不同的产品体验,但它现在还想确定哪些内容适合于年轻和年长的青少年与成年人。
TikTok表示,它正在开发一个系统以识别和限制某些类型的内容被青少年访问。尽管该公司还没有分享关于新系统的具体细节,但它将涉及三个部分。首先,社区成员将能选择他们想在应用中看到的“舒适区”--或内容的成熟度水平。父母和监护人也将能使用TikTok现有的家庭配对家长控制功能,代表他们的未成年子女做出这方面的决定。最后,TikTok将要求创作者说明他们的内容何时更适合于成人观众。
TikTok的美国问题政策负责人Tracy Elizabeth在跟记者的一次简报中表示:“我们直接从我们的创作者那里听到,他们有时希望只接触特定的成年观众。因此,举个例子,也许他们正在创作一部具有成人幽默感的喜剧或提供那种只与成人有关的无聊的工作场所提示,或者他们正在谈论非常困难的生活经历。因此,考虑到这些不同的主题,我们正在测试各种方法以帮助创作者更好地接触其特定内容的目标受众。”
Elizabeth于2020年初加入TikTok,专注于未成年人安全问题,2021年11月,她晋升为新职位,现在她负责监督信任与安全问题政策团队--包括未成年人安全、诚信与真实性、骚扰与欺凌、内容分类和应用研究团队。在TikTok之前,她在Netflix工作了三年半,其帮助该公司建立了全球成熟度评级部门。这项工作将为她在TikTok的工作提供参考。
但Elizabeth指出,TikTok不会走到在TikTok视频上设置“可显示”评级或标签的地步,这将使人们能够一目了然地看到特定内容的适龄性。相反,TikTok将依靠后端的分类,这将依赖于创作者以某种方式标记他们自己的内容。
TikTok表示它现在正在这个领域进行小规模的测试,但还没有任何东西可以公开分享。
除了内容成熟度系统的计划外,TikTok今天还宣布修改三个关键领域的内容政策:仇恨意识形态、危险行为和挑战以及饮食失调内容。
虽然这三项政策更新在纸面上听起来很好,但执行起来却很关键--且很难。TikTok有针对这些内容的指导方针,但暴食症和厌食症的内容却屡屡从缝隙中溜走。根据一些测试,有时违规的内容甚至被TikTok的算法所推广。TikTok表示,这种审核失败是它要不断学习和改进的一个领域。
目前,内容要通过经过培训的技术来识别潜在的政策违规行为,如果技术确信内容是违规的就会立即删除,否则它就会被保留下来,由人类进行修改。但这一滞后时间影响了创作者,他们不明白为什么他们的内容在做出决定时被扣留数小时或数天,或不明白为什么非违规内容被删除从而迫使他们提交上诉。这些错误--通常归因于算法或人为错误--会让创作者感觉自己被TikTok盯上。
为了解决审核问题,TikTok称它已经投资了专门的审核员培训,如身体积极性、包容性、公民权利、反面言论等。该公司表示,去年第三季度上传的所有视频中,约有1%--即9100万个视频--通过审核政策被删除,其中许多是在获得浏览量之前。该公司现在还雇用了“数千名”版主--既有全职的美国员工也有东南亚的合同工--以提供全天候的服务。Tiktok称,发生错误时,他们会在内部进行事后分析。
然而随着规模的扩大,审核和政策执行的问题变得更加困难,因为有更多的内容需要管理。而TikTok现在已经发展得足够大,足以削减Facebook作为世界上最大应用之一的增长。事实上,Meta刚刚报告说,Facebook第四季度的用户数首次出现下降,它将此部分归咎于TikTok。随着越来越多的年轻人将TikTok作为他们的首选社交网络,它将面临压力,不仅要说正确的话还要真正把这些事情做对。