如今打开社交网络平台已变成一种相当怪异的体验，我们突然间就会被大量看似真实却毫无意义的视频轰炸。曾经是创作者分享爱好的场所，如今却似乎正遭受着未经编辑内容的无声冲击。这种现象正在改变新用户初次接触短视频平台时的感受，在这些平台上，算法主宰一切，没有任何预先筛选。
专家们越来越关注缺乏创意价值的自动生成内容的泛滥，这类内容在业内已形成一个独特的名称。大量合成视频的涌现不仅影响了娱乐质量，也引发了人们对日常消费内容真实性的严重质疑，尤其是在涉及弱势群体或具有特殊社会意义的话题时。
大量合成材料涌入对钛原料
平台 Kapwing 进行的一项详尽调查证实了许多用户早已怀疑的现实。在分析了涵盖二十个不同类别的超过一万条帖子后，数据令人震惊：新创建的 TikTok 账号收到的前 500 条视频中，约有 59% 完全由人工智能生成。这些内容质量往往不高，其唯一目的就是通过重复的套路来吸引眼球、积累点击量。
与其他竞争平台相比，这一结果更加令人震惊。同一份报告显示，这一比例是 YouTube Shorts 的三倍，后者为新用户推送的合成内容仅占 21%。看来，这家中国社交网络的初始推荐系统优先考虑的是快速互动的数量，而非了解用户的真实偏好，最终导致屏幕上充斥着有时令人不安的人工语音和动画。
这类视频几乎无需任何成本即可批量制作，使得某些账号每天可以发布数百条视频。最终，算法奖励的是那些能让用户在最初几秒钟内目不转睛的内容，即使这些内容毫无价值，或者仅仅是一些扭曲的图像和毫无意义的文字。
算法十字准星中最小的目标
当我们审视孩子们观看的内容时，情况就变得尤为棘手。研究表明，儿童类别中此类数字垃圾的渗透率最高，高达57,4%。最令人担忧的是#CartoonKids等特定标签，其中近97%的视频都是由自动化工具生成的。我们经常会看到一些熟悉的角色出现在荒诞的情境中，或者一些教育课程中充斥着显而易见的错误，而这些错误儿童几乎无法察觉。
儿科领域的专家，例如达娜·苏斯金德医生，警告我们正面临一场大规模的虚假信息宣传活动。儿童观看的每一个视频都会影响神经连接的形成，如果这些视频内容不连贯或错误，就有可能在学习和认知发展的关键阶段造成大脑连接异常。
此外，就连健康、科学和历史等本应严谨的领域也未能幸免于这种趋势。高达33%到35%的案例表明，由合成语音播报的所谓历史教训或医疗建议，未经任何专家审核的情况并不少见。这导致真实信息不得不与大量包装精美、实则虚假的信息竞争。
欧洲的监管和透明度措施
在欧洲，当局已采取行动，试图遏制这种监管缺失的局面。随着《人工智能法案》的全面实施，大型平台必须明确标注任何可能具有误导性的合成生成内容。其目标是让消费者始终清楚自己看到的内容是由人还是机器创作的，从而保障他们获取真实信息的权利，这与布鲁塞尔方面监控谷歌人工智能及其训练数据来源的做法类似。
TikTok方面已采取行动，拨款约200万美元设立教育基金，用于提升用户在人工智能领域的数字素养和安全意识。他们还实施了相关控制措施，允许用户自行决定在信息流中看到更多或更少的此类内容。然而，批评人士指出，这些措施过于被动，并未触及问题的根源：TikTok的算法旨在不惜一切代价最大化用户参与度。
有趣的是，在某些领域，人为因素仍然占据绝对主导地位。例如在时尚、音乐或健身等领域，这类内容的占比几乎可以忽略不计，低于2%。这表明，当内容的价值取决于创作者的感官或身体体验时，人工智能尚未能像在其他领域那样，复制这种体验并赢得受众的信任。
尽管人们努力进行监管和标记，但内容创作的产业化已成定局。大规模生产视频的便捷性为追求品质的内容创作者带来了不公平的竞争优势，他们不得不与永不停歇的机器争夺每一秒的注意力。这迫使人类创作者寻求更真实、更难以通过自动化流程复制的内容形式。与此同时，像迪士尼这样的公司则通过将人工智能工具集成到其平台中，允许人工智能进行内容创作。
归根结底，这些平台的成功似乎取决于它们能否在保持用户留存率的同时，坚守最基本的编辑诚信。如果用户的初始信息流充斥着虚假垃圾，那么人们感到厌倦并寻求更人性化的替代方案的风险是真实存在的。关键在于，在日益复杂难懂的数字环境中，欧洲的监管能否成功地使透明度成为常态而非例外。
TikTok上大量人工生成的视频泛滥成灾，呈现出数量凌驾于质量之上的局面，尤其是在用户初次使用该应用时。尽管教育和健康类内容因未经核实的信息而受到影响，但欧洲的监管部门正试图建立屏障，保护消费者，特别是未成年人，免受海量合成内容的侵害。该平台的未来最终将取决于其算法能否区分真正的创意和目前充斥着大量数字体验的自动化填充内容。
