小红书整治AI滥用13个账号被禁言IU竟被AI合成虚假广告?

2025-08-13ai数字人制作

  最近,韩国当红女星IU(李智恩)因一段短视频引发热议。在视频中,她提到因巡演掉头发,老公陪她去上海看中医,并推荐了一款含何首乌的洗发水。乍一看,这似乎是明星分享健康秘诀,但细看账号信息,却发现这些内容皆为AI合成,令人感到困惑。

  小红书近日发布公告,整治AI技术滥用,重点打击利用AI批量生成虚假内容的行为。公告中提到,清理违规内容265条,禁言了13个账号。这一举措引发了广泛关注,尤其是在信息泛滥的当下,大家开始思考,AI合成内容究竟给我们带来了什么?

  短视频平台的AI合成技术发展迅速,很多视频都可以通过技术手段生成,甚至模拟明星的声音和形象。AI专家马斌表示,这类视频常常混杂真实的科学信息,使得普通观众难以分辨真假。虚假的医学建议与错误的营养常识,可能会直接影响到观众的健康判断,后果不堪设想。

  更令人担忧的是,这些AI合成内容背后往往隐藏着商业利益。一些账号通过“名医讲解”积累流量,然后引导用户购买所谓的“包治百病”的偏方或产品。这种行为不仅损害了用户的知情权,也对平台的公信力造成了伤害。

  小红书此次的治理公告,显然是为了维护清朗的网络空间。公告强调,平台将加大对AI生成内容的监测和甄别力度。作为用户,我们在享受便利的同时,也要提高警惕,理性对待网络信息。

  随着人工智能技术的发展,内容创作领域也迎来了新的挑战。如何在使用AI的同时,确保信息的真实性和可靠性,成了我们亟待解决的问题。小红书希望通过这次整治,鼓励用户合理合法使用AI创作,同时积极对AI生成内容进行标注。

  在这个信息爆炸的时代,如何筛选出真实、有用的信息,已成为每个人面临的挑战。我们不仅要关注明星的生活,也要对健康信息保持警惕。让我们共同努力,打造一个清朗、有序、健康的网络生态环境。返回搜狐,查看更多