中新经纬11月21日电 11月21日,小红书副总裁许磊出席2024乌镇世界互联网大会“人工智能技术创新与治理”论坛,并发表主旨演讲。许磊指出,AIGC大幅降低内容创作门槛的同时,也对平台治理带来了新挑战。小红书已初步完成AIGC治理体系建设,将持续治理工作推进,守好“真实”的平台生命线。
作为鼓励用户真诚分享的内容社区,小红书历经11年,已发展成“3亿人的生活百科全书”。基于个性化推荐算法,小红书平台将超过一半的流量曝光分配给千粉以下用户,践行流量普惠。“我们相信算法是有价值观的。”许磊表示。
随着生成式人工智能技术的兴起,算法从分发领域进入到内容生产领域,对内容平台带来了全新的机遇与挑战。AI辅助工具提升了用户创作的积极性,同时也降低了恶意仿冒的门槛,增加了虚构新闻、假冒真人引流和虚假营销的风险。
许磊表示,小红书为“真诚分享”而生,真实是小红书平台的生命线。为此,小红书在 2023 年就启动应对AIGC的治理体系建设,并在公司层面成立了专项组,加快治理工作推进。
首先,加大AI识别模型的研发投入,基于“分类器”技术的识别模型,平台对识别为疑似AI生成的内容进行显著标识,提醒用户注意甄别内容真实性。同时,平台设置了机器识别+人工识别的双重屏障,以减少AI生成低质内容的曝光,针对其中侵权、假冒、诱导等内容第一时间下架处理。
对于创作者,平台要求主动对AI生成内容进行显著标识,并持续简化打标流程,鼓励创作者利用新技术进行内容创新的同时,也积极参与到生态建设中。
“小红书将创新与治理两手抓,迎接好新一波人工智能技术浪潮带来的机遇与挑战。”许磊表示。(中新经纬APP)