□杨玉龙
“6·18”某某网络购物节即将开启。今年的“6·18”“画风”显然与以往不同。在AIGC(生成式人工智能)技术的推动下,不需要真人主播、不需要直播场地、不需要搭建直播间,只要输入直播语音便可生成直播内容,甚至可以像真人主播一样进行实时弹幕互动成为可能。记者调查发现,在直播带货行业,“数字人”主播的应用越来越多。(5月26日《法治日报》)
借助技术的力量,实现数字人直播带货已成为可能,甚至数字人主播的应用越来越多。但与之相伴的问题,同样不容小觑。例如,消费者对这些AI数字人带货产品质量的担心;还如,用户与看似真实的数字人互动时,可能会无意中泄露个人信息。同时,由于技术缺陷等原因,目前AIGC生成内容时还存在语言混乱、文不对题等瑕疵或缺陷等。
此前更有媒体报道,部分低成本的数字人进入市场,除了效果太假、用户体验不佳等,还引发了“数字人源头厂商”和“数字人代理”的骗局,不少人被一些不良的数字人代理厂商割了韭菜。尽管在业内人士看来,数字人直播确实是“省时省力的好生意”,但对于AI、数字人等新兴技术引发的行业割韭菜乱象,也是需要引起重视的。
数字人直播带货是时代和技术发展使然,如何确保其能更好地服务市场和消费者,完善的规则不容缺失。值得注意的是,针对数字人主播技术应用产生的各类法律问题,目前的立法只能提供框架式的解决方案,缺少具体的、针对性强的治理规则。弥补这些短板,亟待从法律层面进行完善,通过立规矩确保数字人直播带货在法治轨道上进行。
一些地方已经开始有动作。例如,2023年11月,杭州市司法局、杭州市上城区司法局和杭州市钱塘区司法局发布关于公开征集《直播电商产业合规指引》,其中就提出,使用数字人主播应确保获得相关授权,应按照有关规定开展安全评估,并依法履行算法备案和变更、注销备案手续等。《指引》虽没有直接法律效力,但其具有一定的宣传和教育意义,同样具有借鉴价值。
电商平台应该在法律框架内完善规则,推动数字人直播带货的规范化发展。在2022年时,淘宝、抖音等平台已经将AI智能直播作为营销的工具进行利用,甚至单独为AI智能直播设置端口。而平台有责任进一步完善规则。如,去年抖音发布了《抖音关于人工智能生成内容的平台规范暨行业倡议》,但如何确保这些倡议能够真正落地,才是更须引起重视的,尤其对违规行为的惩治性措施应跟进。
此外,避免技术滥用也不能忽视。诚如有受访专家表示,随着AI数字人主播应用广度与深度的不断扩大,必须高度重视媒介伦理,坚持人在媒介技术当中的主体性地位,保障人对技术的控制权。事实上,确有必要。终归而言,数字人是时代科技的产物,人不能被其绑架。于此,加强对科技企业、应用场景、使用者的监管,也亟待引起重视。