随着人工智能技术的蓬勃发展，数字人直播带货成为了新兴的商业风口。

据业内人士观察，尽管数字人技术与应用之间存在差距，使得普通商家难以直接受益，但数字人市场在过去几年里已迅速崛起。艾媒咨询的数据显示，2022年该行业的市场规模达到了120.8亿元，并预测到2025年，虚拟数字人的核心市场规模将激增至480.6亿元。

在当前的数字人产业链中，中小商家往往处于较为弱势的地位，容易成为被“收割”的对象，而销售相关软件的公司则从中获得了可观的利润。此外，市场上还存在一些不法分子，利用“数字人”的概念进行欺诈活动。

从裁判文书网的检索结果来看，2024年涉及数字人直播技术的法律纠纷显著增加，多起因技术应用问题导致合同无法履行，商家要求解除合同并退款。在这些案例中，有的法院支持解除合同并判决部分退款，认为外部因素如平台禁播导致合同目的无法实现；而有的法院则因合同约定的是技术系统而非直播产品，判定软件销售公司对直播过程中的封号和违规情况不负责任，从而驳回原告的诉讼请求。

为了应对深度伪造技术和数字人技术的无序应用问题，相关政策正在不断完善。9月24日，浙江省市场监管局发布了《浙江省网络直播营销行为规范指引》，首次对AI数字人直播进行了规范。该《指引》提出了30条合规要求，包括禁止通过虚假内容诱导消费者、未经授权不得使用或伪造他人声音和肖像制作广告，并要求在使用可能导致公众混淆的AI数字人时，必须进行显著标识，以维护直播营销秩序和保护消费者权益。