近日,澳门城市大学创新设计学院助理教授高永杰、澳门科技大学人文艺术学院硕士研究生马静在《传媒》2026年第4期刊发文章《
文章从平台机制出发解析社交媒体深度伪造的这一断裂如何生成,并揭示其认知误导、权利侵害与追责失灵的异化风险。
在社交媒体环境中,深度伪造的社会影响并非由单一内容属性决定,而是在参与度导向的推荐分发与参与式再创作的交互作用下被持续放大:一方面,视听拟真性更易转化为点击、停留与转发等可计算的互动信号,推动内容获得更高可见性并进入持续推送回路;另一方面,跨平台搬运与二次剪辑使内容以去语境化片段形态扩散,削弱语境提示与来源线索,从而抬升核验与归责成本,延长纠错时滞。
1.算法推荐与情绪化扩散。在社交平台中,内容能否获得可观的曝光度与传播量,在很大程度上取决于其能否触发以参与度为导向的推荐与流量分配机制。深度伪造的传播优势首先来自其视听拟真性,其高度逼真的面孔、声音与情境呈现制造在场感与真实性,使受众在信息过载与碎片化浏览中更容易依赖感官线索完成快速判断。相较于纯文本信息,影像常被赋予更高的信息权威性与纪实性,因而深度伪造更容易被误判为真实,并触发观看与转发的冲动。随着生成算法迭代,深度伪造在部分场景中逐步消弭人眼可辨的瑕疵,将逼真度转化为一种可被计算的真实感,从而在争夺用户有限注意力时往往显著优于传统文字。
平台侧的产品与分发设计会把这种“初始吸引力”进一步放大。自动播放、短视频信息流、热度榜单等机制更偏好视觉冲击强、停留时间长、评论争辩多的内容,使深度伪造更容易在短时间内进入高曝光通道。封面缩略图、醒目标题、弹幕氛围与一键分享按钮进一步降低了扩散门槛,用户在未核验前即可完成转发,从而使深度伪造更易优先获得核查介入之前的曝光窗口,并借助平台分发机制将视听拟真性即时转化为流量引力与社会影响力。
在获得初始曝光之后,深度伪造能否继续扩散,关键在于推荐系统如何依据参与度信号动态调整后续触达范围。算法并非偏向虚假内容,但在互动与再推荐的评价体系下,更具新奇性、更能激发震惊和愤怒等高唤起情绪的内容,往往更容易获得持续扩散的条件。索鲁什·沃苏吉(Soroush Vosoughi)等人对数百万条推特的分析显示,虚假信息在社交网络上的传播通常更快、更深、更广,其扩散优势往往源于其新奇性以及更易激发情绪唤起,从而更容易带动互动与转发。对深度伪造而言,即便部分受众未完全相信,围观、争辩与情绪表达仍会带来可被算法捕捉的参与度指标,从而推动其持续分发。
此外,深度伪造还可能与定向传播结合,进一步增强传播效果。传播者可依据用户画像,将特定深度伪造内容投放给更易受影响或更可能产生强反应的群体。国外有研究发现,观看政治深度伪造视频会降低受众对相关政治人物的好感,而对特定群体实施定向投放时,这种负面影响更明显。这意味着算法不仅在宏观层面推动深度伪造内容情绪化扩散,在微观层面也可能通过定向推荐加剧某些群体的认知偏差。
因此,算法推荐与深度伪造结合的风险,不仅在于算法主动制造谣言,还在于以参与度为导向的分发规则,使高唤起、强争议的合成内容更容易获得持续曝光。平台可由此获得更高的互动与商业回报,但代价是公共信息环境更容易被情绪化内容占据,理性内容与权威澄清信息更难获得同等曝光度,公众判断也更容易脱离证据核验,转向立场与情绪线.参与式再创作与模因化传播。
在社交媒体的参与式传播机制中,用户不再只是信息的接收者,而是通过剪辑、配音、混剪等操作持续介入内容加工,使深度伪造在传播过程中被不断改写。社交媒体平台提供的模板化工具与可视化操作界面把较高的制作门槛拆解为可重复的操作步骤,使深度伪造更容易被再编辑与发布。由此,同一类深度伪造内容往往以多版本、多账号形态反复出现,并被切割为更短片段嵌入信息流,以适配碎片化观看节奏与话题式传播方式。而且,二次剪辑、再上传与跨平台搬运常伴随语境提示与来源标注的弱化。原始发布者的说明、合成披露、标题框架与评论语境容易在转码、裁切与再发布中被剥离,使内容以去语境化片段的形态进入新信息场景。在拟真外观仍然成立的前提下,线索弱化会抬升即时核验与后续归责的难度,这会造成责任可追溯性受损或归责链条断裂:当来源与制作线索难以调取、难以保留、难以跨平台对接时,核验成本上升、纠错滞后,责任归属也更容易悬置。
同时,参与式再创作还会改变深度伪造的社会意义,使其从具有事实记录外观的影像形态转为可消费的梗素材。用户在转发中叠加框架化的再表达手段,将原片的指涉关系与叙事重心持续置换,促使内容在模板与变体的循环中实现复制扩展。随着模因化扩散,作品更像一种可套用的表达框架,而不再依赖原始语境才能被理解。
此外,模因化扩散也常伴随语义漂移与解读分化。标题、字幕与配乐的频繁替换,会把同一影像嵌入不同议题与立场叙事之中,使虚假内容改编被误读为事实证据,澄清材料也可能在再剪辑中被断章取义。在高度立场化议题中,片段化传播更易触发“有图有真相”的经验式判断,受众对真伪的判断更依赖直觉与情绪线索,而非核验过程。与此同时,围绕内容展开的分享、质疑与辟谣往往形成“澄清式再传播”,它一方面扩大话题覆盖范围,另一方面分散受众注意力并改变触达路径,使澄清更难精准抵达最初被误导的受众。由此,内容在不断变体与跨平台迁移中不仅更难被及时核验,也更难被稳定归责。即便出现澄清,也往往难以形成可对齐、可追溯的纠错闭环。
深度伪造进入社交媒体后,其风险不再仅是真假之争,而是沿传播链条在认知、个人权利与责任三个维度相互叠加:受众层面滋生普遍的不确定与怀疑;行为者层面获得以“无法核验”为由的否认空间;个人层面则承受肖像与声音被非自愿合成后的持续侵害。与此同时,匿名生产、跨平台搬运与算法放大,使责任主体更难锁定,责任链条也更易断裂。
深度伪造对事实判定条件的冲击,首先体现为深度伪造怀疑效应。当公众意识到高拟真音视频可以被低门槛合成并快速扩散时,数字影像便不再天然被视为可靠依据,而更常在“可能伪造”的预设下先被审视并要求核验。深度伪造虽未必让多数人彻底受骗,却更常带来不确定与犹疑,从而削弱受众对公共信息的信任。因此,公众仅凭经验和直觉往往较难区分真实记录与伪造影像,可信来源也可能被连带质疑,谣言与阴谋论因核验成本上升而更易扩散。基于此,说谎者红利(Liar’s Dividend)构成更具策略性的认知风险。罗伯特·切斯尼(Robert Chesney)曾指出,不诚实行为者可以借公众对深度伪造的警惕,反向否认真实证据以逃避责任。在政治丑闻或负面报道出现时,涉事者将相关音视频指认为深度伪造或假新闻,即可制造争议、拖延核查并弱化问责。当受众原本就对媒体证据心存疑虑时,此类反指控更容易奏效。
此外,两种机制相互叠加更易形成负向循环:普遍性怀疑为否认策略提供话语空间,而否认在部分情境中的奏效又反过来强化对证据的怀疑,进而推动一切证据皆可被质疑的怀疑框架在公共讨论中扩散。受众更可能以立场与情绪线索替代事实核验,公共讨论因而更易将分歧固化为对立立场。从更深层次看,深度伪造削弱了视听材料作为事实认定依据的可信赖性,使可共享的事实基础更难建立。因此,深度伪造在高度立场化议题下,可能使共识的形成与维持更为困难,并给公共讨论的证据基础带来压力,同时提高核验、处置与问责的制度性负担。
深度伪造在个人权利层面的风险,主要在于未经当事人同意对其肖像、声音等人格要素进行合成与挪用,从而削弱个体对自身人格表征的决定权。生成式算法可将面孔、语音、表情等拆解为可编辑片段并嵌入特定情境,进而触发肖像权、名誉权与隐私权等多重侵害。相较于传统伪造,深度伪造以更高的视听拟真度更易形成可信外观,侵权内容更易以假乱真并被多次转发,进而引发标签化、污名化与跨平台扩散,带来人格权侵害等后果,且常难以逆转。其中,非自愿色情深度伪造尤为突出。受害者长期与虚假场景绑定,形成持续性伤害。同时,匿名制作与跨域传播抬高取证门槛,法律救济往往需要锁定行为人、传播链条与损害后果,导致周期长、成本高。除色之外,深度伪造亦可被用于诽谤与中伤,通过深度伪造公众人物不当言论或制造伪自白式音视频来破坏其社会评价与职业声誉。此类信息短时扩散即可造成实质损害并抬高澄清与追责成本。而且,更深层的异化在于,技术把人格权所依托的肖像、声音与言语剥离为可操控对象,使个体从权利主体滑向他人叙事与流量运作的素材,持续侵蚀数字环境中的安全感与信任基础。
对于受害者而言,深度伪造带来的维权困境具体表现为举证难、溯源难、定责难,这直接阻断了完整的追责链条。诽谤与隐私侵权的认定通常需要确定责任主体,并说明损害后果,但深度伪造传播路径碎片化,证据易被转码篡改,举证进度难以追上扩散速度,而且跨平台搬运与分段传播又会稀释原始出处、标注与水印,使责任归属更难界定。结果是传播链条各节点更容易在不确定性中相互推卸,责任归属被悬置于传播链条之外。
深度伪造使治理重点不再只是鉴别真伪与下架删帖,而转向对其来源、扩散与责任机制的全流程整治。由于鉴伪技术难以长期稳定,平台处置又常滞后且易误删漏删,因此,治理重心应围绕可核验、可归责与程序正当性,在上传与分发端嵌入来源标识、过程留痕、证据可调取、快速复核与申诉救济,并建立跨平台的信息共享与联合处置机制,形成可持续并可落地的权责保障框架。
尽管鉴伪与删帖仍是必要的事后止损工具,但是却只能处理单条内容,难以同时解决来源不明、传播链断裂与责任归属不清等结构性问题。因此治理更需要在扩散前提供可核验凭据与可调取记录:以来源标识与合成标注、关键元数据留存并抑制无标注扩散,以快速复核与纠错通道提升澄清效率,并以分级处置、透明报告与跨平台协同处置,保留可追溯的证据链条。
深度伪造治理的可行路径,在于将来源、生成过程与分发处置等关键信息制度化为可记录、可调取与可复核的证据链与程序。第一项原则是可核验性,即为数字内容提供可验证的来源与完整性线索,在采集端嵌入数字签名与时间戳,在编辑与转载环节保留关键操作记录,在发布端关联元数据、水印或证明文件并提供便捷核验入口,使生成时间、处理过程与篡改情况可查可比。第二项原则是可归责性,旨在使责任能够沿生成、发布与分发链条被定位并得到追究,在法律层面明确恶意生成与传播的违法边界及责任形态,在平台层面建立快速处置、证据留存与协查配合机制,并对高风险深度伪造采取降低推荐强度、限流与拦截重复上传等措施,避免算法放大中出现责任落空。第三项原则是程序正当性,要求规则与处置过程可理解、可监督,应公开规则、判定依据与处置流程,设置申诉渠道并引入相对独立的复核机制,定期披露治理透明度报告,使处置更可解释、可申诉、可纠错并可被问责。三项原则相互支撑,有望形成可核验、可追责与可复核的治理闭环。落实上宜分阶段推进,优先覆盖新闻机构、政务账号与高影响力内容,强制来源标识与关键过程记录,再扩展至跨平台搬运与再分发场景,持续夯实可核验的可信基础。
深度伪造治理可通过把责任重新嵌入生成、发布与分发的各个环节,并通过分层分工、明确各方义务边界与衔接责任,从而减少责任落空的空间。制度层、标准层、平台层与公众层分别承担不同职能,其目的不是分散责任,而是为每一环节配置明确义务、可核查要求与可追溯记录,推动治理从个案式处置转向更制度化、可持续的运行方式。制度层应提供法律边界与权利救济框架,区分不同场景的风险等级与违法类型,明确刑事、行政与民事责任的适用条件,并规定证据留存、处置时限与跨境协作规则,同时以必要性与适度性约束处置权力,确保依据可说明、路径可申诉、决定可复核并接受监督。标准层负责把可核验性转化为可落地的通用规范,由行业联盟、媒体机构与技术社区共同制定来源声明与核验通道等统一要求,尽量保证跨平台搬运、转码与再剪辑后仍保留可核验线索,并通过共享样本库与风险通报机制配合第三方测评与核查,为平台执行与监管评估提供一致基准。平台层作为关键执行者,应将核验与风险控制嵌入上传与分发环节,对高风险内容实施标注、降低推荐权重或延迟分发,建立用户举报与人工复核通道,保存关键日志与版本信息,并定期发布透明度报告。公众层位于传播末端,其作用不在于替代平台与专业机构做事实裁断,而在于通过谨慎转发、标注不确定性与减少二次扩散来降低传播外溢,并以提供线索与证据性说明的方式参与纠错与监督。四层之间应形成常态化的信息共享与联合处置机制,并通过定期评估、指标监测与反馈校正持续压缩漏洞与偏差。
深度伪造在平台化传播环境中的关键危害,并不止于增加虚假内容,而在于将视听拟真性与可追溯的来源信息及生成过程记录相分离,削弱视听材料作为公共事实依据的可靠性,并使争议焦点由真伪判断转至责任归属与追责路径。本文据此提出深度伪造的治理转型:以可核验性、可归责性与程序正当性为原则,将核验与风险控制转移到生成、发布与分发路径,并通过分层责任与跨平台协同把上述原则落实为可执行的规定与流程。该路径的核心目标不是消除深度伪造,而是降低核验与举证门槛、缩短纠错周期并提高责任追溯的可行性。接下来研究可围绕深度伪造治理中来源标注与数据追踪、平台分发干预对信息传播的影响,以及对跨平台协同的可执行性进行验证,从而将治理逻辑从抽象的理论探讨转向具体的、可操作的公共实践。