当前位置:首页 > AI科普

「深度伪造是咋回事:换脸视频背后那点技术活」

xinhack9小时前AI科普4

「深度伪造是咋回事:换脸视频背后那点技术活」 AI科普

先给结论:它本质是"双胞胎生成"

深度伪造说白了,是一类"以假乱真"的 AI 生成技术。最常见的玩法,是拿甲的一堆照片当"脸源",拿乙的视频当"身体和表情源",训练一个模型,把甲的脸严丝合缝换到乙身上,连眨眼、转头都跟着动。出来的东西,肉眼有时候都分不出真假。

米岸AI 先撂一句底线:这篇只拆深度伪造的原理,不教制作。门道讲明白,比藏着掖着更扛忽悠,你也就不容易被假东西蒙了,知道它咋来的才防得住。

深度伪造背后这套核心技术

深度伪造背后这套核心技术叫生成对抗网络(GAN),这套路有意思:一个负责"造假"的生成器,一个负责"找茬"的判别器,俩天天互相较劲。造假的比怎么骗过找茬的,找茬的练怎么揪出破绽,来回拉锯,假脸就越做越真。

后来还有更狠的:用"换脸模型"直接学两张脸之间的映射,再配合让嘴型跟着声音动的技术,连说话口型都对得上。这活儿,早年搞图像的小伙子们可不敢想,现在手机上都能跑。

它真能正经用

别一听"伪造"就觉得全是坏事。电影里让已故演员"复活"补拍镜头、把台词本地化配音、做无障碍的手语主播、帮人试戴眼镜口红——这些正经活儿,底层都是类似技术。技术是中性的,看搁谁手里、干啥用。

要我说,跟当年 PS 刚出来一个道理:工具本身不背锅,拿它坑人的才该挨板子。会用的拿它省成本,歪用的拿它坑人,差在两字:心思。

坑也都明摆着

风险也实在:有人拿它做假新闻、冒充熟人要钱、编造假录音毁人清白。更麻烦的是,假的满天飞,真的反而没人信了——这叫"谎言跑赢真相"。还有声纹、人脸这些生物特征被滥用,后患不小,想删都删不干净。

所以这两年"AI 水印""内容溯源"才被拎到台前:给生成内容打记号,让假的能追到根上。平台、监管一起上,才压得住这股歪风,光靠用户自己辨太难。

普通人咋防着点

几招实在的:看到离谱视频先别急着转,尤其涉及钱、涉及名人表态的;留意光影有没有违和、眨眼自不自然、背景边沿糊不糊;真要紧的事,走官方渠道核实,别光信一条视频。

米岸AI 觉得,最好的防具不是技术,是"我先愣一下"的习惯——越是煽乎的内容,越值得多想一秒。真假的边界,往往就在你点转发前那一停。

常见问题

问:深度伪造和普通的视频剪辑是一回事吗?

答:不是。剪辑是挪已有的真画面;深度伪造是用 AI 凭空"造"出原本没发生过的脸和声音,真假难辨程度高得多。

问:有没有法子认出假视频?

答:有,但肉眼越来越难。现在更靠平台的水印、溯源标记和专业检测模型来识别,普通人主要靠"多方核实、别急着信"。

问:把自己的照片发网上安全吗?

答:存在被拿去当"脸源"的风险。不露脸的敏感场景少发原图,公共平台注意隐私设置,能少不少麻烦。

问:米岸AI 说的水印是啥?

答:就是在 AI 生成内容里嵌入肉眼难见、机器能读的信号,标明"这玩意儿是 AI 做的",方便溯源和辨别。

本文由米岸AI整理。

相关文章

什么是检索增强(RAG)?让 AI 先翻书再开口

什么是检索增强(RAG)?让 AI 先翻书再开口

大模型知识有截止日期,还容易凭空编。检索增强生成(RAG)的做法是:回答前先去资料库里查一番,再结合原文作答。本文讲清 RAG 是什么、怎么运转,以及它适合解决哪类问题。…

训练 AI 的数据从哪来?它到底在学什么

训练 AI 的数据从哪来?它到底在学什么

大模型再强,也是从海量文本里"喂"出来的。本文带你看看训练数据通常是什么、从哪里来,为什么数据的质量和数量同样重要,以及数据过时会对 AI 造成什么影响。…

准确率、精确率、召回率:模型到底好不好,看哪个数

准确率、精确率、召回率:模型到底好不好,看哪个数

说一个模型「准」,到底准在哪?准确率、精确率、召回率看着都像「正确率」,关心的却不是同一件事。本文用体检和考试查漏的比喻,讲清三个指标各自的盲区,帮你读懂一份模型评测,以及面对一份评测报告时,该先盯住…

批归一化是什么?深度学习训练为什么要先把每层摆正

批归一化是什么?深度学习训练为什么要先把每层摆正

训练神经网络时有个隐蔽麻烦:前面层一变,后面层输入的分布就跟着飘,模型得不断重新适应,学得慢又抖。批归一化的解法是,在每个小批次里把层的输入「摆正」——均值拉到 0、方差归到 1。本文用军训排队和恒温…

联邦学习是什么?手机怎么在不交出数据的情况下一起训练 AI

联邦学习是什么?手机怎么在不交出数据的情况下一起训练 AI

把数据集中到一处训练 AI,最怕隐私和合规这关——没人愿意把聊天记录、病历乖乖上交。联邦学习换了思路:模型下发到各台设备,数据不出本地,只把「学到的改动」传回来汇总。本文用集体写书和老师批作业的隐喻,…

提示工程是什么?怎么跟 AI 把话说清楚它才懂你

提示工程是什么?怎么跟 AI 把话说清楚它才懂你

同样问 AI,有人得到满分答案,有人拿到一堆废话——差 often 就在「怎么问」。提示工程就是研究怎么把话说明白、把任务框清楚,让模型少跑偏。本文用写需求文档和给实习生派活的比喻,讲清几个普通人马上…

编码器-解码器是什么?翻译和摘要背后的翻译官结构

编码器-解码器是什么?翻译和摘要背后的翻译官结构

你用翻译软件、看 AI 写的摘要,背后常是一对「翻译官搭档」:编码器先把原文读成一门内部语言,解码器再照着把它讲成目标语言。本文用听译员和转述的比喻,讲清这套 Seq2Seq 结构怎么让 AI 既懂进…

数据增强是什么?样本不够就把同一张图变着花样造

数据增强是什么?样本不够就把同一张图变着花样造

训练 AI 最缺的就是数据,可真去收集、标注又贵又慢。数据增强给了个省钱招:不动原生样本,而是把它翻转、调色、裁剪,造出一堆「看着不同、本质一致」的新样本。本文用同一件衣服换穿法和做试卷的比喻,讲清它…