在悬疑英剧《真相捕捉》中，情报部门为了给罪犯定罪，伪造了监控录像。
他们认为，伪造监控录像只是将窃听材料等非法证据“重演”为合法证据。 事情确实发生了，罪犯也确实犯罪了。
图/《真相捕捉》
但是没有人知道使用技术的人是否会越界。 毕竟，人性离人性只有一步之遥，从嵌花木到无中生有，从被针对到肆意伪造。
在AI制图快速推进的时候，这样的世界或许离我们并不遥远。
特朗普和教皇争相刷屏，全靠AI的魔力
上周，数十张特朗普被捕的照片在网上疯传。 他们记录了特朗普入狱的全过程，从穿着西装打着领带走出大楼时被按在地上，到穿着囚服被铁丝网思考人生。
图片/@
然而，这些只是人工智能生成的图片。
始作俑者Eliot的账号在黑屋被关闭（现已恢复正常），“被捕（）”字样也被平台屏蔽。
周末，又轮到@了，教皇弗朗西斯身着风格的羽绒服现身。
图片/@
有人评论说这是说唱风格，DJ风格，看起来像是要出专辑了。
这条推文浏览量超过2600万次，转发量超过3万次，忽悠了很多人。 后面在图片下方添加了“AI生成图片”的说明。
有网友认为，这起事件是第一起真正意义上的大规模AI造谣事件，可以载入史册。
图片/
更多的仿制品接踵而至。
特朗普下乡再就业，马路上拉黄包车； 教皇穿上羽绒服去了星辰大海； 外星人体验生活，上班一天，然后深夜喝醉……
图片/
这些平行世界名人的脑洞图大部分来自AI绘画工具V5版本 。
V5版本模型可以生成比V4版本更高质量和更逼真的图像，并且有更多的自定义选项和更快的渲染速度。 是目前最高级别的AI绘图工具之一。
最直观的一点是，它基本上解决了之前AI不能很好地画出手指的问题，人类失去了另一种辨别真假的方法。 （顺带一提，2022年7月发布V1版本，可见迭代速度之快）
输入（提示词）不难。 某个名人的名字加上动作、地点等，就可以构成一幅画。
上面还有很多图属于“一看就假”，以后还会有更高级的版本更炫。
上周，这张生成的一对中国夫妇的照片在互联网上疯传。
日前，有网友晒出一组新闻图片，记录了2001年发生在北美西海岸卡斯卡迪亚的9.1级地震和海啸。
你可以看到灾难报道的各个角度：现场房屋的倒塌、汹涌的海浪、滞留在机场的人们惊恐的表情、救援人员试图从废墟中救出被困的幸存者、新闻记者争先恐后地进行直播.
图片/@
整组照片的色调、着装、场景都带有世纪初的味道。 有些看起来很“业余”，好像是当地居民随便拍的，但这样的照片往往被视为珍贵的资料。
不过这组图也是用生成的，灾难不存在。
同样，一位网友伪造了“2012 年 7 月美国太阳超级风暴和停电”事件，他认为该事件擅长捕捉 2010 年初的新闻镜头美学，擅长生成天际线和地标上的极光照片，但未能生成城市停电现场。
另一位网友用AI生成了1969年登月的杂耍画面，模仿了当时比较颗粒感的电影风格。
图片/@
这种写实的新闻画面，没有特朗普和教皇鲜明的个人特征，更容易让你着迷。
从到
创作“时尚教皇”的@在作品映后接受了媒体采访。
他是一名来自芝加哥地区的 31 岁建筑工人，他使用它没有任何目的，对教皇没有恶意，只是为了好玩。
图片/
意外的火爆，让他迟早明白了人工智能的广泛影响。 别有用心的人甚至拍下这些照片来控诉天主教会的铺张浪费。
我以前没有想过这个。 人们接受它，认为它是真实的而不质疑它，这绝对是可怕的。
现在的玩家大多只是玩玩而已，但就像《真相捕捉》中探索的伪造证据和程序正义一样，我们不知道什么时候越过边界，终点在哪里。
图/《真相捕捉》
在大多数情况下，色情、政治和谣言总是排在第一位。 一张女性在地铁上的照片被AI一键脱衣服，登上了今天的微博热搜，AI背后却暗藏凶手。 天时地利人和，常人岂能分得清。
语音克隆的发展速度同样令人恐惧。
骗子利用AI模仿对方家人的声音，进行诈骗电话敲诈勒索。 这样的案例在美国已经发生过几起。
语音克隆技术并不少见，问题是门槛越来越低。 正如加州大学伯克利分校教授 Hany Farid 所说：
两年前，甚至可能是一年前，克隆人声需要大量音频。 现在，如果你有一个页面，或者如果你录音并且你的声音持续 30 秒，人们就可以克隆你的声音。
他们甚至越来越便宜。 例如，该公司的语音克隆技术要到2022年才会问世，相关服务的费用仅为每月5美元。
图片/电影《她》
有了语音和图片，还可以完全用AI生成视频。 有人利用生成的语音内容、生成的头像、生成的声音、D-ID生成对口型视频，制作出完整的短视频。
你找到了吗？ 我们仍然可以争论某个图像或某个视频是否真实，但问题的核心是它们进化的速度。
换脸（深度伪造）有一定的技术门槛，但是现在如果你愿意花点时间上手AI软件，学着写别人的提示词，顶多订阅一加会员，这个成本假货已经比以前低了。
然后，他们广泛传播到社交媒体，如 、 、 等。
有人称其为“廉价伪造”（cheap ），考虑到生产和传播的成本是恰当的。
The Verge 提出了一个观点：AI 曾经只是一种功能，现在正在逐渐成为一种产品。
这有点类似于乔布斯在他的电脑上安装鼠标和图形界面操作系统，并将多点触摸屏连接到智能手机上。 能够起飞。
以前我们常说没有图片就没有真相，但在不久的将来，图片就不是真相，视频也未必就是真相。 他们不会证明任何事情。
如何在技术的未来生存
在技术面前，意识和法律总是稍有滞后。 已经出现的漏洞还有时间弥补吗？
提供人工智能服务的公司自然会走在前线。
今年 1 月底，由于太多用户使用语音克隆进行不当行为，AI 语音工具宣布推出新的保护措施，其中两个比较重要：推出新的 AI 检测工具来验证音频是否剪辑是使用他们的技术生成的； 使某些功能只能付费使用，降低用户的匿名性，让他们“三思而后行”；
社交媒体也在寻找减少错误信息传播的方法。
上周宣布利用ai声音诈骗，所有显示真实场景的图像必须标记为假（假）或篡改（），并且公众人物的图像不能用于政治或商业代言。
事实上，假图片、假声音、假视频由来已久。 之前有过无数的讨论和争论，但直到今天，才成为现实的问题。
2020 年，Adobe 发布了“内容真实性倡议”（ ，简称 CAI）利用ai声音诈骗，希望创建一个系统，通过加密签名将来源和细节永久附加到图像上，目前仍在开发中。
每当有人下载、截取屏幕截图、编辑图像时，CAI 元数据标签将表明它已被处理。
这听起来很有用，也可以用在AI作品中。
但 Adobe 也指出，要使系统有效运行，需要大量的硬件和软件支持，包括支持标记的相机、记录处理细节的照片编辑工具、显示标签的社交媒体等等。
这几乎涉及到从制作到传播的每一个环节，其难度可想而知。
现在，人工智能欺诈的困境是相似的。 就像过去无数的讨论，科技公司、媒体机构乃至每个人都应该承担一份责任，但这恰恰是难以实现的理想状态。
“时尚教皇”出圈后，一位拥有近1300万粉丝的模特感叹：“我还以为教皇的羽绒服是真的，就没多想，我活不过科技的未来”
人工智能的发展速度已经超越了公众意识和法律法规。 只能说，当我们看到某张图片时，最好不要认为它是真实的。
