生成式人工智能(AI)诞生，可能对人类产生巨大影响。高盛集团今年早些时候警告说，超过3亿份全职工作可能会受到影响。美国国会研究服务处5月发布的一份报告指出，AI的最新创新也提出了新的版权问题，即如何界定AI创作或使用的内容是侵权还是合理使用。

《福布斯》在6月9日的报道中指出，另一个令人担忧的问题已经浮出水面:生殖式AI可以被用于社交媒体上的虚假信息活动。虚假信息活动是指带有政治目的，故意制造和传播谎言，它不同于一个人犯错或说谎。虚假信息活动可以使用各种策略，也可以利用各种新技术、新媒体和传统媒体扩大分歧，煽动动乱。

美国塔尔萨大学网络安全教授John & middot希尔说，众所周知，脸书、推特和抖音等平台现在是信息战的前线，而生成性AI & ldquo得到你的手& rdquo这一领域不仅制造了新的危险，而且放大了现有的危险。

& ldquo深度欺诈& rdquo:假为真时，为真为假。

2017年，它被命名为& ldquo深度欺诈& rdquo当(Deepfake)的用户第一次在网上发布合成视频的时候，他大概没有想到自己已经打开了& ldquo潘多拉的盒子& rdquo。用& ldquo深度欺诈& rdquo技术在缺乏监管的情况下野蛮生长，逐渐危及经济和社会稳定。

所谓& ldquo深度欺诈& rdquo技术是用AI将现有图像、音频或视频中的人替换为他人的技术。一些被篡改的图像、视频和音频& ldquo深度欺诈& rdquo内容曾经需要专业人士来完成，但有了生成式AI的加持，现在很多人可以更轻松地创作。

希尔指出& ldquo深度欺诈& rdquo以便别有用心的人可以窃取或窃取他人的声音，嵌入到图像或视频中，或者以不可检测的方式操纵或更改数字内容。这一切才刚刚开始。随着技术的不断进步，& ldquo深度欺诈& rdquo技术制作的内容和实物的差距会越来越小。而且，随着& ldquo深度欺诈& rdquo内容越来越简单，社交媒体会随时把这样的内容传播给大众。

希尔强调，有了这些& ldquo深度欺诈& rdquo社交媒体平台上不受限制和不受监管的内容传播将导致虚假信息运动，以影响、说服和误导他人或特定受众。随着相关技术的不断发展，未来可能发生的事情非常令人担忧。

政治选举中信任的流失

《福布斯》杂志指出，生成式AI plus & ldquo深度欺诈& rdquo可能会给2024年美国总统大选带来真正可怕的后果。

美国公共广播服务网站在5月份的一份报告中指出，生成式AI不仅可以快速生成有针对性的竞选邮件、文本或视频，还可以以前所未有的规模和速度用于误导选民、冒充候选人和破坏选举、诽谤候选人甚至煽动暴力。

中佛罗里达大学研究生院教授兼副院长Timothy & middotCerno博士说AI做的是& ldquo深度欺诈& rdquo内容看起来非常真实，即使对于专家来说，确定其真实性也是一个挑战。

与此同时，选民对AI编造的视频不知所措。如果社交媒体平台有意或无意地允许AI修改或生成的信息留在它的网络上，并随意传播，选民对它的信任可能会进一步降低。美国网络安全公司预测，试图干预美国选举的团体将使用人工智能和合成媒体作为侵蚀信任的方式。

& ldquo内容认证& rdquo标准仍在制定中。

福布斯网站在报道中指出，生产AI相关产业正在发展& ldquo内容认证& rdquo允许用户验证数字内容来源的标准，但开发和采用这些标准需要一些时间。

希尔指出，这是数字媒体发展的一个必然阶段。然而，用户在社交媒体平台上浏览或使用内容时必须更加谨慎。此外，社交媒体网站应该更积极地监控人工智能操纵的帖子。

人工智能为颠覆性的进步提供了强大的能力，但这种能力也必须谨慎使用，以便充分发挥科技的力量。

记者刘霞