专家警告称，传播恶劣内容的假视频“制作起来既简单又便宜”

一位技术专家告诉我们，用虚拟形象制作传播错误信息的假视频是多么容易，并警告说，许多公众都没有意识到这一点

一位警告人工智能危险的专家表示，人们被社交媒体上的虚假视频所欺骗，却没有意识到制作这些视频有多容易。

亨利商学院的Fabio Goncalves de Oliveira博士说，制作自己或任何人的化身实际上很容易做到，而且只需要30英镑。

他说，许多人不知道这项技术，因此很容易被那些实际上非常擅长制作可用于恶意目的的图像和视频的人所愚弄。

与此同时，尽管他承认TikTok可能是传播假新闻最糟糕的地方，但他同情社交媒体公司，因为它们的存在是为了迅速传播新闻，因此很难阻止坏人。他告诉《镜报》，抖音“是最糟糕的”，因为它也是最快的。

社交媒体最近一直是人们关注的焦点，据信，Southport持刀伤人事件引发的骚乱是在抖音和X等平台上引发的。

亨利商学院的Fabio Goncalves de Oliveira博士说（图片:提供)

虚假信息或故意虚假的细节被传播，包括持刀袭击的嫌疑人是寻求庇护者的说法，而人工智能也被用来描绘挥舞刀具的穆斯林，这些帖子被分享了数千次。

Goncalves de Oliveira博士讲授创业和创新，他说制作假视频是多么容易。他说:“我有一个带有我的形象的化身，只需30英镑，它可以使用我的声音。”“只要花30英镑就能买到，你可以创建一个虚拟形象并制作视频，你只需要下载它，全世界的人都在使用它。”

从软件中很容易看出潜在的危险。Goncalves de Oliveira博士说:“在学校里，年轻人用人工智能制作裸照，并将其上传到Tiktok上。”“聪明人正在用它来影响别人，但人们并不普遍知道这是危险的。我可以告诉你，我有100个学生，如果我问他们，‘你们知道制作假视频吗?“也许有两三个人知道，他们是大学生。

“你把视频和演讲的片段拿出来，把他们说的话放在不同的语境中。我们需要提高技能，让人们意识到正在发生的事情，这样他们就不会那么容易上当受骗。”

他说，他非常同意2022年的一篇学术论文，该论文指出了“演员利用传播假新闻”的三个领域——灾难、健康和政治。他说:“我认为社交媒体在这些领域发挥了作用，而在绍斯波特的案例中，社交媒体是政治性的。”而打击社交媒体的方法是通过融资和人力资源。

7月31日南港发生暴乱（Image: PA)

“但是这种新闻在社交媒体上传播得很快，所以很难停下来。社交媒体使用算法来更快地传播帖子，这就是它们的工作方式，也是人们想要的。平台的设计是为了让人们看到他们以前看过的帖子。所以如果你关注足球，所有的帖子都和足球有关。人们得到他们想要得到的信息。

“在新冠疫情期间，世卫组织表示，我们不仅在与一场大流行作斗争，而且在与一场信息大流行作斗争，许多虚假信息正在传播。有一个13岁的孩子说他不会戴口罩，因为他看到一个网红说口罩不起作用。”在谈到如何阻止假新闻的细节时，他说，平台经常在追赶，压制信息。“你需要内容审核和强制执行。例如，Facebook有算法来识别机器人，标记有害或虚假的内容，然后由人工版主进行事实核查，”Goncalves de Oliveira博士说。

“有人看到一条帖子，就把它标记为有害的，这样他们就会阻止它的传播。算法通过将虚假内容标记为“相关”来标记虚假内容，这在各个平台上都是类似的过程。问题是，流行话题传播得更快。强制执行是通过移除，警告，降低可见性，这可以通过自动化和人工来完成。社交媒体公司很难控制带有模糊性和偏见确认的错误信息。

“人们自然更倾向于阅读那些重申自己信念的东西，而拒绝相反的东西。当人们看到这些信息时，很难控制。不同的社交媒体平台在技术上是非常相似的，他们会给虚假内容贴上标签，有人工审核员，他们会删除内容。”

据说南港的骚乱是由网上的假新闻煽动起来的（图片:盖蒂图片社)

这位专家说，除了拥有更快传播新闻的算法外，TikTok还有一个更容易受到影响的年轻人群体。他说:“TikTok更糟糕是因为人口统计，全球67%的用户年龄在18到24岁之间，这是最脆弱的目标群体，因为他们吸收了误导性的内容。”“他们使用手机的时间越长，受到的影响也越大，因为他们出生时手里就拿着手机。社交媒体是他们的交流方式。

“抖音的传播和传播算法更快，向其他帖子展示是通过算法和网络效应更快。它比Facebook、Instagram甚至Youtube都要快。抖音可以在几毫秒内接触到大量用户。所以节制比传播慢他们跟不上。你需要去做纠正。”

找到恶意行为者的速度是问题所在，因为可以识别位置。Goncalves de Oliveira博士说:“我们能够通过手机IP地址和网络ID来识别恶意用户，我们知道一切，所以追捕他们的速度是关键。”“如果它来自国外，那么我们知道它是否来自某个国家，正在传播错误信息，但我们不会屏蔽一个国家的内容。”

与此同时，Telegram的老板帕维尔·杜罗夫(Pavel Durov)因运营一个允许非法交易、儿童性虐待图片、贩毒和欺诈的在线平台而被捕并接受调查。杜罗夫的律师称这种说法“荒谬”。Goncalves de Oliveira博士表示，阴谋组织和极端分子一直在使用Telegram，但这款即时通讯应用在加密方面与Whatsapp没有什么不同。他说:“在加密方面，Whatsapp和Telegram没有区别，但Telegram的用户群更大，可能有数百万，也可能有1000万。例如，外国行为者会通过算法瞄准特定群体，他们会寻找特定信息，并向一个渠道提供错误信息来愚弄人们。”