人工智能在网络影响运动中的使用逐渐增加，但影响有限 - 美国网络安全公司报告

在一份于8月17日发布的活力十足的报告中，由谷歌所有的网络安全公司Mandiant揭示了利用人工智能（AI）进行在线操纵性信息攻势的日益增多的趋势。尽管AI在其他数字侵入方面的作用迄今为止相对有限，但情况正在发生变化。

总部位于弗吉尼亚州的Mandiant的研究人员自2019年以来，已经观察到多个例子，其中包括利用AI生成的内容，包括伪造的个人资料图片，用于政治驱动的在线影响努力。这些活动被归因于与俄罗斯、中国、伊朗、埃塞俄比亚、印度尼西亚、古巴、阿根廷、墨西哥、厄瓜多尔和萨尔瓦多等国政府相关的各种团体。

这一发现出现在生成式AI模型持续高涨的背景下，典型的例子是ChatGPT，这些模型极大地促进了具有说服力的伪造视频、图像、文本和代码的开发。网络安全社区对于网络罪犯利用这类模型从事不法活动提出了担忧。

Mandiant的专家指出，利用生成式AI能够使资源有限的实体为大规模影响势力活动制作高质量的内容。

例如，以中国为背景的信息倡议"Dragonbridge"的案例。自2019年以来，该倡议从针对香港亲民主示威者的目标开始，已经"成倍地"扩展到30个社交平台，覆盖10种语言。Mandiant Intelligence的副总裁桑德拉·乔伊斯（Sandra Joyce）以这个例子为例，强调了这个例子的快速增长。

然而，这些活动的实际影响仍然受限。正如乔伊斯所解释的那样，"就效果而言，在那方面并没有太多的胜利。这些努力尚未改变威胁格局的轨迹。"

中国一直否认曾参与过此类影响势力活动。

Mandiant以协助公共和私人实体应对数字侵犯而闻名，该公司表示，尽管AI尚未在来自俄罗斯、伊朗、中国或朝鲜的威胁中起主要作用，但形势正在发展。在短期内，AI在数字侵入方面的作用预计将受到限制。

乔伊斯强调说："到目前为止，我们还没有遇到任何明显涉及AI的事件响应。AI的实际应用尚未超越我们遇到的常规工具的能力。"

然而，她补充道："我们可以有信心，这个问题会随着时间的推移而变得更加重要。"

Source : Reuters (Reporting by Zeba Siddiqui)