综述：

近期美国大选，现人工智能造假，AI 生成的虚假信息，又一次站在了风口浪尖之上。

事件回顾

根据媒体消息，近期美国大选中，很多人接到了通过一家人工智能初创公司的技术“深度伪造”的美国总统拜登电话呼叫，冒充拜登的机器人语音电话录音：把你们的选票留在11月份再投很重要。在这周二（23日）投票，只会让共和党人得逞，让特朗普再次当选为共和党候选人。事后白宫证实，这一来电是“伪造，不是由总统录制”。

此前，人工智能生成的虚假信息也已多次干扰美国政治活动。

在去年2月举行的芝加哥市长选举第一轮投票前夕，社交媒体上出现了一段关于候选人保罗·瓦拉斯的视频，伪造瓦拉斯的声音发表言论，声称“警察随随便便就可以射杀嫌疑人”，并呼吁削减警察经费。

2020年，一款名为“Deepfake”的AI技术被用于制作虚假的视频。有人利用该技术制作了一段虚假的视频，声称美国前总统特朗普在竞选集会上发表种族主义言论。该视频在社交媒体上被大量转发，对特朗普的形象造成了负面影响。

影响与挑战

AI生成技术的日益成熟与大众化，势必带来一系列的不良影响和挑战，包括：

A. 对公众信任的破坏

虚假信息可能会误导公众对某些事件或事实的认知，使他们无法了解真相。如果大量虚假信息被传播，可能会导致公众对某些问题产生误解，甚至形成不正确的观点或立场。

频繁出现虚假信息也可能导致公众对媒体、信息源和科技公司的信任下降，产生信任危机。

B. 政治、社会和经济稳定的威胁

AI生成的虚假信息可能被用于政治目的，例如抹黑政治对手、制造恐慌和动荡等。这些行为可能导致政治局势的不稳定，甚至引发政治危机。

C. 技术方面的挑战

随着时间的推移，生成虚假信息的技术不断进步，生成的虚假信息在外观和语境上都非常逼真，难以通过传统手段进行检测。使得识别虚假信息变得更为困难。

同时虚假信息可以以迅猛的速度在互联网上传播，而且生成规模可能庞大。有效应对需要实时性和大规模性的技术解决方案。

D. 法律方面的挑战

法规通常需要时间来适应技术的迅速发展。虚假信息问题的复杂性和紧迫性可能导致法规的滞后，难以及时应对新兴威胁。

在虚假信息的产生和传播中，法律责任的界定可能变得模糊。是平台、生成者、传播者还是用户对虚假信息负有责任？这涉及到责任法律框架的调整和明确。

应对

A. 技术创新：开发检测虚假信息的工具

为应对AI生成虚假信息，技术创新至关重要，通过研发一系列虚假信息检测工具，包括：

• 相关技术强化：自然语言处理、深度学习和神经网络的应用、多模态、社交网络分析等。更精确和敏感的捕获各种形态的内容中的情感倾向、言论极性、行为模式，并更全面的评估信息真实性，提早识别信息的有效性

• 开源数据和协作平台：建立开源数据库，包含虚假信息样本，以便研究人员共享数据并改进检测算法，共同致力于虚假信息检测技术的研发

• 实时监测和响应系统：建立实时监测系统，识别虚假信息并标记潜在风险。自动化响应系统，能够快速应对大规模的虚假信息传播，包括警告、屏蔽或其他反制措施

• 持续学习和更新机制：利用在线学习方法，使检测系统能够不断适应新型虚假信息生成技术。建立用户反馈机制，以及时修正和改进检测工具的不足之处

B. 教育与意识提高：培养公众对虚假信息的辨别能力

公众的防范意识与辨别能力，是防范AI生成虚假信息的有效方式，可能包括以下措施：

• 提供网络安全教育相关内容

• 政府和相关机构，可以提供宣传教育材料，举办培训活动

• 社交媒体平台也可以提供指南，帮忙用户识别虚假信息

C. 法规与政策：加强对虚假信息的监管

法规与政策，是防范这类风险的基础，包括：制定相应的法律法规、设立对应的监管机构、加强多模态的数据监管、制定标准、设立举报机制等。

结束语

AI生成的虚假信息带来的风险与挑战是多方面的，需要我们从技术、法律、治理和社会等多个角度进行思考和应对。只有通过全社会的共同努力，我们才能确保AI技术的合理使用和发展，防范和打击利用AI技术进行欺诈和传播虚假信息的行为。展望未来，我们期待建立更加完善的法律法规、伦理等规范，加强国际间的合作与交流，共同应对这一全球性的挑战。

本文内容为原创，转载请注明来源于“广州金融科技公众号”！