暗网提供工具及服务，骗子利用人工智能工具进行深度伪造

早在2021年，暗网市场就在售卖用于人脸识别的伪造护照、身份证件，而且出现了早期的深度伪造。如今，恶意使用深度伪造技术对企业构成的威胁与日俱增。

网络安全公司卡巴斯基（Kaspersky）警告说，由于人工智能工具的广泛使用，威胁行为者在攻击中使用深度伪造（Deepfake）技术变得越来越容易安全。

卡巴斯基非洲企业客户负责人Bethwel Opil 表示：“虽然发起这些攻击所需的时间和精力往往超过了其潜在的‘回报’，但卡巴斯基警告说，非洲各地的公司和消费者仍然必须意识到，深度伪造在未来可能会成为一个更令人担忧的问题。深度伪造的恶意使用潜力是显而易见的。“

“从勒索到实施金融欺诈，再到通过社交媒体传播错误信息，潜在的连锁反应可能会很严重。网络犯罪分子始终在寻找更便宜、更快捷的方法来传播他们的活动。不过，我们预计在未来几年内，使用深度伪造的定向攻击将会增加，尤其是针对有影响力的人士和高净值个人或组织的攻击，这将证明攻击者创建深度伪造所花费的时间和精力是值得的。”

暗网上的深度伪造服务

卡巴斯基研究发现，暗网市场上存在深度伪造制作工具和服务。这些服务为各种目的提供GenAI视频创建服务，包括欺诈、勒索和窃取机密数据。据卡巴斯基专家估算，一分钟深度伪造视频的价格约为300美元。

人类的行为、数字素养的缺乏以及无法区分虚假与合法材料，都给本已困难重重的局面增添了压力。

2023年卡巴斯基的商业数字化调查收集了中东、土耳其和非洲地区2000名受访者的意见，调查结果显示，51%的员工认为他们能够区分深度伪造图像和真实图像。然而，在一项测试中，只有25%的人能够区分真实图像和人工智能生成的图像。

卡巴斯基表示，鉴于企业员工往往是网络钓鱼和其他社会工程学攻击的主要目标，这给企业带来了严重的风险。

深度伪造被恶意利用的可能性是显而易见的。

例如，网络犯罪分子可以制作首席执行官请求电汇或授权付款的虚假视频，这可用于窃取公司资金。此外，犯罪分子可以创建具有危害性的个人视频或图像，用于向他们勒索钱财或信息。

Opil补充说：“尽管创建高质量深度伪造的技术尚未广泛应用，但最有可能的用例之一是实时生成声音来模仿某人。例如，一家跨国公司的一名财务人员最近就因为在一次电话视频会议上冒充公司首席财务官的深度伪造技术而被骗向诈骗分子转账2500万美元。非洲也不能幸免于这种威胁，重要的是要记住，深度伪造不仅对企业构成威胁，而且对个人用户也构成威胁——它们传播错误信息、被用于诈骗或未经同意冒充他人，是一种日益严重的网络威胁，必须加以防范。”

卡巴斯基建议通过以下方式加强防范：员工意识教育

公司建议通过教育员工了解深度伪造、其工作原理及其带来的风险，来加强防范。这涉及持续的意识和教育，努力教导员工如何识别深度伪造。