语音克隆听起来像科幻小说，但它已经在发生

快速发展人工智能 （AI）既带来了好处，也带来了风险。

一个令人担忧的趋势是滥用语音克隆。在几秒钟内，诈骗者可以克隆一个声音并诱骗人们认为朋友或家人急需钱。

新闻媒体，包括美国有线电视新闻网 （CNN，警告这些类型的骗局有可能影响数百万人。

随着技术使犯罪分子更容易侵入我们的个人空间，因此对其使用保持谨慎比以往任何时候都更加重要。

什么是语音克隆？

AI 的兴起为图像、文本、语音生成和机器学习.

虽然 AI 提供了许多好处，但它也为欺诈者提供了利用个人赚钱的新方法。

你可能听说过”深度伪造“，其中 AI 用于创建虚假图像、视频甚至音频，通常涉及脱口秀或政客。

语音克隆是一种深度伪造技术，它通过从简短的音频样本中捕获一个人的语音模式、口音和呼吸来创建一个人声音的数字副本。

捕获语音模式后，AI 语音生成器可以将文本输入转换为类似于目标人员声音的高度逼真的语音。

借助先进的技术，只需一个 3 秒的音频样本.

虽然像“你好，有人在吗？”这样的简单短语可能会导致语音克隆骗局，但更长的对话有助于骗子捕获更多语音细节。因此，最好保持通话简短，直到您确定来电者的身份。

语音克隆在娱乐和医疗保健领域具有有价值的应用——使艺术家能够远程进行语音工作（甚至死后）和帮助语言障碍者。

然而，它引发了严重的隐私和安全问题，凸显了保护措施的必要性。

犯罪分子如何利用它

网络犯罪分子利用语音克隆技术冒充名人、权威人士或普通人进行欺诈。

他们制造紧迫感，获得受害者的信任，并通过礼品卡、电汇或加密货币索要钱财。

过程开始通过从 YouTube 和 TikTok 等来源收集音频样本。

接下来，该技术分析音频以生成新的录音。

一旦语音被克隆，它就可以用于欺骗性通信，通常伴随着欺骗性的来电显示，以显得值得信赖。

许多语音克隆诈骗案件成为头条新闻。

例如，犯罪分子克隆了公司董事在阿拉伯联合酋长国策划了一起价值 5100 万$A的抢劫案。

一个孟买的商人成为语音克隆骗局的受害者，该骗局涉及印度驻迪拜大使馆的虚假电话。

最近在澳大利亚，诈骗者使用了昆士兰州州长史蒂文·迈尔斯试图诱骗人们投资比特币。

青少年和儿童也成为目标。在绑架骗局在美国，一个青少年的声音被克隆出来，她的父母纵服从要求。

它有多广泛？

最近研究显示去年英国 28% 的成年人面临语音克隆骗局，其中 46% 的人不知道此类骗局的存在。

它凸显了巨大的知识差距，使数百万人面临欺诈风险。

2022 年，近 240,000 名澳大利亚人报告成为语音克隆骗局的受害者，导致$A 5.68 亿.

个人和组织如何防范

语音克隆带来的风险需要多学科应对.

个人和组织可以实施多种措施来防止滥用语音克隆技术。

第一公众意识运动和教育可以帮助保护人员和组织并减少此类欺诈。

公私协作可以为语音克隆提供明确的信息和同意选项。

其次，个人和组织应该着眼于使用具有活体检测功能的生物识别安全性，这是一种新技术，可以识别和验证实时语音，而不是假语音。使用语音识别的组织应考虑采用多因素身份验证。

第三，加强针对语音克隆的调查能力是执法的另一项重要措施。

最后准确和最新的法规因为需要国家来管理相关风险。

澳大利亚执法部门认识到 AI 的潜在优势。

然而，对这项技术的“阴暗面”的担忧促使人们呼吁对”用于受害者目标定位的人工智能."

还有人呼吁执法部门可以采用可能的干预策略来解决这个问题。

这些努力应该与整体打击网络犯罪的国家计划，该策略侧重于主动、被动和恢复性策略。

该国家计划规定了服务提供商的注意义务，这反映在澳大利亚政府的新立法保护公众和小企业。

该立法旨在规定预防、检测、报告和打击诈骗的新义务。

这将适用于受监管的组织，例如电信公司、银行和数字平台提供商。目标是通过预防、检测、报告和中断来保护客户涉及欺骗的网络诈骗.

降低风险

由于网络犯罪给澳大利亚经济造成的损失估计为420 亿澳元、公众意识和强有力的保障措施是必不可少的。

澳大利亚等国家正在认识到日益增长的风险。针对语音克隆和其他欺诈的措施的有效性取决于其适应性、成本、可行性和合规性。

所有利益相关者——政府、公民和执法部门——都必须保持警惕并提高公众意识，以减少受害的风险。

林淑芬，警务研究高级讲师，查尔斯特大学;杜安·阿斯莱特，警务研究高级讲师，查尔斯特大学;Geberew Tulu Mekonnen， 警务学院讲师，查尔斯特大学和姆拉登·泽切维奇， 警务研究学院讲师，查尔斯特大学

本文转载自对话根据 Creative Commons 许可。阅读原创文章.

宝宝起名