随着深度伪造技术和AI语音克隆的迅速发展，南非金融行业监管局(FSCA)发布警告，呼吁公众提高对金融诈骗新形式的警觉。
OpenAI首席执行官Sam Altman日前在美国联邦储备系统组织的金融会议上指出，AI正加剧金融欺诈风险，尤其是其模仿人类声音的能力已经足以绕过现有语音识别系统。他批评声纹验证已过时，无法应对当今AI语音与视频克隆的真实性，并呼吁尽快建立新的身份验证机制。
美联储也表达了与业界合作、共同应对AI生成内容风险的意愿。
FSCA指出，已有诈骗分子利用AI生成的视频和音频冒充公众信任的名人，例如南非橄榄球队队长Siya Kolisi和演员Connie Ferguson，以诱导投资者上当受骗。
监管机构提醒公众,在进行任何金融交易前，应通过FSCA官网或官方渠道核实对方是否为持牌金融服务提供商。
FSCA补充道：“对于社交媒体上的投资或交易邀约，或任何突如其来的投资机会，请务必保持警惕。如果某项提议感觉异常或好得令人难以置信，建议立即暂停，向FSCA核实该机构是否具备金融服务授权。”