原标题：多个城市出台扶持人工智能的相关政策 AI概念股持续火热（引题）

“AI换脸”技术使用风险需警惕（主题）

广州日报全媒体记者 文静 张露

广经观察

受政策与新概念影响，AI板块连日来上涨。6月1日，据同花顺数据显示，截至收盘，人工智能板块涨超1.4%，AIGC概念板块涨超3%。消息面上，国内多个城市相关部门出台扶持人工智能的相关政策。同时，英伟达近日总市值终于突破万亿美元大关，成为首家市值破万亿美元的芯片企业。一方面是与AI概念相关的股票行情被看好，另一方面，在TO C端应用中，外界对“AI换脸”等问题依然担忧，多地警方通过社交平台呼吁大家警惕“AI换脸”诈骗。

AI芯片企业市值突破万亿美元 带来AI概念股上涨

截至6月1日收盘，多只与AI、AIGC概念相关的个股股价上涨，部分更加涨停。其中，新致软件涨20.02%、科大讯飞涨10.01%、创维数字涨9.98%、奥飞娱乐涨9.97%、新智认知涨9.97%、恒信东方涨20%。

AI、AIGC概念被看好，与近日AI芯片股“龙头”英伟达的火爆相关。据了解，当地时间5月30日美股开盘，英伟达股价一度冲高，总市值突破万亿美元大关。据了解，目前市值超过万亿美元的美股科技公司有苹果、微软、亚马逊、谷歌母公司等。

然而，截至当地时间5月31日美股收盘，英伟达股价回落，下跌超5%，报378.340美元/股。

AI换脸技术越来越成熟，“李逵”“李鬼”真假难辨

AI的应用很广泛，而本轮火热的AI技术主要集中在大模型、AIGC（人工智能生成内容），不过，它们仍属于较为前沿技术，大部分的大模型都仍处于内测阶段。据了解，目前AI在消费者端用得较多的是AI生成式软件，如AI换脸、AI语音等软件，正因为这些AI软件的应用范围越来越广，被一些商家用于直播带货抢流量，甚至不良分子用来诈骗等，从而存在安全隐患。早前有报道称，有网友点开多个电商直播间，发现正在卖货的竟然是“迪丽热巴”“杨幂”等当红明星，背后其实是直播间的主播利用“AI换脸”，将自己的脸变得神似某位明星。

连日来，记者在抖音、快手、视频号等直播间浏览，暂未见到有“AI换脸”的直播。记者在小红书上搜索“AI换脸”，当前，有不少博主通过视频拆解AI换脸诈骗的案例，并提醒大家要注意网聊风险。

“AI换脸”技术陆续出现在大众视野，被不少网友拿来“玩梗”。今年初电视剧《狂飙》走红时，有网友把剧中多位男主角样子“换到”了经典歌曲《流星雨》的MV中，戏称为“狂飙F4”。此外，有博主利用AI换脸，将特斯拉创始人马斯克的脸换到不同背景的照片中，戏称“马斯克卖烧烤”“马斯克摆摊”……目的是为了吸引网友们的眼球，带来更多的流量。

对此，深度科技研究院院长张孝荣表示，当前的AI换脸属于深度伪造的AI技术衍生应用。这种技术在影视和广告行业由来已久，现在有了AI技术，这种换脸软件开始大范围普及。随着生成式AI的发展，使用难度进一步降低，新兴的App和主流的视频软件都增加了类似功能，如此一来，线上的“李逵”和“李鬼”日益增多，而且更加真假难辨。

“随着深度伪造技术、扩散模型、生成对抗网络和AI大模型等AI技术的日渐成熟，伪造相关视频、音频、图像等技术门槛大幅降低。”天使投资人、资深人工智能专家郭涛表示，与此同时，大批提供相关服务的第三方应用软件问世，应用门槛进一步降低，哪怕是“AI技术小白”几分钟也能轻松学会AI换脸等操作。

“直播换脸软件，有的收费有的免费，收费的从几百到几千上万元不等，成本各有不同。”张孝荣直言。

平台：一旦发现换脸直播 直接断播

AI换脸技术带来的风险令大众担忧。对于最近直播平台AI换脸诈骗的情况，抖音方面对全媒体记者表示，目前抖音直播不允许换脸直播，一旦发现平台会直接断播。平台目前也在跟进换脸带货的情况，除了断播、限制橱窗购物车等带货功能，还会对侵权商家进行扣除信用分的处置。对断播后仍换脸直播的账户，将限制其直播权限。至于快手、视频号方面，则暂未回应。

据了解，5月9日《抖音关于人工智能生成内容的平台规范暨行业倡议》发布，要求创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，遵循相关规范，其中包括发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景；虚拟人需在平台进行注册，虚拟人技术使用者需实名认证等。

今年4月，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》），这也是国家首次针对生成式AI产业发布规范性政策。《管理办法》提及，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

要像防范电信诈骗一样防范AI诈骗

“AI换脸恶搞他人、冒充明星带货，佯装‘熟人’实施诈骗等上述滥用行为已经涉嫌侵权，甚至是刑事诈骗。”广东南方福瑞德律师事务所律师梁宇麒接受记者采访时表示。需要注意的是，《民法典》正式实施后，确定是否侵犯肖像权不再以使用是否以赢利为目的，也就是说，使用他人肖像前，须经过他人同意，否则将涉嫌构成侵权。

那么，该如何警惕和防范AI换脸技术带来的风险？他建议：首先，政府部门加强AI换脸技术监管力度，并制定相应的法律法规，明确软件开发商、平台运营商以及使用人的责任边界以及处罚标准。其次，软件开发商和平台运营商应自身加强对AI换脸技术的内部监管，设定审核机制，规范使用行为。最后，也是最重要的，提高个人防范意识，大家在使用AI换脸软件或者小程序时，警惕被软件收集人脸、声音等个人敏感信息，如非必要，是可以拒绝收集的。以后面对关于涉及财物交易的事宜，建议通过个人联系电话、单位联系电话、甚至是面对面等多渠道确认后，再进行交易。

张孝荣表示，要像防范电信诈骗一样防范AI诈骗。提高警惕，保护个人隐私资料，避免泄露；不要轻信各种App传来的视频、电话或短信；建立财务信息防火墙，不要给陌生人转账。