只花9.9元，上传二十几张照片，就能获取一套人工智能生成的写真集。过去两周，“妙鸭相机”小程序成为我国生成式人工智能领域的一个爆款运用。刷屏的同时，妙鸭也刷出了用户隐私保护、消费者权益保护等“暗雷”，提示我们人工智能未必如想象中那么美好。

　　先来看隐私保护。如今搜索“妙鸭相机”，各渠道排在后面的关联热词都是“妙鸭相机会盗取个人信息吗”“妙鸭相机安全吗”，表明安全性已成为用户最关注的成绩。而这恰恰是妙鸭最先踩中的雷，上线不久，就有媒体报道，妙鸭用户协议中明确规定，“您特此授权我方在全世界（包括元宇宙等虚拟空间）范围内享有永世的、不可撤销的、可转让的、可转授权的、免费的和非独家的答应，使得我方可以任何方式、任何媒体或技术（无论如今已知或当前开发）运用您的内容”。这就相当于企业试图占有用户的脸，还要用户倒贴9.9元。

　　人脸是一个人最核心的生物信息之一，假如被滥用、盗用，可能会成为AI诈骗、网络色情等非法活动的素材来源，�：ξ蘖�。虽然被质疑后，妙鸭很快更新了协议，称“不会提取辨认信息，不会用于辨认用途，服务完成后，零碎将自动删除上述信息，不予留存”，但作为一家生成式人工智能的创业公司，内部竟然能认可并上线第一版协议，可见企业对用户隐私的漠视以及对法律的无知。这也阐明，人工智能行业还需强化用户隐私信息保护的底线看法。

　　妙鸭踩中的第二个雷，是消费者权益保护。据媒体报道，妙鸭规定“一旦购买成功，不支持退款”。上海市消费者权益保护委员会对此发声：涉嫌损害消费者公平买卖权。随后，妙鸭宣布照片生成失败可退款。

　　开发这款小程序的企业提供的服务属于在线虚拟服务，本来不在消费者权益保护法规定的7日在理由退货范畴。消费者一旦上传素材，不管最终生成的照片效果如何，已实践运用了带宽和企业提供的技术，企业理想上履行了合同。从这个角度讲，企业有理由拒绝退费。

　　但是，消费类企业必须回答一个成绩：起草、执行相关服务协议时，是从保障消费者权益出发，还是从本身利益考量出发？假如只是嘴上喊着“优化消费体验”，实践抛出的却是冷冰冰的条款，采取简单粗暴的执行手腕，给用户的感觉完全不敌对，这不只无助于产品与服务质量的塑造提升，更不可能吸引消费者对品牌的信任跟随。妙鸭从拒绝到赞同的态度转变，值得沉思。

　　小程序揭示的人工智能风险隐患才刚刚冒头，仍存在不少值得研讨的成绩。例如，企业承诺自动删除用户信息，谁来监督落实？用户把堪比个物证件照的高精度正面照交给一家小创业公司，它有没有才能抵御黑客攻击？风潮过去后，企业会不会倒闭？这不是杞人忧天，妙鸭也在用户协议中提示，“假如出现合并、分立、解散、破产等状况，用户个人信息可能会转移到接收方”。在这个过程中，用户信息能不能得到妥善保护，接收方又会如何处理用户信息？这一切都是充满了风险的未知数。

　　妙鸭入水，激起了数据时代的监管新应战。互联网大厂投入巨资开发的文心一言、通义千问等大模型，免费给用户运用，没能做成爆款；一家名不见经传的小企业，推出一个要用户掏钱的小程序竟然做到了。这预示着，人工智能领域的竞争将是激烈的，也是出乎预料的。要跟下行业350vip葡亰集团，监管理念、技术和相应的法律体系需抓紧完善。我们鼓励创新的“七十二变”，但保护用户隐私和消费者权益的“紧箍咒”一定得戴上。（本文来源：经济日报 作者：佘 颖）