近年来，随着AI技术的快速发展，越来越多人在工作生活中开始享受到全新体验，但伴随而来的是，利用或滥用AI技术从事违法犯罪的活动日益增多。
2024年上半年，80后导演陈坤起诉“文刻创作”，指控其抄袭了自己团队运用AI技术制作的《山海奇镜》预告片。这个案例让AI作品侵权话题进入了大众的视野。
天元律所合伙人律师李昀锴在采访中表示，这种行为可能会侵犯原告的复制权、信息网络传播权、改编权以及原告的署名权，因为被告在发布作品时强调了原创。
随着AI技术快速发展，利用AI技术从事违法犯罪活动屡见不鲜。AI 违法犯罪活动让大众财产安全受到威胁，其中“AI换脸”导致的违法犯罪行为尤为严重。
全国公安机关去年依托“净网”专项行动组织专项会战，严打泄露身份证照片等图像信息的犯罪源头，破获利用AI技术“换脸”进行诈骗犯罪案件79起，抓获犯罪嫌疑人515名。
我们在采访中发现，大众对于AI可能造成的风险十分担心。有观众直言，AI换脸常见于诈骗，比如把人的模样换成老人子女，来骗取老人信任并诈骗钱财。
不久前，“男子用AI伪造学生同事近7000张裸照”冲上微博热搜。
犯罪嫌疑人白某某是互联网公司的技术员，他用AI“一键去衣”技术，深度伪造淫秽图片近7000张，以每张1.5元的价格卖出，获利将近一万元。图片涉及女性人数多。最终，白某某因涉嫌制作贩卖淫秽物品牟利罪被公诉至法院，今年4月份，北京海淀区人民法院对这起案件进行了开庭审理。
李昀锴表示，利用AI功能创造图片在网上进行售卖获利，是犯了传播淫秽物品罪。根据《中华人民共和国刑法》第三百六十三条 :以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
2024年2月29日，奇安信集团对外发布《2024人工智能安全报告》，2023年基于AI的深度伪造欺诈暴增了3000%。利用AI换脸进行诈骗，让传统的“眼见为实”面临巨大挑战。
有观众曾碰到QQ被盗的好友突然在网上问自己借钱，且主动提出视频对话来验证身份的情况，但在视频对话的过程中，他发现所谓“好友”其实是AI换脸之后的骗子，自己差点就上当受骗。
AI换脸技术被不法分子利用成为敲诈勒索的工具，前不久深圳警方打掉了一个犯罪团伙，他们在网上搜集被害人信息，通过AI换脸的方式伪造不雅照，威胁被害人转账汇款。当事人吴先生回忆，当时他收到一条彩信，彩信附有他与一名女性的裸照以及勒索信息，他意识到不对劲，随即报警。
李昀锴指出，案例里骗子犯的是诈骗罪。虽然利用了AI技术，但核心目的是为了骗取他人财产。
根据 《中华人民共和国刑法》第二百六十六条，诈骗公私财物，数额较大的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚金；数额巨大或者有其他严重情节的，处三年以上十年以下有期徒刑，并处罚金；数额特别巨大或者有其他特别严重情节的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
随着AI技术快速迭代，如何更好地防治AI犯罪，对公民个人、内容生成平台、行业监管部门乃至政法机关等各方都提出了挑战。我国高度重视数据风险的分析与预防，国内的相关监管也快速跟进。
针对性规定有《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》。
此外，最高人民法院、最高人民检察院、公安部发布的《关于依法惩治网络暴力违法犯罪的指导意见》，对“利用‘深度合成’等生成式人工智能技术发布违法信息”的网络暴力违法犯罪行为作出了“从重处罚”的规定。
在李昀锴看来，技术带来的问题最终还是要技术解决。他表示，目前还没有特别针对人工智能的法律出台，但全国人大法工委已经把它提上工作计划，可能近期就会有立法上的成果。
