用一张照片就能骗走你的钱?拆解“AI换脸”诱骗套路_教师_师长
“一键去衣”!
深度假造近七千张淫秽图片
在北京警方侦破的一起案件中,警方接到报案,有人在境外的网站上发广告,只需一张日常生活照片,就可以完成一键“去衣”的效果。
一名被警方抓获的犯罪嫌疑人白某某原来是一家互联网公司的技能员,他由于利用AI去衣技能,制作、贩卖淫秽物品而涉嫌犯罪。
北京市海淀区公民审查院审查官助理 郭树正:白某某用的这款人工智能软件,能很快对被害人的图片“一键去衣”,基本上几秒钟、几分钟就能批量天生相应的图片。
警方在白某某家的电脑里,查获了大量的涉案照片,都是经由“一键去衣”技能处理的。
郭树正:他在***上向351个人贩卖过干系图片,图片数量将近7000张。
随后,白某某因涉嫌制作、贩卖淫秽物品牟利罪被公诉至法院。今年4月19日,北京市海淀区公民法院对这起案件进行了开庭审理。
公诉人:其对含有人脸信息的浩瀚不特定女性照片进行侮辱性编辑并***,图片数量多,涉及人数多,社会公众年夜众利益受到严重危害。
那么,这些经由去衣的照片的受害者都是什么人?白某某为什么要制作这些照片呢?他又是如何进行牟利的呢?
2023年6月,家住北京的白某某在境外的社交媒体上打仗到了这项“一键去衣”的技能,于是他动起了歪心思,打算利用这项技能来赢利。
北京市海淀区公民审查院审查官 李鹏:他在境外的社交媒体上发布了广告,内容便是“去衣”,1.5元一张。
每张1.5元 发广告招揽图片定制服务
这便是白某某发布的广告帖,上面写着“电脑AI去衣,白菜价”“身边人、网红、明星皆可”。他的广告发布后,有不少人联系白某某,给他发送照片并购买这项“去衣”做事。
郭树正:一张图片他卖1.5元,能迅速知足干系人的需求。这个时候就有很多人去浏览白某某在境外社交网站上发布的帖子,经由我们统计,浏览他发布广告的人有3万人旁边。
那么,“AI去衣”究竟是若何的一种技能呢?据白某某供述,这项技能并不是真的“去衣”,而是一种假造、重绘的技能。
郭树正:实在我们可以把它理解为深度的图片假造,它并不是真的去掉别人照片上的衣服,实在都是针对已有的模型和已有的模组进行图片重绘。
而且,这项技能操作起来十分大略,去衣只须要一键就能完成,因此白某某定价不高,一张照片只须要1.5元,却可以利用低价吸引更多的订单。
短短几个月的韶光,白某某就制作了几千张去衣的图片,赚了将近一万元钱。然而,他却没故意识到这一行为可能产生的严重后果。
郭树正:个中有让白某某去学生、西席、女同事等衣服的图片。根据我们调查,白某某在这个过程中,他实在是知道可能会有人拿这个图片履行违法犯罪行为,比方说敲诈打单,或者连续传播对被害人的名誉造成一定的丢失,或者履行一些其他更恶劣的犯罪行为。
审查官先容,白某某利用的实际上是一个正规的AI绘图软件,而“去衣”只是个中的一个功能模块。白某某自以为创造了个中的商机,实际上却把自己送到了法庭里被告人的位置上。
公诉人:经依法审查查明,2023年6月至8月,被告人白某某在本市海淀区等地发布AI虚拟广告,将他人供应的承载人脸信息的特定多数女性图片,通过深度制造技能AI软件制作成裸体图片贩卖牟利,同时***AI去衣软件及利用教程牟利。
涉嫌制作贩卖淫秽物品牟利罪被提起公诉
审查机关认为,被告人白某某以牟利为目的,制作、贩卖淫秽物品,情节严重,其行为触犯了《中华公民共和国刑法》的干系规定,应该以制作、贩卖淫秽物品牟利罪深究其刑事任务。
郭树正:造孽进行加工和利用,加工利用之后又通过各种造孽路子传播,导致本来是为我们做事,为科技进步发展供应帮助的一项技能,变成了犯罪的工具。
陵犯不特定女性名誉 毁坏网络环境
审查机关认为,白某某利用AI技能犯罪的行为不仅陵犯了无数无辜者的隐私与名誉,还毁坏了网络环境的纯净,与科技向善的精神相背离。而利用新技能犯罪,也将受到法律机关的严厉打击。
公诉人:人工智能技能兴起之后,已经成为当今科技领域备受瞩目的技能之一,正在深刻改变我们社会、经济以及生活办法,为社会带来更多的便利。同时我们也打击管理利用AI技能履行犯罪,任何利用新技能履行犯罪的行为必将受到重办。
“换脸”假造不雅观观照
履行敲诈打单
一键去衣、AI换脸技能,还会被不法分子利用,成为敲诈打单的工具。近期,这类案件又有举头趋势。前不久,深圳警方打掉一个团伙,这个团伙从网上等各种渠道网络被害人图片信息,然后进行合成处理,用来敲诈打单。
前不久,深圳市民吴师长西席溘然收到一个陌生手机号码发来的彩信,点开一看竟然是他和一名陌生女子在酒店房间内的不雅观观照片。
当事人 吴师长西席:当时我收到一条彩信,里面是我的一张裸照,他当时威胁我,在几点之前要跟他联系给他转钱,我当时一想不对劲,就报警了。
深圳警方接到报案后,立即对吴师长西席供应的线索进行侦查。通过梳理报案记录,警方创造全市有同样遭遇的不止吴师长西席一人,犯罪嫌疑人的敲诈打单办法都一模一样。
当事人 邓师长西席:内容便是有我的照片,我阁下还有女的,还写我的名字。我还问我的同事,我同事说这肯定是别人复制上去的。
于是警方立即对相似的案件进行串并处理。调查后,一个通过换脸技能合成不雅观观照,履行敲诈打单的犯罪团伙逐渐浮出水面。
深圳市公安局坪山分局民警 张威:经调查,这个团伙流窜作案,以“已节制你在表面找小姐”“艳照将公之于众”等办法进行威胁,进而逼迫受害人“破财消灾”,从而达到敲诈打单的目的。
团伙分工明确:有人修图、有人寻作案目标
随着侦查事情的深入,警方创造这是一个以王某为首的犯罪团伙,团伙内分工明确,有人卖力修图,有人卖力探求作案目标,有人卖力发短信打电话联系收款。深圳坪山警方兵分多路,展开统一收网行动,在多地警方帮忙下成功抓获以王某为首的十多名犯罪嫌疑人。
在犯罪嫌疑人的电脑里,警方创造了大量经由合成换脸后的不雅观观照片。
张威:从嫌疑人电脑里面提取的干系证据,这些图片是嫌疑人从网上等各种渠道网络的被害人图片信息,然后进行合成处理,用来敲诈被害人。
目前,王某等人已被审查机关提起公诉。案件正在进一步审该当中。
深圳市公安局***支队民警 程儒:如果碰着这种以换脸的办法履行敲诈打单的行为,请及时报警。我们公安机关会依法严厉打击这种违法犯罪,在案件办理过程当中严格保护当事人的个人隐私。
以合成照威胁受害人
并准确说出个人信息
在山东威海,也有当事人遭遇到骗局,在收到假造的不雅观观照后,没有多加核实,就向敲诈团伙转账20万元。
前不久,威海警方接到了反诈中央的一条资金预警信息,有市民正在向涉诈账户进行转账,民警立即与当事人取得联系,核实情形。
威海市公安局经济技能开拓区分局皇冠派出所民警 刘羿:我们看到他的手机收到了一条短信,短信上的内容大概便是一张图片,上面有一男一女的裸照,还附了留言,说“我有你全部的影像资料,赶紧跟我联系”,并附上了一个电话。
王师长西席说自己当时看到这张照片,当时就有点懵。没有来得及多想,他拨打了信息上面的电话。由于对方准确地说出了自己的姓名以及事情单位,并且见告王师长西席只要向他们转账68万元就可以买断这些***,如果王师长西席不给钱就把***公开。在对方的威吓下,王师长西席信以为真。
刘羿:王师长西席起初没有那么多钱,以是他就说我先给你10万元,对方赞许后就给他发了一个指定的银行账户,以是王师长西席就向账户内转了第一笔10万元。然后对方仍旧给他打电话说这个钱太少了,如果不想让其他人知道,不想让单位的同事知道,就必须再次转账。王师长西席通过多方筹集,又向指定的银行账户转了第二笔10万元。
先后转账20万元 但未能知足对方胃口
然而,先后转账的20万元,根本知足不了对方的胃口。正当王师长西席错愕失落措时,民警联系到了王师长西席。
刘羿:当我们跟王师长西席一同看这张照片的时候,我们创造虽然脸部有相似的地方,但是他的脸型以及身形完备不是他本人。
之后,民警赶紧通过国家反诈大数据平台对王师长西席转账的两个银行账户进行紧急止付操作。
刘羿:平台对我们止付的这两个账户进行反馈,反馈出账户的余额以及***的卡主身份等等情形。我们创造这两个账户的余额已经显示为0,以是我们紧接着就对这两个账户进行剖析研判。
警方紧急止付 经由研判锁定两名嫌疑人
经由研判剖析,警方锁定了犯罪嫌疑人郑某和钟某的身份信息。今年1月22日,威海警方赶赴浙江乌镇将两名犯罪嫌疑人抓获归案,为王师长西席挽回了丢失。
警方先容,在这些案件当中,犯罪嫌疑人先是通过网络等渠道,搜集被害人的***、照片以及干系信息。再通过AI换脸技能PS合成所谓的“不雅观观***”或“艳照”,然后通过短信、邮箱等渠道,精准发送给选定的工具并留下联系办法,末了以要举报、分布、奉告家属等手段威胁选定的工具,哀求被害人将钱汇到他们指定的银行账户。
警方提示:碰着此类情形要及时留存证据,拨打110报警。(央视***客户端)
来源: 央视***客户端
本文系作者个人观点,不代表本站立场,转载请注明出处!