WHCSRL 技术网

变脸软件成犯罪帮凶​,上万个限用微信号被“复活”

人脸识别,近年来已逐渐渗透进我们生活的方方面面:上班打卡、小区入口、消费支付、银行业务办理......都与这项基于人的脸部特征进行身份识别的高科技有着密不可分的关系。人工智能时代,在人脸识别带来便利的同时,潜在风险也无处不在。

10月16日,据江苏新闻报道,在净网2021专项行动中,南通市警方成功破获一起利用“变脸”软件实施诈骗的新型网络犯罪案件。目前,五人团伙现已落网。

变脸软件成犯罪帮凶

警方在侦办时发现,涉案人员李某旗使用的是一个因从事诈骗类犯罪活动已经被停用的微信号,而注册这些微信账号的都是一些偏远地区的人,他们注册账号后都卖给了别人。民警发现,被重启的微信均被境外犯罪分子使用,而解除登录限制的关键是人脸核验,警方分析,案件背后可能存在一个重新启用被限用账号的黑色产业链。

警方将突破重点锁定在李某旗身上,并判断他使用了某种生物特征的变脸技术规避登录限制。在侦查中,警方在李某旗的微信聊天及银行卡转账记录中发现,有四个银行卡账户在有规律的向李某旗转账,且金额比较固定。

据悉,在这起新型网络犯罪案中,5人嫌疑人利用九款AI软件,将图片进行一系列操作后形成一个动态的视频图片,从而伪造人脸识别认证解除登录限制,以100元解除一个账号的价格卖给境外犯罪诈骗团伙。经审查,该犯罪团伙重启的微信账号达1万多个,非法获利100多万元。目前,该案件仍在进一步办理中。

“我被人脸识别系统「坑」进了监狱”

虽然人脸识别技术给我们的生活带来了很多便利,但如果这项技术不够成熟,就会闹出很多笑话,如果在一些严肃场合闹乌龙,还可能会给人们带来很大的麻烦。近年来,多起因人脸识别技术导致抓捕错误的事件,也让人们对这项技术的可信度打上了问号。

2021年4月,据外媒报道,来自美国密西根州底特律的一位 42 岁男子 Robert Williams 一纸诉讼将底特律警察局告到法院,原因是因为人脸识别错误,他被当成小偷被捕,且在拘留所待了 30 个小时才被放行回家。据了解,这也是首位因为面部识别错误而被逮捕的人。

事情的起因要从三年前说起。

2018 年年底,一位小偷在底特律的一家名为 Shinola 商店偷了几块手表之后迅速离开,当店主发现时随即进行了报警处理,警察到达现场之后,想要通过调出商店的监控视频并通过面部识别技术将小偷识别出来,然而,他们发现,摄像头所拍下的视频相对比较模糊,且小偷低着头,并不能清楚地看见对方的面部。

在调查过程中,一名侦探仍然通过面部识别技术,且比对系统中的人,最终通过和驾照上的一张照片比对成功,匹配到了黑人 Robert Williams。

而后警方采取了行动,在 Robert Williams 下班回家的时候进行了抓捕。Robert Williams 也因此在底特律拘留中心被关押了 30 个小时,由于拥挤,他被迫睡在一块高高的水泥板上。

最终,还是交了 1000 美元之后,Robert Williams 才被保释。

不过,万万没想到的是,就在这一事件后不久,该警察局再次因为面部识别错误,误将一名 26 岁的黑人男子再次当成小偷逮捕。

无独有偶,去年新泽西的一名男子因为他人伪造证件,通过人脸识别被警方误认为是犯罪嫌疑人并被捕,而后遭受了持续十天的不公对待。

文章链接:

“我被苹果人脸识别系统「坑」进了监狱”

“因人脸识别错误,我被捕了!”

39 名员工因软件 Bug 入狱

在过去的20年里英国邮局的工作人员一直在处理一款名为Horizon的软件,这款软件有一个致命的缺陷:它让很多员工被误以为偷了数万英镑。当地的一些邮递员因此被判有罪,甚至被送进了监狱,因为邮局官方坚持认为软件是可信的。

经过几十年的斗争,39人的定罪终于被推翻了。据报道,这是英国史上最大的一次误判。

Horizon由日本富士通公司制造,该公司在2000年至2014年间,其信息被用于起诉736名邮局员工,并导致其中一些人最终进了监狱。系统错误会让它报告在员工控制下的帐户出现了缺口。

此事件对这些雇员的影响是巨大的:据外媒报道,有些员工失去了婚姻或与陪伴孩子的时间,一些员工试图用抵押房屋或用自己的钱来填补账户缺口。此外,有员工甚至因软件Bug造成巨额负债而自杀。

文章链接:

https://blog.csdn.net/m0_59537084/article/details/120819628

推荐阅读