据央视新闻报道,眼下,AI技术正赋能千行百业,为人们的工作、学习、生活带来很多便利。但最近,一些人竟然用AI制作虚假图片和视频向网店商家索赔。来看江苏苏州一位大闸蟹经销商的遭遇。
买家发来“死螃蟹”图片视频
疑点重重
11月17日,在江苏苏州相城区经营大闸蟹生意的高女士,根据客户订单,发出了一箱8只装大闸蟹。第二天,广州的买家就收到了货,完成签收。就在签收后10多分钟,高女士收到平台发来的客户反馈。
江苏苏州相城区大闸蟹经销商高晶:11月18日早上11点40分左右就签收了,11点53分就来反馈说8只螃蟹死了6只。
高女士对此也非常疑惑,立即联系消费者,请他们提供相应的证据。
很快,买家就发来了一张照片,画面显示,6只螃蟹腹部朝上躺在台盆边,但这张照片引起了高女士的怀疑。带着疑惑,高女士让客户再拍一段视频。
江苏苏州相城区大闸蟹经销商高晶:第一眼看上去就感觉像AI制作的,运镜很奇怪。如果再细看,螃蟹脚出现了5只小腿,和正常的大闸蟹不一样。视频比例也裁切了,很明显就是为了去掉水印裁切的。所以我们让他再拍一段视频,用手指逐个去指一下,拨动一下,这个我觉得不可能再造假了。后来他真的发来了这样一段视频。
AI视频图片明显矛盾
警方介入查清事实
看了买家发来的第二段视频,高女士按照平台赔付要求,向买家赔付了195元。但她心里还是有些疑惑,第二天,她跟家人复盘整个事情过程,重新检查买家发来的视频后,有了新的发现。
高女士发现,买家发来的图片和视频中,前后死蟹公母数明显不对。
发现了这个更大的疑点之后,高女士将其疑惑和买家再次提出,此时,买家就只显示信息已读,不再回应。
据齐鲁晚报报道,此后高女士选择发布视频曝光此事。
该视频曾被举报下架,但在修正后重新发布。高女士表示,自己主动修正,重新发布一条与原视频差不多的视频,隐去了顾客的隐私。“我本来不较真的,让他吃就吃吧。
然而,视频重新发布后,高女士收到了人身威胁。随后,高女士选择整理证据追责,11月28日委托朋友报警。
12月2日,高女士收到了警方的处理结果:此前线上购买螃蟹的买家利用手机合成制作收到6只“死螃蟹”的虚假视频,要求商家退款195元,实施诈骗。该当事人11月28日被公安机关查获。根据相关法规,决定给予该当事人行政拘留8日的处罚,追缴违法所得人民币195元。
商家:期待线上平台严审核帮甄别
高女士的遭遇并非个例。对于更多依托线上销售的商家来说,买家AI造假索赔成本低、识别难,遇到类似情况,又该如何维护商家利益呢?
江苏苏州相城区大闸蟹经销商高晶:最直接的手段还是需要平台来监管,如果说这段视频上传到平台,平台能够自动识别出这是由某个软件制作出来的AI视频,就会给我们商家省去很多麻烦。
AI成为造假新工具
事实上,随着AI技术的发展和普及,AI正沦为“羊毛党”占便宜的新工具。
据蓝鲸新闻,一服装店的电商客服提到,有顾客声称收到的连衣裙领口有严重脱线,并附上了一张图片。但实际来看,脱线处的光线角度与整件衣服的光影明显不符,且边缘存在典型的AI生成痕迹。“这种明显造假的情况,还要坚持仅退款,实在让人难以接受”。
图源:蓝鲸新闻
另据三秦都市报,王强在西安东郊经营着一家主营陶瓷工艺品的店铺。据王强讲述道,他的客服账号收到一条售后申请,买家称“杯身有裂纹,申请仅退款”,并附上了杯身有多条裂纹的图片。
图源:三秦都市报
王强邀请买家视频验证,买家却未接受,还表示不用退款了。这一异常举动让王强产生怀疑,他使用电脑里的AI检测工具对图片进行分析,系统显示该图片“92%概率为AI生成”,杯身裂纹处的像素分布与周围真实釉面存在明显差异。
对于此类行为,陕西省法学会民法学研究会副会长、陕西众致律师事务所高级合伙人刘东晨指出,消费者使用AI图像造假,以产品质量有问题向商家申请退款的行为,已触碰法律红线,绝非“钻漏洞”那么简单。
刘东晨指出,消费者利用 AI 技术造假的行为已涉嫌诈骗,根据诈骗情节轻重,相关责任人可能面临治安处罚或刑事追责。此次高女士遭遇的AI合成死蟹视频及图片诈骗事件,正是这一行为的典型案例。