紧接着“双十一”购物热潮，不少电商卖家又遇到了新问题。尽管运送的物品看起来完好无损，但买家收到的退款请求仅包括一张“损坏的照片”。经过仔细调查，确定这些“证据”实际上是人工智能生成的假货。记者在网络平台搜索相关词语时，看到不少反映相关经历的帖子。记者联系了多位网店店主。他们经历了什么？这些返回的人工智能处理照片是如何被发现的？
使用人工智能掩盖产品缺陷
诱骗卖家退款的行为
据网络零售商王先生介绍，11月13日中午，收到一位在该店购买衣服的顾客留言，称：“我买的衣服太小了，肩膀太紧了”，并要求她退货。王说，他告诉网上购物者，他们不需要退回衣服。ng，可以直接扔掉以获得退款，因为衣服是根据买家提供的尺寸定制的，如果退回则无法再次出售。两人聊天记录显示，面对顾客的要求，王某回复：“请把衣服脱下来，拍照，然后在后台申请退款。”
原价179元的衣服购买时有折扣，实际支付金额为60.52元。从王先生提供的退款详情界面可以看到，双方的互动不到一个小时就完成了退款。
但随后，王先生仔细查看了买家发来的裁剪衣服的照片，发现很多细节与常理相悖。他怀疑这张照片实际上并不是裁剪衣服后拍摄的，而是用人工智能工具生成的假照片。于是，王先生向平台投诉了这种行为，并立即ly收到了退款。
一家销售毛绒玩具的网店店主余女士也向记者讲述了自己近日来的经历。买家从您的商店购买了玩具，但当他收到商品时，他发送了一张照片，显示该商品有问题。
卖家Yu-san：照片上有一些烧焦的痕迹。醋。当我看到照片时，我感觉自己掉进了火里。
该用户向客服发了照片，声称“玩具破损，皮脱落”，并以“质量问题”为由要求部分退款。
但店主于先生认为，毛绒动物的衣服上有明显的陶瓷制品痕迹，这种使用痕迹有悖常理。于先生很困惑，认为这张“奇怪”的照片与朋友提到的AI绘图很相似，于是他保存了照片并尝试将其上传到AI工具中以验证照片的真实性。
余业务员：这张照片我发给你了o AI 并要求它。 AI表示，这张照片中有明显的AI痕迹。
于是，店主于某向平台投诉，平台以“消费者提供的照片是AI生成的，属于恶意退款”为由，拒绝了用户的退款请求。经审查，电商平台驳回了用户的退款请求。
除了王先生、余先生等网店卖家要求退款外，还有人在网络平台发帖称自己被骗，没有收到退款。
恶意网购退款行为
违法吗？
网购退款的前提是求真，但人工智能造假照片也是有可能的。然而，它却成了“诈骗工具”。利用这样的漏洞难道就是“不道德”吗？是否有诈骗嫌疑？在法律层面应该如何界定？卖家该如何维护自己的合法权益？
《民法典》规定买卖双方在订立合同的过程中必须尊重诚实信用原则。王先生和于先生的经历表明，他们遇到的买家实际上违反了这一原则，并使用欺骗手段，试图获得不公平的优势。
中国政法大学刑事司法系教授郭志龙：如果数额较小，实际上可能属于民事诈骗罪，也可能属于治安管理处罚法规定的非法诈骗罪。
专家表示，如果买家被骗取大笔资金，可能会受到刑事指控。
郭志龙：刑法规定数额较大才构成诈骗罪。非法占有必须有主观目的。因此，如果您没有正当理由要求退款并且不假思索地进行了退款，或者您明显夸大了并将最初的小额退款变成了较大的退款，那么这种情况可能会发生。也可能是诈骗。诈骗金额从小额到大额，例如制作照片、视频骗取数万元退款。
当遇到此类AI诈骗或退款诈骗纠纷时，专家提醒商家尽快保留聊天记录和虚假图片收据。无论是通过平台投诉还是诉诸司法渠道，完整的证据都有助于保护自己的权益。
郭志龙先生：比较常见的一种独立取证，就是将客户发来的照片、视频放入下载的AI识别软件中，整个过程都会被录音并发送给法庭。只要视频录制过程完整、真实，法院一般都会认可证据的有效性。特别是如果金额较大，想要更完整的测试，可能需要与专业机构合作，记录整个评估过程并出具专业证明专业评估文件。
人工智能生成的内容被滥用
怎样才能从源头上控制呢？
人工智能地图原本是一种为用户提供便捷服务的技术手段，如今却被别有用心的人用来获取不正当利益的工具。那么，除了事后保护加盟商的权益之外，我们还能做些什么才能从根本上解决问题，避免类似事件的发生呢？
根据《人工智能生成的合成内容显示办法》第三条，人工智能生成的合成内容的显示包括显式识别和隐式识别。那么这些人工智能制作的照片标志去了哪里呢？我们的记者对这个问题进行了测试。
以苹果盒子为例，记者首先拍摄了苹果盒子的照片，并将其上传到人工智能平台。输入一个简单的命令后，就会出现一盒腐烂发霉的苹果的图像出现了。效果堪称以假乱真的。借助其他人工智能软件，生成的照片大部分都能区分真假。很难做到。那么这样生成的AI图像是否有相应的标识呢？
记者发现，实测AI软件生成图像后，图像的一角有相应的AI生成的标识。然而，序言指出，一些人工智能程序有“无水印下载”选项。通过此通道下载的图像没有标识其为人工智能生成图像的徽标。
根据《人工智能生成合成内容展示办法》第四条规定，服务提供者提供的生成合成服务必须在图像内适当位置添加显着标记。也就是说，这种“AI生成的识别信息”是必要的，不能随意删除，所以AI服务商必须采取相应措施责任感。
AI服务商需加强源头管控
当网店老板余先生面对疑似人工智能的照片时，他的第一个想法就是用人工智能软件来区分它们。那么AI软件能识别真伪吗？记者分别下载了带水印和不带水印的图片进行了真实测试。
从照片中可以看出，基本上任何AI软件都可以准确识别带有AI标志的图像。
记者随后将“下载的无水印”照片上传到人工智能软件中，进行多次测试。当诸如“照片是AI合成的吗？”等问题时以及“照片有任何AI篡改的迹象吗？”，AI软件的反应并不太一致。经过多次测试，有时这些人工智能生成的图像被正确识别，但有时响应不正确。
此外，如果徽标是从包含 AI 徽标的图像中裁剪出来的，则它是不同的AI软件很难全面、准确地识别图像是否有AI生成的痕迹。
2023年1月10日起施行的《互联网信息服务深度综合管理规定》第十六条也规定，服务提供者必须依照有关法律、行政法规和国家规定，采取添加标识、存储注册信息等不影响用户使用其服务生成、编辑的信息内容的技术措施。第十七条规定，沉浸式模拟场景生成或者编辑服务以及其他能够生成或者大幅修改可能使公众产生混淆或者误解的信息内容的服务，必须在生成或者编辑的信息内容的合理位置和区域内显示明显标志，提醒公众谨慎构图。换句话说，技术开发者必须添加ex将显式和隐式识别信息添加到生成和合成文件的内容中，以便用户可以从头开始看到并在以后查看。
郭志龙：要求服务商添加广告标识。它应该被标记在显着位置，以便观众一眼就能看出这是人工智能生成的内容。
专家认为，人工智能生成内容的标准化治理，既需要监管标准的严格限制，也需要服务提供商的积极行动。对于食品和产品等与消费者权益直接相关的合成内容，人工智能服务提供商将需要加强源头控制。
AI算法工程师肖子豪：AI服务商内部需要更仔细地设计自己的产品。如果合成的内容与食品或某些产品有关，则可能需要用户对说明的意图进行更多判断，并且可能会增加水印区域。一些人工智能平台，尤其是数量较多的人工智能平台用户负责监控用户使用该工具的情况，对一些确实有违法意图的用户进行较严厉的处罚，并提供持续监控。对于整个生态系统来说，双管齐下的方法会更好。
人工智能技术专家表示，卖家很难通过肉眼查看人工智能处理的图像来得出结论，交易平台应提供相应的技术手段来识别。值得注意的是，有必要提供
郭志龙：事实上，AI生成的识别信息看起来非常逼真，肉眼完全无法识别。随着技术的进步，它变得越来越现实。交易平台必须及时有效实施相关检测技术。这意味着当买家提供照片或视频时，平台会自动检测到。一旦检测完成，将退款或退款交由商家处理。
不要用欺骗手段“抢”羊毛。
依法永久保护科学技术。
AI绘图很方便，但要注意不要用错。使用人工智能伪造有缺陷的照片并骗取退款可能看起来很愚蠢，但这实际上触及了法律的核心。这不是省钱的“小聪明”；而是一种省钱的“小聪明”。这是不诚实的，涉及欺诈，情节严重的可能构成欺诈。
技术应该永远发展。我们在享受新技术成果带来便利的同时，也要保持诚信和尊重，防止大科技成为“错误思想”的工具，共同维护市场公平。
（央视记者曾晓丽、庞海波、张一丹）