这几个女网红，越来越假，还有点吓人。

伴随着开源大模型的不断壮大，维修费用不断降低，应用领域日益丰富。

普通用户，也可以现学现用，吃很多新鲜的食物。 AI 应用。

例如，机哥以前写过。「豆包一句话修图」，所有使用过的都说好。

但是真的要说，AI 技术性的东西，就像菜刀一样。

好人们只会用它来砍瓜切菜，保护自己的厨房。

从这一两个月到现在，机哥已经看过好几个例子了。「AI 作恶」的事情。

AI 再次被用来做坏事

如今 AI 制图技术有多猛，机友们应该能够从各种新闻或实际测试中感受到。

早在 2023 2008年，我聊到小红书里突然出现了很多美女网红。

只是和真人不一样。

其实这些账号里的美女照片并不是真人，而是背后的运营商。 AI 工具生成。

时间来到 2024 年 9 月。

在抖音、小红书等平台上，又出现了新的 AI 网红账号。

在 Flux 在模特的加持下，这些账号的美女照片，简直达到了以假乱真的水平。

关键在于这种技术迭代至今，使用门槛几乎为零。

网上有一个开箱即用美女生成的工具，描述你想要的动作、衣服和人物表情，按下。「立刻生成」就完事儿。

此时的 AI 画画，成了一把锋利的菜刀。

有些人用来切菜做饭，有些人用来砍人伤人。

据《澎湃新闻》报道。

最近，一些团伙批量生成。 AI 美丽，在短视频平台上起号引流，进行“广撒网”诈骗。

具体操作并不复杂。

团伙内部分工合作，有人专门使用。 AI 调整参数，生成美女。

有些人充当聊天业务员，与受害者聊天“建立夫妻关系”。

有些人专门提供虚假证件和病例，一步一步地骗取受害者的钱。

而有时，你真的不能怪受害者警觉性不高，或是人傻钱多。

由团伙提供的 AI 美丽的照片可以看出，她们" AI “炼药”的技术已经非常火了。

无论是人物主题，还是背景街道，都看不到任何明显的漏洞。

（团伙运用 AI 生成图片)

（团伙运用 AI 生成图片)

机哥盲目猜测一手啊。

那个团伙应该还是用的 Flux Comfyui 这套工作流程，可以在控制人脸不变的前提下，生成许多不同背景和衣服的照片。

这种技术的主要特点是生成效率高，而且效果足够好。

很多网友看到这个团伙生成的图片，都不由得背后发凉。

假如被骗子盯上的是自己。

那么就不能被狠狠地炸掉金币啊。

甚至那些精通刷机的人 Root，每日在线高韧性冲浪，熟悉诈骗套路的老哥。

遇到这样的照片，也很难一眼看出是真人还是真人。 AI。

不管怎么说，官方公告的最终结果是——

那个 10 人类团伙，通过 AI 生成美女，聊天建立关系，骗取一站式财富，骗取近千名男性，涉案金额也来到这里。 200 多万元。

所以 AI 发展得太快，也不一定是件好事啊。

除了表面上的诈骗，机哥最近也看到了一个非常离谱的。 AI 玩法：数字人。

顾名思义，就是用 AI 生成特定的人物画面和配声，说些有针对性的话来欺骗中老年人的互动，关注甚至付出代价。

机哥刷短视频，刷出了很多类似的数字账号。

有句话说啊，光看封面我根本看不出他不是真人。

还得点开“欣赏”几个视频，才刚刚开始看到端倪。

看到这个哥们整个身体都很僵硬。

而且总是皱着眉头，情绪稳定得可怕。

配音更加重量级。

刚开始听的时候可能觉得没有什么违和感，但是多听几遍就会发现人机的味道太浓了。

人类说话应该有一点抑扬顿挫，情绪波动也没有。

更加令人感到逆天的，是帐号的内容调性。

说白了，纯粹是为了家里有点多余的钱，但是对互联网了解不多的中老年人。。

我向大家展示一些片段就明白了。

这个哥们一会儿说要给“姐姐”们跳舞。

接着让“姐姐”们评价一下跳得怎么样。

录像标签也是演都不演，标了个标签。# 姐弟和# 情绪。

大姐大妈们，看见一位穿着西服的小伙子，搁着这热情的舞蹈。

早已失去热情多年的心，又久违泛起波澜。

但是天上不会掉馅饼。

因特网上，也不会有真正免费为你跳舞的人。

在其它视频中，机哥可以看到，帐号中的数字人总是在视频结尾，引导观众到窗口消费。

有时这个数字人甚至会开始带货直播。

左下窗带的货物也基本上是保健品、家具日用品和生活消耗品。

大家都知道吧。

这类产品具有明显的特点，价格便宜，退货率低，一般都可以使用。

即使大姐大妈本来就不需要。

主持人还可以用花言巧语哄他们当场下单。

"姐姐，这是小弟花了很长时间为你准备的，拍完之后要告诉小弟哦。"

“姐姐，你知道吗？当我浏览你的作品时，我似乎看到了一个天使。我真的不能用语言。不知道姐姐能不能帮弟弟下单。”

接着直播间的弹幕，就变成了这样。

对我们来说，这只不过是一个极高的绝世水平带货。

但是大妈们又怎么知道，在镜头前对她嘘寒问暖，深情地表白的人，其实是一个 AI 数字人呢。

更加逆天的是。

机哥搜索相关关键字，发现这哥们竟使出了影分身之术。

关键是几个直播间的人气和人气都不低。

很明显，有多少大姐大妈，为了讨好这位可爱的弟弟，愿意掏钱下单。

有多少真诚，又有多少数字人由代码和数据组成，骗得死去活来。

它不会是第一个，也不会是最后一个。

总而言之，机哥在平台上顺手一搜，就能看到贼多这种类型，内容文案完全是针对中老年人的。 AI 账号。

一口一个姐姐，一口一个家庭。

有针对大姐大妈的，自然也有针对大叔大爷的。

最后的目标，也不过是让姐姐们打开商品窗口，掏钱下单。

根据我全网高韧性深挖。

这样的 AI 数字账户，可谓遍及各大平台，流程基本相同。

文案以情感、养生为主，自称也是妹妹、小弟，给中老年人一种亲切的感觉。

最后顺利带货变现一条龙。

机友们也许会说，这些帐号实际上流量也不多啊。

的确。

但是由于搞这个东西的成本低，背后的运营团队，基本上可以用一个 AI 图像，运营数十个或数百个帐户。

能够爆炸一段视频，可以带来很多好处。

而且聊到这里，机哥心里多少有些复杂。

也许从一年前开始吧。

市面上关于 AI 诈骗、AI 爆炸老人金币的案例数不胜数。

有些直播间，使用 AI 换脸技术，把主播的脸换成大明星带货。

还有一些人，用靳东的人脸和声音资料，生成了90%与自己相似的数字人形象，在短视频平台上诱导中老年人互动和消费。

这些狗也可以使用它们的团队 AI 变脸俄罗斯美女，把大爷们的养老金榨得一滴不剩。

现在明白了。

这类事的本质，不是特别的。"书生迷住了大妈"常规复现了吗？

一位学者倒下了，千千成千上万。 AI 变脸、AI 数字帐号原地起号。

只是这次不同的是。

以前忽悠人的，还算个人。

现在忽悠人的，甚至不是人。

有时机哥觉得平台只是在视频下面标注一个小字。——"内容由 AI 生成"，一切都不太有用。

那些低质量、批量、明显诱导消费的人 AI 账号。

留给它玩，又有什么意义呢？

好消息是，抖音前阵子已经提出要出手骗老人。 AI 账号。

这里的小红书，今年也将同样。 AIGC 黑灰产品，是重点打击目标。

不管怎样，希望 AI 大模型和 AIGC，能够回到真正实用、向善的价值。

本文仅代表作者观点，版权归原创者所有，如需转载请在文中注明来源及作者名字。

免责声明：本文系转载编辑文章，仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布，请及时与我们联系进行审核处理或删除，您可以发送材料至邮箱：service@tojoy.com