近日，曝光了一起新的与人工智能相关的骗局。据悉，数千名由人工智能生成的影响者被发现在一款图片分享应用以及其他社交网站上活动，他们使用窃取的真人照片来迷惑用户。 这些人工智能生成的影响者看起来如同真实的用户，他们发布照片、评论和与其他用户互动，但实际上他们并不存在于现实世界中。这种假冒行为不仅混淆了用户，还可能导致一些不法行为，如诈骗和虚假宣传。 该骗局的曝光引起了社交网站和应用开发者的关注，他们正在采取措施来识别和清除这些虚假账号，以维护用户的安全和信任。此次事件也再次提醒用户在社交网络上保持警惕，不轻信陌生人和未经证实的信息。
该骗局包括从真实模特和成人内容创作者那里窃取视频，给他们人工智能生成的面孔，并通过Patreon、OnlyFans比赛和各种人工智能应用程序等约会网站的链接将他们的身体货币化。
人工智能生成的影响者在Instagram上与人类竞争
四月，404媒体首次报道当这种做法首次浮出水面时。这种做法现在已经成为一种流行的趋势，让许多人认为Meta运营的社交媒体要么无法或不愿意阻止其平台上看似的趋势。
与此同时，Instagram上的人类内容创作者表示，他们现在正在以一种影响其生存能力的方式与人工智能内容竞争。
借助苹果 App和Google Play商店上托管的一些现成的人工智能工具和应用程序，人工智能的影响现在可以很容易地创建他们的账户并从中获利。据《连线》报道，他们审查了由人工智能和Discord频道生成的1000多个Instagram帐户，在这些频道中，制作这些内容的人分享技巧并讨论策略，以及解释如何通过“人工智能皮条客”赚钱的几份指南。
有线发现这个在Instagram上曾经很小的问题已经发展成为一个巨大的实践，这与对未来社交媒体格局的几项预测一致，人工智能生成的内容将超越人类。
在Instagram上推广自己作品的成人内容创作者现在担心与这些人工智能盗版账户直接竞争，其中许多账户使用从成人内容创作者和Instagram模特那里窃取的照片和视频。
埃莱娜·圣詹姆斯一位成人内容创作者表示，虽然Instagram的算法可能还有其他变化，但自从Instagram上人工智能生成的影响者账户激增以来，她的“影响力大幅下降”，从每月100万到500万的浏览量。在过去的10个月里，她还没有突破100万，有时浏览量低于50万。
“这可能是我的观点下降的原因之一。这是因为我正在与一些不自然的东西竞争。”圣詹姆斯。
亚历克西斯·曼扎利斯康奈尔科技大学安全、信任和安全倡议主任、谷歌前信任和安全情报负责人在404 Media研究中编制了一份约900个账户的清单。
社交媒体很快就会变成什么样子的标志
Mantzaris表示，这并不是什么全新的或令人惊讶的事情，因为这只是实现了早些时候关于人工智能技术及其在社交媒体平台上的采用的预测。
曼扎里斯说：“这似乎是社交媒体五年后会是什么样子的一个可能迹象。”。
“因为这可能会进入互联网的其他领域，而不仅仅是Instagram上有吸引力的人。这可能是一个迹象，表明情况会非常糟糕。”
曼扎利斯。
在1000多个人工智能生成的Instagram影响者账户中，至少有100个账户包含deepfake内容，这些内容获取了现有的视频，通常来自模特和成人娱乐表演者，并将他们的脸替换为人工智能生成，使视频看起来焕然一新。
这些视频看起来像是新的原创内容，与AI生成的影响者共享的其他AI生成的图像和视频一致。
Instagram将在收到投诉后采取行动
Instagram表示，只有当账户由正确的所有者或授权代表他们报告的人报告时，才会对账户采取行动。然而，许多有影响力的人表示，提供的频道一直不起作用，因为他们有太多的模仿者账户。
圣詹姆斯补充说，这些人工智能生成的影响者账户中有许多是由我操作的，这一事实雪上加霜。
圣詹姆斯说：“作为世界上的女性，我们赚的钱更少。我们在很多方面都处于劣势。世界上我们确实有优势的一个领域是影响者和模特，所以这只是一个额外的层面。”。
她补充道：“这让我有点自欺欺人，说这是一个假装成女人赚钱的男人。”。
Apple到目前为止，该应用程序未能解决换脸应用程序的“双重使用”问题，这些应用程序可以无害地使用，但通常用于创建非自愿内容，在被问及此事后从App Store中删除。
从零到Web3 Pro：你的90天职业启动计划