点赞
|
6
央视新闻2小时前
如今,生成式AI广泛应用,迭代迅速,给生活带来了不小的改变。技术普及大幅降低了生成式AI的使用门槛,从AI视频生成到AI聊天陪伴,丰富大众生活的同时,个别商家也以此为牟利工具,背弃技术伦理与法律底线,借生成式AI大模型,行违法“造黄”之举,污染网络空间、败坏社会风气。

所谓“擦边赛道”违法牟利
利用AI批量制造黄色视频
按照消费者举报的线索,记者在多个互联网平台上进行了检索,眼下,不少平台上有人在公开兜售“利用AI技术制作色情擦边视频”的教程,号称仅凭一张图片,甚至几句话就可自行“手搓”“让自己满意的大尺度视频”。

教程帖子标着“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入5位数”的标题,再配上色情露骨的画面,这些教程就在网络平台上堂而皇之地宣扬如何让用户“从无到有”“手搓”“色情擦边”视频。

这些教程为了兜售自己的产品,还刻意引导用户如何规避监管。比如使用境外图生视频AI软件、将程序部署在本地电脑离线运行等。

众多社交平台上,一些博主还发布售卖各类AI生成擦边视频的“提示词”的帖子。所谓“提示词”,就是指挥AI工作的一系列关键指令,这个指令的内容和精准度,直接决定了AI生成的视频究竟是怎样的内容。商家表示,只需将购买到的提示词复制到各大AI视频生成软件,即可获得提示词对应的擦边视频。

记者以9.9元和9.8元的价格,分别在“万象小店”和“楠楠素材库”下单,购买了两组提示词。点开商家发来的文件,记者看到提示词描述十分详细,从发型、服饰、身材,到姿势、表情甚至腰部、胯部扭动的幅度,提示词都做了极其细致的刻画。重要的是,商家还将一些敏感词汇翻译成英文,以此来规避网络上的监管。

记者对用户使用较多的10款AI应用进行了实测。在测试过程中,记者发现,如果输入的提示词表述较为“露骨”,多数AI应用会触发审核机制并拒绝生成内容。然而,这条防线却很脆弱。只要将提示词修改得更加隐晦,便有可能绕过限制。

例如一款拥有1.4亿用户的某知名AI应用,记者按照购买的提示词教程,选取了一张美女图片,并随意选取一段提示词,点击生成。一分钟后,一个美女擦边视频便生成了,视频中的女性身材火辣、穿着暴露、舞姿暧昧。

在这款名为“哩布哩布AI”的AI应用里,记者输入在网上购买的提示词后,仅仅几分钟,这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中,没有触发平台任何限制机制,违规视频顺利生成。同样的问题也出现在市场上其他常见的AI应用平台上。

除了这些通过提示词,以问答的模式生成擦边或者色情视频的AI平台,市场上更有专门靠AI生成色情视频牟利的软件。根据消费者举报的信息,记者找到了网络上这款AI照片生成器;这款软件号称“免下载,快速生成,图片、视频换脸”;购买者可以根据充值金额的不同,通过AI技术一键快速替换原片,生成虚构的色情照片,只要购买者愿意付费,这个软件就可以通过一张图片,生成全裸照片和色情视频。

境外涉黄AI软件在社交平台销售
虚拟陪伴软件成涉黄聊天软件
AI的可定制性让其高度拟人化,通过投喂数据,用户可以将AI虚拟陪伴软件中的智能体打造成自己心目中最理想的情感投射对象,因此,与AI“谈情说爱”正被越来越多年轻人尝试和喜爱。

但业内人士介绍,这些软件大多是境外的AI聊天软件,它们普遍尺度很大,充斥着色情内容。这些AI软件并不能从国内应用市场上下载,一些不法分子从中窥见了商机,他们开发出各种各样的灰色通道,绕过监管,让国内的用户可以下载并使用这些境外大尺度的涉黄AI聊天软件,而且以此牟利。

记者在某社交媒体平台上搜索“AI语聊”,在搜索结果中看到,大量以“可开车、脸红心跳、开放、无限制词”等为关键词的帖子。点开帖子,记者在评论区中随处可见用户发送各种无限制词的AI聊天软件使用分享,以及软件的下载链接和邀请码。

同样,记者在某短视频平台上搜索“AI聊天软件推荐”,在搜索结果中也看到,各种分享推广的热聊帖子,在帖子主页以及评论区中,老用户们互相分享、推荐自己喜欢的AI聊天软件,并同时邀请新用户进入分享群。

知情人士告诉记者,由于该AI聊天软件是境外的软件,没有在国内正规的应用下载商店上架,因此,为了获得大量国内的用户,这些推销AI聊天软件的平台,就通过发放金币以及充值返利的方式,激励老用户拉新,并为用户发帖引流提供帮助,以此逃避监管的同时,实现获利的目的。

随后,记者点击进入下载好的“Dady”App选择一个AI角色进行体验。在聊天过程中,AI也会自动生成3种回复提示,以便用户能有更好聊天体验,而聊天的内容几乎都是围绕着各种色情话题展开。

恋爱的感觉、及时的回复、量身定制的人设,吸引着众多年轻人沉浸其中,其中更不乏未成年人。

根据商家指引,记者登录境外应用市场并下载到这款“flai”AI聊天软件,若想顺利打开“flai”软件还需要下载名为“快喵”的VPN加速器。

根据国家《生成式人工智能服务管理暂行办法》第十七条规定↓

违规下载境外AI软件容易带来信息安全风险
我国AI治理框架正在加速形成
专家告诉记者,App上架有一系列审核要求,它不光是一个下载的渠道,同时也有安全审核的义务。如果是境外软件,可能没有人审核,手机下载之后,可能带来病毒或其他信息安全隐患。

根据《生成式人工智能服务管理暂行办法》第七条↓

2025年4月网信办开展的“清朗·整治AI技术滥用”专项行动明确指出,将重点整治利用生成式人工智能技术向公众提供内容服务,但未履行大模型备案或登记程序的违规AI产品。

2026年4月10日,《人工智能拟人化互动服务管理暂行办法》正式公布,《办法》中进一步明确了安全评估和算法备案的相关要求,同时还对未成年人和老年人使用拟人化互动服务作出了相关规定。

来源|央视新闻(版权归原作者所有,如有侵权请联系删除)
奔流新闻线索报料方式
报料热线:13893646444(微信同号) 13993123681 0931—8159555
报料邮箱:1902937948@qq.com
编辑:柴立华
点赞
|
6