抖音对AIGC亮明牌,AI虚拟人带货或将面临最大危机…

资讯7个月前发布 hiailand
444 0 0

12月19日,抖音官方发布了一则重要公告,宣布将严厉打击包括AIGC在内的6种新型违规行为。

所谓AIGC,指的就是当下发展势头正劲的生成式人工智能。之所以要打击AIGC,其实是为了重点打击新型养号行为。

01 抖音志在打击黑灰产,而AIGC造假成了绕不过去的“路障”

事实上,抖音此次重拳出击的主要目的是打击黑灰产业违规“涨粉养号”的行为。因为抖音在日常巡查中发现,很多黑灰产组织正视图通过AIGC造假,盗取他人直播内容并加以剪辑,以官方名义公布培训课程等方式,批量发布低质量的违法违规内容,并试图以此达到快速涨粉,养号的目的。

其中,利用AIGC技术创建虚拟人物,使其冒充真人进行直播便是其中最典型,最常见的一个。如果你有刷短视频的习惯,就一定曾刷到过虚拟人在直播或是在说话的内容。他们或是仿照真人主播一样进行虚拟带货,或是在那里大谈特谈情感鸡汤,知识科普,理财致富等方面的内容。

抖音对AIGC亮明牌,AI虚拟人带货或将面临最大危机...

相较于真人主播实打实的进行直播带货或者发布内容,用虚拟人来完成这些工作就显得轻松许多。试想一下,真人主播很难进行时长为8-10小时的直播,这个工作强度高负荷到难以想象,但虚拟人不存在无法适应高强度工作的问题。

即便不进行流量投放,单靠拉长直播时长这一点,也足以完成养号涨粉,为粉丝进行人群画像,从而获得更精准的新客的目的。即便虚拟人的直播实绩没有真人理想,即便虚拟人的直播间只有几十人或十几人,也依然不乏支付订单和评论区留言的出现。

抖音对AIGC亮明牌,AI虚拟人带货或将面临最大危机...

02 抖音曾出手堵AIGC的漏洞:显著标识,后果自负

事实上,这并非抖音第一次对AIGC提出规范和要求。

早在今年5月9日,抖音官方曾发布消息,首次对AIGC提出平台规范和行业倡议。敲重点来说,其中有两方面的内容很关键,也格外引发关注。一是对AIGC内容的标注,二是虚拟人的注册认证。

先来说说对AIGC的标注,简单来说就是要“贴水印”。

抖音在相关规范里明确表示,包括AI写作,AI文字编辑,AI语音合成在内的,有可能造成混淆的深度合成服务,都要明确的打上水印,做出标注。不管你使用的是今年大火的ChatGPT,Midjourney,国内的文心一格,文心一言等文字和图片生成产品,还是魔音工坊等语音生成类产品,都在“做标注”的范畴里。对于标识方法,简单来说,就是要在各类图片和视频文件的“左上角”打上“AI生成”的字样,以及使用的生成工具的名称与公司名水印。

对于抖音要求的“贴水印”,多数服务商的反应较为乐观,普遍觉得加上水印不会影响内容的传播,反而能达到以正视听,确保真实性的目的。很多人认为“这是非常正确的决定”,也必将会在未来“成为常态”。

抖音对AIGC亮明牌,AI虚拟人带货或将面临最大危机...

相比于AIGC内容的标识,虚拟人的情况就复杂了许多。

彼时,抖音在公告中明确提出,支持虚拟人发展,但虚拟人需要认证,并且禁止完全无人的AI直播。根据用途,抖音上的虚拟人可为两类,一类是“娱乐型”的虚拟主播;一类则是功能型的虚拟人,最直观的就是那些需要完成直播带货目标的虚拟人。

不过,对于虚拟人直播带货的行为,用户们并不算太买账。观看直播的用户们会觉得与真人主播相比,虚拟人的直播内容质量较差,语言木讷,毫无新意可言。对于广大商家来说,利用虚拟人带货也并非上上签的选择,虚拟人不仅很难完成KPI,实现创收,还容易被平台判处违规。

事情的发展的确如此。时隔半年之后,抖音官方提高了门槛和要求,直接提出了“禁止AIGC造假”的要求,向AIGC亮出来了明牌。算是进一步明确了抖音官方的立场和属性。

03 抖音率先雷霆出击,或许会成为行业的风向标

ChatGPT打开了人工智能的新大门,让我们见识到了人工智能的强大,与此同时,相应的潘多拉魔盒随之开启。

随着技术的不断成熟,AIGC逐步从概念阶段走向实际落地阶段,争议和风险也就应运而生。一段时间以来,关于人工智能生成内容以假乱真,数据泄露以及侵权的案例频频出现,也就进一步放大了人工智能可能社会造成的危险。

抖音对AIGC亮明牌,AI虚拟人带货或将面临最大危机...

如今的AIGC在短视频赛道被广泛应用,创作者,主播,用户,商家,广告主等平台生态参与者无一例外,都会涉及到AIGC。这也是抖音率先出击,出台相应的行业规范的重要原因。

监管和创新技术,创新模式之间永远存在着“跟”和“被跟”的关系。一定会先有技术,然后产生风险,继而产生规范的必要。有了监管,行业的发展会朝着更有利的方向发展。

当然,规范的出台并不意味着一劳永逸。在执行监管的过程中,我们仍然会遇到实际上的问题。譬如该如何进行具体的责任界定?该如何进行取证?但无论如何,对于人工智能的监管已经提上日程了,这是十分值得欣慰的。

本文来自微信公众号“新火种”(ID:gh_838b518e4b33),作者:小岩

© 版权声明

相关文章

暂无评论

暂无评论...