一公司用AI合成虚假火灾视频!3人被刑拘

中国消防   2023-07-09 07:34:49

近年来,人工智能技术

大力推动了社会发展进步

但这一技术


(资料图)

也被一些不法分子盯上

用来非法牟利

近日,浙江绍兴上虞

网安民警在网上巡查时发现

有网民发布了关于

绍兴上虞工业园区

发生火灾的视频

短时间内,视频浏览量迅速上升

民警还发现该账号下同类型的视频,涉及杭州、宁波等地,经核实均为谣言视频。

经过进一步分析研判,民警锁定山东枣庄的一家科技公司有重大作案嫌疑,掌握证据后警方立即展开收网行动,将三名嫌疑人抓获。据嫌疑人交代,上虞火灾是他们利用AI技术合成的视频。

▲网络虚假视频

据报道,该团伙首先在网上搜集一些热门话题,通过AI一键生成视频,再通过相应的视频号发布到网上。

据初步统计,今年5月以来,该团伙利用AI技术在网上发布未经核实的虚假视频3000个以上。为了获得流量,博人眼球,不断利用AI技术散布谣言,以此牟利。

犯罪嫌疑人张某芹说,发布这些内容,视频、文章等,有阅读量就会给收益。

目前,三名犯罪嫌疑人已经被绍兴上虞警方依法刑事拘留 ,案件还在进一步侦办中。

互联网并非法外之地

为了恶意博取流量

制作虚假视频

编造火灾谣言以非法牟利

必将受到法律的严惩

请大家做到

“不造谣、不信谣、不传谣”

共同维护

风清气正的网络环境