AI换脸软件走红网络,如何应对道德与法律的双重考验?

AI快讯 1年前 (2023) liulian
3,193 0

最近,人们越来越关注因AI换脸技术导致的诈骗案件。随着AI大模型的发展,“换脸”技术的应用范围越来越广,技术突破还使得换脸后的人物表情、动作细节更为逼真,一旦被不法分子利用,可能会带来严重危害。据记者调查,网络上的AI换脸软件的获取非常容易,但利用AI换脸软件存在法律边界,如何做好事前监管?

在当前AI大模型及算法的突破下,AI换脸正在实现更大范围的应用,引发更多担忧。许多高价的付费AI换脸软件在网络上盛行,这些付费软件与免费软件有着截然不同的效果。

AI换脸软件走红网络,如何应对道德与法律的双重考验?

搜索“AI换脸软件”后联系的一个开发者提供了使用其软件实现换脸的示范视频,肉眼来看,换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。

在他销售网站上,该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴拼接到一起,生成全新“数字人”的视频。该付费软件提供从初级(LV1)到超级(LV4)再到全套(LV5)等级的不同版本,全套(LV5)版本更为逼真,还支持直播换脸。

AI换脸软件走红网络,如何应对道德与法律的双重考验?

这意味着可能会有更多难以控制的风险。类似于deepfake这样的AI换脸技术是开源的,最近的AI大模型火起来,它的算法又有了更新,就可以集成多种功能打造出一个完全崭新的“数字人”或者叫“AI人”,监管的成本和难度高了好几个数量级。

AI换脸软件走红网络,如何应对道德与法律的双重考验?
版权声明:liulian 发表于 2023-06-01 23:58:23。
转载请注明:AI换脸软件走红网络,如何应对道德与法律的双重考验? | 11680导航
广告位7

暂无评论

暂无评论...