AI的迅猛发展,令人喜忧参半。
人们一方面惊叹于那碳基生物无法比拟的强大工作效率,期待AI能帮忙节省不必要的劳动力。
另一方面,却又害怕它模糊现实和虚构的边界,切断人类分辨真伪的能力。
【资料图】
几乎AI诞生的那一刻起,AI造假的恐慌也随之不断蔓延。
(AI热图:川普被捕)
事实证明这一天不会太久。
如今,用AI编造的故事不仅能够蒙骗普通网友,就连全球各大媒体也纷纷上当。
AI新闻造假,全球媒体受骗
上个月,dailymail刊登了一则新闻 —— 22岁的加拿大小哥Saint Von Colucci为了在韩国顺利出道,以防弹少年团的朴智旻为模版,整容了12次后不幸丧命。
新闻瞬间吸引了不少目光。
随后TMZ跟进,印度NDTV、加拿大Postmedia以及韩国的YTN、Osen、star等媒体也都对此进行了报道。
故事有图有真相,从小哥的手术过程到闯韩经历……各种细节应有尽有。
已经被主流媒体筛选过的事实,网友们自然也不会过多怀疑,真情实感地为小哥的遭遇感到惋惜。
可紧接着,此事就迎来了反转……
有驻韩记者、印度《滚石》助理编辑以及美国知名广播电台iHeartRadio等,进一步查证后提出了质疑:这位Saint Von Colucci的故事应该是编造的,甚至这个人可能压根就不存在。
疑点有很多。
文中说他曾为不少Kpop爱豆写过歌,但他死后却没有任何业内人士公开哀悼。
此外,韩媒MBC询问警方后得到的回复是:当时并未收到类似的死亡案例报告。
还有人把他的照片拿去检测网站,结果显示有75%的可能性是由AI生成的。
这件事于是立马被贴上了“AI新闻造假”的标签。
眼看质疑声越来越大,dailymail已经默默删文,TMZ也马上澄清了新闻有误。
但事情到这还没结束。之后又又又迎来了反转。
本月初有媒体报道,Saint Von Colucci的家人正准备起诉他的韩国经纪公司,以及宣称他们儿子的死亡是骗局的记者。
言下之意,报道都是真实的。
然而,这篇报道中又没有任何实质性的证据或采访,也没有家人出镜。已经被骗过一次的网友,根本不知道该相信谁了。
本是一场悲剧,现在成了闹剧。
如今,距离第一篇报道发布已经过了半个多月。调动了这么多来自英媒、加拿大、韩国以及印度等地的媒体,却依旧无法判断一个人的身份是真是假。
这让人深刻地意识到,AI除了捏造事实,更可怕的是会让人失去分辨真相的能力。
AI造谣层出不穷,险些引发社会恐慌
加拿大小哥的事件姑且只涉及到一个人。还有些更恶劣的AI造假操作,不仅会导致社会恐慌,还可能引发针对政府的信任危机。
上个月在国内就有这样一起事件。
甘肃 平凉市公安局崆峒分局网安大队发现,多达21 个网站上同步出现了一条本地“新闻”:甘肃一火车撞上修路工人,致9人死亡 。
如此骇人听闻的标题外加大体量的集中报道,这条 “新闻”的点击量很快超过了1.5万,引发了不少网友的讨论。
但此事纯属子虚乌有,完全就是一个博流量的幌子。
当地网警立刻介入,调查后发现, 犯罪嫌疑人洪某就是利用了AI 技术进行的新闻造假。
他购买了大量账号,通过 ChatGPT全网抓取社会热点新闻素材,简单修改一番就能避开平台的查重审查,炮制出假新闻。 最后再通过购买的软件大量上传至不同账号里,就能非法获利。
这次幸好警方发现及时,在“新闻”尚未引起恐慌时就将犯人捉拿归案。
但此事也足以让人意识到,AI造假后患无穷。
AI技术日趋完美,图片视频以假乱真
随着midjourney、Stable Diffusion等制图工具的兴起,现在用AI生成照片的效果,早就脱离了“一眼假”的尴尬,达到了肉眼难以分辨的程度,正式宣布“有图有真相”的时代已经结束。
专家们一直警告,未来AI技术滥用可能产出各种假闻。其实不用未来,这一天早就到来了。
小到恶搞名人,自娱自乐:
比如,之前有国外网友用Midjourney生成“教皇穿羽绒服”,图片质量之高完全做到了以假乱真,被浏览了2800多万次不说,还引起了不小的骚动。
由于当下没有可以交叉比对的新闻报道,很多网友都信以为真。
大到捏造国际事件,直接改写历史:
还记得2001年时发生在卡斯卡迪亚的9.1级大地震和海啸吗?
当时房屋倒塌,遇难者家属泣不成声,救援人员连夜工作,各国记者都赶往现场报道。
当然不记得。
因为根本就没有什么地震,这些都是网友发在Reddit上的AI图。
这位网友模仿新闻报道总共生成了20多张照片,各种角度都有,伪造了一次大型灾难事件。
虽然图片制作得比较粗糙,不少地方都能看出破绽,但不可否认当时确实骗到了不少人:
“难道只有我一个人自问‘我怎么不记得这件事了?’直到看见版块分区?”
而除了照片,AI的视频造假技术也早就成熟。 deepfacelab等AI换脸软件的成品,只靠肉眼几乎无法分辨。
比如下面这段网友制作的阿汤哥。那几个经典表情,完全就是阿汤哥本汤,是粉丝都会误判的程度。看原视频的话会发现声音也一模一样。
另一段打高尔夫的动作也没什么大问题。乍看之下,根本无从辨别是真人还是虚拟。
这还是2021年制作的,现在技术早就又更迭了无数次。
AI克隆人声,诈骗屡次得逞
人声合成是AI技术滥用的重灾区。
现在的AI模型 —— 比如VALL-E —— 可以做到仅凭三秒钟的语音样本,就完美克隆出本人的声线,甚至连说话的语气和习惯都一模一样。
有不少骗子利用这点进行诈骗。最近,西班牙的小型电影制作公司Peabody Films就成了受害者。
公司的编剧兼导演Bob William透露,此前有人伪造本尼的声音跟他们打电话谈合作。
AI的声音听起来完完全全就是本尼本人,最开始公司相信了,还暗喜这么有名的演员会对自己的剧本感兴趣。
可交谈了几次后,对方开始露出了马脚。“本尼”既不愿意见面,还要求公司提前给他打20万英镑。
众人这才意识到被骗了。好在钱还没打,损失不大。
相比“本尼”事件,另一个骗子明显高明许多。
上个月,化名mourningassasin的网友出售了多首R&B歌手法海(Frank Ocean)的“泄露曲目”。
听了一小段公开片段后,网友们都相信歌曲是真的,因为声音和风格一模一样。
很多歌迷联系mourningassasin购买,他趁此赚了13000多加币。
可后来证明,这些歌跟法海一点关系都没有,全是AI制作的。
当前的AI技术可以根据任何歌手的声音,曲风以及唱歌习惯等进行模仿创作,即便死忠粉也很难分辨真假。
这种情况下,除非法海本人否认,仅靠路人很难打假,这就给了骗子可乘之机。
前阵子还流行过AI版本的公鸭、侃爷以及孙燕姿。
虽然大部分只是出于好玩,但这也恰恰证明了AI技术对音乐行业产生的震荡。
明星们的音频容易获取、模仿,因此是AI诈骗的重点“被害人物”,但这并不表示普通人就不会受到波及。
国外有不少利用AI克隆声音进行诈骗的例子。仅在加拿大涉案金额就已超过百万。
诈骗犯大多通过社交媒体搜集音频素材,之后用AI模仿声音主人的声线,再拿去欺骗他们的家人。
一个月前,美国一位母亲Jennifer DeStefano接到了“绑匪”电话,对方称劫持了她15岁的女儿Brie,要求100万美元的赎金。
电话那头传来了“女儿”的呼救。Jennifer听到的当下就相信了,因为不仅声音,就连哭泣的方式都和女儿一模一样。
好在后来丈夫及时证实了女儿是安全的,骗子才没得逞。
但这件事依旧让人后怕,也给广大网友造成了强烈的不安。
在能媲美“真假美猴王”的技术面前,没人敢保证拥有“火眼金睛”永不上当。
金融诈骗新方式,AI噱头下的骗局
如果说哪个领域的AI滥用能产生最强的破坏力,那多半就是金融圈。
一旦被有心人士利用,其震动足以使无数人倾家荡产。
众所周知,马斯克曾放话要推出一个 TruthGPT人工智能项目,声称要去理解宇宙本质、探索真相。
从狠批AI对社会的潜在危险,再到下海入局……该计划一经公布就备受瞩目。
可没想到,马斯克还没做出什么名堂,这个项目就先被别人拿去骗钱了。
本周三,得克萨斯州监管机构紧急叫停了一项名叫TruthGPT的代币项目。
三月时,它由男子Horatiu Charlie Caragaceanu旗下的两家公司The Shark of Wall Street和Hedge4.ai联合推出。
乍一看名字,不少人都以为该项目与马斯克的 TruthGPT相关,是他旗下团队推出的相关产品。
而该团队其实也传达出了“ 连 马斯克本人都非常支持”的意思。
相关推广页面上还出现了马斯克本人的头像和动画形象,给人的观感是:这已经得到币圈大佬的专业认证了 。
除此之外,TruthGPT代币的官网上,还出现了加密货币交易平台币安的创始人赵长鹏、以太坊联合创始人Vitalik Buterin等行业顶尖人士。
普通投资者看到这里,很容易会被权威人士的背书打动,就这么相信了这个代币的合法性。
再加上该项目还一直对外洗脑自己的超强功用:
使用 Elon Musk AI 的模型,可以分析各种加密货币,从而对各种数字资产进行估价。
同时还能将可投资产品和骗局予以区分。 这样,就能在保证投资安全的前提下获得收益。
宣传文案上大胆写着:根据统计,投资后的收益将会翻上 1000 倍。
整个看下来给人感觉便是:有钱不赚王八蛋。
这一系列操作随后引起了德 州监管机构的注意。
结果调查后发现,这根本就是一场人工智能投资骗局。
项目方借着马斯克 TruthGPT的名号进行宣传,将所谓的代币项目,包装成利用AI模型获得高利润的投资手段。
实质上,他们压根就没有什么人工智能模型,有的只是一个包装话术。
德州监管机构揭发称: TruthGPT代币从未在当地进行合法注册,而且Caragaceanu 的两个公司均未获得运营许可。
总之,这是一个彻头彻尾的骗局。
可怕的是,类似这种假借AI名义进行金融诈骗的行为已非个例。
仅在4月份,美国加州金融保护和创新部门(DFPI)就查出五家公司都在进行AI诈骗。
随着AI技术的发展,揪出一个 TruthGPT代币,也还会有下一个xxx代币出现。
对于金融界而言,应该如何防范,已然成为亟待攻克的一大难题。
AI换脸肆虐侵权,法律保护
AI的换脸技术应该是近年来争议最大、也是民众最痛恨的技术之一。
因为用它给女性造黄谣,几乎就是动动手指的事。
受害者太多了……
此前,一个名叫 Atrioc 的 Twitch主播曾在直播时被网友发现,浏览器显示正在观看色情片。
而色情片的内容,是其他女主播被 AI技术伪造后生成的。
这件事立马引起了众怒。很多网友怒斥 Atrioc 的行为侵犯了女主播们的权益。
但同时,也不乏猥琐人士到处求资源,给受害者带来了二次伤害。
其中一位受害者名叫 QTCinderella。
她发现此事时为时已晚,网络上到处流传着“她的”色情视频。不少人把这当真事一样讨论得津津有味。
QTCinderella 一度情绪崩溃, 在直播中痛哭:
“这种感觉就像遭到侵犯,被利用,看着赤身裸体的自己被肆意传播……不该是我来花钱把这些东西移除掉,也不该是我被骚扰,看着自己的‘裸照’满天飞……我用人格保证,我TM一定会起诉你们。”
类似的遭遇还发生在女生Taylor Klein身上。
大四时她饱受网络霸凌,经常在ins上被陌生男子辱骂。
直到某天Taylor收到好友发来的链接,才明白这是为什么。
链接打开是一个色情网站。而视频的主人公和她长相一模一样,标题还赫然列着她的名字。
Taylor当然知道这不是自己。
原来一直以来,她的脸被AI盗用伪造成了色情片。那些陌生男子因此才会侮辱她是“恶心的bitch”。
(示意图)
她试着向警察寻求帮助,等来的答复却是:她所在的州,目前还没有关于深度伪造色情片的相关法律。
而现有法律中“未经同意进行色情行为”的相关规定,也无法对此进行制裁,因为这些黄片里只出现了Taylor的脸,并不涉及她本人。
无奈之下,Taylor只好和其他受害者联手寻找嫌疑人。
可她们央求警方给嫌疑人打电话后,得到的回应也只是“下次不会再发生”。至于惩罚,压根不存在……
被污名化的受害者已经做了所有能做的,却依然无法得到公平的待遇。因此直到现在,用AI造假黄片的行为依旧屡禁不止。
如果一直任由科技发展,却没有相应的法律政策跟上予以规范,不难想象在这个如此依赖网络的时代,人们面临的最坏后果是什么:
即便看到图片和视频,也不敢轻易相信新闻。
接到家人的电话,需要反复确认是不是真人。
拍摄满意的照片上传网络,隔天发现自己成了黄谣主角,百口莫辩……
人人畏惧虚假的楚门世界,人人却都成了主角。
标签:
上一篇 : 环球新动态:古人冬天的御寒保暖装备,从手暖到脚,比男朋友的围巾都管用
下一篇 : 最后一页
最新推荐
AI的迅猛发展,令人喜忧参半。人们一方面惊叹于那碳基生物无法比拟的强大工作效率,期待AI能帮忙节省不必要
随着天气越来越冷,人们御寒的工具也全部搬出来了,南方人有电炉子,北方人有暖气片,当然近几年又出现了地
上海普冉半导体(以下简称普冉半导体)成立于2016年,总部位于上海张江高科,并在苏州、深圳、韩国等地设有
新华社图片据新华社电连日来,山西平遥200多亩耕地变成粉煤灰填埋场事件引发广泛关注。目前,当地已对事件
原标题:千方百计助经营主体“长得好”经营主体的生长,须臾不能缺少一流的营商环境,否则就会枯萎、凋...
近日,江西九连山国家级自然保护区管理局科研人员在开展生物多样性调查监测时,发现一个罕见的苦苣苔科植物
LED视频处理器怎么连接LED视频处理器怎么连接LED视频处理器的连接:1、输入信号:主通道:2路CVBS,1路VGA
5月14日,2023年苏迪曼杯世界羽毛球混合团体锦标赛在江苏苏州开赛,共有16支代表队220余名运动员参加,分为
综合路透社等报道,法国总统马克龙于当地时间12日官宣,中国厦门厦钨新能源材料股份有限公司(XTCNewEnergy
今天叶紫小编要介绍一款的是索尼的手机。目前是官方标配在128GB的内存。一共有四种颜色,黑色,灰色,红色
1、音程音程指两个音级在音高上的相互关系,就是指两个音在音高上的距离而言,其单位名称叫做度。2、两个乐
1、萧炎不是电视剧角色,而是花样滑冰运动员。后来因伤退入娱乐圈,演过电视剧《浪花一朵朵》,《结爱千岁
1、右键单击菜单中的[设备管理器]选项。2、单击列表中的[显示适配器]选项。3、检查Windows计算机的视频卡。
新易盛5月14日在互动平台表示,公司已在OFC2023期间推出了1 6T相关光模块产品,目前正在积极推进客户送样测
《最高检、公安部关于公安机关管辖的刑事案件立案追诉标准的规定》第三十三条[故意毁坏财物案(刑法第二百七
近日,根据中国汽车工业协会(中汽协)发布的数据,我国新能源汽车市场在今年4月再次展现出强劲的发展势头
昨日,记者从同翔高新城片区指挥部获悉,厦门天文馆项目又迎来新进展——通过厦门市超限高层抗震设防专...
“希望你放下思想包袱,深入查摆不足,锤炼勤廉作风。”近日,杭州市临平区运河街道亭趾村85后年轻干部...
(一)当事人起诉,首先应提交起诉书,并按对方当事人人数提交相应份数的副本。当事人是公民的,应写明双方当
美国一个研究团队最近报告说,“卡西尼”土星探测器收集到的宇宙尘埃显示,土星环可能只有不到4亿年的历...
1、中央电视台广告价格按秒数版本计算,不按单秒计算。2、央视广告最小的广告版本是5秒,所以最基本的广告
对此,尽管有很多球迷和网友并不喜欢张本智和,对他更多是一些讥讽和嘲笑,但也有很多喜欢和支持他的人,对
浙商证券05月14日发布研报称,给予信德新材(301349 SZ,最新价:76 74元)增持评级。评级理由主要包括:1
。网友热议一针见血地指出:今年勇士队是绝对打不过湖人的,湖人自从交易后,攻防两端都明显改善,专克勇士
当前,各地持续在推动高标准农田建设上发力。那么,高标准农田,到底“高”在哪儿?为了达到高标准,背...
【十连涨!锂价半个月涨近40%供应商挺价惜售产业链排产向好】近半个月以来,电池级碳酸锂价格自18万元吨价
直播吧5月14日讯在本轮结束的一场德甲联赛中,拜仁6-0大胜沙尔克04。赛后球队中卫德里赫特在接受采访时被问
1、现在不少朋友觉得北京乃至全国的驾照非常难考,以笔者的经历来说,考科目一很快,一周能搞定。2、但是光科
1、灭火器(1kg)、防毒面具(自救呼吸器)、强力探照灯、腰斧、消防绳、消防钩、纯棉阻燃毯、警界带、反光
5月11日,长太高速公路项目四工区最后一座车行天桥桥面铺装完成,标志着四工区管段范围内18座跨线天桥与主
我们在使用电信号码时,每个月可能会开通一定的流量包。流量当月用不完会自动结转到下个月。电信流量如果经
西安,古称长安是古丝绸之路的起点如今的西安也见证着中国中亚合作的累累硕果务实合作使中国和中亚国家人民
祝江才副主任医师上海市第一人民医院病情分析:一般容易得鼻咽癌的人群包括,有一些鼻咽癌家族史的人群
一、验血103醉驾怎么处理验血结果为103属于醉驾,需要按照相关法律法规进行处理。以下是一般的处理程序,具
抄写作文网小编为大家提供关于手机的古诗有哪些古诗2 描写手机的句子有哪些来供大家参考,欢迎阅读。1 描写
5月11日,在韩国晋州举行的2023年亚洲举重锦标赛男子96公斤级的比赛中,身披国家队战袍的郴州嘉禾籍选手刘
本文内容是由小编为大家搜集关于在吗支付宝,以及支付宝在吗偏爱的资料,整理后发布的内容,让我们赶快一起
网传百度在5月份将裁员3000人!互联网裁员潮还没结束啊!,百度,裁员潮,互联网公司,互联网行业
1、易度文档管理软件,不仅是单一的文档加密软件,还适用于应付企业文档管理中普遍存在的问题,当然包括其
央视网消息:我国自主研发的全球风暴潮、海啸预警系统正式投入业务化运行,标志着我国海洋预报实现了“全...
创业板环保概念上市公司名单(创业板环保概念上市公司一览表),截至5月12日,创业板环保概念上市公司有中创环
2023年5月12日,是汶川地震十五周年,也是我国第十五个全国防灾减灾日。近年来,除了自然灾害防治之外,我
值得一提的是,华为终端业务亦携多款旗舰产品亮相,通过智慧科技与潮流生活场景融合,为参观者提供智慧生活
贷款利率低于理财收益率,能套利?业内:属于违约行为!会收回并:自去年来,市场基准利率随着政策利率不断
氯碱板块的3大龙头股,收藏好!,氯碱概念共有37支个股,下跌1 31%,涨幅较大的个股是云南能投(0 71%)、华
看窗外阳光明媚,听枝头鸟儿高歌,今日宜出游!在城市中看到“网红”火车打卡点,不知道怎么拍照片?小...
奥尼尔:我可能不会去执教但我想成为佛罗里达一支球队的老板,嘻哈,热火队,nba,佛罗里达,美国篮球,帕特-莱利
1、四位青春言情小说写手藤萍、桐华、匪我思存、寐语者最近风光无限,在网上已有强大号召力的她们被推为新
尽管有关云鲸洗地机S1的宣传中称,该产品经过两年深度研发,申请超过100项专利,甚至为研发该产品调研了100
1、好茶常有淡淡的苦味,苦味中总是透着较深的清香。2、人生常常如美中含苦,难以有十全十美之事,十有八九
成都抗疫的外籍志愿者:愿为城市“康复”贡献力量
天天热讯:全国高等学校计算机水平考试广东_全国高等学校计算机水平考试
大连银行等五家机构被“深入调查”发现违规债券交易 交易商协会出重拳发整改令 微资讯
报告:到2027年,全球激光雷达市场规模将达到近60亿元 世界热闻
2023浙江温州市公安机关面向公安院校公安专业毕业生考试录用公务员面试通告_全球实时
今日热议:「和美城乡 四大行动」施秉县甘溪乡:探索数字化积分管理赋能和美乡村建设
全区创建全国文明城市重点点位公共卫生间建设运行管理问题整改交办会议召开
瑞斯康达(603803.SH):公司云网融合安全能力形成了产品化并取得SASE认证 环球短讯
Snapdragon Sound骁龙畅听技术加持 红魔氘锋全场景TWS耳机发布-当前看点
5月10日基金净值:广发瑞誉一年持有期混合A最新净值0.9832,涨0.02% 天天最资讯
安图恩火焰之克瑞夫怎么不读条_安图恩火焰之克瑞夫怎么打_当前热点
一项权威认证创两项行业“唯一”,九江双蒸树立米香品类价值标杆|当前简讯
五区共兴 川南经济区⑩丨川南四市地区生产总值已达9324.7亿元-当前关注
李小鹏晒11岁女儿热舞,奥莉穿露脐装引争议,被指颜值不如儿时 天天百事通
Copyright © 2015-2022 欧洲律师网版权所有 备案号:沪ICP备2022005074号-23 联系邮箱: 58 55 97 3@qq.com