消失十年的舒马赫,给AI造假定了“起步价”-共青网

消失十年的舒马赫,给AI造假定了“起步价”

十多年未公开露面的“车王”舒马赫(Michael Schumacher)或许已经很难想象人工智能时代的世界,也包括身处其中,新闻伦理和人类道德的底线正变得如此不同。

5月22日,舒马赫方面和德国Funke媒体集团旗下的杂志《Die Aktuelle》之间的法律诉讼终于出了结果。慕尼黑劳工法院认为Funke媒体集团及旗下杂志对舒马赫及家人造成了重大伤害,Funke媒体集团向舒马赫家人赔偿20万欧元。

事出一年前。2023年4月15日,《Die Aktuelle》刊登了一张舒马赫微笑的照片,并在旁边配上“Welt-Sensation”“Michael Schumacher Das erste Interview”两个放大的标题,翻译成中文就是“轰动世界”、“迈克尔舒马赫的首次采访”,以吸引读者的眼球。

舒马赫于2013年底在一次滑雪事故中头部受重伤,几乎丧命,自此再未在公众场合露面。十多年间,有关他的健康状况及隐私都被家人严格保密,且一直保护得很好。

在舒马赫16年的F1职业生涯中,他总共拿下91场比赛的胜利,并7次获得年度车手总冠军,被业界和车迷冠以“车王”称号。即便从公众视野消失十多年,但他在F1车迷和来自世界各地粉丝心中的分量不减分毫,自舒马赫受伤以来,他的粉丝通过后援会、社交媒体、线下活动等多种途径和方式表达对“车王”的支持。

▲德国科朋迈克尔-舒马赫赛车中心,车王的支持者在围栏上挂满了帽子和T恤表达支持

在X平台上,舒马赫的专属标签KeepFightingMichael至今每天都有诸多参与者。

不过,除了向外界展现舒马赫在当下仍具备世界级的影响力和号召力的同时,也让其仍然可以成为一个顶级流量来源,是传统媒体和社交平台们都趋之若鹜的潜在话题。

全民社交时代,流量即利益,这也是《Die Aktuelle》制造“AI舒马赫”的推手。

近年来以AI形式扮演名人制造“对话”案例实际上并不少。但这篇有关报道最为人诟病的是,它极其误导性地暗示了舒马赫披露的是关于全世界最关注的有关他身体健康的细节,文中引用了“舒马赫”的话,还讨论了他在滑雪事故后的身体状况以及近十年来的生活。

人们也很快发现《Die Aktuelle》的这篇报道是利用人工智能伪造的,虽然该杂志事前为自己留了两手:一是在杂志封面的最下方用小了好几号的字体写着,“Es klingt täuchend echt(这听起来让人难以置信)”;二是在文章末尾承认采访中的舒马赫“引语”全是由人工智能生成的。

但该事件一出,全世界舆论哗然。外界最大的批评正是认为该杂志严重侵犯了病人的隐私、突破了人类道德底线和新闻伦理标准。

舒马赫家人在新闻出来6天后发表公开声明,“计划对Funke旗下的这家杂志采取法律行动。”

Funke媒体集团在舒马赫家人称要对其提起法律诉讼后做出回应,“《Die Aktuelle》杂志总编即日起被解雇,”后者从2009年以来一直任该杂志总编,此外在道歉声明中,Funke解释称,“这一既没品位、又具误导性的文章本应不该出现,它绝对不符合我们及读者对Funke这样的出版商所期待的新闻标准。”

《Die Aktuell》杂志向来专报德国名流花边新闻,与舒马赫家族渊源颇深。早在2014年,即车王受伤的第二年,该杂志还刊登了一张舒马赫和妻子的照片,标题是“醒来”,2015年还捏造过舒马赫妻子的“私生活”。

“Funke媒体集团向舒马赫家人赔偿20万欧元”这一结果不仅是舒马赫及家人的胜利,也是新闻领域的重要时刻,这应该是法律层面第一次对新闻行业滥用生成式AI表明了立场,也是法律上首次给借AI捏造违反新闻伦理和人类道德的造假行为做了一次“定价”。

这次判决再次引发了全世界对AI捏造新闻报道的反思。

自2022年底,ChatGPT的走红引爆了全球对生成式AI技术的应用和投资浪潮,生成式AI技术在不同场景中被不断解锁。虽然为人们的衣食住行,以及体育、娱乐等内容生产带来诸多便利,但其中暗藏的利益空间也对人类道德、伦理底线提出了挑战。

消失十年的舒马赫,给AI造假定了“起步价”

人工智能的普及,生成式AI技术的飞速发展给造假和伪造提供了肥沃的土壤,“每当有新技术出现时,人类都希望将其推向极限”,The Ohio State University传播学副教授Nicole Kraft对AI的快速发展忧心道。

轰动全球的AI“造假”事件早已有之,其中一些事件引发的恐慌和导致的结果比“造假”舒马赫更甚:

2017年以来,借AI算法制造假新闻频繁发生在政界以及选举中。

2019年,据韩国MBC报道,一款名为“Lee Luda”的AI语音软件可以模仿任何人的声音,甚至可以让他们说出未曾说过的话,此新闻一出,引起全球对此类技术是否会导致虚假和误导性信息传播的激烈讨论。

2022年,Podcast.ai利用生成式人工智能技术,通过Play.ht的语言模型大量训练,模拟出了已故的乔布斯,并做成了一期20分钟时长的播客节目,音频中,主持人与“复活”的乔布斯探讨了对计算机、个人信仰以及AI等多个话题。外界对“复活”已故科技人士的做法的看法多是“毛骨悚然”,不少网友在社交平台表示,“说到底这是利用AI在全世界面前的一次公开造假。”

2023年11月,ESPN用AI给密尔沃基雄鹿队的利拉德玩“换装”,身穿雄鹿队球衣在接受采访的他,原视频却是此前在效力开拓者队时的采访,ESPN用AI移花接木,在利拉德声音上做了处理上,制作了与原始声音源吻合的口型,“又是一次公开造假”。

在中文社交网络上,外界对生成式AI也有批评声,一个重要起因正是由于一些个人或团体借生成式AI技术做起了去世之人的生意。

网友用AI生成视频和声音“复活”了CoCo李玟、张国荣、乔任梁、高以翔等已故公众人物,制作者称去世公众人物的虚拟视频不做商用,但在视频下方评论区类似“咨询制作逝者视频怎么收费”评论不断,制作者更是给出了明码标价,借AI“造假”引流和卖产品的行径引发舆论哗然和外界质疑。

目前,CoCo李玟的家人已采取了与舒马赫家人相同的做法,为保护个人权利,对这类滥用AI技术的“牟利”行为提起了法律诉讼。不少网友对此表示,“打着温情和怀念故人的幌子,说到底还是生意”,其中潜在的风险不言而喻。

“造假”舒马赫在法律上有了结果,给后续想要再借AI和生成式技术做突破人类道德底线和新闻伦理行径的人发出了警告,即便利益在前,他们也必须更加谨慎行事,在AI造假史上极具里程碑意义。

但在新技术的发展演进过程中,不同国家和地区制定并完善相关监管政策和法律法规的速度不一,惩处标准也不一。所以国内对类似“造假”舒马赫事件在法律层面会给出一个怎样的判罚结果,目前还不得而知。

国家网信办等七部门去年联合发布了《生成式人工智能服务管理暂行办法》,以促进生成式AI健康发展和规范应用,算是国内对生成式AI的首个监管文件。

每逢新技术的出现和发展,对人类都是机遇但也是挑战。在拥抱未来的时候,如何辅以严格监管和出台对应的法律法规,以使其中的风险真正转化为可能的机会,想必将会萦绕在接下来很长一段时间的AI狂潮中。