作者 | 逐风编辑 | 章钰珏 陈珏可图源：Mirror Now最近，正值印度大选，印度著名演员阿米尔·汗（Aamir Khan）和兰维尔·辛格（Ranveer singh）批评莫迪，为反对党国大党拉票的AI合成视频在网上疯传，并引起热议。阿米尔·汗为我国广大观众所熟知，他的电影作品《三傻大闹宝莱坞》《摔跤吧！爸爸》《神秘巨星》《地球上的星星》《印度暴徒》等深受中国观众喜爱。阿米尔·汗作为印度宝莱坞电影的著名演员、导演和制片人，不仅在印度具有很大影响力，在全球范围内也备受关注与赞誉。图源：“印度通”微信公众号兰维尔·辛格同样是印度著名演员，在印度具有较大影响力。
他的代表作品有《追梦青春》《弹雨里的爱情》《印度艳后》《帝国双璧》等。图源：“印度通”微信公众号网上疯传的两段虚假视频中，阿米尔·汗和兰维尔·辛格批评印度总理莫迪，表示莫迪在两届总理任期内未完成竞选承诺，未能解决印度的关键经济问题，要求人们在印度正在进行的大选中投票给反对党国大党。两个人工智能生成的AI视频都以国大党选举符号和口号结尾：“为正义投票，为国大党投票”。截至4月中旬，这两个视频在社交媒体上的观看次数已经超过50万次。4月17日，国大党发言人Sujata Paul在X上与她的16000名粉丝分享了兰维尔·辛格的视频，到4月20号下午，她的帖子已经被转发2900次，点赞8700次，观看人数达到438000次。
视频在网上疯传后，两位演员都表示视频是假的。Facebook、X和至少八个事实核查网站均表示视频被更改或操纵，路透社数字验证部门也证实了这一点。目前无法得知是谁制作了这些视频。据两位演员的发言人称，阿米尔·汗对网上流传的视频感到震惊，兰维尔·辛格的团队正在调查此事。兰维尔·辛格在X上发布推文并写道：“朋友们，谨防深度伪造（deepfakes）！”（深度伪造技术是将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。
深度伪造最常见的方式是AI换脸技术。）印度竞选活动长期以来一直侧重挨家挨户宣传和公开集会，但随着网络信息的发达和社交媒体的广泛运用，WhatsAPP、Facebook、X等社交媒体也纷纷被运用到印度竞选活动当中。图源：CNN今年的印度大选，莫迪有望获得第三个任期。各社交媒体虽然常常被作为竞选工具参与到大选中，但人工AI智能还是首次在印度大选中被使用。印度拥有近10亿选民，其中近9亿印度人可以上网。研究机构Esya Center和印度管理学院商学院进行的一项调查显示，印度人平均每天花在社交媒体上的时间超过三个小时。
阿米尔·汗和兰维尔·辛格虚假视频的广泛传播，凸显了此类AI生成内容可能在持续数月的大规模印度选举中发挥潜在作用。在今年的印度选举中，政客们正在以同样的方式使用人工智能。在印度南部，国大党领袖Vijay Vasanth的发言人表示，他的团队使用人工智能制作了一段2分钟的视频，并在社交媒体上分享了这一视频。视频中，他已经过世但受到欢迎的政治家父亲H·Vasanthakumar正在为他寻求选票，这位已故政治家说道：“尽管我的身体离开了你们所有人，但我的灵魂仍然存在。”图源：YouTube 账号：Vasanth TV印度共产党马克思主义（CPIM）在YouTube上发布的视频中，人工智能生成的主播Samata身穿印度传统纱丽，以常规新闻频道的方式讲话，正在批评西孟加拉邦的执政党。
图源：印度共产党马克思主义（CPIM）YouTube账号人工智能以及人工智能生成的伪造品在世界其他地方的选举中也越来越多地被使用，包括美国、巴基斯坦和印度尼西亚等。目前，阿米尔·汗和兰维尔·辛格虚假视频的某些版本已经在社交媒体上被屏蔽，但至少还有14个版本在周六的X上仍然可见。Facebook删除了有关视频。在一份声明中，Facebook表示，由于违反其政策，该公司已删除这些视频。同时，阿米尔·汗和兰维尔·辛格的虚假视频引起了印度警方的调查，阿米尔·汗于4月17日在孟买对一些未透露姓名的人立案，罪名是涉嫌冒充和制作虚假视频。
两名负责该案的警官表示，他们已经写信给Facebook和X 要求删除视频，而两家公司表示已经删除了相关视频。莫迪办公室和印度人民党IT负责人没有对宝莱坞明星虚假视频事件做出回应。本文转自“印度通”微信公众号平台2024年4月30日文章，原标题为《宝莱坞明星AI合成视频批评莫迪，人工智能干预印度选举引发热议》本期编辑：章钰珏 陈珏可