继本月初日本首相岸田文雄遭遇AI造假后，印度总理莫迪也有了他的AI版。

据《环球时报》报道，近日一段“莫迪跳舞”的视频在网上疯传，然而，莫迪上周末亲自辟谣，称视频是AI合成的，并警告说，AI时代深度伪造内容的传播是一场大危机。

在这段视频中，“莫迪”和其他舞者身穿传统服饰，围成一个圈，欢快地跳着加尔巴舞。这是起源于印度古吉拉特邦的一种节日舞蹈，在印度全国都很流行。

对于假冒自己的视频，莫迪先扬后抑。他称赞视频做得很好，但其实他从上学起就再没有跳过加尔巴舞了，“感谢AI让我又可以跳加尔巴舞，我的许多粉丝都在转发这段视频”。

随后，莫迪对滥用人工智能技术深度伪造视频表达了担忧，称这可能引发一场大危机。他表示，很多人对网上传播的虚假视频信以为真，而印度目前缺乏足够的技术来验证其真实性。

“在人工智能时代，负责任地使用技术很重要。”莫迪如是说，并表示他已要求生成式人工智能工具ChatGPT的团队将此类视频标记为深度伪造，以及当其在网上传播时发出警告。此外，莫迪还敦促媒体就此类虚假视频问题对人们进行教育引导。

在莫迪发表这些言论之际，印度的多名演员也遭遇了深度伪造视频。一系列面部变形的造假视频在社交网站上引发了印度民众的惊愕、愤怒与担忧。这也促使印度政府展开行动。

据悉，印度电子和信息技术部部长阿什维尼·瓦希诺表示，政府已向所有大型社交平台发出通知，要求他们采取措施识别并删除深度伪造内容，而这些平台已作出回应并有所行动。瓦希诺称，政府可能将召集包括Meta和谷歌在内的社交网站就打击深度伪造内容进行开会。

除了莫迪，日本首相岸田文雄、印尼总统佐科等政界人士近日也成了AI合成视频的对象。这些真假难辨、造成误导的视频遭到广泛批评。此外，以色列将人工智能应用于加沙地带的致命性行动，引发深切担忧。

事实上，与人工智能技术相关的安全问题正日益受到国际社会的关注，对其加强监管的呼声也愈发强烈。

据新华社报道，本月1日在英国召开的首届全球人工智能安全峰会上，人工智能技术可能带来的风险，正是关注的重点。

出品 深海区工作室

撰稿&视频 深海贝

编辑 深海贝

相关标签：