作者 | 楚魂编辑 | 李梓硕人工智能主持人正在阅读报纸新闻，图源网络2024年6月19日，阿富汗智库afghanwitness发布研究报告称，“伊斯兰国呼罗珊分支”（ISKP）试图在宣传过程中使用人工智能技术，并且人工智能技术在宣传内容中的应用已经在IS支持者群体中引发争议。该报告详细介绍了目前ISKP内部人工智能技术的应用情况及批评者所持观点，指出人工智能技术的应用会极大提高极端组织的宣传效率，加大社交平台的内容审查难度。人工智能与恐怖主义宣传：现状与挑战我们正生活在一个高科技狂热的时代，人工智能技术正在逐步参与进地缘政治的发展与演变之中。
最近，IS 支持者使用人工智能生成的视频声称伊斯兰国发动袭击，这在亲伊斯兰国社区内引发了关于人工智能技术是否适用于宗教的争议。尽管人工智能工具用于宣传的便利性有所提高，但和褒贬不一的评价表明，人工智能在极端主义宣传内容中的应用可能仍然有限。IS 数字生态系统一直在尝试使用技术来扩大其宣传，在斋月期间，伊斯兰国发布了 15 集动画系列，目标观众是儿童，两个没有任何面部特征的幼稚角色 Muavia 和 Salim 进行对话，最终在修辞上宣扬伊斯兰国的观点。动画系列由 Sarh Al-Khilafa 出版，该组织的名字可能来源于伊斯兰国中心下属的 Al Furqan 媒体在 2016 年发布的新闻稿。
Sarh Al Khilafa 的机器人在莫斯科恐袭事件之后被关闭。当时它以至少四种不同的语言出版，而大部分内容是法语和阿拉伯语。亲IS媒体生成的AI视频及其素材，图源网络莫斯科袭击事件发生后，一个明显的主要趋势是，IS 和 ISKP 的附属组织已经调整了他们的在线策略，以逃避检测和账户封禁。他们在社交媒体上加密和公开的账户现在都在分享音乐、野生动物纪录片片段、体育和一般娱乐的内容。这种策略旨在避免账户被暂停并保持他们的在线状态。
2023 年，ISKP 为其 Munasireen 举办了至少 3 场为期 24 天的在线课程，该组织用 Munasireen 来指代创建视觉、音频和视频资产的在线宣传员，该课程的另一个主要目的是寻找潜在的招募者，这些课程在 Rocket Chat、Threema、Matrix 和 Telegram 等 ISKP 附属频道上进行传播。课程以普什图语、波斯语、乌尔都语和塔吉克语设计，包括与 ISKP 相关的随时可用的常见问题解答，主要功能是提高数字素养，其内容包括人工智能高级课程。稳定扩散、文本生成、视频生成和语音调制等人工智能技术的进步使得极端组织能够生成内容，用于宣传和招募。
这些进步使得那些精通计算机和半功能计算机系统的人能够创建人工智能生成的作品，而几乎不需要进一步的高级技术技能。计算机显卡和处理单元的不断增强使计算机用户能够开始在其系统上使用入门级人工智能技术。通过程序生成图像变得越来越容易。尽管提供人工智能视频生成的在线服务有所增加，但它们仍然价格昂贵，而且在许多情况下，对使用服务生成色情或非法内容的审查非常严格。语音生成在过去一年中也变得流行起来，部分原因是ElevenLabs.io服务的流行，该服务允许用户使用自己选择的克隆声音生成任何文本到语音。
到目前为止，支持 ISKP 的平台仅使用了 Virbo 软件。IS 支持者对生成式人工智能和语音合成的接受程度有限。使用人工智能生成亲伊斯兰国内容一直是该组织支持者争论的话题。部分ISKP的支持者声称人工智能语音生成是非法的，因为用于训练语音合成程序的声音包括“不信者的声音”，因为禁止使用非穆斯林的声音来朗诵《古兰经》或伊斯兰国新闻。使用人工智能动画主持人和语音合成似乎在伊斯兰国支持者中引起争议，且尚未得到接受。但是从治理角度上来说，ISKP在宣传中应用人工智能技术，可能会提高其宣传物料的制作效率，丰富其宣传物料的呈现形式，从而提升其宣传效果，吸引更多的年轻人加入ISKP。
与此同时，人工智能的应用可能会对社交平台的内容审查机制提出极大挑战，审查IS支持者发布的内容将变得比较困难。
本文转载自“兴都库什笔记”微信公众号2024年6月27日文章，原标题为《人工智能与恐怖主义宣传：现状与挑战》。本期编辑：李梓硕