Центр по безопасности коммуникаций — канадской спецслужбы, ответственной за кибербезопасность федерального правительства предупредил, что иностранные злоумышленники и хакеры могут использовать генеративный искусственный интеллект для создания дипфейков, чтобы манипулировать общественным мнением, а также дискредитировать политиков и чиновников.
«По нашей оценке, иностранные злоумышленники и хакеры, вероятно, в течение двух последующих лет превратят генеративный искусственный интеллект в оружие, создавая дипфейк видео и изображения с политиками и чиновниками, а также усиливая и автоматизируя неаутентичные сети ботов в социальных сетях с использованием текста и изображений», – говорится в документе.
При этом в спецслужбе предупредили, что «возможности создания дипфейков очень вероятно превысят возможность выявлять их».
“Доступные в настоящее время широкие массы модели обнаружения имеют сложности с подлинным отслеживанием дипфейков и реального контента. Ввиду низкой эффективности выявления дипфейков и распространения генеративного искусственного интеллекта, кампании влияния на избирателей с использованием генеративного искусственного интеллекта, вероятно, будут оказываться все меньше”, — подчеркнули разведчики.
По мнению авторов отчета, одним из ключевых источников происхождения антидемократических дипфейков могут стать избирательные дебаты.
“Если киберзлоумышленники будут распространять дипфейки, которые будут манипулировать содержанием дебатов, избиратели могут быть введены в заблуждение. Даже если истина будет впоследствии установлена, причиненный ущерб может побуждать избирателей к сомнению в легитимности политических дебатов в будущем”, — утверждается в документе.