28 стран и Евросоюз сошлись на том, что искусственный интеллект (ИИ) представляет потенциально «катастрофический риск» для человечества, подписав совместную декларацию.
Декларация обнародована на сайте правительства Великобритании.
Ее подписали на саммите по безопасности ИИ, организованного британскими властями. Как пишет The Guardian, премьер-министр Британии Риши Сунак приветствовал подписание документа. Сунок летом решил принять саммит, потому что обеспокоился тем, что модели искусственного интеллекта стремительно развиваются без присмотра. Южная Корея проведет подобный саммит через полгода, а Франция – через год.
О чем декларация
В декларации говорится, что искусственный интеллект открыл большие возможности для людей во многих областях жизни: в обустройстве жилья, трудоустройстве, транспорте, образовании, здравоохранении, правосудии. Но в этих же областях он создает и значительные риски.
«Значительные риски могут возникнуть из-за потенциального умышленного неправильного использования или непреднамеренных проблем контроля. Эти проблемы частично связаны с тем, что возможности [ШИ] не полностью изучены, поэтому их трудно предсказать. Мы особенно обеспокоены рисками в таких сферах, как кибербезопасность, биотехнологии (…), могут усилить риск дезинформации», — написано в документе.
Многие риски, связанные с ИИ, являются международными, поэтому их лучше всего решать в международном сотрудничестве. Страны, международные форумы, компании, гражданское общество и учёные должны работать вместе.
Программа по преодолению рисков ИИ, согласно декларации, будет сосредоточена на:
- выявлении рисков безопасности ИИ, вызывающих общую обеспокоенность;
- разработке в государствах-подписантах соответствующей политики безопасности.