Илон Маск и группа экспертов по искусственному интеллекту призывают к приостановке разработки мощных систем искусственного интеллекта, которые могут стать потенциальным риском для общества. Об этом сообщает Reuters.
Одной из причин призыва к паузе в разработке является недавнее представление четвертого обновления сервиса GPT-4 компании OpenAI, которая поразила пользователей своими широкими возможностями применения, включая создание искусственного человеческого разговора, написания песен и обобщение объемных документов.
В письме Future of Life Institute, собравшем тысячи подписей, включая Маска, призывают к разработке общих протоколов безопасности и проверке систем независимыми экспертами, прежде чем продолжать их разработку.
“Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их последствия будут положительными, а риски — управляемыми”, — указывается в письме.
Письмо также содержит описание потенциальных рисков, связанных с развитием мощных систем искусственного интеллекта, конкурирующих с человеком, таких как экономические и политические потрясения, и призывает разработчиков сотрудничать с политиками и регуляторными органами в вопросах управления и регулирования.
Европол также присоединился к группе обеспокоенных развитием искусственного интеллекта и предупредил о возможности злоупотребления системами, такими как ChatGPT, для фишинга, дезинформации и киберпреступлений.
Напомним, что Маск уже неоднократно выражал свою обеспокоенность по поводу опасности искусственного интеллекта и потенциальных рисков, связанных с его разработкой и использованием.