Приостановить развитие мощных систем Искусственного интеллекта (ИИ) минимум на полгода призвали известные лидеры интернет-технологий, такие как Илон Маск, Билл Гейтс и сооснователь Apple Стив Возняк, сообщает esoreiter.ru. При этом признанные эксперты ссылаются на «серьезные риски для общества и человечества».
Илон Маск, Билл Гейтс, сооснователь Apple Стив Возняк и другие подписали письмо, которое затем опубликовал Институт будущего жизни, поддерживаемый Маском. В письме, которое также было подписано генеральным директором OpenAI, говорилось, что пауза должна распространяться на системы ИИ, «более мощные, чем GPT-4».
Письмо опубликовали после того, как OpenAI анонсировала еще более мощную версию GPT-4, лежащую в основе популярного инструмента чат-ботов AI, ChatGPT. Эта технология уже была продемонстрирована при составлении судебных исков, сдаче стандартизированных экзаменов и создании рабочего веб-сайта по эскизу, нарисованному от руки.
В письме также говорилось, что независимые эксперты должны использовать предложенную паузу для совместной разработки и внедрения набора общих протоколов для инструментов ИИ, которые будут безопасными.
В частности, в письме говорится: «Продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять с соразмерной осторожностью и ресурсами… К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории ИИ оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто, даже их создатели, не может понять, предсказать или надежно контролировать».
Если пауза не будет установлена в ближайшее время, то правительства должны вмешаться, остановить гонку технологий ИИ и ввести мораторий на развитие ИИ в этом направлении, считают авторы письма.
Лидерами в этой гонке являются OpenAI, Microsoft и Google. IBM, Amazon, Baidu и Tencent также активно работают над аналогичными технологиями.
Эксперты по искусственному интеллекту все больше обеспокоены потенциальной возможностью ИИ генерировать и распространять дезинформацию, а также влиять на конфиденциальность потребителей.
Однако он назвал части петиции «нелепыми», в том числе просьбу о перерыве в разработке ИИ после GPT-4. Он сказал, что это поможет некоторым людям, подписавшим письмо, сохранить свое доминирование в этой области.
«Корпоративные амбиции и стремление к доминированию часто побеждают этические соображения», — сказал Су. «Я не удивлюсь, если эти организации уже тестируют что-то более продвинутое, чем ChatGPT или [Google] Bard, пока мы это обсуждаем».