1 год назад 31 марта 2023 в 16:47 9384

Более тысячи экспертов в области искусственного интеллекта со всего мира, включая Илона Маска, подписали открытую петицию о прекращении разработки и исследования систем и программ ИИ, более мощных и продвинутых, чем GPT 4. В письме содержится просьба о прекращении всех работ, связанных с дальнейшими работами по ИИ. Эксперты считают, что эти разработки могут представлять потенциальную угрозу человеческому обществу.

Открытое письмо под названием «Приостановить масштабные эксперименты с искусственным интеллектом» было опубликовано Future Of Life Institue, некоммерческой организацией, которая работает над снижением глобальных катастрофических и экзистенциальных рисков, с которыми сталкивается человечество, особенно риска, связанного с искусственным интеллектом. Письмо подписано известными высокопоставленными лицами, учеными и профессорами в области искусственного интеллекта, а также такими экспертами, как лауреат премии Тьюринга Йошуа Бенджио, профессор компьютерных наук из Беркли Стюарт Рассел, соучредитель Apple Стив Возняк и др.

В письме говорится, что системы искусственного интеллекта, конкурирующего с человеком, представляют серьезную опасность для общества и человечества, и ведущие лаборатории искусственного интеллекта также признали этот потенциальный риск. Далее в нем говорится, что в недавнем развитии ИИ наблюдалась гонка за разработкой и развертыванием более мощного цифрового интеллекта, которые может быть трудно контролировать, и такие мощные системы ИИ следует разрабатывать только после того, как их положительные эффекты и риски можно будет уверенно контролировать.

Петиция призывает к полугодовой паузе в обучении систем искусственного интеллекта, более мощных, чем GPT-4. Подписанты просят все лаборатории искусственного интеллекта и независимых экспертов разработать общие протоколы безопасности, которые гарантируют безопасность систем.

По всему миру многие учреждения и правительства выразили обеспокоенность этическими и юридическими проблемами, создаваемыми продвинутым искусственным интеллектом, таким как ChatGPT. Недавно Европол предупредил о возможном использовании систем искусственного интеллекта, таких как ChatGPT, для киберпреступлений, попыток фишинга и распространения дезинформации. Многие правительства работают над правовой политикой и нормативно-правовой базой для контроля над ИИ.

Никто не прокомментировал материал. Есть мысли?