Маск и Возняк попросили приостановить разработку систем ИИ, превосходящих по мощности GPT-4

Москва. 29 марта. INTERFAX.RU - Владелец Twitter, SpaceX и Tesla Илон Маск, сооснователь Apple Стив Возняк и другие видные деятели в сфере технологий подписали открытое письмо с просьбой остановить как минимум на шесть месяцев обучение систем искусственного интеллекта (ИИ) мощнее, чем GPT-4.

"Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение всех ИИ систем, которые по мощности превосходят GPT-4", - говорится в письме, опубликованном в среду на сайте некоммерческой организации Future of Life Institute.

Отмечается, что все разработчики ИИ, по мнению авторов письма, должны использовать это время для совместных разработки и введения протоколов безопасности для продвинутых систем. Разработчикам необходимо сфокусироваться на том, чтобы сделать современные ИИ более безопасными, интерпретируемыми, транспарентными.

Письмо, помимо Маска и Возняка, подписали сооснователь Skype Яан Таллинн, сооснователь Pinterest Эван Шарп, а также многие другие деятели в технологической сфере и профессоры из различных университетов.

"Системы ИИ с интеллектом, который может соревноваться с человеческим, могут предоставлять серьезный риск для общества и человечества, это обозначается в обширных исследованиях и признается лучшими ИИ лабораториями", - говорят авторы письма.

По их мнению, в последнее время лаборатории ИИ все более активно разрабатывают мощные "цифровые умы", которые на данном этапе никто не способен понять, предсказать или надежно контролировать. Современные ИИ могут соревноваться с людьми в базовых задачах, и в письме выражаются опасения в связи с тем, что они способны перегрузить информационные каналы пропагандой, отобрать работы у людей и в целом "заменить" их.

Мощные системы ИИ должны разрабатываться только после того, как человечество обретет уверенность в их пользе, а все риски, связанные с ними, можно будет взять под контроль, говорят авторы письма.