Ключ к ответственной разработке ИИ

Ключ к ответственной разработке ИИ

Генеративный ИИ изменит мир, нравится нам это или нет. В этот поворотный момент в развитии технологии государственные и частные заинтересованные стороны должны сделать все, что в их силах, чтобы гарантировать, что процесс приведет к справедливым, равноправным и устойчивым результатам.

ЖЕНЕВА. В последние месяцы развитие искусственного интеллекта значительно ускорилось, а генеративные системы искусственного интеллекта, такие как ChatGPT и Midjourney, быстро преобразовали широкий спектр профессиональной деятельности и творческих процессов. Окно возможностей для направления разработки этой мощной технологии таким образом, чтобы минимизировать риски и максимизировать выгоды, быстро закрывается.

Возможности, основанные на искусственном интеллекте, существуют в непрерывном диапазоне, при этом системы генеративного искусственного интеллекта, такие как GPT-4 (последняя версия ChatGPT), относятся к наиболее продвинутой категории. Учитывая, что такие системы являются наиболее многообещающими и могут привести к самым коварным ловушкам, они заслуживают особенно пристального внимания со стороны государственных и частных заинтересованных сторон.

Практически все технологические достижения имели как положительные, так и отрицательные последствия для общества. С одной стороны, они укрепили экономическую производительность и рост доходов, расширили доступ к информационным и коммуникационным технологиям, увеличили продолжительность жизни людей и улучшили общее благосостояние. С другой стороны, они привели к перемещению рабочих, стагнации заработной платы, усилению неравенства и усилению концентрации ресурсов среди отдельных лиц и корпораций.
ИИ ничем не отличается. Системы генеративного ИИ открывают широкие возможности в таких областях, как дизайн продуктов, создание контента, открытие лекарств и здравоохранение, персонализированное обучение и оптимизация энергопотребления. В то же время они могут оказаться весьма разрушительными и даже вредными для нашей экономики и общества.
Риски, которые уже создает продвинутый ИИ, и те, которые можно разумно предвидеть, значительны. Помимо широкомасштабной переориентации рынков труда, системы моделей с большим языком могут увеличить распространение дезинформации и увековечить вредные предубеждения. Генеративный ИИ также грозит усугубить экономическое неравенство. Такие системы могут даже представлять экзистенциальный риск для человечества.
Для некоторых это причина притормозить исследования ИИ. В прошлом месяце более 1000 технологов ИИ, от Илона Маска до Стива Возняка, подписали открытое письмо, в котором рекомендовалось лабораториям ИИ «немедленно приостановить» обучение систем, более мощных, чем GPT-4, как минимум на шесть месяцев. Они утверждают, что во время этой паузы следует разработать и внедрить набор общих протоколов безопасности — «тщательно проверенных и контролируемых независимыми внешними экспертами».

Открытое письмо и вызванные им жаркие дебаты подчеркивают настоятельную необходимость для заинтересованных сторон добросовестно участвовать в широкомасштабном процессе, направленном на согласование надежных общих рекомендаций по разработке и развертыванию передового ИИ. Такие усилия должны учитывать такие проблемы, как автоматизация и перемещение рабочих мест, цифровой разрыв и концентрация контроля над технологическими активами и ресурсами, такими как данные и вычислительная мощность. И главным приоритетом должна быть непрерывная работа по устранению системных предубеждений в обучении ИИ, чтобы такие системы, как ChatGPT, не воспроизводили и даже не усугубляли их.

Предложения по управлению искусственным интеллектом и цифровыми услугами уже появляются, в том числе в США и Европейском Союзе. Такие организации, как Всемирный экономический форум, также вносят свой вклад. В 2021 году Форум создал Глобальную коалицию за цифровую безопасность, целью которой является объединение заинтересованных сторон в борьбе с вредоносным контентом в Интернете и содействие обмену передовым опытом регулирования безопасности в Интернете. Впоследствии Форум создал Инициативу цифрового доверия, чтобы гарантировать, что передовые технологии, такие как ИИ, разрабатываются с учетом наилучших интересов общества.

Теперь Форум призывает к срочному государственно-частному сотрудничеству для решения проблем, сопровождающих появление генеративного ИИ, и для достижения консенсуса в отношении следующих шагов по разработке и развертыванию технологии. Чтобы способствовать прогрессу, Форум в партнерстве с AI Commons — некоммерческой организацией, поддерживаемой специалистами по ИИ, академическими кругами и неправительственными организациями, ориентированными на общее благо, — проведет глобальный саммит по генеративному ИИ в Сан-Франциско 26-28 апреля. Заинтересованные стороны обсудят влияние технологии на бизнес, общество и планету и будут вместе разрабатывать способы смягчения негативных внешних факторов и достижения более безопасных, устойчивых и справедливых результатов.

Генеративный ИИ изменит мир, нравится нам это или нет. В этот поворотный момент в развитии технологии необходим совместный подход, чтобы мы могли сделать все, что в наших силах, чтобы обеспечить соответствие процесса нашим общим интересам и ценностям.

 

Клаус Шваб
— основатель и исполнительный председатель
Всемирного экономического форума

Кэти Ли
— глава отдела искусственного
интеллекта, данных и метавселенной, а
также член исполнительного комитета
Всемирного экономического форума

 

 

Источник.


 

Вы можете оставить комментарий, или ссылку на Ваш сайт.

Оставить комментарий