Финансовая
квинтэссенция Федор
Рогач

Пытаясь предсказать следующее слово, ChatGPT разработал тонкое понимание контекста, грамматики и синтаксиса и приобрел возможности, которые намного превзошли первоначальные ожидания его разработчиков. Здесь можно извлечь ценный урок того, как экономисты, занимающиеся вопросами развития, и лица, определяющие политику, подходят к детерминантам роста.

Уже более десяти лет глубокие нейронные сети (ГНС) превосходят все другие технологии искусственного интеллекта, способствуя значительному прогрессу в компьютерном зрении, распознавании речи и переводе. Появление генеративных чат-ботов с искусственным интеллектом, таких как ChatGPT, продолжает эту тенденцию.

Для обучения алгоритмам ИИ требуется обучение, которого можно достичь с помощью двух основных подходов: контролируемого и неконтролируемого обучения. При обучении с учителем люди предоставляют компьютеру набор помеченных изображений, таких как «собака», «кошка», «гамбургер», «машина» и так далее. Затем алгоритм тестируется, чтобы увидеть, насколько хорошо он предсказывает метки, связанные с изображениями, которые он еще не видел.

Проблема с контролируемым подходом заключается в том, что он требует, чтобы люди проходили через утомительный процесс ручной маркировки каждого изображения. Напротив, неконтролируемое обучение не опирается на помеченные данные. Но отсутствие меток поднимает вопрос о том, что должен изучать алгоритм. Чтобы решить эту проблему, ChatGPT обучает алгоритм просто предсказывать следующее слово текста, который используется для его обучения.

Предсказание следующего слова может показаться тривиальной задачей, похожей на функцию автозаполнения в поиске Google. Но модель ChatGPT позволяет ему выполнять очень сложные задачи, такие как сдача экзамена на адвоката с лучшим результатом, чем у большинства студентов-юристов с высокими показателями.

Ключ к таким подвигам лежит во впечатляющей силе этого простого процесса обучения. Чтобы предсказать следующее слово, алгоритм вынужден детально изучить контекст, грамматику, синтаксис, стиль и многое другое. Достигнутый уровень сложности удивил всех, включая дизайнеров. DNN доказали свою способность функционировать намного лучше, не пытаясь включить в языковые модели обучения теории, которые лингвисты разрабатывали десятилетиями.

Напротив, преобладающий подход в области экономики развития заключался в том, чтобы различать непосредственные причины и более глубокие детерминанты роста и сосредоточивать внимание на последних. Этот подход аналогичен высказыванию: «Вместо того, чтобы пытаться предсказать следующее слово, поймите контекст и смысл всей книги».

Но соответствуют ли эти теории фактам? За последние четыре десятилетия развивающийся мир действительно претерпел множество радикальных преобразований, описанных Галором. Как заметил покойный врач Ханс Рослинг, разрыв между развивающимися и развитыми странами в ожидаемой продолжительности жизни, младенческой смертности, рождаемости, образовании, поступлении в университеты, участии женщин в рабочей силе и урбанизации резко сократился. Рассуждая в духе Асемоглу и Робинсона, институты развивающихся стран не могут быть такими уж плохими, если они способны добиться прогресса на стольких фронтах. С точки зрения Галора, прогресс на всех этих фронтах должен объяснить, почему развивающиеся страны так сильно догнали развитые страны по доходам.

За исключением того, что они этого не сделали: медианная страна не приблизилась к уровню доходов США, чем это было четыре десятилетия назад. Как возможно, что сокращение разрыва в образовании, здравоохранении, урбанизации и расширении прав и возможностей женщин также не привело к сокращению разрыва в доходах? Почему прогресс в предполагаемых более глубоких детерминантах не дал результатов?

Чтобы разобраться в этом загадочном результате, экономисты ссылаются на расширяющийся технологический разрыв. Это больше, чем объяснение, это математическая необходимость: если большее количество ресурсов не приводит к большему результату, значит, что-то делает их менее эффективными.

Чтобы объяснить этот неожиданный результат, полезно отметить, что те немногие страны, которым удалось наверстать упущенное, имеют две отличительные черты: их экспорт рос намного быстрее, чем их ВВП, и они диверсифицировали свой экспорт, переключившись на более сложные товары.

Чтобы достичь этого успеха, эти успешные страны должны были принять и адаптировать более совершенные технологии, скорректировать предоставление общественных благ и свои институты для поддержки новых отраслей, а также снизить неэффективность и затраты за счет повышения производительности и обучения работников. В этом процессе они, возможно, исправили кучу других проблем.

Стратегия развития, вдохновленная ChatGPT, будет сосредоточена на простой цели: повысить конкурентоспособность, разнообразие и сложность экспорта. Выяснение того, как это сделать, заставило бы политиков научиться делать важные вещи, точно так же, как предсказание следующего слова позволило ChatGPT изучить контекст, грамматику, синтаксис и стиль.

Подобно ранним программистам ИИ, которых отвлекли лингвисты и их запутанные теории, политики были отвлечены слишком многими задачами, такими как 17 Целей ООН в области устойчивого развития. Но применение подхода ChatGPT к экономическому развитию может упростить ситуацию: точно так же, как языковая модель пытается предсказать только следующее слово, политики могут попытаться сосредоточиться на содействии следующему экспорту, как это, похоже, сделали успешные страны. Хотя это может показаться небольшим шагом, он может привести к удивительно значительным результатам.

Рикардо Хаусманн
— профессор Гарвардской школы
государственного управления
им.Джона Ф.Кеннеди и директор
Гарвардской лаборатории роста

Источник.