Большие модели в финансовой сфере: от тревоги к рациональности

С появлением ChatGPT тревога финансового сектора по поводу технологий искусственного интеллекта быстро распространилась. Эта отрасль, полная уверенности в новых технологиях, беспокоится о том, что ее могут оставить позади в потоке времени. Эта атмосфера тревоги в какой-то момент распространилась в неожиданные места, и, по словам отраслевых экспертов, в мае этого года, во время командировки в Дали, она даже встретила финансовых работников, обсуждающих большие модели в храме.

Тем не менее, эта тревога постепенно утихает, и мысли людей становятся более ясными и рациональными. CTO банковского бизнеса одной из программных компаний описал несколько этапов отношения финансовой отрасли к большим моделям в этом году: в феврале-марте все испытывали тревогу, опасаясь отставания; в апреле-мае стали активно собирать команды для работы; в последующие месяцы столкнулись с трудностями в поиске направления и реализации, стали более рациональными; сейчас они сосредоточены на эталонных проектах, пытаясь проверить подтвержденные сценарии применения.

Новая тенденция заключается в том, что многие финансовые учреждения начали стратегически обращать внимание на большие модели. Согласно неполной статистике, среди компаний, зарегистрированных на фондовом рынке A, как минимум 11 банков в своих последних полугодовых отчетах четко указали, что исследуют применение больших моделей. Судя по недавним действиям, они начинают более четко мыслить и планировать пути на стратегическом и верхнем уровне.

По сравнению с несколькими месяцами назад понимание финансовыми клиентами больших моделей значительно возросло. В начале года, когда только появился ChatGPT, несмотря на высокий интерес, понимание сути и способов применения больших моделей было ограниченным. Некоторые крупные банки первыми начали действовать, запустив различные рекламные кампании. В то же время, с выходом нескольких технологических компаний на рынок больших моделей, технологические подразделения некоторых ведущих финансовых учреждений начали активно обсуждать вопросы создания больших моделей с крупными технологическими компаниями.

После мая ситуация постепенно изменилась. В результате нехватки ресурсов вычислительной мощности и высоких затрат многие финансовые учреждения начали отходить от простого желания создать собственные мощности и модели, сосредоточившись на более значимой ценности применения. В настоящее время каждое финансовое учреждение обращает внимание на то, как другие организации используют большие модели и каковы их результаты.

Для предприятий различного масштаба также появились два пути развития. Крупные финансовые учреждения с огромными объемами финансовых данных и сценариев применения могут ввести передовые базовые большие модели, создать собственные корпоративные большие модели, а также использовать методы тонкой настройки для формирования специализированных больших моделей задач, быстро увеличивая возможности бизнеса. Малые и средние финансовые учреждения могут в зависимости от рентабельности инвестиций по необходимости вводить различные API публичных облачных больших моделей или услуги приватного развертывания, чтобы непосредственно удовлетворять бизнес-требования.

Тем не менее, из-за высоких требований финансовой отрасли к соблюдению норм, безопасности и надежности данных, некоторые считают, что реализация больших моделей в этой сфере на самом деле идет немного медленнее, чем ожидалось в начале года. Некоторые финансовые учреждения уже начали искать способы преодоления различных препятствий на пути реализации больших моделей.

В области вычислительной мощности в финансовом секторе в настоящее время появились несколько решений: первое - это создание собственных вычислительных мощностей, что имеет высокие затраты, но обеспечивает достаточную безопасность; второе - смешанное развертывание вычислительных мощностей, при условии, что чувствительные данные не покидают организацию, принимая вызовы от общественного облака для больших модельных сервисов, одновременно обрабатывая локальные данные через приватное развертывание.

Помимо проблем с вычислительной мощностью, в последние полгода, в ходе практического внедрения крупных моделей, многие финансовые учреждения постепенно усилили управление данными. Некоторые банки решают проблемы с данными, сочетая большие модели с MLOps, достигая автоматизации всего процесса и единого управления многими источниками гетерогенных данных и их эффективной обработки.

Источник содержания