Искусственный интеллект, доверие и недостаточно обслуживаемые — интервью с Паулой Грикко, старшим вице-президентом в Commonwealth

Паула Грикко — старший вице-президент компании Commonwealth.

Откройте для себя главные новости и события в финтехе!

Подписывайтесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Финансовый ИИ еще далек от совершенства — не только по скорости, точности или регулированию, но и в вопросах завоевания доверия. Особенно со стороны тех, кто традиционно не был первыми в очереди при внедрении новых технологий.

В FinTech Weekly мы следим за работой Commonwealth, некоммерческой организации, сосредоточенной на создании финансовой безопасности для семей с низким и средним доходом (LMI). Их полевые исследования, освещенные в нашей недавней редакционной статье, выявили явное напряжение: хотя пользователи с низким доходом готовы использовать такие инструменты, как чат-боты, они все еще ждут опыта, который действительно служит им, а не просто переработанных функций для чужих целей.

На этой неделе мы углубились в тему.

Мы поговорили с Паула Грикко, старшим вице-президентом Commonwealth, чтобы понять, что действительно нужно для того, чтобы ИИ был эффективным — и безопасным — для недостаточно обслуживаемых сообществ. От принципов дизайна до завоевания доверия, от совместных помощников до усталости от чат-ботов — она рассказывает, почему важнее намерение, чем сама инновация.

Это взвешенный и продуманный взгляд на то, каким может — и должен — быть инклюзивный финансовый технологический продукт.

Полное интервью — ниже.

2.  Недавнее сотрудничество Commonwealth с JPMorganChase дало важные инсайты о роли ИИ в повышении финансовой безопасности семей с низким доходом. Какие были самые удивительные или значимые выводы этого исследования?

Наши исследования показывают огромный потенциал ИИ, особенно чат-ботов, для предоставления персонализированных советов и поддержки сообществам с низким доходом — при условии, что чат-боты разработаны с учетом потребностей и взглядов этой группы.

Два ключевых вывода:

*   Клиенты в основном воспринимают чат-ботов как позитивный инструмент для улучшения своего финансового положения. Наши данные показали, что 57% опрошенных считают, что использование чат-ботов улучшило их финансовое состояние. Также было выявлено, что люди с низким и средним доходом хотят функции по построению кредитной истории, бюджету и управлению долгами.

*   Участники ценили пространство без осуждения, где можно задавать чувствительные финансовые вопросы без страха стыда или неловкости, которые могут возникнуть при разговоре с человеком-оператором.

3.  Как вы видите развитие разговорного ИИ в сфере финансовых услуг, особенно для недостаточно обслуживаемых сообществ?

Идеально, следующее поколение чат-ботов, основанных на генеративном ИИ, станет финансовыми помощниками, которые лучше поддерживают финансовую деятельность этих семей и завоевывают доверие тех, кто часто настороженно относится к взаимодействию с финансовой системой и делению данных онлайн. Есть большая возможность для поставщиков финансовых услуг создавать более сложные, нюансированные и ориентированные на действия функции для своих чат-ботов.

Когда клиенты используют финансовых чат-ботов сейчас, они в основном ищут информацию о счетах или пытаются решить проблему. Менее 20% участников нашего национального опроса использовали чат-ботов для получения финансовых советов и обучения, рекомендаций по продуктам, подачи заявок на кредиты или займы, открытия или закрытия счетов. Однако наши исследования показывают, что существует спрос на чат-ботов, которые могут помогать в этих операциях. Фокусировка на таких функциях при разработке чат-ботов может повысить их использование и полезность для этих клиентов.

Для банков и финансовых учреждений, которые еще не готовы запускать генеративных ИИ-советников для клиентов, эта технология может поддерживать сотрудников банка, например, сотрудников службы поддержки, чтобы они могли быстрее и точнее отвечать клиентам во время взаимодействий.

4.  Какие основные сложности стоят на пути обеспечения справедливости и эффективности финансовых инструментов на базе ИИ для семей, возглавляемых чернокожими, латиноамериканцами и женщинами?

При внедрении новых технологий важно сознательно учитывать потребности тех, кто зарабатывает низкий и средний доход. Мы обнаружили, что партнерство между частным сектором и благотворительными организациями на ранних этапах помогает нарастить импульс для таких инициатив. Создавая базу данных доказательств, мы также формируем бизнес-кейс.

Мы видим значительный потенциал в разработке рекомендаций по дизайну, например, по увеличению доверия, что позволяет разговорному ИИ поддерживать финансовое здоровье без существенных дополнительных затрат.

5.  Исходя из ваших исследований, какие основные принципы дизайна должны учитывать поставщики финансовых услуг при интеграции ИИ для поддержки пользователей с низким доходом?

Commonwealth создала ресурс — Руководство по финансовому ИИ для добра, — чтобы дать практические рекомендации по дизайну для поставщиков услуг, работающих с LMI. Эти рекомендации основаны на всесторонних исследованиях с финансовыми институтами, поставщиками чат-ботов и людьми с низким доходом.

Руководство структурировано вокруг четырех основных целей дизайна. Вот по паре примеров для каждой:

*   Завоевание доверия: большинство участников исследования при использовании чат-бота озабочены безопасностью. Здесь банки могут подчеркнуть меры по защите данных через предварительные сообщения и дать пользователям контроль над тем, какая информация хранится.
*   Повышение вовлеченности: создавайте опыт, в котором пользователи понимают, что эти инструменты могут для них делать и когда, — обеспечивая ясность функций. Также используйте «интеллектуальную проактивность»: внедряйте чат-ботов, которые появляются в наиболее подходящее время, не будучи навязчивыми или агрессивными, чтобы не казаться спамом.
*   Повышение ценности: предугадывайте потребности клиента. Ограниченный доступ к физическим отделениям создает возможность для чат-ботов выполнять мелкие операции, для которых раньше приходилось идти в банк. Балансируйте автоматизацию и контроль, позволяя пользователям включать и отключать автоматические функции, а также добавляйте «запасные» функции, которые при низком балансе приостанавливают автоматические переводы.
*   Повышение доступности: предлагайте поддержку на нескольких языках и руководства, соответствующие вашей аудитории, сосредотачивайтесь на мобильных функциях. Наши исследования показали, что более половины респондентов предпочитают доступ к банку через мобильный телефон.

6.  Можете ли вы привести примеры успешных кейсов, когда разговорный ИИ значительно улучшил финансовое благополучие LMI-людей?

Из наших данных известно, что 57% участников полевого тестирования отметили положительный эффект использования финансового чат-бота на их финансовое положение. Хотя эти начальные результаты обнадеживают, генеративные ИИ-инструменты еще находятся в зачаточном состоянии, и наши дальнейшие исследования продолжат формировать базу доказательств их эффективности в повышении финансового благополучия LMI.

7.  Какие риски или непредвиденные последствия должны учитывать финансовые учреждения при внедрении ИИ-инструментов?

Важно, чтобы люди с низким и средним доходом не оставались за бортом. При разработке инструментов необходимо учитывать возможности и способы обслуживания этой аудитории.

Существуют организации, специализирующиеся на рисках и последствиях ИИ, а также на предвзятости и точности больших языковых моделей. Кроме того, важно, чтобы основное внимание уделялось релевантности финансовых рекомендаций для конкретных ситуаций пользователя. Финансовые учреждения могут повысить вовлеченность клиентов и завоевать их доверие, обеспечивая точность предоставляемой информации и прозрачность процессов.

ИИ открывает уникальные возможности для людей с низким доходом получать советы и инструменты, ранее недоступные им, будь то инвестиционные инструменты или управление личными финансами. Эти инструменты можно адаптировать под их ситуации, что создает огромные возможности для роста клиентской базы.

8.  Как финансовые учреждения могут измерить реальное влияние ИИ-инструментов на финансовую безопасность и благополучие пользователей?

Основные показатели финансового благополучия: увеличиваются ли сбережения, снижается ли долг, улучшаются ли кредитные рейтинги при использовании этих инструментов?

Также важно опросить пользователей о их опыте взаимодействия с чат-ботом — выросло ли доверие? Проявляется ли больший интерес к продуктам, способным улучшить финансовое состояние? После получения советов были ли предприняты конкретные действия?

Банки могут проводить A/B-тесты среди разных групп клиентов, взаимодействующих с чат-ботами и без них, чтобы определить наличие статистически значимых различий.

9.  Какую роль играет человеческий контроль при внедрении ИИ-инструментов в финансовые услуги, и как поставщики могут найти баланс между автоматизацией и человеческой поддержкой?

Один из способов повысить доверие к ИИ — обеспечить наличие человека, к которому можно обратиться в нужный момент. В этом помогает использование совместных помощников для сотрудников банка, взаимодействующих с клиентами. Возможность связаться с живым человеком повышает доверие и качество взаимодействия с ИИ.

Использование разговорного ИИ позволяет сотрудникам службы поддержки быстрее и качественнее решать сложные задачи клиентов, сохраняя человеческий аспект в ключевые моменты взаимодействия.

Прозрачность также важна для формирования доверия: например, пользователь должен знать, общается ли он с чат-ботом или с реальным человеком.

10.  Какие наиболее перспективные возможности ИИ в области финансовой инклюзии на ближайшие пять лет?

Генеративный ИИ — следующая ступень развития разговорного ИИ, предлагающая персонализированное и контекстуально чувствительное взаимодействие, значительно приближающееся к человеческой поддержке, по сравнению с большинством современных финансовых чат-ботов, основанных на деревьях решений. Первые применения генеративного ИИ в финансах сосредоточены на внутренней поддержке, где есть возможность помогать сотрудникам службы поддержки. Важная задача — понять, как генеративный ИИ может масштабировать персонализированную поддержку в финансовом секторе.

Завоевание доверия будет особенно важно для более широкого внедрения генеративного ИИ, поскольку участники наших тестов и фокус-групп проявляют к нему больше скептицизма, чем к традиционным чат-ботам. Тем не менее, потенциал предоставления более продвинутого уровня поддержки в финансовых сервисах делает генеративный ИИ одним из самых захватывающих направлений в отрасли. Те, кто сможет создать надежную и проверенную поддержку на базе генеративного ИИ, станут лидерами новой эпохи масштабных клиентских отношений.

Дополнительные возможности — совместные помощники и персональные ассистенты, предоставляющие комплексные финансовые рекомендации, адаптированные под индивидуальные потребности, а также личный финансовый коуч. Также ожидается, что развитие разговорного ИИ сыграет важную роль в повышении финансового здоровья работников, предоставляя информацию и советы по навигации в сложных системах корпоративных льгот.

11.  Как вы видите роль некоммерческих организаций, таких как Commonwealth, в формировании ответственного использования ИИ в финансовых услугах?

Исторически дизайн новых технологий ориентировался на потребности богатых потребителей, зачастую игнорируя нужды семей с низким доходом. Через нашу инициативу Emerging Tech for All (ETA) мы сосредоточены на том, чтобы потребности уязвимых финансово групп были поняты, видимы, включены в обсуждения и интегрированы в решения. Мы находимся в важной точке масштабирования ИИ и считаем, что крайне важно продолжать исследования и выявлять способы, как ИИ может положительно влиять на эти группы.

На сегодняшний день в области мало исследований и практики по этой теме, и некоторые наши собеседники отмечают необходимость проведения масштабных исследований для формирования доказательной базы, которая поможет внутренне обосновать такие решения. Мы отвечаем на этот вызов, создавая значимые исследования и полевые тесты, демонстрирующие, как генеративный ИИ может поддерживать финансовое благополучие семей с низким доходом и формировать бизнес-кейс для более активного проектирования решений для этой аудитории.

В будущем системное влияние инклюзивного дизайна технологий будет зависеть от масштабного внедрения этих идей крупными игроками в сфере финансовых услуг. Для нас масштабирование инклюзивного дизайна — это использование наших исследований в партнерстве с крупными организациями, стремящимися использовать достижения ИИ для поддержки финансового здоровья своих клиентов и работников.

12.  Какой совет вы бы дали финансовым институтам, желающим использовать ИИ, сохраняя доверие и прозрачность с клиентами?

Люди с низким и средним доходом больше хотят общаться с человеком лично, но у них самый низкий доступ к отделениям. Этот разрыв — ключевая возможность для ИИ предоставлять персонализированную поддержку, которую ищут такие семьи, без необходимости увеличивать число отделений или сотрудников поддержки.

Однако для более широкого внедрения необходимо завоевать и укрепить доверие к чат-ботам у людей с низким доходом — часть этого зависит от качества самого опыта взаимодействия, часть — от отраслевых стандартов, поскольку технологии ИИ становятся более безопасными и надежными.

Главные опасения пользователей — безопасность и конфиденциальность данных. В целом, у людей есть недоверие к разговорному ИИ в вопросах полезности, защиты данных и воли действовать в их интересах. Многие бизнесы воодушевлены потенциалом ИИ, но люди с низким доходом воспринимают его с большим скепсисом, как новую технологию, которая еще должна доказать свою ценность.

Прозрачные политики обработки данных, уверяющие сообщения и возможность связаться с человеком-оператором в случае необходимости — все это поможет укрепить доверие. Разработка полезных и персонализированных взаимодействий на базе генеративного ИИ, выходящих за рамки базовой информации (баланс счета, последние транзакции), также продемонстрирует ценность технологии.

Важно подчеркнуть концепцию заслуженного доверия: цель — не просто убедить людей доверять чат-ботам, а так спроектировать их, чтобы это доверие было оправданным.