Чому вирішення упередженості в машинному навчанні є ключовим фактором для розблокування більшої фінансової включеності

"Фінансове включення означає, що фізичні та юридичні особи мають доступ до корисних та доступних фінансових продуктів та послуг, що задовольняють їхні потреби - транзакції, платежі, заощадження, кредит та страхування - доставляються відповідально та стійко". - Світовий банк

В JUMO наша місія полягає в тому, щоб радикально сприяти фінансовому включенню шляхом подолання розриву між критичними фінансовими послугами та тими, хто їх найбільше потребує. Нашими клієнтами є підприємці, малий бізнес та торговці на ринках, що розвиваються, які не мають традиційної фінансової історії, і тому виключаються з основної банківської екосистеми.

Але коли мільярди людей на ринках, що розвиваються, вперше з’являються в Інтернеті, більшість із них за допомогою мобільних телефонів, ми маємо можливість будувати нові форми цифрових та фінансових ідентичностей, які створюють новий фінансовий вибір.

Зробити це важко. Це вимагає осмислення неструктурованих даних таким чином, що людям просто неможливо зробити це вручну. Натомість JUMO використовує методи машинного навчання (ML) та штучного інтелекту (AI), які дозволяють більш точно моделювати ризик клієнта та пов’язувати їх із відповідним фінансовим вибором. При такому підході ми можемо досягти мільйонів раніше виключених людей, але це вимагатиме набагато більше роботи.

Фінансове виключення не є простим. Культурні, гендерні та соціальні нюанси застосовуються на різних ринках та в країнах, додаючи шар складності будь-яким глобальним зусиллям щодо зменшення бідності. Це означає, що будь-який сингулярний, алгоритмічний підхід до проблеми, ймовірно, схильний до ненавмисного упередження. Щоб пом'якшити це, важливо включити неінтуїтивні соціокультурні фактори, унікальні для групи людей, до даних яких ми отримуємо доступ.

Подумайте про фермера в аграрному секторі перед передбачуваною посухою. У традиційній моделі кредитування їх профіль ризику - а отже, і ціни на кредитування - зростають так само, як фінансування та врожайність зменшуються. Якби фермер отримав доступ до позики за допомогою традиційної моделі кредитного ризику, вони б несли більш тяжкий тягар погашення, зробивши їх більш схильними до дефолту, тому модель виявилася правильною. Це надзвичайне нагадування про реальні наслідки алгоритмічного прийняття рішень у реальному світі.

Простіше кажучи: є кращий спосіб управління цією ситуацією.

Що робити, якщо ми точно прогнозуємо посуху, знизимо ціну позики та допоможемо фермеру пройти цей важкий період? Це збільшило б ймовірність того, що фермер отримає право на отримання позики за такою ставкою, яку розумно можна погасити, що зменшує ризик дефолту.

Тоді важливо, хоча ми працюємо над розширенням фінансового доступу, ми також продовжуємо розмірковувати про дані, які ми використовуємо, процеси машинного навчання, які ми застосовуємо, та вплив цього на ці ринки. Нещодавно ми зосередилися на оптимізації нашого підходу до упередженості в процесах моделювання та прийняття рішень. Завдяки цій роботі ми розробили основу, яку будемо постійно застосовувати до того, що робимо. Ця рамка може бути корисною для інших, сподіваючись пом’якшити ненавмисні упередження в інших моделях.

Вимірювання впливу та маргіналізації

Проблема виключення фінансів величезна, тому глобальні організації, такі як Організація Об'єднаних Націй, працюють разом із компаніями для вирішення цього питання. Природно, щоб вирішити проблему, спочатку потрібно зрозуміти її масштабність.

Ідеальне включення означало б, що ми поширюємо фінансовий вибір на 100% «хороших» клієнтів - інакше кажучи, клієнтів, які мають намір і мають змогу повернути свої позики. У JUMO ми оцінюємо те, наскільки ці теоретично «хороші» клієнти можуть отримати доступ до фінансових продуктів від місцевих банків через нашу платформу. Щоб перевірити наш вплив, ми орієнтуємось на репрезентативну вибірку клієнтів, які в іншому випадку відхиляються, часто їх називають вибіркою відхилень, щоб оцінити верхній поріг того, як виглядатиме ідеальне фінансове включення.

Постійне допитування даних користувачів дає нам доступ до потоку неупередженої інформації, яку ми можемо використати для мінімізації історичних упереджень (що виникає внаслідок прийняття історичних рішень) та уникнення ненавмисних наслідків помилкового виключення людей. Однак важливо, щоб цей процес вимірювання був регулярним і триває. Це гарантує, що наш бізнес залишається узгодженим із нашою загальною місією та уникає оцінювання клієнтів на основі непередбачуваних упереджень, які увійшли до системи.

Кращі дані означають краще прогнозування

Важливо пам’ятати, що результат будь-якої моделі машинного навчання є настільки ж хорошим, як і включені дані. Наприклад, нам відомо, що непропорційний відсоток користувачів нашої платформи - чоловіки (70% порівняно з 30% клієнтів жінок). Але коли ми поєднуємо наші дані з іншими дослідженнями, ми виявляємо, що жінки мають лише 10% менше шансів, ніж чоловіки, володіти мобільним телефоном, і стать відіграє менш значну роль у поглинанні та використанні цифрових грошей.

То чому жінки були ненавмисно маргіналізовані?

Щоб зрозуміти цю проблему, нам потрібно було запитати: яку іншу інформацію ми могли б використати для доповнення поточних наборів даних, які допомогли б нам розмежувати людей у ​​видимо гомогенній групі?

У цьому випадку було розуміння того, що на деяких ринках жінки використовують мобільні телефони та мобільні гаманці рідше, ніж чоловіки. Це в значній мірі зводиться до соціокультурних факторів, включаючи відсутність довіри до мобільного банкінгу або заборонні платежі за транзакції. Взявши розуміння цих даних та застосовуючи їх по-різному до жінок, ми можемо розробити більш відповідні критерії ризику, які можуть збільшити рівність можливостей.

ML та інтуїція для реальних програм

У технологічній галузі ми часто дивимось на світ за допомогою даних - 1 та 0. Ми ігноруємо людський вплив нашої роботи. Щоб досягти реального прогресу в просуванні методів прогнозування, нам потрібні алгоритми та інтуїція; нам потрібно шукати поза короткостроковим періодом, знищувати помилкові позитиви та помилкові негативи, а також створювати продукти, придатні для людей.

Жодна модель не може вирішити складності десятиліть або багатство соціальних мереж людини та їх основні тонкі відмінності. Для того, щоб просуватися, нам потрібно постійно кидати виклик традиційному мисленню та власному мисленню.

У кредиті, який залишається незмінним протягом десятиліть, те, як ми бачимо та оцінюємо ризик, має величезний потенціал для прогресу. Машинне навчання може і буде грати перетворюючу роль у наших зусиллях, тому ми схильні думати про перевершення. При цьому ми визнаємо ризики. Ось чому ми зосереджені на використанні ШІ, щоб зменшити упередженість у прийнятті фінансових рішень, знаючи, що при поганому застосуванні це може мати протилежний ефект.

Доброчутливий підхід до фінансового включення?

Застосовуючи такий підхід, ми визнаємо необхідність у розвитку набору критеріїв, що максимально збільшує здатність людей до вираження свого потенціалу. Роблячи це, ми можемо нарешті розірвати прямий зв’язок між кредитними показниками та багатством, використовуючи не односторонній підхід до оцінки ризику. Це означає, що купець у Кампалі, який бере 100 обігових коштів, а продавець, який займає 10 000 доларів у Сакраменто, оцінюється на основі найбільш відповідних критеріїв оцінки ризику для кожної людини, відкриваючи світ фінансового вибору.

Непередбачувані наслідки та упередження, що виникають в результаті прийняття рішення, часто включаючи ML, є не тільки результатом алгоритму чи процесу моделювання, але включають усі накопичені точки дотику, які призводять до кінцевого результату. Щоб вирішити упередження, ви не можете просто спостерігати та виправляти симптоми. Ви повинні зрозуміти процес "до кінця" та розсікати всю систему, щоб потрапити на першопричину. Щойно ви зробите це, вам потрібно продовжувати робити це - постійно тестувати, вивчати та оптимізувати, щоб усунути упередження зі своїх моделей.

Зрештою, це може сприяти співпраці з використанням технологій для розширення та поглиблення фінансової включеності.

Ендрю Уоткінс-Бал є засновником і генеральним директором JUMO, найбільшої і найбільш швидко зростаючої технологічної платформи для роботи на ринку ринків мобільних фінансових послуг, що розвиваються на ринках, що розвиваються. JUMO співпрацює з перспективними мислячими банками та операторами мобільної мережі, щоб з'єднати споживачів та малий бізнес з фінансовими можливостями. JUMO поєднує в собі дані та технології для доставки продуктів, розроблених для досягнення та задоволення 80% світового населення, яке не обслуговується традиційними фінансовими послугами.

Кілька членів команди JUMO внесли свій внесок у цю роботу, серед яких Рікі Девімс, Ентоні Ла Грандж, Клариса Джонстон, Бен Гідлоу, Нату Лошанде, Ніклас фон Мальтзан і Пол Уелптон.