Чому вирішення упередженості в машинному навчанні є ключовим фактором для розблокування більшої фінансової включеності

"Фінансове включення означає, що фізичні та юридичні особи мають доступ до корисних та доступних фінансових продуктів та послуг, що відповідають їх потребам - транзакціям, платежам, заощадженням, кредитам та страхуванню - надаються відповідально та стійко". - Світовий банк

Наша JUMO полягає в тому, щоб радикально сприяти фінансовому включенню шляхом подолання розриву між критичними фінансовими послугами та тими, хто їх найбільше потребує. Нашими клієнтами є підприємці, малий бізнес та торговці на ринках, що розвиваються, які не мають традиційної фінансової історії, і тому виключаються з основної банківської екосистеми.

Але коли мільярди людей на ринках, що розвиваються, вперше з’являються в Інтернеті, більшість із них за допомогою мобільних телефонів, ми маємо можливість будувати нові форми цифрових та фінансових ідентичностей, які створюють новий фінансовий вибір.

Зробити це важко. Це вимагає осмислення неструктурованих даних таким чином, що людям просто неможливо зробити це вручну. Натомість JUMO використовує методи машинного навчання (МЛ) та штучного інтелекту (AI), які дозволяють більш точно моделювати ризик клієнта та пов’язувати їх із відповідним фінансовим вибором. При такому підході ми можемо досягти мільйонів раніше виключених людей, але це вимагатиме набагато більше роботи.

Фінансове виключення не є простим. Культурні, гендерні та соціальні нюанси застосовуються на різних ринках та країнах, додаючи простір складності будь-яким глобальним зусиллям щодо зменшення бідності. Це означає, що будь-який сингулярний, алгоритмічний підхід до проблеми, ймовірно, схильний до ненавмисного упередження. Щоб пом'якшити це, важливо включити неінтуїтивні соціокультурні фактори, унікальні для групи людей, до даних яких ми отримуємо доступ.

Подумайте про фермера в аграрному секторі перед передбачуваною посухою. У традиційній моделі кредитування їх профіль ризику - а отже, і ціни на кредитування - зростають так само, як зменшення фінансування та врожайності врожаю. Якби фермер отримав доступ до позики через традиційну модель кредитного ризику, вони б несли більш тяжкий тягар погашення, зробивши їх більш схильними до дефолту, тому модель виявилася правильною. Це надзвичайне нагадування про реальний вплив алгоритмічного прийняття рішень.

Простіше кажучи: є кращий спосіб управління цією ситуацією.

Що робити, якщо ми точно прогнозуємо посуху, знизимо ціну позики та допоможемо фермеру пройти цей важкий період? Це збільшило б імовірність того, що фермер отримає право на отримання позики за такою ставкою, яку розумно можна погасити, що зменшує ризик дефолту.

Тож важливо, хоча ми працюємо над розширенням фінансового доступу, ми також продовжуємо розмірковувати про дані, які ми використовуємо, процеси машинного навчання, які ми застосовуємо, та вплив цього на ці ринки. Нещодавно ми зосередилися на оптимізації нашого підходу до упередженості в процесах моделювання та прийняття рішень. Завдяки цій роботі ми розробили основу, яку будемо постійно застосовувати до того, що робимо. Ця рамка може бути корисною для інших, сподіваючись пом’якшити ненавмисні упередження в інших моделях.

Вимірювання впливу та маргіналізації

Проблема виключення фінансів величезна, тому такі глобальні організації, як Організація Об'єднаних Націй, працюють разом із компаніями для вирішення цього питання. Природно, щоб вирішити проблему, спочатку потрібно зрозуміти її масштабність.

Ідеальне включення означало б, що ми поширюємо фінансовий вибір на 100% «хороших» клієнтів - інакше кажучи, клієнтів, які мають намір і мають можливість повертати свої позики. У JUMO ми оцінюємо те, наскільки ці теоретично «хороші» клієнти можуть отримати доступ до фінансових продуктів від місцевих банків через нашу платформу. Щоб перевірити наш вплив, ми орієнтуємось на репрезентативну вибірку клієнтів, які в іншому випадку відхиляються, часто називають вибіркою відхилень, щоб оцінити верхній поріг того, як виглядатиме ідеальне фінансове включення.

Постійне допитування даних користувачів дає нам доступ до потоку неупередженої інформації, яку ми можемо використати для мінімізації історичних упереджень (що виникає внаслідок прийняття історичних рішень) та уникнення ненавмисних наслідків помилкового виключення людей. Однак важливо, щоб цей процес вимірювання був регулярним і триває. Це гарантує, що наш бізнес залишається узгодженим із нашою загальною місією та уникає оцінювання клієнтів на основі непередбачуваних упереджень, які увійшли до системи.

Кращі дані означають краще прогнозування

Важливо пам’ятати, що результат будь-якої моделі машинного навчання є настільки ж хорошим, як і дані, що включаються. Наприклад, нам відомо, що непропорційний відсоток користувачів нашої платформи - чоловіки (70% порівняно з 30% клієнтів жінок). Але коли ми поєднуємо наші дані з іншими дослідженнями, ми виявляємо, що жінки мають лише 10% менше шансів, ніж чоловіки, володіти мобільним телефоном, і стать відіграє менш значну роль у поглинанні та використанні цифрових грошей.

То чому жінки були ненавмисно маргіналізовані?

Щоб зрозуміти цю проблему, нам потрібно було запитати: яку іншу інформацію ми могли б використати для доповнення поточних наборів даних, які допомогли б нам розмежувати людей у ​​видимо гомогенній групі?

У цьому випадку було розуміння того, що на деяких ринках жінки використовують мобільні телефони та мобільні гаманці рідше, ніж чоловіки. Це значною мірою зводиться до соціокультурних факторів, включаючи відсутність довіри до мобільного банкінгу або заборонні платежі за транзакції. Взявши розуміння цих даних та застосовуючи їх по-різному до жінок, ми можемо розробити більш відповідні критерії ризику, які можуть збільшити рівність можливостей.

ML та інтуїція для реальних програм

У технологічній галузі ми часто дивимось на світ за допомогою даних - 1 та 0. Ми ігноруємо людський вплив нашої роботи. Щоб досягти реального прогресу в просуванні методологій прогнозування, нам потрібні алгоритми та інтуїція; нам потрібно шукати поза короткостроковим періодом, знищувати помилкові позитиви та помилкові негативи та створювати продукти, придатні для людей.

Жодна модель не може вирішити десятиліття складності чи багатства соціальних мереж людини та їх глибоких відмінностей. Для того, щоб просуватися, нам потрібно постійно кидати виклик традиційному мисленню та власному мисленню.

У кредиті, який залишається незмінним протягом десятиліть, те, як ми бачимо та оцінюємо ризик, має величезний потенціал для прогресу. Машинне навчання може і буде грати перетворюючу роль у наших зусиллях, тому ми схильні думати про перевершення. При цьому ми визнаємо ризики. Ось чому ми зосереджені на використанні ШІ, щоб зменшити упередженість у прийнятті фінансових рішень, знаючи, що при поганому застосуванні це може мати протилежний ефект.

Доброчутливий підхід до фінансового включення?

Застосовуючи такий підхід, ми визнаємо необхідність у розвиваючому наборі критеріїв, який максимізує здатність індивідів виражати свій потенціал. Роблячи це, ми можемо нарешті розірвати прямий зв’язок між кредитними показниками та багатством, використовуючи не односторонній підхід до оцінки ризику. Це означає, що купець у Кампалі, який бере 100 обігових коштів, а продавець, який займає 10 000 доларів у Сакраменто, оцінюється на основі найбільш відповідних критеріїв оцінки ризику для кожної людини, відкриваючи світ фінансового вибору.

Навмисні наслідки та упередження, що виникають в результаті прийняття рішення, часто включаючи ML, є не тільки результатом алгоритму чи процесу моделювання, але включають усі накопичені точки дотику, які призводять до кінцевого результату. Для усунення упередженості ви не можете просто спостерігати та виправляти симптоми. Ви повинні зрозуміти процес "до кінця" та розсікати всю систему, щоб потрапити на першопричину. Після цього вам потрібно продовжувати робити це - постійно тестуючи, вивчаючи та оптимізуючи для усунення упередженості з ваших моделей.

Зрештою, це може сприяти співпраці з використанням технологій для розширення та поглиблення фінансової включеності.

Ендрю Уоткінс-Бал є засновником і генеральним директором JUMO, найбільшої і швидкозростаючої технологічної платформи для роботи на ринку ринків мобільних фінансових послуг, що розвиваються на ринках, що розвиваються. JUMO співпрацює з перспективними мислячими банками та операторами мобільної мережі, щоб з'єднати споживачів та малий бізнес з фінансовими можливостями. JUMO поєднує дані та технології для доставки продуктів, розроблених для досягнення та підходу до 80% населення світу, яке не обслуговується традиційними фінансовими послугами.

Кілька членів команди JUMO внесли свій внесок у цю роботу, серед яких Рікі Девімс, Ентоні Ла Грандж, Клариса Джонстон, Бен Гідлоу, Нату Лошанде, Ніклас фон Мальтзан і Пол Уелптон.