لماذا تعد معالجة التحيز في التعلم الآلي أمرًا أساسيًا لفتح المزيد من الدمج المالي

"الإدماج المالي يعني أن الأفراد والشركات لديهم إمكانية الوصول إلى منتجات وخدمات مالية مفيدة ومعقولة التكلفة تلبي احتياجاتهم - المعاملات والمدفوعات والمدخرات والائتمان والتأمين - المقدمة بطريقة مسؤولة ومستدامة." - البنك الدولي

تتمثل مهمتنا في JUMO في تعزيز التضمين المالي بشكل جذري عن طريق سد الفجوة بين الخدمات المالية الحيوية وتلك التي هي في أمس الحاجة إليها. عملاؤنا هم رواد أعمال وشركات صغيرة ومتاجرون في الأسواق الناشئة ليس لديهم تاريخ مالي تقليدي وبالتالي يتم استبعادهم من النظام البيئي المصرفي الرئيسي.

ولكن مع وجود مليارات الأشخاص في الأسواق الناشئة على الإنترنت لأول مرة ، معظمهم عبر الهواتف المحمولة ، لدينا الآن فرصة لبناء أشكال جديدة من الهويات الرقمية والمالية التي تخلق خيارات مالية جديدة.

القيام بذلك صعب. يتطلب الأمر تفهم البيانات غير المنظمة بطريقة لا يمكن للبشر القيام بها يدويًا. بدلاً من ذلك ، تستخدم JUMO أساليب التعلم الآلي (ML) والذكاء الاصطناعي (AI) التي يمكنها أن تحدد بدقة أكثر مخاطر العميل وتربطها بالخيارات المالية المناسبة. باستخدام هذا النهج ، يمكننا الوصول إلى ملايين الأشخاص المستبعدين سابقًا ، لكن الأمر يتطلب المزيد من العمل.

الاستبعاد المالي ليس سهلاً. تنطبق الفروق الثقافية والجنسانية والاجتماعية على الأسواق والبلدان ، مما يضيف طبقة من التعقيد إلى أي جهد عالمي للحد من الفقر. هذا يعني أن أي نهج خوارزمي فردي للمشكلة من المحتمل أن يكون عرضة للتحيز غير المقصود. لتخفيف هذا الأمر ، من المهم تضمين عوامل اجتماعية ثقافية غير بديهية تنفرد بها مجموعة الأشخاص الذين نصل إلى بياناتهم.

فكر في مزارع في القطاع الزراعي قبل حدوث جفاف متوقع. في نموذج الائتمان التقليدي ، يرتفع مستوى المخاطر - وبالتالي أسعار الإقراض - مع انخفاض التمويل وعائد المحاصيل. إذا كان على المزارع الوصول إلى قرض من خلال نموذج مخاطر الائتمان التقليدي ، فإنهم يتحملون عبء سداد أثقل ، مما يجعلهم أكثر عرضة للتخلف عن السداد ، وبالتالي ثبت صحة النموذج. هذا تذكير صارخ بالأثر الواقعي لعملية صنع القرار الحسابي.

ببساطة ، هناك طريقة أفضل لإدارة هذا الموقف.

ماذا لو توقعنا بدقة الجفاف ، وأسقطنا سعر القرض ، وساعدنا المزارع على اجتياز هذه الفترة الصعبة؟ هذا من شأنه أن يزيد من احتمال تأهل المزارع للحصول على قرض بمعدل يمكن سداده بشكل معقول ، مما يقلل من خطر التخلف عن السداد.

من الضروري إذن أن نعمل على توسيع نطاق الوصول المالي ، إلا أننا نواصل التفكير في البيانات التي نستخدمها وعمليات التعلم الآلي التي نطبقها وتأثير ذلك على هذه الأسواق. لقد ركزنا مؤخرًا على تحسين نهجنا للتحيز في عمليات وضع النماذج واتخاذ القرارات. من خلال هذا العمل ، قمنا بتطوير إطار سنطبقه باستمرار على ما نقوم به. قد يكون هذا الإطار مفيدًا للآخرين الذين يأملون في التخفيف من التحيز غير المقصود في النماذج الأخرى.

قياس التأثير والتهميش

إن التحدي المتمثل في الاستبعاد المالي كبير ، وهذا هو السبب في أن المنظمات العالمية مثل الأمم المتحدة تعمل جنباً إلى جنب مع الشركات لمعالجة هذه القضية. بطبيعة الحال ، لحل مشكلة تحتاج أولاً إلى فهم حجمها.

يعني الدمج التام أننا نمد الخيارات المالية إلى 100٪ من العملاء "الجيدين" - بمعنى آخر ، العملاء الذين يعتزمون ولديهم القدرة على سداد قروضهم. في JUMO ، نقيس أنفسنا مقابل المدى الذي يمكن به هؤلاء العملاء "النظريون" من الوصول إلى المنتجات المالية من البنوك المحلية عبر منصتنا. لاختبار تأثيرنا ، نحن نستهدف عينة تمثيلية من العملاء الذين تم رفضهم على خلاف ذلك ، وغالبًا ما يطلق عليهم أخذ عينات الرفض ، لتحديد الحد الأعلى لما سيكون عليه الشمول المالي المثالي.

يتيح لنا الاستجواب المستمر لبيانات المستخدم الوصول إلى تدفق المعلومات غير المتحيزة التي يمكننا استخدامها لتقليل التحيز التاريخي (الذي ينشأ عن اتخاذ القرارات التاريخية) وتجنب العواقب غير المقصودة لاستبعاد الأشخاص بشكل غير دقيق. ومع ذلك ، من المهم أن تكون عملية القياس هذه منتظمة ومستمرة. إنه يضمن بقاء أعمالنا متماشية مع مهمتنا الشاملة ويتجنب تقييم العملاء على أساس التحيز غير المقصود الذي دخل النظام.

البيانات الأفضل تعني التنبؤ الأفضل

من المهم أن تتذكر أن نتيجة أي نموذج للتعلم الآلي ليست سوى جيدة مثل البيانات المضمنة. على سبيل المثال ، نعلم أن نسبة مئوية غير متناسبة من مستخدمي منصتنا هم من الذكور (70٪ مقارنة بـ 30٪ من العملاء الإناث). لكن عندما نجمع بياناتنا مع أبحاث أخرى ، نجد أن النساء أقل بنسبة 10٪ فقط من الرجال في امتلاك هاتف محمول وأن الجنس يلعب دورًا أقل أهمية في امتصاص الأموال الرقمية واستخدامها.

فلماذا تم تهميش النساء دون قصد؟

لفهم هذه المشكلة ، نحتاج إلى طرح الأسئلة التالية: ما المعلومات الأخرى التي يمكن أن نستخدمها لتكملة مجموعات البيانات الحالية التي من شأنها أن تساعدنا على التمييز بين الأفراد في مجموعة متجانسة على ما يبدو؟

في هذه الحالة ، كان من المفهوم أن النساء في بعض الأسواق يستخدمن الهواتف المحمولة ومحافظ الهواتف المحمولة بوتيرة أقل من الرجال. هذا يرجع إلى حد كبير إلى العوامل الاجتماعية والثقافية ، بما في ذلك عدم الثقة في الخدمات المصرفية عبر الهاتف المحمول أو رسوم المعاملات باهظة. من خلال أخذ نظرة ثاقبة من هذه البيانات وتطبيقها بشكل مختلف على النساء ، يمكننا تطوير معايير مخاطر أكثر ملاءمة قد تزيد من تكافؤ الفرص.

ML والحدس لتطبيقات العالم الحقيقي

في صناعة التكنولوجيا ، غالبًا ما ننظر إلى العالم من خلال البيانات - 1s و 0s. نحن نتجاهل الأثر الإنساني لعملنا. لإحراز تقدم حقيقي في تقدم المنهجيات التنبؤية ، نحتاج إلى خوارزميات وحدس ؛ نحن بحاجة إلى النظر إلى ما وراء المدى القصير ، والمقايضة بالإيجابيات الكاذبة والسلبيات الكاذبة ، وبناء منتجات مناسبة للناس.

لا يستطيع أي نموذج معالجة عقود من التعقيد أو ثراء الشبكات الاجتماعية البشرية والاختلافات الدقيقة الكامنة فيها. من أجل التقدم ، نحتاج إلى تحدي التفكير التقليدي وتفكيرنا باستمرار.

في الائتمان ، الذي ظل دون تغيير في الغالب لعقود ، فإن الطريقة التي ننظر بها إلى المخاطر وتقييمها لها إمكانات هائلة للتقدم. يمكن للتعلم الآلي أن يلعب دورًا تحوليًا في جهودنا ، لذلك نحن مستعدون للتفكير في الاتجاه الصعودي. في الوقت نفسه ، نحن ندرك المخاطر. هذا هو السبب في أننا نركز على استخدام الذكاء الاصطناعي للحد من التحيز في صنع القرار المالي مع العلم أنه إذا تم تطبيقه بشكل سيئ ، فقد يكون له تأثير معاكس تمامًا.

نهج متعاطف مع الإدماج المالي؟

باعتماد هذا النهج ، ندرك الحاجة إلى مجموعة متطورة من المعايير التي تزيد من قدرة الأفراد على التعبير عن إمكاناتهم. من خلال القيام بذلك ، قد نقوم أخيرًا بقطع الصلة المباشرة بين الدرجات الائتمانية والثروة باستخدام نهج غير أحادي لتقييم المخاطر. هذا يعني أن التاجر في كمبالا الذي يحصل على 100 دولار من رأس المال العامل وتاجر يقترض 10000 دولار في سكرامنتو يتم تقييمه على أساس معايير تقييم المخاطر الأكثر ملائمة لكل فرد ، مما يفتح عالماً من الخيارات المالية.

النتائج غير المقصودة والانحياز الذي ينشأ نتيجة لاتخاذ القرار ، وغالبًا ما يشمل ML ، ليست فقط نتيجة الخوارزمية أو عملية النمذجة ، ولكنها تنطوي على جميع نقاط اللمس المتراكمة التي تؤدي إلى النتيجة النهائية. لمعالجة التحيز ، لا يمكنك ببساطة ملاحظة الأعراض وتصحيحها. عليك أن تفهم العملية الشاملة وتشريح النظام بأكمله من أجل الحصول على السبب الجذري. بمجرد القيام بذلك ، ستحتاج إلى مواصلة القيام بذلك - باستمرار اختبار والتعلم وتحسين لإزالة التحيز من النماذج الخاصة بك.

في نهاية المطاف ، يمكن أن يكون هذا دورًا فعالًا في استخدام التكنولوجيا لتوسيع وتعميق الشمول المالي.

أندرو واتكينز-بول هو مؤسس ومدير تنفيذي JUMO ، أكبر وأسرع منصة تكنولوجية لتشغيل أسواق الخدمات المالية المتنقلة الشاملة في الأسواق الناشئة. تتعاون JUMO مع بنوك التفكير المتقدم ومشغلي شبكات الهاتف المحمول لتوصيل المستهلكين والشركات الصغيرة بالفرص المالية. يجمع JUMO بين البيانات والتكنولوجيا لتقديم المنتجات المصممة للوصول إلى 80٪ من سكان العالم الذين لا تتوفر لهم خدمات مالية تقليدية.

ساهم العديد من أعضاء فريق JUMO في هذا العمل ، بما في ذلك ريكي Davimes ، أنتوني لا جرانج ، كلاريسا جونستون ، بن جيدلو ، ناتو لاوشاندي ، نيكلاس فون مالتزاهن وبول ويلبتون.