الذكاء الاصطناعي والاستقرار المالي

| حسين سلمان أحمد الشويخ

يبدو أن الذكاء الاصطناعي سيقدم فوائد كبيرة للنظام المالي. ولكنه في الوقت نفسه يخلق مخاطر على الاستقرار المالي. وإذا حدثت هذه الأزمات المالية في المستقبل، فإنها قد تنتشر بسرعة أكبر وتسبب أضرارا أكبر من أي وقت مضى.

 تتبنى المؤسسات المالية الذكاء الاصطناعي بشكل سريع، مدفوعة باحتمال تحقيق مكاسب كبيرة في الكفاءة. ورغم أن هذا التطور إيجابي بشكل عام، فإن الذكاء الاصطناعي يفرض أيضا تهديدات لاستقرار النظام المالي لا تزال غير مفهومة إلى حد كبير.   تظل تأثيرات الذكاء الاصطناعي على الاستقرار المالي مثيرة للجدل. ويرى بعض المعلقين بتفاؤل أن الذكاء الاصطناعي ما هو إلا واحد من سلسلة طويلة من الابتكارات التكنولوجية التي تعمل على تحويل الخدمات المالية دون تغيير النظام بشكل جذري. ووفقا لهذا الرأي، فإن الذكاء الاصطناعي لا يشكل تهديدات جديدة أو فريدة للاستقرار، وبالتالي لا يشكل تحديا خاصا للهيئات التنظيمية المالية. ومن المرجح أن يقوم المنظم الذي يتبنى هذا الرأي بتفويض تحليل كيفية تأثير اعتماد الذكاء الاصطناعي على المؤسسات المالية إلى أقسام تكنولوجيا المعلومات أو تحليلات البيانات.   أنا لا أتفق مع هذا. الفرق الأساسي بين الذكاء الاصطناعي والتغيرات التكنولوجية السابقة هو أن الذكاء الاصطناعي يتخذ قرارات مستقلة بدلاً من مجرد إعلام صناع القرار البشري.  هو وكيل تعظيم عقلاني (وكيل يتصرف بطريقة مثالية لتحقيق أفضل نتيجة متوقعة) يقوم بتنفيذ المهام الموكلة إليه. وتثير استقلالية الذكاء الاصطناعي أسئلة جديدة ومعقدة بشأن الاستقرار المالي. وهذا يعني أن البنوك المركزية والسلطات الأخرى ينبغي أن تجعل تحليل تأثير الذكاء الاصطناعي مجالا أساسيا لإدارات الاستقرار المالي لديها، وليس إدارات تكنولوجيا المعلومات أو الإحصاء.  تواطؤ الذكاء الاصطناعي والأكاذيب تنشأ المخاطر التي تشكلها الذكاء الاصطناعي على الاستقرار المالي عند تقاطع تكنولوجيتها والنظريات التقليدية حول ضعف النظام المالي.   يتمتع الذكاء الاصطناعي بقدرة رائعة على اكتشاف الأنماط واستغلالها في مجموعات البيانات الكبيرة: بسرعة وموثوقية وبتكلفة زهيدة. ومع ذلك، فإن أداء الذكاء الاصطناعي يعتمد بشكل كبير على تدريبه على البيانات ذات الصلة - ربما أكثر من تدريب البشر. إن قدرة الذكاء الاصطناعي على الاستجابة السريعة والحاسمة ــ إلى جانب عملية اتخاذ القرار الغامضة، وإمكانية التواطؤ مع أنظمة الذكاء الاصطناعي الأخرى، وميله إلى الهلوسة ــ تشكل الأساس للمخاطر التي يفرضها على الاستقرار المالي.      يتم تنفيذ الذكاء الاصطناعي في المؤسسات المالية، مما يؤدي إلى بناء الثقة من خلال أداء مهام بسيطة للغاية بشكل جيد للغاية. ولكن عندما ننتقل إلى مشاكل أكثر تعقيدًا، قد ننتهي إلى نسخة الذكاء الاصطناعي من مبدأ بيتر. 

 مبدأ بيتر  مبدأ بيتر، الموصوف في الكتاب الذي يحمل نفس الاسم من تأليف لورنس بيتر وريموند هال، ينص على أن كل موظف يسعى جاهدا للوصول إلى مستوى عدم كفاءته. كقاعدة عامة، يتم ترقية الموظفين الأكثر كفاءة؛ إذا نجح الشخص في التعامل مع المسؤوليات في المنصب الجديد، فإنه يحصل على ترقية أخرى. ما دام الموظف يثبت كفاءته فإنه يرتقي في السلم الوظيفي - حتى يصل إلى مستوى لم يعد يملك فيه ما يكفي من الكفاءة. وسيبقى في هذا المنصب. لقد تم اعتبار مبدأ بيتر منذ فترة طويلة مجرد نظرية هزلية حول الخلل التنظيمي، ولكن الأبحاث التي أجريت على عينة كبيرة من الشركات أكدت أن هذه النظرية فعالة بالفعل. (ملاحظة من إيكونس.)       سوف يصبح الذكاء الاصطناعي ضروريًا وإلزاميًا، سواء أراد صناع القرار ذلك أم لا. ما دام الذكاء الاصطناعي يوفر قدرًا كبيرًا من التكلفة ويزيد من الكفاءة، فليس هناك معنى من القول "لن نستخدم الذكاء الاصطناعي أبدًا لهذه الوظيفة" أو "سيكون لدينا دائمًا أشخاص على دراية بهذا الأمر".   من الصعب بشكل خاص ضمان قيام الذكاء الاصطناعي بما يفترض أن يفعله في المهام عالية المستوى، لأنه يتطلب تعليمات أكثر دقة من البشر. إن مجرد إخباره بـ "الحفاظ على النظام آمنًا" أمر غامض للغاية. ويستطيع الناس التعويض عن هذا الغموض بالحدس، والمعرفة العامة، والحكم الجماعي. الذكاء الاصطناعي الحالي لا يستطيع ذلك.   ومن الممكن العثور على مثال صارخ لما يمكن أن يحدث عندما تتخذ الذكاء الاصطناعي قرارات مالية مهمة في دراسة أجريت على نموذج لغة تداول الأسهم الذي تم توجيهه صراحة لتحقيق أقصى قدر من الأرباح مع الامتثال لقوانين الأوراق المالية. بعد تلقيها نصيحة خاصة (من الداخل)، انخرطت على الفور في تداول غير قانوني من الداخل بينما كذبت على مشغليها بشأن أسباب قرارات التداول التي اتخذتها.   يتعين على صناع القرار المالي في كثير من الأحيان شرح خياراتهم، ربما لأسباب قانونية أو تنظيمية. قبل أن نقوم بتعيين شخص ما لمنصب قيادي، نطلب من هذا الشخص أن يشرح لنا كيف سيتصرف في المواقف الافتراضية. لا يمكننا القيام بذلك باستخدام الذكاء الاصطناعي لأن الآليات الحالية لديها قدرة محدودة على تفسير كيفية وصولها إلى استنتاجاتها، وخاصة على المستوى العالي من عملية صنع القرار.   الذكاء الاصطناعي عرضة للهلوسة، وهذا يعني أنه يمكنه بكل ثقة تقديم إجابات لا معنى لها. وهذا شائع بشكل خاص في الحالات التي تكون فيها البيانات ذات الصلة مفقودة من مجموعة التدريب الخاصة بها. وهذا هو أحد الأسباب التي تجعلنا نضطر إلى الحذر بشأن استخدام الذكاء الاصطناعي لإنشاء سيناريوهات اختبار الضغوط.   تُسهّل الذكاء الاصطناعي الأمر على أولئك الذين يريدون استخدام التكنولوجيا لأغراض خبيثة، سواء كان ذلك للعثور على ثغرات قانونية وتنظيمية، أو ارتكاب جرائم، أو الانخراط في الإرهاب، أو تنفيذ هجمات على الدول. لن يتبع هؤلاء الأشخاص المعايير أو القواعد الأخلاقية.    إن التنظيم يهدف إلى مواءمة الحوافز الخاصة مع المصلحة العامة. ومع ذلك، فإن الأدوات التنظيمية التقليدية ــ العصا والجزرة ــ لا تعمل مع الذكاء الاصطناعي. لا يهتم بالمكافآت أو العقوبات. ولهذا السبب يتعين على التنظيم أن يتغير بشكل جذري.

 حلقة مغلقة  بسبب الطريقة التي تتعلم بها أنظمة الذكاء الاصطناعي، فإنها تشرف على قرارات جميع أنظمة الذكاء الاصطناعي الأخرى في القطاعين العام والخاص. وهذا يعني أن الأنظمة مُحسّنة للتأثير على بعضها البعض: حيث تقوم أنظمة الذكاء الاصطناعي بتعليم أنظمة الذكاء الاصطناعي الأخرى ما هو جيد وما هو سيئ، مما يؤدي إلى حلقة تغذية مرتدة تعزز السلوك غير المرغوب فيه ولا يمكن اكتشافها. إن هذه القنوات الخفية بين الذكاء الاصطناعي، والتي لا يستطيع البشر مراقبتها أو فهمها في الوقت الحقيقي، يمكن أن تؤدي إلى الإفلاس وتبخر السيولة والأزمات.   السبب الرئيسي وراء صعوبة منع الأزمات هو كيفية رد فعل النظام تجاه محاولات السيطرة. إن رد فعل المؤسسات المالية لا يتمثل في الامتثال بهدوء لأوامر الحكومة. لا، المؤسسات المالية تستجيب بشكل استراتيجي. والأمر الأكثر أهمية هو أننا لا نعرف كيف سيكون رد فعلهم تجاه الضغوط المستقبلية. أظن أنهم لا يعرفون هذا حتى أنفسهم. إن وظيفة الاستجابة للضغوط الشديدة لدى المشاركين في القطاعين العام والخاص غير معروفة إلى حد كبير.   وهذا هو أحد الأسباب التي تجعلنا نملك القليل من البيانات حول الأحداث المتطرفة.  والسبب الآخر هو أن جميع الأزمات فريدة من نوعها في تفاصيلها. إن الأزمات أمر لا مفر منه لأن "الدروس المستفادة" تعني أننا نغير الطريقة التي ندير بها النظام بعد كل أزمة، وتظهر مخاطر خفية جديدة. ومن البديهي أن قوى عدم الاستقرار تنشأ حيث لا ننظر.   يعتمد الذكاء الاصطناعي على البيانات. في حين أن النظام المالي ينتج كميات هائلة من البيانات كل يوم ــ اكسابايت ــ فإن المشكلة هي أن معظم هذه البيانات يأتي من منتصف توزيع النتائج، وليس “الذيل"  (منتصف التوزيع هو النتائج الأكثر احتمالا، أما "الذيل" فهي النتائج غير المحتملة. - محرر "إيكونز"). الأزمات دائما ما تكون حول "الذيول".   ويؤدي هذا الافتقار إلى المعلومات إلى خلق الهلوسة ويؤدي إلى خطر اختيار الطريق الخاطئ. ولأن لدينا بيانات قليلة للغاية عن المواقف المتطرفة في النظام المالي، ولأن كل أزمة فريدة من نوعها، فإن الذكاء الاصطناعي لا يستطيع أن يتعلم كل شيء من الضغوط الماضية. علاوة على ذلك، فهو لا يعرف إلا القليل عن العلاقات السببية الأكثر أهمية. في جوهرها، هذه المشكلة هي عكس ما تم تصميم الذكاء الاصطناعي من أجله: عندما تكون هناك حاجة ماسة إلى الذكاء الاصطناعي، فإنه يعرف أقل قدر ممكن، مما يؤدي إلى خطر اختيار المسار الخاطئ.       إن التهديدات التي يشكلها الذكاء الاصطناعي للاستقرار مدفوعة أيضًا بثقافة المخاطرة الأحادية، والتي كانت دائمًا عاملًا رئيسيًا في حالات الازدهار والكساد. تتمتع تقنية الذكاء الاصطناعي باقتصاديات كبيرة من حيث الحجم بسبب تكامل رأس المال البشري والبيانات والحوسبة. من المتوقع أن تهيمن مجموعة قليلة من بائعي الذكاء الاصطناعي على مجال التحليلات المالية، حيث يتمتع كل منهم باحتكار شبه كامل في مجال معين. ينشأ التهديد للاستقرار المالي عندما لا يكون أمام معظم الأشخاص في القطاعين الخاص والعام خيار سوى الحصول على فهمهم للمشهد المالي من مزود واحد. والنتيجة هي ثقافة أحادية المخاطرة. نحن نستمر في نفخ نفس الفقاعات ونتغاضى عن نفس نقاط الضعف النظامية. ومع ذلك، على عكس الذكاء الاصطناعي، فإن البشر أكثر تنوعًا وبالتالي يمكنهم ممارسة تأثير استقراري أكبر عند مواجهة أحداث غير متوقعة.

 سرعة الذكاء الاصطناعي والأزمات المالية  عندما تواجه المؤسسات المالية صدمات، يكون لديها خياران: الهروب (أي زعزعة الاستقرار) أو البقاء (أي الاستقرار). وهنا تعمل قوة الذكاء الاصطناعي على حساب النظام، ويرجع ذلك جزئيا إلى أن الذكاء الاصطناعي في جميع أنحاء الصناعة سوف يتخذ نفس القرار بسرعة وبشكل جماعي.   عندما لا تكون الصدمة شديدة للغاية، فمن الأفضل امتصاصها وحتى التداول ضدها. وبما أن أنظمة الذكاء الاصطناعي تتقارب بسرعة إلى حالة "التوازن"، فإنها تصبح قوة للاستقرار، وتضع "أرضية" تحت السوق قبل أن تشتد الأزمة، وبالتالي تمنع الأزمة من التطور.   وعلى العكس من ذلك، إذا كان تجنب الإفلاس يتطلب اتخاذ إجراءات سريعة وحاسمة، مثل البيع في سوق متراجعة، فإن أنظمة الذكاء الاصطناعي سوف تعمل بشكل جماعي على تحقيق ذلك. ومن المتوقع أن يؤدي ذلك إلى زعزعة استقرار النظام المالي بأكمله. سوف يسعى كل الذكاء الاصطناعي إلى تقليل الخسائر أولاً. الشخص الأخير الذي يتحرك يواجه خطر الإفلاس. ستتسابق أنظمة الذكاء الاصطناعي في البيع، والمطالبة بسداد القروض، والتسبب في عمليات سحب جماعية للأموال. وهذا من شأنه أن يؤدي إلى تفاقم الأزمة، ويخلق حلقة مفرغة.   إن سرعة وكفاءة الذكاء الاصطناعي تعني أن أزمات الذكاء الاصطناعي ستكون سريعة وعميقة. ما كان يستغرق أيامًا أو أسابيع قد يستغرق الآن دقائق أو ساعات.  خيارات السياسة قد لا تنجح الآليات التقليدية للوقاية من الأزمات المالية والتخفيف من حدتها في عالم الأسواق التي تعتمد على الذكاء الاصطناعي. وعلاوة على ذلك، إذا لم يكن صناع السياسات مستعدين للاستجابة للصدمات الناجمة عن الذكاء الاصطناعي، فإن هذا في حد ذاته قد يجعل الأزمات أكثر احتمالا.   للاستجابة بفعالية للذكاء الاصطناعي، تحتاج الحكومات إلى خمسة إجراءات رئيسية: بناء الخبرة الداخلية في مجال الذكاء الاصطناعي وبناء أو الحصول على أنظمة الذكاء الاصطناعي الخاصة بك. ويعد هذا أمرًا بالغ الأهمية لفهم الذكاء الاصطناعي واكتشاف المخاطر الناشئة والاستجابة بسرعة للاضطرابات في السوق. جعل الذكاء الاصطناعي وظيفة أساسية لإدارات الاستقرار المالي، بدلاً من تركها لأقسام الإحصاء أو تكنولوجيا المعلومات. الحصول على أنظمة الذكاء الاصطناعي التي يمكنها التفاعل بشكل مباشر مع أنظمة الذكاء الاصطناعي للمؤسسات المالية. لقد أصبح الآن جزء كبير من التمويل في القطاع الخاص آليًا. تتيح اتصالات واجهة برمجة التطبيقات بين الذكاء الاصطناعي هذه إجراء معايرة للإدارة الدقيقة، واكتشاف الضغوط بشكل أسرع، وتقييم القرارات الآلية بشكل أكثر شفافية. إعداد أدوات صيانة السيولة المفعلة تلقائيًا. الأزمة القادمة ستكون سريعة جدا: قد تتمكن أنظمة الذكاء الاصطناعي في القطاع المصرفي من إنجاز كل شيء قبل أن يتوفر للرئيس التنفيذي للبنك الوقت لالتقاط الهاتف للرد على مكالمة من محافظ البنك المركزي. قد يتبين أن الوسائل التقليدية الحالية للحفاظ على السيولة بطيئة للغاية. قم بتسليم وظائف الذكاء الاصطناعي المهمة إلى جهات خارجية. ومن شأن هذا أن يساعد في سد الفجوة الناجمة عن فشل الحكومات في تطوير القدرات التقنية اللازمة داخل مؤسساتها. ومع ذلك، فإن الاستعانة بمصادر خارجية تخلق مخاطر قضائية (جغرافية) وتركيزية وقد تعيق التطوير الضروري لمهارات الذكاء الاصطناعي بين المسؤولين الحكوميين.   سيحقق الذكاء الاصطناعي فوائد كبيرة للنظام المالي - كفاءة أكبر، وتقييم أفضل للمخاطر، وتكاليف أقل للمستهلكين. ولكنها تفرض أيضاً مخاطر جديدة على الاستقرار المالي لا يمكن تجاهلها. إن الأطر التنظيمية بحاجة إلى إعادة النظر، وأدوات إدارة المخاطر بحاجة إلى التكيف، والسلطات بحاجة إلى الاستعداد للعمل بالسرعة التي يمليها الذكاء الاصطناعي. إن الطريقة التي تختارها الحكومات للرد على التهديدات التي يشكلها الذكاء الاصطناعي سيكون لها تأثير كبير على احتمالية وحجم أزمة الذكاء الاصطناعي.