جانيت يلين تحذر من مخاطر دمج الذكاء الاصطناعي في القطاع المالي

من المتوقع أن تحذِّر وزيرة الخزانة الأميركية جانيت يلين المصرفيين والمديرين التنفيذيين للتكنولوجيا يوم الخميس من أنه في حين أن الذكاء الاصطناعي يمكن أن يفتح الباب أمام مكاسب ضخمة للنظام المالي، فإن التكنولوجيا تهدد في الوقت ذاته بإدخال مخاطر جديدة، وفقاً لمقتطفات من خطاب تمت مشاركته مع شبكة (CNN).

يمثل خطاب جانيت يلين في مؤتمر حول الاستقرار المالي ملاحظاتها الأكثر شمولاً حتى الآن إزاء الذكاء الاصطناعي.

ويأتي ذلك في الوقت الذي يتدافع فيه المستثمرون للتربح من طفرة الذكاء الاصطناعي، إذ بدأ عمالقة التكنولوجيا في سباق تسلح بالذكاء الاصطناعي، الذي بدوره أدى إلى قلق المنظمين بشأن المخاطر المحتملة له.

الذكاء الاصطناعي والقطاع المالي

«إن الفرص الهائلة والمخاطر الكبيرة المرتبطة باستخدام الذكاء الاصطناعي من قبل الشركات المالية قد نقلت هذه القضية نحو صدارة أولويات جداول أعمال المنظمين الماليين»، كما تخطط يلين لقولها في الملاحظات المعدة سلفاً التي ستلقيها في المؤتمر، الذي سيعقد يوم الخميس في وزارة الخزانة الأميركية، ويوم الجمعة في معهد بروكينغز، ومن المقرر أن يتم بث الحدث -بما في ذلك تصريحات يلين- على الهواء مباشرة.

ومن ناحية الفرص، ستنقل يلين ملاحظاتها للحضور عن كيف اُستُخدم الذكاء الاصطناعي بالفعل من قبل المستثمرين لدعم التنبؤ وإدارة المحافظ ومن قبل البنوك لمحاربة الاحتيال ودعم خدمة العملاء، وفقاً للملاحظات المُعدة.

ثم من المتوقع أن تقول يلين إن «التطور السريع» للذكاء الاصطناعي يمكن أن يمهد الطريق لجعل الخدمات المالية أرخص وأسهل، مشيرة على وجه التحديد إلى التقدم في معالجة اللغة الطبيعية والتعرف على الصور والذكاء الاصطناعي التوليدي.

ولقد أسرت قدرات روبوتات الدردشة المدعمة بالذكاء الاصطناعي، بما في ذلك «تشات جي بي تي» من «أوبن إيه آي» و«جيميني» من «غوغل»، المستخدمين، إذ أصبحت تلك الأدوات قادرة على استحضار الصور على الفور تقريباً، ونطق كلمات الأغاني، ويمكن لبعضها أيضاً إنشاء مقاطع فيديو عالية الجودة.

وقد قامت يلين بنفسها بتجربة روبوتات الدردشة المدعمة بالذكاء الاصطناعي، حسب ما قال مسؤول في وزارة الخزانة لشبكة (CNN).

يلين ومخاطر استخدام الذكاء الاصطناعي

وقالت يلين في تصريحاتها المُعدة «أعلم أنكم جميعاً هنا تدركون أن استخدام الذكاء الاصطناعي من قبل المؤسسات المالية يأتي مصحوباً بمخاطر إلى جانب هذه الفرص».

وقال مسؤول بوزارة الخزانة لشبكة (CNN) إنه من المتوقع أن يضم المؤتمر المنظمين والمديرين التنفيذيين للتكنولوجيا ومديري الأصول وشركات التأمين والأكاديميين ومنظمات المجتمع المدني والبنوك الصغيرة والكبيرة.

في ديسمبر كانون الأول الماضي، حذَّر فريق من كبار المنظمين الأميركيين بقيادة يلين -لأول مرة- من أن الذكاء الاصطناعي يشكل خطراً على النظام المالي، وقد قام مجلس مراقبة الاستقرار المالي، وهو فريق SWAT من المنظمين الذي تم تشكيله بعد الأزمة المالية في عام 2008، بتصنيف الذكاء الاصطناعي رسمياً باعتباره «نقطة ضعف ناشئة».

وتخطط يلين في خطابها لتوضيح ما يمكن أن يحدث من خطأ في الأسواق المالية.

على سبيل المثال، ستقول يلين إن «التعقيد» في نماذج الذكاء الاصطناعي يمكن أن يسبب مشاكل.

إذ تكمن المشكلة في أن العديد من نماذج الذكاء الاصطناعي تعمل بمثابة «صندوق أسود»، ما يعني أن أعمالها الداخلية لا يمكن للغرباء اختراقها، فإذا كانت شركات وول ستريت تعتمد على نماذج غامضة للذكاء الاصطناعي، فسوف يواجه المنظمون صعوبة في فهم مدى أمان أنظمتهم حقاً.

وتخطط يلين أيضاً للإشارة إلى «أطر إدارة المخاطر غير الكافية» حول مخاطر الذكاء الاصطناعي و«الترابط الذي يظهر حين يعتمد العديد من المشاركين في السوق على البيانات والنماذج نفسها».

بمعنى آخر، إذا كان العديد من المستثمرين يعتمدون -جميعاً- على الأدوات التي تنتج النتيجة نفسها، فقد يتسبب ذلك في ازدحام مراكز السوق؛ ما يؤدي إلى تفاقم تحركات السوق، سواء في الاتجاه الصعودي أو الهبوطي.

وفي السياق ذاته، ستقول يلين إن هناك خطر «التركيز»، الذي يرتبط بحقيقة أنَّ هناك عدداً قليلاً فقط من الشركات التي تقدم نماذج الذكاء الاصطناعي، وهذا يعني أنه إذا انخفض سعر السهم، فقد تتأثر العديد من شركات وول ستريت.

مصدر قلق آخر هو أن نماذج الذكاء الاصطناعي يمكن في بعض الأحيان أن تنتج نتائج متحيزة، وقد يكون ذلك مشكلة كبيرة في العالم الحقيقي، خاصة عندما يتعلق الأمر باتخاذ قرارات مالية مثل من له أحقية الحصول على القرض.

نقص البيانات والذكاء الاصطناعي

وسوف تقول يلين، وفقاً للتصريحات المعدة سلفاً، «إن البيانات غير الكافية أو الخاطئة يمكن أن تؤدي أيضاً إلى إدامة أو تقديم تحيزات جديدة في عملية صنع القرار المالي».

أحد التحديات الرئيسية التي تواجه الذكاء الاصطناعي -والتي لن تتناولها يلين في خطابها- هو ما يسمى الهلوسة، تمتلك نماذج الذكاء الاصطناعي تاريخاً في اختلاق الحقائق، وغالباً ما يتم ذلك بطريقة مقنعة.

وقد تسببت مثل هذه «الهلوسة» في وقوع المحامين في مشكلات في السابق عندما استشهدوا بسوابق قضائية لم تكن موجودة.

ومن المتوقع أن تؤكد يلين على أن المنظمين يخططون لمواصلة مراقبة تأثير الذكاء الاصطناعي على الاستقرار المالي.

ونظراً لمدى سرعة تطور الذكاء الاصطناعي، فسوف تقول يلين إن الهيئات التنظيمية والقطاع قادرة على استخدام تحليل السيناريوهات لفهم «نقاط الضعف المستقبلية» بشكل أفضل وما يمكن القيام به «لتعزيز المرونة».

صرح مسؤول بوزارة الخزانة لشبكة (CNN) بأن مجلس مراقبة الاستقرار المالي يعمل على ربط النقاط بشأن الكيفية التي يمكن أن يشكل بها الذكاء الاصطناعي تهديداً للنظام المالي، بما في ذلك من خلال تكثيف الجهود لمراقبة كيفية استخدامه بالفعل.

وبطبيعة الحال، يعتمد المسؤولون الأميركيون أنفسهم على الذكاء الاصطناعي للقيام بعملهم.

على سبيل المثال، أعلنت مصلحة الضرائب الأميركية في سبتمبر أيلول الماضي أنها بدأت في استخدام الذكاء الاصطناعي للكشف عن الغش الضريبي.

(مات إيغان – CNN)