كريستوفر ماركيز يكتب: إدارة الذكاء الاصطناعي… الصعوبات في ظل غياب “الإشراف الفيدرالي”

مع تقدم الذكاء الاصطناعى وتغلغله فى حياتنا على نحو متزايد، يبدو واضحاً أنه من غير المحتمل أن يخلق المدينة التكنولوجية الفاضلة، ومن غير المرجح أن يتسبب فى محو البشرية.

النتيجة الأكثر احتمالاً هى مكان ما فى المنتصف ـ مستقبل يتشكل من خلال الطوارئ، والحلول الوسط، وعلى جانب عظيم من الأهمية، القرارات التى نتخذها الآن حول كيفية تقييد وتوجيه تطور الذكاء الاصطناعى. باعتبارها الرائدة عالمياً فى مجال الذكاء الاصطناعى، تضطلع الولايات المتحدة بدور مهم بشكل خاص فى تشكيل هذا المستقبل.

لكن خطة عمل الذكاء الاصطناعى التى أعلن عنها الرئيس الأمريكى دونالد ترامب مؤخراً بددت الآمال فى تعزيز الإشراف الفيدرالى، فاحتضنت بدلاً من ذلك نهجاً داعماً للنمو فى تطوير التكنولوجيا.

وهذا يجعل التركيز من جانب حكومات الولايات، والمستثمرين، والجمهور الأمريكى على أداة مُـساءلة أقل إخضاعاً للمناقشة، ألا وهى حوكمة الشركات، ضرورة أشد إلحاحاً.

وكما توثق الصحفية كارين هاو فى كتابها «إمبراطورية الذكاء الاصطناعى»، فإنَّ الشركات الرائدة فى هذا المجال منخرطة بالفعل فى المراقبة الجماعية، وهى تستغل عمالها، وتتسبب فى تفاقم تغير المناخ.

من عجيب المفارقات هنا أن كثيراً منها شركات منفعة عامة، وهى بنية حوكمة يُزعم أنها مصممة لتجنب مثل هذه الانتهاكات وحماية البشرية.

ولكن من الواضح أنها لا تعمل على النحو المنشود.

كانت هيكلة شركات الذكاء الاصطناعى على أنها شركات منفعة عامة شكلاً ناجحاً للغاية من أشكال الغسيل الأخلاقى.

فبإرسال إشارات الفضيلة إلى الهيئات التنظيمية وعامة الناس، تخلق هذه الشركات قشرة من المساءلة تسمح لها بتجنب مزيد من الرقابة الجهازية على ممارساتها اليومية، والتى تظل مبهمة وربما ضارة.

على سبيل المثال، تُـعَـد «إكس إيه آي» التى يملكها إيلون ماسك، شركة منفعة عامة تتمثل مهمتها المعلنة فى «فهم الكون».

لكن تصرفات الشركة ـ من بناء كمبيوتر خارق مُـلَـوِّث فى السر بالقرب من حى تقطنه أغلبية من السود فى ممفيس بولاية تينيسى، إلى إنشاء روبوت محادثة يشيد بهتلر ـ تُظهر قدراً مزعجاً بشدة من عدم الاكتراث بالشفافية، والرقابة الأخلاقية، والمجتمعات المتضررة.

تُعد شركات المنفعة العامة أداة واعدة لتمكين الشركات من خدمة الصالح العام مع السعى إلى تحقيق الربح فى الوقت ذاته.

لكن هذا النموذج، فى هيئته الحالية ـ خاصة فى ظل قانون ولاية ديلاوير، الولاية التى تتخذها معظم الشركات العامة الأمريكية مقراً لها ـ مليء بالثغرات وأدوات الإنفاذ الضعيفة، وهو بالتالى عاجز عن توفير الحواجز اللازمة لحماية تطوير الذكاء الاصطناعى.

لمنع النتائج الضارة، وتحسين الرقابة، وضمان حرص الشركات على دمج المصلحة العامة فى مبادئها التشغيلية، يتعين على المشرعين على مستوى الولايات، والمستثمرين، وعامة الناس، المطالبة بإعادة صياغة شركات المنفعة العامة وتعزيز قدراتها.

من غير الممكن تقييم الشركات أو مساءلتها فى غياب أهداف واضحة، ومحددة زمنياً، وقابلة للقياس الكمى. لنتأمل هنا كيف تعتمد شركات المنفعة العامة فى قطاع الذكاء الاصطناعى على بيانات منافع شاملة وغير محددة يُزعَم أنها توجه العمليات.

تعلن شركة «أوبن إيه آي» أن هدفها هو «ضمان أن يعود الذكاء الاصطناعى العام بالفضل على البشرية جمعاء»، بينما تهدف شركة «أنثروبيك» إلى «تحقيق أعظم قدر من النتائج الإيجابية لصالح البشرية فى الأمد البعيد».

المقصود من هذه الطموحات النبيلة الإلهام، لكن غموضها من الممكن أن يستخدم لتبرير أى مسار عمل تقريباً، بما فى ذلك مسارات تعرض الصالح العام للخطر.

لكن قانون ولاية ديلاوير لا يُـلزِم الشركات بتفعيل منفعتها العامة من خلال معايير قابلة للقياس أو تقييمات مستقلة.

وعلى الرغم من أنها تطالب بتقديم تقارير كل سنتين حول أداء المنفعة، فإنها لا تلزم الشركات بإعلان النتائج. بوسع الشركات أن تفى بالتزاماتها ـ أو تهملها ـ خلف الأبواب المغلقة، دون أن يدرى عامة الناس شيئاً.

أما عن الإنفاذ، فبوسع المساهمين نظرياً رفع دعوى قضائية إذا اعتقدوا أن مجلس الإدارة فشل فى دعم مهمة الشركة فى مجال المنفعة العامة.

لكن هذا سبيل انتصاف أجوف، لأن الأضرار الناجمة عن الذكاء الاصطناعى تكون منتشرة، وطويلة الأجل، وخارجة عن إرادة المساهمين عادة. ولا يملك أصحاب المصلحة المتضررون ـ مثل المجتمعات المهمشة والمقاولين الذين يتقاضون أجوراً زهيدة ـ أى سبل عملية للطعن فى المحاكم.

للاضطلاع بدور حقيقى فى حوكمة الذكاء الاصطناعى، يجب أن يكون نموذج «شركات المنفعة العامة» أكثر من مجرد درع للسمعة.

وهذا يعنى تغيير كيفية تعريف «المنفعة العامة»، وحوكمتها، وقياسها، وحمايتها بمرور الوقت.

ونظراً إلى غياب الرقابة الفيدرالية، يجب أن يجرى إصلاح هذا الهيكل على مستوى الولايات.

يجب إجبار شركات المنفعة العامة على الالتزام بأهداف واضحة، وقابلة للقياس، ومحددة زمنياً، ومكتوبة فى وثائقها الإدارية، ومدعومة بسياسات داخلية، ومربوطة بمراجعات الأداء والمكافآت والتقدم الوظيفى.

بالنسبة لأى شركة عاملة فى مجال الذكاء الاصطناعى، من الممكن أن تشمل هذه الأهداف ضمان سلامة نماذج المؤسسات، والحد من التحيز فى مخرجات النماذج، وتقليل البصمة الكربونية الناجمة عن دورات التدريب والنشر، وتنفيذ ممارسات العمل العادلة، وتدريب المهندسين ومديرى المنتجات على حقوق الإنسان والأخلاقيات والتصميم التشاركى.

الأهداف المحددة بوضوح، وليس التطلعات الغامضة، هى التى ستساعد الشركات على بناء الأساس للمواءمة الداخلية الجديرة بالثقة والمساءلة الخارجية.

يجب أيضاً إعادة تصور مجالس الإدارات وعملية الإشراف.

ينبغى لمجالس الإدارات أن تضم مديرين ذوى خبرة يمكن التحقق منها فى أخلاقيات الذكاء الاصطناعى، والسلامة، والأثر الاجتماعى، والاستدامة.

يجب أن يكون لكل شركة مسئول أخلاقى رئيسى يتمتع بتفويض واضح، وسلطة مستقلة، والقدرة على الوصول المباشر إلى مجلس الإدارة.

ينبغى لهؤلاء المسئولين أن يشرفوا على عمليات المراجعة الأخلاقية، وأن يُمنحوا سلطة وقف أو إعادة تشكيل خطط المنتجات عند الضرورة.

وأخيراً، يجب أن تكون شركات الذكاء الاصطناعى المهيكلة كمؤسسات منفعة عامة مُلـزَمة بنشر تقارير سنوية مفصلة تتضمن بيانات كاملة ومصنفة تتعلق بالسلامة والأمن، والتحيز والإنصاف، والأثر الاجتماعى والبيئى، وحوكمة البيانات.

وينبغى لعمليات تدقيق مستقلة ـ يديرها خبراء فى الذكاء الاصطناعى، والأخلاقيات، والعلوم البيئية، وحقوق العمال ـ أن تعكف على تقييم صحة هذه البيانات، بالإضافة إلى ممارسات الحوكمة فى الشركة وتواؤمها فى عموم الأمر مع أهداف المنفعة العامة.

أكدت خطة عمل ترامب للذكاء الاصطناعى عدم رغبة إدارته فى تنظيم هذا القطاع السريع الحركة.

ولكن حتى فى غياب الإشراف الفيدرالى، بوسع المشرعين على مستوى الولايات، والمستثمرين، وعامة الناس تعزيز حوكمة إدارة الشركات للذكاء الاصطناعى بممارسة الضغوط من أجل إصلاح نموذج شركات المنفعة العامة. يبدو أن عدداً متزايداً من قادة التكنولوجيا يعتقدون أن الأخلاقيات أمر اختياري.

ويجب على الأمريكيين أن يثبتوا أنهم على خطأ، وإلا فإنهم يتركون التضليل، والتفاوت بين الناس، وإساءة استخدام العمالة، وقوة الشركات غير الخاضعة للرقابة تشكل مستقبل الذكاء الاصطناعى.

المصدر:
موقع «بروجكت سنديكيت»

بقلم:
كريستوفر ماركيز، أستاذ إدارة الأعمال فى جامعة كامبريدج