نموذج حوكمة الذكاء الاصطناعي

نموذج حوكمة الذكاء الاصطناعي هو الهيكل التشغيلي الذي تستخدمه المؤسسة لتقرر، لكل حالة استخدام، هل يمكن تشغيلها، وبأي شروط، ومن المسؤول إن أخفقت. ليس وثيقة ولا بيان أخلاقيات ولا مجلد امتثال؛ إنه عملية قرار قابلة للتكرار. يجري نموذج الجامعة العالمية للذكاء الاصطناعي في ثماني مراحل: إشراف مجلس الإدارة، والمساءلة التنفيذية، وتصنيف حالات الاستخدام، وحقوق القرار، والضوابط، والنشر، والمراقبة، والتصعيد. تنتج كل مرحلة شيئًا ملموسًا تستهلكه المرحلة التالية، ويُعاد فتح التسلسل كله تلقائيًا كلما تغيّر نظام الذكاء الاصطناعي الذي يحكمه تغيرًا جوهريًا.

ما نموذج حوكمة الذكاء الاصطناعي؟

نموذج حوكمة الذكاء الاصطناعي هو عملية القرار القابلة للتكرار التي تجريها المؤسسة لكل حالة استخدام للإجابة عن أربعة أسئلة: ما الذي نحكمه، وما الذي قد يسوء، وكيف نضبطه، وبأي شروط يمكن تشغيله. تحوّل الحوكمة مخاطر الذكاء الاصطناعي إلى شروط تشغيل: إجابة محددة يمكن الدفاع عنها، لا بيان قيم عام.

يُخلط بينه وبين أشياء مجاورة ليس هو إياها. الإطار، مثل NIST AI RMF، نهج منظّم وطوعي عادة لمشكلة، لا قانون. والمعيار إرشاد رسمي من هيئة معايير، مثل ISO/IEC 42001، وليس ملزمًا تلقائيًا أيضًا. وتصف المبادئ الأخلاقية ما ينبغي للمؤسسة حمايته حتى حيث يصمت القانون. والسياسة هي القاعدة المحددة التي تلتزم المؤسسة بالعمل وفقها. والحوكمة هي الطبقة التي تقرر من يملك ذلك القرار ومن يعتمده. والضوابط هي الآليات الملموسة التي تفرضه. والامتثال هو الإثبات، بالأدلة، أن كل ما سبق حدث فعلًا. لا تستنتج ما إذا كان شيء ملزمًا قانونًا من اسمه؛ فقد يهم «إطار» كثيرًا دون أن يكون قانونًا، وقد تكون «سياسة» ملزمة كالتنظيم داخل المؤسسة التي كتبتها.

تجيب دراسة الجدوى المالية وقرار الحوكمة عن سؤالين مختلفين، والخلط بينهما نمط فشل شائع: تسأل الجدوى المالية هل تستحق المبادرة التمويل؛ وتسأل الحوكمة بأي شروط يُقبل تشغيلها، ومن يقبل المخاطر المتبقية، وما الذي يطلق التصعيد أو الإيقاف. عائد الاستثمار القوي لا يجعل مبادرة ذكاء اصطناعي جاهزة للنشر.

من يملك حوكمة الذكاء الاصطناعي، وما الذي يفعله كبير مسؤولي الذكاء الاصطناعي فعليًا؟

لا يملك شخص واحد كل قرار حوكمة. تحتاج كل حالة استخدام إلى خمسة مالكين مسمّين، ووظيفة كبير مسؤولي الذكاء الاصطناعي إدارة العملية التي تربطهم، لا الاعتماد الشخصي لكل شيء.

دور كبير مسؤولي الذكاء الاصطناعي المحدد هو إدارة عملية الحوكمة نفسها: تحديد حدود حوكمة حالة الاستخدام، وتحديد أي القوانين والمعايير والسياسات الداخلية يُرجَّح أن تُستثار، وتنسيق تقييم المخاطر، وتوجيه الحالة إلى المالك المتخصص المناسب. وما لا يفعله هو أن يحل محل تلك المراجعة المتخصصة؛ يحدد كبير مسؤولي الذكاء الاصطناعي محفزًا محتملًا للخصوصية، ويؤكده مسؤول الخصوصية. هذا التقسيم للعمل هو ما يحفظ مصداقية النموذج: كبير مسؤولي الذكاء الاصطناعي مالك العملية، لا إدارة امتثال من شخص واحد.

ما الذي ينبغي أن يتضمنه نموذج تشغيل حوكمة الذكاء الاصطناعي؟ المراحل الثماني

هذا نموذج الجامعة العالمية للذكاء الاصطناعي الخاص لكيفية إدارة حوكمة الذكاء الاصطناعي عبر المؤسسة، لا متطلب معيار بعينه. ينتقل من مجلس الإدارة نزولًا إلى مسار تصعيد محدد، ثم يعود إلى القمة كلما تغيّر النظام الذي يحكمه تغيرًا جوهريًا.

إطار من الجامعة العالمية للذكاء الاصطناعي، يُدرَّس في وحدة نمذجة الحوكمة والمخاطر في برنامج كبير مسؤولي الذكاء الاصطناعي.

كيف ينبغي اعتماد حالات استخدام الذكاء الاصطناعي؟

يتبع الاعتماد التصنيف مباشرة. قيّم المخاطر الكامنة للسيناريو كأثر × احتمال على مقياس 5×5 (1–4 منخفضة، 5–9 متوسطة، 10–16 عالية، 17–25 حرجة)، وعدّل ذلك الحكم بمضخّمات المخاطر، كحساسية البيانات، وحرجية القرار، وقابلية العكس، واستقلالية الذكاء الاصطناعي، وموثوقية النموذج، والتعرض الأمني، والتعرض التنظيمي، وتحقق منه مقابل البوابات الصلبة أولًا: شروط من الخطورة بحيث لا تعتمدها أي درجة، مثل إجراء مستقل ذي عواقب بلا مسار رقابة بشرية، أو غياب آلية إيقاف طارئ لنظام عالي الأثر. السيناريو الأعلى المعقول، لا المتوسط، هو ما يحدد فئة حوكمة حالة الاستخدام.

القرار النهائي نفسه دائمًا واحد من خمس نتائج صريحة؛ لا تقرير أبدًا، ولا صمت أبدًا. اعتماد): المضي كما هو. اعتماد بشروط): المضي بعد استيفاء متطلبات مسمّاة. تعليق): التوقف حتى تُستكمل الأدلة أو المراجعة الناقصة. إعادة تصميم): تغيير النطاق أو الاستقلالية أو البنية لخفض المخاطر. رفض): الاستخدام غير مقبول بغض النظر عن القيمة على المحك. وفئة مخاطر داخلية واحدة لا تساوي تصنيفًا قانونيًا واحدًا؛ فقد تتطلب درجة داخلية متوسطة مراجعة قانونية؛ ودرجة داخلية عالية ليست تلقائيًا «عالية المخاطر» بموجب أي قانون بعينه. الاثنان مترابطان لكن يُقيَّمان على حدة.

كيف ينبغي حوكمة وكلاء الذكاء الاصطناعي؟

تبدأ حوكمة الوكلاء بالصلاحيات لا بالنموذج خلف الوكيل. ينتج النموذج الأساسي نفسه مخاطر مختلفة جدًا بحسب مقدار الصلاحية الممنوحة للوكيل؛ فذكاء اصطناعي يوصي إنسانًا باسترداد مبلغ وآخر يصدر الاسترداد بنفسه قد يعملان على تقنية متطابقة ويحملان مع ذلك متطلبات حوكمة مختلفة جدًا.

قبل تشغيل أي وكيل، ينبغي الإجابة صراحة، لا افتراضًا، عن غلاف الصلاحيات الخاص به، أي الحدود الكاملة لما يجوز له فعله:

أي من هذه يُترك غير محدد، لا مرفوضًا بل غير محدد فحسب، هو بذاته فجوة حوكمة، و«التفويض» و«الإيقاف/التعافي» هما الأكثر إغفالًا. وحين يصبح الغلاف صريحًا، ينطبق انضباط المنع/الكشف/الاستجابة/التعافي نفسه: وصول بأقل الصلاحيات وقوائم أدوات مسموحة لمنع الفشل، وتسجيل كامل للإجراءات ومراقبة للشذوذ لكشفه، والقدرة على تعليق وصول الوكيل للاستجابة، ومفتاح إيقاف مختبَر مع بديل بشري بحت للتعافي. مفتاح إيقاف موجود فقط في وثيقة سياسة ولم يُفعَّل قط ليس ضابطًا موثوقًا؛ فالدليل على أن ضابطًا نُفّذ واختُبر ويُراقب في التشغيل يكسب رصيد حوكمة أكبر من ضابط اقتُرح فحسب.

الهدف ليس صفر مخاطر. الهدف مخاطر مضبوطة ومفهومة ومقبولة، مع اسم مرتبط بمن قبلها.

على المستشارين الذين يطبّقون هذا النموذج في مشاريع العملاء، بما فيها تصنيف حالات الاستخدام وتصميم الضوابط، الاطلاع على برنامج مستشار الذكاء الاصطناعي المعتمد.

الأسئلة الشائعة