في بحثنا الأخير، والمستند إلى رؤى 154 مستشاراً عاماً في جميع أنحاء المملكة المتحدة وفرنسا وألمانيا، وجدنا أن 18 بالمائة فقط من المؤسسات تطبق إطار عمل شاملاً لحوكمة الذكاء الاصطناعي. وكانت النتيجة اتساع الفجوة بين تبني أدوات الذكاء الاصطناعي وفرض الرقابة عليها؛ مما يعرّض المؤسسات لمخاطر قانونية وتنظيمية وتتعلق بالسمعة تظل بعيدة عن الرصد حتى وقوع المشكلة.

فيما يلي أبرز المخاطر الخفية التي كشف عنها بحثنا، وسبل معالجتها والحد منها.

تستند الإحصاءات الواردة في هذا المقال إلى ذلك البحث. يمكنكم تنزيل التقرير كاملاً من هنا: فجوة حوكمة الذكاء الاصطناعي.

1. الذكاء الاصطناعي الخفي (Shadow AI) وغياب الشفافية والرقابة

غالباً ما يُستخدم الذكاء الاصطناعي بصورة غير رسمية؛ حيث قد يلجأ الموظفون إلى أدوات مجانية لصياغة رسائل البريد الإلكتروني، وتحليل البيانات، وإعداد الملخصات، وغير ذلك الكثير. وعادةً ما يتم ذلك دون موافقة مسبقة أو تدريب أو تتبع.

ورغم أن هذا يساعدهم على إنجاز الأعمال بسرعة أكبر وربما بجودة أفضل، إلا أن هذه الأدوات على الأرجح لم تخضع للتدقيق والتقييم. كما أن البيانات المدخلة غالباً ما تكون ذات طبيعة حساسة، ولا توجد رؤية واضحة لكيفية تخزينها أو مشاركتها. فضلاً عن ذلك، فإن شركة واحدة من بين كل 14 شركة لا تملك معرفة بالأدوات المستخدمة في أعمالها.

وفي ظل انعدام الشفافية والرقابة، يستحيل تقييم مدى الامتثال أو إدارة المخاطر.

سبل الحد من هذه المخاطر:

• الإقرار بأن استخدام الذكاء الاصطناعي واسع الانتشار بالفعل، وغالباً ما يتم عبر أدوات شخصية أو غير معتمدة

• تحديد الأدوات قيد الاستخدام وتقييم مدى توافقها مع المعايير المؤسسية الداخلية

• توفير بدائل معتمدة وقابلة للتتبع لتجنب سياسات الحظر الصارم التي تؤدي إلى الاستخدام السري

• إنشاء قائمة بالأدوات المسموح بها، واعتماد خاصية تسجيل الدخول الموحد (SSO)، وتسجيل الأنشطة لأغراض الإشراف والتدقيق

اقرأ المزيد: كيفية تقييم منصات الذكاء الاصطناعي القانوني في 10 دقائق

2. خصوصية البيانات والتعرض غير المنضبط للمخاطر

يتم أحياناً إدخال بيانات حساسة في أدوات الذكاء الاصطناعي، ويشمل ذلك بيانات العملاء أو الموردين أو البيانات المالية أو الشخصية. وحتى في ظل وجود سياسات داخلية صارمة، قد تقوم أدوات الذكاء الاصطناعي الخارجية بمعالجة البيانات بطرق تعجز مؤسستكم عن مراقبتها.

وقد يؤدي ذلك إلى الإخلال بالالتزامات التعاقدية، أو فرض غرامات تنظيمية، أو الإضرار بالسمعة المؤسسية. ونظراً لأن معظم أنظمة الذكاء الاصطناعي تستضيفها جهات خارجية، فإن المؤسسات تفتقر في كثير من الأحيان إلى المعرفة بكيفية تدريب تلك الأنظمة أو آليات الاحتفاظ بالبيانات.

سبل الحد من هذه المخاطر:

• استخدام أنظمة تعطي الأولوية للخصوصية وتعمل على إخفاء هوية البيانات الحساسة وتجهيلها قبل معالجتها (مثل LEGALFLY)

• نشر نماذج الذكاء الاصطناعي داخلياً ضمن البنية التحتية للمؤسسة (On-Premise) متى ما أمكن ذلك للحفاظ على السيطرة التامة

• تجريد المدخلات الحساسة أو تشفيرها باستخدام التجزئة (Hashing)، وتطبيق ضوابط صارمة للوصول، ومواءمة فترات حفظ البيانات مع السياسات المعتمدة

• تطوير مسارات عمل تدعم حقوق أصحاب البيانات، مثل طلبات التصحيح والحذف

اقرأ المزيد: 5 متطلبات أساسية لذكاء اصطناعي قانوني آمن

3. مخرجات غير دقيقة أو متحيزة

غالباً ما تبدو مخرجات أدوات الذكاء الاصطناعي موثوقة وحاسمة، إلا أن ذلك لا يعني بالضرورة صحتها. فإذا كانت البيانات المستخدمة في تدريب النظام غير مكتملة أو متحيزة، فقد تكون النتائج مضللة أو حتى تمييزية.

وقد يصعب رصد هذه الأخطاء؛ وحين يُستخدم الذكاء الاصطناعي في مراجعة المستندات أو دعم اتخاذ القرار، فإن الأخطاء الطفيفة قد تسفر عن عواقب وخيمة. وفي القطاعات الخاضعة لأطر تنظيمية مشددة، قد يؤدي ذلك إلى إجراءات إنفاذ قانونية أو فقدان الثقة.

سبل الحد من هذه المخاطر:

• استخدام نماذج مدربة خصيصاً لمجال عملكم، كالمجال القانوني أو المالي، للحد من مخاطر الهلوسة الرقمية

• التأكد من قابلية تفسير المخرجات، مع تقديم مراجع واستدلالات قانونية واضحة

• الإبقاء على الإشراف البشري لمراجعة واعتماد المحتوى الذي ينشئه الذكاء الاصطناعي

اقرأ المزيد: الثقة والموثوقية والصلاحية لدى LEGALFLY

تعتمد العديد من الشركات على موردين خارجيين لتقديم خدمات الذكاء الاصطناعي. وغالباً ما يتعامل هؤلاء الموردون مع بيانات حساسة، في ظل رقابة وإشراف محدودين؛ حيث تشير البيانات إلى أن أقل من نصف الشركات تُدرج حوكمة الموردين ضمن سياساتها الخاصة بالذكاء الاصطناعي.

وفي غياب معايير واضحة أو ضمانات تعاقدية محكمة، تخاطر الشركات بوقوع انتهاكات للبيانات، أو خروقات لمبدأ السرية، أو إخفاقات تشغيلية. ويتفاقم الخطر في القطاعات الخاضعة للأطر التنظيمية، حيث قد ترتب إخفاقات الموردين جزاءات تنظيمية مباشرة.

سبل الحد من هذه المخاطر:

• إدراج حوكمة الموردين ضمن أطر السياسات الرسمية للذكاء الاصطناعي

• اشتراط إجراء مراجعات الأمان والامتثال كجزء لا يتجزأ من إجراءات تأهيل الموردين والتعاقد معهم

• الاحتفاظ بسجل مركزي يضم جميع أدوات الذكاء الاصطناعي الخارجية قيد الاستخدام

4. التفاوت في الإنفاذ وتردد القيادة

حتى مع وجود السياسات، فإنها لا تُطبق دائماً؛ إذ تطلب 31 بالمائة فقط من المؤسسات موافقة رسمية لاستخدام الذكاء الاصطناعي، وأفادت أقل من واحدة من كل أربع جهات بأن قواعدها تُتبع بصفة دائمة.

وهذا ما يولد فجوة حقيقية بين النصوص المعتمدة والممارسة العملية؛ إذ قد تظل السياسات حبراً على ورق دون أن توجه كيفية استخدام الأدوات أو مراجعتها، مما يفتح الباب أمام مخاطر امتثال صامتة.

وثمة تحدٍ إضافي يتمثل في مستوى القيادة؛ إذ تشير مؤسسات عديدة إلى افتقار كبار أصحاب المصلحة إلى المعرفة الكافية بالذكاء الاصطناعي أو ترددهم في اتخاذ خطوات بشأنه، الأمر الذي يعيق وتيرة الرقابة ويؤدي إلى تباين المعايير المطبقة.

سبل الحد من هذه المخاطر:

• إسناد مسؤولية حوكمة الذكاء الاصطناعي إلى القيادات التنفيذية العليا

• وضع استراتيجية مركزية تكون مرجعاً ملزماً لجميع الإدارات والأقسام

• دمج السياسات ضمن مسارات العمل اليومية باستخدام قوائم التدقيق، والبرامج التدريبية، وأدوات الإشراف

• تحديد قواعد واضحة لآليات الموافقة، وضمان إنفاذها المتسق عبر جميع فرق العمل

5. فجوات الامتثال للأطر التنظيمية

دخلت تشريعات جديدة حيز النفاذ، مثل قانون الصمود التشغيلي الرقمي (DORA) ، إلا أن العديد من المؤسسات لا تزال تفتقر إلى الوضوح الكافي بشأن آليات تطبيق هذه الأحكام عملياً.

وتقدم الهيئات التنظيمية عادةً توجيهات عامة تخلو من الإرشادات التفصيلية الدقيقة؛ ونتيجة لذلك، قد تظن الشركات أنها ملتزمة بالمتطلبات بينما هي في الواقع ليست كذلك. يُضاف إلى ذلك أن الإجراءات اليدوية للتحقق من الامتثال تتسم بالبطء والتعرض للخطأ البشري.

سبل الحد من هذه المخاطر:

• استخدام منصات الذكاء الاصطناعي لأتمتة المراجعات ورصد مخاطر الامتثال مبكراً

• فحص العقود بأعداد كبيرة لتحديد مكامن المخاطر والتعرض القانوني

• إعداد أدلة إجرائية متوافقة مع القوانين واللوائح الرئيسية وتطبيقها بثبات

• متابعة التعديلات التشريعية والتنظيمية وربطها بالعقود والاتفاقيات المتأثرة بها

• الاستعانة بالذكاء الاصطناعي لدعم إدارة مخاطر الأطراف الخارجية وضمان الامتثال العابر للحدود

اطّلع على التقرير: فجوة حوكمة الذكاء الاصطناعي.

ذكاء اصطناعي آمن للقطاعات الخاضعة للتنظيم

تُمكّن LEGALFLY المؤسسات من إدارة هذه المخاطر بفاعلية؛ فقد صُممت بنيتها الأساسية لضمان الأمان والموثوقية القانونية والامتثال المهني. وبخلاف أدوات الذكاء الاصطناعي العامة، صُممت المنصة لتلبي المتطلبات الصارمة لبيئات العمل القانونية والتنظيمية. ويتم إخفاء هوية كافة البيانات الحساسة تلقائياً (كالأسماء، والشركات، والشروط والبيانات المالية) وتجهيلها قبل البدء بمعالجتها، مما يضمن عدم وصول أي معلومات متعلقة بالعملاء أو الموظفين أو الصفقات إلى نماذج الذكاء الاصطناعي الأساسية. وتعمل ميزة تجهيل البيانات عبر النصوص والصور وملفات PDF، مع إمكانية نشر النظام سحابياً أو بالكامل محلياً ضمن البنية التحتية للمؤسسة، وفقاً لمتطلبات مؤسستكم وحوكمتها.

كما تضع LEGALFLY قابلية التفسير والسيطرة في مقدمة أولوياتها؛ إذ يمكن تتبع كل اقتراح بدقة مع توفير أسباب قانونية واضحة تتيح للمستخدمين معرفة التعديلات ومبرراتها. ويبقى القرار النهائي بيد المحترفين القانونيين: قبول المقترحات أو رفضها أو تعديلها قبل اعتمادها نهائياً. وتجعل هذه الضوابط المنهجية من LEGALFLY خياراً آمناً وعملياً للإدارات القانونية وفرق العمل التي تعمل في بيئات عمل دقيقة تكون فيها السرية والدقة والمساءلة أموراً غير قابلة للتفاوض. احجز موعداً لتجربة المنصة اليوم.