الدراسة تؤكد أن الضمير الصناعي ليس رفاهية فكرية، بل ضرورة تشريعية لضمان بقاء الذكاء الاصطناعي في خدمة الإنسان
»» توصيات بإنشاء هيئات وطنية لأخلاقيات الذكاء الاصطناعي
»» إدماج الأخلاقيات في تعليم البرمجة والهندسة.
»» بناء حوار متعدد التخصصات لتشكيل فهم مشترك لمفهوم الضمير الصناعي
ببحث نوعي متميز شاركت الدكتورة رحاب جاد “مدرب ومدير موارد بشرية” والحاصلة علي دكتوراه في فلسفة العلم من كلية الآداب جامعة المنصورة في المؤتمر الدولي الخامس الذي نظّمه قسم الفلسفة بكلية الآداب جامعة المنصورة، تحت عنوان :”الذكاء الاصطناعي: أُسُسه المنطقية وأبعاده المستقبلية”.
جاء البحث بعنوان:”الضمير الصناعي نحو فلسفة جديدة لمسؤولية الذكاء الاصطناعي.
ـ أولاً: ملخص البحث
شهدت العقود الأخيرة تطورات متسارعة في مجال الذكاء الاصطناعي، حتى أصبحت الأنظمة الذكية جزءًا لا يتجزأ من حياتنا اليومية.
هذا التطور أفرز تحديات أخلاقية وفلسفية غير مسبوقة، إذ باتت قرارات هذه الأنظمة تمس حياة البشر بشكل مباشر، وهو ما يستدعي إعادة النظر في مفاهيم تقليدية مثل المسؤولية والنية والضمير.
في هذا السياق، ناقش البحث مفهوم “الضمير الصناعي” بوصفه إطارا معياريًا يمكن من خلاله تقويم أداء الأنظمة الذكية ومساءلتها أخلاقيًا، مستندًا إلى التحليل المفاهيمي والدراسة المقارنة، إضافة إلى تحليل حالات تطبيقية في مجالات الطب والنقل والنماذج اللغوية.
ويؤكد البحث أن الضمير الصناعي لا يعني وعيًا ذاتيًا للآلة، بل هو منظومة بشرية مغروسة داخل بنية الذكاء الاصطناعي، ويُبنى على أربعة معايير أساسية.
1 ـ النية البرمجية : التوجهات المزروعة في التصميم.
2 ـ وضوح منطق إتخاذ القرار.
3 ـ إمكانية التتبع : تحديد المسؤولية بدقة.
4 ـ إنسجام النظام مع الأخلاق والثقافة.
وقد أظهرت الحالات التطبيقية تفاوتا كبيرا في التزام الأنظمة بهذه المعايير، مما يثبت أن غياب الشفافية أو محاذاة القيم يؤدي إلى خلل أخلاقي كبير، حتى وإن كان الأداء التقني عالي الكفاءة.
وهنا تبرز أسئلة محورية تستدعي الإجابة :
*هل يمكن مساءلة الذكاء الاصطناعي ككيان مستقل؟
كيف نضمن أن تكون قراراته عادلة وشفافة؟
*وما دور المطورين والمستخدمين في تحمل المسؤولية؟*
البحث يجيب عن هذه الأسئلة عبر توصيات عملية أبرزها :
ـ تبني تشريعات تحمل المسؤولية القانونية للأنظمة الذكية.
ـ نشاء هيئات وطنية لأخلاقيات الذكاء الاصطناعي.
ـ إدماج الأخلاقيات في تعليم البرمجة والهندسة.
ـ فرض استخدام تقنيات “الذكاء القابل للتفسير” في القطاعات الحساسة.
ـ بناء حوار متعدد التخصصات لتشكيل فهم مشترك لمفهوم الضمير الصناعي.
وتبرز أهمية البحث في النقاط التالية :
1ـ سد الفجوة بين الفلسفة والتكنولوجيا : الربط بين المفاهيم الأخلاقية وتطبيقات الذكاء الإصطناعي الحديثة.
2 – تطوير مفهوم جديد للمسؤولية : يتجاوز النماذج التقليدية ليشمل البيئات الهجينة (بشر + آلات).
3 ـ دعم صانعي القرار : تقديم إطار تشريعي يساعد في تنظيم الذكاء الإصطناعي ، خاصة في المجالات الحساسة مثل : الصحة والقضاء.
4 ـ تعزيز الثقة المجتمعية : ضمان أن الأنظمة الذكية تعمل وفق قيم أخلاقية واضحة.
ـ ثانيا: التحليل النقدي للبحث
يُعدّ البحث خطوة مهمة نحو ترسيخ مفهوم الضمير الصناعي كإطار معياري ملزم، لكن هناك جوانب تحتاج إلى تعميق :
أولاً : وضوح المفهوم : ميزة البحث أنه حدد أن الضمير الصناعي ليس وعيًا ذاتيًا، بل منظومة بشرية داخل الذكاء الاصطناعي. لكن من المهم إضافة أبعاد أخرى مثل الغرض النهائي للنظام وآليات توقفه عند حالات الفشل أو القرارات الأخلاقية المعقدة. (Human-in-the-loop)
ثانيا : المعايير الأربعة :
1 ـ النية البرمجية: يُستحسن توثيقها في شكل بيانات غايات رسمية تربط التصميم بالقيم.
2 ـ الشفافية : من المهم الفصل بين شفافية العملية (مصادر البيانات والخوارزميات) زشفافية المخرجات (التفسيرات المقدمة للمستخدمين).
إمكانية التتبع: يفضل إضافة عنصر قابلية التدقيق (Auditability) .
3ـ بسجلات لا يمكن التلاعب بها لضمان تحديد المسؤوليات.
4 ـ محاذاة القيم: يجب وضع آليات لضبط القيم الكونية (مثل العدالة وعدم الإيذاء) مع القيم المحلية والثقافية خاصة في السياق العربي.
ثالثا : الحالات التطبيقية : يُفضل إضافة أدوات قياس مثل مصفوفات المخاطر والأثر لتحديد درجة الإلتزام بالمعايير في كل قطاع.
رابعا : التطبيق العملي : الدعوة إلى تحويل الضمير الصناعي لمبدأ إلزامي قوي يلزم توضيح أدوات تطبيقية ، مثل :
1 ـإنشاء تقييم أثر خوارزمي إلزامي قبل إطلاق أي نظام (ذكاء إصطناعي) ..
(AI Impact Assessment).
2 – تأسيس مجالس أخلاقيات مستقلة بسلطة رقابية واضحة.
3 – بناء أنظمة لتتبع الحوادث التقنية لضمان الشفافية عند وقوع الأزمات.
ـ ثالثا: الرؤية المستقبلية (مصر 2030)
أولاً : خارطة طريق عربية :
1 – إصدار تشريعات واضحة تصنّف الأنظمة عالية المخاطر وتلزمها بمعايير الضمير الصناعي.
2 – إنشاء هيئات وطنية لأخلاقيات الذكاء الاصطناعي تكون مسؤولة عن الاعتماد والرقابة.
3 – تطوير قواميس قيمية عربية تُترجم الخصوصيات الثقافية إلى معايير يمكن دمجها داخل النظم الذكية.
ثانيا : سيناريوهات مستقبلية :
1 – سيناريو إيجابي : تطبيق تدريجي لمعايير الضمير الصناعي مع بناء ثقافة المساءلة ، ما يُعزز الثقة المجتمعية ويُقلل الحوادث.
2 – سيناريو مختلط : إلتزام الشركات الكُبرى فقط، مما يخلق فجوة أخلاقية بين المؤسسات الكبيرة والصغيرة.
3 – سيناريو سلبي : غياب تشريعات قوية يؤدي إلى أزمات مُتكررة وفقدان الثقة المجتمعية.
ثالثا : أجندة بحثية مفتوحة :
1 – إبتكار أدوات عملية لقياس مُحاذاة القيم داخل الخوارزميات.
2 ـ دراسة أثر الشفافية على قرارت المستخدمين النهائيين.
3 ـ وضع معايير عربية لإختبارات التحيز الثقافي في النماذج اللغوية الكبيرة.
خلاصة الرؤية المستقبلية :
الضمير الصناعي ليس رفاهية فكرية، بل ضرورة تصميمية وتشريعية لضمان بقاء الذكاء الاصطناعي في خدمة الإنسان. والمستقبل يتطلب بناء نموذج نضِج تدريجي للمؤسسات العربية، مع مؤشرات قياس واضحة لكل معيار من المعايير الأربعة، حتى يتحول الذكاء الاصطناعي إلى ذكاء مسؤول يراعي الإنسان والثقافة والقانون.
إن الذكاء الاصطناعي قد يُغير العالم، لكن الأخلاق هي التي ستُحدد كيف سيُغيره. لهذا علينا جميعا العمل على بناء مستقبلٍ تكنولوجي يُحترم فيه الضمير – صناعيا كان أم إنسانيا.
يذكر أن المؤتمر قد حضره نخبة متميزة من الباحثين وأساتذة الفلسفة في مصر وعدد من البلدان العربية
كما شهده الدكتور نظير عياد مفتي الجمهورية،والدكتور شريف خاطر رئيس جامعة المنصورة ،الدكتور محمود الجعيدي عميد كلية الآداب، الدكتور مسعد سلامة وكيل الكلية للدراسات العليا والبحوث.
وقد أعربت الباحثة عن شكرها للأستاذ الدكتور عادل عوض رئيس قسم الفلسفة بكلية الآداب جامعة المنصورة ومقرر المؤتمر ، و”المشرف على رسالتيها الماجستير والدكتوراه”، لما يبذله من جهود كبيرة في ترسيخ مكانة الفلسفة والمنطق وربط الفكر الفلسفي بالواقع التكنولوجي المعاصر. كما ثمنت جهود أعضاء اللجنة العلمية والتنظيمية وجميع الأساتذة والباحثين الذين أضافوا للمؤتمر روحا أكاديمية مبدعة.
وقالت الباحثة :لقد كان هذا المؤتمر أكثر من مجرد لقاء علمي، بل منصة حقيقية لتأكيد أهمية التكامل بين العقل الفلسفي والمنطق الرياضي في فهم الذكاء الاصطناعي ومقاربة قضاياه الأخلاقية والإنسانية، فـالمعرفة تزداد قيمة حين نشاركها، والفكر يزدهر حين نتحاور..
واختتمت : شكرا لجامعة المنصورة، وشكرا للفلسفة التي منحتنا أدوات فهم هذا العصر المعقّد.
