الذكاء الاصطناعي المسؤول ومشروعك القادم
النموذج اللي يقرر مين ياخذ قرض، أو مين يتقبل في وظيفة، أو أي فاتورة تتوقف، يأثر على ناس حقيقيين. عشان كذا الدول وضعت مبادئ. في السعودية نشرت سدايا (الهيئة السعودية للبيانات والذكاء الاصطناعي) مبادئ أخلاقيات الذكاء الاصطناعي، ونسختها الثانية فيها 7 مبادئ:
| النزاهة والعدالة | ما يميّز ضد فئة بسبب الجنس أو العمر أو المنطقة. |
| الخصوصية والأمن | حماية البيانات الشخصية، والالتزام بنظام حماية البيانات الشخصية. |
| الإنسانية | يخدم الإنسان ويحترم قيمه وكرامته. |
| المنافع الاجتماعية والبيئية | أثر إيجابي على المجتمع والبيئة. |
| الموثوقية والسلامة | يشتغل بشكل ثابت وآمن، ومختبر قبل التشغيل. |
| الشفافية والقابلية للتفسير | نعرف إن القرار من نظام ذكي، ونقدر نفسّر ليش. |
| المساءلة والمسؤولية | فيه شخص مسؤول عن قرارات النظام ونتائجها. |
التحيّز يجي من البيانات. لو شركة دربت نموذج توظيف على موظفيها السابقين، وأغلبهم من جامعة وحدة، النموذج بيتعلم يفضّل هذي الجامعة، مو لأنها أفضل، بس لأن الماضي كان كذا. والحل يبدأ بفحص البيانات قبل التدريب، وقياس أداء النموذج لكل فئة على حدة.
النموذج يحتاج متابعة بعد التشغيل. العالم يتغير: نموذج توقع المبيعات اللي تدرب على 2024 ممكن يضعف لما يتغير سلوك العملاء أو يدخل منافس جديد. هذا اسمه انحراف النموذج (Model drift). عشان كذا نراقب الخطأ كل شهر، ونعيد التدريب لما يكبر. هذي مرحلة «النشر والتشغيل» في CRISP-DM، وهي ما تنتهي.
أفكار مشاريع تجمع اللي تعلمته (وتنفع لمشروع التخرج أو سيرتك الذاتية):
| المشروع | النموذج | يربط مع |
|---|---|---|
| توقع الطلب على منتجات متجر صغير | متوسط متحرك ثم انحدار | SQL لتجهيز المبيعات، ولوحة BI للنتائج |
| توقع تسرب العملاء لاشتراك أو نادي | k-NN أو شجرة قرار | مصفوفة الالتباس، وخطة تواصل مع العملاء |
| تقسيم عملاء متجر إلكتروني بـ RFM | k-means | SQL لحساب RFM، وتوصيات تسويق لكل شريحة |
| تصنيف تذاكر الدعم الفني تلقائياً | نموذج لغوي مع برومبت مدروس | ITIL من مسار الحوكمة، ودليل البرومبت |