الذكاء الاصطناعي في الواقع: النموذج يشيخ

الدرس 19 من 23 في دورة «أساسيات الذكاء الاصطناعي». مجاني، مع رسوم متحركة واختبار.

النموذج لقطة من الماضي

مثال: في تطبيق بنك يعمل فلتر يلتقط رسائل الاحتيال القصيرة. دُرِّب على رسائل قديمة عليها تسميات «احتيال» أو «عادية». التسمية هي الإجابة الصحيحة للمثال، يضعها إنسان. تعلّم الفلتر فقط ما كان في هذه البيانات. إذا كانت تسمية خاطئة كرّر الخطأ. وإذا لم يكن نوع من الاحتيال في البيانات فهو لا يعرف عنه شيئًا.

العالم يتغير فتنخفض الجودة

مرّ عام. اخترع المحتالون شيئًا جديدًا: «عمل جانبي، اضغط إعجاب على الفيديوهات مقابل المال». لم تكن مثل هذه الرسائل في بيانات التدريب، فيمرّرها الفلتر. هذا هو انجراف البيانات: مع الوقت تختلف البيانات الحقيقية أكثر فأكثر عن تلك التي تدرّب عليها النموذج. النموذج لم يتعطل من تلقاء نفسه، بل العالم تقدّم. وبالطريقة نفسها تتقادم اللغة الدارجة والأسعار والصيحات، ومعها إجابات النموذج.

المراقبة والتحديث

لهذا يُراقَب النموذج داخل المنتج. يُسمّى ذلك المراقبة: يتابع الفريق كم رسالة احتيال أفلتت وكم شكوى وصلت. انخفضت الجودة؟ يجمعون أمثلة جديدة عليها تسميات ويعيدون تدريب النموذج، أي يدرّبونه من جديد على بيانات حديثة. على الرسم البياني هذه هي القفزة إلى الأعلى. والأمر مشابه مع روبوتات الدردشة: تصدر إصدارات جديدة لأن معرفة القديمة تتقادم.

الإنسان في الحلقة وزر التقييم

الإنسان في الحلقة نظام يراجع فيه شخص حقيقي قرارات الذكاء الاصطناعي المهمة أو المشكوك فيها. مثل حظر بطاقة أو رفض قرض. وزرّك «ليست رسالة مزعجة» أو «إجابة سيئة» جزء من الحلقة أيضًا. تتحول هذه التقييمات إلى تسميات جديدة للاختبار والتدريب. نقرة واحدة لا تغيّر النموذج فورًا، لكنها تساعد على إصلاح أخطائه في التحديث التالي.

الذكاء الاصطناعي المسؤول

يقوم الذكاء الاصطناعي المسؤول على ثلاثة أمور. العدالة: إذا قلّ في البيانات أصحاب لهجة معينة أو لون بشرة معين، فسيعمل النموذج أسوأ معهم تحديدًا. الخصوصية: تُحمى البيانات الشخصية للمستخدمين ولا تُوزَّع. الشفافية: يعرف الناس أنهم يتحدثون مع روبوت، ويمكنهم معرفة سبب قراره. القاعدة: إذا قرر الذكاء الاصطناعي أمرًا مهمًا بشأنك، فاطلب أن يراجعه إنسان.

اختبر نفسك

1. ما هو انجراف البيانات؟
   الإجابة الصحيحة: ابتعاد البيانات الحقيقية تدريجيًا عن بيانات التدريب. النموذج لا يتعطل وحده. العالم يتغير: احتيالات جديدة ولغة دارجة وأسعار، فلا يعود التدريب القديم مناسبًا لها.
2. لماذا مرّر فلتر الاحتيال أسلوبًا جديدًا؟
   الإجابة الصحيحة: لم تكن أمثلة مشابهة في بيانات التدريب. النموذج لا يعرف إلا ما كان في بياناته. ولن يكتشف الأسلوب الجديد إلا بعد إعادة تدريبه على أمثلة حديثة.
3. لماذا تضغط «ليست رسالة مزعجة» أو «إجابة سيئة»؟
   الإجابة الصحيحة: تتحول التقييمات إلى تسميات جديدة للاختبار والتدريب. تُجمع التقييمات وتُستخدم لاكتشاف الأخطاء وإعادة تدريب النموذج. يظهر الأثر في التحديث التالي لا فورًا.

← الأمان: البيانات وحقن الأوامر أين يفيد الذكاء الاصطناعي فعلًا →