الهلوسة والخصوصية
الدرس 8 من 23 في دورة «أساسيات الذكاء الاصطناعي». مجاني، مع رسوم متحركة واختبار.
الذكاء الاصطناعي قد يختلق أشياء
أحيانًا يختلق النموذج حقائق وأرقامًا واقتباسات، بل وروابط لمقالات غير موجودة. تُسمّى هذه الاختلاقات هلوسة. مثال: يكتب النموذج «وفقًا لدراسة من عام 2019…» لكن الرابط لا يؤدي إلى أي مكان، لأنه اخترع الدراسة. تبدو الهلوسة مقنعة تمامًا مثل الحقيقة. أي نموذج قد يخطئ بهذه الطريقة.
لماذا يختلق الذكاء الاصطناعي
النموذج لا يبحث عن الحقيقة، بل يختار تكملة معقولة للنص. إذا لم يكن لديه الجواب الدقيق، فسيكتب مع ذلك شيئًا يشبه الجواب. قد يقول «لا أعرف»، لكن ليس دائمًا. تظهر الاختلاقات أكثر في الحقائق النادرة والأرقام الدقيقة والتواريخ والاقتباسات والروابط. هناك بالضبط كن أكثر حذرًا.
كيف تتحقق
الأرقام والتواريخ والقوانين والصحة والمال: تحقّق منها دائمًا. المصدر الأصلي هو المكان الذي ظهرت فيه المعلومة أول مرة: موقع جهة حكومية، أو البحث العلمي نفسه، أو وثيقة رسمية. اطلب من النموذج المصدر، ثم افتح الرابط بنفسك وتأكد أنه يقول الشيء نفسه. الرابط لا يفتح أو يقول شيئًا آخر؟ إذن لا تعتمد على هذه المعلومة.
لا تشارك أكثر من اللازم
لا تلصق في المحادثة كلمات المرور أو أرقام البطاقات أو عبارات الاسترداد (seed) أو البيانات الشخصية لغيرك. عبارة الاسترداد عادة 12 أو 24 كلمة تمنح وصولًا كاملًا إلى محفظة العملات المشفّرة. كل ما ترسله يذهب إلى خوادم الشركة وقد يُحفظ هناك، فلم يعد لك وحدك. قاعدة بسيطة: لا تكتب في المحادثة ما لن تريه لشخص غريب.
إذا كنت أرسلتها بالفعل
لا داعي للذعر، لكن تصرّف بسرعة. أرسلت كلمة مرور؟ غيّرها فورًا وفعّل المصادقة الثنائية، أي الدخول برمز من تطبيق أو رسالة SMS. رقم بطاقة؟ اتصل بالبنك واطلب بطاقة جديدة. عبارة الاسترداد؟ أنشئ محفظة جديدة وانقل كل شيء إليها، واعتبر القديمة مفقودة. حذف المحادثة مفيد، لكن ربما حُفظت نسخة منها بالفعل.
اختبر نفسك
- أعطاك الذكاء الاصطناعي رابطًا لدراسة. ماذا تفعل؟
الإجابة الصحيحة: افتحه وتأكد أنه يقول الشيء نفسه. الروابط أيضًا قد تكون مختلقة. سؤال النموذج لا يكفي: قد يؤكد اختلاقه بثقة. - ما هي هلوسة الذكاء الاصطناعي؟
الإجابة الصحيحة: معلومة مختلقة تُقدَّم على أنها حقيقة. يختار النموذج ما يبدو معقولًا، لا بالضرورة ما هو صحيح. لهذا تبدو المعلومات المختلقة حقيقية. - ما الذي يمكنك لصقه بأمان في محادثة مع الذكاء الاصطناعي؟
الإجابة الصحيحة: ملاحظاتك الخاصة في التاريخ للمراجعة. ملاحظاتك الدراسية لا بأس بها. كلمات المرور وعبارات الاسترداد وبيانات البطاقات وبيانات الآخرين تبقى خارج المحادثة.
← كيف يُدرَّب روبوت الدردشة: 3 مراحل كيف تعرف أن الذكاء الاصطناعي جيد →