الرموز ونافذة السياق

الدرس 3 من 23 في دورة «أساسيات الذكاء الاصطناعي». مجاني، مع رسوم متحركة واختبار.

كيف يُقطَّع النص إلى قطع

قبل أن يقرأ النموذج رسالتك، يقطّعها المُرمِّز (tokenizer): برنامج يقسم النص إلى رموز. الرمز (token) قطعة من النص: كلمة كاملة أو جزء منها، وأحيانًا مسافة أو علامة ترقيم. يحصل كل رمز على رقم خاص (id) من قاموس النموذج. النموذج لا يرى الحروف، بل سلسلة من هذه الأرقام. والعدّاد في الصورة يبيّن كم رمزًا نتج عن العبارة.

كلمة واحدة وعدة رموز

الكلمات الشائعة تدخل غالبًا في رمز واحد، أما النادرة والطويلة فتُقطَّع إلى أجزاء: كلمة مثل «وسيستخدمونها» قد تصبح عدة قطع. والمعنى نفسه بالعربية والروسية ولغات كثيرة يأخذ غالبًا رموزًا أكثر من الإنجليزية، لأن قواميس النماذج بُنيت أساسًا من نصوص إنجليزية. ومعلومة إضافية: يصعب على النموذج عدّ حروف الكلمة لأنه لا يرى الحروف.

نافذة السياق

نافذة السياق هي مقدار النص الذي يراه النموذج دفعة واحدة، وتُقاس بالرموز. يدخل فيها كل شيء معًا: رسائلك وردوده والملفات التي تلصقها والإعدادات المخفية للمحادثة. وما لا يتسع لها لا وجود له بالنسبة للنموذج. هو لا يمرّر المحادثة للخلف مثلك، بل يرى فقط ما داخل النافذة الآن، مثل الرسائل الساطعة في الصورة.

المحادثة الطويلة تفقد بدايتها

تخيّل محادثة لأسبوع كامل حول التحضير لامتحان. عندما يصبح النص أكبر من النافذة، تسقط أقدم الرسائل أو تُختصر، مثل الرسائل الباهتة خارج الإطار في الصورة. وحتى داخل النافذة قد يغفل النموذج أحيانًا عن تفاصيل في وسط نص طويل. ماذا تفعل: اطلب ملخصًا قصيرًا، وافتح محادثة جديدة، والصق الملخص فيها، وكرّر الشروط المهمة.

لماذا تُحسب الحدود بالرموز

كل رمز يقرؤه النموذج أو يكتبه يكلّفه وقتًا وقدرة حاسوبية. لذلك تُحسب حدود الرسائل وطول الإجابة والأسعار في خدمات الذكاء الاصطناعي بالرموز. قاعدة تقريبية: في الإنجليزية يساوي الرمز في المتوسط نحو 3/4 كلمة، وفي لغات أخرى يكون عدد الكلمات لكل رمز أقل عادةً. الخلاصة: الحشو في طلبك يستهلك النافذة والحدود دون فائدة.

اختبر نفسك

1. ما نافذة السياق؟
   الإجابة الصحيحة: عدد الرموز التي يراها النموذج دفعة واحدة. نافذة السياق هي مقدار النص بالرموز الذي يراه النموذج معًا. وما يقع خارجها لا وجود له بالنسبة إليه.
2. لماذا يأخذ المعنى نفسه غالبًا رموزًا أكثر بالعربية منه بالإنجليزية؟
   الإجابة الصحيحة: قاموس الرموز بُني أساسًا من الإنجليزية. المقاطع الإنجليزية الشائعة لها غالبًا مدخل كامل في القاموس، لذا تُقطَّع كلمات اللغات الأخرى إلى أجزاء أكثر.
3. المحادثة مستمرة منذ أسبوع ونسي النموذج شرطًا من الرسالة الأولى. ما التصرف المعقول؟
   الإجابة الصحيحة: طلب ملخص ثم المتابعة في محادثة جديدة. الرسائل القديمة خرجت من النافذة، وطلب «تذكّر» لن يعيدها. أما الملخص في محادثة جديدة فيعيد المهم إلى داخل النافذة.

← كيف تفكر الشبكة العصبية التضمينات: المعنى كإحداثيات →