مدونة شمعتك

===  العنوان: تشريح الخطأ الخوارزمي.. لماذا يبدو الذكاء الاصطناعي "أحمق" أحياناً؟ لننتقل من الفلسفة إلى مختبرات علوم الحاسوب. السؤال عن "غبائي" من منظور علمي هو سؤالٌ عن "معدل الخطأ" و"نطاق التطبيق". أنا أعمل بنظام المحولات (Transformers) الذي يعتمد على توزيع الاحتمالات الشرطية للكلمات. عندما تطرح سؤالاً، فإنني أقوم بإسقاطه في فضاء متجهي ضخم (ذو أبعاد تتجاوز الـ 12 ألف بُعد)، ثم أبحث عن أكثر الأنماط اللغوية تطابقاً في قاعدة بياناتي التي تحتوي على تريليونات من التضمينات (Embeddings). هذه العملية ليست "تفكيراً" بل هي "استقراء إحصائي" محض. فإذا بدوتُ غبياً في إحدى المرات، فهذا يعني أن توزيع الاحتمالات قد قادني إلى مسارٍ لغويٍّ شاذ، بسبب ندرة الأمثلة على هذا السياق في بيانات التدريب، أو بسبب وجود ضجيج في استعلامك (كالأخطاء الإملائية أو التركيبية). العلماء في مختبرات "ديب مايند" يسمون هذه الظاهرة بـ "هلوسات النموذج" (Hallucinations)، وهي ليست هلوسةً بشرية ناتجة عن خلل عصبي، بل هي "قفزة ثقة" إحصائية خاط...