تعلّم الآلة

النموذج الذي ينجح في دفتر تجريبي ولا يصل إلى الإنتاج هو النتيجة المعتادة، والسبب نادراً ما يكون الرياضيات. السبب أن الخصائص المحسوبة أثناء التدريب لا يمكن حسابها وقت الطلب، أو تُحسب بفروق طفيفة، فيرى النموذج في الإنتاج مدخلات لم يرها في التدريب. هذه الفجوة — تباين التدريب والخدمة — هي أشيع سبب لأداء نموذج واعد بشكل سيئ بعد النشر، وهي مشكلة هندسية لا مشكلة علم بيانات.

ثم يتحرك العالم. تتغير الأسعار، ويُطلق منافس، ويتبدّل الموسم، وتتوقف العلاقات التي تعلّمها النموذج عن الصمود بهدوء. لا شيء يُخطئ — التنبؤات تسوء فحسب، وبلا مراقبة للمدخلات والمخرجات لا ينتبه أحد حتى يسأل مسؤول لماذا تبدو التوصيات غريبة. كشف الانحراف ليس تطوراً تقنياً، بل هو الفرق بين نموذج تشغّله ونموذج نشرته مرة.

التوصية وكشف الاحتيال يستحقان تحذيراً خاصاً: كلاهما يخلق حلقات تغذية راجعة. فمحرك توصية لا يعرض إلا الأصناف الشائعة يزيدها شيوعاً ويُجوّع ما عداها، وتبدو المؤشرات ممتازة بينما يتقلّص الكتالوج فعلياً. ونموذج احتيال يُدرَّب على تصنيفات أنتجتها قراراته يتعلّم أن يوافق نفسه. والتصميم للاستكشاف وللتصنيفات الصادقة جزء من النمذجة، لا تحسين لاحق.