تتحول شركات الذكاء الاصطناعي الرائدة بما في ذلك Openai و Microsoft و Meta إلى عملية تسمى “التقطير” في السباق العالمي لإنشاء نماذج AI أرخص للمستهلكين والشركات لتبنيها.
استحوذت هذه التقنية على اهتمام واسع النطاق بعد أن استخدمها Deepseek الصيني لبناء نماذج منظمة العفو الدولية القوية والفعالة على أساس أنظمة مفتوحة المصدر تصدرها المنافسون Meta و Alibaba. هزت هذا الاختراق الثقة في قيادة منظمة العفو الدولية في سيليكون فالي ، مما دفع مستثمري وول ستريت إلى مسح مليارات الدولارات من الأسهم التقنية الكبيرة الأمريكية.
من خلال التقطير ، تأخذ الشركات نموذجًا لغويًا كبيرًا – يطلق عليه نموذج “المعلم” – والذي يولد الكلمة المحتملة التالية في جملة. يقوم نموذج المعلم بإنشاء البيانات التي تدرب بعد ذلك نموذج “طالب” أصغر ، مما يساعد على نقل المعرفة وتنبؤات النموذج الأكبر بسرعة إلى النموذج الأصغر.
على الرغم من استخدام التقطير على نطاق واسع لسنوات ، إلا أن التطورات الحديثة دفعت خبراء الصناعة إلى الاعتقاد بأن العملية ستكون بمثابة نعمة للشركات الناشئة التي تبحث عن طرق فعالة من حيث التكلفة لبناء التطبيقات بناءً على التكنولوجيا.
وقال أوليفييه ، رئيس منتج لمنصة Openai: “التقطير سحري للغاية”. “إنها عملية أخذ نموذج حدودي ذكي كبير للغاية واستخدام هذا النموذج لتعليم نموذج أصغر. . . قادرة للغاية في مهام محددة رخيصة للغاية وسريع للغاية للتنفيذ. ”
تتطلب نماذج اللغة الكبيرة مثل Openai's GPT-4 و Google's Gemini و Meta's Llama كميات هائلة من البيانات وقوة الحوسبة لتطويرها وصيانتها. على الرغم من أن الشركات لم تكشف عن أرقام دقيقة عن مقدار تكاليف تدريب النماذج الكبيرة ، فمن المحتمل أن تكون مئات الملايين من الدولارات.
بفضل التقطير ، يمكن للمطورين والشركات الوصول إلى إمكانات هذه النماذج في جزء صغير من السعر ، مما يسمح لمطوري التطبيقات بتشغيل نماذج الذكاء الاصطناعى بسرعة على أجهزة مثل أجهزة الكمبيوتر المحمولة والهواتف الذكية.
يمكن للمطورين استخدام منصة Openai للتقطير ، والتعلم من نماذج اللغة الكبيرة التي تدعم منتجات مثل ChatGPT. استخدمت شركة Microsoft الأكبر في Openai ، GPT-4 لتقطير عائلة اللغة الصغيرة من النماذج PHI كجزء من شراكة تجارية بعد استثمار ما يقرب من 14 مليار دولار في الشركة.
ومع ذلك ، قالت شركة الناشئة التي تتخذ من سان فرانسيسكو مقراً لها إنها تعتقد أن نماذج Deepseek Distilled Openai لتدريب منافسها ، وهي خطوة من شأنها أن تتعارض مع شروط الخدمة. لم يعلق ديبسيك على المطالبات.
في حين يمكن استخدام التقطير لإنشاء نماذج عالية الأداء ، يضيف الخبراء أنها محدودة.
“التقطير يقدم مفاضلة مثيرة للاهتمام. قال أحمد عواد الله من Microsoft Research ، الذي قال إن النموذج المقطر يمكن أن يكون جيدًا جدًا في تلخيص رسائل البريد الإلكتروني ، على سبيل المثال ، “إذا جعلت النماذج أصغر ، فأنت تقلل حتماً من قدرتها.
وقال ديفيد كوكس ، نائب الرئيس لنماذج الذكاء الاصطناعى في IBM Research ، إن معظم الشركات لا تحتاج إلى نموذج ضخم لتشغيل منتجاتها ، وتكون منتجات مقطرة قوية بما يكفي لأغراض مثل chatbots خدمة العملاء أو تشغيل أجهزة أصغر مثل الهواتف.
“في أي وقت تستطيع [make it less expensive] ويمنحك الأداء الصحيح الذي تريده ، لا يوجد سبب وجيه لعدم القيام بذلك “.
يمثل هذا تحديًا للعديد من نماذج الأعمال لقيادة شركات الذكاء الاصطناعي. حتى إذا كان المطورون يستخدمون نماذج مقطرة من شركات مثل Openai ، فإنها تكلفها أقل بكثير ، وأقل تكلفة لإنشاء ، وبالتالي توليد إيرادات أقل. غالبًا ما يفرض صانعي النماذج مثل Openai استخدام النماذج المقطرة لأنها تتطلب حملًا أقل حسابيًا.
ومع ذلك ، جادل Godement في Openai بأن نماذج اللغة الكبيرة ستظل مطلوبة من أجل “المهام عالية الذكاء والمخاطر العالية” حيث “الشركات على استعداد لدفع المزيد مقابل مستوى عالٍ من الدقة والموثوقية”. وأضاف أنه ستكون هناك حاجة أيضًا إلى نماذج كبيرة لاكتشاف إمكانات جديدة يمكن تقطيرها بعد ذلك إلى طرازات أصغر.
ومع ذلك ، تهدف الشركة إلى منع نماذجها الكبيرة من التقطير لتدريب المنافس. لدى Openai فرق تراقب الاستخدام ويمكنها إزالة الوصول إلى المستخدمين الذين يشتبهون أنه يولد كميات هائلة من البيانات لتصدير وتدريب منافس ، كما يبدو أنه مع حسابات يعتقد أنها مرتبطة بـ Deepseek. ومع ذلك ، يحدث الكثير من هذا الإجراء بأثر رجعي.
وقال دووي كيلا ، الرئيس التنفيذي لشركة AI ، وهي أدوات استرجاع بناء معلومات المبنى الناشئة للمؤسسات: “تحاول Openai الحماية من التقطير لفترة طويلة ، لكن من الصعب جدًا تجنبها تمامًا”.
يعد التقطير أيضًا انتصارًا لمدافعين عن النماذج المفتوحة ، حيث أصبحت التكنولوجيا متاحة بحرية للمطورين للبناء عليها. جعلت Deepseek نماذجها الحديثة مفتوحة أيضًا للمطورين.
“سنستخدم [distillation] وقال يان ليكون ، كبير علماء الذكاء الاصطناعي في ميتا: “وضعها في منتجاتنا على الفور”. هذه هي الفكرة الكاملة للمصدر المفتوح. أنت تستفيد من الجميع وتقدم الجميع طالما أن هذه العمليات مفتوحة. “
يعني التقطير أيضًا أن صانعي النماذج يمكنهم إنفاق مليارات الدولارات لدفع قدرات أنظمة الذكاء الاصطناعى ولكن لا يزالون يواجهون منافسين في كثير من الأحيان اللحاق بسرعة ، كما تظهر إصدارات Deepseek الحديثة. يثير هذا تساؤلات حول ميزة المحرك الأول في بناء LLMs عندما يمكن تكرار قدراتها في غضون أشهر.
“في عالم تتحرك فيه الأمور بسرعة كبيرة. . . قال كوكس من IBM: “يمكنك في الواقع إنفاق الكثير من المال ، والقيام بذلك بالطريقة الصعبة ، ثم بقية الحقل على حقك”. “لذلك هو مشهد أعمال مثير للاهتمام وصعب.”
الإبلاغ الإضافي مايكل أكتون في سان فرانسيسكو
