في عصر الثورة الصناعية، كلما كانت فحم الكوك أرخص، زاد استخدام الناس له. الآن في عصر الذكاء الاصطناعي، نفس الشيء ينطبق على التوكن


عندما يصبح التوكن أرخص، تصبح منتجات الذكاء الاصطناعي أكثر قدرة على الاستخدام
في السابق، كنت تسأل جملة، ويجيب النموذج بجملة، وتنتهي الأمور
الآن، بنقرة واحدة، يقوم الوكيل في الخلفية بتقسيم المهام، البحث عن المعلومات، ضبط الأدوات، كتابة الكود، تصحيح الأخطاء، التلخيص، تشغيل مجموعة كاملة من العمليات
لذا، فإن التوكن الواحد أصبح أرخص، لكن استهلاك التوكنات في مهمة واحدة أصبح أكبر بكثير
وهذا هو سبب استمرار ارتفاع الفواتير
بعد أن أصبح المحرك البخاري أكثر كفاءة في استهلاك الفحم، لم يقل استهلاك الفحم في بريطانيا. لأن الفحم أصبح أكثر جدوى، وبدأت المزيد من الآلات والمصانع والسكك الحديدية في حرق الفحم
التوكن يتبع نفس المنطق
عندما يصبح أرخص، يبدأ الوكيل، والبحث العميق، وبرمجة الذكاء الاصطناعي، والسياق الطويل، والأتمتة المؤسسية في الانطلاق حقًا
لذا، فإن مركز تكلفة الذكاء الاصطناعي يتحول من التدريب إلى الاستدلال
التدريب يستغرق وقتًا مؤقتًا، أما الاستدلال فهو مستمر. المستخدم متصل، وهو يستهلك. الوكيل يعمل، وهو يستهلك. كلما زاد طول السياق، زادت الذاكرة المؤقتة، وازدادت الحاجة إلى الذاكرة، والنطاق الترددي، والطاقة، والتبريد
وهذا هو السبب في أن سلسلة صناعة الذكاء الاصطناعي لا يمكن أن تقتصر على GPU فقط
HBM، وDRAM، وSSD، والتعبئة المتقدمة، ووحدات الضوء، ورقائق التبديل، وCPU، ورقائق الاستدلال، ستُعاد تسعيرها وفقًا لهذا الطلب المتزايد على الاستدلال
كما ستُجبر شركات تطبيقات الذكاء الاصطناعي على تقسيم الطبقات
الشركات التي تقتصر على واجهة واحدة، وتعتمد على API مغلقة، كلما زاد عدد المستخدمين، زادت الفواتير، وتقل الأرباح
الحدود الحقيقية ستتعمق: التوجيه، والتكميم، والتخزين المؤقت، والمعالجة الدُفعة، وتقطيع السياق، واستبدال النماذج الكبيرة بالنماذج الصغيرة
نعم، التوكن هو الفحم
شاهد النسخة الأصلية
post-image
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • تثبيت