تكشف شركة Kai-Fu Lee’s LLM الناشئة بقيمة 1 مليار دولار عن نموذج مفتوح المصدر

كاي فو لي، عالم الكمبيوتر المعروف في الغرب بكتاباته الأكثر مبيعًا القوى العظمى لمنظمة العفو الدولية وفي الصين لرهاناته على حيدات الذكاء الاصطناعي، لديه مشروع جديد – وطموح كبير.

وفي أواخر شهر مارس، أطلق لي شركة تسمى 01.AI مع رؤية لتطوير نموذج لغة كبير محليًا للسوق الصينية. يضعه هذا المشروع في منافسة مع قادة التكنولوجيا الصينيين البارزين الآخرين، بما في ذلك مؤسس Sogou Wang Xiaochuan، الذي كان يجمع بسرعة المواهب ورأس المال الاستثماري لإنشاء معادلات صينية لـ OpenAI.

“أعتقد أن الضرورة هي أم الابتكار، ومن الواضح أن هناك ضرورة كبيرة في الصين”، هذا ما قاله لي، البالغ من العمر 61 عامًا ويقود 01.AI كرئيس تنفيذي، لـ TechCrunch في مقابلة، موضحًا الدافع وراء إنشاء الشركة. “على عكس بقية العالم، لا تتمتع الصين بإمكانية الوصول إلى OpenAI وGoogle لأن هاتين الشركتين لم تجعلا منتجاتهما متاحة في الصين، لذلك أعتقد أن العديد من حاملي ماجستير إدارة الأعمال يحاولون القيام بدورهم في إيجاد حل للسوق. هذا يحتاج حقًا إلى هذا.

01.يعد نمو الذكاء الاصطناعي انعكاسًا مناسبًا للتطور السريع في مجال الذكاء الاصطناعي التوليدي. بعد مرور سبعة أشهر على تأسيسها، أصدرت الشركة الناشئة نموذجها الأول، وهو المصدر المفتوح يي-34ب. وقال لي إن قرار تقديم شهادة LLM مفتوحة كمنتجها الأول هو وسيلة “لرد الجميل” للمجتمع. وأضاف أنه بالنسبة للأشخاص الذين شعروا أن LLaMA هي “هبة من السماء” لهم، “لقد قدمنا ​​لهم بديلاً مقنعًا”.

حتى وقت كتابة هذا التقرير، فإن Yi-34B، وهو نموذج أساسي ثنائي اللغة (الإنجليزية والصينية) تم تدريبه باستخدام 34 مليار معلمة وأصغر بكثير من النماذج المفتوحة الأخرى مثل Falcon-180B وMeta LlaMa2-70B. جاء في المرتبة الأولى بين نماذج LLM المدربة مسبقًا، وفقًا لتصنيف Hugging Face.

“ما زلنا نعتقد أن النماذج الأكبر حجما، عندما يتم تدريبها بشكل جيد، على كمية كبيرة من البيانات عالية الجودة، سوف تتفوق دائما بشكل كبير على النماذج الأصغر ذات الجودة المماثلة والتكنولوجيا المماثلة، لذلك أعتقد [Yi-34B] قال لي: “إن التفوق على النماذج الأكبر حجمًا هو أمر لا نراه عادةً”. “نحن نشعر بثقة تامة عندما أصدرنا نماذج تبلغ قيمتها 100 مليار إلى 400 مليار دولار خلال العام أو العام ونصف العام المقبلين، وستكون هذه النماذج أفضل بشكل كبير من نموذج اليوم الذي أعلنا عنه.”

لا شك أن قدرة الشركة الناشئة على بدء التدريب النموذجي بسرعة هي نتيجة لجمع الأموال بسلاسة، وهو أمر بالغ الأهمية لتأمين المواهب من الدرجة الأولى ومعالجات الذكاء الاصطناعي. وبينما رفض الكشف عن المبلغ الذي جمعته 01.AI، قال لي إن قيمته تبلغ مليار دولار بعد تلقي تمويل من Sinovation Ventures وAlibaba Cloud ومستثمرين آخرين لم يكشف عنهم.

01.لقد نما الذكاء الاصطناعي بالفعل إلى أكثر من 100 موظف، أكثر من نصفهم من خبراء LLM من كبرى شركات التكنولوجيا المتعددة الجنسيات والصينية. نائب رئيسها للتكنولوجيا، على سبيل المثال، هو عضو مبكر في Google’s Bard، وكان كبير مهندسيها عضوًا مؤسسًا في TensorFlow وعمل جنبًا إلى جنب مع باحثين مشهورين مثل Jeff Dean و Samy Bengio في Google Brain. والشخصيات الرئيسية وراء Yi-34B هما وينهاو هوانغ، أحد الخبراء المخضرمين في أبحاث مايكروسوفت في آسيا، وإيثان داي، الذي شغل مناصب عليا في مجال الذكاء الاصطناعي في هواوي وعلي بابا.

بعد أن دعم أكثر من عشر شركات وحيدة القرن وقام ببناء سبع شركات من خلال Sinovation Ventures، ربما يكون Lee واحدًا من أكثر المستثمرين ورجال الأعمال ذوي العلاقات الجيدة في الصين.

قال لي، الذي أطلق Microsoft Research Asia، وهو أكبر مركز أبحاث للعملاق الأمريكي في الخارج: “لقد مر أكثر من 25 عامًا منذ تأسيس Microsoft Research Asia، وكل ما فعلته كان يدور حول الحصول على مواهب رائعة للغاية”. قبل أن يقود جوجل الصين. على مر السنين، اكتسبت شركة Microsoft Research Asia سمعة باعتبارها “النقطة الغربية” لرعاية رواد الأعمال في مجال الذكاء الاصطناعي في الصين.

قال لي، الذي ظهر في برنامج “الآن، بالطبع، أنت تريد أن تدفع للعاملين بشكل عادل، وتحتاج إلى أن تكون قادرًا على المنافسة في الأجور، لكنني أعتقد حقًا أن الأمر يتعلق أيضًا باعتقاد الأشخاص أنهم قادرون على إحداث فرق واعتقادهم أن الشركة يمكن أن تنجح”. مكالمة فيديو الساعة 9:30 مساءً بتوقيت بكين. كان موظفوه يحفزون أنفسهم بنفس القدر. كان أحد خبراء البنية التحتية في الشركة الناشئة يعمل جيدًا حتى الساعات الأولى من ذلك اليوم، وكان لا يزال يرسل رسائل إلى لي في الساعة 2:15 صباحًا للتعبير عن حماسته لكونه جزءًا من مهمة 01.AI.

ليس سراً أن بناء LLMs يعد مهمة مكلفة. للحفاظ على عملياتها كثيفة الاستهلاك النقدي، لدى 01.AI خطط لتحقيق الدخل منذ البداية. وبينما ستواصل الشركة فتح المصدر لبعض نماذجها، فإن هدفها هو بناء نموذج ملكية متطور يعمل كأساس لمجموعة متنوعة من المنتجات التجارية.

“نحن وقال لي: “لا يمكن فتح المصدر لكل شيء”. “كنا ندرك تمامًا حقيقة أن نماذج اللغات الكبيرة هذه تتطلب قدرًا كبيرًا من الحوسبة، وبالتالي فهي باهظة الثمن. عندما نجمع الكثير من المال، سيتم إنفاق معظمه على وحدة معالجة الرسومات. وبالنظر إلى ذلك، كنا بحاجة أولاً إلى الحصول على أكبر قدر ممكن من GPU، وهو ما فعلناه.

مثل اللاعبين الآخرين في LLM في الصين، قامت 01.AI بتخزين وحدات معالجة الرسومات بشكل استباقي تحسبًا للعقوبات الأمريكية؛ لقد اقترضت المال لشراء المعالجات حتى قبل أن تحصل على التمويل. خلال العام الماضي، شددت إدارة بايدن القيود المفروضة على وصول الصين إلى رقائق الذكاء الاصطناعي المتطورة. مما دفع الشركات الصينية إلى دفع أسعار متضخمة للرقائق. تمت مكافأة البصيرة، حيث أصبح لدى 01.AI الآن إمدادات كافية على الأقل خلال 12-18 شهرًا القادمة.

وبصرف النظر عن التسبب في صداع للشركات الصينية، كانت العقوبات الأمريكية حافزا للابتكار من خلال تشجيعها على استخدام القوة الحاسوبية على النحو الأمثل. قال لي: “مع وجود فريق بنية تحتية عالي الجودة، لكل 1000 وحدة معالجة رسوميات، قد نتمكن من ضغط 2000 وحدة معالجة رسوميات منهم”.

01. يعتمد مسار الذكاء الاصطناعي نحو تحقيق الدخل إلى حد كبير على قدرته على إيجاد سوق المنتجات المناسبة لنماذج الذكاء الاصطناعي باهظة الثمن. على الرغم من ندرة علماء LLM المتميزين، إلا أنه لا يوجد نقص في المواهب المنتجة في الصين.

وقال لي: “إن الصين لا تتقدم على الولايات المتحدة في مجال ماجستير إدارة الأعمال، ولكن ليس هناك شك في أن الصين قادرة على بناء تطبيقات أفضل من المطورين الأمريكيين، ويرجع ذلك في الغالب إلى النظام البيئي الهائل للإنترنت عبر الهاتف المحمول الذي تم بناؤه على مدى السنوات الـ 12 الماضية أو نحو ذلك”.

في حين أن المؤسس لم يقدم أي تفاصيل حول الخدمات قيد التنفيذ، فقد ألمح إلى أن الشركة تقوم بتجربة مفاهيم في الاتجاهات الإنتاجية والاجتماعية، وأنه سيشعر “بخيبة الأمل” إذا لم تصدر 01.AI تطبيقًا ضمن هذا التقويم. سنة.

الهدف النهائي للشركة الناشئة، وفقًا لما قاله لي، هو أن تصبح نظامًا بيئيًا حيث يمكن للمطورين الخارجيين إنشاء التطبيقات بسهولة. وقال: “إن الواجب لا يقتصر على نشر نماذج بحثية جيدة فحسب، بل الأهم من ذلك هو جعل تطوير التطبيقات سهلاً حتى تكون هناك تطبيقات مقنعة”. “في نهاية اليوم. إنها لعبة النظام البيئي. سيحدد الوقت ما إذا كانت مساعي لي في مجال الذكاء الاصطناعي ستؤتي ثمارها.