أصدرت Apple اليوم العديد من نماذج اللغات الكبيرة مفتوحة المصدر (LLMs) المصممة للتشغيل على الجهاز وليس من خلال الخوادم السحابية. يُطلق عليها اسم OpenELM (نماذج اللغة الفعالة مفتوحة المصدر)، وتتوفر برامج LLM على محور الوجه المعانق، مجتمع لمشاركة كود الذكاء الاصطناعي.
كما هو موضح في ورقة بيضاء [PDF]، هناك ثمانية نماذج OpenELM إجمالية، أربعة منها تم تدريبها مسبقًا باستخدام مكتبة CoreNet، وأربعة نماذج مضبوطة للتعليمات. تستخدم Apple إستراتيجية تحجيم الطبقة التي تهدف إلى تحسين الدقة والكفاءة.
قدمت شركة Apple التعليمات البرمجية وسجلات التدريب وإصدارات متعددة بدلاً من النموذج التدريبي النهائي فقط، ويأمل الباحثون وراء المشروع أن يؤدي ذلك إلى تقدم أسرع و”نتائج أكثر جدارة بالثقة” في مجال الذكاء الاصطناعي للغة الطبيعية.
OpenELM، نموذج لغة مفتوح متطور. يستخدم OpenELM إستراتيجية قياس الطبقة لتخصيص المعلمات بكفاءة داخل كل طبقة من نموذج المحول، مما يؤدي إلى تحسين الدقة. على سبيل المثال، مع ميزانية معلمات تبلغ حوالي مليار معلمة، يُظهر OpenELM تحسنًا بنسبة 2.36% في الدقة مقارنة بـ OLMo بينما يتطلب عددًا أقل من الرموز المميزة للتدريب المسبق بمقدار 2x.
بعيدًا عن الممارسات السابقة التي توفر فقط أوزان النموذج ورمز الاستدلال والتدريب المسبق على مجموعات البيانات الخاصة، يتضمن إصدارنا الإطار الكامل للتدريب وتقييم نموذج اللغة على مجموعات البيانات المتاحة للجمهور، بما في ذلك سجلات التدريب ونقاط التفتيش المتعددة والنقاط المسبقة. تكوينات التدريب.
تقول شركة Apple إنها تطلق نماذج OpenELM “لتمكين وإثراء مجتمع البحث المفتوح” بنماذج لغوية متطورة. إن مشاركة النماذج مفتوحة المصدر تمنح الباحثين طريقة للتحقيق في المخاطر والبيانات والتحيزات النموذجية. يستطيع المطورون والشركات استخدام النماذج كما هي أو إجراء تعديلات عليها.
أصبحت المشاركة المفتوحة للمعلومات أداة مهمة لشركة Apple لتوظيف كبار المهندسين والعلماء والخبراء لأنها توفر فرصًا للأوراق البحثية التي لم يكن من الممكن نشرها عادةً بموجب سياسات Apple السرية.
لم تقدم شركة Apple بعد هذه الأنواع من إمكانيات الذكاء الاصطناعي إلى أجهزتها، ولكن من المتوقع أن يتضمن iOS 18 عددًا من ميزات الذكاء الاصطناعي الجديدة، وتشير الشائعات إلى أن شركة Apple تخطط لتشغيل نماذجها اللغوية الكبيرة على الجهاز لأغراض الخصوصية.
“مدمن السفر. فخور بالتواصل. خبير مستقل في ثقافة البوب. رجل أعمال.”
More Stories
تستخدم Nintendo صندوق ألم Gom Jabbar لإخفاء Switch 2 من الشركات المصنعة التابعة لجهات خارجية
تخطط Microsoft لتأمين Windows DNS كما لم يحدث من قبل. إليك الطريقة.
وصلت المعزوفات المنفردة أخيرًا إلى Apex Legends في الموسم 21 – شرح الوضع الفردي