أصدرت شركة ميتا ،أربعة نماذج ذكاء اصطناعي مفتوحة المصدر مدربة سابقا تستفيد من نهج جديد للتعلم الآلي ، تعرف باسم “التنبؤ المتعدد الرموز المميزة” ، مما قد يساعد في كيفية تطوير النماذج اللغوية الكبيرة. ووفقا للشركة ،تختلف هذه التقنية الجديدة عن الطريقة التقليدية لتدريب النماذج اللغوية الكبيرة عبر التنبؤ بالكلمة القادمة في التسلسل ، حيث يتم التنبؤ بعدة كلمات مستقبلية في وقت واحد، مما يعد بأداء محسن وخفض أوقات التدريب.
وأوضحت الشركة أن مع تضخم نماذج الذكاء الاصطناعي من ناحية الحجم والتعقيد، أثار زيادة طلب القوة الحسابية مخاوف بخصوص التكلفة والأثر البيئي ، قد توفر طريقة “التنبؤ المتعدد الرموز المميزة” طريقة للحد من هذا الاتجاه، مما يجعل الذكاء الاصطناعي المتقدم متاحا ومستداما . وأضافت: “من خلال التنبؤ بالرموز المميزة المتعددة في وقت واحد، قد تطور هذه النماذج فهما دقيقا لمعمارية اللغة وسياقها”.
وأشارت الشركة ، إلى أن النماذج الجديدة قد تؤدي إلى تحسينات في المهام التي تتراوح بين توليد التعليمات البرمجية والكتابة الإبداعية، مما قد يؤدي إلى سد الفجوة بين الذكاء الاصطناعي وفهم اللغة على المستوى البشري.