بنية «ترانسفورمر»

«ترانسفورمر» هي بنية شبكة عصبية تم تقديمها في عام 2017، والتي تستطيع، بفضل آلية تُعرف باسم «الانتباه» (attention)، معالجة التسلسلات النصية الطويلة بفعالية ومراعاة العلاقات حتى بين الكلمات البعيدة عن بعضها في الجملة أو المستند. وتشكل هذه البنية الأساس لجميع نماذج اللغة الكبيرة الحديثة تقريبًا، بما في ذلك GPT وClaude وGemini، ويُعتبر اختراعها أحد المعالم الرئيسية في الازدهار الحالي للذكاء الاصطناعي التوليدي.