‌آلية الانتباه الذاتي: وتحويل الشبكات العصبية

فتحت آلية الانتباه الذاتي الآفاق الواسعة أمام العاملين في مجال التعلم الآلي لابتكار نماذج ذكية جديدة وتطوير تقنيات قائمة بالفعل منذ سنوات، ويتلخص هدف الانتباه الذاتي Self Attention في فهم العلاقات ضمن سلسلة الإدخال وإدراك معانيها المننوعة، وبالتالي يركز هذا المفهوم بشكل أو بآخر على تعزيز نماذج الشبكات العصبية وتطويرها نحو الأفضل.

وبناء على أهمية المصطلح السابق ودوره الفعال في مستقبل الذكاء الاصطناعي، تكشف مقالتنا الستار عن جوهره وأنواعه وآلية عمله وكيفية استخدامه.

مفهوم آلية الانتباه الذاتي

تقنية مستخدمة في مجال التعلم الآلي Machine Learning وما يتفرع عنه من المجالات الأخرى وخصوصاً في ميدان رؤية الكمبيوتر Computer Vision ومعالجة اللغة الطبيعية NLP. وتتركز مهمة الانتباه الذاتي على التقاط العلاقات داخل سلسلة الإدخال. أما فوائد خوارزميات الانتباه الذاتي فهي متنوعة ويصب جميعها في تطوير التعلم الآلي والذكاء الاصطناعي. ويمكننا تلخيص فوائده فيما يلي: [1]

• زيادة تركيز نموذج الذكاء الاصطناعي المتقدم على المعلومات المهمة وذات الصلة. 
• تسهيل عملية فهم التبعيات المعقدة داخل سلسلة الإدخال.
• المساعدة على فهم السياق عبر الاهتمام بالأجزاء جميعاً.
• تطبيق الحوسبة المتوازية على قواعد البيانات الضخمة.

كيف تعمل تقنيات الانتباه الذاتي

تعتبر آلية الانتباه الذاتي معقدة إلى حد ما بالنسبة إلى الأفراد غير المتخصصين، لكن يمكن تبسيط هذه العملية بترتيب كافة مراحله من البداية إلى النهاية وفق الآتي: [1]

1. تحويل تسلسل الإدخال إلى 3 متجهات: الاستعلام والمفتاح والقيمة.
2. حساب المجموع المرجح للقيم من خلال علاقة التشابه بين الاستعلام والمتجهات الرئيسية.
3. الدمج بين المجموع المرجح ونماذج التحويلات العصبية للحصول على الناتج النهائي.

أنواع آليات الانتباه الذاتي

يحتوى مفهوم آلية الانتباه الذاتي على أنواع عديدة، وهذا ما يجعل هذه التقنية مناسبة لأغلب الاحتياجات. وإليك أكثر هذه الأنواع أهمية: [2]

انتباه متعدد الرؤوس

هو أحد أنواع الانتباه الذاتي الذي يطبق الآلية وفقاً لمبدأ التوازي، ويتلخص جوهر الانتباه متعدد الرؤوس في فكرة واحدة وهي أن كل رأس يستطيع التركيز على أجزاء عديدة من بيانات الإدخال، وهذا يعني أن بإمكانه فهم المعلومات من جوانب مختلفة. يعتبر هذا النوع مثالياً للاستخدام مع المشاريع المعقدة بكل أشكالها، على سبيل المثال حينما تستعمل نموذج انتباه ذاتي في ملف مليء بالمعلومات سوف تتمكّن من التركيز على تدفق السرد والتفاصيل الواقعية والمشاعر.

انتباه نسبي

تستعمل خوارزميات الانتباه في هذا النوع لإدراك المسافات النسبية بين الكلمات داخل الجملة، وهكذا بدلاً من الاهتمام بالقيم المطلقة لموقع الكلمة، يتوجه التركيز إلى المسافات. ويلجأ إليه المتخصصون في معظم الأحيان لتحسين أداء النماذج المعتمدة على السياق المحلي.

انتباه المقياس

يتمتع الانتباه الذاتي المقياس بالقدرة على حساب أوزان الانتباه في تسلسل الإدخال لكل موضع على حدة، انطلاقاً من ذلك يُستخدم هذا النوع بكثرة في بنية المحولات وأشكالها، كذلك يلعب دوراً كبير في تحسين نماذج الذكاء الاصطناعي وتطوير سرعة التعلم الخاصة بها.

تطبيقات آلية الانتباه الذاتي في الذكاء الاصطناعي

تدخل أغلب استخدامات الانتباه الذاتي في صلب عالم الذكاء الاصطناعي، وقبل الحديث عن التطبيقات الشائعة يجب أولاً الإشارة إلى مثال توضيحي بسيط لفهم كيفية عمله. فالانتباه الذاتي مثل الإنسان الذي يجلس في غرفة مزدحمة ويركز انتباهه مع شخص محدد للاستماع إلى حديثه، ولذلك يحاول عزل كافة الأصوات المحيطة قدر الإمكان [3].

تأثير تقنيات الانتباه الذاتي على الشبكات العصبية

ما زال تطوير الشبكات العصبية هو حجر الأساس في مستقبل الذكاء الاصطناعي، وهذا ما يجعل للانتباه الذاتي تأثيراً كبيراً على تلك الشبكات، وتظهر هذه التأثيرات في تطبيقات واقعية متنوعة، هذه أهمها: [4]

• الترجمة الآلية: ساعدت في التركيز على كلمات أو عبارات محددة في النص الأصلي، وهذا ما يساعد على تحسين دقة الترجمة.
• وصف الصور: أتاحت آلية الانتباه الذاتي وصف محتوى الصورة بدقة عالية، وتستعمل هذه التقنية المفيدة في السيارات ذاتية القيادة.
• التعرف على الكلام: تساعد هذه الآلية أدوات تحويل المقاطع الصوتية إلى نصوص مكتوبة، لأنها تسمح بفهم أفضل للكلمات المنطوقة حتى في البيئات الصاخبة.

في الختام، يبقى مستقبل الشبكات العصبية مرهوناً باستخدام آلية الانتباه الذاتي حسب المعايير الصحيحة والمنتظمة، نتيجة لذلك لا تتوانى المؤسسات المتخصصة عن إجراء التحسينات على خوارزميات الانتباه وتطبيق الجديد منها في مختلف المجالات، وذلك كله يؤدي إلى تطور حياة البشر نحو الأفضل.