التصورات الفريدة للشبكات العصبية: آلة فك التشفير مقابل التعرف الحسي البشري

ملخص: تتعمق دراسة جديدة في العالم الغامض للشبكات العصبية العميقة، وتكتشف أنه في حين أن هذه النماذج يمكنها التعرف على الأشياء المشابهة للأنظمة الحسية البشرية، فإن استراتيجيات التعرف الخاصة بها تختلف عن الإدراك البشري. عندما يُطلب من الشبكات توليد محفزات مشابهة لمدخل معين، غالبًا ما تنتج صورًا وأصواتًا لا يمكن التعرف عليها أو مشوهة.

ويشير هذا إلى أن الشبكات العصبية تزرع “ثوابتها” المتميزة، والتي تختلف بشكل صارخ عن أنماط الإدراك الحسي البشري. يقدم البحث رؤى حول تقييم النماذج التي تحاكي التصورات الحسية البشرية.

مفتاح الحقائق:

1. الشبكات العصبية العميقة، عند توليد محفزات مماثلة لمدخلات معينة، غالبا ما تنتج صورا أو أصواتا لا تحمل أي تشابه مع الهدف.
2. يبدو أن النماذج تطور ثوابت فريدة، تختلف عن الأنظمة الإدراكية البشرية، مما يجعلها تدرك المنبهات بشكل مختلف عن البشر.
3. يمكن أن يؤدي استخدام التدريب التنافسي إلى جعل المحفزات الناتجة عن النماذج أكثر قابلية للتعرف على البشر، على الرغم من أنها ليست متطابقة مع المدخلات الأصلية.

مصدر: معهد ماساتشوستس للتكنولوجيا

تعتبر الأجهزة الحسية البشرية جيدة جدًا في التعرف على الأشياء التي نراها أو الكلمات التي نسمعها، حتى لو كان الشيء مقلوبًا أو يتم نطق الكلمة بصوت لم نسمعه من قبل.

يمكن تدريب النماذج الحاسوبية المعروفة باسم الشبكات العصبية العميقة على القيام بنفس الشيء، وتحديد صورة كلب بشكل صحيح بغض النظر عن لون فرائه، أو تحديد كلمة بغض النظر عن نبرة صوت المتحدث. ومع ذلك، وجدت دراسة جديدة أجراها علماء الأعصاب في معهد ماساتشوستس للتكنولوجيا أن هذه النماذج غالبًا ما تستجيب بنفس الطريقة للصور أو الكلمات التي لا تشبه الهدف.

عندما تم استخدام هذه الشبكات العصبية لتوليد صورة أو كلمة استجابت لها بنفس الطريقة مثل مدخلات طبيعية محددة، مثل صورة الدب، فإن معظمها قام بتوليد صور أو أصوات لا يمكن للمراقبين البشريين التعرف عليها. يشير هذا إلى أن هذه النماذج تبني “الثوابت” الخاصة بها، مما يعني أنها تستجيب بنفس الطريقة للمحفزات بميزات مختلفة تمامًا.

تقدم النتائج طريقة جديدة للباحثين لتقييم مدى نجاح هذه النماذج في محاكاة تنظيم الإدراك الحسي البشري، كما يقول جوش ماكديرموت، الأستاذ المشارك في علوم الدماغ والمعرفية في معهد ماساتشوستس للتكنولوجيا وعضو معهد ماكغفرن لأبحاث الدماغ ومركز العقول التابع لمعهد ماساتشوستس للتكنولوجيا. والعقول والآلات.

يقول ماكديرموت، وهو المؤلف الرئيسي للدراسة: “توضح هذه الورقة أنه يمكنك استخدام هذه النماذج لاستخلاص إشارات غير طبيعية تؤدي في النهاية إلى تشخيص التمثيلات الموجودة في النموذج”. “يجب أن يصبح هذا الاختبار جزءًا من مجموعة من الاختبارات التي نستخدمها كمجال لتقييم النماذج.”

جينيل فيذر حاصلة على درجة الدكتوراه لعام 22، وهي الآن زميلة أبحاث في مركز معهد فلاتيرون لعلم الأعصاب الحسابي، وهي المؤلفة الرئيسية لورقة الوصول المفتوح، والتي تظهر اليوم في علم الأعصاب الطبيعي. غيوم لوكلير، طالب دراسات عليا في معهد ماساتشوستس للتكنولوجيا، وألكسندر مادري، أستاذ أنظمة تصميم الإيقاع للحوسبة في معهد ماساتشوستس للتكنولوجيا، هم أيضًا مؤلفو الورقة.

تصورات مختلفة

في السنوات الأخيرة، قام الباحثون بتدريب شبكات عصبية عميقة يمكنها تحليل ملايين المدخلات (الأصوات أو الصور) وتعلم السمات المشتركة التي تسمح لهم بتصنيف كلمة أو كائن مستهدف بنفس الدقة التي يفعلها البشر. تعتبر هذه النماذج حاليًا النماذج الرائدة للأنظمة الحسية البيولوجية.

يُعتقد أنه عندما يقوم الجهاز الحسي البشري بهذا النوع من التصنيف، فإنه يتعلم تجاهل الميزات التي لا تتعلق بالهوية الأساسية للكائن، مثل مقدار الضوء المسلط عليه أو الزاوية التي يتم النظر إليها منها. يُعرف هذا بالثبات، مما يعني أنه يُنظر إلى الأشياء على أنها نفسها حتى لو أظهرت اختلافات في تلك الميزات الأقل أهمية.

يقول فيذر: “من الناحية الكلاسيكية، الطريقة التي فكرنا بها في الأنظمة الحسية هي أنها تبني ثوابت لكل مصادر التباين التي يمكن أن تحتويها الأمثلة المختلفة لنفس الشيء”. “يجب على الكائن الحي أن يدرك أنهما نفس الشيء، على الرغم من ظهورهما كإشارات حسية مختلفة تمامًا.”

وتساءل الباحثون عما إذا كانت الشبكات العصبية العميقة التي تم تدريبها لأداء مهام التصنيف قد تطور ثوابت مماثلة. لمحاولة الإجابة على هذا السؤال، استخدموا هذه النماذج لتوليد المحفزات التي تنتج نفس النوع من الاستجابة داخل النموذج كمثال للتحفيز قدمه الباحثون للنموذج.

يطلقون على هذه المحفزات اسم “المقاييس النموذجية”، مما يعيد إحياء فكرة من أبحاث الإدراك الكلاسيكية حيث يمكن استخدام المحفزات التي لا يمكن تمييزها عن النظام لتشخيص ثوابته. تم تطوير مفهوم القياسات في الأصل في دراسة الإدراك البشري لوصف الألوان التي تبدو متطابقة على الرغم من أنها تتكون من أطوال موجية مختلفة من الضوء.

ولدهشتهم، وجد الباحثون أن معظم الصور والأصوات المنتجة بهذه الطريقة لا تشبه الأمثلة التي قدمتها النماذج في الأصل. كانت معظم الصور عبارة عن خليط من البكسلات ذات المظهر العشوائي، وكانت الأصوات تشبه ضوضاء غير مفهومة. عندما عرض الباحثون الصور على مراقبين بشريين، لم يقم البشر في معظم الحالات بتصنيف الصور التي تم تركيبها بواسطة النماذج في نفس الفئة مثل المثال المستهدف الأصلي.

“إنهم في الحقيقة لا يمكن التعرف عليهم على الإطلاق من قبل البشر. يقول فيذر: “إنها لا تبدو أو تبدو طبيعية، ولا تحتوي على سمات قابلة للتفسير يمكن لأي شخص استخدامها لتصنيف كائن أو كلمة”.

تشير النتائج إلى أن النماذج طورت بطريقة ما ثوابتها الخاصة التي تختلف عن تلك الموجودة في الأنظمة الإدراكية البشرية. يؤدي هذا إلى إدراك النماذج لأزواج المحفزات على أنها متماثلة على الرغم من اختلافها بشكل كبير عن الإنسان.

الثوابت الفقهية

ووجد الباحثون نفس التأثير عبر العديد من نماذج الرؤية والسمع المختلفة. ومع ذلك، يبدو أن كل نموذج من هذه النماذج يطور ثوابته الفريدة. عندما عُرضت أجهزة القياس من نموذج ما على نموذج آخر، لم يكن من الممكن التعرف على أجهزة القياس في النموذج الثاني كما كانت بالنسبة للمراقبين البشريين.

يقول ماكديرموت: “الاستنتاج الرئيسي من ذلك هو أن هذه النماذج يبدو أنها تحتوي على ما نسميه الثوابت المميزة”. “لقد تعلموا أن يكونوا ثابتين بالنسبة لهذه الأبعاد المحددة في مجال التحفيز، وهو خاص بنموذج محدد، لذا فإن النماذج الأخرى لا تحتوي على نفس الثوابت”.

ووجد الباحثون أيضًا أنهم يستطيعون تحفيز أدوات قياس النموذج لتكون أكثر قابلية للتعرف على البشر باستخدام نهج يسمى التدريب التنافسي. تم تطوير هذا النهج في الأصل لمكافحة قيود أخرى في نماذج التعرف على الكائنات، وهي أن إدخال تغييرات صغيرة وغير محسوسة تقريبًا على الصورة يمكن أن يتسبب في خطأ النموذج في التعرف عليها.

وجد الباحثون أن التدريب التنافسي، الذي يتضمن تضمين بعض هذه الصور المعدلة قليلاً في بيانات التدريب، قد أنتج نماذج يمكن للبشر التعرف على مقاييسها بشكل أكبر، على الرغم من أنها لا تزال لا يمكن التعرف عليها مثل المحفزات الأصلية. ويقول الباحثون إن هذا التحسن يبدو مستقلاً عن تأثير التدريب على قدرة النماذج على مقاومة الهجمات العدائية.

يقول فيذر: “هذا النوع من التدريب له تأثير كبير، ولكننا لا نعرف حقًا سبب وجود هذا التأثير”. “هذا مجال للبحث المستقبلي.”

يقول الباحثون إن تحليل المقاييس التي تنتجها النماذج الحسابية يمكن أن يكون أداة مفيدة للمساعدة في تقييم مدى قرب النموذج الحسابي من محاكاة التنظيم الأساسي لأنظمة الإدراك الحسي البشري.

يقول فيذر: “هذا اختبار سلوكي يمكنك إجراؤه على نموذج معين لمعرفة ما إذا كانت الثوابت مشتركة بين النموذج والمراقبين البشريين”. “يمكن استخدامه أيضًا لتقييم مدى خصوصية الثوابت ضمن نموذج معين، مما قد يساعد في الكشف عن الطرق المحتملة لتحسين نماذجنا في المستقبل.”

التمويل: قامت المؤسسة الوطنية للعلوم، والمعاهد الوطنية للصحة، وزمالة الدراسات العليا في العلوم الحاسوبية بوزارة الطاقة، وأصدقاء زمالة معهد ماكجفرن بتمويل البحث.

حول أخبار أبحاث الذكاء الاصطناعي والإدراك

مؤلف: سارة ماكدونيل
مصدر: معهد ماساتشوستس للتكنولوجيا
اتصال: سارة ماكدونيل – معهد ماساتشوستس للتكنولوجيا
صورة: تُنسب الصورة إلى أخبار علم الأعصاب

البحث الأصلي: الوصول المفتوح.
“تكشف أدوات القياس النموذجية عن ثوابت متباينة بين الشبكات العصبية البيولوجية والاصطناعية” بقلم جوش ماكديرموت وآخرون. علم الأعصاب الطبيعي

خلاصة

تكشف أدوات القياس النموذجية عن ثوابت متباينة بين الشبكات العصبية البيولوجية والاصطناعية

غالبًا ما يتم اقتراح نماذج الشبكات العصبية العميقة للأنظمة الحسية لتعلم التحولات التمثيلية ذات الثوابت مثل تلك الموجودة في الدماغ. وللكشف عن هذه الثوابت، أنشأنا “مقاييس نموذجية”، وهي محفزات تتطابق عمليات تنشيطها داخل مرحلة النموذج مع تلك الموجودة في المحفز الطبيعي.

غالبًا ما كانت أجهزة القياس الخاصة بنماذج الشبكة العصبية الحديثة الخاضعة للإشراف وغير الخاضعة للإشراف للرؤية والسمع غير قابلة للتعرف تمامًا على البشر عند إنشاؤها من مراحل النموذج المتأخرة، مما يشير إلى وجود اختلافات بين الثوابت النموذجية والبشرية. أدت التغييرات النموذجية المستهدفة إلى تحسين التعرف البشري على أدوات القياس النموذجية ولكنها لم تقضي على التناقض العام بين النموذج البشري.

تم التنبؤ جيدًا بإمكانية التعرف البشري على أدوات قياس النموذج من خلال إمكانية التعرف عليها بواسطة نماذج أخرى، مما يشير إلى أن النماذج تحتوي على ثوابت مميزة بالإضافة إلى تلك التي تتطلبها المهمة.

تم فصل قابلية التعرف على Metamer عن كل من المعايير التقليدية القائمة على الدماغ وضعف الخصومة، مما يكشف عن وضع فشل متميز للنماذج الحسية الحالية ويوفر معيارًا تكميليًا لتقييم النموذج.