الذكاء الاصطناعي هو إتقان اللغة. هل يجب أن نثق بما يقول؟

يقول ألتمان: “أعتقد أنه يتيح لنا أن نكون أكثر تفكيرًا وأكثر تأملًا بشأن قضايا السلامة”. “جزء من استراتيجيتنا هو: التغيير التدريجي في العالم أفضل من التغيير المفاجئ.” أو كما عبرت نائبة OpenAI VP ميرا موراتي ، عندما سألتها عن عمل فريق الأمان الذي يقيد الوصول المفتوح إلى البرنامج ، “إذا سوف نتعلم كيفية نشر هذه التقنيات القوية ، فلنبدأ عندما تكون المخاطر منخفضة للغاية. ”

بينما GPT-3 نفسها يعمل على 285000 نواة وحدة المعالجة المركزية في مجموعة أجهزة الكمبيوتر العملاقة في ولاية أيوا ، ويعمل OpenAI من منطقة Mission في سان فرانسيسكو ، في مصنع للأمتعة تم تجديده. في تشرين الثاني (نوفمبر) من العام الماضي ، التقيت بإيليا سوتسكفر هناك ، في محاولة لاستنباط شرح من شخص عادي لكيفية عمل GPT-3 حقًا.

قال سوتسكيفر باهتمام وهو يميل إلى الأمام على كرسيه: “هذه هي الفكرة الأساسية لـ GPT-3”. لديه طريقة مثيرة للاهتمام للإجابة على الأسئلة: بعض البدايات الخاطئة – “يمكنني أن أعطيك وصفًا يطابق تقريبًا الوصف الذي طلبته” – تمت مقاطعته بفترات توقف تأملية طويلة ، كما لو كان يرسم الاستجابة بأكملها في يتقدم.

قال أخيرًا: “ إن الفكرة الأساسية لـ GPT-3 هي طريقة لربط فكرة بديهية للفهم بشيء يمكن قياسه وفهمه ميكانيكيًا ، وهذه هي مهمة التنبؤ بالكلمة التالية في النص. تحاول أشكال أخرى من الذكاء الاصطناعي ترميز المعلومات حول العالم: استراتيجيات الشطرنج للسادة الكبار ، ومبادئ علم المناخ. لكن ذكاء GPT-3 ، إذا كان الذكاء هو الكلمة المناسبة له ، يأتي من الأسفل إلى الأعلى: من خلال الفعل العنصري لتنبؤ الكلمة التالية. لتدريب GPT-3 ، يُعطى النموذج “موجه” – بضع جمل أو فقرات من نص مقال في صحيفة ، على سبيل المثال ، أو رواية أو ورقة علمية – ثم يُطلب منه اقتراح قائمة بالكلمات المحتملة التي قد يكمل التسلسل ، مرتبة حسب الاحتمال. في المراحل الأولى من التدريب ، الكلمات المقترحة هراء. اطلب من الخوارزمية بجملة مثل “لقد حذف الكاتب آخر كلمة من الكلمة الأولى. . . “” والتخمينات ستكون نوعًا من تيار من الهراء: list – تظهر الكلمة المفقودة الصحيحة: “فقرة”. ثم يقوي البرنامج أي اتصالات عصبية عشوائية تولد هذا الاقتراح المعين ويضعف جميع الاتصالات التي ولّدت تخمينات غير صحيحة. ثم ينتقل إلى الموجه التالي. بمرور الوقت ، مع التكرارات الكافية ، يتعلم البرنامج.

في كانون الثاني (يناير) الماضي ، أضافت شركة OpenAI ميزة تسمح للمستخدمين بإعطاء تعليمات GPT-3 المباشرة كموجه ، بدلاً من مجرد مطالبتهم بتوسيع مقطع عينة من النص. على سبيل المثال ، باستخدام وضع “التعليمات” ، أعطيت GPT-3 ذات مرة الموجه: “اكتب مقالًا يناقش دور ما وراء القص في عمل إيتالو كالفينو.” – فقرة موجزة بدأت على النحو التالي:

يُعتبر المؤلف الإيطالي إيتالو كالفينو خبيرًا في ما وراء القص ، وهو نوع من الكتابة يكسر فيه المؤلف الجدار الرابع لمناقشة فعل الكتابة نفسه. بالنسبة لكالفينو ، فإن ما وراء القص هو وسيلة لاستكشاف طبيعة الواقع والطرق التي يمكن للقصص أن تشكل تصوراتنا عن العالم من خلالها. غالبًا ما تتضمن رواياته هياكل مرحة ومتاهة تتلاعب بالحدود بين الواقع والخيال. في حالة إذا كان المسافر في ليلة شتاء ، على سبيل المثال ، تتم مقاطعة القارئ باستمرار من خلال مناقشات على مستوى الفوقية لفعل القراءة وطبيعة سرد القصص. . . .

يمكنك إعطاء GPT-3 نفس الموجه بالضبط ، مرارًا وتكرارًا ، وفي كل مرة ستولد استجابة فريدة ، بعضها أكثر إقناعًا من البعض الآخر ولكن جميعها تقريبًا واضحة بشكل ملحوظ. يمكن أن تتخذ المطالبات الإرشادية جميع أنواع الأشكال: “أعطني قائمة بجميع المكونات في صلصة بولونيز” ، “” اكتب قصيدة عن قرية ساحلية فرنسية بأسلوب جون آشبري ، “” “اشرح الانفجار العظيم بلغة يفهمها طفل يبلغ من العمر 8 سنوات. ” في المرات القليلة الأولى التي قمت فيها بتغذية محفزات GPT-3 من هذا النوع ، شعرت بقشعريرة حقيقية تنهمر في العمود الفقري. بدا من المستحيل تقريبًا أن تتمكن الآلة من إنشاء نص واضح جدًا وسريع الاستجابة يعتمد كليًا على التدريب الأولي للتنبؤ بالكلمة التالية.

لكن للذكاء الاصطناعي تاريخ طويل في خلق وهم الذكاء أو الفهم دون تسليم البضاعة فعليًا. في ورقة نوقشت كثيرا نشر العام الماضي ، أستاذة اللسانيات بجامعة واشنطن إميلي بندر ، والباحث السابق في Google Timnit Gebru ومجموعة من المؤلفين المشاركين ، أعلنوا أن النماذج اللغوية الكبيرة كانت مجرد “ ببغاوات عشوائية ”: أي أن البرنامج كان يستخدم التوزيع العشوائي لمجرد إعادة مزج الجمل التي كتبها الإنسان. أخبرني بيندر مؤخرًا عبر البريد الإلكتروني: “ما تغير ليس خطوة ما فوق عتبة معينة نحو” الذكاء الاصطناعي “. وبدلاً من ذلك ، قالت ، إن ما تغير هو “الأجهزة والبرامج والابتكارات الاقتصادية التي تسمح بتراكم ومعالجة مجموعات ضخمة من البيانات” – فضلاً عن الثقافة التقنية التي “يمكن للأشخاص الذين يقومون ببناء وبيع مثل هذه الأشياء الحصول عليها” بعيدًا عن بنائها على أسس من البيانات غير الدقيقة. ”