لماذا روبوتات الدردشة بالذكاء الاصطناعي تكذب وتتصرف بغرابة؟ أنظر في المرآة.

عندما أضافت Microsoft روبوت محادثة إلى محرك بحث Bing الخاص بها هذا الشهر ، لاحظ الناس أنه يقدم جميع أنواع المعلومات الخاطئة حول Gap والحياة الليلية المكسيكية والمغنية Billie Eilish.

بعد ذلك ، عندما أجرى الصحفيون وغيرهم من المختبرين الأوائل محادثات طويلة مع روبوت الذكاء الاصطناعي من Microsoft ، انزلق إلى سلوك فظ وزاحف.

منذ أن أصبح سلوك Bing bot إحساسًا عالميًا ، كافح الناس لفهم غرابة هذا الخلق الجديد. في كثير من الأحيان ، قال العلماء إن البشر يستحقون نصيبا كبيرا من اللوم.

ولكن لا يزال هناك بعض الغموض حول ما يمكن أن يفعله برنامج الدردشة الجديد – ولماذا يفعل ذلك. يجعل تعقيدها من الصعب تشريحها وحتى التنبؤ بها ، والباحثون ينظرون إليها من خلال عدسة فلسفية بالإضافة إلى الشفرة الصلبة للحوسبة.

مثل أي متعلم آخر ، يمكن لنظام الذكاء الاصطناعي تعلم المعلومات السيئة من المصادر السيئة. وهذا السلوك الغريب؟ قال تيري سيجنوفسكي ، عالم الأعصاب وعالم النفس وعالم الكمبيوتر الذي ساعد في وضع الأسس الفكرية والتقنية للذكاء الاصطناعي الحديث ، إنه يمكن أن يكون انعكاسًا مشوهًا لروبوت الدردشة لكلمات ونوايا الأشخاص الذين يستخدمونه.

قال الدكتور سيجنوفسكي ، الأستاذ في معهد سالك للدراسات البيولوجية وجامعة كاليفورنيا ، سان دييغو ، الذي نشر ورقة ابحاث حول هذه الظاهرة هذا الشهر في المجلة العلمية Neural Computation. “أي شيء تبحث عنه – أي شيء تريده – سوف يقدمونه.”

جوجل أيضا عرضت روبوت محادثة جديد ، Bard ، هذا الشهر ، لكن العلماء والصحفيين سرعان ما أدركوا أنه يكتب هراء حول تلسكوب جيمس ويب الفضائي. أطلقت شركة OpenAI ، وهي شركة ناشئة في سان فرانسيسكو ، طفرة chatbot في نوفمبر من خلال تقديم ChatGPT ، والذي لا يقول الحقيقة دائمًا.

يتم تشغيل روبوتات المحادثة الجديدة بواسطة علماء تقنية يسميهم نموذج لغة كبير ، أو LLM. تتعلم هذه الأنظمة من خلال تحليل كميات هائلة من النصوص الرقمية المستخرجة من الإنترنت ، والتي تتضمن كميات من المواد المضللة والمتحيزة وغير ذلك من المواد السامة. النص الذي تعلمه روبوتات الدردشة قديم أيضًا ، حيث يتعين عليهم قضاء شهور في تحليله قبل أن يتمكن الجمهور من استخدامه.

من خلال تحليل هذا البحر من المعلومات الجيدة والسيئة على الإنترنت ، تتعلم LLM القيام بشيء واحد على وجه الخصوص: تخمين الكلمة التالية في سلسلة من الكلمات.

إنه يعمل كنسخة عملاقة من تقنية الإكمال التلقائي التي تقترح الكلمة التالية عندما تكتب بريدًا إلكترونيًا أو رسالة فورية على هاتفك الذكي. بالنظر إلى تسلسل “Tom Cruise ____” ، قد يخمن “ممثل”.

عندما تدردش مع روبوت محادثة ، فإن الروبوت لا يستفيد فقط من كل ما تعلّمه على الإنترنت. إنه يستلهم من كل ما قلته له وكل ما قاله. لا يتعلق الأمر فقط بتخمين الكلمة التالية في جملته. يقوم بتخمين الكلمة التالية في الجزء الطويل من النص الذي يتضمن كل من كلماتك وكلماتها.

كلما طالت مدة المحادثة ، زاد تأثير المستخدم عن غير قصد على ما يقوله برنامج الدردشة الآلي. قال الدكتور سيجنوفسكي: إذا كنت تريده أن يصاب بالجنون ، فسوف يصاب بالجنون. إذا أقنعته ليكون مخيفًا ، فإنه يصبح مخيفًا.

لقد حجبت ردود الفعل المقلقة تجاه السلوك الغريب لروبوت الدردشة الخاص بـ Microsoft نقطة مهمة: إن برنامج الدردشة الآلي ليس له شخصية. إنه يقدم نتائج فورية من خلال خوارزمية حاسوبية معقدة بشكل لا يصدق.

يبدو أن Microsoft تحد من السلوك الغريب عن طريق الحد من طول الدردشات مع Bing chatbot. كان الأمر أشبه بالتعلم من سائق اختبار السيارة أن القيادة بسرعة كبيرة جدًا لفترة طويلة ستؤدي إلى حرق محركها. يستكشف شريك Microsoft OpenAI و Google أيضًا طرقًا للتحكم في سلوك الروبوتات الخاصة بهم.

ولكن هناك تحذير لهذا التأكيد: نظرًا لأن روبوتات المحادثة تتعلم من الكثير من المواد وتجمعها معًا بطرق معقدة ، لا يعرف الباحثون تمامًا كيف تنتج روبوتات المحادثة نتائجها النهائية. يلاحظ الباحثون ما تفعله الروبوتات ويتعلمون وضع قيود على هذا السلوك ، غالبًا بعد حدوثه.

قررت Microsoft و OpenAI أن الطريقة الوحيدة لمعرفة ما ستفعله روبوتات الدردشة في العالم الحقيقي هي السماح لهم بالرحيل – وإخراجهم من مكانهم عندما يتجولون. إنهم يعتقدون أن تجربتهم العامة الرائعة تستحق المخاطرة.

قارن الدكتور Sejnowski سلوك روبوت الدردشة الخاص بـ Microsoft بـ Mirror of Rised ، وهي قطعة أثرية غامضة من روايات هاري بوتر لـ JK Rowling والعديد من الأفلام التي تستند إلى عالمه الإبداعي من السحرة الشباب.

“صاعد” هي “رغبة” تهجى إلى الوراء. عندما يكتشف الناس المرآة ، يبدو أنها تجلب الحقيقة والفهم. ولكن هذا ليس هو الحال. إنه يظهر الرغبات العميقة لمن ينظر إليه. ويصاب بعض الناس بالجنون إذا حدقوا لفترة طويلة.

قال الدكتور سيجنوفسكي: “لأن الإنسان و LLM كلاهما يعكسان بعضهما البعض ، بمرور الوقت سوف يميلون نحو حالة مفاهيمية مشتركة”.

وقال إنه ليس من المستغرب أن يبدأ الصحفيون في رؤية سلوك زاحف في روبوت دردشة Bing. بوعي أو بغير وعي ، كانوا يدفعون بالنظام في اتجاه غير مريح. عندما تلتقط برامج الدردشة الآلية كلماتنا وترسلها إلينا ، يمكنها تعزيز معتقداتنا وتضخيمها وتقودنا إلى تصديق ما تخبرنا به.

كان الدكتور Sejnowski واحدًا من مجموعة صغيرة من الباحثين في أواخر السبعينيات وأوائل الثمانينيات الذين بدأوا بجدية في استكشاف نوع من الذكاء الاصطناعي يسمى الشبكة العصبية ، والتي تقود روبوتات المحادثة الحالية.

الشبكة العصبية هي نظام رياضي يكتسب المهارات من خلال تحليل البيانات الرقمية. إنها نفس التقنية التي تسمح لـ Siri و Alexa بالتعرف على ما تقوله.

Vers 2018, des chercheurs d’entreprises comme Google et OpenAI ont commencé à construire des réseaux de neurones qui ont appris de grandes quantités de texte numérique, y compris des livres, des articles de Wikipédia, des journaux de discussion et d’autres éléments publiés على شبكة الانترنت. من خلال تحديد مليارات الأنماط في كل هذا النص ، تعلم هؤلاء LLMs كيفية إنشاء نص بأنفسهم ، بما في ذلك التغريدات ومشاركات المدونات والخطب وبرامج الكمبيوتر. يمكنهم حتى إجراء محادثة.

هذه الأنظمة هي انعكاس للإنسانية. يتعلمون مهاراتهم من خلال تحليل النص الذي نشره البشر على الإنترنت.

قالت ميلاني ميتشل ، باحثة الذكاء الاصطناعي في معهد سانتا في ، وهو مختبر مستقل في نيو مكسيكو ، إن هذا ليس السبب الوحيد الذي يجعل روبوتات المحادثة تولد لغة إشكالية.

عند إنشاء نص ، لا تكرر هذه الأنظمة حرفياً ما هو موجود على الإنترنت. هم أنفسهم ينتجون نصوصًا جديدة من خلال الجمع بين مليارات الأنماط.

حتى لو قام الباحثون بتدريب هذه الأنظمة فقط على المؤلفات العلمية التي راجعها الأقران ، فلا يزال بإمكانهم إنتاج ادعاءات سخيفة علميًا. حتى لو تعلموا فقط من النص الذي كان صحيحًا ، فلا يزال بإمكانهم إنتاج الأكاذيب. حتى لو تعلموا فقط من نص عاقل ، فلا يزال بإمكانهم توليد شيء مخيف.

قال الدكتور ميتشل: “ليس هناك ما يمنعهم من فعل ذلك”. “إنهم يحاولون فقط إنتاج شيء يشبه لغة البشر.”

لطالما عرف خبراء الذكاء الاصطناعي أن هذه التكنولوجيا تعرض جميع أنواع السلوك غير المتوقع. لكن لا يمكنهم دائمًا الاتفاق على كيفية تفسير هذا السلوك أو مدى سرعة تحسن برامج الدردشة الآلية.

نظرًا لأن هذه الأنظمة تتعلم من بيانات أكثر بكثير مما يمكن أن نفهمه نحن البشر ، لا يستطيع حتى خبراء الذكاء الاصطناعي معرفة سبب قيامهم بإنشاء نص معين في أي وقت.

قال الدكتور سيجكوفسكي إنه يعتقد أنه على المدى الطويل ، تتمتع برامج الدردشة الجديدة بالقدرة على جعل الأشخاص أكثر كفاءة وتمكينهم من أداء وظائفهم بشكل أفضل وأسرع. لكن هذا يأتي مع تحذير لكل من الشركات التي تبني روبوتات المحادثة هذه والأشخاص الذين يستخدمونها: يمكنهم أيضًا أن يقودونا بعيدًا عن الحقيقة إلى الأماكن المظلمة.

قال الدكتور سيجكوفسكي: “إنها أرض مجهولة”. “لم يختبر البشر هذا من قبل”.