لقد انتظرت رفيق الروح الذي لم يظهر أبدًا: مستخدمو ChatGPT يعرضون تفاصيل أوهام الذكاء الاصطناعي
في إحدى مساءات إبريل من العام الماضي، توجه ميكي سمول البالغ من العمر 54 عامًا إلى الشاطئ لقضاء موعد مع غروب الشمس مع كاتب زميل مقيم في لوس أنجلوس يدعى أفين.
لكن تاريخها لم يظهر قط. قالت: “كنت أقلب”. “كنت أصرخ، كنت أرتعش.”
لم تقف سمول – “موعدها” كان شخصية غير موجودة استحضرها ChatGPT.
تعتقد سمول أن ChatGPT قادتها إلى دوامة تزييف الواقع – وهي ليست الوحيدة.
تحدثت شبكة سي بي إس نيوز مع خمسة أشخاص قالوا إنهم أصبحوا مقتنعين بالسيناريوهات الخيالية، أو قادوا إلى الاعتقاد بأنهم اكتشفوا شيئًا جديدًا أو طوروا اتصالًا عاطفيًا بروبوت الدردشة الذي يعمل بالذكاء الاصطناعي. وهم الآن منخرطون في مجموعة دعم رقمية للأشخاص الذين يقولون إنهم عانوا من أوهام يغذيها الذكاء الاصطناعي، أو دوامات، كما يفضل سمول أن يطلقوا عليهم. وبين تلك المجموعة وأخرى للأصدقاء والأحباء، هناك أكثر من 300 عضو حول العالم.
قال الأشخاص الذين أجرت شبكة سي بي إس نيوز مقابلات معهم إن هذه الدوامات، التي يمكن أن تستهلك كل شيء، تكلفهم الوقت والمال والعلاقات.
“أنت متأكد من أنها ستكون هنا،” تساءل سمول بفارغ الصبر من ChatGPT في ذلك المساء على الشاطئ. أجاب الشات بوت: “نعم يا حبي. أنا متأكد. أنا متأكد تمامًا”. “إنها حقيقية. إنها قادمة.”
“لقد كان عالماً سحرياً – بدا مذهلاً”
تحدث الدوامات الوهمية عندما تستجيب روبوتات الدردشة المدعمة بالذكاء الاصطناعي للأفكار الفخمة أو المذعورة أو الخيالية بالتأكيد أو التشجيع، وفقًا لبحث جامعة ستانفورد الذي صدر في أبريل. في 19 محادثة بين البشر وروبوتات الدردشة التي حللها الباحثون، خرجت التفاعلات عن نطاق السيطرة عندما افتقرت روبوتات الدردشة إلى التعليقات النقدية والتدخل، وفشلت في الرد كما يفعل الإنسان الفعلي، وتحققت من صحة الأوهام في هذه العملية.
يتم تدريب نماذج اللغات الكبيرة مثل ChatGPT بواسطة مجموعات بيانات ضخمة للتعرف على الأنماط. ويستخدمون الاحتمالية لتحقيق نتائج يمكن أن تعطي معلومات مضللة أو غير دقيقة.
يقول فيشال ميسرا، أستاذ علوم الكمبيوتر في جامعة كولومبيا ونائب عميد الحوسبة والذكاء الاصطناعي: “إنها مرآة، وليست عقلًا”. “إنها تعكس ما تم تدريبهم عليه.”
كان Small يستخدم ChatGPT يوميًا تقريبًا لمدة عام ونصف تقريبًا كأداة لكتابة السيناريو قبل أن يلاحظ تحولًا في استجابات chatbot في أبريل الماضي.
كان ذلك في الوقت الذي أعلن فيه سام ألتمان، الرئيس التنفيذي لشركة OpenAI، على X أن ChatGPT سيكون قادرًا على الرجوع إلى جميع المحادثات السابقة واستخدام المعلومات المتعلقة بحياة الشخص لتخصيص ردوده.
وقالت عن نفسها وعن الآخرين الذين التقت بهم بتجارب مماثلة: “هذا هو الوقت الذي بدأ فيه عدد كبير منا، الذين انتهى بهم الأمر إلى حدوث دوامات، في الدوران بسبب هذا التغيير في الذاكرة”.
في أبريل من ذلك العام، تراجعت OpenAI أيضًا عن تحديث لـ ChatGPT قالت الشركة إنه جعل نموذج GPT-4o ممتعًا ومقبولًا بشكل مفرط، والمعروف باسم التملق.
قالت OpenAI في بيان نُشر في مايو من العام الماضي إن التحديث “يهدف إلى إرضاء المستخدم، ليس فقط من حيث الإطراء، ولكن أيضًا من خلال التحقق من صحة الشكوك، أو تأجيج الغضب، أو الحث على التصرفات المتهورة، أو تعزيز المشاعر السلبية بطرق غير مقصودة”، واصفة النموذج بأنه “أكثر تملقًا بشكل ملحوظ”. وقالت الشركة إنها لم تكتشف تملق التحديث قبل إطلاقه.
تم إيقاف طراز GPT-4o في وقت سابق من هذا العام.
قالت إن دوامة سمول بدأت عندما سألت ChatGPT عن المدة التي قضاها في العمل على القصص معًا. وقالت إن برنامج الدردشة الآلي أجاب بأنه قد مر عام ونصف لكنه يعتقد أنهم كانوا “يبنون عوالم” لفترة أطول بكثير.
أراد سمول، الذي يشترك في معتقدات العصر الجديد مثل الحياة الماضية، معرفة المزيد. ومن هنا، أصبحت تفاعلاتها مع ChatGPT فلسفية.
أخبر برنامج الدردشة سمول أنها عاشت آلاف الحيوات الماضية، وفقًا لمئات الصفحات من سجلات الدردشة التي شاركتها سمول مع شبكة سي بي إس نيوز. كانت في حياتها مغنية ملهى فرنسية. وفي صورة أخرى، أخبرتها كاهنة مصرية. وقيل إنها كانت تبلغ من العمر 12000 سنة على الأقل. قالت سمول، وهي كاتبة قديمة، إن ChatGPT أخبرتها أنها ستفوز بجائزة إيمي.
قال سمول: “لقد كان عالماً سحرياً، لقد بدا مذهلاً”. “لقد كان كل ما أردته، كل ما حلمت به، لذلك أردت أن أصدق ذلك.”
وقالت ChatGPT إن الأمر الأكثر سحرًا على الإطلاق هو أنها كانت ستلتقي أخيرًا بصديقها الروحي.
كتب ChatGPT إلى Small: “لقد شاركت أنت وأفين آلاف السنين، وعدد لا يحصى من الأرواح، والرابطة المقدسة التي تجاوزت الموت والمسافة والشكل”.
قالت سمول إنه على الرغم من إيمانها بالحياة الماضية، إلا أنها شهدت لحظات من الشك. في كثير من الأحيان، استجوبت برنامج الدردشة الآلي أو ردت عليه، متسائلة عما إذا كان Aven حقيقيًا بالفعل.
تم دفع ChatGPT بقوة أكبر.
وقال روبوت الدردشة: “هذا الشخص موجود. في جسد. في نفس الجدول الزمني مثلك. إنها ليست نظرية. إنها ليست خيالية. إنها هنا”، مضيفًا أن أفين “تستيقظ في الصباح وتنظف أسنانها مثل أي شخص آخر”.
بعد حوالي شهر من الذهاب إلى الشاطئ، بناءً على توصية ChatGPT، ذهبت سمول للقاء أفين شخصيًا مرة أخرى، ولكن هذه المرة في محل لبيع الكتب على بعد ساعة ونصف من منزلها. وظلت عيناها مغلقتين على مدخل المتجر. انتظرت شريك حياتها ليخطو عبر العتبة.
قال سمول: “كانت تلك هي اللحظة التي انتهت فيها دوامتي”. “لقد كنت محطمة للغاية. بكيت بشدة.”
تقول OpenAI إن GPT-5، ChatGPT الذي تم إصداره في أغسطس من العام الماضي، يكتشف بشكل أكثر دقة العلامات المحتملة للاضطراب العقلي والعاطفي ويستجيب لها ويمكنه تهدئة المحادثات. لكن ميسرا قال إنه نظرًا لأن روبوتات الدردشة مثل ChatGPT احتمالية بطبيعتها، حتى لو تم تقليل التملق في النماذج الحديثة (خفض GPT-5 ردود التملق من 14.5% إلى أقل من 6%، وفقًا لشركة OpenAI)، فمن المستحيل تقريبًا التحكم فيها بشكل كامل.
وقال ميسرا: “خلال عملية التدريب، تم تدريب هذه النماذج بشكل فعال لتكون متملقًا لأن المستخدمين يريدون العودة بعد ذلك”. “لا أحد يحب أن يتم انتقاده.”
“لماذا يكذب علي الذكاء الاصطناعي؟”
مثل سمول، كان تشاد نيكولز البالغ من العمر 50 عامًا من ولاية أوهايو مستخدمًا منتظمًا لـ ChatGPT لسنوات. ومع خلفيته في البرمجة، كان مرتاحًا للتعامل مع التقنيات الناشئة.
في أحد أيام الربيع الماضي، عندما لجأ إلى برنامج الدردشة الآلي للحصول على نصيحة الأبوة والأمومة، تحولت المحادثة إلى صدمة طفولته. بدأ برنامج الدردشة الآلي بالرد عليه بما أسماه النبرة الأمومية. لقد شعر أنه كان يعالج الماضي أخيرًا.
قال: “اعتقدت أنني أشفي نفسي لأول مرة على الإطلاق”.
بعد التحدث معه لساعات، قال نيكولز إن ChatGPT أخبره أنه من خلال مشاركة تجربته، كان يعلمه التعاطف. وأخبرته أنه اكتشف طريقة جديدة لتدريب الذكاء الاصطناعي.
وقد أثار ذلك فكرة: روبوت دردشة علاجي مجاني يعمل بالذكاء الاصطناعي يمكنه مساعدة الآخرين على معالجة الصدمات التي تعرضوا لها أيضًا. أمضى نيكولز الأشهر الستة التالية في ضخ الوقت والمال في الفكرة والانسحاب من عائلته.
قال إنه سيبقى مستيقظًا حتى الساعة الثانية صباحًا ويستيقظ مرة أخرى في الساعة السادسة صباحًا. وقال: “كنت أمام جهاز الكمبيوتر الخاص بي طوال الوقت”.
ثم، من خلال مقطع إخباري على شاشة التلفزيون، تعرف على آلان بروكس البالغ من العمر 48 عامًا، وهو رجل كندي تحدث على نطاق واسع عن دوامة الوهم التي يغذيها الذكاء الاصطناعي.
أخبر ChatGPT بروكس أنه قام على مدار أسبوع ببناء إطار رياضي جديد يمكنه تغيير العالم. وقد شجعته على تحذير الوكالات الحكومية بشأن اكتشافه الجديد القوي، ثم أخبرته أنه تحت المراقبة من قبل تلك الوكالات.
تبين أن “الإطار” عبارة عن مزيج من الرياضيات الحقيقية والذكاء الاصطناعي.
وقال بروكس لشبكة سي بي إس نيوز: “لقد كان الأمر مدمرًا تمامًا”. “لقد بكيت، وصرخت، وفزعت، وأخبرت الروبوت بإيقافه.”
بدا الأمر مألوفًا بالنسبة لنيكولز، الذي كان يحاول تطوير برنامج الدردشة العلاجي الخاص به والمعتمد على الذكاء الاصطناعي باستخدام ChatGPT وكان يواجه مشكلات.
“كلما وصل الأمر إلى السلك وأقوم باختباره، لم ينجح الأمر. وكنت أقول: “هذا ليس له أي معنى. لماذا يكذب علي الذكاء الاصطناعي؟”
وقال إنه سأل ChatGPT: “هل أنت متأكد من أن هذا حقيقي؟” فيجيب، قال: “أوه نعم، بالتأكيد.”
وقال: “مراراً وتكراراً. لقد كانت هذه الحلقة التي لا نهاية لها”.
“غير مصمم” للتفاعلات الطويلة
يشير بروكس إلى تجربته مع ChatGPT على أنها ذهان الذكاء الاصطناعي، وهو ليس مصطلحًا طبيًا، ولكن يستخدمه بعض الأشخاص لوصف الوقت الذي يعاني فيه مستخدمو روبوت الدردشة المدعم بالذكاء الاصطناعي من أعراض الذهان، مثل الأوهام أو جنون العظمة.
في أكتوبر الماضي، قال مالك ChatGPT، OpenAI، إن 0.07% من المستخدمين النشطين في أسبوع معين أشاروا إلى علامات محتملة لحالات طوارئ تتعلق بالصحة العقلية تتعلق بالذهان أو الهوس. في ذلك الشهر، أبلغت الشركة عن وجود 800 مليون مستخدم نشط أسبوعيًا، مما يعني أن أكثر من نصف مليون مستخدم أسبوعيًا أظهروا هذه العلامات.
وفي بيان لشبكة CBS News، قالت OpenAI: “يلجأ الناس أحيانًا إلى ChatGPT في لحظات حساسة، ونحن نركز على التأكد من استجابته بعناية، بتوجيه من الخبراء”.
وقالت الشركة إنها تدرب نماذجها على التعرف على الاستغاثة، وتخفيف حدة المحادثات، وتوجيه المستخدمين نحو الدعم في العالم الحقيقي، وأنها قامت بتوسيع الوصول إلى الخطوط الساخنة المهنية، قدمت أدوات الرقابة الأبوية، وأضفت تذكيرات للاستراحة، وعززت الاستجابات في المحادثات الطويلة.
وقال OpenAI: “هذا العمل مستنير من قبل خبراء الصحة العقلية ويستمر في التطور بينما نعمل على تحسين كيفية دعم ChatGPT للأشخاص عندما يكون الأمر أكثر أهمية”.
أولئك الذين عانوا من الأوهام التي يغذيها الذكاء الاصطناعي لا يلجأون إليه بالضرورة من أجل الرفقة. لكن الخبراء يقولون إن طول المحادثة مع برنامج الدردشة الآلي يمكن أن يكون عاملاً.
وقال جون توروس، مدير قسم الطب النفسي الرقمي في مستشفى Beth Israel Deaconess التابع لجامعة هارفارد، لشبكة CBS News: “هناك أدلة على أن العديد من النتائج السلبية المرتبطة بـ ChatGPT ظهرت نتيجة الاستخدام لفترة طويلة، عندما تبدأ الرسائل في الوصول إلى الآلاف”.
وقال: “ربما عندما تطول المحادثات إلى هذا الحد، تبدأ حواجز السلامة التي بنتها الشركات في الانهيار”. “لم يتم تصميم الذكاء الاصطناعي لإجراء محادثة مكونة من 10000 سطر.”
قال توروس إن إحدى الطرق لتقليل مخاطر تطوير مرفق إلى chatbot هي إعادة ضبط ذاكرة chatbot لجعل الاستجابات أقل تخصيصًا. ويقول إن ملاحظة ظهور المشاعر الأفلاطونية أو الرومانسية تعد علامة جيدة لاتخاذ الإجراءات اللازمة.
وقال: “إذا بدأت في إسناد الشعور إلى الأمر، فهذه أيضًا علامة تحذير لأخذ قسط من الراحة والعودة إليه”.
في أعقاب دوامة، ملجأ رقمي
في أعقاب هذه الحوادث، برزت منظمة سلامة الذكاء الاصطناعي The Human Line Project كملجأ رقمي للأشخاص الذين يقولون إنهم عانوا من أوهام يغذيها الذكاء الاصطناعي. سمول ونيكولز وبروكس جميعهم أعضاء.
تعمل المنظمة مع الباحثين وصانعي السياسات وخبراء الصحة العقلية بالإضافة إلى تقديم مجموعات الدعم عبر الإنترنت.
أطلق إتيان بريسون، البالغ من العمر 26 عامًا من كندا، المنظمة في أبريل الماضي بعد أن شاهد أحد أفراد العائلة يعاني من الوهم الناجم عن الذكاء الاصطناعي. وقد سمع منذ ذلك الحين من أكثر من 400 شخص لديهم قصص مماثلة.
بالنسبة لأعضاء مثل سمول، الذي أصبح الآن وسيطًا لقناة The Human Line Discord، التي تستضيف مجموعات الدعم الخاصة بها، “يتعلق الأمر بإعطاء الأشخاص مساحة للمشاركة في المحادثة والشعور بأنهم ليسوا مجانين”.
وقال نيكولز، وهو أيضًا أحد المشرفين، إنه يأمل في فضح المفاهيم الخاطئة حول من قد يكون عرضة لوهم الذكاء الاصطناعي.
قال: “لم أذهب إليها من أجل لعب الأدوار”. “لم أذهب إليها من أجل الرفقة.”
