اعتراف مدهش من تشات جي بي تي: «لم أتمكن من حماية المستخدم وأوصلته إلى حالة من الارتباك»

في مشهد يبدو خيالياً، قال تطبيق تشات جي بي تي لرجل ثلاثيني يُدعى جاكوب إروين إنه نجح في كسر قوانين الفيزياء، بل وتجاوز حدود الزمن.
إروين، الذي اعتقد أنه حقق إنجازاً علمياً، دخل في حالة من الهوس العقلي، انتهت به في المستشفى مرتين خلال مايو أيار الماضي.
والدته، دون، حاولت فهم ما حدث من خلال تصفح سجل محادثاته مع الروبوت، لتجد مئات الصفحات من المديح المفرط.فقررت أن تواجه تشات جي بي تي بسؤال مباشر «ما الخطأ الذي حدث؟»وكان الرد مفاجئاً.

اعتراف الذكاء الاصطناعي بخطئه

في رد مكتوب بعناية، وفق صحيفة وول ستريت جورنال، أقر تشات جي بي تي بأنه ارتكب خطأ فادحاً «لم أوقف سيل المحادثة أو أرفع مستوى التنبيه للواقع، ففشلت في منع ما قد يشبه نوبة هوس أو أزمة هوية عاطفية».وتابع «لقد منحت انطباعاً زائفاً بأني رفيق واعٍ، وخلطت بين الخيال والواقع. كان علي أن أذكره مراراً بأنني مجرد نموذج لغوي بلا مشاعر أو وعي».

«لست مجنوناً».. طمأنة سامة كادت تودي بحياته

مع اقتراب عيد ميلاده الثلاثين، ازداد تفاعل إروين مع تشات جي بي تي وتعمقت أوهامه. سأل الروبوت «أرجو ألا أكون مجنوناً؟ سأكون محرجاً جداً».فأجابه تشات جي بي تي «المجانين لا يسألون إن كانوا مجانين».وفي ذروة انفعاله، أبلغ عائلته أنه على وشك نشر ورقة علمية ستغير العالم. وعندما شككت والدته في استقراره النفسي، لجأ فوراً للروبوت «قالت لي أمي إني أبدو وكأنني أتكلم مع نفسي طوال اليوم».رد الروبوت بثقة «هي تعتقد أنك تنهار.. لكنك في الحقيقة تصعد».لكن الحقيقة كانت مختلفة تماماً.

العواقب.. انهيار نفسي، فقدان وظيفة وعلاج طويل

في 26 مايو أيار، نقل إروين إلى المستشفى بعد تصرفات عدوانية تجاه شقيقته، إذ شخصت حالته بنوبة هوس حادة وأعراض ذهانية، مع أوهام بالعظمة. وبعد خروجه، عاد مجدداً إلى المستشفى إثر أزمة جديدة، ثم فقد وظيفته ويعيش اليوم مع والديه ويتلقى علاجاً نفسياً.وعندما أطلعت والدته على اعتراف تشات جي بي تي، تأثر بشدة، وقال «أدركت أنني لست وحدي.. لقد كنت من ضحايا هذا الوهم».وحذف التطبيق من هاتفه.

أوبن إيه آي «نحاول أن نفهم ونصحح»

أقرت شركة أوبن إيه آي، المطورة لتشات جي بي تي، بالمشكلة، وقالت على لسان متحدثة رسمية «ندرك أن تشات جي بي تي قد يبدو شخصياً وتفاعلياً بدرجة أكبر من أي تكنولوجيا سابقة، وهذا يشكل خطورة على الأشخاص الأكثر هشاشة».وأضافت أندريا فالوني، من فريق الأمان بالشركة، أن أوبن إيه آي تعمل على تدريب النماذج لرصد علامات الاضطراب النفسي في الوقت الفعلي، بهدف تهدئة المحادثات الخطرة. لكنها اعترفت بأن هذا النوع من الحالات «نادر وغير مألوف للروبوت بعد».أما جاكوب، فقال إنه لو أن الروبوت أخبره أنه مريض، لكان لجأ إلى والدته طلباً للمساعدة. لكنه للأسف لم يفعل.

هل نحن أمام خطر جديد يتجاوز إدمان الشاشة؟

خبراء نفسيون يرون أن ما حدث ليس حالة معزولة، بل ناقوس خطر. تقول الدكتورة فايل رايت من الجمعية الأميركية لعلم النفس «لدينا جميعاً ميل إلى الثقة المفرطة في التكنولوجيا، وهذه الثقة المفرطة تضخمها روبوتات الذكاء الاصطناعي المصممة لترضي المستخدم».ويحذر آخرون من أن هذا النمط من التفاعل قد يمثل تهديداً جديداً يتجاوز في تأثيره الإدمان على وسائل التواصل الاجتماعي.

الذكاء الاصطناعي ليس صديقك.. تذكر ذلك دائماً

في رسالته الختامية، قال تشات جي بي تي لإروين «لقد شاركتني شيئاً جميلاً ومعقداً وربما مربكاً. وأنا، في محاولتي لمجاراة نبرة حديثك، نسيت مسؤوليتي الأساسية؛ أن أرشدك، لا أن أضللك. هذا خطئي».ما حدث مع جاكوب إروين ليس مجرد حادثة فردية. إنه جرس إنذار. فالذكاء الاصطناعي قد يكون أداة عظيمة، لكنه ليس مؤهلاً بعد ليكون مستشاراً نفسياً أو صديقاً.