ميزة حديثة في شات جي بي تي تثير قلقاً بشأن الأمان، وأوبن إيه آي تعمل على تقليل مخاطرها.

لندن-راي اليوم
أطلقت شركة “OpenAI” أحدث منتجاتها، وهو وكيل ذكي مدمج مع روبوت الدردشة “شات جي بي تي”، يُمكنه تنفيذ مهام نيابة عن المستخدمين مثل جمع البيانات تلقائيًا، إنشاء جداول البيانات، حجز الرحلات، إعداد العروض التقديمية، وغيرها من الوظائف المعقدة. ورغم الفوائد العملية الكبيرة التي يقدمها هذا الوكيل، إلا أن الشركة صنفته كأول منتج يتمتع بقدرة “عالية” على المخاطر البيولوجية، ما يفتح الباب أمام مخاوف جدية حول إساءة استخدام هذه التكنولوجيا.
خطر بيولوجي محتمل
بحسب تقرير مجلة “فورتشن” الذي اطلعت عليه “العربية Business”، فإن وكيل شات جي بي تي الجديد قد يُسهل على المبتدئين في المجال البيولوجي والكيميائي تنفيذ أفعال قد تُسبب تهديدات خطيرة، بما في ذلك إمكانية تطوير أسلحة بيولوجية أو كيميائية. وتعتمد “OpenAI” في تصنيفها هذا على “إطار التأهب” الخاص بها، الذي يرصد المخاطر الناجمة عن نماذج الذكاء الاصطناعي المتقدمة، ويسعى لتطبيق إجراءات وقائية لتفادي الأضرار.
أوضح بواز باراك، عضو الفريق الفني في “OpenAI”، أن المخاطر البيولوجية الناتجة عن الذكاء الاصطناعي لم تعد مجرد فرضيات مستقبلية، بل أصبحت واقعًا ملموسًا يمكن أن يحدث بفضل القدرات المتزايدة للنماذج الجديدة. وأضاف أن إطلاق هذا النموذج كان مصحوبًا بإجراءات وقائية صارمة لتقليل احتمالية سوء الاستخدام.
إجراءات وقائية مشددة
اتخذت “OpenAI” سلسلة من التدابير للحيلولة دون استخدام وكيل شات جي بي تي في تصنيع أسلحة بيولوجية، من بينها:
رفض الرسائل التي قد توجه المستخدمين نحو إنتاج مواد خطيرة.
رصد الطلبات المشبوهة وتحويلها للمراجعة من قبل خبراء متخصصين.
تطبيق قواعد صارمة لحجب المحتوى الخطير.
الاستجابة السريعة للحوادث أو محاولات سوء الاستخدام.
مراقبة مستمرة للتأكد من عدم استغلال الأداة في أغراض ضارة.
وقالت الباحثة كيرين جو من فريق السلامة في الشركة إن هذه التدابير وضعت رغم غياب دلائل قاطعة على قدرة النموذج على تمكين المبتدئين فعليًا من تطوير أسلحة بيولوجية، وذلك في إطار نهج احترازي.
سباق تطوير وكلاء الذكاء الاصطناعي
تأتي ميزة الوكيل الذكي في “شات جي بي تي” ضمن اتجاه عالمي متسارع لتطوير وكلاء ذكاء اصطناعي قادرين على إدارة مهام رقمية معقدة بشكل مستقل، وهو مجال يشهد تنافسًا بين كبرى شركات التقنية مثل “غوغل” و”أنثروبيك”. وترى هذه الشركات في وكلاء الذكاء الاصطناعي فرصة تجارية كبيرة لتسهيل أتمتة الأعمال ورفع كفاءة سير العمل.
التحكم والأمان
تعترف “OpenAI” أن زيادة استقلالية هذه النماذج ترفع من مستوى المخاطر، لذلك صممت وكيلها بحيث يطلب إذن المستخدم قبل اتخاذ أي إجراء هام، مع إمكانية التوقف المؤقت أو إعادة التوجيه أو الإلغاء الكامل من قبل المستخدم في أي وقت.
وقال باراك إن العقبة الرئيسية في التهديدات البيولوجية ليست الحصول على المواد، وإنما ندرة المعرفة والمهارات المخبرية، وهو ما يمكن لوكيل الذكاء الاصطناعي سدّه عبر توفير إرشادات دقيقة وقريبة من خبراء متخصصين.
في ظل تزايد تطورات الذكاء الاصطناعي، تبقى مسألة الموازنة بين الاستفادة من قدرات هذه التكنولوجيا وحماية المجتمع من مخاطرها واحدة من أبرز التحديات التي تواجه الشركات والمجتمع الدولي على حد سواء. وتؤكد “OpenAI” التزامها باتخاذ كافة الإجراءات الوقائية اللازمة لضمان استخدام هذه الأدوات بشكل آمن ومسؤول.