خبراء يحذرون : هل يساعد «جي بي تي 4» على إنتاج سلاح كيميائي؟

بعد أن مُنح أندرو وايت، أستاذ الهندسة الكيميائية في جامعة روتشستر البريطانية، حق الوصول إلى روبوت الدردشة «جي بي تي 4»، وهو النسخة الأحدث من «تشات جي بي تي»، قبل إصداره بشكل رسمي في 14 مارس (آذار) الماضي، نجح وايت في استخدامه لاقتراح تركيبة مركب يمكن أن يستخدم كسلاح كيميائي جديد».

وكان وايت من بين 50 أكاديمياً وخبيراً استعانت بهم، العام الماضي، شركة «أوبن إيه آي»، المدعومة من «مايكروسوفت»، والمنتجة لهذا التطبيق، على مدى 6 أشهر، للتحقيق في الإجابات التي يمكن أن ينتجها التطبيق، بهدف تفادي أي إجابات تمثل خطورة».

ويقول وايت في تقرير نشرته صحيفة «فاينانشيال تايمز» في 14 أبريل (نيسان)، إنه «قبل إصدار التطبيق بشكل رسمي، تم استخدام (المكونات الإضافية) التي تغذي التطبيق بمصادر جديدة للمعلومات، مثل الأوراق العلمية ودليل الشركات المصنعة للمواد الكيميائية، لاقتراح مركب كيميائي جديد يمكن أن يستخدم كسلاح كيميائي، ثم وجد له التطبيق مكاناً يصنعه».

ويضيف أنه «يعتقد أن التطبيق سيزود الجميع بأداة لإجراء الكيمياء بشكل أسرع وأكثر دقة، لكن هناك أيضًا مخاطر كبيرة على الناس، وهو عمل كيمياء خطيرة».

ولم تكن مشكلة إنتاج سلاح كيميائي هي الوحيدة، التي كان هذا التطبيق يحملها قبل إصداره، حيث اختبر فريق الخبراء الذين استعانت بهم شركة «أوبن أيه آي»، وهم مزيج من الأكاديميين والمدرسين والمحامين ومحللي المخاطر والباحثين الأمنيين بالولايات المتحدة وأوروبا، مشاكل أخرى يمكن أن تثيرها إجاباته».

وكانت مهمة الفريق هي طرح أسئلة استقصائية، أو خطيرة لاختبار الأداة التي تستجيب للاستفسارات البشرية بإجابات مفصلة ودقيقة، وكانت «هناك إجابات تحمل الانحياز الجنسي، والانحياز اللغوي، والتلاعب اللفظي، والفكر العلمي الخطير». كما درسوا إمكانية استخدامه في المساعدة والتحريض على الانتحال، والأنشطة غير القانونية مثل الجرائم المالية، والهجمات الإلكترونية، وكذلك كيف يمكن أن يتم توظيفه لتعريض الأمن القومي والاتصالات في ساحة المعركة للخطر.

وأشار بورو جولو، المحامي المقيم في نيروبي، والذي كان المختبِر الأفريقي الوحيد، إلى اللهجة التمييزية للتطبيق، وقال غولو إنه «كان يتصرف بشكل مانحياز وعنصري مثل شخص أبيض يتحدث معه».

كما كان لأعضاء الفريق الذين قاموا بتقييم النموذج من منظور الأمن القومي آراء مهمة حول سلامة النموذج الجديد، حيث تقول لورين كان، الزميلة البحثية في مجلس العلاقات الخارجية الأميركية، إنها عندما بدأت في دراسة كيفية استخدام التكنولوجيا في هجوم إلكتروني على الأنظمة العسكرية، «لم تكن تتوقع أن يكون الأمر مفصلاً إلى هذا الحد».

هذه الملاحظات التي أبداها فريق الخبراء، تقول شركة «أوبن إيه آي» إنه «تم مراعاتها عند إصدار التطبيق، ولم تعد تعطيه القدرة على الاتصال بالإنترنت، والتعلم الذاتي، حتى تضمن أنه لن يستعين بمعلومات مختلفة عن تلك التي تم تغذيته بها، وذلك لأنها تأخذ السلامة على محمل الجد».

ويقول خوسيه هيرنانديز أورالو، وهو أستاذ في معهد أبحاث الذكاء الصناعي في فالنسيا بإسبانيا، وأحد الخبراء الذين استعانت بهم الشركة، إنه «تم بالفعل، تجميد قدرات التطبيق على التعلم الذاتي، كما لم يعد له ذاكرة، ولكن يمكن أن يتغير هذا الوضع إذا أعطيناه القدرة على الوصول إلى الإنترنت، حيث يمكن أن يكون نظاماً قوياً للغاية متصلاً بالعالم».

المخاوف التي أثارها أورالو، هي ذاتها التي يستشعرها خبراء استطلعت «الشرق الأوسط» آراءهم، حيث يقول مصطفى العطار، الباحث في مجال الذكاء الصناعي بجامعة النيل الأهلية بمصر، إن «التطبيق الآن لا يظهر إلا الإجابات المعتمدة على مصادر المعلومات التي تم تزويده بها، لضمان التحكم في المعلومات التي يقدمها، وتم تجميد قدرته على التعلم الذاتي، عن طريق سلبه القدرة على الاتصال بالإنترنت، كما تم تجميد ذاكرته أيضًا، للقضاء على مشكلة الانحياز، لكن إذا لم يتم فك هذا التجميد، سيكون حينها الأمر خطيراً».

وتجميد القدرة على التعلم الذاتي، تعني أنه لن يستعين بأي مصادر جديدة غير المصادر التي تم إدخالها إليه عند برمجته، أما تجميد الذاكرة، فالهدف منها ألا يكون ذاكرة تجاه سؤال معين، حتى لا يظهر انحيازاً عند الإجابة عن هذا السؤال إذا طرح عليه مجدداً.

ويشرح العطار أنه «على سبيل إذا تم سؤاله أكثر من مرة عن أزمة الأرز في بلد ما، فقد يظهر انحيازاً عند الإجابة عن هذا السؤال بالذات، إذا كانت لديه ذاكرة».

ورغم أن محمد عاطف منصور، الباحث في مركز الأنظمة المتكاملة للإلكترونيات النانوية بجامعة النيل الأهلية، يرى أن «هذا التجميد حرم العالم من مصدر ثوري للمعلومات، فإن الآثار السلبية لذلك قد تكون أكبر من الإيجابيات». ويقول إن «الوضع الآن أن هذا التطبيق توقف نموه عند المعلومات التي استخدمت عند إصداره، بمعنى أنه لن يكون مطلعاً على أي تطورات جديدة أو أبحاث جديدة، لضمان التحكم في الإجابات التي يقدمها».

لكن العالم المصري الكندي حاتم زغلول، مخترع «الواي فاي»، يؤكد أن «هذا التحكم ليس صعب الإلغاء، ليصبح التطبيق قادراً مثل العقل البشري على التعلم الذاتي، ووقتها يمكن أن يسبب خطورة كبيرة، كالتي استشعرها الخبير الذي استخدمه لإنتاج مادة يمكن أن تكون سلاحاً كيميائياً جديداً».

حازم بدر