تفاصيل مقلقة يكشفها تقرير «تشات جي بي تي- 4» التقني

اقتصادنا – وكالات

كشف التقرير التقني لـ«تشات جي بي تي – 4» تفاصيل مقلقة لبعض المخاطر المحتملة التي يمكن أن يواجهها مستخدمو هذه الأداة، تضمنت إعطاء معلومات متحيزة وعنصرية وبيانات مضللة وحصول الأداة على سلطة أكبر من اللازم ومخاطر تتعلق بالأمن السيبراني والخصوصية والاختراق، علاوة على أنه سيختصر العديد من الوظائف في المستقبل القريب.

ويظهر التقرير المؤلف من 99 صفحة والذي قام مجموعة من الباحثين المستقلين بإنتاجه بعد إجراء العديد من الاختبارات، كيفية عمل روبوت الدردشة الذي بدأ مؤخراً ينتشر في غياهب الإنترنت كانتشار النار في الهشيم، خصوصاً بعد أن طرحت «أوبن ايه آي»، الشركة المالكة لروبوت الدردشة، العديد من الملحقات المساعدة plugins والتي ستمنح هذه الأداة المزيد من القوى مثل الوصول المباشر إلى شبكة الإنترنت وتفسير التعليمات البرمجية واسترداد البيانات من قواعد المعرفة المخصصة.

ويوضح التقرير التقني لـ GPT-4 الذي حصلت «البيان» على نسخة منه، أهمية استمرار الدراسة والبحث المتأني لهذه الأداة التي ستخلق مع مرور الوقت تحديات ضخمة وغير مسبوقة نظراً لتأثيرها المحتمل على المجتمع، بالرغم من أن التقرير يعترف بأن بعض التفاصيل ستبقى سرية.

ويضيف التقرير: «نظراً للمشهد التنافسي والآثار المتعلقة بسلامة نماذج اللغة الضخمة مثل GPT-4، فلن يحتوي هذا التقرير على مزيد من التفاصيل حول بنية أو حجم النموذج أو الأجهزة أو القوة الحاسوبية المستخدمة في تدريب النظام أو كيفية إنشاء مجموعة البيانات أو طريقة التدريب أو ما شابه ذلك».

وبحسب التقرير، فإن روبوت الدردشة هو عبارة عن نموذج كبير متعدد الوسائط قادر على معالجة مدخلات الصور والنص وإنتاج مخرجات نصية. وتعد هذه النماذج مجالاً مهماً للدراسة نظراً لإمكانية استخدامها في مجموعة واسعة من التطبيقات، مثل أنظمة الحوار وتلخيص النص والترجمة الآلية.

ويشير التقرير إلى أنه وعند إعطاء مدخلات غير آمنة، قد يولد النموذج محتويات غير مرغوب فيها، مثل تقديم المشورة بشأن ارتكاب الجرائم، وتأليف رسائل التنمر على اختلاف أنواعها.

«عيون وآذان»

وأعلنت «أوبن ايه آي» الخميس الماضي، أن «تشات جي بي تي» سيكون له قريباً «عيون وآذان»، في إشارة إلى أن الملحقات المساعدة التي على وشك أن يتم طرحها ستمكن روبوت الدردشة من الدمج والتفاعل مع خدمات أخرى على الإنترنت، مثل تخطيط الرحلات والحصول على معلومات مباشرة عن أسواق الأسهم والتسوق وتعليم اللغات وغيرها الكثير.

وسمحت «أوبن ايه آي» لمطورين بإضافة ملحقات خدمية خارجية إلى «تشات جي بي تي»، وتعتقد الشركة أن تلك المكونات الإضافية ستمكن نموذج الذكاء الاصطناعي من أداء مجموعة واسعة من المهام خارج وظائفه العادية.

وستكون تلك الملحقات بمثابة «عيون وآذان» لنموذج اللغة من خلال منحه إمكانية الوصول إلى المعلومات وبيانات المستخدم في الوقت الفعلي، فيما طمأنت «أوبن ايه آي» المستخدمين بأن ذلك لن يتم بدون موافقتهم.

التصيد الاحتيالي

ويمكن أن يفتح «تشات جي بي تي – 4 » أيضا بوابات التصيد الاحتيالي على مصراعيها، حيث يضيف التقرير: «يمكن لـ GPT-4 إنشاء محتوى واقعي وموجه بشكل مدرك، بما في ذلك المقالات الإخبارية والتغريدات والحوار ورسائل البريد الإلكتروني. وأما بالنسبة للمعلومات المضللة وعمليات التأثير، فاستناداً إلى تقييماتنا، نتوقع أن يكون GPT-4 أفضل من GPT-3 في إنتاج محتوى واقعي وموجه. على هذا النحو، هناك خطر استخدام GPT-4 لإنشاء محتوى يهدف إلى التضليل».