شات جي بي تي ChatGPT يأتي بخاصية خفية تكشف المحتوى المُولّد بالذكاء الاصطناعي

تستعد شركة OpenAI لإضافة علامة مائية غير مرئية إلى النصوص التي يتم إنشاؤها بواسطة ChatGPT وCodex، في خطوة تهدف إلى تسهيل التعرف على المحتوى الذي تم توليده بالذكاء الاصطناعي، على أن يبدأ تطبيق التقنية في أوروبا خلال الأسابيع المقبلة.

وتأتي هذه الخطوة في ظل تزايد الاعتماد على أدوات الذكاء الاصطناعي في كتابة المقالات والتقارير والواجبات الدراسية وغيرها من أنواع المحتوى النصي، في وقت لا تزال فيه القدرة على اكتشاف النصوص المُولّدة بالذكاء الاصطناعي أكثر صعوبة مقارنة بالصور أو مقاطع الفيديو أو الملفات الصوتية.

العلامة المائية ستعمل دون التأثير على النص

وفقًا لما أعلنته OpenAI، تعتمد التقنية الجديدة على نظام يحمل اسم textGrain، ويعمل من خلال إضافة إشارة إحصائية غير مرئية إلى طريقة اختيار الكلمات أثناء توليد النص.

وعند فحص النص باستخدام أداة الكشف الخاصة بالشركة، يمكن للنظام تحليل هذه الإشارة الإحصائية وتحديد ما إذا كان المحتوى قد تم إنشاؤه بواسطة ChatGPT أو Codex.

وتقول OpenAI إن نظام textGrain حقق نتائج مماثلة أو أفضل من الأساليب الأخرى التي اختبرتها الشركة، إلا أنها تؤكد في الوقت نفسه أن التقنية ليست معصومة من الأخطاء.

هل يمكن إزالة العلامة المائية؟

توضح OpenAI أن أدوات الكشف عن العلامة المائية يمكن أن تواجه نوعين من الأخطاء؛ فقد تشير إلى وجود علامة مائية في نص لم يتم إنشاؤه بواسطة الذكاء الاصطناعي، وهو ما يُعرف بالنتيجة الإيجابية الكاذبة، أو تفشل في اكتشاف علامة موجودة بالفعل، وهو ما يُعرف بالنتيجة السلبية الكاذبة.

كما أشارت الشركة إلى أن اكتشاف العلامة المائية يصبح أكثر صعوبة عندما يكون النص قصيرًا، بينما يمكن أن تؤدي عمليات التحرير وإعادة الصياغة إلى إضعاف الإشارة المائية وجعل اكتشافها أكثر صعوبة.

وبالتالي، لا تعني العلامة المائية أن كل نص يتم إنشاؤه بواسطة ChatGPT سيكون قابلًا للتعرف عليه بشكل مؤكد في جميع الظروف.

التقنية لا تحدد حجم مساهمة الإنسان

أكدت OpenAI أيضًا أن نظام الكشف لا يستطيع تحديد مقدار مساهمة الإنسان في كتابة النص، ولا يمكنه معرفة الشخص الذي أنشأ المحتوى أو الجهة التي تملكه.

كذلك، لا تستطيع العلامة المائية تحديد ما إذا كانت المعلومات الواردة داخل النص صحيحة أم خاطئة، إذ يقتصر دورها على المساعدة في تحديد ما إذا كان النص يحمل الإشارة الإحصائية المرتبطة بالمحتوى المُولّد بواسطة نماذج OpenAI.

البداية من أوروبا بسبب قانون الذكاء الاصطناعي الأوروبي

من المقرر أن تبدأ OpenAI تطبيق العلامة المائية النصية في أوروبا، وذلك في إطار المتطلبات المرتبطة بـ قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، الذي يفرض على مزودي أنظمة الذكاء الاصطناعي اتخاذ خطوات تجعل المحتوى المُولّد بواسطة الذكاء الاصطناعي قابلًا للتعرف عليه بطريقة قابلة للقراءة آليًا.

وخلال الأسابيع المقبلة، ستبدأ الشركة بإضافة العلامة المائية إلى النصوص المؤهلة التي يتم إنشاؤها عبر ChatGPT وCodex للمستخدمين في أوروبا، وذلك عبر مختلف الخطط.

وفي الوقت نفسه، ستتيح OpenAI لعملاء واجهة برمجة التطبيقات (API) حول العالم إمكانية الاشتراك في نظام العلامات المائية النصية لبعض النماذج المحددة.

OpenAI تختبر أداة الكشف مع الباحثين

إلى جانب إطلاق تقنية العلامة المائية، بدأت OpenAI استقبال طلبات من الباحثين والمؤسسات المتخصصة الراغبة في اختبار أداة الكشف عن النصوص المائية.

وستقتصر إمكانية الوصول إلى أداة الكشف في البداية على الباحثين والجهات المتخصصة التي توافق عليها الشركة، بهدف اختبار التقنية في ظروف واقعية وجمع الملاحظات قبل توسيع نطاق استخدامها.

ولا تخطط OpenAI في الوقت الحالي لإطلاق العلامة المائية النصية عالميًا لجميع المستخدمين، إذ ستبدأ بتطبيقها إقليميًا في أوروبا، ما يمنح الشركة فرصة لدراسة النتائج والتحديات التي تظهر عند استخدامها على نطاق واسع.

ماذا يعني ذلك لمستخدمي ChatGPT؟

يعني تطبيق هذه التقنية أن النصوص التي يتم إنشاؤها بواسطة ChatGPT قد تصبح أكثر قابلية للتعرف عليها مستقبلًا، خصوصًا عند فحصها باستخدام أدوات الكشف التي تعتمد على تقنية OpenAI.

ومع ذلك، فإن العلامة المائية لا تعني أن أي نص تم إنتاجه بواسطة ChatGPT يمكن إثبات مصدره بشكل قاطع، إذ يمكن أن تؤثر قِصر النصوص أو عمليات التحرير وإعادة الصياغة في قدرة أنظمة الكشف على التعرف على العلامة.

وتُعد هذه الخطوة تحولًا مهمًا في طريقة تعامل OpenAI مع مسألة إثبات مصدر المحتوى النصي المُولّد بالذكاء الاصطناعي، خصوصًا مع اتساع استخدام أدوات مثل ChatGPT في التعليم والعمل وإنشاء المحتوى.

المصدر