أطلقت شركة OpenAI ، الشركة التي تقف وراء روبوت الدردشة ChatGPT AI الشهير ، برنامج مكافأة الأخطاء في محاولة لضمان أن أنظمتها "آمنة ومأمونة".
ولتحقيق هذه الغاية ، فقد دخلت في شراكة مع منصة الأمن الجماعي Bugcrowd للباحثين المستقلين للإبلاغ عن نقاط الضعف المكتشفة في منتجها مقابل مكافآت تتراوح من "200 دولار للنتائج منخفضة الخطورة إلى ما يصل إلى 20000 دولار للاكتشافات الاستثنائية".
من الجدير بالذكر أن البرنامج لا يغطي أمان النموذج أو مشكلات الهلوسة ، حيث يُطلب من برنامج الدردشة إنشاء تعليمات برمجية ضارة أو مخرجات معيبة أخرى. وأشارت الشركة إلى أن "معالجة هذه القضايا غالبًا ما تتضمن بحثًا جوهريًا ونهجًا أوسع نطاقًا".
الفئات الأخرى المحظورة هي هجمات رفض الخدمة (DoS) ، وواجهات برمجة تطبيقات OpenAI API ذات التأثير الغاشم ، والعروض التوضيحية التي تهدف إلى تدمير البيانات أو الوصول غير المصرح به إلى المعلومات الحساسة بما يتجاوز ما هو ضروري لتسليط الضوء على المشكلة.
حذرت الشركة من أن "الاختبار المصرح به لا يعفيك من جميع شروط خدمة OpenAI". "قد تؤدي إساءة استخدام الخدمة إلى تقييد السعر أو حظره أو حظره."
ومع ذلك ، فإن ما يدخل في النطاق هو عيوب في واجهات برمجة تطبيقات OpenAI و ChatGPT (بما في ذلك المكونات الإضافية) وتكاملات الجهات الخارجية والعرض العام لمفاتيح OpenAI API وأي من المجالات التي تديرها الشركة.
يأتي هذا التطوير استجابةً للاستيلاء على حساب OpenAI الترقيع وعيوب عرض البيانات في النظام الأساسي ، مما دفع منظمي حماية البيانات الإيطاليين إلى إلقاء نظرة فاحصة على النظام الأساسي.
هيئة حماية البيانات الإيطالية تقترح إجراءات لرفع حظر ChatGPT
حدد Garante ، الذي فرض حظرًا مؤقتًا على ChatGPT في 31 مارس 2023 ، منذ ذلك الحين مجموعة من الإجراءات التي سيتعين على الشركة المدعومة من Microsoft الموافقة على تنفيذها بحلول نهاية الشهر من أجل رفع التعليق.
وقالت Garante: "سيتعين على OpenAI صياغة وإتاحة ، على موقعها الإلكتروني ، إشعار معلومات يصف الترتيبات والمنطق الخاص بمعالجة البيانات المطلوبة لتشغيل ChatGPT إلى جانب الحقوق الممنوحة لموضوعات البيانات" .
بالإضافة إلى ذلك ، يجب أن يكون إشعار المعلومات متاحًا بسهولة للمستخدمين الإيطاليين قبل الاشتراك في الخدمة. سيحتاج المستخدمون أيضًا إلى الإعلان عن تجاوز سنهم 18 عامًا.
تم إصدار أمر OpenAI أيضًا بتنفيذ نظام التحقق من العمر بحلول 30 سبتمبر 2023 ، لتصفية المستخدمين الذين تقل أعمارهم عن 13 عامًا ولديهم أحكام مطبقة للحصول على موافقة الوالدين للمستخدمين الذين تتراوح أعمارهم بين 13 و 18 عامًا. تقديم خطة لنظام تحديد العمر.
كجزء من الجهود المبذولة لممارسة حقوق البيانات ، يجب أن يكون كل من مستخدمي الخدمة وغير المستخدمين قادرين على طلب "تصحيح بياناتهم الشخصية" في الحالات التي يتم إنشاؤها فيها بشكل غير صحيح بواسطة الخدمة ، أو بدلاً من ذلك ، محو البيانات إذا كانت التصحيحات غير عملي من الناحية الفنية.
يجب أيضًا تزويد غير المستخدمين ، وفقًا للضمان ، بأدوات يسهل الوصول إليها للاعتراض على معالجة بياناتهم الشخصية بواسطة خوارزميات OpenAI. ومن المتوقع أيضًا أن تدير الشركة حملة إعلانية بحلول 15 مايو 2023 "لإبلاغ الأفراد باستخدام بياناتهم الشخصية في خوارزميات التدريب".