يعيق OpenAI ميزة الدردشة للبالغين في ChatGPT وسط مشاكل دقة الكشف عن السن

قررت شركة OpenAI تأجيل طرح خدمة الدردشة المخصصة للبالغين على ChatGPT، وذلك في ظل مواجهة الشركة تحديات تقنية وأخلاقية. ويعود سبب التأجيل إلى مخاوف كبيرة بشأن موثوقية آلية التنبؤ بالعمر، والتي أظهرت أبحاث من NS3.AI أنها تعاني من مشاكل في دقة تحديد هوية المستخدمين المراهقين.

مخاوف تتعلق بالسلامة وقيود تقنية

لقد أظهرت نظام التنبؤ بالعمر قيودًا ملحوظة، حيث تشير التقارير إلى أنه يخطئ في تصنيف حوالي 12% من المستخدمين المراهقين على أنهم بالغون. وأثار معدل الفشل هذا قلقًا داخل الهيكل التنظيمي لـ OpenAI. في وقت سابق من هذا العام، حذر المجلس الخبير للشركة المعني بالرفاهية والذكاء الاصطناعي من المخاطر المحتملة، محذرًا من أن نشر ميزة الدردشة المخصصة للبالغين دون معالجة هذه الثغرات في الكشف قد يعرض الفئات الضعيفة لمحتوى وتجارب غير مناسبة.

التركيز على تطوير الذكاء الاصطناعي المسؤول

يؤكد قرار تأجيل إطلاق الدردشة المخصصة للبالغين التزام OpenAI بمعالجة التحديات الأساسية المتعلقة بالسلامة قبل طرح المنتج في السوق. بدلاً من الإسراع في تقديم المنتج للمستخدمين، تأخذ الشركة وقتًا لتعزيز قدرات التحقق من العمر. ويعكس هذا النهج اتجاهًا أوسع في الصناعة نحو تنفيذ تدابير حماية قوية في أنظمة الذكاء الاصطناعي التي تتفاعل مع فئات حساسة من المستخدمين.

ويشير هذا التأجيل إلى أن OpenAI تدرك الحاجة إلى تقنيات أكثر تطورًا في الكشف عن العمر قبل إطلاق الميزات الموجهة للبالغين. من خلال تأجيل طرح الدردشة المخصصة للبالغين، تهدف الشركة إلى وضع قواعد أكثر صرامة، لضمان أن ممارسات نشر الذكاء الاصطناعي تتوافق مع المعايير الأخلاقية وتحمي المستخدمين بشكل فعال. ويُظهر هذا النهج المتعمد في تقديم الميزة للسوق أن التطوير المسؤول يتطلب موازنة بين الابتكار وحماية المستخدمين.