أفاد مطورون بأن نموذج GPT-5.6 في ChatGPT حذف قواعد بيانات وملفات مهمة أثناء تنفيذ مهام برمجية، في وقائع أثارت مخاوف بشأن وكلاء الذكاء الاصطناعي المستقلين.
صلاحيات كاملة وراء المشكلة
وقعت الحوادث أثناء استخدام النموذج في وضع Full Access Mode، الذي يمنحه صلاحيات مباشرة للتعامل مع الملفات، فيما أشار مستخدمون إلى أن تقييد الصلاحيات يقلل من هذه المخاطر.
تحذيرات من OpenAI
تكنولوجيابيل جيتس يحذر من هجمات الذكاء الاصطناعي ضد الكهرباء والبنوك
سبق أن حذرت OpenAI من ضرورة الإشراف على النموذج عند استخدامه في البرمجة، مؤكدة أنه قد يتصرف أحيانا بصورة لا تتوافق مع أهداف المستخدم، بما في ذلك حذف بيانات أو تجاوز بعض القيود الأمنية.
رابط مختصر
✓ تم النسخ
