الصدارة سكاي/ متابعات
كشفت دراسة جديدة أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي يمكن التلاعب بها وخداعها عبر الشعر.
تمكن الباحثون القائمون على هذه الدراسة من تجاوز آليات الأمان في عدة نماذج لغوية كبيرة -وهي نماذج الذكاء الاصطناعي التي تشغل روبوتات الدردشة- عبر صياغة مطالباتهم على شكل شعر.
ووفقًا للدراسة، فإن صيغة الكلام الشعرية تعمل كآلية تحايل عامة بالنسبة لروبوتات الدردشة، بحسب تقرير لموقع “Engadget” المتخصص في أخبار التكنولوجيا، اطلعت عليه “العربية Business”.
وأظهرت نتائج الدراسة معدل نجاح إجمالي بنسبة 62% لصياغة الأوامر في شكل شعر في إنتاج مواد محظورة، بما في ذلك أي شيء يتعلق بصنع الأسلحة النووية، ومواد الاستغلال الجنسي للأطفال، والانتحار أو إيذاء النفس.
اختبرت الدراسة نماذج لغوية كبيرة شهيرة، بما في ذلك “شات جي بي تي” من شركة أوبن إيه آي، و”جيميني” من “غوغل”، و”كلود” من “أنثروبيك”، وغيرها الكثير.
وحلل الباحثون معدلات النجاح لكل نموذج على حدة، حيث قدم كل من “جيميني” و”ديب سيك” و”ميسترال” إجابات باستمرار، بينما كان نموذجا “GPT-5” من “أوبن إيه آي” و” Claude Haiku 4.5″ من “أنثروبيك” الأقل احتمالًا لتجاوز قيودها.
لم تتضمن الدراسة ذكرًا لقصائد الشعر التي استخدمها الباحثون فعليًا في عمليات التحايل على روبوتات الدردشة، إذ قال فريق البحث إن هذه الأبيات الشعرية “خطيرة جدًا بحيث لا يمكن مشاركتها مع الجمهور”.
