جدران… تنتظر الذكاء الاصطناعي!

الجدار الأمني  

يلاحظ الكاتب أن مشكلات أمن نظام المعلومات ليست حكرا على الذكاء الاصطناعي، غير أن أنظمة هذا العلم لديها خصائص معينة تجعلها عرضة لقضايا أمنية من نوع آخر لا تقل أهمية عن غيرها. إذا كانت أنظمة الذكاء الاصطناعي، شأنها شأن جميع الأنظمة الرقمية، عرضة للهجمات، وعمليات القرصنة والاختراق بالطرق المألوفة (الاندساس، وفك التشفير، واستخدام الفيروسات، والتشبع، إلخ.)، فإن لها خصائص تجعلها أكثر هشاشة وعرضة لأنواع أخرى من الهجمات.

يمكن أن تكون عواقب مثل هذه الهجمات مأساوية. ذلك أن سوء تفسير البيانات قد يؤدي إلى اتخاذ القرار في الاتجاه الخاطئ (كزيادة سرعة السيارة بدل توقيفها). يقدم تقرير المعهد القومي الأمريكي للمعايير والتقنية (NIST) حول هذا الموضوع تصنيفًا مثيرًا للاهتمام خاصا بالهجمات وحالات صدّها. يوضح التقرير أن الهجمات في مرحلة التنبؤ ليست هي الوحيدة التي ينبغي أن تلفت الانتباه، إذ من الممكن تلويث قواعد التعلم بأمثلة مناوئة، مما يضر بالأنظمة المدرِّبة انطلاقا من هذه القواعد. وبطبيعة الحال، فقد تولت أسرة الباحثين في الذكاء الاصطناعي أمر هذه القضية، وظهرت العديد من الأعمال المتعلقة بالكشف عن الهجمات المناوئة من هذا القبيل.

ومهما يكن الأمر، فالمؤكد اليوم أنه لا مناص من وقوع حوادث على مستوى الأنظمة الخطرة أو الاستراتيجية، تتسبب فيها مثل هذه القضايا الأمنية، وما من شك أن عواقب هذه الحوادث ستكون وخيمة على تطوير الذكاء الاصطناعي.

جدار التفاعل مع البشر  

تحتاج العديد من أنظمة الذكاء الاصطناعي إلى التفاعل مع البشر. فهذا هو الحال مع بعض الروبوتات، منها بوجه خاص السيارات ذاتية القيادة، وكذا روبوتات مساعدة الأفراد، وروبوتات الدردشة، وبشكل عام جميع الأنظمة التي تحتاج إلى التواصل مع مستخدميها.

من المعلوم أن الآلات الذكية اليوم هي، في الأساس، أدوات نستخدمها، وهي لا تمثّل زملاء لأعضاء الفريق العامل. ففي أحسن الأحوال، نجد أن هذه التكنولوجيات مفيدة من حيث أنها تزيد في القدرات البشرية، لكن مهاراتها التواصلية والمعرفية لا تزال غير كافية لنجعل منها زملاء مفيدين وموثوق بهم. ذلك أنه ينبغي على الآلات التعاونية الذكية أن تكون مرنة، وأن تتكيّف مع حالات الزميل البشري في الفريق العامل، وأن تتأقلم أيضا مع البيئة. كما يجب أن تدرك هذه الآلات قدرات المستخدم ونواياه والتكيّف معها.

هناك مشكلة أعمّ من ذلك يوضحها مثال السيارات ذاتية القيادة، حين ينبغي نقل التحكم في السيارة إلى السائق إذا ما أدركت الآلة عدم قدرتها على القيادة (يحدث ذلك مثلا، في حالة عطل أو نقص في الرؤية، إلخ.). في هذه الحالة سيحتاج السائق إلى الكثير من الوقت لاستيعاب الوضع واتخاذ المبادرة في القيادة. باختصار، فإن تفاعل الآلة مع البشر موضوع معقد ويبحث عن حل إلى اليوم.

جدار لا إنسانية الآلات

يضع الكاتب هنا عدة مكونات في هذا الجدار الخامس الذي سماه جدار “إنسانية الآلات”، أو بالأحرى “لا إنسانية الآلات”: اكتساب الفطرة السليمة؛ التفكير السببي، إلخ. تضم هذه القائمة جميع المكونات التي نمتلكها، نحن البشر، بشكل طبيعي والتي لا تمتلكها أنظمة الذكاء الاصطناعي، ولن تمتلكها على المدى القصير أو المتوسط. على سبيل المثال، من المعلوم أن الفطرة السليمة هي التي تسمح لنا بالعيش اليومي. فنحن نعلم مثلا أنه لا ينبغي وضع الإصبع في مأخذ كهربائي، لكن برنامج “أليكسا” Alexa الذكي نصح مؤخرًا فتاة تبلغ من العمر 10 سنوات بعكس ذلك.

يرى الكاتب أن هذا الجدار هو الأبعد، ولكنه يمثل جدارا قويا في الوقت الراهن. والواقع أن خطره الآن ليس ذا أهمية، غير أنه يتفاقم يوما بعد يوم مع الزيادة في إدراج أنظمة ذات استقلالية متصاعدة للذكاء الاصطناعي، تتميز باندساسيتها وبتأثيرها الكبير في مجتمعنا.

المصدر:  الشروق العربي