الرئيسية / مقالات / في عالم تديره الخوارزميات، كيف نحافظ على إنسانيتنا؟

في عالم تديره الخوارزميات، كيف نحافظ على إنسانيتنا؟

د. أسامة محمد إبراهيم

أستاذ علم النفس التربوي – جامعة سوهاج – مصر

إذا اتُهمتَ بارتكاب جريمة، فهل تُفضِّل أن تُعرَض أمام كمبيوتر مبرمج بواسطة خوارزمية رياضية لا تعرف التحيز أو التعاطف، أم تُعرَض أمام قاضٍ بشري عُرضَة للتعاطف والتحيز والخطأ؟ ماذا لو كنتَ ترغب في شراء سيارة بدون سائق وعليك الاختيار بين واحدة مبرمجة لإنقاذ أكبر عدد ممكن من الأرواح، وأخرى تعطي الأولوية لحياة ركابها؟ هل توافق على مشاركة التاريخ الطبي الكامل لعائلتك إذا قيل لك إن ذلك سيساعد الباحثين على ابتكار علاج أفضل لمرضي السرطان؟ وإلى عشاق كرة القدم، هل ستكون سعيد أكثر وأنت تشاهد مباراة يحكمها حكم آلي لا يُخطئ أم حكم بشري يصيب ويُخطئ؟!

هذه فقط بعض المُعضلات التي بدأنا نواجهها ونحن نَلِج عصر الخوارزميات، عصر الذكاء الاصطناعي، العصر الذي تسود فيه الآلة وتتحكم – عبر خوارزميات – في جوانب عديدة من حياتنا. تخبرنا البرمجيات بما يُفضل أن نشاهده، وأين نذهب، وهل يجب أن نرسل شخص ما إلى السجن أم نفرج عنه. لكن نظرًا لأننا نعتمد على الخوارزميات لأتمتة قرارات كبيرة ومهمة – في الجريمة والعدالة والرعاية الصحية والنقل والمال – فإن هذا الأمر يثير تساؤلات حول ما نريد أن يبدو عليه عالمنا. ماذا يهمنا أكثر وأيها يمثل أولوية: مساعدة الأطباء على التشخيص الدقيق والصحيح، أم الحفاظ على الخصوصية، حماية ضحايا الجريمة، أم منع الأبرياء من اتهامهم زورا؟!

في كتاب (مرحبا أيها العالم) تعرض عالمة الرياضيات هانا فراي – أستاذة الرياضيات في جامعة كوليدج بلندن – الفوائد والمخاطر المحتملة لعالم تديره الخوارزميات بشكل متزايد. تأخذنا فراي في جولة عبر الخوارزميات السيئة والمفيدة التي تحيط بنا، باعتبارها قلب أجهزة الكمبيوتر والذكاء الاصطناعي، وتوضح كيفية عملها، والطرق التي يمكن بها كتابة التحيز البشري في كود. من خلال قصص واقعية، تساعدنا على فهم مدى قوة الخوارزميات، وحدودها، وإلى أي مدى يمكن أن تحل محل الأنظمة البشرية.

في عصر البرمجيات التي صرنا نعتمد عليها بشكل كبير في حياتنا، تطرح فراي علينا مجموعة من التساؤلات الفلسفية من قبيل: ما المبدأ الذي يجب أن نسير عليه في هذه الحياة، وما هي حدود استخدامنا للآلة؟ وهل ينبغي أن نترك الآلة تُسيِّرنا في هذه الحياة؟ هل الحياة الإنسانية ستصبح أفضل وأكثر سعادة في ظل سيطرة الآلة أم لا؟

تُعرَّف الخوارزمية بأنها إجراء تدريجي لحل مشكلة أو لإنجاز مهمة. فيما يتعلق بأجهزة الكمبيوتر، الخوارزميات هي سلسلة من العمليات الحسابية توظف المعادلات والحساب والجبر وحساب التفاضل والتكامل والاحتمال والمنطق وتترجمه في شكل أكواد أو رموز.

هناك أربع نقاط نهائية عامة يتم توجيه الخوارزمية إليها: تحديد الأولويات؛ والتصنيف؛ وتحديد الارتباطات؛ وأخيرا التصفية أي عزل ما هو مهم. ترى فراي أن الآلة لا “تفكر” بقدر ما تتبع تعليمات متسلسلة. لذا يجب على المتخصصين كتابة هذه التعليمات بدقة وحكمة ووضعها في تسلسل صحيح. ولأن القدرة البشرية على الترميز تعلب دورًا رئيسيًا في كتابة هذه الخوارزميات، فإن دقة الخوارزميات وقدرتها على التنبؤ تتوقف على مهارة وبصيرة مطوريها.

تقوم أجهزة الكمبيوتر اليوم، باستخدام خوارزميات معقدة، بتسهيل الكثير من المهام بفاعلية كبيرة، فعند فحص تحليلات المرضى أو الأشعة السينية للخلايا السرطانية والأورام، يقوم الكمبيوتر بهذه المهام بدقة أكبر وأسرع بكثير من البشر، كما يقوم بتوجيه بيع وشراء الأسهم والسندات وإنتاج الموسيقى والرسومات واللوحات والأعمال الفنية الأخرى. ولكنها تكون أقل نجاحًا بشكل واضح عند التعامل مع مهام من قبيل التنبؤ بالأشخاص الذين قد يرتكبون جريمة أو الذين سوف يعودون إليها.

ليس من السهل تقليص بعض المهام التي تبدو سهلة للإنسان إلى خطوات رياضية بسيطة. في مثل هذه الحالات، بغض النظر عن مدى تعقيد الخوارزمية، يواجه العلماء صعوبة كبيرة في توجيه الكمبيوتر لإنتاج الإخراج المطلوب. بعض الأمثلة تتضمن توليد العواطف، أو التعاطف، أو استخدام ما يعتبره الإنسان “الفطرة السليمة”، أو كتابة دفوع قانونية مقنعة أو مقالات افتتاحية، أو إنتاج فن أصيل.

تذكر فراي أنها عندما أنهت الدكتوراه عملت مع شرطة لندن للنظر فيما حدث أثناء أعمال شغب لندن في عام 2011، والتي عمت أرجاء العاصمة البريطانية، حيث حصلت على بيانات من الشرطة وحاولت وضع تنبؤات حول ما سيحدث، وأين سيتجمع المتظاهرون. كان القصد أن تصبح الشرطة قادرة على التنبؤ أين ستتحرك أعمال الشغب. لكنها لاحظت أن المسؤولين يستخدمون خوارزميات دون المستوى. واعتقدت أن الأشخاص الذين يكتبون هذه الخوارزميات لا يتحدثون مع الأشخاص الذين يستخدمونها، والأشخاص الذين يستخدمونها لا يتحدثون مع الأشخاص الذين ستتغير حياتهم بقراراتهم. وأعتقد أنه كان من المهم حقًا سد الفجوات بين هذه المجموعات الثلاث.

وعندما بدأت عملها لأول مرة، شعرت بالرعب من فكرة أن شيئًا ما قد يكون معيبًا، يمكن أن يمتلك كل هذا القدر من التحكم في مستقبل إنسان. لكن بعد تدبر أدركت أنه ليس من العدل أن نتخيل عالمًا مثاليًا خاليًا من الأخطاء والتحيزات، ثم ننتقد أي شيء لا يتوافق مع هذا التصور؛ فالبشر سيئون أيضا في هذه الأمور، ولديهم قدر كبير من التحيزات. لذلك حتى وإن كانت هذه الأنظمة بها مشاكل، فإن علينا أن نفكر فيما يمكن أن يمنحنا نتائج أفضل.

في أحد فصول الكتاب تعود لتحذر من كيفية تعامل شركات التكنولوجيا مع بياناتنا الشخصية ومقدار البيانات التي يمتلكونها. هذه الشركات تعتمد “التجميع المستمر لـ “الفائض السلوكي”، أو عادم البيانات الذي ننتجه كجزء من المسار العادي لتصفح الإنترنت، واستخدام التطبيق والاستهلاك الرقمي، مما يسمح لها بعمل استنتاجات متطورة حول من نحن وماذا نريد وكيف من المحتمل أن نتصرف، ومن ثم التلاعب بنا. وهي تري أن فضيحة كامبريدج أناليتيكا ليست سوى قمة جبل الجليد. للأسف نحن ندفع أموالنا لإعطاء هذه الشركات مزيد من القيمة والسيطرة!

تدافع فراي من عن التكنولوجيا، لكنها أيضا حريصة على ألا نضع الكثير من اليقين حولها. تشرح فراي كيف تم التلاعب بالناخبين في العديد من البلدان بواسطة وسائل التواصل الاجتماعي. لكن في المقابل، البشر أيضا ليسوا مثاليين. فقد يكون القضاة متحيزين، وقد يفشل الأطباء في تشخيص الأمراض، وقد يتسبب بعض الطيارين في تحطم الطائرات. ولكن بالعمل معًا، يمكن أن يشكل كل من الإنسان وآلة الذكاء الاصطناعي فريقا مثاليًا.

تقدم فراي قضية مقنعة للحاجة الملحة لتنظيم الخوارزميات، لكن تريد منا أن نفهم التسويات التي نقدمها. تقول فراي: “لدينا ميل إلى الوثوق بأي شيء لا نفهمه”. وإذا لم نفهم ذلك، فسيتم الإجابة على هذه الأسئلة الصعبة من قبل من يفعلون ذلك، وهم شركات التكنولوجيا والأدوية، الأطراف الخبيثة وما شابه. لقد حان الوقت لسحب الستار على الخوارزميات التي تشكل حياتنا.

وأخيرًا، علينا جميعا أن نضع الإنسان في المرتبة الأولى وأن نذكر أنفسنا دومًا بأن التقنيات هي مجرد أدوات صنعها الإنسان من أجل الإنسان.

عن admin

شاهد أيضاً

دور العلوم الإنسانية في ظل الثورة الصناعية الرابعة

د. أسامة محمد إبراهيم أستاذ علم النفس التربوي – جامعة سوهاج – مصر تضع الثورة …

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *