كامبريدج- إن الخوارزميات منحازة شأنها في ذلك شأن البيانات التي تتغذى عليها. وكل البيانات منحازة. وحتى الإحصائيات "الرسمية" لا يمكنها أن تشير إلى "وقائع" موضوعية و أبدية. وتمثل الأرقام التي تنشرها الحكومة المجتمع كما هو الآن، من خلال الصورة التي يعتبرها هؤلاء الذين يجمعون البيانات ذات صلة وأهمية. وليست المجموعات والتصنيفات التي تعطي معنى للبيانات محايدة. تماما عندما نقيس ما نراه، فنحن لا نرى إلا ما نقيسه.
وبما أن سياسة صنع القرارات الخوارزمية تنتشر على نطاق واسع في مناطق صنع السياسات، فهي تلقي ضوءا مُشِعا على الانحياز الاجتماعي الذي كان ذات مرة يختبئ في البيانات التي نجمعها. وعن طريق أخذ البنيات والعمليات القائمة إلى درجاتها القصوى، المنطقية، يجبرنا الذكاء الاصطناعي على مواجهة المجتمع الذي خلقناه.
والمشكل لا يكمن فقط في تصميم الحواسيب لتفكر مثل الشركات، كما قال زميلي في جامعة كامبريدج جوني بين. بل يكمن أيضا في كون الحواسيب تفكر مثل الخبراء الاقتصاديين. ففي النهاية، وكما نتخيل، الذكاء الاصطناعي نسخة لا تخطئ من الكائن الاقتصادي.إنه ذكاء يقوم بعمليات حسابية بشكل منطقي، ومتناسق وقادر على الوصول إلى النتيجة المرغوبة مع مصادر حاسوبية دقيقة. وعندما يتعلق الأمر ب"تضخيم المنفعة"، فإنه أكثر فعالية من البشر بكثير.
وما تعنيه "المنفعة" للخبراء الاقتصاديين هو ما كان يعنيه "اللاهوب" للكيمياء. إذ افترض الكيميائيون في الماضي أن المواد القابلة للاحتراق تتألف من مكون خَفِي- اللاهوب- وهذا ما يفسر تغير شكل المواد عندما تحترق. غير أنه رغم الجهود التي بُذلت، لم يستطع العلماء أبدا تأكيد الفرضية. إذ لم يتمكنوا من تقفي أثر "اللاهوب" لنفس السبب الذي حال دون تمكن الخبراء الاقتصاديين من تحديد حجم المنفعة الحقيقية.
ويستعمل الخبراء الاقتصاديون مفهوم المنفعة لتفسير اختيارات بعض الناس- ماذا يشترون، أين يستثمرون، إلى أي مدى يعملون بجد: كل شخص يحاول الزيادة من حجم المنفعة إلى أقصى حد لتناسب اختيارات الشخص واعتقاداته بشأن العالم، وفي الحدود التي تفرضها ندرة المداخيل والموارد. ورغم عدم وجودها، فالمنفعة بنية قوية. ومن الطبيعي الاعتقاد أن كل شخص، يحاول عمل كل ما في وسعه لمصلحته.
كما أن مفهوم المنفعة للخبراء الاقتصاديين ولدت من رحم مذهب المنفعة، الذي يهدف إلى ضمان أقصى حجم من المنفعة لأكبر عدد من الأشخاص. وعلى غرار الخبراء الاقتصاديين المعاصرين، الذين يمشون على خطى جون ستيوارت ميل، معظم الأشخاص الذين يصممون نظام الخوارزمي منفعيون ويعتقدون أنه إذا تم التعرف على "منفعة ما "، فمن الممكن أن نزيد من حجمها.
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
لكن هذا الاعتقاد قد تكون له عواقب وخيمة. خذ على سبيل المثال كيف تستعمل الخوارزميات لتحديد ما إذا كان السجناء يستحقون إطلاق سراح مشروط. لقد كشفت دراسة مهمة أنجزت عام 2017 أن الخواريزميات أكثر فعالية من البشر في التنبؤ بمعدلات الانتكاسية، ويمكن استعماله للحد من "معدلات السَّجن" بنسبة 40% "بدون ارتفاع في معدلات الجريمة". وفي الولايات المتحدة الأمريكية، إذا، يمكن أن يستعمل الذكاء الاصطناعي للتقليص من أعداد السجناء الذين تتكون غالبيتهم من السود. لكن ماذا يحدث عندما يتولى الذكاء الاصطناعي عملية إطلاق السراح المشروط بينما يسجن الأمريكيون ذوي البشرة السوداء بنسب أكثر من البيض؟
إن سياسة صنع القرارات الفعالة الخوارزمية جعلت مثل هذه الأسئلة تطرح على طاولة النقاش، و تجبرنا على تحديد النتائج التي ينبغي الزيادة من حجمها. هل نريد التقليص من عدد السجناء فقط ، أم أن علينا، أيضا، أخذ العدل بعين الاعتبار؟ وبينما تسمح السياسات للهراء والتسويات بالتستر على مثل هذه المفاضلات، يتطلب نظام الحاسوب الوضوح.
وبسبب هذا المتطلب يصبح من الصعب تجاهل المصادر البنيوية للتكافؤ الاجتماعي. وفي عصر الذكاء الاصطناعي، ستجبرنا الخوارزميات على إدراك كيف أن عواقب النزاعات الاجتماعية والسياسية التي حدثت في الماضي استقرت في حاضرنا من خلال استعمال البيانات.
وبفضل مجموعات مثل مبادرة أخلاق الذكاء الاصطناعي والشراكة بشأن الذكاء الاصطناعي، بدأ يظهر نقاش واسع حول الذكاء الاصطناعي. لكن نظام الخوارزميات لا يطبق إلا ما تمت برمجته عليه. والمشكل الحقيقي يتعدى كونه مجرد استعمال لسياسات صنع القرار الخوارزمية في الحكامة التجارية والسياسية، ليشمل المؤسسات الأخلاقية في مجتمعاتنا.
وبينما نحن بحاجة ماسة إلى مناقشة المفاضلات العملية والفلسفية للزيادة من حجم "المنفعة" من خلال الذكاء الاصطناعي، نحتاج أيضا إلى الالتزام بالتفكير بأنفسنا. وتطرح الخوارزميات أسئلة جذرية حول كيف نظمنا العلاقات الاجتماعية والسياسية والاقتصادية بطريقة يذكرها التاريخ. ينبغي علينا الآن، أن قرر ما إذا كنا نريد فعلا ترميز الترتيبات الاجتماعية الحالية لتصبح بنيات لاتخاذ القرارات في المستقبل. ونظرا للكسر السياسي الذي يتعرض له العالم اليوم، حان الوقت لكتابة سيناريو جديد.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
From a long list of criminal indictments to unfavorable voter demographics, there is plenty standing between presumptive GOP nominee Donald Trump and a second term in the White House. But a Trump victory in the November election remains a distinct possibility – and a cause for serious economic concern.
Contrary to what former US President Donald Trump would have the American public believe, no president enjoys absolute immunity from criminal prosecution. To suggest otherwise is to reject a bedrock principle of American democracy: the president is not a monarch.
explains why the US Supreme Court must reject the former president's claim to immunity from prosecution.
When comparing Ukraine’s situation in 2024 to Europe’s in 1941, Russia’s defeat seems entirely possible. But it will require the West, and the US in particular, to put aside domestic political squabbles and muster the political will to provide Ukraine with consistent and robust military and financial assistance.
compare Russia's full-scale invasion to World War II and see reason to hope – as long as aid keeps flowing.
كامبريدج- إن الخوارزميات منحازة شأنها في ذلك شأن البيانات التي تتغذى عليها. وكل البيانات منحازة. وحتى الإحصائيات "الرسمية" لا يمكنها أن تشير إلى "وقائع" موضوعية و أبدية. وتمثل الأرقام التي تنشرها الحكومة المجتمع كما هو الآن، من خلال الصورة التي يعتبرها هؤلاء الذين يجمعون البيانات ذات صلة وأهمية. وليست المجموعات والتصنيفات التي تعطي معنى للبيانات محايدة. تماما عندما نقيس ما نراه، فنحن لا نرى إلا ما نقيسه.
وبما أن سياسة صنع القرارات الخوارزمية تنتشر على نطاق واسع في مناطق صنع السياسات، فهي تلقي ضوءا مُشِعا على الانحياز الاجتماعي الذي كان ذات مرة يختبئ في البيانات التي نجمعها. وعن طريق أخذ البنيات والعمليات القائمة إلى درجاتها القصوى، المنطقية، يجبرنا الذكاء الاصطناعي على مواجهة المجتمع الذي خلقناه.
والمشكل لا يكمن فقط في تصميم الحواسيب لتفكر مثل الشركات، كما قال زميلي في جامعة كامبريدج جوني بين. بل يكمن أيضا في كون الحواسيب تفكر مثل الخبراء الاقتصاديين. ففي النهاية، وكما نتخيل، الذكاء الاصطناعي نسخة لا تخطئ من الكائن الاقتصادي.إنه ذكاء يقوم بعمليات حسابية بشكل منطقي، ومتناسق وقادر على الوصول إلى النتيجة المرغوبة مع مصادر حاسوبية دقيقة. وعندما يتعلق الأمر ب"تضخيم المنفعة"، فإنه أكثر فعالية من البشر بكثير.
وما تعنيه "المنفعة" للخبراء الاقتصاديين هو ما كان يعنيه "اللاهوب" للكيمياء. إذ افترض الكيميائيون في الماضي أن المواد القابلة للاحتراق تتألف من مكون خَفِي- اللاهوب- وهذا ما يفسر تغير شكل المواد عندما تحترق. غير أنه رغم الجهود التي بُذلت، لم يستطع العلماء أبدا تأكيد الفرضية. إذ لم يتمكنوا من تقفي أثر "اللاهوب" لنفس السبب الذي حال دون تمكن الخبراء الاقتصاديين من تحديد حجم المنفعة الحقيقية.
ويستعمل الخبراء الاقتصاديون مفهوم المنفعة لتفسير اختيارات بعض الناس- ماذا يشترون، أين يستثمرون، إلى أي مدى يعملون بجد: كل شخص يحاول الزيادة من حجم المنفعة إلى أقصى حد لتناسب اختيارات الشخص واعتقاداته بشأن العالم، وفي الحدود التي تفرضها ندرة المداخيل والموارد. ورغم عدم وجودها، فالمنفعة بنية قوية. ومن الطبيعي الاعتقاد أن كل شخص، يحاول عمل كل ما في وسعه لمصلحته.
كما أن مفهوم المنفعة للخبراء الاقتصاديين ولدت من رحم مذهب المنفعة، الذي يهدف إلى ضمان أقصى حجم من المنفعة لأكبر عدد من الأشخاص. وعلى غرار الخبراء الاقتصاديين المعاصرين، الذين يمشون على خطى جون ستيوارت ميل، معظم الأشخاص الذين يصممون نظام الخوارزمي منفعيون ويعتقدون أنه إذا تم التعرف على "منفعة ما "، فمن الممكن أن نزيد من حجمها.
Subscribe to PS Digital
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
لكن هذا الاعتقاد قد تكون له عواقب وخيمة. خذ على سبيل المثال كيف تستعمل الخوارزميات لتحديد ما إذا كان السجناء يستحقون إطلاق سراح مشروط. لقد كشفت دراسة مهمة أنجزت عام 2017 أن الخواريزميات أكثر فعالية من البشر في التنبؤ بمعدلات الانتكاسية، ويمكن استعماله للحد من "معدلات السَّجن" بنسبة 40% "بدون ارتفاع في معدلات الجريمة". وفي الولايات المتحدة الأمريكية، إذا، يمكن أن يستعمل الذكاء الاصطناعي للتقليص من أعداد السجناء الذين تتكون غالبيتهم من السود. لكن ماذا يحدث عندما يتولى الذكاء الاصطناعي عملية إطلاق السراح المشروط بينما يسجن الأمريكيون ذوي البشرة السوداء بنسب أكثر من البيض؟
إن سياسة صنع القرارات الفعالة الخوارزمية جعلت مثل هذه الأسئلة تطرح على طاولة النقاش، و تجبرنا على تحديد النتائج التي ينبغي الزيادة من حجمها. هل نريد التقليص من عدد السجناء فقط ، أم أن علينا، أيضا، أخذ العدل بعين الاعتبار؟ وبينما تسمح السياسات للهراء والتسويات بالتستر على مثل هذه المفاضلات، يتطلب نظام الحاسوب الوضوح.
وبسبب هذا المتطلب يصبح من الصعب تجاهل المصادر البنيوية للتكافؤ الاجتماعي. وفي عصر الذكاء الاصطناعي، ستجبرنا الخوارزميات على إدراك كيف أن عواقب النزاعات الاجتماعية والسياسية التي حدثت في الماضي استقرت في حاضرنا من خلال استعمال البيانات.
وبفضل مجموعات مثل مبادرة أخلاق الذكاء الاصطناعي والشراكة بشأن الذكاء الاصطناعي، بدأ يظهر نقاش واسع حول الذكاء الاصطناعي. لكن نظام الخوارزميات لا يطبق إلا ما تمت برمجته عليه. والمشكل الحقيقي يتعدى كونه مجرد استعمال لسياسات صنع القرار الخوارزمية في الحكامة التجارية والسياسية، ليشمل المؤسسات الأخلاقية في مجتمعاتنا.
وبينما نحن بحاجة ماسة إلى مناقشة المفاضلات العملية والفلسفية للزيادة من حجم "المنفعة" من خلال الذكاء الاصطناعي، نحتاج أيضا إلى الالتزام بالتفكير بأنفسنا. وتطرح الخوارزميات أسئلة جذرية حول كيف نظمنا العلاقات الاجتماعية والسياسية والاقتصادية بطريقة يذكرها التاريخ. ينبغي علينا الآن، أن قرر ما إذا كنا نريد فعلا ترميز الترتيبات الاجتماعية الحالية لتصبح بنيات لاتخاذ القرارات في المستقبل. ونظرا للكسر السياسي الذي يتعرض له العالم اليوم، حان الوقت لكتابة سيناريو جديد.
ترجمة نعيمة أبروش Translated by Naaima Abarouch