بوسطن ــ "وكلاء" الذكاء الاصطناعي قادمون، سواء كنا مستعدين لهذا أو لم نكن. على الرغم من الشكوك والظنون الكثيرة حول التوقيت الذي قد تصبح عنده نماذج الذكاء الاصطناعي قادرة على التفاعل بشكل مستقل مع المنصات الرقمية، وغيرها من أدوات الذكاء الاصطناعي، وحتى البشر، فمن المؤكد أن هذا التطور سيكون تحويليا ــ للأفضل أو للأسوأ. ولكن على الرغم من كل التعليقات (والضجيج) حول الذكاء الاصطناعي الوكيل، تظل تساؤلات كبرى عديدة دون إجابة، وأكبرها هو أي نوع من وكلاء الذكاء الاصطناعي تسعى صناعة التكنولوجيا إلى تطويره؟
سيكون للنماذج المختلفة تأثيرات مختلفة إلى حد كبير. فمع نهج "الذكاء الاصطناعي كمستشار"، قد يعرض وكلاء الذكاء الاصطناعي على صناع القرار من البشر توصيات مُعايَرة تبعا لكل حالة فردية، فيظل البشر دائما في مقعد السائق. ولكن مع نموذج "الذكاء الاصطناعي المستقل"، سيتولى الوكلاء القيادة نيابة عن البشر. وهذا تمييز لا يخلو من آثار عميقة وبعيدة المدى.
يتخذ البشر مئات القرارات كل يوم، وبعضها له عواقب جسيمة على حياتهم المهنية، أو سبل معايشهم، أو سعادتهم. تستند أكثر هذه القرارات إلى معلومات منقوصة أو غير مكتملة، وتحددها بدرجة أكبر العواطف، أو الحدس، أو الغرائز، أو الدوافع. على حد تعبير ديفيد هيوم في مقولته الشهيرة: "العقل عبد للعواطف، ويجب ألا يكون إلا كذلك". قد يتخذ البشر معظم القرارات دون تفكير منهجي أو الانتباه الواجب إلى العواقب الكاملة التي قد تترتب على هذه القرارات، ولكن كما أدرك هيوم في القسم الخاص "بالوجوب" في عبارته، فإن هذا ليس سيئا بالمرة. فهو ما يجعلنا بشرا. إذ يعكس الشغف الغرض، وقد يضطلع أيضا بدور رئيسي في تحديد الكيفية التي نتعامل بها مع عالم مُـعَـقَّـد.
في وجود تطبيقات المشورة التي يوفرها الذكاء الاصطناعي والتي تقدم معلومات مخصصة، وجديرة بالثقة، ووثيقة الصلة بالسياق، ومفيدة، يصبح من الممكن تحسين عدد كبير من القرارات المهمة، لكن الهيمنة ستظل للدوافع البشرية. ولكن ما العيب في تمكين تطبيقات الذكاء الاصطناعي المستقل من اتخاذ القرارات نيابة عنا؟ أليس بمقدورها تحسين عملية اتخاذ القرار بدرجة أكبر، وتوفير الوقت، ومنع الأخطاء؟
لا يخلو هذا المنظور من عدة مشكلات. أولا، الوكالة البشرية شديدة الأهمية للتعلم والازدهار البشري. ذلك أن فعل اتخاذ القرارات والتفكير في النتائج ــ حتى لو كانت المدخلات والمشورة تأتي من وكلاء غير بشريين ــ يؤكد في حد ذاته إحساسنا بالقوة والغرض. الواقع أن كثيرا من أفعال البشر لا يتعلق بالحوسبة أو جمع المدخلات لاتخاذ قرار بشأن مسار العمل الأمثل؛ بل يدور حول الاكتشاف ــ التجربة التي ستصبح نادرة على نحو متزايد إذا جرى تفويض جميع القرارات إلى ذكاء اصطناعي وكيل.
علاوة على ذلك، إذا سعت صناعة التكنولوجيا بشكل أساسي إلى الاعتماد على تطبيقات وكلاء الذكاء الاصطناعي المستقلة، فسوف يزداد احتمال أتمتة مزيد من الوظائف البشرية (تشغيلها آليا) بدرجة كبيرة. ومع ذلك، إذا أصبح الذكاء الاصطناعي في المقام الأول وسيلة لتسريع الأتمتة، فسوف يتبدد أي أمل في تحقيق الرخاء المشترك على نطاق واسع.
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
في المقام الأول من الأهمية، يجب أن ندرك الفارق الجوهري بين تطبيقات وكلاء الذكاء الاصطناعي التي تعمل بالنيابة عن البشر والبشر الذين يعملون لأنفسهم. كثير من البيئات حيث يتفاعل البشر فيما بينهم تنطوي على عناصر تعاونية ومتضاربة في ذات الوقت. لنتأمل هنا حالة حيث تعمل إحدى الشركات على توفير أحد المدخلات لشركة أخرى. إذا كانت هذه المدخلات ذات قيمة كافية للمشتري، فإن المبادلة بين الشركتين تكون مفيدة للطرفين (ومفيدة أيضا للمجتمع عادة).
ولكن لكي يحدث أي تبادل، يجب أن يتحدد سعر المدخلات من خلال عملية متضاربة بطبيعتها. فكلما ارتفع السعر، كلما ازدادت استفادة البائع نسبة إلى المشتري. وتتحدد نتيجة هذه المساومة غالبا من خلال مزيج من المعايير (مثل ما يتعلق بالعدالة)، والمؤسسات (مثل العقود التي سيترتب عليها تكاليف في حال انتهاكها)، وقوى السوق (مثل ما إذا كان للبائع خيار البيع لشخص آخر). ولكن لنتخيل أن المشتري مشهور بالعناد والتصلب ــ لأنه يرفض قبول أي شيء سوى أدنى سعر ممكن. إذا لم يتوفر مشترون آخرون، فقد يضطر البائع إلى قبول العرض البخس.
ما يدعو إلى التفاؤل أن مثل هذه المواقف المتصلبة نادرة الحدوث في معاملاتنا اليومية، ويرجع هذا جزئيا إلى أن السمعة السيئة لا تنفع، والأهم من ذلك أن معظم البشر لا يملكون الجرأة ولا الطموح للتصرف بمثل هذه الطريقة العدوانية. لكن لنتخيل الآن أن المشتري يعتمد على وكيل ذكاء اصطناعي مستقل لا يبالي بالمجاملات البشرية وأعصابه غير البشرية من فولاذ. من الممكن تدريب الذكاء الاصطناعي دوما على تبني مثل هذا الموقف المتصلب، ولن يحظى الطرف المقابل بأي أمل في إقناعه بترجيح كفة نتيجة أكثر فائدة للطرفين. على النقيض من ذلك، في عالَـم حيث يعمل الذكاء الاصطناعي كمستشار، قد يستمر النموذج في التوصية بموقف متصلب، لكن الإنسان سيقرر في النهاية ما إذا كان ليختار ذلك المسار أو يُـعرِض عنه.
في الأمد القريب إذن، قد تبشر تطبيقات الذكاء الاصطناعي الوكيلة المستقلة بقدوم عالَـم أكثر تفاوتا، حيث لا يتسنى إلا لبعض الشركات أو الأفراد الوصول إلى نماذج الذكاء الاصطناعي المقتدرة الصعبة المراس على نحو يمكن التعويل عليه. ولكن حتى لو حصل الجميع في نهاية المطاف على ذات الأدوات، فلن يكون ذلك أفضل على الإطلاق. إذ سيخضع مجتمعنا بالكامل لألعاب "حرب الاستنزاف" حيث تدفع تطبيقات الذكاء الاصطناعي الوكيل بكل حالة تضارب إلى حافة الانهيار.
مثل هذه المواجهات محفوفة بالمخاطر بطبيعتها. فكما هي الحال في لعبة "من يَـجـبُـن أولا" (عندما تتسارع سيارتان نحو بعضهما بعضا لمعرفة من سينحرف أولا)، من الممكن دائما ألا يستسلم أي من الطرفين. وعندما يحدث ذلك، "يفوز" كلا السائقين ــ ويهلك كلاهما.
في لعبة "من يجبن أولا"، لن ينحرف الذكاء الاصطناعي الـمُـدَرَّب على الفوز أبدا. وفي حين قد يعمل الذكاء الاصطناعي كمستشار بارع للبشر ــ حيث يزودنا بمعلومات مفيدة، وجديرة بالثقة، ووثيقة الصلة بالسياق لحظيا ــ فإن العالم الذي يعتمد على تطبيقات الذكاء الاصطناعي الوكيل المستقلة يؤذن في الأرجح بقدوم مشكلات جديدة عديدة، بينما يتسبب في تآكل عدد كبير من المكاسب التي ربما قدمتها لنا التكنولوجيا.
ترجمة: إبراهيم محمد علي Translated by: Ibrahim M. Ali
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
US Treasury Secretary Scott Bessent’s defense of President Donald Trump’s trade tariffs as a step toward “rebalancing” the US economy misses the point. While some economies, like China and Germany, need to increase domestic spending, the US needs to increase national saving.
thinks US Treasury Secretary Scott Bessent is neglecting the need for spending cuts in major federal programs.
China’s prolonged reliance on fiscal stimulus has distorted economic incentives, fueling a housing glut, a collapse in prices, and spiraling public debt. With further stimulus off the table, the only sustainable path is for the central government to relinquish more economic power to local governments and the private sector.
argues that the country’s problems can be traced back to its response to the 2008 financial crisis.
بوسطن ــ "وكلاء" الذكاء الاصطناعي قادمون، سواء كنا مستعدين لهذا أو لم نكن. على الرغم من الشكوك والظنون الكثيرة حول التوقيت الذي قد تصبح عنده نماذج الذكاء الاصطناعي قادرة على التفاعل بشكل مستقل مع المنصات الرقمية، وغيرها من أدوات الذكاء الاصطناعي، وحتى البشر، فمن المؤكد أن هذا التطور سيكون تحويليا ــ للأفضل أو للأسوأ. ولكن على الرغم من كل التعليقات (والضجيج) حول الذكاء الاصطناعي الوكيل، تظل تساؤلات كبرى عديدة دون إجابة، وأكبرها هو أي نوع من وكلاء الذكاء الاصطناعي تسعى صناعة التكنولوجيا إلى تطويره؟
سيكون للنماذج المختلفة تأثيرات مختلفة إلى حد كبير. فمع نهج "الذكاء الاصطناعي كمستشار"، قد يعرض وكلاء الذكاء الاصطناعي على صناع القرار من البشر توصيات مُعايَرة تبعا لكل حالة فردية، فيظل البشر دائما في مقعد السائق. ولكن مع نموذج "الذكاء الاصطناعي المستقل"، سيتولى الوكلاء القيادة نيابة عن البشر. وهذا تمييز لا يخلو من آثار عميقة وبعيدة المدى.
يتخذ البشر مئات القرارات كل يوم، وبعضها له عواقب جسيمة على حياتهم المهنية، أو سبل معايشهم، أو سعادتهم. تستند أكثر هذه القرارات إلى معلومات منقوصة أو غير مكتملة، وتحددها بدرجة أكبر العواطف، أو الحدس، أو الغرائز، أو الدوافع. على حد تعبير ديفيد هيوم في مقولته الشهيرة: "العقل عبد للعواطف، ويجب ألا يكون إلا كذلك". قد يتخذ البشر معظم القرارات دون تفكير منهجي أو الانتباه الواجب إلى العواقب الكاملة التي قد تترتب على هذه القرارات، ولكن كما أدرك هيوم في القسم الخاص "بالوجوب" في عبارته، فإن هذا ليس سيئا بالمرة. فهو ما يجعلنا بشرا. إذ يعكس الشغف الغرض، وقد يضطلع أيضا بدور رئيسي في تحديد الكيفية التي نتعامل بها مع عالم مُـعَـقَّـد.
في وجود تطبيقات المشورة التي يوفرها الذكاء الاصطناعي والتي تقدم معلومات مخصصة، وجديرة بالثقة، ووثيقة الصلة بالسياق، ومفيدة، يصبح من الممكن تحسين عدد كبير من القرارات المهمة، لكن الهيمنة ستظل للدوافع البشرية. ولكن ما العيب في تمكين تطبيقات الذكاء الاصطناعي المستقل من اتخاذ القرارات نيابة عنا؟ أليس بمقدورها تحسين عملية اتخاذ القرار بدرجة أكبر، وتوفير الوقت، ومنع الأخطاء؟
لا يخلو هذا المنظور من عدة مشكلات. أولا، الوكالة البشرية شديدة الأهمية للتعلم والازدهار البشري. ذلك أن فعل اتخاذ القرارات والتفكير في النتائج ــ حتى لو كانت المدخلات والمشورة تأتي من وكلاء غير بشريين ــ يؤكد في حد ذاته إحساسنا بالقوة والغرض. الواقع أن كثيرا من أفعال البشر لا يتعلق بالحوسبة أو جمع المدخلات لاتخاذ قرار بشأن مسار العمل الأمثل؛ بل يدور حول الاكتشاف ــ التجربة التي ستصبح نادرة على نحو متزايد إذا جرى تفويض جميع القرارات إلى ذكاء اصطناعي وكيل.
علاوة على ذلك، إذا سعت صناعة التكنولوجيا بشكل أساسي إلى الاعتماد على تطبيقات وكلاء الذكاء الاصطناعي المستقلة، فسوف يزداد احتمال أتمتة مزيد من الوظائف البشرية (تشغيلها آليا) بدرجة كبيرة. ومع ذلك، إذا أصبح الذكاء الاصطناعي في المقام الأول وسيلة لتسريع الأتمتة، فسوف يتبدد أي أمل في تحقيق الرخاء المشترك على نطاق واسع.
Introductory Offer: Save 30% on PS Digital
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
في المقام الأول من الأهمية، يجب أن ندرك الفارق الجوهري بين تطبيقات وكلاء الذكاء الاصطناعي التي تعمل بالنيابة عن البشر والبشر الذين يعملون لأنفسهم. كثير من البيئات حيث يتفاعل البشر فيما بينهم تنطوي على عناصر تعاونية ومتضاربة في ذات الوقت. لنتأمل هنا حالة حيث تعمل إحدى الشركات على توفير أحد المدخلات لشركة أخرى. إذا كانت هذه المدخلات ذات قيمة كافية للمشتري، فإن المبادلة بين الشركتين تكون مفيدة للطرفين (ومفيدة أيضا للمجتمع عادة).
ولكن لكي يحدث أي تبادل، يجب أن يتحدد سعر المدخلات من خلال عملية متضاربة بطبيعتها. فكلما ارتفع السعر، كلما ازدادت استفادة البائع نسبة إلى المشتري. وتتحدد نتيجة هذه المساومة غالبا من خلال مزيج من المعايير (مثل ما يتعلق بالعدالة)، والمؤسسات (مثل العقود التي سيترتب عليها تكاليف في حال انتهاكها)، وقوى السوق (مثل ما إذا كان للبائع خيار البيع لشخص آخر). ولكن لنتخيل أن المشتري مشهور بالعناد والتصلب ــ لأنه يرفض قبول أي شيء سوى أدنى سعر ممكن. إذا لم يتوفر مشترون آخرون، فقد يضطر البائع إلى قبول العرض البخس.
ما يدعو إلى التفاؤل أن مثل هذه المواقف المتصلبة نادرة الحدوث في معاملاتنا اليومية، ويرجع هذا جزئيا إلى أن السمعة السيئة لا تنفع، والأهم من ذلك أن معظم البشر لا يملكون الجرأة ولا الطموح للتصرف بمثل هذه الطريقة العدوانية. لكن لنتخيل الآن أن المشتري يعتمد على وكيل ذكاء اصطناعي مستقل لا يبالي بالمجاملات البشرية وأعصابه غير البشرية من فولاذ. من الممكن تدريب الذكاء الاصطناعي دوما على تبني مثل هذا الموقف المتصلب، ولن يحظى الطرف المقابل بأي أمل في إقناعه بترجيح كفة نتيجة أكثر فائدة للطرفين. على النقيض من ذلك، في عالَـم حيث يعمل الذكاء الاصطناعي كمستشار، قد يستمر النموذج في التوصية بموقف متصلب، لكن الإنسان سيقرر في النهاية ما إذا كان ليختار ذلك المسار أو يُـعرِض عنه.
في الأمد القريب إذن، قد تبشر تطبيقات الذكاء الاصطناعي الوكيلة المستقلة بقدوم عالَـم أكثر تفاوتا، حيث لا يتسنى إلا لبعض الشركات أو الأفراد الوصول إلى نماذج الذكاء الاصطناعي المقتدرة الصعبة المراس على نحو يمكن التعويل عليه. ولكن حتى لو حصل الجميع في نهاية المطاف على ذات الأدوات، فلن يكون ذلك أفضل على الإطلاق. إذ سيخضع مجتمعنا بالكامل لألعاب "حرب الاستنزاف" حيث تدفع تطبيقات الذكاء الاصطناعي الوكيل بكل حالة تضارب إلى حافة الانهيار.
مثل هذه المواجهات محفوفة بالمخاطر بطبيعتها. فكما هي الحال في لعبة "من يَـجـبُـن أولا" (عندما تتسارع سيارتان نحو بعضهما بعضا لمعرفة من سينحرف أولا)، من الممكن دائما ألا يستسلم أي من الطرفين. وعندما يحدث ذلك، "يفوز" كلا السائقين ــ ويهلك كلاهما.
في لعبة "من يجبن أولا"، لن ينحرف الذكاء الاصطناعي الـمُـدَرَّب على الفوز أبدا. وفي حين قد يعمل الذكاء الاصطناعي كمستشار بارع للبشر ــ حيث يزودنا بمعلومات مفيدة، وجديرة بالثقة، ووثيقة الصلة بالسياق لحظيا ــ فإن العالم الذي يعتمد على تطبيقات الذكاء الاصطناعي الوكيل المستقلة يؤذن في الأرجح بقدوم مشكلات جديدة عديدة، بينما يتسبب في تآكل عدد كبير من المكاسب التي ربما قدمتها لنا التكنولوجيا.
ترجمة: إبراهيم محمد علي Translated by: Ibrahim M. Ali