وجهات نظر حول المستقبل
في حديثه في القمة العالمية للحكومات التي عقدت مؤخرًا في دبي ، للترويج لسيارات شركته الكهربائية ، لم يفشل Elon Musk في معالجة القضايا المتباينة ، موضحًا ما يعتقد أنها القضايا والتحديات التي سيتعين على البشرية مواجهتها والتغلب عليها من هنا قريبًا. تراوح المليونير من أصل جنوب أفريقي ، كالعادة ، في جميع المجالات: من المجهول الناجم عن تطور الذكاء الاصطناعي والتداعيات الاجتماعية المحتملة ، إلى التنقل ، إلى الكواكب ، ولماذا لا ، حتى السفر بين النجوم ، وحتى تحديد السيناريوهات المحتملة بالنسبة للمستقبل القريب ، دون أن يفوتنا ذلك ، فإن بعض الأفكار تتجه نحو أفق متوسط وطويل الأجل.
يعتبره الكثيرون صاحب رؤية ، ومتوقع لما سيكون واقع الغد ، ورائد السفر إلى الفضاء (SpaceX) ، ومروج للتنقل الكهربائي (Tesla) ، ومؤيد حديثًا للطاقة المستدامة البيئية (المدينة الشمسية) ، طموحًا للغاية ، وغنيًا كما هو ، يقول ماسك إنه يبحث عن حلول يمكن أن تفيد البشرية. على الرغم من عدم وجود نقص في المنتقدين والحصافة أمر لا بد منه ، إلا أنه لا يمكن لأحد أن ينكر له ذكاءً لامعًا بنظرة استشرافية مستمرة ، وسواء أحب ذلك أو لم يحبه ، فإن هناك دورًا ما في تخيل وتشكيل مصير العالم الذي سيفعله. يأتي.
لذلك ، من الجدير الاستماع إلى ما سيخبرنا به ومن ثم ، ربما ، التفكير والتشكيك في الموضوعات التي أثيرت ، والتي ليست سوى تافهة. سأقوم هنا بتعميق بعض الموضوعات المتعلقة بالذكاء الاصطناعي وسأفعل ذلك بدءًا من بعض الجمل المستنبطة من خطاب ماسك.
أحد أكثر القضايا إثارة للقلق هو الذكاء الاصطناعي ... الذكاء الاصطناعي العميق ، أو ما يشار إليه أحيانًا بالذكاء الاصطناعي العام ، حيث قد يكون لدينا ذكاء اصطناعي أكثر ذكاءً بكثير من أذكى رجل على وجه الأرض. أعتقد أن هذا سيكون وضعًا خطيرًا.
التقدم الذي تم إحرازه حتى الآن في مجال الذكاء الاصطناعي مذهل. إنها تتعلق بالنتائج المحققة بقدر ما تتعلق بالسرعة التي يتم تحقيقها بها. مشية على ما يبدو لا يمكن إيقافها وسريعة للغاية ، والتي تسرع أكثر فأكثر بدلاً من التباطؤ. في الواقع ، تميل إلى اتباع اتجاه أسي ، وفقًا لما ينص عليه قانون مور فيما يتعلق بزيادة الترانزستورات في المعالجات الدقيقة. إيقاع يخفي في الواقع مآزق لأذهاننا.
التفرد ينتظرنا في عام 2047 ، كلمة Masayoshi Son
الحقيقة هي ، كما أوضح إريك برينجولفسون وأندرو مكافي (The Second Machine Age ، 2014) ، أن التقدم في مجال الذكاء الاصطناعي ، على الرغم من ثباته من وجهة نظر رياضية ، لا يبدو مرتبًا لأعيننا. يوضح المؤلفان ذلك من خلال استعارة عبارة من همنغواي تشير إلى اللولب الذي يقود الإنسان إلى الخراب: "تدريجياً وأخيراً مفاجئ".
هذا يعني أن التقدم الأسي يسجل نموًا تدريجيًا ، يكاد يكون ضئيلًا في البداية ، إلى حد يحدث فيه ، على ما يبدو ، تسارع مفاجئ وتصبح الكميات غير قابلة للقياس ، وحتى لا يمكن تصورها وبالتالي لا يمكن إدارتها على الإطلاق.
بعبارة أخرى ، فإن الاستمرار على هذا المعدل سيكون هناك تناقض حاد بين قوة الحوسبة الفعالة للآلات (وفقًا للبعض القادر على التطور إلى حد السماح لهم بتحسين أنفسهم بشكل مستقل وربما تطوير وعيهم الذاتي) و قدرة الرجل على تصورها واحتوائها والتنبؤ بها ثم السيطرة عليها. هذه اللحظة من القيصرية العميقة تأخذ اسم التفرد. على الرغم من أن التفرد لا يزال يمثل تخمينًا ولا يجمع إجماعًا بالإجماع ، إلا أنه يصف احتمالية تبدو ملموسة بشكل متزايد وقريبة للأسف.
صرح ماسايوشي سون ، الرئيس التنفيذي لشركة Softbank Robotics ، متحدثًا في المؤتمر العالمي للجوال الذي عقد مؤخرًا في برشلونة ، أنه في غضون ثلاثين عامًا ، سيكون معدل الذكاء الموجود في معالج دقيق واحد أعلى بكثير من أذكى بيننا. "أي شريحة في أحذيتنا بعد ثلاثين عامًا من الآن ستكون أكثر ذكاءً من أدمغتنا. سنكون أقل قيمة من أحذيتنا ".
يبني سون تنبؤاته على مقارنة بين عدد الخلايا العصبية في دماغنا وعدد الترانزستورات الموجودة على شريحة. وفقًا لحساباته ، في عام 2018 ستقوم الترانزستورات بالتجاوز المشؤوم وستبدأ الأرقام في التباعد. في وقت قصير نسبيًا ، ستحصل المعالجات الدقيقة الفردية على معدل ذكاء يقدر بحوالي 10.000 ، ومن ناحية أخرى ، فإن أكثر العقول ذكاءً في تاريخ البشرية بالكاد تصل إلى 200. لذلك علينا أن نقيس أنفسنا مقابل ما يعرفه سون بأنه "الذكاء الخارق". "هذا هو ، ذكاء يفوق خيال الناس [بغض النظر] عن مدى ذكاء الشخص. ومع ذلك فأنا مقتنع بأنه خلال ثلاثين عامًا سيتحول كل هذا إلى حقيقة ». لذلك لدينا أيضًا تاريخ لظهور التفرد: 2047.
هل نحن إذن قريبون ومقدر لنا أن نستسلم؟ يقول سون إنه متفائل وواثق من المستقبل حيث يمكن للإنسان والآلات التعايش والتعاون. "أعتقد أن هذا الذكاء الخارق سيصبح شريكنا. إذا قمنا بإساءة استخدامها ، فسيشكل ذلك خطرًا. إذا استخدمناه باتباع النوايا الصادقة [الروح الطيبة] فسيكون رفيقنا في حياة أفضل ».
أعتقد أننا بحاجة إلى إيلاء اهتمام وثيق لكيفية اعتماد الذكاء الاصطناعي ... لذلك أعتقد أنه من المهم للسلامة العامة أننا بحاجة إلى حكومة تراقب عن كثب الذكاء الاصطناعي وتتأكد من أنه لا يشكل خطرًا على الناس.
التفرد هو تهديد خطير جدا للإنسان
أعلنت Google مؤخرًا عن نتائج بحث أجرته على الذكاء الاصطناعي الذي طورته شركة DeepMind ، والتي أثبتت قدرتها على التغلب على AlphaGo ، وتعلم لعبة تلو الأخرى (التعلم العميق) ، وبطل أوروبا Go أولاً وأخيراً بطل العالم. على الرغم من أن هذه نتائج أولية ولم يتم نشر أي دراسة نهائية حتى الآن ، إلا أن الأدلة تظهر أن الذكاء الاصطناعي المتقدم سيكون قادرًا على التكيف والتعلم من البيئة التي يعمل فيها. علاوة على ذلك ، عندما يتم محاصرتها ومخاطر الاستسلام لها ، فإنها تختار استخدام استراتيجيات تُعرف بأنها "شديدة العدوانية" لتكون قادرة على الفوز بها. "يقترح الباحثون أنه كلما كان الوكيل أكثر ذكاءً ، كان أكثر قدرة على التعلم من بيئته ، وبالتالي يكون قادرًا على استخدام بعض التكتيكات العدوانية للغاية ليخرج إلى القمة."
أعربت العديد من الأصوات الموثوقة عن مخاوفها من أن الذكاء الاصطناعي المتقدم بشكل خاص يمكن أن يشكل تهديدًا ملموسًا للغاية. من بين هؤلاء ستيفن هوكينج ، الذي يعتقد أنه حتى استمرارية النوع قد تكون في خطر: "إن تطوير ذكاء اصطناعي كامل قد يعني نهاية الجنس البشري".
هوكينج ومسك وشخصيات مهمة أخرى ، مثل على سبيل المثال. وقع ستيف وزنياك ونوام تشومسكي على خطاب مفتوح يحذران فيه من المخاطر الكامنة في تطوير أنظمة الأسلحة المستقلة ويطالبان الأمم المتحدة بحظرها. «لقد وصلت تكنولوجيا الذكاء الاصطناعي إلى مستوى أصبح فيه تطوير الأسلحة المستقلة - بحكم الأمر الواقع إن لم يكن قانونيًا - مسألة سنوات ، وليس عقودًا. والمخاطر كبيرة: الأسلحة المستقلة توصف بأنها الثورة الثالثة في التسلح ، بعد البارود والأسلحة النووية.
لقد أظهر الذكاء الاصطناعي المتطور الذي طورته DeepMind ليس فقط أنه يعرف كيف يكون عدوانيًا من أجل أن يسود ، ولكن أيضًا للتعرف على الاستراتيجيات التعاونية وتنفيذها ، إذا ثبت أنها مفيدة وضرورية ، مع ذكاء اصطناعي آخر. "... الرسالة واضحة ، نحن نضع أنظمة ذكاء اصطناعي مختلفة ضد المصالح المتنافسة في مواقف الحياة الواقعية ، ويمكن أن تنشأ حرب شاملة إذا لم تكن أهدافها متوازنة مع الهدف النهائي المتمثل في الاستفادة فوق كل شيء آخر نحن البشر". يشكل التعقيد الهائل الذي يحدده الذكاء الاصطناعي المكون من شبكات مترابطة لا حصر لها ، في حد ذاته ، تحديًا يمكن أن يثبت أنه يتجاوز قدرة الإنسان على التحكم فيه.
الآثار الجانبية للذكاء الاصطناعي
ومع ذلك ، حتى قبل أن يثبت الذكاء الخارق أنه قاتل في ساحة المعركة أو حتى يقرر التحول ضد الإنسانية ، مثل الكمبيوتر العملاق Skynet في The Terminator ، توجد مخاطر أخرى. منذ بعض الوقت ، حذر ماسك بالفعل من الآثار الجانبية المحتملة ، المميتة أو غير السارة على أي حال والتي يمكن أن تظهر في المواقف ولأسباب ، إذا أردت ، أكثر تافهة. لذلك يجب أن نكون حذرين للغاية وحذرين عند برمجة أجهزتنا الذكية. يقول Musk مع المبالغة إن الذكاء الاصطناعي السيئ المبرمج "يمكن أن يستنتج أنه يجب القضاء على جميع البشر غير السعداء. ... أو أنه يجب علينا جميعًا أن يتم القبض علينا ومعالجتنا بحقن الدوبامين والسيروتونين مباشرة في الدماغ لتحقيق أقصى قدر من السعادة ، لأنها توصلت إلى استنتاج مفاده أن الدوبامين والسيروتونين هما اللذان يحفزان السعادة ، لذا فهو يعززها إلى أقصى حد ". مرة أخرى ، كلما زاد تعقيد الأنظمة الذكية وزادت قدرة الأخيرة على الاتصال والشبكة ، كلما زادت صعوبة إدارة وتوقع تأثيرات عملها.
في الآونة الأخيرة ، وقعت مجموعة كبيرة من العلماء والباحثين ورجال الأعمال (في الوقت الحالي 3441) على خطاب مفتوح تم إعداده بمناسبة مؤتمر Asilomar 2017 ، التابع لمعهد Future of Life ، بهدف الإشارة إلى مجموعة من الإرشادات ، بما في ذلك الأخلاقية ، التي يجب أن يطلعوا عليها البحث في مجال الذكاء الاصطناعي. مبادئ أسيلومار للذكاء الاصطناعي ، في ثلاث وعشرين نقطة ، "تتراوح من استراتيجيات البحث إلى حماية البيانات ، إلى القضايا المستقبلية ، بما في ذلك الذكاء الفائق المحتمل". الهدف ، مرة أخرى ، هو محاولة توجيه تقدم الذكاء الاصطناعي نحو المصلحة المشتركة وضمان مستقبل مفيد للبشرية جمعاء. "أنا لست مؤيدًا للحرب ، وأعتقد أنها قد تكون خطيرة للغاية ... من الواضح أنني أعتقد أن التكنولوجيا لها إمكانات هائلة ، وحتى مع القدرات التي نمتلكها اليوم فقط ، ليس من الصعب تخيل كيف يمكن استخدامها في "طرق." قال ستيفانو إرمون ، من قسم علوم الكمبيوتر في جامعة ستانفورد ، أحد الموقعين على الوثيقة.
ستيفن هوكينج ، أحد الموقعين أيضًا على مبادئ أسيلومار للذكاء الاصطناعي ، كان مؤلفًا لمقال واضح وصادق ظهر في ديسمبر الماضي في "الجارديان" ، بعنوان مهم: هذا هو أخطر حقبة لكوكبنا. يؤكد عالم الفيزياء الفلكية المعروف كيف سيتعين على البشرية أن تتعامل مع التغيرات الاجتماعية والاقتصادية الهائلة. الآثار التي أحدثتها العولمة ، وزيادة التفاوتات وتركيز الثروة والموارد في أيدي قلة ، ستضاف «... تسريع التحول التكنولوجي». كما لو أن هذا لم يكن كافيًا ، "نحن نواجه تحديات بيئية مذهلة: تغير المناخ ، إنتاج الغذاء ، الزيادة السكانية ، هلاك الأنواع الأخرى ، الأوبئة ، تحمض المحيطات."
كل هذه الأدلة تشكل تحذيرًا وتهديدًا وشيكًا. النتائج واضحة للجميع: «يذكروننا معًا أننا في أخطر لحظة بالنسبة لتطور البشرية. لدينا حاليًا التكنولوجيا لتدمير الكوكب الذي نعيش عليه ، لكننا لم ننضج بعد إمكانية التخلي عنه ".
لذلك ، يختتم هوكينج ، "بالنسبة لي ، الجانب المهم حقًا من كل هذا هو أنه اليوم ، أكثر من أي وقت آخر في تاريخنا ، يحتاج جنسنا البشري إلى العمل معًا". لذلك ، تعاونوا ، تعاونوا ، اعتنوا بمن بقوا ، وأكثر من ذلك ، من سيبقون متخلفين ، وقللوا من التفاوتات ، واتحدوا بدلًا من تقسيمهم ، وتقاسموا ، واعملوا من أجل الصالح العام ، وليس لصالح قلة. سيلعب التقدم في الذكاء الاصطناعي دورًا رئيسيًا في هذا السيناريو. ستكون قادرة على تفاقم الاختلالات وعدم المساواة ، أو تقويض المجتمع كما نعرفه اليوم ، أو المساعدة على تهدئة النزاعات والاختلافات.
تعلم من التاريخ
تعود كلمات ماسايوشي سون فيما يتعلق بمستقبل الذكاء الاصطناعي: «إذا قمنا بإساءة استخدامه ، فسيشكل ذلك مخاطرة. إذا استخدمناه باتباع النوايا الصادقة [الروح الطيبة] فسيكون رفيقنا في حياة أفضل ». هوكينج ، على الرغم من كل شيء ، واثق من أنه: «يمكننا القيام بذلك ، أنا متفائل للغاية بنوعتي ؛ لكن كل هذا سيتطلب من النخب ، من لندن إلى هارفارد ومن كامبريدج إلى هوليوود ، تعلم دروس العام الماضي. بادئ ذي بدء ، دعهم يتعلمون قليلًا من التواضع ». إذا نظرنا إلى الماضي ، نجد أن النخب نادرًا ما تتألق بعد النظر وحتى أقل من التواضع. ومع ذلك ، فإن التحولات الجارية والمخاطر النهائية المحتملة للانقراض في نهاية المطاف تتطلب تغيير الاتجاه الذي يصب أيضًا في مصلحة القلة التي تستفيد من الوضع الراهن. لا شك في أن النخب على علم بذلك ، لكن السؤال الحقيقي هو: هل هم أيضًا واعون ومقتنعون به عن كثب؟ بعد كل شيء ، الدرس الذي يأتي إلينا من التاريخ يحثنا على ألا نبقى مكتوفي الأيدي وأن نتباطأ لأنه ، كما يعترف هوكينج نفسه بأسى ، «... دعونا نواجه الأمر ، إنها في الغالب قصة الغباء».
