نحن خطيرون ، وليس الآلات


الذكاء الاصطناعي: يمكن للكمبيوتر أن يهزمك ، ولكن يسعى لمعرفة الفرق بين القطط والكلاب. هل هذا يعني أنها ليست ذكية؟

الناقد الأدبي في وقت جديد.
البريد الالكتروني: henning.ness@icloud.com
تاريخ النشر: 2020-02-07
الذكاء الاصطناعي - دليل للتفكير البشر
المؤلف: ميلاني ميتشل
كتب بجع، المملكة المتحدة

خبراء في الذكاء الاصطناعي ينقسم (KI) بشكل أساسي إلى معسكرين: أولئك الذين يشعرون بالثقة من أن الآلات سوف تمر البشر في الاستخبارات في وقت قصير نسبيا والذين يخشون من عواقب هذا سيكون على الإنسانية ، وأولئك الذين يشعرون بالثقة من أن الآلات لا يمكن أبدا تصبح أكثر ذكاء منا وبالتالي نعتقد أن هناك القليل للخوف.

المؤلف ميلاني ميتشل ينتمي بالتأكيد إلى الفئة الأخيرة.

ميتشل هو أستاذ informatikk في جامعة بورتلاند وعملت مع التفكير التناظرية ، النظم المعقدة ، الخوارزميات الجينية والأوتوماتة الخلوية (النمذجة الرياضية). لديها العديد من الكتب والمنشورات وراءها ، من بين أمور أخرى مقدمة في الخوارزميات الجينية (1996). إنها تدعي أنه حتى لو تمكنت الآلة من جعل نفسها لا تضاهى في لعبة الشطرنج ، فهي لا تكفي لأي شيء آخر.

أعتقد أنها يبدو أنها وضعت في وجهات نظرها. صحيح أن ما هو سهل التعلم بالنسبة للبشر صعب على الآلات ، ولكن العكس ينطبق أيضًا. المشكلة الأكبر ، من ناحية أخرى ، هي أن الآلات والبشر لديهم مشكلة في فهم بعضهم البعض. من الصعب علينا أن نفهم لماذا تسعى الآلات الذكية إلى شيء لا يستطيع حتى الأطفال الصغار التعامل معه بسهولة مثل أي شيء آخر - مثل التمييز بين كلب وقطة في صورة.

نحن البشر يميلون إلى المبالغة في تقدير ذكاء الآلات والتقليل من شأنهم
منطقتنا.

تهب أجهزة الكمبيوتر بسرعة لتتعلم قواعد الألعاب المختلفة ، ولكنها تواجه تحديات كبيرة في التوضيح لماذا يفعلون كما يفعلون بطريقة يمكننا أن نفهمها. انها بالكاد مفهومة للجهاز سواء. ولكن عندما ننظر إلى مدى سرعة تطور علوم الكمبيوتر ، يمكن استبعاد القليل في المستقبل. الكتاب صغير جدًا عن الانصهار بين الإنسان والآلة.

اشتراك نصف السنة 450 كرونة

مشكلة التفسير

يمكن لأي شخص أن يشرح بسهولة سبب اختياره المشي في الحديقة بدلاً من غسل المنزل. ولكن كيف يمكن للآلة أن تشرح لماذا اختارت ميزة معينة على رقعة الشطرنج وليس واحدة من الخيارات الأخرى التي يبلغ عددها تريليون؟ لا يمكن. كما أنه لا يفهم أنه فاز ، أو ما يعنيه "الفوز". ولا يمكن أن يتمتع النصر. لذلك يمكننا أن نعتبرها "غير ذكية".

لكن البلهاء يمكن أن يكونوا أكثر خطورة من الأذكياء. لذا فإن حقيقة أن الجهاز غبي لا يثبت أنه لا يمكن أن يكون خطيرًا في المستقبل.

"أنا مرعوب. ببساطة إنقاذ الأرواح ". دوغلاس هوفستادتر

نظرًا لأن سرعة التطوير كانت هائلة جدًا في هذا المجال ، فمن السهل بالطبع تصديق أنها تنطوي على قوة الماكينة التي تكتسب بسرعة. ربما من السهل جدا. في 1980s أصبح عالم الكمبيوتر والفيزياء دوغلاس هوفستاتر سئل عما إذا كان يعتقد أن الآلة يمكن أن تصبح أبداً بطل العالم في لعبة الشطرنج ، والتي أجاب عليها بوضوح. عندما أدرك مدى خطأه ، أخذه الرعب: في مقابلة مع مهندسي Google في وقت ما في الألفية الجديدة ، قال هوفستادتر: "أشعر بالرعب. ببساطة إنقاذ الأرواح ".

تنمية المغامرة

يصف تطور مهارات الآلات المختلفة في السبعينيات ميتشل بأنها مغامرة. الآن أصبحت المغامرة حقًا بطريقة يمكن أن يتخيلها قليلون ، ويمكنك وصف ذلك على أنه العلاقة بين إخبار المغامرة وكونك جزءًا من المغامرة نفسها. من المحتمل أن تكون جزءًا من المغامرة ممتعًا ، حتى تدرك أن للإنسان دور Red Hood ، في حين أن الآلة تشبه الذئب - وأن المغامرة قد تحققت بالفعل.

هيمات أحمدي ، انظر www.libex.eu
هيمات أحمدي ، انظر www.libex.eu

على السؤال: "كيف يجب أن نخاف حول تطوير KI؟" يجيب ميتشل: "من الطبيعي أن نخاف عندما نشاهد الأفلام ونقرأ كتب الخيال العلمي حول تطوير المعرفة الدولية. لكن هذا خيال خالص ".

لكنها ذكرت أيضًا أننا لا نزال بعيدًا عن أن نكون قادرين على تحقيق حالة "الذكاء الاصطناعي العام" [الأنظمة التي يمكن تدريبها حتى أي شيء تقريبًا ،] ، وتسمى أيضًا "تحدي المحاذاة".

ميتشل أكثر خوفاً من تسلم الغباء من الذكاء نفسه. أنا شخصياً أعتقد أن هذه النقطة ليست موجودة ، لكن فيما تفعله الظاهرة معنا ، لأنه سواء كنا نسميها غباء أو ذكاء ، فلا يهم إذا كانت هذه الظاهرة تهدد وجودنا.

أجابت بشكل لا لبس فيه: "في أي معدل من التخمينات على المدى القريب حول الذكاء الفائق الذكاء الاصطناعي ، يجب أن يكون الفوز على البشر في أسفل القائمة".

اسمحوا لي أن أقول إن خبيرًا مثل راي كورزويل يفكر في شيء مختلف تمامًا. على سبيل المثال ، تنبأ كورزويل (في الكتاب عصر الآلات الذكية، 1990) أن الكمبيوتر يمكنه التغلب على إنسان في المستقبل ، وهو ما حدث بعد سبع سنوات عندما فاز ديب بلو من آي بي إم على كاسباروف ، بطل العالم في لعبة الشطرنج.

وسائل الإعلام المزيفة

"نحن بحاجة إلى أن ندرك القيود الكامنة في الأنظمة الجديدة ، إلا إذا انتهى بنا المطاف إلى المبالغة في تقديرها" ، كتب ميتشل. على الرغم من أنني أعتقد أن ميتشل تبدو متهورة للغاية فيما يتعلق بمدى سرعة تطور الآلات وسرعة فقدان السيطرة عليها ، إلا أن لديها العديد من النقاط الجيدة. واحدة من النقاط الرئيسية هي أننا البشر نميل إلى المبالغة في تقدير ذكاء الآلات والتقليل من شأننا - نحن نحن الخطرون ، وليس الآلات. أولاً وقبل كل شيء ، يجب أن يخاف البشر من إمكاناتهم ، لأنه بحلول الوقت الذي تصبح فيه الآلات خطيرة بالفعل ، قد يكون الوقت قد فات.

إنها تعبر عن بعض القلق بشأن كيفية استخدام الآلات. على وجه الخصوص ، تخشى تعقيدات استخدامنا للأجهزة داخل ما يسمى وسائل الإعلام المزيفة: النصوص والصور والمقاطع الصوتية ومقاطع الفيديو التي يمكن معالجتها بطريقة لا يستطيع الأشخاص العاديون رؤيتها.

تحذر أيضًا من الاستخدام غير الأخلاقي للخوارزميات. مرة أخرى؛ في المقام الأول يجب أن نخاف أنفسنا ، وليس الآلات. لكن المشكلة هي أن الحدود بين البشر والآلات على وشك أن تكون غير واضحة.

اترك تعليق

(نستخدم Akismet للحد من البريد المزعج.)