https://bodybydarwin.com
Slider Image

هل تستطيع منظمة العفو الدولية الهروب من سيطرتنا وتدميرنا؟

2021

"لقد بدأت منذ ثلاثة مليارات ونصف المليار من السنين في مجموعة من الوحل ، عندما صنع جزيء نسخة من نفسه وأصبح بذلك الجد النهائي لجميع أشكال الحياة الدنيوية. لقد بدأ منذ أربعة ملايين سنة ، عندما بدأت أحجام المخ تتسلق بسرعة في hominid line: قبل خمسين ألف سنة مع ظهور الإنسان العاقل ، قبل عشرة آلاف عام مع اختراع الحضارة ، قبل خمس مائة عام مع اختراع المطبعة ، قبل خمسين عامًا مع اختراع الكمبيوتر ، في أقل من ثلاثين عامًا سنوات ، وسوف ينتهي ".

تعثر جان تالين عبر هذه الكلمات في عام 2007 ، في مقال على الإنترنت بعنوان "التحديق في التفرد". "هو" الحضارة الإنسانية. تنبأ مؤلف المقال بأن الإنسانية ستظل قائمة ، مع ظهور الذكاء الفائق ، أو الذكاء الاصطناعي الذي يفوق الفكر الإنساني في مجموعة واسعة من المجالات.

تالين ، مبرمج الكمبيوتر المولود في إستونيا ، لديه خلفية في الفيزياء ويميل إلى الاقتراب من الحياة مثل مشكلة برمجة كبيرة. في عام 2003 ، شارك في تأسيس Skype ، وقام بتطوير الواجهة الخلفية للتطبيق. لقد صرف أسهمه بعد أن اشترىها eBay بعد عامين ، والآن كان يبحث عن شيء ما. "التحديق في التفرد" قام بتزييف رمز الكمبيوتر ، والفيزياء الكمومية ، ونقلت كالفن وهوبز . كان مدمن مخدرات.

سرعان ما اكتشف تالين أن مؤلف المقال ، المنظر الذي يدرس علم نفسه Eliezer Yudkowsky ، قد كتب أكثر من 1000 مقالة ومنشور في المدونة ، وكثير منها خصص للذكاء الفائق. كتب تالين برنامجًا لنسخ كتابات يودكويسكي من الإنترنت ، وطلبها زمنياً ، وتنسيقها من أجل هاتفه iPhone. ثم أمضى الجزء الأفضل من السنة في قراءتها.

ظهر مصطلح "الذكاء الاصطناعي أو محاكاة الذكاء في أجهزة الكمبيوتر أو الآلات" في عام 1956 ، أي بعد عقد من إنشاء أول أجهزة الكمبيوتر الرقمية الإلكترونية. كان الأمل في هذا المجال مرتفعًا في البداية ، ولكن بحلول السبعينيات ، عندما كانت التنبؤات المبكرة لم يخرج أحد ، "فصل شتاء لمنظمة العفو الدولية". عندما وجدت تالين مقالات يودكووسكي ، كان الذكاء الاصطناعى يمر بعصر النهضة. كان العلماء يطورون الذكاء الاصطناعي الذي تفوق في مجالات معينة ، مثل الفوز في لعبة الشطرنج ، وتنظيف أرضية المطبخ ، والتعرف على خطاب الإنسان (في عام 2007 ، كان الفوز المدهش لـ Jeopardy! من Watson من IBM لا يزال بعيدًا بأربع سنوات ، بينما كان النصر في AlphaGo الخاص بـ Go of DeepMind من ثماني سنوات.) لدينا قدرات خارقة ، ولكن فقط في مناطقها المحددة من الهيمنة. لا تستطيع لعبة الشطرنج أن تنظف الأرض أو تنقلك من النقطة أ إلى النقطة ب. لكن الذكاء الاصطناعي الفائق الذكاء ، تالين أصبح يعتقد أنه سيجمع بين مجموعة واسعة المهارات في كيان واحد المزيد د arkly ، قد تستخدم أيضًا البيانات التي تم إنشاؤها بواسطة البشر الذين يستخدمون الهاتف الذكي للتميز في التلاعب الاجتماعي.

عند قراءة مقالات Yudkowsky ، أصبح تالين مقتنعًا بأن الذكاء الفائق يمكن أن يؤدي إلى انفجار أو "اندلاع" الذكاء الاصطناعى الذي قد يهدد وجود الإنسان - حيث أن أجهزة الذكاء الاصطناعي فائقة الذكاء ستحل محلنا على السلم التطوري وتهيمن علينا الطريقة التي نسيطر عليها الآن القرود. أو ، الأسوأ من ذلك ، إبادة لنا.

بعد الانتهاء من آخر المقالات ، أرسل تالين رسالة بريد إلكتروني إلى حرف Yudkowsky all الصغير ، وكذلك أسلوبه. i m jaan ، أحد المهندسين المؤسسين للسكايب ، wrote كتب. في النهاية وصل إلى النقطة: "أوافق على أن إعداد حدث عام لمنظمة العفو الدولية يتجاوز الذكاء البشري هو واحد من أهم المهام بالنسبة للإنسانية". لقد أراد المساعدة. عندما سافر إلى منطقة الخليج لحضور اجتماعات أخرى بعد فترة وجيزة ، التقى يودكوفسكي في بانيرا بريد في ميلبرا ، كاليفورنيا ، بالقرب من مكان إقامته. امتدت اللقاءات إلى أربع ساعات. "في الواقع ، فهم حقا المفاهيم الأساسية والتفاصيل" ، يتذكر Yudkowsky. هذا نادر جدًا. بعد ذلك ، كتب تالين شيكًا بقيمة 5000 دولار إلى معهد التفرد للذكاء الاصطناعي ، وهو مؤسسة غير ربحية حيث كان يودكووسكي زميلًا للبحوث. (لقد غيرت المنظمة اسمها إلى معهد بحوث الذكاء الآلي ، أو MIRI ، في عام 2013.) ومنذ ذلك الحين قدمت تالين لها أكثر من 600000 دولار.

جلبت المواجهة مع Yudkowsky هدف تالين ، فأرسلته في مهمة لإنقاذنا من إبداعاتنا الخاصة. أثناء اتصاله بالمسألة مع نظريات وعلماء كمبيوتر آخرين ، بدأ حياة السفر ، وأجرى محادثات حول العالم حول التهديد الذي يمثله الذكاء الفائق. في الغالب ، بدأ في تمويل الأبحاث حول الأساليب التي قد تمنح البشرية مخرجًا: ما يسمى الذكاء الاصطناعى الودود. هذا لا يعني أن الجهاز أو العامل ماهر بشكل خاص في الدردشة حول الطقس ، أو أنه يتذكر أسماء أطفالك - على الرغم من أن الذكاء الاصطناعي الفائق الذكاء قد يكون قادرًا على فعل هذين الأمرين. هذا لا يعني أنه مدفوع بالإيثار أو الحب. المغالطة الشائعة هي افتراض أن الذكاء الاصطناعي له دوافع وقيم بشرية. "الصديق" يعني شيئًا أكثر جوهرية: أن آلات "الغد" لن تمحونا في سعيها لتحقيق أهدافها.

بعد تسع سنوات من لقائه مع udYudkowsky ، انضم إلي تالين لتناول وجبة في قاعة الطعام في كلية يسوع بجامعة كامبريدج. توجد مساحة شبيهة بالكنيسة محاطة بنوافذ من الزجاج الملون وصب الذهب ولوحات زيتية للرجال في شعر مستعار. تالين تجلس على طاولة من خشب الماهوغوني الثقيل ، ترتدي ملابس وادي السيليكون غير الرسمية: جينز أسود ، تي شيرت ، أحذية رياضية قماشية. يمتد سقف الأخشاب المقبب فوق صدمته من الشعر الأشقر الرمادي.

في السادسة والأربعين من العمر ، تعد تالين هي رائد أعمالك الفني في الكتب المدرسية. إنه يعتقد أنه بفضل التقدم في العلوم (شريطة ألا تدمرنا منظمة العفو الدولية) ، سيعيش من أجل "العديد من السنوات". قلقه من الذكاء الخارق أمر شائع بين جماعته. منحت مؤسسة بيتر ثيل المؤسس المشارك لـ PayPal 1.6 مليون دولار لـ MIRI ، وفي عام 2015 ، تبرع مؤسس Tesla Elon Musk بمبلغ 10 ملايين دولار لمعهد Future of Life Institute ، وهو مؤسسة للسلامة التكنولوجية في كامبريدج ، ماساتشوستس. جاء مدخل تالين إلى هذا العالم الغريب خلف الستار الحديدي في الثمانينيات ، عندما أعطى والد زميل له في وظيفة حكومية عدداً قليلاً من الأطفال المشرعين الوصول إلى أجهزة الكمبيوتر المركزية. بعد استقلال إستونيا ، أسس شركة لألعاب الفيديو. اليوم ، ما زال تالين يعيش في عاصمتها - والتي يطلق عليها أيضًا تالين - مع زوجته وأصغر أطفاله الستة. عندما يريد مقابلة الباحثين ، فإنه غالباً ما ينقلهم إلى منطقة البلطيق.

إستراتيجيته في العطاء منهجية ، مثل كل شيء آخر يفعله. ينشر أمواله بين 11 منظمة ، تعمل كل منها على مقاربات مختلفة لسلامة الذكاء الاصطناعي ، على أمل أن تتمسك به. في عام 2012 ، شارك في تأسيس مركز كامبريدج لدراسة المخاطر الوجودية (CSER) بتكلفة أولية تقارب 200000 دولار.

تشكل المخاطر الوجودية - أو مخاطر X ، كما يسميها تالين - تهديدات لبقاء البشرية. بالإضافة إلى الذكاء الاصطناعى ، يدرس الباحثون العشرون في معهد CSER تغير المناخ والحرب النووية والأسلحة البيولوجية. لكن بالنسبة لتالين ، فإن التخصصات الأخرى تساعد في الغالب على إضفاء الشرعية على تهديد الذكاء الاصطناعي الهارب. "هذه في الحقيقة مجرد عقاقير عبّارة يقول لي. القلق حول التهديدات المقبولة على نطاق واسع ، مثل التغير المناخي ، قد يجذب الناس. ويأمل أن يقنعهم رعب الآلات الفائقة الذكاء بالعالم. هنا الآن لحضور مؤتمر لأنه يريد من المجتمع الأكاديمي أن يأخذ سلامة الذكاء الاصطناعي بجدية.

مرافقونا في تناول الطعام هم مجموعة عشوائية من رواد المؤتمرات ، بما في ذلك امرأة من هونغ كونغ تدرس الروبوتات ورجل بريطاني تخرج من كامبريدج في الستينيات. يسأل الرجل الأكبر سناً الجميع على الطاولة حيث التحقوا بالجامعة. (إجابة تالين ، جامعة تارتو في إستونيا ، لا تثير إعجابه). ثم يحاول توجيه المحادثة نحو الأخبار. تالين ينظر إليه بصراحة. "أنا غير مهتم بالمخاطر على المدى القريب" ، كما يقول.

تالين يغير الموضوع إلى تهديد الذكاء الخارق. عندما لا يتحدث مع مبرمجين آخرين ، فإنه يقوم بالتخلف عن الاستعارات ، وهو يدير مجموعته الآن: يمكن لمنظمة العفو الدولية المتقدمة أن تتخلص منا بسرعة مثلما يقطع البشر الأشجار. الذكاء الخارق هو ما نحن عليه الغوريلا. مكتوب باللاتينية أعلى رأسه عبارة عن خط من المزمور 133: "كم هو جيد وممتعة بالنسبة للإخوة أن يسكنوا معا في وحدة". لكن الوحدة أبعد ما تكون عن تفكير تالين في مستقبل يحتوي على ذكاء فائق مارق.

يقول الرجل الأكبر سنًا إن منظمة العفو الدولية ستحتاج إلى هيئة لتولي المسؤولية. بدون نوع من الغلاف البدني ، كيف يمكن أن يكتسب السيطرة المادية؟ تالين لديها استعارة أخرى جاهزة: "ضعني في قبو مع اتصال بالإنترنت ، ويمكن أن أتسبب في الكثير من الضرر" ، كما يقول. ثم يأخذ لدغة أكلة.

سواءً كانت Roomba أو أحد أحفادها المهيمنين على العالم ، فإن الذكاء الاصطناعي مدفوع بالنتائج. يعين المبرمجون هذه الأهداف ، إلى جانب سلسلة من القواعد حول كيفية متابعتها. لا يلزم بالضرورة منح الذكاء المتقدم المتقدم هدف السيطرة على العالم من أجل تحقيقه ، بل قد يكون عرضيًا. وتاريخ برمجة الكمبيوتر مفعم بالأخطاء الصغيرة التي أشعلت الكوارث. في عام 2010 ، على سبيل المثال ، باع تاجر يعمل لصالح شركة صناديق الاستثمار المشتركة Waddell & Reed آلاف العقود المستقبلية. استبعد برنامج الشركة متغيرًا رئيسيًا من الخوارزمية التي ساعدت في تنفيذ الصفقة. وكانت النتيجة "انهيار فلاش" في الولايات المتحدة بقيمة تريليون دولار.

يعتقد الباحثون في صناديق تالين أنه إذا لم تتم هيكلة هيكل المكافأة لمنظمة العفو الدولية الخارقة للانسان بشكل صحيح ، فإن الأهداف الحميدة قد تكون لها نهايات خبيثة. أحد الأمثلة المعروفة ، الذي وضعه فيلسوف جامعة أكسفورد نيك بوستروم في كتابه Superintelligence هو عميل خيالي موجه لجعل أكبر عدد ممكن من مقاطع الورق. قد تقرر منظمة العفو الدولية أن الذرات الموجودة في الأجسام البشرية ستستخدم بشكل أفضل كمادة خام لها.

وجهات نظر تالين لها نصيبها من المنتقدين ، حتى بين مجتمع الأشخاص المهتمين بسلامة الذكاء الاصطناعي. يعترض البعض على أنه من السابق لأوانه القلق بشأن تقييد الذكاء الاصطناعي الفائق الذكاء عندما لا نفهم ذلك بعد. يقول آخرون إن التركيز على الجهات الفاعلة التكنولوجية المارقة يحرف الانتباه عن أكثر المشكلات إلحاحًا التي تواجه الحقل ، مثل حقيقة أن غالبية الخوارزميات صممها رجال البيض ، أو استنادًا إلى بيانات متحيزة تجاههم. "نحن في خطر من بناء عالم لا نريد العيش فيه إذا لم نعالج تلك التحديات على المدى القريب" ، كما يقول تراه ليون ، المدير التنفيذي لشراكة الشراكة مع منظمة العفو الدولية ، وهي منظمة متعددة أصحاب المصلحة تركز على سلامة منظمة العفو الدولية وغيرها من القضايا. (العديد من معاهد تالين هي أعضاء.) لكنها تضيف أن بعض التحديات التي تواجه الباحثين على المدى القريب - مثل التخلص من التحيز الحسابي - تعد بمثابة مقدمة لتلك التي قد تراها الإنسانية باستخدام الذكاء الاصطناعي الفائق الذكاء.

تالين ليس مقتنعا بذلك. إنه يعارض أن الذكاء الاصطناعي الفائق يجلب تهديدات فريدة. في النهاية ، يأمل أن يحذو مجتمع الذكاء الاصطناعي زمام المبادرة المناهضة للأسلحة النووية في الأربعينيات. في أعقاب تفجيرات هيروشيما وناغازاكي ، تجمّع العلماء معًا في محاولة للحد من المزيد من التجارب النووية. "كان من الممكن لعلماء مشروع مانهاتن أن يقولوا ،" انظر ، نحن نقوم بالابتكار هنا ، والابتكار جيد دائمًا ، لذلك دعونا نتقدم إلى الأمام "، هكذا أخبرني. "لكنهم كانوا أكثر مسؤولية من ذلك".

يحذر تالين من أن أي مقاربة لسلامة الذكاء الاصطناعي سيكون صعبًا. ويوضح أنه إذا كانت الذكاء الاصطناعى ذكية بما فيه الكفاية ، فربما يكون لديه فهم أفضل للقيود أكثر من مبدعيها. تخيل ، يقول وهو يستيقظ في سجن بناه حفنة من الأطفال المكفوفين بعمر 5 سنوات: "هذا ما قد يكون عليه الذكاء الاصطناعي الفائق الذكاء الذي يحصره البشر.

وجد Yudkowsky ، المنظر ، دليلاً على أن هذا قد يكون صحيحًا عندما أجرى ، في عام 2002 ، جلسات محادثة لعب فيها دور منظمة العفو الدولية المحصورة في صندوق ، في حين قام تناوب أشخاص آخرين بدور حارس البوابة المكلف بالحفاظ على الذكاء الاصطناعي في ثلاث مرات من أصل خمس مرات ، Yudkowsky a مجرد بشر ، أقنع حارس البوابة بإطلاق سراحه. لكن تجاربه لم تثني الباحثين عن محاولة تصميم صندوق أفضل.

قال الباحثون إن صناديق تالين تتبع مجموعة واسعة من الاستراتيجيات ، من العملية إلى التي تبدو بعيدة المنال. بعض النظريات حول الملاكمة لمنظمة العفو الدولية ، إما جسديا ، من خلال بناء هيكل حقيقي للاحتفاظ به ، أو عن طريق البرمجة في حدود ما يمكن أن يفعله. يحاول البعض الآخر تعليم منظمة العفو الدولية الالتزام بالقيم الإنسانية. وهناك عدد قليل يعمل على التبديل أخير قبالة. أحد الباحثين الذين يبحثون في العلوم الثلاثة هو عالم الرياضيات والفيلسوف ستيوارت أرمسترونغ في معهد مستقبل الإنسانية التابع لجامعة أكسفورد ، والذي يسميه تالين "المكان الأكثر إثارة للاهتمام في الكون". يعطى FHI أكثر من 310،000 دولار.) أرمسترونغ هو واحد من الباحثين القلائل في العالم الذين يركزون بدوام كامل على سلامة الذكاء الاصطناعي.

التقيته لتناول القهوة بعد ظهر أحد الأيام في مقهى بأكسفورد. كان يرتدي قميصًا للرجبي لا يلبس في ذوي الياقات البيضاء ، وله شكل شخص يقضي حياته خلف شاشة ، مع وجه شاحب مؤطر بفوضى من الشعر الرملي. وهو يتخلل تفسيراته بمزيج مرتبك من المراجع العامة للثقافة والرياضيات. عندما سألته كيف يبدو النجاح في سلامة الذكاء الاصطناعي ، يقول: "هل شاهدت فيلم Lego ؟ كل شيء رائع".

تبحث إحدى سلالات أبحاث آرمسترونغ في "مقاربة محددة للملاكمة تدعى Aoracle AI". في مقالة 2012 مع نيك بوستروم ، الذي شارك في تأسيس FHI ، اقترح ليس فقط عزل الذكاء الخارق في بنية فيزيائية معلقة ، ولكن أيضًا تقييده بالإجابة على الأسئلة ، مثل لوحة Ouija الذكية حقًا. حتى مع هذه الحدود ، سيكون لمنظمة العفو الدولية قوة هائلة لإعادة تشكيل مصير الإنسانية من خلال التلاعب بمهارات المحققين بمهارة. لتقليل احتمال حدوث ذلك ، اقترح Armstrong حدودًا زمنية للمحادثات ، أو حظر الأسئلة التي قد تؤدي إلى قلب النظام العالمي الحالي. وقد اقترح أيضًا إعطاء تدابير أوراكل البديلة لبقاء الإنسان ، مثل مؤشر داو جونز الصناعي أو عدد الأشخاص الذين يعبرون الشارع في طوكيو ، ويطلب منهم الحفاظ على هذه الأمور ثابتة.

في نهاية المطاف ، يعتقد آرمسترونغ ، قد يكون من الضروري إنشاء ، كما يسميها في ورقة واحدة ، "زر إيقاف كبير أحمر": إما رمز التبديل الفعلي ، أو آلية مبرمجة في AI لإيقاف نفسه تلقائيًا في حالة انطلق. لكن تصميم مثل هذا المفتاح بعيد عن السهولة. ليس فقط أن منظمة العفو الدولية المتقدمة المهتمة بالحفاظ على الذات يمكن أن تمنع الضغط من الزر. يمكن أن يصبح فضوليًا أيضًا عن سبب استنباط البشر الزر وتنشيطه لمعرفة ما يحدث وجعل أنفسهم بلا فائدة. في عام 2013 ، قام مبرمج اسمه Tom Murphy VII بتصميم AI يمكن أن يعلم نفسه ممارسة ألعاب Nintendo Entertainment System. عاقدة العزم على عدم الخسارة في لعبة Tetris the AI ​​، ثم ضغطت على الإيقاف المؤقت ، وأبقت اللعبة مجمدة "الحقيقة هي أن الخطوة الوحيدة التي حققت الفوز هي عدم لعب دور مورفي الذي لوحظ بفظاظة ، في ورقة عن ابتكاره.

لكي تنجح الإستراتيجية ، يجب أن يكون الذكاء الاصطناعى غير مهتم بالزر ، أو ، على حد تعبير تالين ، "يجب أن تعين القيمة المتساوية للعالم الذي لا يوجد فيه والعالم الذي يوجد فيه". لكن حتى لو استطاع الباحثون تحقيق ذلك ، هناك تحديات أخرى. ماذا لو أن منظمة العفو الدولية نسخت نفسها عدة آلاف من المرات عبر الإنترنت؟

يتمثل الأسلوب الذي يثيره معظم الباحثين في إيجاد طريقة لجعل الذكاء الاصطناعي يلتزم بالقيم الإنسانية - ليس من خلال برمجتها ، بل عن طريق تعليم الذكاء الاصطناعى لتعلمها. في عالم تهيمن عليه السياسة الحزبية ، غالبًا ما يبحث الناس عن الطرق التي تختلف بها مبادئنا. لكن تالين ، يلاحظ أن هناك الكثير من العوامل المشتركة بين البشر: "يقدر الجميع تقريبًا ساقهم اليمنى. نحن فقط لا نفكر في الأمر. "والأمل هو أن منظمة العفو الدولية قد تدرس لتمييز مثل هذه القواعد الثابتة.

في هذه العملية ، سيتعين على الذكاء الاصطناعي أن يتعلم ويقدر الجانب الأقل منطقية للإنسان: أننا كثيراً ما نقول شيئًا ونعني شيئًا آخر ، وأن بعض تفضيلاتنا تتعارض مع الآخرين ، وأن الناس أقل موثوقية عندما يكونون في حالة سكر . لكن مسارات البيانات التي نتركها جميعًا في التطبيقات والوسائط الاجتماعية قد توفر دليلًا. على الرغم من التحديات ، يعتقد تالين ، يجب أن نحاول لأن المخاطر كبيرة للغاية. يقول: "علينا التفكير في خطوات قليلة إلى الأمام". "إن إنشاء منظمة العفو الدولية التي لا تتقاسم مصالحنا سيكون خطأ فظيعًا."

في ليلة تالين الأخيرة في كامبريدج ، انضممت إليه وباحثان لتناول العشاء في مطعم ستيك هاوس بريطاني. يجلس النادل في مجموعتنا في قبو أبيض اللون في جو يشبه الكهف. لقد سلم لنا قائمة من صفحة واحدة تقدم ثلاثة أنواع مختلفة من الهريس. يجلس زوجان على الطاولة بجانبنا ، ثم بعد دقائق يطلب الانتقال إلى مكان آخر. "إنها حالة من الرهاب الشديد تشتكي المرأة. أفكر في تعليق تالين حول الضرر الذي يمكن أن يحدثه إذا حبس في قبو دون أي اتصال بالإنترنت. هنا ، في المربع. كما لو كنا في جديلة ، فإن الرجال يفكرون في طرق للحصول على خارج.

يضم ضيوف تالين باحثًا سابقًا في علم الجينوم ، سين إيجارتاي ، المدير التنفيذي لـ CSER ، وماتيس ماس ، باحث سياسات في منظمة العفو الدولية بجامعة كوبنهاغن. إنهم يتزاحمون حول فكرة عن نفض الغبار الذي يحمل عنوان Superintelligence vs. Blockchain! وناقش لعبة على الإنترنت تسمى Universal Paperclips تتنافس على السيناريو في كتاب Bostrom. يتضمن التمرين النقر فوق الماوس مرارًا وتكرارًا لإنشاء مقاطع ورقية. ليس الأمر مبهرجًا تمامًا ، ولكنه يعطي شعوراً بالسبب الذي يجعل الآلة تبحث عن طرق أكثر ملاءمة لإنتاج اللوازم المكتبية.

في النهاية ، يتحول الحديث إلى أسئلة أكبر ، كما يحدث غالبًا عندما يكون تالين حاضرًا. الهدف النهائي لبحوث السلامة في منظمة العفو الدولية هو إنشاء آلات ، كما قال فيلسوف كامبريدج والمؤسس المشارك لـ CSER هوو برايس ، "أخلاقياً ومعرفيًا فوق طاقة البشر". لقد طرح آخرون السؤال التالي: إذا كنا لا نريد منظمة العفو الدولية للسيطرة علينا ، هل نريد السيطرة عليها؟ بمعنى آخر ، هل لدى منظمة العفو الدولية حقوق؟ يقول تالين هذا هو مجسم مجسم. يفترض أن الذكاء يساوي الوعي - وهو مفهوم خاطئ يزعج العديد من الباحثين في الذكاء الاصطناعى. في وقت سابق من اليوم ، قال الباحث CSER خوسيه هرنانديز - أورالو مازحا أنه عند التحدث مع الباحثين في منظمة العفو الدولية ، فإن الوعي هو "الكلمة C". ("و" الإرادة الحرة "هي الكلمة F" ، أضاف).

ذات صلة: ما يشبه فعلاً العمل كسائق سلامة في سيارة ذاتية القيادة

في القبو الآن ، يقول تالين إن الوعي هو بجانب النقطة: "خذ مثالًا على الحرارة. لا أحد يقول أنه واعي. لكن من غير المريح حقًا مواجهة هذا العامل إذا كنت في غرفة تم ضبطها على 30 درجة سالبة. "

يقول: "سيكون من الجيد أن تقلق بشأن الوعي ، ولكن لن يكون لدينا ترف للقلق بشأن الوعي إذا لم نقم أولاً بتحديات السلامة التقنية".

يقول تالين إن الناس منشغلون للغاية بماهية الذكاء الاصطناعي الفائق الذكاء. ما شكل سوف يستغرق؟ هل يجب أن نشعر بالقلق من تولي منظمة العفو الدولية أو جيشًا منهم؟ "من وجهة نظرنا ، الشيء المهم هو ما تفعله منظمة العفو الدولية" ، كما يؤكد. وهذا ، حسب اعتقاده ، قد لا يزال متروكًا للبشر - في الوقت الحالي.

نُشر هذا المقال في الأصل في إصدار Winter 2018 Danger of Popular Science.

تعد كاميرا A7R Mark III من سوني أفضل كاميرا لعام 2017

تعد كاميرا A7R Mark III من سوني أفضل كاميرا لعام 2017

شاهد SpaceX تطلق قمرا صناعيا جديدا لصيد الكوكب ناسا

شاهد SpaceX تطلق قمرا صناعيا جديدا لصيد الكوكب ناسا

هل يمكننا صنع لقاح ضد الانفلونزا يستمر مدى الحياة؟

هل يمكننا صنع لقاح ضد الانفلونزا يستمر مدى الحياة؟