لماذا استقال جيفري هينتون ، “الأب الروحي” للذكاء الاصطناعي ، من Google للتحدث علنًا عن المخاطر

عندما كان لدى جيفري هينتون اعتراض أخلاقي على عمل شركة Google مع الجيش الأمريكي في عام 2018 ، لم يشارك في الاحتجاجات العامة أو وضع اسمه على خطاب الشكوى المفتوح الذي وقع عليه أكثر من 4000 من زملائه.

بدلاً من ذلك ، تحدث للتو إلى سيرجي برين ، المؤسس المشارك لشركة Google. “قال إنه منزعج قليلاً من ذلك أيضًا. قال هينتون في مقابلة في ذلك الوقت.

الحادث هو رمز للتأثير الهادئ لهينتون في عالم الذكاء الاصطناعي. يحظى الأستاذ البالغ من العمر 75 عامًا بالاحترام باعتباره أحد “عرابين” الذكاء الاصطناعي نظرًا لعمله التكويني في التعلم العميق – وهو مجال من مجالات الذكاء الاصطناعي الذي دفع التقدم الهائل الذي يحدث في هذا القطاع.

لكن الحكاية تعكس أيضًا ولاء هينتون ، وفقًا لمن يعرفونه جيدًا. من حيث المبدأ ، لم يبث مطلقًا عن أي شكاوى مؤسسية ، أخلاقية أو غير ذلك ، علنًا.

كان هذا الاعتقاد هو الذي دفعه إلى الاستقالة من منصب نائب الرئيس والزميل الهندسي في Google الأسبوع الماضي ، حتى يتمكن من التحدث بحرية أكبر عن مخاوفه المتزايدة بشأن مخاطر الذكاء الاصطناعي على البشرية.

قال يوشوا بنجيو ، متعاونه وصديقه منذ فترة طويلة ، والذي فاز بجائزة تورينج إلى جانب هينتون ويان ليكون في عام 2018 ، إنه رأى الاستقالة قادمة. قال بينجيو: “كان بإمكانه البقاء في Google والتحدث ، لكن إحساسه بالولاء لم يكن كذلك”.

تأتي استقالة هينتون في أعقاب سلسلة من عمليات إطلاق الذكاء الاصطناعي الرائدة على مدار الأشهر الستة الماضية ، بدءًا من برنامج ChatGPT الذي تدعمه شركة Microsoft في نوفمبر ، وروبوت الدردشة الخاص بشركة Google ، Bard ، في مارس.

أعرب هينتون عن مخاوفه من أن السباق بين مايكروسوفت وجوجل من شأنه أن يدفع تطوير الذكاء الاصطناعي إلى الأمام دون وجود حواجز وقواعد مناسبة.

قال في خطاب ألقاه في حدث EmTech Digital يوم الأربعاء ، بعد الإعلان عن استقالته: “أعتقد أن Google كانت مسؤولة جدًا في البداية”. “بمجرد أن قامت شركة OpenAI ببناء أشياء مماثلة باستخدام. . . الأموال من Microsoft ، و Microsoft قررت طرحها هناك ، ثم لم يكن لدى Google الكثير من الخيارات. إذا كنت ستعيش في نظام رأسمالي ، فلا يمكنك منع Google من التنافس مع Microsoft “.

منذ سبعينيات القرن الماضي ، كان هينتون رائدًا في تطوير “الشبكات العصبية” ، وهي تقنية تحاول تقليد كيفية عمل الدماغ. وهي الآن تدعم معظم أدوات ومنتجات الذكاء الاصطناعي التي نستخدمها اليوم ، من Google Translate و Bard إلى ChatGPT والسيارات ذاتية القيادة.

لكن هذا الأسبوع ، أقر بوجود مخاوف بشأن تطوره السريع ، والذي قد يؤدي إلى تضليل المعلومات التي تغمر المجال العام والذكاء الاصطناعي يغتصب وظائف بشرية أكثر مما كان متوقعًا.

“ما يقلقني هو أن ذلك سوف يحدث [make] الغني اغنى والفقير اكثر فقرا. كما تفعل ذلك. . . قال هينتون: “المجتمع يصبح أكثر عنفًا”. “هذه التكنولوجيا التي يجب أن تكون رائعة. . . يتم تطويره في مجتمع غير مصمم لاستخدامه لصالح الجميع “.

قرع هينتون أيضًا جرس الإنذار حول التهديدات طويلة المدى التي تشكلها أنظمة الذكاء الاصطناعي على البشر ، إذا تم منح التكنولوجيا قدرًا كبيرًا من الاستقلالية. كان يعتقد دائمًا أن هذا الخطر الوجودي بعيد المنال ، لكنه أعاد مؤخرًا ضبط تفكيره بشأن إلحاحه.

قال: “من المعقول تمامًا أن تكون الإنسانية مرحلة عابرة في تطور الذكاء”. وأضاف أن قرار هينتون ترك Google بعد عقد من الزمان كان مدفوعًا بزميله الأكاديمي الذي أقنعه بالتحدث علنًا عن هذا الأمر.

وُلد هينتون في لندن ، وينحدر من سلالة مشهورة من العلماء. إنه حفيد عالم الرياضيات البريطانيين ماري وجورج بول ، وقد اخترع الأخير المنطق المنطقي ، وهي النظرية التي تقوم عليها الحوسبة الحديثة.

بصفته عالمًا في علم النفس المعرفي ، كان عمل هينتون في الذكاء الاصطناعي يهدف إلى تقريب الذكاء البشري – ليس فقط لبناء تقنية الذكاء الاصطناعي ولكن لإلقاء الضوء على طريقة عمل أدمغتنا.

قال ستيوارت راسل ، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا ، بيركلي ، وهو زميل أكاديمي في مدرسة هينتون ، إن خلفيته تعني أنه “ليس أكثر الأشخاص رياضيين الذين ستجدهم في مجتمع التعلم الآلي”.

وأشار إلى الإنجاز الكبير الذي حققه هينتون في عام 1986 ، عندما نشر ورقة حول تقنية تسمى “backpropagation” ، والتي أظهرت كيف يمكن لبرامج الكمبيوتر أن تتعلم بمرور الوقت.

قال راسل: “من الواضح أنها ورقة أساسية”. “لكنه لم يشتق ال. . . تحكم بالطريقة التي قد يفعلها عالم الرياضيات. لقد استخدم حدسه لاكتشاف طريقة من شأنها أن تعمل “.

لم يكن هينتون دائمًا صريحًا علنًا بشأن آرائه الأخلاقية ، لكنه أوضحها في السر.

في عام 1987 ، عندما كان أستاذًا مشاركًا في جامعة كارنيجي ميلون في الولايات المتحدة ، قرر ترك منصبه والهجرة إلى كندا.

كان أحد الأسباب التي قدمها ، وفقًا لبنجيو ، سببًا أخلاقيًا – فقد كان قلقًا بشأن استخدام التكنولوجيا ، وخاصة الذكاء الاصطناعي ، في الحرب وكان الكثير من تمويله يأتي من الجيش الأمريكي.

قال بينجيو: “لقد أراد أن يشعر بالرضا عن التمويل الذي حصل عليه والعمل الذي كان يقوم به”. “هو وأنا نتشارك القيم حول المجتمع. أن البشر مهمون ، وأن كرامة جميع البشر ضرورية. ويجب على الجميع الاستفادة من التقدم الذي يصنعه العلم “.

في عام 2012 ، حقق هينتون وطلابه الخريجين في جامعة تورنتو – بما في ذلك إيليا سوتسكيفر ، وهو الآن أحد مؤسسي OpenAI – تقدمًا كبيرًا في مجال رؤية الكمبيوتر. قاموا ببناء شبكات عصبية يمكنها التعرف على الأشياء في الصور بأحجام أكثر دقة مما كان ممكنًا من قبل. بناءً على هذا العمل ، أسسوا أول شركة ناشئة ، DNNresearch.

تم بيع شركتهم – التي لم تصنع أي منتجات – لشركة Google مقابل 44 مليون دولار في عام 2013 ، بعد مزاد تنافسي أدى إلى قيام شركة Baidu الصينية و Microsoft و DeepMind بتقديم عطاءات لاكتساب خبرة الثلاثي.

منذ ذلك الحين ، أمضى هينتون نصف وقته في Google والنصف الآخر كأستاذ في جامعة تورنتو.

وفقًا لرسل ، فإن هينتون يأتي باستمرار بأفكار جديدة ويجرب أشياء جديدة. “في كل مرة كانت لديه فكرة جديدة ، كان يقول في نهاية حديثه:” و هذا كيف يعمل الدماغ! “

عندما سُئل على خشبة المسرح عما إذا كان يأسف على عمله في حياته ، نظرًا لأنه قد يساهم في الأضرار التي لا تعد ولا تحصى التي حددها ، قال هينتون إنه كان يفكر في الأمر.

“هذه المرحلة [AI] لم يكن متوقعا. وحتى وقت قريب جدًا كنت أعتقد أن هذه الأزمة الوجودية كانت بعيدة المنال. “لذلك أنا حقًا لا أشعر بالندم حيال ما أفعله.”