هنگامی که جفری هینتون در سال 2018 به کارفرمایش گوگل که با ارتش ایالات متحده کار می‌کند اعتراض اخلاقی داشت، به اعتراضات عمومی نپیوست و نام خود را در نامه شکایت آشکار که توسط بیش از 4000 نفر از همکارانش امضا شده بود، قرار نداد.
در عوض، او فقط با سرگئی برین، یکی از بنیانگذاران گوگل صحبت کرد. او گفت که از این بابت هم کمی ناراحت است. هینتون در آن زمان در مصاحبه ای گفت و بنابراین آنها آن را دنبال نمی کنند.
این حادثه نمادی از نفوذ آرام هینتون در دنیای هوش مصنوعی است. این پروفسور 75 ساله به دلیل کار سازنده اش در زمینه یادگیری عمیق – یکی از “پدرخوانده های” هوش مصنوعی – زمینه ای از هوش مصنوعی که منجر به پیشرفت های عظیم در این بخش شده است، مورد احترام است.
اما به گفته کسانی که او را به خوبی می شناسند، این حکایت نشان دهنده وفاداری هینتون است. در اصل، او هرگز هیچ شکایت شرکتی، اخلاقی یا غیر آن را به صورت علنی اعلام نکرد.
همین باور باعث شد که او هفته گذشته از سمت معاونت و مهندس مهندسی گوگل کناره گیری کند تا بتواند آزادانه تر درباره ترس های فزاینده خود در مورد خطرات هوش مصنوعی برای بشریت صحبت کند.
یوشوا بنجیو، همکار و دوست قدیمی او که در سال 2018 جایزه تورینگ را در کنار هینتون و یان لکون برنده شد، گفت که استعفا را دیده است. بنژیو می‌گوید: «او می‌توانست در گوگل بماند و صحبت کند، اما حس وفاداری او به حدی است که نمی‌خواهد.
استعفای هینتون به دنبال مجموعه‌ای از راه‌اندازی‌های پیشگامانه هوش مصنوعی در شش ماه گذشته صورت گرفت که با ChatGPT OpenAI تحت حمایت مایکروسافت در نوامبر و چت ربات خود گوگل، Bard، در ماه مارس آغاز شد.
هینتون ابراز نگرانی کرد که رقابت بین مایکروسافت و گوگل توسعه هوش مصنوعی را بدون وجود نرده‌های محافظ و مقررات مناسب به پیش خواهد برد.
او در یک سخنرانی در یک رویداد EmTech Digital در روز چهارشنبه پس از اعلام عمومی استعفای خود گفت: “من فکر می کنم گوگل در ابتدا بسیار مسئول بود.” زمانی که OpenAI چیزهای مشابهی را با استفاده از . . . پول مایکروسافت، و مایکروسافت تصمیم گرفت آن را در آنجا عرضه کند، سپس گوگل انتخاب زیادی نداشت. اگر می خواهید در یک سیستم سرمایه داری زندگی کنید، نمی توانید جلوی رقابت گوگل با مایکروسافت را بگیرید.
از دهه 1970، هینتون پیشگام توسعه “شبکه های عصبی” بود، فناوری که تلاش می کند نحوه عملکرد مغز را تقلید کند. اکنون زیربنای بسیاری از ابزارها و محصولات هوش مصنوعی است که ما امروزه استفاده می کنیم، از Google Translate و Bard گرفته تا ChatGPT و خودروهای خودران.
اما در این هفته، او به ترس از توسعه سریع آن اذعان کرد که می‌تواند منجر به هجوم اطلاعات نادرست به حوزه عمومی شود و هوش مصنوعی مشاغل بیشتری از آنچه پیش‌بینی شده بود را غصب کند.
نگرانی من این است که چنین شود [make] ثروتمند ثروتمندتر و فقیر فقیرتر. همانطور که شما این کار را انجام می دهید. . . هینتون گفت که جامعه خشونت بارتر می شود. “این فناوری که باید فوق العاده باشد. . . در جامعه‌ای توسعه می‌یابد که برای استفاده از آن به نفع همه طراحی نشده است.»
هینتون همچنین زنگ خطری را در مورد تهدیدهای بلندمدت سیستم‌های هوش مصنوعی برای انسان به صدا درآورد، در صورتی که به فناوری استقلال بیش از حد داده شود. او همیشه بر این باور بود که این خطر وجودی بسیار دور از ذهن است، اما اخیراً تفکر خود را در مورد فوریت آن تنظیم مجدد کرده است.
او گفت: «این کاملاً قابل تصور است که بشریت یک مرحله گذرا در تکامل هوش است. او افزود که تصمیم هینتون برای ترک گوگل پس از یک دهه توسط یکی از همکاران دانشگاهی که او را متقاعد کرد در این مورد صحبت کند، تحریک شد.
هینتون در لندن متولد شد و از دودمان برجسته ای از دانشمندان است. او نوه ی ریاضیدانان بریتانیایی مری و جورج بول است، که دومی منطق بولی را اختراع کرد، نظریه ای که زیربنای محاسبات مدرن است.
هدف هینتون به عنوان یک روانشناس شناختی، تقریب هوش انسانی – نه تنها ساختن فناوری هوش مصنوعی، بلکه برای روشن کردن عملکرد مغز ماست.
استوارت راسل، استاد هوش مصنوعی در دانشگاه کالیفرنیا، برکلی، همتای آکادمیک هینتون، گفت که سوابق او به این معنی است که او “ریاضی ترین افرادی نیست که در جامعه یادگیری ماشینی پیدا می کنید”.
او به موفقیت بزرگ هینتون در سال 1986 اشاره کرد، زمانی که او مقاله ای را در مورد تکنیکی به نام “انتشار پس از آن” منتشر کرد، که نشان می داد چگونه نرم افزار کامپیوتری می تواند در طول زمان یاد بگیرد.
راسل گفت: «به وضوح یک مقاله مهم بود. “اما او این را به دست نیاورد. . . همانطور که یک ریاضیدان حکومت می کند. او از شهود خود برای کشف روشی استفاده کرد که کارساز باشد.»
هینتون همیشه علناً در مورد نظرات اخلاقی خود صراحتاً صحبت نکرده است، اما در خلوت آنها را آشکار کرده است.
در سال 1987، زمانی که دانشیار دانشگاه کارنگی ملون در آمریکا بود، تصمیم گرفت سمت خود را ترک کند و به کانادا مهاجرت کند.
به گفته بنجیو، یکی از دلایلی که او بیان کرد، یک دلیل اخلاقی بود – او نگران استفاده از فناوری، به ویژه هوش مصنوعی، در جنگ بود و بیشتر بودجه او از ارتش ایالات متحده تامین می شد.
بنژیو می‌گوید: «او می‌خواست نسبت به بودجه‌ای که به دست آورده و کاری که انجام می‌داد احساس خوبی داشته باشد. من و او ارزش‌های مشترکی در مورد جامعه داریم. این که انسان ها مهم هستند، کرامت همه انسان ها ضروری است. و همه باید از پیشرفتی که علم ایجاد می کند بهره مند شوند.»
در سال 2012، هینتون و دو دانشجوی فارغ التحصیلش در دانشگاه تورنتو – از جمله ایلیا سوتسکور، که اکنون یکی از بنیانگذاران OpenAI است – به پیشرفت بزرگی در زمینه بینایی کامپیوتر دست یافتند. آنها شبکه‌های عصبی ساختند که می‌توانستند اشیاء در تصاویر را با دقت بیشتری نسبت به قبل تشخیص دهند. بر اساس این کار، آنها اولین استارت آپ خود، DNNresearch را تأسیس کردند.
شرکت آنها – که هیچ محصولی تولید نکرد – در سال 2013 پس از یک مزایده رقابتی که منجر به مناقصه شرکت های چینی بایدو، مایکروسافت و DeepMind برای کسب تخصص این سه نفر شد، به قیمت 44 میلیون دلار به گوگل فروخته شد.
از آن زمان، هینتون نیمی از وقت خود را در گوگل و نیمی دیگر را به عنوان استاد در دانشگاه تورنتو گذرانده است.
به گفته راسل، هینتون دائماً ایده های جدیدی ارائه می دهد و چیزهای جدیدی را امتحان می کند. “هر بار که او ایده جدیدی داشت، در پایان سخنرانی خود می گفت: “و این مغز چگونه کار می کند!»
وقتی روی صحنه از او پرسیدند که آیا از کار زندگی‌اش پشیمان است، با توجه به اینکه این کار می‌تواند به آسیب‌های بی‌شماری که او گفته بود کمک کند، هینتون گفت که در حال بررسی آن بوده است.
«این مرحله از [AI] قابل پیش بینی نبود و تا همین اواخر فکر می‌کردم که این بحران وجودی خیلی دور است.» بنابراین من واقعاً از کاری که انجام می دهم پشیمان نیستم.
