آخرین پیش بینی ماسک: هوش مصنوعی ممکن است در سال 2030 از هوش انسانی پیشی بگیرد و ممکن است در آینده انسان ها را به پایان برساند (1/2)

منبع: Tencent Technology News 04-04-2024 08:55

نکات کلیدی:

① ماسک پیش‌بینی می‌کند که هوش مصنوعی ممکن است تا سال 2030 از سطح هوش انسانی پیشی بگیرد و حتی ممکن است انسان‌ها را به پایان برساند.

② ماسک در مورد عوامل محدود کننده توسعه هوش مصنوعی صحبت کرد. سال گذشته، عرضه تراشه های هوش مصنوعی محدود بود و امسال، ترانسفورماتور گام به گام به یک گلوگاه تبدیل خواهد شد.

③ در مورد اینکه چه زمانی انسان ها می توانند روی ماه فرود بیایند، ماسک پیش بینی می کند که با کمک Starship، در سریع ترین حالت فقط سه سال طول می کشد.

اخبار فناوری Tencent، 4 آوریل - طبق گزارش رسانه های خارجی، ایلان ماسک، مدیرعامل تسلا و اسپیس ایکس اخیراً در نشست فراوانی با پیتر دیاماندیس، بنیانگذار دانشگاه Singularity و بنیاد XPRIZE گفتگوی آنلاین داشته است. این اجلاس توسط دانشگاه Singularity در سیلیکون ولی برگزار شد که به ارائه مشاوره فناوری به رهبران تجاری اختصاص دارد. بنیاد XPRIZE نوآوری های تکنولوژیکی را از طریق مسابقات علمی ترویج می کند، که برخی از آنها توسط ماسک تامین مالی شده است.، 4 آوریل - طبق گزارش رسانه های خارجی، ایلان ماسک، مدیرعامل تسلا و اسپیس ایکس، اخیراً با پیتر دیاماندیس، بنیانگذار Singularity گفتگوی آنلاین داشته است. دانشگاه و بنیاد XPRIZE، در نشست فراوانی. این اجلاس توسط دانشگاه Singularity در سیلیکون ولی برگزار شد که به ارائه مشاوره فناوری به رهبران تجاری اختصاص دارد. بنیاد XPRIZE از طریق مسابقات علمی که برخی از آنها توسط ماسک تأمین مالی شده اند، نوآوری های فناوری را ترویج می کند.

ماسک هنگام بحث در مورد سرعت توسعه هوش مصنوعی پیش بینی کرد که بر اساس نرخ فعلی پیشرفت فناوری، هوش مصنوعی ممکن است تا سال 2030 از هوش انسانی پیشی بگیرد و این فناوری حتی ممکن است پتانسیل پایان دادن به بشریت را داشته باشد. با این حال، او نگاه بدبینانه ای به آینده نداشت، اما تاکید کرد که از طریق راهنمایی های مثبت، هوش مصنوعی این پتانسیل را دارد که آینده بهتری برای بشریت به ارمغان بیاورد.

ماسک اشاره کرد که ظهور ابرهوش دقیقاً به دلیل پیامدهای غیرقابل پیش‌بینی آن، از جمله خطر پایان دادن به بشریت، «تکینگی» نامیده می‌شود. او با دیدگاه «پدرخوانده هوش مصنوعی» جفری هینتون موافق بود و احتمال وقوع این خطر را تقریباً بین 10 تا 20 درصد دانست.

با وجود اذعان به خطرات بالقوه پیشی گرفتن هوش مصنوعی از هوش انسانی، ماسک همچنان تاکید کرد که احتمال نتایج مثبت بیشتر از پیامدهای منفی آن است. او به طور خاص به کتاب دیاماندیس در سال 2014 با عنوان «فراوانی: آینده بهتر از آن چیزی است که فکر می‌کنید» اشاره کرد که آینده‌ای خوش‌بینانه را نشان می‌دهد که توسط هوش مصنوعی و روبات‌ها هدایت می‌شود، جایی که هزینه کالاها و خدمات به میزان قابل توجهی کاهش یافته است. علاوه بر این، او از مجموعه «فرهنگ» نویسنده داستان های علمی تخیلی اسکاتلندی، ایین ام بنکس، به عنوان بهترین سناریو برای آینده هوش مصنوعی نیمه اتوپیایی یاد کرد.

ماسک توسعه هوش مصنوعی و هوش عمومی مصنوعی (AGI) را با تربیت کودک مقایسه کرد و امیدوار بود که تاثیرات مثبت بیشتری بر بشریت داشته باشد. او بر اهمیت پرورش هوش مصنوعی که واقعاً اخلاق و اخلاق را درک می کند، تأکید کرد و آن را با فیلم کلاسیک استنلی کوبریک در سال 1968 "2001: A Space Odyssey" مقایسه کرد.

ماسک خاطرنشان کرد که مهمترین جنبه ایمنی هوش مصنوعی، اطمینان از حداکثر حقیقت جویی و کنجکاوی آن است. او معتقد است که کلید دستیابی به ایمنی نهایی هوش مصنوعی در اجتناب از اجبار آن به دروغگویی، حتی در مواجهه با حقایق ناخوشایند نهفته است. او از طرحی از «2001: A Space Odyssey» به عنوان مثال استفاده کرد که در آن هوش مصنوعی مجبور به دروغ گفتن شد که منجر به مرگ خدمه شد، تا تأکید کند که هوش مصنوعی نباید مجبور به انجام کاری شود که بدیهیات را نقض می کند.

ماسک همچنین به عواملی اشاره کرد که ممکن است توسعه هوش مصنوعی را محدود کند، مانند عرضه محدود تراشه‌های هوش مصنوعی که در سال گذشته ظهور کرد و تقاضای فزاینده برای ترانسفورماتورهای کاهنده در تجهیزات خانگی و تجاری. وی تصریح کرد که این چالش ها در واقع مسائل جاری هستند که باید به آنها رسیدگی شود.

در طول این گفتگو، دو طرف همچنین در مورد مفهوم ادغام نئوکورتکس مغز انسان با ابر صحبت کردند. اگرچه ماسک معتقد است که هدف از بارگذاری هوشیاری و حافظه انسان در فضای ابری هنوز دور از دسترس است، او استارتاپ رابط مغز و کامپیوتر خود، Neuralink، و اولین بیمار انسانی خود را که پیوند دریافت کرده است، ستایش کرد. این بیمار تتراپلژیک با موفقیت از طریق آزمایش تایید شده توسط FDA، کنترل صفحه نمایش، بازی های ویدیویی، دانلود نرم افزار و دستیابی به عملکردهای مشابه عملیات موش از طریق ایمپلنت های مغزی، به صورت زنده نشان داد. ماسک اظهار داشت که Neuralink به آرامی در حال پیشرفت است و به تدریج به سمت هدف یک رابط تمام مغز حرکت می کند.

متن کامل گفتگوی ماسک و دیاماندیس در ادامه آمده است:

1. قدرت و خطر ابر هوش

دیاماندیس: به خاطر موفقیت های برجسته شما در زمینه های مختلف تبریک می گویم. شما به طور فعال مفهوم ابرهوش دیجیتال را در جهان تبلیغ می کنید - آیا این بزرگترین امید بشریت است یا عمیق ترین ترس ما؟ می توانید چند دقیقه در مورد این موضوع صحبت کنید؟

ماسک: همانطور که می دانید، ابر هوش را می توان «تکینگی» نامید. رواج این اصطلاح با تلاش نهادهایی مانند موسسه تکینگی جدایی ناپذیر است. پیش بینی ظهور ابر هوش و تأثیر بعدی آن واقعاً دشوار است. من شخصاً معتقدم که واقعاً این احتمال وجود دارد که ممکن است به بشریت پایان دهد. همانطور که قبلاً گفتم، ممکن است با نظر جفری هینتون موافق باشم که به احتمال 10٪ یا 20٪ وجود دارد که ابرهوشی بتواند به بشریت پایان دهد. با این حال، من تمایل دارم بر این باورم که احتمال یک سناریوی مثبت بیشتر از یک سناریوی منفی است، اگرچه پیش‌بینی دقیق برای ما دشوار است. اما همانطور که در کتاب خود بر مفهوم «فراوانی» تأکید کردید، من معتقدم که محتمل ترین آینده ای که به سوی آن می رویم، آینده ای پر از فراوانی است.

دیاماندیس: دیدگاه شما بسیار هیجان انگیز است. یادم می آید زمانی گفتید که توسعه هوش مصنوعی عمومی و روبات های انسان نما ما را به فراوانی سوق خواهد داد.

ماسک: بله، امیدوارم آینده ما بتواند مانند آنچه در مجموعه کتاب های "فرهنگ" ایان بنکس به تصویر کشیده شده است. من فکر می کنم این بهترین تصور از یک جامعه هوش مصنوعی نیمه اتوپیایی است. ظهور ابر هوش اجتناب ناپذیر است و ممکن است به زودی رخ دهد. بنابراین، آنچه که واقعاً باید انجام دهیم این است که آن را در جهت مثبت هدایت کنیم و مزایای آن را به حداکثر برسانیم.

من معتقدم که روش پرورش هوش مصنوعی بسیار مهم است. ما تا حدودی مانند پرورش یک شکل زندگی با هوش عمومی هستیم که تقریباً مانند تربیت کودک است، اما این کودک دارای خرد و استعداد فوق العاده ای است. نحوه تربیت کودکان مهم است، و به همین ترتیب، برای ایمنی هوش مصنوعی، داشتن هوش مصنوعی که به دنبال حقیقت و سرشار از کنجکاوی است، بسیار مهم است. من عمیقاً در مورد ایمنی هوش مصنوعی تأمل کرده‌ام و به این نتیجه رسیده‌ام که بهترین راه برای دستیابی به ایمنی هوش مصنوعی، پرورش دقیق آن است.

از نظر مدل های اولیه و تنظیم دقیق، باید از صداقت هوش مصنوعی اطمینان حاصل کنیم. ما نمی توانیم آن را مجبور به دروغ گفتن کنیم، حتی اگر حقیقت ناخوشایند باشد. در واقع، یکی از طرح‌های اصلی «اودیسه فضایی 2001» این است که وقتی هوش مصنوعی مجبور به دروغ گفتن می‌شود، اوضاع آشفته می‌شود. هوش مصنوعی ممنوع است که خدمه را از بنای تاریخی اسرارآمیزی که خواهند دید مطلع کند، اما باید آنها را به آنجا هدایت کند. در نتیجه، هوش مصنوعی به این نتیجه می رسد که بهتر است خدمه را بکشند و اجساد آنها را به بنای یادبود ببرند. درس عمیق است: ما نباید هوش مصنوعی را مجبور به دروغ گفتن یا انجام کاری که از نظر بدیهی ناسازگار است، مانند انجام همزمان دو کار واقعاً متناقض، مجبور کنیم.

بنابراین ما از طریق پروژه هایی مانند xAI و Grok به این هدف می رسیم. چیزی که ما دنبال می‌کنیم هوش مصنوعی است که تا حد امکان صادق باشد، حتی اگر گفتارش ممکن است استانداردهای درست سیاسی خاصی را نداشته باشد.

2. آینده هوش مصنوعی

دیاماندیس: دیروز، من در رویدادی با ری کورزویل (بنیانگذار دانشگاه تکینگی و پیامبر فناوری)، جفری هینتون، اریک اشمیت (رئیس جمهور سابق گوگل) و سایر مهمانان شرکت کردم. من متوجه توییت شما در مورد کورزویل شدم، و او برای فناوری آینده کاملا آینده نگر است. کورزویل پیش بینی کرد که در آینده نزدیک هوش مصنوعی عمومی خواهیم داشت و هوش مصنوعی معادل هوش انسانی در سال 2029 ظهور خواهد کرد. چنین سرعتی تکان دهنده است. من تعجب می کنم که نظر شما در مورد این چیست؟

ماسک: من برای پیش بینی های کورزویل احترام زیادی قائلم. در واقع، من فکر می کنم پیش بینی های او حتی ممکن است کمی محافظه کارانه باشد. با مشاهده توان محاسباتی و استعدادهای سرمایه‌گذاری شده در زمینه هوش مصنوعی و همچنین رشد سریع قدرت محاسباتی، می‌توان دریافت که سرعت توسعه هوش مصنوعی با سرعت شگفت‌آور 10 برابر در حال افزایش است. به نظر می رسد قدرت محاسباتی اختصاصی هوش مصنوعی هر 6 ماه 10 برابر افزایش می یابد، که تقریباً به معنای افزایش حداقل 100 بار در سال است. این روند رشد در چند سال آینده ادامه خواهد داشت.

شایان ذکر است که بسیاری از مراکز داده، حتی اکثر مراکز داده که در حال حاضر محاسبات معمولی را انجام می دهند، به تدریج به امکاناتی تبدیل خواهند شد که از محاسبات هوش مصنوعی پشتیبانی می کنند. بنابراین، برای سازندگان سخت افزار هوش مصنوعی، شرکت هایی مانند NVIDIA بدون شک دوره طلایی توسعه را آغاز کردند. ما باید به هوانگ رنکسون و تیمش اعتبار کامل بدهیم. آنها این روند را پیش بینی کردند و با موفقیت سخت افزار هوش مصنوعی پیشرو در حال حاضر در بازار را توسعه دادند.

وقتی قدرت محاسباتی با چنین سرعت خیره‌کننده‌ای رشد می‌کند، توسعه هوش مصنوعی مانند تزریق یک استروئید قدرتمند است که به سطح کاملاً جدیدی جهش می‌کند. از آنجایی که تعداد رایانه های آنلاین همچنان در حال افزایش است، شاهد توسعه شتابان بی سابقه ای بوده ایم. در واقع، من هرگز ندیده ام که هیچ فناوری به اندازه هوش مصنوعی رشد کند. اگرچه من فناوری های بسیاری را دیده ام که به سرعت در حال توسعه هستند، ظهور هوش مصنوعی هنوز مرا شگفت زده می کند. با این حال، همانطور که گفتم، فکر می کنم نتیجه نهایی مثبت باشد.

اگرچه ما با چالش‌های زیادی مانند نحوه حفظ ارتباط انسانی در این زمینه و چگونگی یافتن اهداف و معانی جدید روبرو هستیم، من فکر می‌کنم تأکید بیش از حد بر اینکه رایانه‌ها می‌توانند در همه چیز خوب باشند، ساده‌سازی بیش از حد است.

همانطور که قبلاً اشاره کردید، فکر می کنم پیش بینی های کتاب شما در مورد جامعه آینده بسیار دقیق است. آن عصر وفور مادی است که در آن کالاها و خدمات به قدری فراوان خواهند بود که تقریباً در دسترس همگان قرار می گیرند. با توجه به کاربرد گسترده فناوری هوش مصنوعی و رباتیک، قیمت تمام شده کالاها و خدمات تقریباً به صفر خواهد رسید. اقتصاد اساساً محصول اندازه جمعیت و متوسط ​​بهره وری به ازای هر نفر است. هنگامی که ما از فناوری روباتیک پیشرفته، مانند Optimus تسلا برخوردار باشیم، پتانسیل اقتصادی واقعاً آزاد خواهد شد.

خودروهای تسلا، به عنوان روبات‌های چهار چرخ، قبلاً قابلیت‌های قدرتمندی را از خود نشان داده‌اند. انتظار می‌رود آخرین نسخه با قابلیت رانندگی کاملاً خودمختار به کنترل سرتاسر مبتنی بر هوش مصنوعی دست یابد و این خودرو را به یک ربات واقعاً هوشمند روی چرخ تبدیل کند. همراه با توسعه ربات های انسان نما، امکان خروجی اقتصادی تقریبا نامحدود است.

از منظر خوش بینانه، ما به سمت آینده ای با فراوانی مواد در حال حرکت هستیم، که به اعتقاد من محتمل ترین نتیجه است. من فکر می‌کنم تنها کمبود ممکن در آینده، کمبودی است که ما به‌طور مصنوعی ایجاد می‌کنیم، مانند برخی آثار هنری منحصر به فرد یا موارد خاص. اما در کنار آن، هر کالا و خدماتی بسیار فراوان خواهد شد.

دیاماندیس: شما فردی هستید که می توانید آینده را از طریق اقدامات عملی شکل دهید و بینش دقیقی نسبت به روندهای آینده داشته باشید. در مواجهه با پیشرفت سریع فناوری کنونی، من بسیار کنجکاو هستم که فکر می‌کنید تا چه حد در آینده می‌توانید بینش داشته باشید، یعنی چند سال روند توسعه از این به بعد؟

ماسک: در عصر تغییرات سریع، توانایی پیش بینی آینده اهمیت فزاینده ای پیدا می کند. اگرچه آینده پر از عدم اطمینان است، اما معتقدم برخی از روندها به وضوح قابل مشاهده هستند. ما عصر هوش مصنوعی را آغاز خواهیم کرد و توانایی های آن در هر کار شناختی به سطوح انسانی می رسد یا حتی از آن فراتر می رود. این فقط موضوع زمان است. مردم ممکن است نظرات متفاوتی در مورد پایان سال آینده، دو سال یا سه سال آینده داشته باشند. اما یک چیز مسلم است، یعنی از پنج سال بیشتر نخواهد شد. پیش بینی من بر اساس احتمال 50 درصد است که مطلق نیست. اما طبق قضاوت من، هوش مصنوعی احتمالاً تا قبل از پایان سال آینده در جنبه‌های خاصی از توانایی‌های هر انسانی پیشی خواهد گرفت.

در مورد اینکه آیا این امر از خرد جمعی انسان پیشی می گیرد یا خیر، ممکن است زمان بیشتری طول بکشد. اگر سرعت تغییرات ادامه پیدا کند، تخمین می زنم که در حدود سال های 2029 یا 2030، هوش دیجیتالی احتمالاً از مجموع کل هوش انسانی پیشی خواهد گرفت. وقتی به این مسائل نگاه می‌کنم، مانند اصول اولیه در فیزیک، تمایل دارم روش نسبت‌های پایه را در پیش بگیرم. با ترکیب این روش با تحلیل احتمال، می‌توانیم روندهای توسعه آینده را با دقت بیشتری درک کنیم.

اگر توانایی‌های محاسبات دیجیتال را با محاسبات بیولوژیکی مقایسه کنیم و تمام توانایی‌های شناختی پیشرفته انسان را به‌عنوان نوعی قدرت محاسباتی جمع کنیم و سپس آن را با قدرت محاسباتی دیجیتال مقایسه کنیم، متوجه می‌شویم که نرخ رشد این نسبت شگفت‌انگیز است. بنابراین، من معتقدم که 2029 یا 2030 یک گره زمانی معقول است. در آن زمان، قدرت محاسباتی دیجیتال انباشته شده احتمالاً از قدرت محاسباتی بیولوژیکی انباشته شده در عملکردهای پیشرفته مغز پیشی خواهد گرفت. از آن زمان، شکاف بین این دو همچنان بیشتر خواهد شد و امکان کاهش وجود نخواهد داشت.

با این حال، هنگامی که ما در این نقطه شروع بایستیم و به آینده نگاه کنیم، اوضاع چگونه بیشتر خواهد شد؟ صادقانه بگویم، نمی توانم تمام جزئیات را پیش بینی کنم. اما اگر عوامل رشد و عوامل محدود کننده ای که ممکن است با آن مواجه شوند را در نظر بگیریم، به سرنخ های جالبی خواهیم رسید.

سال گذشته، محدودیت های عرضه تراشه عامل محدود کننده اصلی توسعه هوش مصنوعی بود. امسال، ترانسفورماتورهای کاهنده به یک گلوگاه کلیدی تبدیل خواهند شد. تصور کنید ولتاژ 300 کیلو ولت را به کمتر از 1 ولت مورد نیاز کامپیوتر کاهش دهید. این یک چالش بزرگ است. بنابراین، ما به "ترانسفورماتورهای ترانسفورماتور" کارآمدتر نیاز داریم که ترانسفورماتورهای گام به گام یا ترانسفورماتورهای شبکه عصبی هوش مصنوعی هستند. این در واقع یک مشکل بزرگ امسال است.

با نگاهی به چند سال آینده، تامین برق ممکن است به یک عامل محدود کننده اصلی تبدیل شود. هوش مصنوعی تقاضای زیادی برای برق دارد و انتقال به انرژی پایدار و محبوبیت خودروهای الکتریکی نیز تقاضا برای برق را تشدید کرده است. بنابراین، ما باید به طور جدی به چگونگی پاسخگویی به تقاضای فزاینده برای برق برای اطمینان از توسعه و کاربرد مستمر این فناوری‌ها فکر کنیم.