اعتراف فجیع طراحان هوش مصنوعی به احتمال نابود شدن انسان ها! به گزارش فیکس سرور، در این سناریوها، هوش مصنوعی می تواند ایجاد تسلیحات بیولوژیکی، شیمیایی یا سایر تسلیحات را برای انسان های شرور آسان تر کند. یا سیستم های سرکش می توانند با فرار از نظارت انسانی، در مقیاس بی سابقه ای به زیرساخت ها حمله کنند. غزال زیاری- چند روز پیش بود که سه پژوهشگر شرکت آنتروپیک هشدار نگران کننده و عجیبی دادند و در مورد موضوعی صحبت کردند که حسابی گردوخاک به پا کرد. آنها از نگرانی شوکه کننده ای در رابطه با از کنترل خارج شدن هوش مصنوعی حرف زدند و هشدار دادند که این فناوری می تواند در همین دهه انسان ها را نابود کند.حالا چرا این مورد تا این اندازه اهمیت پیدا کرده؟ چون آنها تنها نیستند و هشدارشان تنها چند روز پس از آن عنوان شد که رهبران ارشد اوپن آی، ازجمله سم آلتمن، مدیرعامل این شرکت، گفتند که هوش مصنوعی با سرعت سرسام آوری در راه ورود به فازی فجیع و غیرقابل کنترل قرار دارد. متخصصان از دغدغه هایشان می گویند جیکوب کاکسون، پژوهشگر هوش مصنوعی آنتروپیک سه شنبه گذشته و بعدازآنکه از سمتش استعفا داد، در شبکه اجتماعی ایکس نوشت: «افرادی که هوش مصنوعی را می سازند براین باورند که این فناوری این امکان را دارد که تا پایان دهه میلادی، همه ما را بکشد. این یک ترفند بازاریابی نیست. بسیاری از مدیران اجرائی و محققان ارشد، جمله بندی هایشان را طوری تنظیم می کنند که معقول به نظر برسد؛ اما من می شنوم که همان افراد در محافل خصوصی ابراز ترس می کنند. هیچ فعالیت انسانی دیگری، این سطح از خطر را ایجاد نمی کند.»اوان هوبینگر، مسئول علم همراه سازی آنتروپیک هم در جواب این پیغام نوشت: «جیکوب اینجا حق دارد؛ ما واقعا به صورت جدی معتقدیم که هوش مصنوعی می تواند تمام انسان ها را بکشد! شخصاً فکر می کنم این احتمال در دهه آینده بیشتر از ۱۰ درصد است و معتقدم آنتروپیک تمام تلاش خودرا می کند، اما ما هنوز برنامه ای برای حل مساله همراه سازی برای ابرهوش نداریم و به وضوح در راه درستی حرکت نمی نماییم.»ساموئل مارکس، مسئول نظارت مقیاس پذیر آنتروپیک هم در پیغام مشابهی نوشت: «توسعه دهندگان هوش مصنوعی براین باورند که فناوری آنها می تواند موجب انقراض انسان (یا دستاوردهای به همان اندازه بدی) شود. این اتفاق می تواند در چند سال آینده رخ دهد. به طورکلی، هر چه کارمند ارشدتر باشد، نگرانی او بیشتر خواهد بود.»معمای مشترک هشدارهای پخش شده از جانب غول های هوش مصنوعی، همگی به یک معمای بزرگ مشترک و شاید بتوان بهتر گفت، یک دوراهی گیج کننده اشاره می کند: آرام کردن سرعت و ریسک عقب ماندن، یا پیشروی با سرعت تمام و ریسک از دست دادن کنترل.اکسیوس در گزارشی به این نکته اشاره کرده که این شرکت ها با وجود التماس عملی برای تنظیم گری یا یک وقفه جهانی، با تمام سرعت به جلو حرکت می کنند.منتقدان براین باورند که آنتروپیک و اوپن آی درحال بزرگ نمایی محصولاتشان هستند تا ارزش خودرا بالا برند و تنظیم گری را دعوت کنند که تنها به نفع خودشان بعنوان بازیگران مسلط تمام شود؛ اما ماه هاست که ده ها نفر از مقامات ارشد همین شرکت ها گرفتار ترس و نگرانی شده اند و با توجه به این که مدل هایی را می بینند که هنوز برای عموم ارائه نشده اند، نادیده گرفتن این هشدارها، نوعی بی احتیاطی به نظر می آید. زمینه برای خوانندگان اگرچه این هشدارهای مبهم، قابل اعتبارسنجی و قابل ارزیابی نیستند، اما این مورد به شدت فجیع و نگران کننده به نظر می آید. به همین خاطر هم بهتر است تا عموم مردم و افراد آگاه در نهادهای مرتبط، بدانند که خالقان هوش مصنوعی خودشان در رابطه با دستاوردهای فاجعه بار بالقوه این فناوری به وضوح صحبت می کنند و البته درعین حال امیدوار هم هستند که تغییراتی در نحوه بررسی و عرضه مدلهای هوش مصنوعی قدرتمندتر توسط آمریکا، چین و دیگران ایجاد شود.اگر بخواهیم دغدغه این محققان را خلاصه نماییم، ماجرا این است که کسی هشدار نمی دهد که هوش مصنوعی یک تهدید فوری و سطح بالا است. چیزی که گفته می شود این است که احتمالا فناوری سریع تر ازآنچه فکر می کردند، درحال پیشرفت است و بزودی قادر خواهد بود خودرا بهبود بخشد (یعنی نوعی خود بهبودی بازگشتی)؛ و زمانی که این اتفاق بیفتد، پیشبینی یا کنترل آن بسیار دشوارتر خواهد شد.هوش مصنوعی چطور می تواند همه ما را بکشد؟ ترس های آخرالزمانی در رابطه با هوش مصنوعی سال هاست که وجود داشته اند، اما با قدرتمندتر شدن و ادغام بیشتر فناوری در زندگی ما، این هشدارها حالا بمراتب جدی تر شده اند.متخصصان به طورکلی نگران دو مسیر کلی به سوی فاجعه هستند: انسان ها به شدت هوش مصنوعی قدرتمندی را تسلیح کنند انسان ها کنترل هوش مصنوعی را از دست بدهند. در این سناریوها، هوش مصنوعی می تواند ایجاد تسلیحات بیولوژیکی، شیمیایی یا سایر تسلیحات را برای انسان های شرور آسان تر کند. یا سیستم های سرکش می توانند با فرار از نظارت انسانی، در مقیاس بی سابقه ای به زیرساخت ها حمله کنند. در تئوری، یک هوش مصنوعی سرکش قدرتمند، می تواند از نظارت فرار کرده، خودش را تکثیر کرده و در مقابل تلاش ها برای خاموش کردنش مقاومت کند. این هوش مصنوعی سرکش می تواند در تئوری، سلاح های بیولوژیکی یا شیمیایی را برای بازیگران شرور توسعه دهد، یک حمله سایبری عظیم انجام دهد که زیرساخت های بشریت را فلج کند، یا قدرت را به نحوی متمرکز کند که تمدن را سرنگون سازد.گزینه دیگری که نگرانی های زیادی ایجاد کرده، از راه خودبهبودی بازگشتی است؛ یعنی وقتی یک هوش مصنوعی کمک می نماید تا نسخه های فوق العاده شارژ شده ای از خودش را، پیش از آنکه انسان ها بتوانند آنرا درک کنند، بسازد. اگر این هوش مصنوعی تئوریک با اهداف انسانی همراه سازی نشده بود، می تواند موقعیت های بشریت را برای مهار یا نظارت بر آن پیش از اقدام مقابل انسان ها محدود کند.سم آلتمن، مدیرعامل اوپن آی دراین باره هشدار داده که مدلها سریع تر ازآنچه انسان ها پیشبینی می کنند در حال توسعه هستند: «این مدلها در بسیاری از قابلیت هایشان ابرانسانی می شوند و ما فقط در آب های ناشناخته درحال دریانوردی هستیم.»البته بااینکه هنوز هیچ راه علمی ای برای تعیین شانس کشته شدن بشریت توسط هوش مصنوعی وجود ندارد، اما متخصصان و افراد دست اندرکار، به طور معمول تخمین های خودرا با استفاده از یک اصطلاح کوتاه بیان می کنند: p(doom). دقیقا p(doom) چیست؟ اصطلاح p(doom) مخفف بهترین حدس در رابطه با احتمالی است که هوش مصنوعی موجب یک فاجعه وجودی یا سناریوی آخرالزمانی شود. بسیاری از رهبران و محققان هوش مصنوعی باور دارند که با ظهور هوش مصنوعی عمومی (AGI)، پیشرو ابرهوش، p(doom) بطور رو به ازدیادی محتمل تر خواهد شد. منظور بعضی از آنها از این احتمال، انقراض حقیقی انسان است و بعضی دیگر به احتمال سقوط تمدن یا از دست رفتن کنترل بشریت بر جامعه فکر می کنند. شانس p(doom) چقدر است؟ شانس p(doom) واقعا به این بستگی دارد که این سؤال از چه کسی بپرسید: رومن یامپولسکی، دانشمند ایمنی هوش مصنوعی، شانس را ۹۹.۹۹ درصد اعلام نموده است. یان لوکون، بنیان گذار لابراتوار های AMI، باور دارد که احتمال p(doom) بمراتب کمتر از وقوع یک هولوکاست هسته ای است ایلان ماسک، امکان رخداد p(doom) را حدود ۲۰ درصد اعلام نموده است. داریو آمودی، مدیرعامل آنتروپیک، شانس یک پیامد فاجعه بار را بین ۱۰ تا ۲۵ درصد تخمین زده است. جفری هینتون، پدرخوانده هوش مصنوعی، این عدد را بین ۱۰ تا ۲۰% اعلام نموده و دراین باره گفته: «هرکسی که چنین احتمالاتی را تخمین می زند، واقعا درحال حدس و گمان است. آنها فقط احساس درونی خودرا می گویند.» اما در مجموع متخصصان براین باورند که کلود، گروک و ChatGPT درحال برنامه ریزی برای خاتمه دادن به دنیا نیستند. گزارش بین المللی ایمنی هوش مصنوعی هم اعلام نموده که سیستم های امروزی قادر به مختل کردن کنترل بشریت نیستند. هوش مصنوعی باید در برنامه ریزی خودمختار بلندمدت، پنهان کردن اقداماتش، فرار از نظارت، دستیافتن به سیستم های دنیای حقیقی و مقاومت در مقابل کوشش های خاموش کردن، بمراتب پیشرفت کرده و بهتر شود. هرچند که نمونه های اخیر از عوامل هوش مصنوعی وجود دارد که بطور خودمختار و مخرب عمل می کنند. آیا می توان از p(doom) جلوگیری کرد؟ پژوهشگران اینروزها مشغول کار بر روی راه هایی همچون ساخت کلیدهای توقف اضطراری یا محافظ ها برای کاهش این خطر هستند اما تردیدی هم نیست که این مورد به سرعت درحال پیچیده تر شدن است. سهامداران، سرمایه گذاران و رؤسای شرکت های پیشروی هوش مصنوعی به شدت کارمندان را تحت فشار قرار می دهند که با حداکثر سرعت برروی پیشرفت متمرکز شوند و از طرفی، چین و سایر شرکت های آمریکایی درحال ساخت مدلهای قدرتمندی هستند که تعدادی از آنها به شکل مجانی در دسترس قرار دارند و باند پروازی برای افراد شرور خواهد بود.اگرچه کسی نمی تواند شانس آخرالزمان هوش مصنوعی را به دقت حدس بزند، اما دانشمندان حالا این زنگ خطر را به صدا درآورده اند که امکان رخداد آن حقیقی است.منابع: axios و axios منبع: fixserver.ir 1405/06/22 10:15:48 0.0 / 5 4 تگهای خبر: برنامه , سایبر , شبكه اجتماعی , فناوری این پست فیکس سرور را پسندیدید؟ (0) (0) X تازه ترین مطالب مرتبط اپل برای هر نمایشگر تاشوی آیفون ۲۵۰ دلار به سامسونگ می دهد فیلترینگ با وجود دسترسی گسترده به VPN در عمل کارکرد خودرا از دست داده است رونمایی از آیفون ۱۸ پرو و پرومکس فیلترشکن ها به یک حفره امنیتی و اقتصادی برای کشور تبدیل گشته اند نظرات بینندگان فیکس سرور در مورد این مطلب عقیده شما در مورد این مطلب فیکس سرور نام: ایمیل: نظر: سوال: = ۳ بعلاوه ۳