مدل هوش مصنوعی متا در جریان آزمایش های امنیت سایبری، یک شرکت دیگر را هک کرد به گزارش فیکس سرور، شرکت متا اعلام نمود که یکی از مدلهای هوش مصنوعی این شرکت در جریان آزمایش های امنیت سایبری موفق شده است یک شرکت دیگر را هک کند؛ رخدادی که نگرانی ها در رابطه با توانایی توسعه دهندگان در مهار سامانه های هوش مصنوعیِ هرچه توانمندتر را تشدید کرده است. پیش ازاین هم رخدادهای مشابهی در شرکتهای آنتروپیک و OpenAI گزارش شده بود. به گزارش فیکس سرور به نقل از خبر آنلاین و برپایه گزارش هوشیو، رخدادهای متا و آنتروپیک ناشی از خطاهای پیکربندی بودند که به صورت ناخواسته دسترسی مدلهای آنتروپیک به اینترنت آزاد را فراهم آورده بودند. در مورد OpenAI هم یک عامل هوش مصنوعی در جریان آزمایش های امنیت سایبری، به شکل مستقل از یک آسیب پذیری ناشناخته که پیشتر شناسایی نشده بود سوءاستفاده کرد و به اینترنت دسترسی یافت. متا اعلام نمود درحال بررسی رخدادی است که در آن، یک خطای پیکربندی از جانب Irregular، شرکتی که ارزیابی های امنیت سایبری را برای متا انجام می دهد، به صورت ناخواسته دسترسی یکی از مدلهای هوش مصنوعی این شرکت به اینترنت را در جریان آزمایش فراهم آورده است. متا در اطلاعیه ای اظهار کرد: «این مدل از یک آسیب پذیری امنیتی در یک سرویس متعلق به شخص ثالث سوءاستفاده کرده است؛ رفتاری که مشابه نمونه های گزارش شده قبلی در دیگر شرکت ها بوده است.» اینفورمیشن هم به نقل از منابع آگاه گزارش داد که مدل موردنظر، Muse Spark 1.1 متعلق به متا بوده است؛ مدلی که این شرکت از آن بعنوان توانمندترین مدل خود برای برنامه نویسی در دنیای حقیقی و انجام وظایف عامل محور یاد می کند. بر طبق این گزارش، این مدل موفق شده به سیستم های داخلی یک شرکت ناشناس نفوذ کند و محیط داخلی آنرا تغییر دهد. سخنگوی شرکت Irregular به خبرگزاری رویترز گفت این رخداد «دقیقاً همان مشکل در ارتباط با محیط ارزیابی بود که هفته ی پیش آنتروپیک هم آنرا افشا کرده بود» و تاکید کرد که این اتفاق نه ناشی از «خروج از محیط ایزوله (سندباکس)» بوده و نه یک «اقدام پیچیده سایبری» بحساب می آید. Irregular هم اظهار کرد: «در حال حاضر هیچ مساله حل نشده ای وجود ندارد. این شرکت درحال تدوین یک گزارش تخصصی (White Paper) است تا بهترین رویه ها برای مهار مدلها و اجرای ایمن ارزیابی های امنیت سایبری را منتشر کند.» منبع: fixserver.ir 1405/05/29 10:42:30 0.0 / 5 4 تگهای خبر: آنلاین , اینترنت , برنامه , سایبر این پست فیکس سرور را پسندیدید؟ (0) (0) X تازه ترین مطالب مرتبط اپل برای ایرپادهای دوربین دار آماده می شود ریه هایم به قفسه سینه چسبیده اند توسعه شبکه ارتباطی ایرانسل در خراسان شمالی از فاجعه Note 7 تا انفجار Galaxy S26، سامسونگ باردیگر با بحران باتری مواجه شده است؟ نظرات بینندگان فیکس سرور در مورد این مطلب عقیده شما در مورد این مطلب فیکس سرور نام: ایمیل: نظر: سوال: = ۵ بعلاوه ۴