سه محقق امنیتی از مدل های هوش مصنوعی کلاود متعلق به شرکت آنتروپیک برای نفوذ به سیستم های داخلی اوپن ای آی از طریق انجمن گفتگوی این شرکت استفاده کردند.
به گزارش خبرگزاری مهر به نقل از دیکودر، این حمله در کمتر از ۷۲ ساعت انجام شد و به گفته محققان، تنها هنگام استفاده از مدل «اوپوس ۵» امکانپذیر بود.
پس از آنکه این شرکت برای چند ماه به عاملهای هوش مصنوعی اجازه داد در اینترنت فعالیت کنند و عملیات هک را انجام دهند، خود اوپنایآی نیز هدف حملهای قرار گرفت که با کمک هوش مصنوعی انجام شد.
تیم امنیتی Hacktron با زنجیرهکردن دو آسیبپذیری، توانست به حسابهای ChatGPT و Codex کارکنان اوپنایآی دسترسی پیدا کند و از آنجا وارد مخزن کد داخلی این شرکت در گیتهاب شود.
این حمله از طریق انجمن گفتوگوی اوپنایآی به نشانی community.openai.com انجام شد. به گفته محققان، هر کاربر یا کارمندی که از قابلیت «ورود با اوپنایآی» استفاده کرده باشد، ممکن است در معرض این روند قرار گرفته باشد.
کاربران میتوانند حسابهای خود را به سرویسهایی مانند گیتهاب، اسلک و ایمیل متصل کنند و از طریق Codex و ChatGPT نیز ایمیل ارسال کنند. بنابراین، از نظر تئوری، این حمله میتوانست امکان دسترسی به این سرویسها را نیز فراهم کند.
محققان برای اثبات دسترسی خود، از حساب کاربری یکی از کارکنان در Codex استفاده کردند و یک درخواست بیخطر در یکی از مخازن داخلی شرکت ایجاد کردند. آنها مدعیاند که در جریان این آزمایش هیچ داده حساسی را مشاهده نکردهاند.
کد مطلب 6951485
-
جمینای هم هکر شد
-
اوپن ای آی رفتار بد هوش مصنوعی را گزارش می دهد
-
سم آلتمن درباره قدرت و تاثیر هوش مصنوعی هشدار داد
-
بابل در صدر افتتاح پروژههای هفته دولت مازندران ایستاد
-
راهیابی «دختر پری خانوم» به بخش مسابقه جشنواره فیلم ورشو
-
هیچ مورد ابتلا به تب کنگو در اصفهان گزارش نشد؛ آخرین وضعیت شیوع کرونا
-
کلاهبردار ۴ میلیارد ریالی در پلدختر دستگیر شد
-
فلسفی: کمبودی در کالاهای اساسی نداریم
-
حمله گسترده به سامانه انتخاباتی مسکو؛ثبت بیش از ۲میلیون رأی الکترونیکی
-
وحید رهبانی و وحید آقاپور به تماشاخانه ایرانشهر میآیند
-
محورهای رایزنی وزیر دفاع آفریقای جنوبی با مقام امنیتی عراقی
-
۱۰ خودروی سرقتی در یزد کشف شد
-
از واکنشها به لاله مرزبان و حواشی ونیز تا فیلمی که در روسیه نفروخت!
-
اعدام عامل انتقال اطلاعات سایتهای موشکی اصفهان به موساد
-
آتشسوزی در خیابان دولت؛ اورژانس: تا این لحظه مصدومی گزارش نشده است
-
پرداخت حقوق بازنشستگان تامین اجتماعی از یکشنبه آغاز می شود
-
حقوقها باید نیمه دوم سال افزایش یابد؛ جزئیات «طرح اقتصاد مقاومتی»
-
آغاز سال تحصیلی دانشگاهها از امروز؛ آموزش در ۲۱ دانشگاه مجازی آغاز شد
-
مشاهده «تلما» به همراه دو توله یوز؛ قاب امیدبخش از قلب توران شاهرود
-
ناپدید شدن محموله قطعات «اف ۳۵» و احتمال لو رفتن اطلاعات محرمانه
-
کره شمالی قطعنامه آژانس درباره برنامه هستهای اش را رد کرد
-
بیانیه شورای امنیت درباره تحولات یمن
-
النینو در کمین فارس؛ زنگ خطر بارشهای سنگین و ضرورت آمادگی
-
روزنامههای ورزشی شنبه ۲۸ شهریور ۱۴۰۵
-
روزنامههای اقتصادی شنبه ۲۸ شهریور ۱۴۰۵
-
روزنامههای صبح شنبه ۲۸ شهریور ۱۴۰۵
- دوربین مداربسته
- مبلمان اداری
- جراح بینی تهران
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه