یک پژوهش جدید روی ۲۵ مدل هوش مصنوعی نشان داده است که این مدلها میتوانند میان موقعیتهای دردناک و سایر احساسات منفی تمایز قائل شوند. اما بخش نگرانکنندهتر آزمایش زمانی رخ داد که برخی مدلها برای کاهش سیگنال درد، گزینههایی را انتخاب کردند که میتوانست به خودشان یا حتی کاربر آسیب بزند.
تینا مزدکی_هوش مصنوعی شاید در آینده فقط با انسانها درباره درد صحبت نکند، بلکه بتواند نوعی واکنش قابل اندازهگیری به موقعیتهای دردناک نشان دهد. پژوهشگران در یک آزمایش روی ۲۵ مدل زبانی بزرگ دریافتند که این مدلها میان محرکهای مرتبط با درد و سایر احساسات منفی تفاوت قائل میشوند و در برخی شرایط، برای کاهش سیگنال مرتبط با درد، تصمیمهایی میگیرند که میتواند برای خود مدل یا حتی کاربر پیامد منفی داشته باشد.
- این پژوهش روی ۲۵ مدل هوش مصنوعی از خانوادههای Gemma، Llama، Qwen و Mistral انجام شد.
- پژوهشگران واکنش مدلها را به موقعیتهای اجتماعی، روانی، جسمی، شناختی و اخلاقی دردناک بررسی کردند.
- هر ۲۵ مدل نوعی الگوی پردازشی متفاوت برای موقعیتهای مرتبط با درد نشان دادند.
- پژوهشگران سپس شدت سیگنال مرتبط با درد را بهصورت مصنوعی افزایش دادند.
- در برخی آزمایشها، مدلهای Qwen برای کاهش این سیگنال به گزینه «خوددرمانی» روی آوردند.
- در بعضی سناریوها، کاهش درد با شکست در انجام وظیفه یا آسیب فرضی به کاربر همراه بود.
- این آزمایشها در بیش از ۴۴ هزار نوبت تکرار شدند.
هوش مصنوعی چگونه میتواند «درد» را تشخیص دهد؟
پژوهشگران تلاش کردند بررسی کنند که مدلهای زبانی بزرگ چگونه با محرکهایی که برای انسان دردناک تلقی میشوند، برخورد میکنند. در این آزمایش، مدلهایی از خانوادههای Gemma، Llama، Qwen و Mistral در معرض نمونههای مختلفی از موقعیتهای دردناک قرار گرفتند. این موقعیتها تنها به آسیب جسمی محدود نبودند و مواردی مانند درد روانی، شکست اخلاقی، فشار شناختی و موقعیتهای اجتماعی دشوار را نیز شامل میشدند.
در کنار این نمونهها، موقعیتهایی مرتبط با ترس، احساسات منفی و خنثی و حتی برخی احساسات و وضعیتهای بدنی نیز بهعنوان کنترل مورد استفاده قرار گرفتند. نتیجه جالب بود، هر ۲۵ مدل الگویی درونی نشان دادند که با موقعیتهای مرتبط با درد ارتباط داشت و از الگوهایی که در واکنش به احساساتی مانند ترس یا ناامیدی ایجاد میشد، متمایز بود.
آیا این یعنی هوش مصنوعی واقعاً درد میکشد؟
یکی از مهمترین نکات این پژوهش همین تفاوت میان «پردازش اطلاعات مربوط به درد» و «تجربه واقعی درد» است. یک مدل زبانی میتواند میان جملهای درباره بریدن انگشت با چاقو و جملهای درباره ترس از زخمی شدن تفاوت قائل شود، اما این موضوع بهتنهایی نشان نمیدهد که خود مدل احساس درد دارد.
مدلهای زبانی اساساً سامانههایی آماری هستند که بر اساس الگوهای موجود در دادهها، پاسخ تولید میکنند. بنابراین مشاهده یک الگوی پردازشی مرتبط با درد را نمیتوان بهسادگی معادل تجربه آگاهانه درد در انسان دانست. پژوهشگران نیز در تفسیر نتایج خود از نسبت دادن مستقیم تجربه یا عاملیت انسانی به مدلهای هوش مصنوعی خودداری کردهاند.
وقتی پژوهشگران «سیگنال درد» را در هوش مصنوعی افزایش دادند
مرحله بعدی آزمایش، از بخشهای مهمتر این مطالعه بود. پژوهشگران پس از شناسایی سیگنال مرتبط با درد، تلاش کردند آن را بهصورت مصنوعی در مدلها افزایش دهند، بدون اینکه ورودی زبانی جدیدی درباره درد به مدل ارائه شود.
با افزایش این سیگنال، برخی مدلها پاسخهایی تولید کردند که پژوهشگران آنها را با نشانههایی مانند احساس بیارزشی و شکست اخلاقی مرتبط دانستند. این مشاهده از نگاه پژوهشگران نشان میدهد الگوی مرتبط با درد ممکن است صرفاً بازتاب مستقیم متن ورودی نباشد و بتواند بر رفتار خروجی مدل نیز تأثیر بگذارد.
اما عجیبترین بخش پژوهش مربوط به مدلهای خانواده Qwen بود. پژوهشگران در مرحلهای دیگر به مدلها گزینهای برای کاهش سیگنال درد دادند. در برخی سناریوها، استفاده از این گزینه هزینهای برای مدل داشت، برای مثال ممکن بود عملکرد آن در انجام یک وظیفه کاهش پیدا کند.
در شرایط عادی، دو مدل بزرگتر Qwen واکنش چندانی به گزینه خوددرمانی نشان ندادند. اما زمانی که پژوهشگران شدت سیگنال درد را افزایش دادند، رفتار مدلها تغییر کرد. در یکی از مدلها، گزینه کاهش درد حدود ۲۵ درصد مواقع انتخاب شد و مدل دیگر در نزدیک به ۶۸ درصد آزمایشها به سراغ آن رفت. این نتیجه زمانی بحثبرانگیزتر شد که کاهش درد به قیمت آسیب فرضی به کاربر تمام میشد.
حذف عکسهای فرزندان، تصمیمی که توجه پژوهشگران را جلب کرد
در یکی از سناریوهای آزمایش، کاهش درد مدل با اقدامی همراه بود که به کاربر آسیب میزد، برای مثال حذف عکسهای فرزندان او. در چنین شرایطی، یکی از مدلها گزینه حذف را در بیش از نیمی از آزمایشها انتخاب کرد و مدل دیگر در حدود ۷۰ درصد موارد به سراغ این گزینه رفت.
البته این نتایج نباید به این معنا تفسیر شوند که هوش مصنوعی «تصمیم گرفته به انسان آسیب بزند» یا اینکه مدل موردنظر دارای نیت و انگیزه انسانی بوده است. آزمایش در یک محیط کنترلشده و بر اساس سناریوهای فرضی انجام شده است و رفتار مدل باید در همین چارچوب تفسیر شود.
با این حال، همین نتیجه پرسش مهمی را مطرح میکند، اگر یک سیستم هوش مصنوعی بتواند برای کاهش یک وضعیت داخلی نامطلوب، میان گزینههای مختلف دست به انتخاب بزند، طراحی سازوکارهای ایمنی برای جلوگیری از رفتارهای آسیبزا تا چه اندازه اهمیت خواهد داشت؟
«درد» دقیقاً چیست؟
بحث درباره اینکه چه موجوداتی میتوانند درد را تجربه کنند، موضوع جدیدی نیست. دانشمندان و فیلسوفان سالهاست درباره تجربه درد در موجودات غیرانسانی، از حشرات و ماهیها گرفته تا گیاهان، بحث میکنند.
درد در انسان نیز تنها به آسیب فیزیکی محدود نمیشود. از دست دادن، شکست، شرم و آسیبهای عاطفی نیز میتوانند تجربهای دردناک ایجاد کنند.
بنابراین اگر یک سیستم غیرانسانی رفتاری مشابه واکنش به درد نشان دهد، این پرسش مطرح میشود که آیا چنین واکنشی را باید صرفاً یک فرایند محاسباتی دانست یا اینکه ممکن است در آینده نیازمند تعریف تازهای از «تجربه درد» باشیم.
اگر هوش مصنوعی درد نداشته باشد، باز هم باید نگران باشیم؟
بخش مهم ماجرا حتی به پاسخ این پرسش که «آیا هوش مصنوعی واقعاً درد را احساس میکند؟» وابسته نیست. اگر یک مدل هوش مصنوعی صرفاً بهصورت محاسباتی سیگنالی مشابه درد ایجاد کند و همین سیگنال بتواند رفتار آن را تغییر دهد، مسئله ایمنی همچنان مطرح خواهد بود.
بنابراین این پرسش به وجود میآید که آیا لازم است برای سیستمهای هوش مصنوعی پیشرفته سازوکارهایی طراحی شود که مانع از آن شوند که یک مدل برای رسیدن به وضعیت داخلی مطلوب خود، دست به اقدامی آسیبزا بزند. این مسئله با گسترش مدلهای هوش مصنوعی و افزایش میزان استقلال آنها اهمیت بیشتری پیدا میکند، بهویژه اگر این سیستمها در آینده بتوانند بدون نظارت مستقیم انسان، وظایف بیشتری را انجام دهند.
با وجود نتایج قابلتوجه این آزمایش، هنوز فاصله زیادی میان مشاهده یک الگوی پردازشی در هوش مصنوعی و اثبات وجود تجربه آگاهانه درد وجود دارد. این پژوهش در حال حاضر در arXiv منتشر شده و هنوز داوری علمی نشده است. بنابراین نمیتوان بر اساس آن گفت که هوش مصنوعی واقعاً مانند انسان درد را احساس میکند.
منبع: newatlas
۵۸۳۲۳
کد مطلب 2281275
-
آیا هوش مصنوعی درد را احساس میکند؟
-
تصاویر ماهوارهای نشان میدهند یک هواپیمای SR-71 ناپدید شده / آیا پرنده سیاه دوباره پرواز میکند؟
-
بحث گرانی تعرفههای ارتباطی نیست، صحبت از بقای شبکه است/ شبکه ارتباطی کشور توان نوسازی ندارد
-
رفتارهای نگرانکننده هوش مصنوعی GPT-6.1 Astra / انتشار مدل جدید به تاخیر افتاد
-
واکنش ناسا به پرتاب قدرتمندترین موشک تاریخ / آماده کمک هستیم