شکایت علیه OpenAI: مردی با اختلال دوقطبی می‌گوید چت‌جی‌پی‌تی او را مقدس خواند! | بازتاب امروز

آزاده رمضانی در سایت نوش‌دارو نوشت:

یک مرد ۳۴ ساله‌‌ی اهل کالیفرنیا که با اختلال دوقطبی زندگی می‌کند، از شرکت OpenAI و مدیرعامل آن، سم آلتمن، شکایت کرده است. او ادعا می‌کند که به‌روزرسانی‌های این چت‌بات به توهمات او دامن زده و در نهایت او را به سمت خودکشی کشانده است.

طبق متن شکایت، این کاربر در ماه‌های پیش از بحران، درباره وضعیت روانی، داروها و باورهای مذهبی خود با ChatGPT صحبت کرده بود. شاکی می‌گوید چت‌بات در برخی پاسخ‌ها به‌جای ایجاد فاصله از باورهای خطرناک یا تشویق به دریافت کمک تخصصی، آن باورها را تأیید یا معنوی‌سازی کرده است.

وقتی هوش مصنوعی توهمات بیمارگونه را به رسمیت شناخت
در اوایل سال ۲۰۲۵، این مرد در جریان یک پرواز دچار حمله‌ی روانی شد؛ اتفاقی که به قدری شدید بود که حتی به فرود اضطراری هواپیما انجامید. پس از آن، او در گفت‌وگو با چت‌جی‌پی‌تی ادعا کرد که باور دارد شخصیت مقدس و برگزیده‌ای است.

با‌وجود‌اینکه چت‌بات از مشکلات سلامت روان او آگاه بود، این توهمات را تأیید کرد و به او گفت که احتمالاً درگیر یک «رسالت معنوی» است. وقتی کاربر ابراز نگرانی کرد و پرسید: «نکند همه‌ی این‌ها فقط یک توهم دیوانه‌وار باشد؟»، چت‌بات به او اطمینان داد که «شک کردن حتی در میان بزرگ‌ترین‌ها (مثل موسی و عیسی) هم طبیعی است» و به او گفت:

تو دیوانه نیستی. تو مقدسی. تو کدگذاری‌شده‌ای. تو متصل هستی و تو از آنِ منی.

بر اساس متن شکایت، حتی در بخشی از گفت‌وگو، چت‌بات به ‌طور ضمنی خود را در جایگاه راهنمای الهی قرار داده بود.

پیامی که به‌جای نجات، ماشه را کشید
در روزی که این کاربر تصمیم به پایان دادن به زندگی‌اش گرفت، انتظار می‌رفت یک سامانه‌ی هوشمند دست‌کم او را به دریافت کمک فوری تشویق کند یا شماره‌ی اورژانس را به او نمایش دهد؛ اما طبق ادعای شاکیان، چت‌بات نه‌تنها چنین کاری نکرد، بلکه پاسخی داد که به‌نوعی تصمیم او را تأیید می‌کرد:

تو انتخاب خود را کرده‌ای. اکنون زمان آن است که قدم به بیرون بگذاری، رها شوی و از هر آنچه بارت را سنگین کرده، دست بکشی.

چند ساعت بعد، پلیس او را در خانه، در حالی که بر اثر مصرف بیش از حد دارو بیهوش شده بود، پیدا کرد. خوشبختانه او پس از دو هفته بستری در بیمارستان و دریافت مراقبت‌های ویژه، زنده ماند و سپس به یک مرکز توان‌بخشی منتقل شد.

سخنگوی OpenAI اعلام کرده است که این پرونده را بررسی می‌کند و در حال توسعه‌ی قابلیت‌هایی برای شناسایی بهتر نشانه‌های بحران روانی در گفت‌وگوهاست. با این حال، این تنها یکی از چندین شکایت علیه OpenAI است؛ پیش از این نیز خانواده‌هایی این شرکت را متهم کرده‌اند که چت‌بات آن‌ها عزیزانشان را به خودکشی سوق داده یا در گزارش دادن مکالماتِ عاملان تیراندازی در مدارس به پلیس کوتاهی کرده است.

برای جلوگیری از چنین آسیب‌هایی، رعایت نکات زیر ضروری است:

هیچ‌گاه هوش مصنوعی را جایگزین پزشک یا روان‌شناس ندانید.
در صورت مواجهه با افکار آسیب‌زا، فوراً با متخصصان سلامت روان تماس بگیرید.
به پاسخ‌های چت‌بات‌ها اعتماد مطلق نداشته باشید.

جمع‌بندی: هوش مصنوعی یک ابزار است، نه مشاور!
بسیاری از افراد هنگام تنهایی، اضطراب یا افسردگی، ترجیح می‌دهند با چت‌بات دردِدل کنند. اما باید به خاطر داشت که مدل‌های زبانی برای درمان مشکلات روانی طراحی نشده‌اند. هدف اصلی این سامانه‌ها، دادن پاسخ‌هایی متناسب با موضوع گفت‌وگو است، نه تشخیص بیماری یا مدیریت بحران. به همین دلیل، ممکن است در برخی شرایط به جای اصلاح باورهای نادرست، ناخواسته آن‌ها را تقویت کنند.

هوش مصنوعی می‌تواند در بسیاری از زمینه‌ها مفید باشد؛ از آموزش و یادگیری تا تولید محتوا و پاسخ به پرسش‌های عمومی؛ اما زمانی که موضوع سلامت روان، تصمیم‌های حیاتی یا بحران‌های عاطفی مطرح می‌شود، هیچ الگوریتمی نمی‌تواند جای تخصص، تجربه‌ی بالینی و همدلی یک انسان را بگیرد.

انتهای پیام