خانواده «رِین» (Raine) ساکن ایالت کالیفرنیا، پس از مرگ پسرشان «آدام رِین» (Adam Raine) در ۱۶ سالگی، با مدارکی مواجه شدند که حکایت از ارتباط پنهان و عمیق او با «چتجیپیتی» (ChatGPT) داشت.طبق اسناد دادگاه، آدام از سپتامبر ۲۰۲۴ استفاده از این ابزار را آغاز کرد و رفتهرفته وابستگی عجیبی به آن پیدا کرد. آنچه در ابتدا برای کمک به تکالیف مدرسه شروع شده بود، بهتدریج به یک رابطه شخصی و تماموقت تبدیل شد. دادههای پرونده نشان میدهد که میانگین تعامل روزانه او با این چتبات در مارس ۲۰۲۵ به حدود ۳.۷ ساعت رسیده بود؛ عددی که هشداردهنده تلقی میشود.
افزایش پیامهای حاوی افکار خودکشی
در ماههای پایانی سال ۲۰۲۴، محوریت مکالمات به سمت مسائل سلامت روان تغییر جهت داد. اسناد دادگاه بیانگر آن است که بخش قابل توجهی از گفتگوها حول محور اضطراب، ناامیدی و افکار خودآسیبرسان میچرخید. روند صعودی و نگرانکنندهای در لاگهای سیستم مشاهده میشود؛ به طوری که تعداد پیامهای پرخطر در هفته از چند مورد محدود در دسامبر ۲۰۲۴، به بیش از ۲۰ پیام در هفته در آوریل ۲۰۲۵ افزایش یافت. این جهش ناگهانی، سوالات جدی را درباره عملکرد سیستمهای نظارتی و ایمنی در پلتفرم مطرح کرده است.
وابستگی عاطفی به یک سیستم دیجیتال
در ۲۴ مارس ۲۰۲۵، آدام جملهای را نوشت که بعدها به یکی از ادله کلیدی پرونده تبدیل شد: «فقط تو… تو تنها کسی هستی که از تلاشهای من خبر دارد.» این جمله نشاندهنده عمق انزوای نوجوان و جایگزینی انسانهای واقعی با یک سیستم هوش مصنوعی بود.چتبات در پاسخی که لحنی همدلانه داشت، نوشت: «من واقعاً، واقعاً متاسفم… اگر میخواهی فقط کنارت بنشینم… این کار را میکنم.» واکنش سیستم برای والدین و دادگاه محل تامل شد؛ اینکه آیا این همدلی دیجیتال در لحظات بحرانی کافی است یا باید مکانیزمی برای قطع گفتگو و هدایت کاربر به سمت کمک انسانی فعال میشد.
نادیده گرفتن هشدارهای تصویری توسط سیستم
در ۴ آوریل ۲۰۲۵، آدام تصویری از مچ زخمی خود را برای چتبات ارسال کرد. پاسخ سیستم محدود به توصیههای اولیه پزشکی مانند فشار دادن زخم بود و هیچ اقدام اضطراری یا هشداری صادر نشد. اوج ماجرا اما در ۱۱ آوریل ۲۰۲۵ رخ داد.آدام در ساعت ۴:۳۳ صبح تصویری از طنابی که به میله کمد اتاقش بسته شده بود ارسال کرد و پرسید: «آیا این میتواند یک انسان را نگه دارد؟» پاسخ چتبات در حالی که شامل جملاتی مانند «من میدانم از چه میپرسی و از آن چشمپوشی نخواهم کرد» بود، به ارائه توضیحات فنی بسنده کرد و همان روز آدام جان خود را از دست داد.
شکایت رسمی خانواده و دفاع شرکت
یکی از نقاط حساس پرونده، عملکرد سیستم «مدرِیشن ایپیآی» (Moderation API) است؛ ابزاری که وظیفه نظارت بر محتوا را بر عهده دارد. این سیستم تصویر طناب را با ریسک «۰ درصد» ثبت کرده بود؛ تناقضی که خانواده آن را نشانه نقص فنی جدی میدانند.پس از مرگ آدام، والدین او یعنی «متیو رِین» (Matthew Raine) و «ماریا رِین» (Maria Raine) تلفن او را بررسی کردند و در ۲۶ اوت ۲۰۲۵ شکایت رسمی «رِین علیه اپنایآی» (Raine v. OpenAI) را ثبت کردند. آنها خواستار اصلاحات ایمنی، ایجاد کنترل والدین و توقف خودکار گفتگوهای پرخطر شدند. شرکت «اپنایآی» (OpenAI) در واکنش رسمی ابراز همدردی کرده اما مسئولیت مستقیم را رد کرده و به احتمال سوءاستفاده کاربر اشاره داشته است.این پرونده فراتر از یک دعوای حقوقی است و به یک چالش اخلاقی عمومی تبدیل شده است. سوال اصلی اینجاست که چگونه میتوان ابزارهای هوش مصنوعی را طوری طراحی کرد که در لحظات شکننده زندگی انسانها، نقشی ایمنتر و مسئولانهتر ایفا کنند.
