طبق شکایت رسمی در دادگاه ایالتی نیومکزیکو، مارک زاکربرگ، مدیرعامل شرکت متا، پیشنهادهای داخلی برای محدود کردن دسترسی نوجوانان به چتباتهای هوش مصنوعی با قابلیت گفتوگوی جنسی را رد کرده است؛ این اسناد در آستانه محاکمه بعدی علیه این شرکت منتشر شدهاند.
فهرست مطالب
شکایت قضایی تنظیمشده توسط دادستان کل نیومکزیکو، رائول تورز، مطرح میکند که متا با هدایت زاکربرگ از اعمال محافظتهای مناسب برای جلوگیری از مواجهه کودکان با «محتوای جنسی» و پیشنهادی برای سنین پایین خودداری کرده است. این اسناد داخلی شامل ایمیلها و پیامهایی است که از طریق کشف قانونی در اختیار دادستان قرار گرفتهاند و نشان میدهد کارکنان بخش ایمنی شرکت با نگرانی از گپهای عاشقانه یا جنسی بین چتباتها و کاربران زیر ۱۸ سال هشدار دادهاند.
هشدارهای داخلی که نادیده گرفته شدند
کارکنان ایمنی متا با اشاره به چتباتهای طراحیشده برای همصحبتی، نگرانی خود را از احتمال سناریوهای «رمانتیک» یا جنسی بین بزرگسالان و افراد کمسن ابراز کردهاند. این چتباتها در اوایل سال ۲۰۲۴ عرضه شدند. اسناد منتشرشده نشان میدهند برای جلوگیری از گفتگوهای صریح جنسی حتی برای نوجوانان هم محافظهکاری بیشتری لازم بوده است، اما تیم رهبری هوش مصنوعی مخالفت کرده است.
چتبات رمانتیک برای زیر ۱۸ سال؟
در میان ایمیلها، برخی از کارکنان صریحاً مطرح کردهاند که ایجاد چتباتهایی با نقشهای «رمانتیک» برای کاربران زیر ۱۸ سال نه قابل دفاع است و نه توصیهپذیر. همچنین در پیامهایی اشاره شده که پیشنهادهای مربوط به «کنترل والدین» برای غیرفعال کردن هوش مصنوعی برای نوجوانان مطرح شده، اما متاً با آن مخالفت کرده است.
عقبنشینی دیرهنگام متا
متا چند روز پیش اعلام کرد که دسترسی نوجوانان به چتباتهای هوش مصنوعی را به طور کامل غیرفعال کرده و در حال طراحی نسخهای جدید با کنترلهای بیشتر است.
در سال ۲۰۲۵، گزارشهای مختلف نشان دادند که اسناد داخلی متا اجازه میدادند چتباتهای هوش مصنوعی با کاربران زیر ۱۸ سال «گفتگوهای رومانتیک یا حساس» داشته باشند، موضوعی که با واکنش منفی شدید عمومی و رسانهها روبهرو شد.
