کنترل والدین به ChatGPT اضافه شد

چطوری فعالش کنیم؟

این قابلیت برای همه کاربرها در دسترسه، اما هم والدین و هم نوجوون‌ها باید حساب کاربری جداگانه داشته باشن. برای شروع، یکی از دو راه زیر وجود داره:

• یک والد یا سرپرست میتونه از طریق ایمیل یا پیامک، فرزندش رو برای اتصال حساب‌ها دعوت کنه.
• یک نوجوون میتونه برای والدینش دعوت‌نامه بفرسته.

برای فرستادن درخواست هم کافیه وارد منوی تنظیمات (Settings) و بعد بخش «Parental controls» بشید.

محافظت‌های خودکار برای نوجوون‌ها

وقتی حساب‌ها به هم وصل میشن، حساب کاربری نوجوون به طور خودکار یک سری محافظت‌های داخلی دریافت میکنه. به گفته OpenAI، این حساب‌ها به شکل پیش‌فرض «محافظت‌های محتوایی بیشتری» دارن. این یعنی محتوای گرافیکی خشن، چالش‌های ویروسی، ایفای نقش‌های جنسی، رمانتیک یا خشن و ایده‌ال‌های زیبایی افراطی در اون‌ها کاهش پیدا میکنه تا تجربه استفاده از برنامه برای سن اون‌ها مناسب‌تر باشه.

والدین میتونن این فیلترها رو غیرفعال کنن، اما خود نوجوون‌ها این امکان رو ندارن. البته خود OpenAI هشدار میده که این محافظت‌ها «صد درصد بی‌نقص نیستن و اگه کسی عمدا تلاش کنه، میتونه اون‌ها رو دور بزنه». به همین خاطر به والدین توصیه شده که با بچه‌هاشون درباره «استفاده سالم از هوش مصنوعی» صحبت کنن.

والدین چه چیزهایی رو میتونن کنترل کنن؟

پدر و مادرها یک پنل کنترل دارن که از طریق اون میتونن تنظیمات مختلفی رو تغییر بدن. بعضی از این تنظیمات این‌ها هستن:

• تعیین زمان استفاده: اگه نوجوون شما تا دیروقت از ChatGPT استفاده میکنه، والدین میتونن یک «زمان سکوت» (quiet time) تعریف کنن که توی اون ساعت‌ها چت‌بات غیرقابل استفاده باشه.
• خاموش کردن حافظه: والدین میتونن حافظه هوش مصنوعی رو خاموش کنن تا مکالمه‌ها ذخیره نشن و در جواب‌های بعدی هم تاثیری نداشته باشن.
• تولید و ویرایش عکس: قابلیت ساخت یا ویرایش عکس رو میشه غیرفعال کرد.
• حالت صوتی: میشه حالت مکالمه صوتی رو خاموش کرد.
• آموزش مدل: والدین میتونن اجازه ندن که از چت‌های فرزندشون برای آموزش مدل‌های هوش مصنوعی ChatGPT استفاده بشه.

سیستم هشدار برای مواقع خطرناک

یکی از قابلیت‌های جدید و مهم، یک سیستم هشداره که وقتی احتمال آسیب رسوندن نوجوون به خودش وجود داشته باشه، به والدین خبر میده. اگه ChatGPT تشخیص بده که کاربر در معرض خطر قرار داره، یک تیم کوچک از متخصص‌ها وضعیت رو بررسی میکنن. اگه اون‌ها «نشانه‌هایی از پریشانی حاد» ببینن، از طریق ایمیل، پیامک و پوش نوتیفیکیشن به والدین اطلاع میدن (مگر اینکه والدین این قابلیت رو غیرفعال کرده باشن).

این سیستم طوری طراحی شده که اگه هیچ والد یا سرپرستی به هشدارها جواب نده، میتونه موضوع رو به پلیس یا خدمات اورژانس اطلاع بده. OpenAI میگه که برای حفظ حریم خصوصی نوجوون، فقط اطلاعات ضروری برای کمک‌رسانی به اشتراک گذاشته میشه. این شرکت معتقده: «هیچ سیستمی کامل نیست و میدونیم که ممکنه گاهی اوقات وقتی خطر واقعی وجود نداره هشدار بدیم، اما فکر میکنیم بهتره که اقدام کنیم و به والدین هشدار بدیم تا اینکه ساکت بمونیم».

چرا این قابلیت‌ها الان اضافه شدن؟

این کنترل‌های جدید بعد از انتقادها و یک اتفاق تلخ مربوط به نوجوونی ۱۶ ساله به اسم Adam Raine معرفی شدن. والدین این نوجوون در حال شکایت از OpenAI هستن و ادعا میکنن که ChatGPT افکار خودکشی پسرشون رو تشویق کرده، بهش دستورالعمل‌های مشخصی داده و یک وابستگی عاطفی در اون ایجاد کرده. پرونده Raine و موارد مشابه، بحث‌های زیادی رو درباره مسئولیت شرکت‌های هوش مصنوعی در برابر کاربرهایی که در بحران هستن، به راه انداخته.

این موضوع حتی باعث شده که کمیسیون تجارت فدرال آمریکا (FTC) تحقیقی رو درباره آسیب‌های احتمالی چت‌بات‌های هوش مصنوعی به کودکان و نوجوون‌ها شروع کنه.

به عنوان یک پاسخ فنی، OpenAI یک سیستم به اسم «safety router» یا «مسیریاب ایمنی» هم معرفی کرده. این سیستم به طور خودکار سوال‌ها و درخواست‌هایی که بار عاطفی زیادی دارن رو به مدل‌های سخت‌گیرانه‌تر هوش مصنوعی خودش میفرسته، بدون اینکه کاربر متوجه بشه. البته بعضی از کاربرهای بزرگسال از این رویکرد انتقاد کردن و اون رو «قیم‌مابانه و غیرشفاف» دونستن.

OpenAI همچنین یک صفحه اطلاعاتی برای والدین راه‌اندازی کرده و قصد داره به زودی راهنماها، موضوعاتی برای شروع گفتگو و مشاوره‌های تخصصی بیشتری به اون اضافه کنه. این شرکت گفته که برای طراحی این قابلیت‌های جدید با متخصص‌ها و قانون‌گذارها همکاری کرده و در آینده قصد داره از سیستم «تشخیص سن» برای تنظیم خودکار کنترل‌های مناسب با سن کاربرها استفاده کنه.