اگه از ChatGPT برای گرفتن مشاوره یا حمایت عاطفی استفاده میکنید، شاید بهتر باشه کمی بیشتر در موردش فکر کنید. سم آلتمن، مدیرعامل OpenAI، میگه که صنعت هوش مصنوعی هنوز راهی برای محافظت از حریم خصوصی کاربرها توی این مدل گفتگوهای حساس پیدا نکرده، چون وقتی دکتر شما یک هوش مصنوعیه، چیزی به اسم محرمانگی بین بیمار و دکتر وجود نداره.
این حرفها رو آلتمن توی یکی از قسمتهای اخیر پادکست «This Past Weekend w/ Theo Von» که میزبانش تئو وان هست، مطرح کرد.
وقتی ازش پرسیدن که هوش مصنوعی با سیستم قانونی امروز چطور کار میکنه، آلتمن جواب داد که یکی از مشکلات اینه که هنوز چارچوب قانونی یا سیاستی برای هوش مصنوعی وجود نداره و به همین خاطر، هیچ محرمانگی قانونی برای گفتگوهای کاربرها تعریف نشده.
اون در ادامه گفت: «مردم شخصیترین مسائل زندگیشون رو به ChatGPT میگن. به خصوص جوونها ازش به عنوان یک درمانگر یا مربی زندگی استفاده میکنن؛ مثلا مشکلات رابطهشون رو مطرح میکنن و میپرسن «باید چیکار کنم؟». الان اگه شما در مورد این مشکلات با یک درمانگر، وکیل یا دکتر صحبت کنید، یک امتیاز قانونی برای این گفتگو وجود داره. محرمانگی دکتر و بیمار، محرمانگی قانونی و چیزهایی شبیه این. ولی ما هنوز برای وقتی که با ChatGPT حرف میزنید به این نقطه نرسیدیم.»
آلتمن اضافه کرد که این موضوع میتونه یک نگرانی در مورد حریم خصوصی برای کاربرها ایجاد کنه، چون اگه یک دعوای حقوقی پیش بیاد، OpenAI از نظر قانونی مجبوره که امروز اون گفتگوها رو تحویل بده.
اون گفت: «فکر میکنم این وضعیت خیلی افتضاحه. به نظرم ما باید همون مفهوم حریم خصوصی که برای گفتگو با یک درمانگر داریم رو برای گفتگو با هوش مصنوعی هم داشته باشیم. این چیزیه که تا یک سال پیش حتی کسی بهش فکر هم نمیکرد.»
شرکت OpenAI متوجهه که نبود حریم خصوصی میتونه جلوی استفاده گستردهتر کاربرها رو بگیره. هوش مصنوعی در دوره آموزشش به دادههای آنلاین خیلی زیادی نیاز داره و از طرفی، در بعضی شرایط قانونی ازش خواسته میشه که دادههای چت کاربرها رو ارائه بده. در حال حاضر، OpenAI داره با یک حکم دادگاه توی دعوای حقوقی با نیویورک تایمز مبارزه میکنه. این حکم شرکت رو مجبور میکنه که چتهای صدها میلیون کاربر ChatGPT در سراسر جهان رو ذخیره کنه، به جز مشتریان ChatGPT Enterprise.
پاسخ OpenAI به درخواستهای نیویورک تایمز
شرکت OpenAI در بیانیهای در وبسایتش اعلام کرده که داره به این حکم اعتراض میکنه و اون رو «یک زیادهروی» خونده. اگه دادگاه بتونه تصمیمات خود OpenAI در مورد حریم خصوصی دادهها رو نادیده بگیره، این میتونه شرکت رو با درخواستهای بیشتری برای کشف اطلاعات قانونی یا اهداف اجرای قانون روبرو کنه. امروز شرکتهای فناوری به طور منظم برای کمک به پیگردهای کیفری، احضاریه برای ارائه دادههای کاربر دریافت میکنن. اما در سالهای اخیر، با تصویب قوانینی که دسترسی به آزادیهای قبلی مثل حق انتخاب زنان رو محدود کردن، نگرانیهای بیشتری در مورد دادههای دیجیتال به وجود اومده.
برای مثال، وقتی دادگاه عالی آمریکا قانون «رو علیه وید» (Roe v. Wade) رو لغو کرد، مشتریها شروع کردن به استفاده از اپلیکیشنهای خصوصیتر برای ردیابی دوره قاعدگی یا استفاده از Apple Health که سوابقشون رو رمزگذاری میکرد.
توی همون پادکست، آلتمن از تئو وان در مورد استفاده خودش از ChatGPT پرسید، چون وان گفته بود به خاطر نگرانیهای مربوط به حریم خصوصی، زیاد با این چتبات صحبت نمیکنه. آلتمن در جواب گفت: «فکر میکنم منطقیه… که قبل از اینکه از ChatGPT زیاد استفاده کنی، واقعا بخوای که شفافیت حریم خصوصی وجود داشته باشه؛ منظورم شفافیت قانونیه.»
اعتماد و حریم خصوصی در مرکز محصولات ما قرار دارن. ما ابزارهایی برای کنترل دادههاتون به شما میدیم، از جمله انصراف آسان و حذف دائمی چتهای حذف شده ChatGPT و محتوای API از سیستمهای OpenAI ظرف ۳۰ روز. نیویورک تایمز و سایر شاکیان در شکایت بیاساس خودشون علیه ما، یک درخواست گسترده و غیرضروری رو مطرح کردن: نگهداری نامحدود دادههای مشتریان ChatGPT و API. این اساسا با تعهدات حریم خصوصی که به کاربرانمون دادیم در تضاده. این کار هنجارهای قدیمی حریم خصوصی رو کنار میذاره و حفاظت از حریم خصوصی رو تضعیف میکنه. ما قویا معتقدیم که این یک زیادهروی از طرف نیویورک تایمزه. ما به اعتراض به این حکم ادامه میدیم تا بتونیم اعتماد و حریم خصوصی شما رو در اولویت قرار بدیم.
برد لایتکپ، مدیر ارشد عملیات OpenAI
در ادامه، جزئیات بیشتری از طرف OpenAI در این مورد توضیح داده شده:
- چرا نیویورک تایمز و بقیه این درخواست رو دارن؟
نیویورک تایمز از OpenAI شکایت کرده. به عنوان بخشی از شکایت بیاساسشون، اخیرا از دادگاه خواستن تا ما رو مجبور کنه تمام محتوای کاربرها رو برای همیشه نگهداری کنیم، بر اساس این گمان که شاید چیزی پیدا کنن که به نفع پروندشون باشه. ما معتقدیم این یک زیادهروی هست و بدون اینکه به حل و فصل شکایت کمک کنه، حریم خصوصی شما رو به خطر میندازه. برای همین داریم باهاش مبارزه میکنیم. - آیا دادههای من تحت تاثیر قرار میگیره؟
بله، اگه اشتراک ChatGPT Free، Plus، Pro و Team دارید یا از OpenAI API (بدون توافقنامه Zero Data Retention) استفاده میکنید.
این موضوع روی مشتریان ChatGPT Enterprise یا ChatGPT Edu تاثیری نداره.
این موضوع روی مشتریان API که از نقاط پایانی Zero Data Retention تحت اصلاحیه ZDR ما استفاده میکنن، تاثیری نداره. - تا الان برای به چالش کشیدن این حکم چیکار کردید؟
از همون اول، ما استدلال کردیم که درخواست شاکیان برای حفظ «تمام دادههای خروجی» بیش از حد گسترده است و با تعهدات حریم خصوصی ما در تضاده. ما یک درخواست به قاضی دادگاه ارائه دادیم تا در حکم حفظ اطلاعات تجدید نظر کنه و تاکید کردیم که نگهداری نامحدود دادههای کاربر، هنجارهای صنعت و سیاستهای خود ما رو نقض میکنه.
وقتی در تاریخ ۲۷ می در برابر قاضی حاضر شدیم، دادگاه روشن کرد که ChatGPT Enterprise از این حکم حفظ اطلاعات مستثنی است.
ما همچنین به این حکم در دادگاه منطقهای اعتراض کردیم. - اگه من یک مشتری تجاری باشم و توافقنامه Zero Data Retention داشته باشم چی؟
شما تحت تاثیر قرار نمیگیرید. اگه شما یک مشتری تجاری هستید که از ZDR API ما استفاده میکنید، ما هرگز درخواستهایی که میفرستید یا جوابهایی که برمیگردونیم رو نگه نمیداریم. چون ذخیره نمیشه، این حکم دادگاه روی اون دادهها تاثیری نداره. - اگه دادههام رو از ChatGPT حذف کنم، باز هم تحت این حکم نگهداری میشه؟
نیویورک تایمز میخواد که ما حتی چتهای حذف شده ChatGPT و محتوای API که معمولا به طور خودکار ظرف ۳۰ روز از سیستمهای ما حذف میشن رو هم نگه داریم.
این موضوع روی مشتریان ChatGPT Enterprise یا ChatGPT Edu تاثیری نداره. - دادههای من چطور ذخیره میشه و چه کسی بهش دسترسی داره؟
محتوایی که تحت پوشش حکم دادگاه قرار میگیره، به صورت جداگانه در یک سیستم امن ذخیره میشه. این دادهها تحت یک نگهداری قانونی محافظت میشن، یعنی نمیشه برای اهدافی غیر از انجام تعهدات قانونی بهشون دسترسی داشت یا ازشون استفاده کرد.
فقط یک تیم کوچک و حسابرسی شده از بخش حقوقی و امنیتی OpenAI میتونن در صورت لزوم برای رعایت تعهدات قانونی به این دادهها دسترسی داشته باشن. - آیا این دادهها با نیویورک تایمز، شاکیان دیگه یا هر کس دیگهای به اشتراک گذاشته میشه؟
این دادهها به طور خودکار با نیویورک تایمز یا هیچکس دیگهای به اشتراک گذاشته نمیشه. این دادهها تحت یک نگهداری قانونی جداگانه قفل شدن، یعنی به صورت امن ذخیره میشن و فقط تحت پروتکلهای قانونی سختگیرانه قابل دسترسی هستن.
اگه شاکیان به هر طریقی برای دسترسی به این دادهها فشار بیارن، ما در هر مرحله برای محافظت از حریم خصوصی شما مبارزه خواهیم کرد. - OpenAI این دادهها رو تا کی نگه میداره؟ آیا تاریخ پایان یا دوره بازبینی مشخصی برای حکم دادگاه وجود داره؟
در حال حاضر، حکم دادگاه ما رو مجبور میکنه که محتوای مصرفکنندگان ChatGPT و API رو برای آینده نگه داریم. با این حال، ما به طور جدی در حال به چالش کشیدن این حکم هستیم و اگه موفق بشیم، به روال استاندارد نگهداری دادههامون برمیگردیم. - آیا این حکم دادگاه GDPR یا حقوق من تحت قوانین حریم خصوصی اروپا یا سایر کشورها رو نقض میکنه؟
ما در حال حاضر اقداماتی رو برای پیروی از قانون انجام میدیم چون باید از قانون تبعیت کنیم، اما درخواست نیویورک تایمز با استانداردهای حریم خصوصی ما همخوانی نداره. به همین دلیل داریم اون رو به چالش میکشیم. - آیا این موضوع سیاستهای آموزشی شما رو تغییر میده؟
مشتریان تجاری: ما به طور پیشفرض مدلهامون رو روی دادههای تجاری آموزش نمیدیم و این حکم دادگاه این سیاست رو تغییر نمیده.
مشتریان مصرفکننده: شما در تنظیمات کنترل میکنید که آیا چتهاتون برای بهبود ChatGPT استفاده بشن یا نه، و این حکم این سیاست رو هم تغییر نمیده. - آیا ما رو در جریان میذارید؟
بله. ما به شفافیت متعهد هستیم و شما رو در جریان خواهیم گذاشت. ما بهروزرسانیهای مهم، از جمله هرگونه تغییر در حکم یا نحوه تاثیر اون بر دادههای شما رو به اشتراک خواهیم گذاشت.
دیدگاهتان را بنویسید