GeekAlerts

جایی برای گیک‌ها

پدیده AI Washing؛ وقتی شرکت‌ها در مورد استفاده از هوش‌مصنوعی اغراق می‌کنند

پدیده AI Washing؛ وقتی شرکت‌ها در مورد استفاده از هوش‌مصنوعی اغراق می‌کنند

خلاصه

  • «AI Washing» یعنی شرکت‌ها در مورد اینکه چقدر از هوش مصنوعی تو محصولاتشون استفاده کردن، اغراق میکنن و حقیقت رو نمیگن.
  • ماجرای فروشگاه‌های آمازون و سیستم «فقط بردار و برو» یه مثال بزرگ از این پدیده بود که مشخص شد کلی کارمند انسانی پشتش بودن.
  • شرکت‌ها برای جذب سرمایه، رقابت تو بازار و چون تعریف هوش مصنوعی خیلی مبهمه، به سمت این تبلیغات اغراق‌آمیز میرن.
  • طبق تحقیقات، حدود ۴۰ درصد استارتاپ‌هایی که خودشون رو «AI استارتاپ» معرفی میکردن، تقریبا هیچ استفاده‌ای از هوش مصنوعی نداشتن.
  • این پدیده میتونه به اعتماد عمومی آسیب بزنه، سرمایه‌گذارها رو گمراه کنه و جلوی پیشرفت واقعی هوش مصنوعی رو بگیره.
  • نهادهای نظارتی مثل SEC و FTC تو آمریکا وارد عمل شدن و شرکت‌هایی رو که دروغ گفتن، جریمه کردن تا جلوی این کار گرفته بشه.

حتما این روزا اسم هوش مصنوعی یا همون AI رو همه جا شنیدین. از ماشین لباسشویی گرفته تا محصولات سرمایه‌گذاری، انگار همه چیز داره «هوشمند» میشه. اما آیا واقعا همه این ادعاها درستن؟ یه بحث جدیدی راه افتاده به اسم «AI washing» که میخواد به همین سوال جواب بده. بذارین ببینیم داستان از چه قراره و چرا این موضوع اینقدر مهم شده.

داستان از کجا شروع شد؟ یه مثال بزرگ از آمازون

شاید بهترین نقطه شروع، ماجرای فروشگاه‌های آمازون باشه. امسال آمازون با یه سری خبرهای جنجالی روبرو شد که به فناوری «فقط بردار و برو» (Just Walk Out) توی فروشگاه‌های مواد غذاییش مربوط میشد. این سیستم که با هوش مصنوعی کار میکنه، به مشتری‌های فروشگاه‌های Amazon Fresh و Amazon Go اجازه میده خیلی راحت وسایلشون رو بردارن و از فروشگاه خارج بشن. هوش مصنوعی با استفاده از کلی سنسور و دوربین میفهمه شما چی برداشتین و بعدا به صورت خودکار پولش رو از حسابتون کم میکنه.

اما ماه آوریل، گزارش‌هایی منتشر شد که میگفتن این سیستم خیلی هم خودکار نیست و برای بررسی تقریبا سه چهارم تراکنش‌ها، به حدود ۱۰۰۰ کارمند توی هند نیاز داره که به صورت دستی کارها رو چک کنن. یعنی به جای اینکه فقط هوش مصنوعی کار رو انجام بده، بخش بزرگی از کار توسط انسان‌ها انجام میشده.

آمازون خیلی سریع واکنش نشون داد و گفت این گزارش‌ها «اشتباه» هستن و کارمندهای هندی فیلم‌های همه فروشگاه‌ها رو بازبینی نمیکنن. به گفته آمازون، این کارمندها فقط خود سیستم رو بازبینی میکردن. آمازون اضافه کرد که «این کار هیچ فرقی با بقیه سیستم‌های هوش مصنوعی که دقت بالایی دارن نداره، چون توی این سیستم‌ها وجود بازبین‌های انسانی یه چیز رایجه». حتی بعدا یه پست وبلاگی منتشر کرد تا توضیح بده که از هوش مصنوعی مولد، بینایی کامپیوتری و ترکیب سنسورها برای «ابداع فناوری‌های بدون نیاز به پرداخت» استفاده کرده.

صرف نظر از اینکه جزئیات دقیق ماجرای آمازون چی بوده، این قضیه یه نمونه خیلی معروف از یه سوال جدیده که روز به روز بیشتر مطرح میشه: آیا شرکت‌ها دارن در مورد استفاده‌شون از هوش مصنوعی غلو میکنن؟ این پدیده یه اسم هم پیدا کرده: «AI washing». این اصطلاح از یه عبارت دیگه به اسم «green washing» یا «سبزشویی» گرفته شده که به شرکت‌هایی اشاره داره که در مورد دوست‌دار محیط زیست بودن محصولاتشون ادعاهای دروغین یا اغراق‌آمیز میکنن.

اصلا AI washing یعنی چی؟

قبل از هر چیزی، بذارین یه یادآوری کنیم که هوش مصنوعی دقیقا یعنی چی. با اینکه تعریف دقیقی براش وجود نداره، هوش مصنوعی به کامپیوترها اجازه میده یاد بگیرن و مسائل رو حل کنن. این کار بعد از این ممکنه که اول روی حجم عظیمی از اطلاعات آموزش ببینن. نوع خاصی از هوش مصنوعی که توی چند سال اخیر خیلی سر و صدا کرده، «هوش مصنوعی مولد» (Generative AI) هست. این نوع هوش مصنوعی تخصصش توی تولید محتوای جدیده، چه مکالمه متنی باشه، چه تولید موسیقی یا عکس. چت‌بات‌هایی مثل ChatGPT، Gemini گوگل و Copilot مایکروسافت نمونه‌های معروفی از هوش مصنوعی مولد هستن.

حالا برگردیم سراغ AI washing. این پدیده چند نوع مختلف داره:

  • بعضی شرکت‌ها ادعا میکنن از هوش مصنوعی استفاده میکنن در حالی که در واقع دارن از محاسبات کامپیوتری ساده‌تری استفاده میکنن.
  • بعضی دیگه کارایی هوش مصنوعیشون رو در مقایسه با روش‌های قدیمی خیلی بیشتر از چیزی که هست نشون میدن.
  • یه عده هم میگن راه‌حل‌های هوش مصنوعیشون کاملا عملیاتیه در حالی که اینطور نیست.
  • یه سری شرکت‌ها هم هستن که خیلی ساده یه چت‌بات هوش مصنوعی رو به نرم‌افزار غیر هوشمند فعلیشون اضافه میکنن و اسمش رو میذارن محصول هوش مصنوعی.

به طور کلی، AI washing یه تاکتیک بازاریابیه که شرکت‌ها برای اغراق در مورد میزان استفاده از فناوری هوش مصنوعی توی محصولاتشون به کار میبرن. هدفشون اینه که محصولاتشون پیشرفته‌تر از چیزی که هست به نظر بیاد و از علاقه روزافزون مردم به هوش مصنوعی سود ببرن. یه جورایی مثل این میمونه که روی یه ماشین معمولی خط‌های مسابقه‌ای بکشی بدون اینکه موتورش رو تقویت کنی و بعد بگی این یه ماشین مسابقه‌ایه.

چرا شرکت‌ها به AI washing رو میارن؟

دلایل مختلفی وجود داره که یه شرکت ممکنه دست به چنین کاری بزنه.

  1. جذب سرمایه: هوش مصنوعی، مخصوصا هوش مصنوعی مولد، از زمان عرضه ChatGPT به یه ترند خیلی محبوب تبدیل شده. سرمایه‌گذارها دوست دارن روی محصولات و شرکت‌هایی سرمایه‌گذاری کنن که فکر میکنن میتونن موفقیت مشابهی داشته باشن. مطالعات نشون داده استارتاپ‌هایی که توی معرفی خودشون از کلمه «هوش مصنوعی» استفاده میکنن، بین ۱۵ تا ۵۰ درصد بیشتر از بقیه سرمایه جذب میکنن. پس تبلیغ کردن هوش مصنوعی مولد، چه واقعا توی محصول باشه چه نباشه، سرمایه‌گذارها رو جذب میکنه. این وضعیت خیلی‌ها رو یاد حباب دات‌کام میندازه که شرکت‌ها فقط با اضافه کردن «دات‌کام» به آخر اسمشون ارزش سهامشون رو بالا میبردن.
  2. فشار رقابت و به‌روز بودن: خیلی از شرکت‌های خدمات مالی حس میکنن برای اینکه توی رقابت باقی بمونن باید از نظر فناوری پیشرفته به نظر بیان. سری آیانگار، یکی از اعضای تیم OpenOcean که یه صندوق سرمایه‌گذاری برای شرکت‌های فناوری جدیده، میگه رقابت برای جذب سرمایه و تمایل به پیشرو بودن باعث شده بعضی شرکت‌ها توانایی‌های هوش مصنوعیشون رو بیش از حد نشون بدن. اون میگه: «بعضی از بنیان‌گذارها انگار فکر میکنن اگه توی معرفی طرحشون به هوش مصنوعی اشاره نکنن، ممکنه عقب بیفتن، صرف نظر از اینکه هوش مصنوعی واقعا چه نقشی توی راه‌حلشون داره».
  3. انتظار برای آینده: بعضی شرکت‌ها ممکنه قبل از اینکه واقعا هوش مصنوعی رو توی محصولاتشون به کار ببرن، شروع به تبلیغش کنن. یعنی قصد دارن در آینده این کار رو بکنن، ولی طوری تبلیغ میکنن که انگار همین الان هم این قابلیت وجود داره.
  4. تعریف مبهم: خود کلمه «هوش مصنوعی» یه اصطلاح کلیه و فناوری‌های مختلفی رو شامل میشه. این تعریف مبهم و انعطاف‌پذیر به شرکت‌ها فضا میده تا معنیش رو کش بدن و از محبوبیتش استفاده کنن. وقتی یه مشتری عادی در مورد یه محصول کلمه «هوش مصنوعی» رو میشنوه، ممکنه فکر کنه منظورشون همون «هوش مصنوعی مولد» هست، چون این روزا این اصطلاح خیلی سر زبون‌هاست. در حالی که ممکنه منظور شرکت یه فناوری خیلی ساده‌تر باشه که اگه مشتری‌ها میدونستن چیه، شاید اونقدرها هم براشون جذاب نبود.

این پدیده چقدر جدیه؟ نگاهی به آمار

این مشکل بی‌سر و صدا چند سالیه که وجود داره. طبق داده‌های شرکت سرمایه‌گذاری OpenOcean، در حالی که فقط ۱۰ درصد از استارتاپ‌های فناوری توی سال ۲۰۲۲ توی معرفی خودشون به استفاده از هوش مصنوعی اشاره کرده بودن، این رقم توی سال ۲۰۲۳ به بیشتر از یک چهارم رسید. این شرکت انتظار داره که امسال این عدد به بیشتر از یک سوم برسه. سری آیانگار از همین شرکت میگه: «تحلیل‌های ما نشون میده یه تفاوت قابل توجهی بین شرکت‌هایی که ادعای قابلیت‌های هوش مصنوعی دارن و اونایی که نتایج ملموس مبتنی بر هوش مصنوعی نشون میدن، وجود داره».

یه شرکت سرمایه‌گذاری دیگه به اسم MMC Ventures توی یه مطالعه توی سال ۲۰۱۹ به این نتیجه رسیده بود که ۴۰ درصد از شرکت‌های فناوری جدیدی که خودشون رو «استارتاپ هوش مصنوعی» معرفی میکردن، در عمل تقریبا هیچ استفاده‌ای از هوش مصنوعی نمیکردن. سایمون مناشی، یکی از شرکای اصلی MMC Ventures، میگه: «امروز همون مشکل به علاوه یه مشکل دیگه وجود داره». اون توضیح میده که «قابلیت‌های پیشرفته هوش مصنوعی» حالا برای هر شرکتی با قیمت یه نرم‌افزار استاندارد قابل خریده. اما به جای اینکه یه سیستم هوش مصنوعی کامل بسازن، خیلی از شرکت‌ها فقط یه رابط کاربری چت‌بات رو روی یه محصول غیر هوشمند قرار میدن.

از طرف دیگه، گزارش «وضعیت هوش مصنوعی در خدمات مالی: روندهای ۲۰۲۵» شرکت NVIDIA نشون میده که توی یه نظرسنجی جهانی از متخصصان مالی، ۵۷ درصد از پاسخ‌دهنده‌ها در حال استفاده یا بررسی استفاده از هوش مصنوعی برای تحلیل داده‌ها هستن و استفاده از هوش مصنوعی مولد از ۴۰ درصد در سال ۲۰۲۳ به شدت به ۵۲ درصد افزایش پیدا کرده. این یعنی علاقه به هوش مصنوعی واقعیه، ولی همین علاقه باعث میشه وسوسه برای اغراق کردن هم بیشتر بشه.

AI washing چه مشکلاتی ایجاد میکنه؟

شاید به نظر بیاد این فقط یه جور تبلیغات بی‌ضرره که همیشه توی دنیای فناوری بوده، اما AI washing میتونه چالش‌ها و خطرات واقعی ایجاد کنه.

  • برای کسب‌و‌کارها: داگلاس دیک، مدیر بخش ریسک فناوری‌های نوظهور توی شرکت حسابرسی کی‌پی‌ام‌جی (KPMG)، میگه این ابهام در تعریف هوش مصنوعیه که به AI washing اجازه ظهور داده. به گفته اون: «AI washing میتونه تاثیرات نگران‌کننده‌ای برای کسب‌و‌کارها داشته باشه، از پرداخت پول زیاد برای فناوری و خدمات گرفته تا نرسیدن به اهداف عملیاتی که انتظار میرفت هوش مصنوعی بهشون کمک کنه».
  • برای سرمایه‌گذارها: این وضعیت باعث میشه شناسایی شرکت‌های واقعا نوآور سخت‌تر بشه. سرمایه‌گذارها ممکنه فرصت‌های حمایت از پروژه‌هایی که پیشرفت‌های فناوری واقعی و ارزش‌آفرین ارائه میدن رو از دست بدن.
  • برای مصرف‌کننده‌ها: به گفته آقای آیانگار: «اگه انتظارات مصرف‌کننده‌ها از محصولاتی که ادعای ارائه راه‌حل‌های پیشرفته مبتنی بر هوش مصنوعی دارن برآورده نشه، این میتونه باعث از بین رفتن اعتماد به استارتاپ‌هایی بشه که واقعا دارن کارهای پیشگامانه‌ای انجام میدن».
  • برای نوآوری واقعی: این پدیده میتونه نوآوری واقعی رو خفه کنه یا اون رو زیر سایه قرار بده، چون پیشرفت‌های واقعی هوش مصنوعی توی هیاهوی این همه ادعای اغراق‌آمیز گم میشن.
  • برای کل صنعت: AI washing باعث ایجاد انتظارات غیرواقعی در مورد توانایی‌های فعلی هوش مصنوعی میشه که میتونه منجر به تعیین اهداف غیرواقع‌بینانه توسط کسب‌و‌کارها بشه. همچنین به مفاهیمی مثل هوش مصنوعی قابل توضیح (Explainable AI یا XAI) آسیب میزنه. XAI یه حرکته که تلاش میکنه سیستم‌های هوش مصنوعی رو شفاف‌تر، قابل فهم‌تر و قابل اعتمادتر کنه. اگه شرکت‌ها در مورد نحوه استفاده از هوش مصنوعی اغراق کنن یا اون رو پنهان کنن، ارزیابی ارزش یا خطرات واقعی این ابزارها برای همه سخت‌تر میشه.
  • خطر مونوکالچر (تک‌فرهنگی): یه خطر دیگه که گری گنسلر، رئیس کمیسیون بورس و اوراق بهادار آمریکا (SEC)، بهش اشاره کرده، ایجاد یه «مونوکالچر» توی صنعت ماله. یعنی ممکنه خیلی از شرکت‌های مختلف که هر کدوم ادعای مدل هوش مصنوعی «منحصر به فرد» خودشون رو دارن، در واقع همگی از چند مدل پایه محدود استفاده کنن. به گفته گنسلر: «هزاران نهاد مالی به دنبال ساختن برنامه‌هایی هستن که احتمالا به تعداد انگشت‌شماری از مدل‌های پایه بالادستی متکی هستن». این میتونه باعث وابستگی بیش از حد به این چند مدل و ارائه‌دهنده محدود بشه و اگه مشکلی برای اون مدل‌های اصلی پیش بیاد، میتونه منجر به یه بحران مالی بشه.

نهادهای نظارتی وارد میشن

با جدی شدن این موضوع، نهادهای نظارتی، حداقل توی آمریکا، شروع به واکنش نشون دادن.

  • کمیسیون بورس و اوراق بهادار آمریکا (SEC): گری گنسلر، رئیس SEC، توی یه سخنرانی توی دانشگاه ییل در فوریه ۲۰۲۴ هشدار داد که بعضی شرکت‌ها درگیر AI washing هستن که میتونه قوانین اوراق بهادار آمریکا رو نقض کنه، مصرف‌کننده‌ها رو گمراه کنه و به سرمایه‌گذارها آسیب بزنه. چند ماه بعد، در مارس ۲۰۲۴، SEC اعلام کرد که دو شرکت مشاور سرمایه‌گذاری رو به خاطر بیانیه‌های نادرست و گمراه‌کننده در مورد میزان استفاده‌شون از هوش مصنوعی، ۴۰۰ هزار دلار جریمه کرده. این دو شرکت توافق کردن که اتهامات رو حل و فصل کنن و این جریمه مدنی رو بپردازن. نیک وایت، یکی از شرکای شرکت حقوقی بین‌المللی Charles Russell Speechlys میگه: «موضع قاطع SEC نشون میده که در مورد AI washing هیچ اغماضی وجود نداره و این یعنی، حداقل در آمریکا، میتونیم انتظار جریمه‌ها و تحریم‌های بیشتری رو برای کسانی که قوانین رو نقض میکنن، داشته باشیم».
  • کمیسیون تجارت فدرال آمریکا (FTC): یک سال قبل از هشدار SEC، FTC هم در مورد ادعاهای نادرست یا بی‌اساس مربوط به هوش مصنوعی هشدار داده بود. FTC حتی پنج پرونده رو در قالب عملیات «Operation AI Comply» علنی کرد که روی شرکت‌هایی تمرکز داره که از هوش مصنوعی برای فریب دادن یا آسیب رسوندن به مصرف‌کننده‌ها استفاده میکنن.
  • نهادهای نظارتی در کشورهای دیگه: این مشکل فقط محدود به آمریکا نیست. توی بریتانیا، قوانین مربوط به AI washing از قبل تحت آیین‌نامه رفتار سازمان استانداردهای تبلیغاتی (ASA) وجود داره. این آیین‌نامه میگه ارتباطات بازاریابی نباید به طور اساسی گمراه‌کننده باشن. مایکل کوردو، از شرکت حقوقی Walker Morris، میگه ادعاهای مربوط به هوش مصنوعی به طور فزاینده‌ای توی تبلیغاتی که توسط ASA بررسی میشن، دیده میشه. یه نمونه‌ش یه پست پولی اینستاگرام در مورد یه اپلیکیشن با عنوان «عکس‌هاتون رو با هوش مصنوعی بهتر کنین» بود که ASA تشخیص داد این تبلیغ در مورد عملکرد اپلیکیشن اغراق کرده و بنابراین گمراه‌کننده بوده. در کانادا هم، مدیران اوراق بهادار کانادا (CSA) یه اطلاعیه‌ای منتشر کردن و به صادرکننده‌ها هشدار دادن که «در استفاده از اصطلاحات کلی احتیاط کنن» و اگه از این اصطلاحات استفاده میکنن، باید بتونن ادعاهاشون رو ثابت کنن.

چطوری AI washing رو تشخیص بدیم؟

با این همه هیاهو، چطور میشه فهمید کدوم ادعا واقعیه و کدوم فقط تبلیغاته؟

یه سری سوال هست که میشه پرسید:
کمیسیون تجارت فدرال آمریکا (FTC) چند تا سوال اساسی رو مطرح کرده که یه شرکت میتونه از خودش بپرسه تا بفهمه درگیر AI washing هست یا نه:

  • آیا در مورد کاری که محصول هوش مصنوعیتون میتونه انجام بده اغراق میکنین؟ ادعاهای بهبود عملکرد باید بدون قید و شرط باشن و مدرک علمی برای اثباتشون وجود داشته باشه.
  • آیا قول میدین که محصول هوش مصنوعیتون کاری بیشتر از یه محصول غیر هوش مصنوعی انجام میده؟ برای این ادعا باید مدرک کافی وجود داشته باشه، چون ممکنه ازش برای توجیه افزایش قیمت یا تاثیر روی تصمیمات مربوط به نیروی کار استفاده بشه.
  • آیا از خطراتش آگاه هستین؟ فروشنده‌های هوش مصنوعی مسئول تاثیرات محصولاتشون بعد از ورود به بازار هستن.
  • آیا محصول اصلا از هوش مصنوعی استفاده میکنه؟ استفاده از یه ابزار هوش مصنوعی توی فرآیند توسعه، یه محصول رو «مبتنی بر هوش مصنوعی» نمیکنه.

برای خریدارها و سرمایه‌گذارها:
برای اینکه قربانی AI washing نشین، این کارها رو میتونین انجام بدین:

  1. درخواست مدرک کنین: وقتی دارین یه ابزار هوش مصنوعی رو بررسی میکنین، مدرک محکم در مورد نحوه استفاده از هوش مصنوعی توی محصول بخواین. مثلا تیم خرید میتونه بپرسه محصول از چه مدل‌ها یا کتابخانه‌های کدی استفاده میکنه. مراقب جواب‌های مبهم باشین.
  2. بخش فنی (IT) رو درگیر کنین: به خاطر هیاهوی دور و بر هوش مصنوعی، ممکنه تیم خرید وسوسه بشه که سریع یه محصول مبتنی بر هوش مصنوعی رو بخره و به نگرانی‌های فنی توجه نکنه. یه فرهنگ همکاری ایجاد کنین که بخش IT هم توی فرآیند خرید حضور داشته باشه تا تیم خرید گول تبلیغات رو نخوره.
  3. به کل محصول نگاه کنین: خریدارها نباید یه محصول رو فقط به خاطر اینکه هوش مصنوعی داره بخرن. باید به کل محصول نگاه کنن و همه مزایا و چالش‌های احتمالی رو در نظر بگیرن، مخصوصا اگه ویژگی‌های هوش مصنوعیش زیر سوال باشه.
  4. دنبال جزئیات فنی باشین: دنبال اشاره به مدل‌ها، فناوری‌ها یا الگوریتم‌های خاصی مثل پردازش زبان طبیعی، شبکه‌های عصبی یا یادگیری عمیق باشین. از شرکت‌هایی که تمایلی یا توانایی توضیح نحوه کار فناوریشون رو ندارن، دوری کنین. این اطلاعات معمولا توی مطالعات موردی یا وایت‌پیپرهای وب‌سایت شرکت‌ها پیدا میشه.
  5. سوال‌های سخت بپرسین: اگه با یه نماینده فروش صحبت میکنین، ازش بپرسین چه اقداماتی برای جلوگیری از سوگیری (bias) توی داده‌ها و الگوریتم‌ها یا توهمات هوش مصنوعی (AI hallucinations) انجام میدن. اگه برای این مشکلات راه‌حلی ندارن، ممکنه اصلا از هوش مصنوعی واقعی استفاده نمیکنن.

نگاهی عمیق‌تر به ریسک‌های هوش مصنوعی در صنعت مالی

صنعت مالی یکی از جاهاییه که هوش مصنوعی هم میتونه خیلی مفید باشه و هم خیلی پرخطر. به همین دلیل، ریسک‌های مربوط به AI washing و خود هوش مصنوعی در این حوزه اهمیت ویژه‌ای دارن.

  • ریسک شخص ثالث: یکی از بزرگترین ریسک‌های مرتبط با AI washing، ریسک شخص ثالثه. موسسات مالی باید بدونن که فروشنده‌هاشون چطور از هوش مصنوعی استفاده میکنن و آیا ادعاهاشون دقیقه یا نه. بررسی دقیق (Due diligence) اینجا خیلی حیاتیه.
  • ریسک سوگیری الگوریتمی: اگه سیستم‌های هوش مصنوعی با دقت مدیریت نشن، میتونن سوگیری‌های موجود توی مجموعه داده‌ها رو تکرار یا حتی تشدید کنن و منجر به نتایج تبعیض‌آمیز بشن. مثلا یه موسسه مالی که از هوش مصنوعی توی سیستم‌های وام‌دهیش استفاده میکنه، باید فرآیندها و نتایج وام‌دهیش رو برای تاثیرات تبعیض‌آمیز بررسی کنه تا با قوانینی مثل HMDA و CRA مطابقت داشته باشه.
  • ریسک امنیت اطلاعات: ظهور هوش مصنوعی ریسک‌های امنیت اطلاعات رو هم بیشتر کرده. مثلا مهاجم‌ها میتونن از هوش مصنوعی برای دسترسی به سیستم‌ها و انجام حملات سایبری کارآمدتر استفاده کنن.

برای مدیریت این ریسک‌ها، موسسات مالی میتونن کنترل‌هایی رو در نظر بگیرن:

  • برنامه مدیریت ریسک جامع: این برنامه باید ارزیابی‌ها و کنترل‌های داخلی مشخصی داشته باشه که با پروفایل ریسک موسسه هماهنگ باشه.
  • برنامه مدیریت فروشنده قوی: این برنامه باید سیاست‌های جامعی در مورد امنیت اطلاعات و حریم خصوصی داشته باشه و فروشنده‌های مهم به طور منظم بررسی بشن.
  • سیاست‌های ذخیره‌سازی امن: این کنترل‌ها شامل کنترل‌های فیزیکی، منطقی (مثل رمز عبور) و محیطی (مثل محافظت در برابر آتش‌سوزی) برای حفاظت از داده‌های حساس میشه.

آینده AI washing چه خواهد شد؟

با همه این حرف‌ها، آینده این پدیده چی میشه؟ بعضی‌ها خوش‌بین هستن.

ساندرا واکتر، استاد فناوری و مقررات در دانشگاه آکسفورد و یکی از متخصصان برجسته جهانی در زمینه هوش مصنوعی، میگه: «به نظر من ما در اوج چرخه هیاهوی هوش مصنوعی هستیم. با این حال، حس میکنم فراموش کردیم بپرسیم که آیا همیشه استفاده از هوش مصنوعی برای همه نوع کاری منطقیه؟ یادمه توی متروی لندن تبلیغ مسواک برقی رو دیدم که با هوش مصنوعی کار میکرد. این برای کیه؟ به کی کمک میکنه؟».

او همچنین به تاثیرات زیست‌محیطی هوش مصنوعی اشاره میکنه که اغلب نادیده گرفته میشه: «هوش مصنوعی روی درخت رشد نمیکنه… این فناوری در حال حاضر بیشتر از صنعت هوانوردی در تغییرات آب و هوایی نقش داره. ما باید از این بحث یک‌طرفه و پر از هیاهو فاصله بگیریم و واقعا به وظایف و بخش‌های خاصی فکر کنیم که هوش مصنوعی میتونه براشون مفید باشه، نه اینکه کورکورانه اون رو توی همه چیز پیاده کنیم».

اما در بلندمدت، به گفته آدویکا جالان، رئیس تحقیقات در MMC Ventures، مشکل AI washing ممکنه خود به خود کمرنگ بشه. او میگه: «هوش مصنوعی داره اونقدر فراگیر میشه – حتی اگه فقط پوسته‌هایی روی ChatGPT باشن – که عبارت «مبتنی بر هوش مصنوعی» به عنوان یه ابزار برندسازی احتمالا بعد از مدتی دیگه وجه تمایزی ایجاد نخواهد کرد. یه جورایی مثل این میشه که بگیم «ما روی اینترنت هستیم»».

منابع

  • [۲] Spotting AI Washing: How Companies Overhype Artificial Intelligence
  • [۴] AI Washing: Signs, Symptoms, & Suggested Solutions
  • [۶] What is AI Washing and What are the Risks? |Ncontracts
  • [۱] AI washing | Wex | US Law | LII / Legal Information Institute
  • [۳] AI washing explained: Everything you need to know
  • [۵] What is ‘AI washing’ and why is it a problem?

دیدگاه‌ها

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *