محمدسعید محمدزاده، مدیر امنیت و ریسک شرکت کارت اعتباری ایران کیش / کارشناس حقوقی قراردادی را برای خلاصهسازی داخل یک ابزار هوش مصنوعی قرار میدهد. برنامهنویس بخشی از کد را برای پیدا کردن خطا میفرستد. کارشناس منابع انسانی چند رزومه را برای مقایسه آپلود میکند. مدیر فروش فایل پیشنهاد تجاری را برای بازنویسی به AI میدهد و یک تحلیلگر ممکن است برای فهم بهتر یک گزارش، بخشی از دادههای سازمان را در اختیار همان ابزار بگذارد. هیچکدام لزوماً قصد بدی ندارند.
اتفاقاً تقریباً همه آنها یک هدف دارند: سریعتر و بهتر کار کردن؛ اما درست همینجا پدیدهای شکل میگیرد که امروز از آن با عنوان Shadow AI یاد میشود.
Shadow AI یا «هوش مصنوعی سایه» یعنی استفاده از ابزارها و سرویسهای هوش مصنوعی خارج از دید، تأیید یا چارچوب حاکمیتی رسمی سازمان. مایکروسافت نیز در راهنمای امنیتی جدید خود همین مفهوم را برای استفاده از AI بدون اطلاع یا نظارت IT و Security به کار میبرد و مخاطرات اصلی آن را نشت داده، مشکلات انطباق و نبود امکان ممیزی میداند.
اما مهمترین نکته در تعریف Shadow AI چیز دیگری است: کارکنان منتظر استراتژی هوش مصنوعی سازمان نمیمانند. این داستان را قبلاً دیدهایم؛ فقط این بار ابزار «فکر» میکند و سالها قبل سازمانها با پدیده Shadow IT مواجه شدند.
Shadow IT یعنی کارکنان بدون تأیید واحد فناوری از ابزارهایی مانند فضای ذخیرهسازی شخصی، پیامرسان، نرمافزار آنلاین یا ایمیل شخصی برای انجام کار سازمانی استفاده کنند. دلیلش همیشه بیانضباطی نبود.
گاهی سامانه رسمی کند بود، خرید نرمافزار ماهها طول میکشید و کارمند برای تحویل کار امروز به یک راه سادهتر نیاز داشت.
هوش مصنوعی همان مسئله را برگردانده است، اما با یک تفاوت اساسی: Dropbox عمدتاً فایل را نگهداری میکرد.
یک مدل هوش مصنوعی میتواند فایل را بخواند، تحلیل کند، خلاصه کند، بازنویسی کند، با اطلاعات دیگر ترکیب کند و بر مبنای آن پیشنهاد بدهد. به بیان ساده، Shadow AI را میتوان تا حدی Shadow IT با قابلیت شناختی دانست و همین ویژگی، ریسک آن را متفاوت میکند.
یک مثال بانکی که ممکن است اصلاً شبیه حادثه امنیتی به نظر نرسد: فرض کنیم کارشناس یک مؤسسه مالی باید گزارشی درباره چند پرونده اعتباری تهیه کند. برای اینکه دو ساعت در زمان صرفهجویی کند، بخشی از اطلاعات را در یک ابزار عمومی AI وارد میکند و میگوید: «این موارد را خلاصه و ریسکهای اصلی را استخراج کن.»
هیچ Malware یا بدافزاری اجرا نشده است؛ هیچ Hacker یا مهاجمی وارد شبکه نشده است؛Firewall هم هیچ هشداری نداده است؛ اما ممکن است اطلاعات مشتری، داده مالی، سند داخلی یا منطق تصمیمگیری سازمان از محیطی که تحت کنترل سازمان بوده به محیطی منتقل شده باشد که شرایط نگهداری، پردازش، دسترسی و ممیزی آن متفاوت است.
OWASP، پروژه شناختهشده امنیت برنامههای کاربردی، در فهرست ریسکهای مدلهای زبانی بزرگ، Sensitive Information Disclosure یا «افشای اطلاعات حساس» را یکی از ریسکهای اصلی میداند و اطلاعات شخصی، مالی، اسناد حقوقی، Credentialها یا اطلاعات احراز هویت و دادههای محرمانه تجاری را صراحتاً در این حوزه قرار میدهد.
این موضوع فقط برای بانک صدق نمیکند. در یک شرکت صنعتی، نقشه فنی یا اطلاعات تولید ممکن است وارد AI شود.در یک شرکت فناوری، کد منبع و معماری API؛ در یک هلدینگ، اطلاعات مربوط به خرید یک شرکت پیش از اعلام رسمی؛ در منابع انسانی، رزومه و اطلاعات کارکنان؛ در تیم امنیت، Log یا گزارش آسیبپذیری و در هیئتمدیره، گزارشی که هنوز عمومی نشده است.
Shadow AI دقیقاً به این دلیل دشوار است که رفتار پرریسک، ممکن است کاملاً شبیه یک رفتار عادی و بهرهورانه باشد؛ اما یک سوءبرداشت را هم باید کنار گذاشت:
در اینجا نباید به دام سادهسازی دیگری بیفتیم و بگوییم: «هر چیزی را وارد هر ابزار AI کنید حتماً وارد آموزش مدل میشود و برای دیگران افشا خواهد شد.» چنین گزاره کلیای دقیق نیست.
نحوه استفاده از داده به سرویس، نوع حساب، قرارداد، تنظیمات، سیاست نگهداری اطلاعات و نسخه سازمانی یا عمومی محصول بستگی دارد. مسئله حرفهایتر این نیست که ( هوش مصنوعی ذاتاً اطلاعات را میدزدد.)
مسئله این است که سازمان ممکن است نداند دادهاش کجا رفته، تحت چه قراردادی پردازش شده، چه مدت نگهداری میشود و چه کسی مسئول آن است. یعنی مسئله اصلی Shadow AI، پیش از آنکه تکنولوژیک باشد، مسئله Governance است.
AI Governance یا حاکمیت هوش مصنوعی یعنی مشخص باشد چه ابزارهایی مجازند، با چه دادهای میتوان از آنها استفاده کرد، مسئول ریسک چه کسی است و امکان نظارت و پاسخگویی چگونه فراهم میشود.
NIST نیز در چارچوب مدیریت ریسک هوش مصنوعی مولد، مدیریت ریسک AI را یک موضوع میانرشتهای در کل چرخه عمر فناوری میبیند، نه صرفاً مسئله تیم فناوری اطلاعات.
سازمانی که فکر میکند AI ندارد، شاید فقط AI خودش را نمیبیند، این شاید مهمترین بخش ماجرا باشد.
بر اساس گزارش AI Risk and Readiness در سال 2026، تنها 6 درصد سازمانهای بررسیشده گفتهاند دید کامل نسبت به استفاده از AI در محیط خود دارند. 94 درصد درجاتی از نقاط کور داشتهاند. همان مطالعه گزارش میکند 39 درصد سازمانها حداقل یک «حادثه» مرتبط با افشای ناخواسته اطلاعات در استفاده از AI تجربه کردهاند.
حتی اگر درباره عدد دقیق هر پیمایش بحث کنیم، جهت حرکت روشن است: استفاده از AI سریعتر از توان بسیاری از سازمانها برای مشاهده و مدیریت آن رشد کرده است. این موضوع در نسل بعدی ابزارها پیچیدهتر هم میشود.
تا امروز کاربر سؤالی از Chatbot میپرسید و پاسخی دریافت میکرد؛ اما Agentic AI یا هوش مصنوعی عاملمحور میتواند علاوه بر پاسخدادن، به ابزارها و دادهها متصل شود و اقدام انجام دهد: مثلاً فایل بخواند، تقویم را بررسی کند، اطلاعات را بین سیستمها جابهجا کند یا با APIها کار کند. در این نقطه ریسک دیگر فقط این نیست که (چه چیزی داخل Prompt نوشته شد). سؤال بزرگتر میشود: این عامل هوشمند به چه چیزی دسترسی دارد و از طرف چه کسی اجازه اقدام دارد؟
OWASP نیز در ریسکهای جدید AI، علاوه بر افشای اطلاعات و Prompt Injection، از Excessive Agency یا «اختیار بیش از حد عامل هوشمند» بهعنوان یک ریسک مستقل یاد میکند.
ممنوعکردن AI راهحل ساده و احتمالاً اشتباه است. واکنش طبیعی یک سازمان حساس ممکن است این باشد: استفاده از ChatGPT و ابزارهای مشابه ممنوع.
این تصمیم از نظر امنیتی قابل فهم است؛ اما اگر ابزار واقعاً به کارمند چند ساعت در هفته بهرهوری اضافه کند، یک ممنوعیت بدون جایگزین ممکن است مسئله را حل نکند؛ فقط آن را از دید سازمان خارج کند. کارمند ممکن است از موبایل شخصی، حساب شخصی یا سرویس دیگری استفاده کند. در چنین شرایطی سازمان ظاهراً AI ندارد، اما در عمل فقط Visibility یا قابلیت مشاهده ندارد.
نمونه مقابل را میتوان در BBVA دید. این بانک بهجای اینکه استفاده کارکنان را صرفاً به ابزارهای عمومی و کنترلنشده واگذار کند، استفاده سازمانی از ChatGPT Enterprise را گسترش داده و امنیت، حقوقی، ریسک و انطباق را از ابتدای برنامه درگیر کرده است. امروز استفاده گسترده AI در این بانک نه به شکل فعالیت پنهان کارکنان، بلکه بهعنوان بخشی از برنامه رسمی تحول سازمانی مدیریت میشود.
این مثال یک درس مهم دارد: پاسخ Shadow AI لزوماً AI کمتر نیست؛ AI مدیریتشدهتر است.
در ایران، مسئله شاید از آنچه تصور میکنیم نزدیکتر باشد
تصور کنید سازمانی برای استفاده رسمی از یک سرویس AI هنوز درگیر بررسی امنیت، خرید، قرارداد، دسترسی، محدودیتهای پرداخت یا تصمیم مدیریتی است؛ اما همان زمان، کارکنان با مرورگر و حسابهای شخصی خود ابزارهای مختلف را امتحان میکنند.
فاصله میان «سرعت نیاز کارمند» و «سرعت تصمیم سازمان» دقیقاً همان فضایی است که Shadow AI در آن رشد میکند. پس مدیران نباید فقط از واحد امنیت بپرسند: «ChatGPT را بستهایم یا نه؟»
سؤالهای بهتری وجود دارد: «آیا میدانیم کارکنان از چه ابزارهای AI استفاده میکنند؟»، «میدانند چه نوع اطلاعاتی نباید وارد آنها شود؟» و یا «برای کاربردهای مفید، جایگزین سازمانی و امن ایجاد کردهایم؟»
اگر ابزار AI به فایلها و سامانههای داخلی متصل شود، چه سطح دسترسی خواهد داشت و اگر فردا اتفاقی افتاد، آیا Log و سابقهای داریم که بفهمیم چه دادهای کجا رفته است؟ اینها دیگر سؤالهای صرفاً فنی نیستند؛ سؤالهای مدیریت سازماناند.
شاید Shadow AI بیش از آنکه مشکل کارمند باشد، آینه مدیریت باشد. ساده است که بگوییم: کارمند نباید اطلاعات را در AI وارد میکرد.
گاهی این جمله درست است؛ اما اگر سازمان هیچ Policy یا سیاست روشنی ندارد، ابزار مجاز معرفی نکرده، کارکنان را آموزش نداده و فرایند رسمی استفاده از AI ماهها طول میکشد، تمام مسئولیت را نمیتوان روی دوش کاربر گذاشت.
Shadow AI معمولاً در جایی رشد میکند که تقاضا برای نوآوری از ظرفیت حاکمیت سازمان جلو زده است. به همین دلیل شاید مهمترین سؤال هیئتمدیره این نباشد که: آیا اجازه دهیم کارکنان از هوش مصنوعی استفاده کنند؟ این سؤال احتمالاً دیر مطرح شده است.
سؤال امروز باید این باشد: کارکنان همین حالا چگونه از هوش مصنوعی استفاده میکنند، چه دادهای را در اختیار آن میگذارند و ما چه مسیر امنی برای استفادهای ساختهایم که به هر حال متوقف نخواهد شد؟
هوش مصنوعی احتمالاً مانند اینترنت، ایمیل و تلفن هوشمند منتظر تصویب همه سازمانها نمیماند. سازمانهایی که این واقعیت را زودتر بپذیرند، مجبور نیستند میان «نوآوری» و «امنیت» یکی را انتخاب کنند. میتوانند هر دو را داشته باشند. اما به یک شرط: قبل از اینکه هوش مصنوعی سایه تمام سازمان را فرا بگیرد، باید استفاده واقعی از AI را از سایه بیرون آورد.