به گزارش پایگاه خبری بانکداری الکترونیک، نجمه نوذر، مدیرعامل شرکت فرآگاه، در بیست و نهمین نمایشگاه الکامپ و در استیج الکام تاکس، در پنل «هوش مصنوعی و اعتبارسنجی پویا» با اشاره به تجربیات خود در حوزه هوش تجاری و اعتبارسنجی در بانک ملت، بر ضرورت بهرهگیری از هوش مصنوعی در کنار حفظ نقش نظارتی انسان تأکید کرد.
وی معتقد است که هرچند مدلهای هوش مصنوعی فرآیند اعتبارسنجی را تقویت میکنند، اما نباید به حذف تحلیل انسانی در تصمیمگیریهای نهایی منجر شوند.
خطر بازتولید سوگیریها توسط هوش مصنوعی
مدیرعامل فرآگاه با اشاره به چالش «سوگیری» (Bias) در یادگیری ماشین هشدار داد: «هوش مصنوعی لزوماً سوگیریهای موجود در تصمیمگیری را حذف نمیکند و در بسیاری از موارد ممکن است به بازتولید یا حتی تشدید آنها منجر شود.»
به گفته نوذر، کمبود داده درباره برخی افراد یا ثبت یک سابقه منفیِ محدود، میتواند منجر به ایجاد تصویری نادرست از اعتبار فرد توسط الگوریتمها شود. از همین رو، او تأکید دارد که خروجی الگوریتمها همواره نیازمند تحلیل و نظارت انسانی است.
حکمرانی داده؛ ضرورت اتصال صنایع
نوذر «حکمرانی داده» را حلقه مفقوده توسعه اعتبارسنجی هوشمند دانست و افزود: «حضور یک حکمران بالادستی برای ساماندهی دادههای صنایع مختلف، تعیین سطوح دسترسی و کنترل کیفیت و وزندهی به اطلاعات، اجتنابناپذیر است.»
وی تدوین قوانین و مقررات شفاف را پیششرط تولید دادههای معتبر و تصمیمگیری دقیق سامانههای هوشمند خواند و با اشاره به تجربیات جهانی، پیشنهاد داد که الگوی شرکتهای اعتباری خصوصی در کنار نظارت دولتی مورد توجه قرار گیرد.
توضیحپذیری؛ شرط اعتماد به مدلهای هوشمند
یکی دیگر از محورهای سخنان مدیرعامل فرآگاه، موضوع «توضیحپذیری» (Explainability) بود. وی تأکید کرد که وقتی یک سامانه هوش مصنوعی خروجی مشخصی ارائه میدهد، باید «منطق تصمیم» برای انسان قابل فهم باشد: «باید مشخص باشد که نتیجه اعتبارسنجی بر اساس چه دادهها و عواملی به دست آمده است.»
نوذر در پایان خاطرنشان کرد که همکاری میان بخش دولتی و خصوصی و ایجاد چارچوبهای مناسب برای حکمرانی داده، مسیر رسیدن به نظام اعتبارسنجی هوشمند و کارآمد را در صنعت بانکی و سایر صنایع هموار خواهد کرد.