بهبود روش LIME با نمونه برداری هوشمند و غیر قطعی

چکیده مقاله

LIME یکی از محبوب‌‌ترین مدل‌های هوش مصنوعی توضیح پذیر (XAI)، است که سعی در نشان دادن دلایل تصیم‌ گیری مدل‌های مات و پیچیده هوش مصنوعی در یک محلیت خاص دارد. علیرغم محبوبیت LIME در بین متخصصان حوزه XAI، این روش مانند روش‌های دیگر، نقطه ضعف‌هایی دارد که باعث چالش‌هایی در به ‌کارگیری روش خصوصا در کارهای حیاتی می‌شود. عدم ثبات توضیحات در تکرارهای مختلف اجرای الگوریتم و عدم وفاداری مدل تفسیر پذیر محلی نسبت به مدل جعبه سیاه، از چالش‌های‌ LIME است. در این کار ما LIME را با تمرکز بر نمونه برداری هوشمند و غیر قطعی از جهت ایجاد وفاداری و ثبات در توضیحات تولیدی برای داده‌های جدولی در مسئله طبقه‌بندی دو کلاسه بهبود داده‌ایم. برتری روش نسبت به‌ LIME، در وفاداری و ثبات، با انجام آزمایشات متعدد نشان داده‌ شده است.