Explainable AI (XAI) – Разбиване на „черната кутия“ на изкуствения интелект

В този семинар ще бъде представена концепцията за Explainable AI (XAI) – какво представлява, защо е необходима и къде се прилага в реални сценарии. Ще бъде отговорено на въпросите „Защо традиционните AI модели често се възприемат като „черни кутии?“ и „Как XAI прави тези решения разбираеми и проследими?“. Ще бъдат представени различни техники за обяснение върху структурирани данни (таблици), както и върху неструктурирани данни, като изображения и текст. Демонстрациите ще включват популярни XAI методи като SHAP, LIME, Grad-CAM и други.

Структурата на семинара ще включва лекция, в която ще бъдат представени основните подходи, и практическа част, в която ще бъдат приложени XAI техники върху реални примери. Целта е аудиторията да бъде запозната с процеса как и защо един AI модел стига до дадено решение.