Noticia
Investigadors de la UIB desenvolupen noves eines per avaluar l'explicabilitat de la intel·ligència artificial
Display date: La recerca dels investigadors de la Unitat de Gràfics i Visió per Ordinador i IA (UGiVIA) i del Laboratori d’Aplicacions d’Intel·ligència Artificial (LAIA@UIB) ajuda a identificar quins mètodes serveixen per explicar com prenen les decisions els sistemes basats en intel·ligència artificial.Un equip d’investigadors de la Universitat de les Illes Balears (UIB) ha desenvolupat una nova manera d’avaluar els sistemes d’intel·ligència artificial explicable (XAI), que té com a objectiu principal conèixer el funcionament intern dels models d’intel·ligència artificial.
Avui, la majoria dels models d’intel·ligència artificial són capses negres. És a dir, que ni tan sols els seus creadors saben perquè prenen una decisió o una altra. Aquest fet contrasta amb la legislació europea, que promou la transparència i la supervisió, uns elements que només es poden aconseguir mitjançant tècniques XAI.
El treball d’aquest grup d’investigadors de la UIB, per tant, és clau per millorar la confiança en aquests sistemes, especialment en àmbits sensibles com la salut.