Anerkjennelsen understreker den økende viktigheten av pålitelig AI som er forklarbar for mennesker - et tema som utgjør kjernen i Senguptas forskning:
Denne anerkjennelsen motiverer meg til å forsette å arbeide mot skalerbare, pålitelige og tolkbare AI-systemer vi kan stole på til høyrisiko-bruk.
-Poushali Sengupta
Om forskningen
Mens AI-systemene blir mer og mer komplekse, er det å kunne forklare hvorfor en modell tar en bestemt avgjørelse blitt like viktig som beslutningen i seg selv. Nåværende forklarbarhets-metoder har likevel møtt på hardnakkede utfordringer som høye beregningskostnader, utstabilitet ved korrelasjon i funksjoner, og begrenset skalerbarhet i praksis.
Sengupta og hennes samarbeidspartnere satt ord på disse begrensningene ved å foreslå ExCIR (Correlation Impact Ratio) - et lettvektsrammeverk med korrelasjons-bevisst attribuering av funksjoner. Nøkkelegenskapene til ExCIR inkluderer:
- Å fange opp signaljustert med-bevegelse mellom funksjoner og utdata fra modeller
- Effektiv håndtering av korrelasjon mellom funksjoner via BLOCKCIR for å unngå dobbel telling
- Funksjonsdyktighet i én enkelt omgang, noe som gjør den høyst skalerbar
- Reproduksjon av forklaringer for hele modeller ved bruk av bare 20–40% av dataene, som gjør at den kjører tre til ni ganger raskere samtidig som den opprettholder sterk overensstemmelse med resultatene fra hele datasett
Metoden ble validert på tekst, tabeller, bilder og datasett med tidsserier, og demonstrerte konsekvente, stabile og effektive forklaringer som er godt egnet for bruk i praksis.
Les mer
Hele artikkelen er tilgjengelig som arXiv preprint:
Sengupta, Poushali, et al. "Correlation-Aware Feature Attribution Based Explainable AI." arXiv preprint arXiv:2511.16482 (2025).
Vi i NORA og forskerskolen NORA-Tech gratulerer Poushali Sengupta med denne velfortjente prisen og det sterke bidraget arbeidet hennes utgjør i utviklingen av pålitelig AI.