Gardets

Bygga in förklarbarhet i komponenterna i maskininlÀrningsmodeller

Sammanfattning av funktionsklassificeringen som föreslÄs i detta dokument. För exemplen anvÀnder vi följande hypotetiska scenario: en regressionsmodell trÀnad pÄ normaliserade data för att förutsÀga bilens maximala hastighet. Kvalitet Àr en sammansatt funktion som berÀknas baserat pÄ andra funktioner, och x12 Àr en godtycklig förutsÀgande konstruerad funktion. Kredit: Behovet av tolkbara egenskaper: Motivation och taxonomi. https://kdd.org/exploration_files/vol24issue1_1._Interpretable_Feature_Spaces_revised.pdf

Förklaringsmetoder som hjÀlper anvÀndare att förstÄ och lita pÄ maskininlÀrningsmodeller beskriver ofta hur mycket vissa funktioner som anvÀnds i modellen bidrar till dess förutsÀgelse. Till exempel, om en modell förutsÀger en patients risk att utveckla hjÀrtsjukdom, kanske en lÀkare vill veta hur starkt patientens hjÀrtfrekvensdata pÄverkar denna förutsÀgelse.

Men om dessa funktioner Àr sÄ komplexa eller invecklade att anvÀndaren inte kan förstÄ dem, gör förklaringsmetoden nÄgon nytta?

MIT-forskare strÀvar efter att förbÀttra tolkningsmöjligheterna för funktioner sÄ att beslutsfattare blir mer bekvÀma att anvÀnda utdata frÄn maskininlÀrningsmodeller. Med utgÄngspunkt i Är av fÀltarbete utvecklade de en taxonomi för att hjÀlpa utvecklare att skapa funktioner som blir lÀttare för sin mÄlgrupp att förstÄ.

“Vi upptĂ€ckte att ute i den verkliga vĂ€rlden, Ă€ven om vi anvĂ€nde toppmoderna sĂ€tt att förklara maskininlĂ€rningsmodeller, finns det fortfarande mycket förvirring som hĂ€rrör frĂ„n funktionerna, inte frĂ„n sjĂ€lva modellen”, sĂ€ger Alexandra Zytek, doktorand inom elektroteknik och datavetenskap. student och huvudförfattare till en artikel som introducerar taxonomin.

För att bygga upp taxonomin definierade forskarna egenskaper som gör funktioner tolkbara för fem typer av anvÀndare, frÄn experter pÄ artificiell intelligens till personer som pÄverkas av en maskininlÀrningsmodells förutsÀgelse. De erbjuder ocksÄ instruktioner för hur modellskapare kan omvandla funktioner till format som blir lÀttare för en lekman att förstÄ.

De hoppas att deras arbete kommer att inspirera modellbyggare att övervÀga att anvÀnda tolkningsbara funktioner frÄn början av utvecklingsprocessen, snarare Àn att försöka arbeta bakÄt och fokusera pÄ förklaringsbarhet i efterhand.

MIT medförfattare inkluderar Dongyu Liu, en postdoc; gĂ€stprofessor Laure Berti-Équille, forskningschef vid IRD; och seniorförfattare Kalyan Veeramachaneni, huvudforskare vid Laboratory for Information and Decision Systems (LIDS) och ledare för Data to AI-gruppen. De fĂ„r sĂ€llskap av Ignacio Arnaldo, en ledande dataforskare pĂ„ Corelight. Forskningen publiceras i juniupplagan av Association for Computing Machinery Special Interest Group on Knowledge Discovery and Data Mining’s peer-reviewed Nyhetsbrevet Explorations.

Verkliga lektioner

Funktioner Àr indatavariabler som matas till maskininlÀrningsmodeller; de Àr vanligtvis ritade frÄn kolumnerna i en datauppsÀttning. Dataforskare vÀljer och hantverkar vanligtvis funktioner för modellen, och de fokuserar frÀmst pÄ att sÀkerstÀlla att funktioner utvecklas för att förbÀttra modellens noggrannhet, inte pÄ om en beslutsfattare kan förstÄ dem, förklarar Veeramachaneni.

I flera Är har han och hans team arbetat med beslutsfattare för att identifiera maskininlÀrningsanvÀndbarhetsutmaningar. Dessa domÀnexperter, av vilka de flesta saknar kunskap om maskininlÀrning, litar ofta inte pÄ modeller eftersom de inte förstÄr funktionerna som pÄverkar förutsÀgelser.

För ett projekt samarbetade de med lĂ€kare pĂ„ en intensivvĂ„rdsavdelning pĂ„ sjukhus som anvĂ€nde maskininlĂ€rning för att förutsĂ€ga risken för en patient att utsĂ€ttas för komplikationer efter hjĂ€rtkirurgi. Vissa funktioner presenterades som aggregerade vĂ€rden, som trenden för en patients hjĂ€rtfrekvens över tid. Även om funktioner kodade pĂ„ detta sĂ€tt var “modellklara” (modellen kunde bearbeta data), förstod inte lĂ€kare hur de berĂ€knades. De skulle hellre se hur dessa aggregerade egenskaper relaterar till ursprungliga vĂ€rden, sĂ„ att de kunde identifiera anomalier i en patients hjĂ€rtfrekvens, sĂ€ger Liu.

DĂ€remot föredrog en grupp lĂ€rande forskare egenskaper som var aggregerade. IstĂ€llet för att ha en funktion som “antal inlĂ€gg en elev gjort pĂ„ diskussionsforum” skulle de hellre ha relaterade funktioner grupperade och mĂ€rkta med termer de förstod, som “deltagande”.

“Med tolkningsmöjligheter passar inte en storlek alla. NĂ€r man gĂ„r frĂ„n omrĂ„de till omrĂ„de finns det olika behov. Och tolkningsbarheten i sig har mĂ„nga nivĂ„er, sĂ€ger Veeramachaneni.

Tanken att en storlek inte passar alla Àr nyckeln till forskarnas taxonomi. De definierar egenskaper som kan göra funktioner mer eller mindre tolkbara för olika beslutsfattare och beskriver vilka egenskaper som sannolikt Àr viktigast för specifika anvÀndare.

Till exempel kan maskinlÀrande utvecklare fokusera pÄ att ha funktioner som Àr kompatibla med modellen och prediktiva, vilket innebÀr att de förvÀntas förbÀttra modellens prestanda.

Å andra sidan kan beslutsfattare utan maskininlĂ€rningserfarenhet vara bĂ€ttre betjĂ€nta av funktioner som Ă€r mĂ€nskliga formulerade, vilket innebĂ€r att de beskrivs pĂ„ ett sĂ€tt som Ă€r naturligt för anvĂ€ndarna och förstĂ„eligt, vilket innebĂ€r att de hĂ€nvisar till verkliga mĂ„ttanvĂ€ndare kan resonera om.

“Taxonomien sĂ€ger, om du gör tolkbara egenskaper, till vilken nivĂ„ Ă€r de tolkbara? Du kanske inte behöver alla nivĂ„er, beroende pĂ„ vilken typ av domĂ€nexperter du arbetar med”, sĂ€ger Zytek.

Att sÀtta tolkningsbarheten först

Forskarna beskriver ocksÄ funktionstekniker som en utvecklare kan anvÀnda för att göra funktioner mer tolkbara för en specifik publik.

Funktionsteknik Àr en process dÀr dataforskare omvandlar data till ett format som maskininlÀrningsmodeller kan bearbeta, med hjÀlp av tekniker som aggregering av data eller normalisering av vÀrden. De flesta modeller kan inte heller behandla kategoriska data om de inte konverteras till en numerisk kod. Dessa transformationer Àr ofta nÀstan omöjliga för lekmÀn att packa upp.

Att skapa tolkbara funktioner kan innebÀra att man Ängrar en del av den kodningen, sÀger Zytek. Till exempel organiserar en gemensam teknikteknik för dataspann sÄ att de alla innehÄller samma antal Är. För att göra dessa funktioner mer tolkbara kan man gruppera Äldersintervall med mÀnskliga termer, som spÀdbarn, smÄbarn, barn och tonÄring. Eller snarare Àn att anvÀnda en transformerad funktion som genomsnittlig pulsfrekvens, kan en tolkningsbar funktion helt enkelt vara den faktiska pulsfrekvensen, tillÀgger Liu.

“Inom mĂ„nga domĂ€ner Ă€r avvĂ€gningen mellan tolkningsbara egenskaper och modellnoggrannhet faktiskt mycket liten. NĂ€r vi arbetade med barnskyddskontrollanter, till exempel, trĂ€nade vi om modellen med bara funktioner som uppfyllde vĂ„ra definitioner för tolkning, och prestationsminskningen var nĂ€stan försumbar, sĂ€ger Zytek.

UtifrÄn detta arbete utvecklar forskarna ett system som gör det möjligt för en modellutvecklare att hantera komplicerade funktionstransformationer pÄ ett mer effektivt sÀtt, för att skapa mÀnniskocentrerade förklaringar till maskininlÀrningsmodeller. Detta nya system kommer ocksÄ att konvertera algoritmer utformade för att förklara modellfÀrdiga datamÀngder till format som kan förstÄs av beslutsfattare.


Radiomisk modell hjÀlper till att förutsÀga strÄlbehandlingsbehandlingssvar hos patienter med hjÀrnmetastaser


Mer information:
Behovet av tolkbara egenskaper: Motivation och taxonomi. kdd.org/exploration_files/vol2 
 e_Spaces_revised.pdf TillhandahÄlls av Massachusetts Institute of Technology

Citat: Bygga in förklaring i komponenterna i maskininlÀrningsmodeller (2022, 30 juni)hÀmtad 30 juni 2022 frÄn https://techxplore.com/news/2022-06-components-machine-learning.html

Detta dokument Àr föremÄl för upphovsrÀtt. Bortsett frÄn all rÀttvis handel i syfte att privata studier eller forskning, fÄr ingen del reproduceras utan skriftligt tillstÄnd. InnehÄllet tillhandahÄlls endast i informationssyfte.

HĂ„ll kontakten med oss ​​pĂ„ sociala medieplattformar för omedelbar uppdatering klicka hĂ€r för att gĂ„ med i vĂ„r Twitter och Facebook

BotĂłn volver arriba

Annonsblockerare upptÀckt

Du mÄste ta bort AD BLOCKER för att fortsÀtta anvÀnda vÄr webbplats TACK