Blogg

Hej Siri: Virtuella assistenter lyssnar pÄ barn och anvÀnder data

I mĂ„nga livliga hushĂ„ll runt om i vĂ€rlden Ă€r det inte ovanligt att barn ropar ut direktiv till Apples Siri eller Amazons Alexa. De kan göra ett spel av att frĂ„ga den röststyrda personliga assistenten (VAPA) vad klockan Ă€r, eller begĂ€ra en populĂ€r lĂ„t. Även om detta kan tyckas vara en vardaglig del av hemlivet, finns det mycket mer pĂ„ gĂ„ng. VAPA:erna lyssnar kontinuerligt, spelar in och bearbetar akustiska hĂ€ndelser i en process som har kallats “avlyssning”, en portmanteau av avlyssning och dataminering. Detta vĂ€cker betydande farhĂ„gor angĂ„ende frĂ„gor om integritet och övervakning, sĂ„vĂ€l som diskriminering, eftersom de ljudmĂ€ssiga spĂ„ren av mĂ€nniskors liv blir databehandlade och granskade av algoritmer.

Dessa farhÄgor intensifieras nÀr vi applicerar dem pÄ barn. Deras data ackumuleras över livstider pÄ sÀtt som gÄr lÄngt utöver vad som nÄgonsin samlats in om deras förÀldrar med lÄngtgÄende konsekvenser som vi inte ens har börjat förstÄ.

Lyssnar alltid

Antagandet av VAPA:er gÄr i en hÀpnadsvÀckande takt eftersom det strÀcker sig till att omfatta mobiltelefoner, smarta högtalare och det stÀndigt ökande antalet produkter som Àr anslutna till Internet. Dessa inkluderar digitala leksaker för barn, hemsÀkerhetssystem som lyssnar efter inbrott och smarta dörrklockor som kan ta upp trottoarkonversationer.

Det finns akuta problem som hĂ€rrör frĂ„n insamling, lagring och analys av ljuddata nĂ€r det gĂ€ller förĂ€ldrar, ungdomar och barn. Larm har slagits upp tidigare – 2014 uttryckte integritetsföresprĂ„kare oro över hur mycket Amazon Echo lyssnade pĂ„, vilken data som samlades in och hur datan skulle anvĂ€ndas av Amazons rekommendationsmotorer.

Och ÀndÄ, trots dessa farhÄgor, har VAPA och andra eavesmining-system spridit sig exponentiellt. Nyare marknadsundersökningar förutspÄr att 2024 kommer antalet röstaktiverade enheter att explodera till över 8,4 miljarder.

Spelar in mer Àn bara tal

Det samlas mer Àn bara uttalade uttalanden, eftersom VAPA:er och andra eavemining-system hör personliga drag av röster som ofrivilligt avslöjar biometriska och beteendemÀssiga egenskaper som Älder, kön, hÀlsa, berusning och personlighet.

Information om akustiska miljöer (som en bullrig lĂ€genhet) eller sĂ€rskilda ljudhĂ€ndelser (som att krossa glas) kan ocksĂ„ samlas in genom “auditiv scenanalys” för att göra bedömningar om vad som hĂ€nder i den miljön.

Eavesmining-system har redan nyligen haft meritlista för att samarbeta med brottsbekÀmpande myndigheter och bli stÀllda för data i brottsutredningar. Detta vÀcker oro för andra former av övervakningskrypning och profilering av barn och familjer.

Till exempel, smart högtalare data kan anvĂ€ndas för att skapa profiler som “bullriga hushĂ„ll”, “disciplinĂ€ra förĂ€ldrastilar” eller “oroliga ungdomar”. Detta skulle i framtiden kunna anvĂ€ndas av regeringar för att profilera dem som Ă€r beroende av socialbidrag eller familjer i kris med potentiellt ödesdigra konsekvenser.

Det finns ocksĂ„ nya eavesmining-system som presenteras som en lösning för att hĂ„lla barn sĂ€kra, kallade “aggressionsdetektorer”. Dessa teknologier bestĂ„r av mikrofonsystem laddade med programvara för maskininlĂ€rning, som tvivelaktigt hĂ€vdar att de kan hjĂ€lpa till att förutse vĂ„ldsincidenter genom att lyssna efter tecken pĂ„ att höja volymen och kĂ€nslor i röster, och efter andra ljud som glas som gĂ„r sönder.

Övervakning av skolor

Aggressionsdetektorer annonseras i skolsÀkerhetstidningar och vid brottsbekÀmpande konventioner. De har utplacerats i offentliga utrymmen, sjukhus och gymnasieskolor under sken av att kunna förebygga och upptÀcka masskjutningar och andra fall av dödligt vÄld.

Men det finns allvarliga problem kring dessa systems effektivitet och tillförlitlighet. Ett mÀrke av detektorer misstolkade upprepade gÄnger röstsignaler frÄn barn inklusive hosta, skrik och jubel som indikatorer pÄ aggression. Detta vÀcker frÄgan om vem som skyddas och vem som kommer att göras mindre sÀker genom dess utformning.

Vissa barn och ungdomar kommer att skadas oproportionerligt mycket av denna form av vÀrdepapperiserat lyssnande, och alla familjers intressen kommer inte att skyddas eller tjÀnas pÄ ett enhetligt sÀtt. En Äterkommande kritik av röstaktiverad teknik Àr att den reproducerar kulturella och rasistiska fördomar genom att upprÀtthÄlla vokala normer och misskÀnna kulturellt olika former av tal i relation till sprÄk, accent, dialekt och slang.

Vi kan förutse att rasistiska barns och ungdomars tal och röster kommer att oproportionerligt misstolkas som att de lĂ„ter aggressivt. Denna oroande förutsĂ€gelse borde inte komma som nĂ„gon överraskning eftersom den följer den djupt förankrade koloniala och vita supremacistiska historien som konsekvent övervakar en “sonisk fĂ€rglinje.” Sund policy Eavesmining Ă€r en rik webbplats för information och övervakning eftersom barn och familjers ljudaktiviteter har blivit vĂ€rdefulla kĂ€llor till data som ska samlas in, övervakas, lagras, analyseras och sĂ€ljas utan Ă€mnets vetskap till tusentals tredje parter. Dessa företag Ă€r vinstdrivna, med fĂ„ etiska skyldigheter gentemot barn och deras data.

Utan nÄgot juridiskt krav pÄ att radera denna data ackumuleras data under barns livstid, vilket kan vara för evigt. Det Àr okÀnt hur lÀnge och hur lÄngtgÄende dessa digitala spÄr kommer att följa barn nÀr de Äldras, hur utbredd denna data kommer att delas eller hur mycket denna data kommer att korsreferens med annan data. Dessa frÄgor har allvarliga konsekvenser för barns liv bÄde nu och nÀr de Äldras.

Det finns en myriad av hot frÄn avlyssning nÀr det gÀller integritet, övervakning och diskriminering. Individuella rekommendationer, sÄsom informationsundervisning och utbildning i digital lÀskunnighet, kommer att vara ineffektiva nÀr det gÀller att ta itu med dessa problem och lÀgga ett alltför stort ansvar pÄ familjerna att utveckla de nödvÀndiga kunskaperna för att motverka avlyssning i offentliga och privata utrymmen.

Vi mĂ„ste övervĂ€ga utvecklingen av ett kollektivt ramverk som bekĂ€mpar de unika riskerna och realiteterna med eavemining. Kanske skulle utvecklingen av en Fair Listening Practice Principles – en auditiv snurr pĂ„ “Fair Information Practice Principles” – hjĂ€lpa till att utvĂ€rdera de plattformar och processer som pĂ„verkar barns och familjers soniska liv.

BotĂłn volver arriba

Annonsblockerare upptÀckt

Du mÄste ta bort AD BLOCKER för att fortsÀtta anvÀnda vÄr webbplats TACK