Kampen om vilken användning av artificiell intelligens som Europa bör förbjuda

Under 2019 vakter på gränsen till Grekland, Ungern och Lettland började testa en lögndetektor som drivs av artificiell intelligens. Systemet, som kallas iBorderCtrl, analyserade ansiktsrörelser för att försöka upptäcka tecken på att en person ljög för en gränsagent. Rättegången drevs fram av nästan 5 miljoner dollar i EU:s forskningsfinansiering och nästan 20 års forskning vid Manchester Metropolitan University i Storbritannien.

Rättegången väckte kontrovers. Polygrafer och annan teknik byggd för att upptäcka lögner från fysiska egenskaper har allmänt förklarats otillförlitliga av psykologer. Snart rapporterades även fel från iBorderCtrl. Medierapporter indikerade att dess lögnförutsägande algoritm inte fungerade, och projektets egen webbplats erkände att tekniken “kan innebära risker för grundläggande mänskliga rättigheter.”

Den här månaden upplöstes Silent Talker, ett företag ur Manchester Met som gjorde att tekniken bakom iBorderCtrl upplöstes. Men det är inte slutet på historien. Advokater, aktivister och lagstiftare driver på för en EU-lag för att reglera AI, som skulle förbjuda system som påstår sig upptäcka mänskligt bedrägeri vid migration – med hänvisning till iBorderCtrl som ett exempel på vad som kan gå fel. Tidigare Silent Talker-chefer kunde inte nås för kommentarer.

Ett förbud mot AI-lögndetektorer vid gränserna är en av tusentals ändringar av AI-lagen som övervägs av tjänstemän från EU-länder och ledamöter av Europaparlamentet. Lagstiftningen syftar till att skydda EU-medborgarnas grundläggande rättigheter, som rätten att leva fritt från diskriminering eller att förklara asyl. Den betecknar vissa användningsfall av AI som “högrisk”, vissa “lågrisk” och slår ett direkt förbud mot andra. De som lobbar för att ändra AI-lagen inkluderar människorättsgrupper, fackföreningar och företag som Google och Microsoft, som vill att AI-lagen ska göra en åtskillnad mellan de som tillverkar AI-system för allmänna ändamål och de som använder dem för specifika ändamål.

Förra månaden krävde förespråkargrupper inklusive europeiska digitala rättigheter och plattformen för internationellt samarbete om papperslösa migranter lagen för att förbjuda användningen av AI-polygrafer som mäter saker som ögonrörelser, tonfall eller ansiktsuttryck vid gränser. Statewatch, en ideell organisation för medborgerliga friheter, släppte en analys som varnade för att AI-lagen som skriven skulle tillåta användning av system som iBorderCtrl, vilket skulle lägga till Europas befintliga “offentligt finansierade AI-ekosystem på gränsen.” Analysen beräknade att under de senaste två decennierna gick ungefär hälften av de 341 miljoner euro (356 miljoner dollar) i finansiering för användning av AI vid gränsen, till exempel profilering av migranter, till privata företag.

Användningen av AI-lögndetektorer vid gränser skapar effektivt ny invandringspolitik genom teknik, säger Petra Molnar, biträdande direktör för det ideella Refugee Law Lab, och stämplar alla som misstänkta. “Du måste bevisa att du är en flykting, och du antas vara en lögnare om inte annat bevisas”, säger hon. “Den logiken ligger till grund för allt. Det stöder AI lögndetektorer, och det stödjer mer övervakning och pushback vid gränser.”

Molnar, en immigrationsadvokat, säger att människor ofta undviker ögonkontakt med gräns- eller migrationstjänstemän av ofarliga skäl – som kultur, religion eller trauma – men att göra det ibland feltolkas som en signal om att en person döljer något. Människor kämpar ofta med tvärkulturell kommunikation eller att prata med människor som upplevt trauma, säger hon, så varför skulle folk tro att en maskin kan göra bättre?

Håll kontakten med oss ​​på sociala medieplattformar för omedelbar uppdatering klicka här för att gå med i vår Twitter och Facebook

Vi är nu på Telegram. Klicka här för att gå med i vår kanal (@TechiUpdate) och hålla dig uppdaterad med de senaste teknikrubrikerna.

För alla de senaste tekniknyheterna klicka här

För de senaste nyheterna och uppdateringarna, följ oss på Google Nyheter.

Läs originalartikeln här

Förnekande av ansvar! NewsAzi är en automatisk aggregator runt globala medier. Allt innehåll är tillgängligt gratis på Internet. Vi har just ordnat det i en plattform endast för utbildningsändamål. I varje innehåll anges hyperlänken till den primära källan. Alla varumärken tillhör deras rättmätiga ägare, allt material till deras upphovsmän. Om du är ägare till innehållet och inte vill att vi ska publicera ditt material på vår webbplats, vänligen kontakta oss per mejla – [email protected]. Innehållet kommer att raderas inom 24 timmar.