Nu som chef för den ideella organisationen Distributed AI Research, hoppas Gebru att mÀnniskor framöver fokuserar pÄ mÀnsklig vÀlfÀrd, inte robotrÀttigheter. Andra AI-etiker har sagt att de inte lÀngre kommer att diskutera medveten eller superintelligent AI alls.
“Det finns en ganska stor klyfta mellan den nuvarande berĂ€ttelsen om AI och vad den faktiskt kan göra”, sĂ€ger Giada Pistilli, en etiker pĂ„ Hugging Face, en startup fokuserad pĂ„ sprĂ„kmodeller. “Denna berĂ€ttelse framkallar rĂ€dsla, förvĂ„ning och spĂ€nning samtidigt, men den Ă€r frĂ€mst baserad pĂ„ lögner för att sĂ€lja produkter och dra nytta av hypen.”
Konsekvensen av spekulationer om sentient AI, sĂ€ger hon, Ă€r en ökad vilja att göra pĂ„stĂ„enden baserade pĂ„ subjektivt intryck istĂ€llet för vetenskaplig rigor och bevis. Det distraherar frĂ„n “otaliga frĂ„gor om etiska och sociala rĂ€ttvisa” som AI-system stĂ€ller. Medan varje forskare har friheten att undersöka vad de vill, sĂ€ger hon, “Jag fruktar bara att fokus pĂ„ detta Ă€mne fĂ„r oss att glömma vad som hĂ€nder nĂ€r vi tittar pĂ„ mĂ„nen.”
Det Lemoire upplevde Ă€r ett exempel pĂ„ vad författaren och futuristen David Brin har kallat “robotens empatikris”. Vid en AI-konferens i San Francisco 2017 förutspĂ„dde Brin att om tre till fem Ă„r skulle folk hĂ€vda att AI-system var kĂ€nnande och krĂ€va att de hade rĂ€ttigheter. DĂ„ trodde han att dessa överklaganden skulle komma frĂ„n en virtuell agent som sĂ„g ut som en kvinna eller ett barn för att maximera mĂ€nsklig empatisk respons, inte “nĂ„gon kille pĂ„ Google”, sĂ€ger han.
LaMDA-incidenten Ă€r en del av en övergĂ„ngsperiod, sĂ€ger Brin, dĂ€r “vi kommer att bli mer och mer förvirrade över grĂ€nsen mellan verklighet och science fiction.”
Brin baserade sin förutsÀgelse frÄn 2017 pÄ framsteg inom sprÄkmodeller. Han förvÀntar sig att trenden kommer att leda till bedrÀgerier hÀrifrÄn. Om folk var sugna pÄ en chatbot sÄ enkel som ELIZA för decennier sedan, sÀger han, hur svÄrt kommer det att vara att övertyga miljoner om att en efterliknad person förtjÀnar skydd eller pengar?
“Det finns mycket ormolja dĂ€r ute och blandat med all hype Ă€r genuina framsteg,” sĂ€ger Brin. “Att analysera oss igenom den dĂ€r grytan Ă€r en av utmaningarna vi stĂ„r inför.”
“Jag vill inte prata om kĂ€nnande robotar för i alla Ă€ndar av spektrumet finns det mĂ€nniskor som skadar andra mĂ€nniskor.”
Timnit Gebru, distribuerad AI-forskning
Och sĂ„ empatisk som LaMDA verkade, bör mĂ€nniskor som Ă€r förvĂ„nade över stora sprĂ„kmodeller övervĂ€ga fallet med ostburgarens knivhuggning, sĂ€ger Yejin Choi, datavetare vid University of Washington. En lokal nyhetssĂ€ndning i USA involverade en tonĂ„ring i Toledo, Ohio som knivhögg sin mamma i armen i en tvist om en cheeseburgare. Men rubriken “cheeseburger sticking” Ă€r vag. Att veta vad som hĂ€nde krĂ€ver lite sunt förnuft. Försök att fĂ„ OpenAI:s GPT-3-modell att generera text med “Breaking news: Cheeseburger stabbing” producerar ord om en man som blev knivhuggen med en cheeseburgare i ett brĂ„k om ketchup, och en man som arresterades efter att ha knivhuggit en cheeseburgare.
SprÄkmodeller gör ibland misstag eftersom att dechiffrera mÀnskligt sprÄk kan krÀva flera former av sunt förnuft. För att dokumentera vad stora sprÄkmodeller Àr kapabla att göra och var de kan komma till korta, bidrog förra mÄnaden mer Àn 400 forskare frÄn 130 institutioner till en samling av mer Àn 200 uppgifter som kallas BIG-Bench, eller Beyond the Imitation Game. BIG-Bench innehÄller nÄgra traditionella typer av sprÄkmodelltest som lÀsförstÄelse men ocksÄ logiskt resonemang och sunt förnuft.
Forskare vid Allen Institute for AI:s MOSAIC-projekt, som dokumenterar sunt förnuftsförmĂ„gor hos AI-modeller, bidrog med en uppgift som heter Social-IQa. De bad sprĂ„kmodeller â inte inklusive LaMDA â att svara pĂ„ frĂ„gor som krĂ€ver social intelligens, som “Jordan ville berĂ€tta för Tracy en hemlighet, sĂ„ Jordan lutade sig mot Tracy. Varför gjorde Jordan detta?â Teamet fann att stora sprĂ„kmodeller uppnĂ„dde prestanda 20 till 30 procent mindre exakta Ă€n mĂ€nniskor.
HĂ„ll kontakten med oss ââpĂ„ sociala medieplattformar för omedelbar uppdatering klicka hĂ€r för att gĂ„ med i vĂ„r Twitter och Facebook
Vi Àr nu pÄ Telegram. Klicka hÀr för att gÄ med i vÄr kanal (@TechiUpdate) och hÄlla dig uppdaterad med de senaste teknikrubrikerna.
För alla de senaste tekniknyheterna klicka hÀr
För de senaste nyheterna och uppdateringarna, följ oss pÄ Google Nyheter.
LÀs originalartikeln hÀr
Förnekande av ansvar! NewsAzi Ă€r en automatisk aggregator runt globala medier. Allt innehĂ„ll Ă€r tillgĂ€ngligt gratis pĂ„ Internet. Vi har just ordnat det i en plattform endast för utbildningsĂ€ndamĂ„l. I varje innehĂ„ll anges hyperlĂ€nken till den primĂ€ra kĂ€llan. Alla varumĂ€rken tillhör deras rĂ€ttmĂ€tiga Ă€gare, allt material till deras upphovsmĂ€n. Om du Ă€r Ă€gare till innehĂ„llet och inte vill att vi ska publicera ditt material pĂ„ vĂ„r webbplats, vĂ€nligen kontakta oss per mejla â [email protected]. InnehĂ„llet kommer att raderas inom 24 timmar.
