Google står i centrum för en ny bråk om artificiell intelligens.
En intern kamp om huruvida Google byggt teknik med mänskligt medvetande har spridit ut i det fria och avslöjat de ambitioner och risker som är inneboende i artificiell intelligens som kan kännas alltför verkliga.
Silicon Valley-jätten stängde av en av sina ingenjörer förra veckan som hävdade att företagets AI-system LaMDA verkade “kännande”, ett påstående som Google officiellt inte håller med om.
Flera experter sa till AFP att de också var mycket skeptiska till påståendet om medvetande, men sa att den mänskliga naturen och ambitionen lätt kan förvirra frågan.
“Problemet är att… när vi stöter på strängar av ord som tillhör de språk vi talar, förstår vi dem”, säger Emily M. Bender, lingvistikprofessor vid University of Washington.
“Vi gör arbetet med att föreställa oss ett sinne som inte finns där,” tillade hon.
LaMDA är ett enormt kraftfullt system som använder avancerade modeller och träning på över 1,5 biljoner ord för att kunna efterlikna hur människor kommunicerar i skrivna chattar.
Systemet byggdes på en modell som observerar hur ord förhåller sig till varandra och sedan förutsäger vilka ord det tror kommer härnäst i en mening eller ett stycke, enligt Googles förklaring.
“Det är fortfarande på en viss nivå bara mönstermatchning”, säger Shashank Srivastava, biträdande professor i datavetenskap vid University of North Carolina i Chapel Hill.
“Visst kan du hitta några delar av verkligen vad som verkar meningsfullt samtal, någon mycket kreativ text som de skulle kunna generera. Men det går snabbt över i många fall, tillade han.
Ändå blir det svårt att tilldela medvetande.
Det har ofta inneburit riktmärken som Turing-testet, som en maskin anses ha klarat om en människa har en skriftlig chatt med en, men inte kan säga det.
“Det är faktiskt ett ganska enkelt test för alla AI av vår årgång här 2022 att klara”, säger Mark Kingwell, professor i filosofi vid University of Toronto.
“Ett tuffare test är ett kontextuellt test, den typ av sak som nuvarande system verkar bli snudd på, kunskap om sunt förnuft eller bakgrundsidéer – den typen av saker som algoritmer har svårt med,” tillade han.
“Inga enkla svar”
AI förblir ett känsligt ämne i och utanför teknikvärlden, ett som kan framkalla förvåning men också lite obehag.
Google, i ett uttalande, var snabb och bestämd med att tona ned om LaMDA är självmedveten.
“Dessa system imiterar de typer av utbyten som finns i miljontals meningar och kan riffa om vilket fantastiskt ämne som helst”, sa företaget.
“Hundratals forskare och ingenjörer har samtalat med LaMDA och vi är inte medvetna om att någon annan har gjort … vidsträckta påståenden eller antropomorfierat LaMDA,” tillade det.
Åtminstone vissa experter såg Googles svar som ett försök att stänga av konversationen om ett viktigt ämne.
“Jag tror att en offentlig diskussion om frågan är extremt viktig, eftersom allmänhetens förståelse för hur irriterande frågan är, är nyckeln”, säger akademikern Susan Schneider.
“Det finns inga enkla svar på frågor om medvetande i maskiner,” tillade grundaren av Center for the Future of the Mind vid Florida Atlantic University.
Bristande skepsis hos dem som arbetar med ämnet är också möjlig vid en tidpunkt då människor “simmar i en enorm mängd AI-hype”, som lingvistikprofessor Bender uttryckte det.
“Och massor och massor av pengar kastas på det här. Så människorna som arbetar med det har denna mycket starka signal att de gör något viktigt och verkligt” vilket resulterar i att de inte nödvändigtvis “upprätthåller lämplig skepsis”, tillade hon.
Under de senaste åren har AI också lidit av dåliga beslut – Bender citerade forskning som fann att en språkmodell kunde plocka upp rasistiska och invandrarfientliga fördomar från att träna på internet.
Kingwell, professor vid University of Toronto, sa att frågan om AI-känsla är del “Brave New World” och del “1984”, två dystopiska verk som berör frågor som teknik och mänsklig frihet.
“Jag tror att många människor inte riktigt vet vart de ska vända sig, och därav ångesten,” tillade han.
En mjukvaruingenjör från Google tror att en AI har blivit kännande. Om han har rätt, hur skulle vi veta det?
© 2022 AFP
Citat:Den är (inte) vid liv! Google rad avslöjar AI-problem (2022, 15 juni)hämtad 15 juni 2022 från https://techxplore.com/news/2022-06-alive-google-row-exposes-ai.html
Detta dokument är föremål för upphovsrätt. Bortsett från all rättvis handel i syfte att privata studier eller forskning, får ingen del reproduceras utan skriftligt tillstånd. Innehållet tillhandahålls endast i informationssyfte.
Håll kontakten med oss på sociala medieplattformar för omedelbar uppdatering klicka här för att gå med i vår Twitter och Facebook
