Gardets

Den Àr (inte) vid liv! Google row avslöjar AI-problem

Google stÄr i centrum för en ny brÄk om artificiell intelligens.

En intern kamp om huruvida Google byggt teknik med mÀnskligt medvetande har spridit ut i det fria och avslöjat de ambitioner och risker som Àr inneboende i artificiell intelligens som kan kÀnnas alltför verkliga.

Silicon Valley-jĂ€tten stĂ€ngde av en av sina ingenjörer förra veckan som hĂ€vdade att företagets AI-system LaMDA verkade “kĂ€nnande”, ett pĂ„stĂ„ende som Google officiellt inte hĂ„ller med om.

Flera experter sa till AFP att de ocksÄ var mycket skeptiska till pÄstÄendet om medvetande, men sa att den mÀnskliga naturen och ambitionen lÀtt kan förvirra frÄgan.

“Problemet Ă€r att… nĂ€r vi stöter pĂ„ strĂ€ngar av ord som tillhör de sprĂ„k vi talar, förstĂ„r vi dem”, sĂ€ger Emily M. Bender, lingvistikprofessor vid University of Washington.

“Vi gör arbetet med att förestĂ€lla oss ett sinne som inte finns dĂ€r,” tillade hon.

LaMDA Àr ett enormt kraftfullt system som anvÀnder avancerade modeller och trÀning pÄ över 1,5 biljoner ord för att kunna efterlikna hur mÀnniskor kommunicerar i skrivna chattar.

Systemet byggdes pÄ en modell som observerar hur ord förhÄller sig till varandra och sedan förutsÀger vilka ord det tror kommer hÀrnÀst i en mening eller ett stycke, enligt Googles förklaring.

“Det Ă€r fortfarande pĂ„ en viss nivĂ„ bara mönstermatchning”, sĂ€ger Shashank Srivastava, bitrĂ€dande professor i datavetenskap vid University of North Carolina i Chapel Hill.

“Visst kan du hitta nĂ„gra delar av verkligen vad som verkar meningsfullt samtal, nĂ„gon mycket kreativ text som de skulle kunna generera. Men det gĂ„r snabbt över i mĂ„nga fall, tillade han.

ÄndĂ„ blir det svĂ„rt att tilldela medvetande.

Det har ofta inneburit riktmÀrken som Turing-testet, som en maskin anses ha klarat om en mÀnniska har en skriftlig chatt med en, men inte kan sÀga det.

“Det Ă€r faktiskt ett ganska enkelt test för alla AI av vĂ„r Ă„rgĂ„ng hĂ€r 2022 att klara”, sĂ€ger Mark Kingwell, professor i filosofi vid University of Toronto.

“Ett tuffare test Ă€r ett kontextuellt test, den typ av sak som nuvarande system verkar bli snudd pĂ„, kunskap om sunt förnuft eller bakgrundsidĂ©er – den typen av saker som algoritmer har svĂ„rt med,” tillade han.

“Inga enkla svar”

AI förblir ett kÀnsligt Àmne i och utanför teknikvÀrlden, ett som kan framkalla förvÄning men ocksÄ lite obehag.

Google, i ett uttalande, var snabb och bestÀmd med att tona ned om LaMDA Àr sjÀlvmedveten.

“Dessa system imiterar de typer av utbyten som finns i miljontals meningar och kan riffa om vilket fantastiskt Ă€mne som helst”, sa företaget.

“Hundratals forskare och ingenjörer har samtalat med LaMDA och vi Ă€r inte medvetna om att nĂ„gon annan har gjort … vidstrĂ€ckta pĂ„stĂ„enden eller antropomorfierat LaMDA,” tillade det.

Åtminstone vissa experter sĂ„g Googles svar som ett försök att stĂ€nga av konversationen om ett viktigt Ă€mne.

“Jag tror att en offentlig diskussion om frĂ„gan Ă€r extremt viktig, eftersom allmĂ€nhetens förstĂ„else för hur irriterande frĂ„gan Ă€r, Ă€r nyckeln”, sĂ€ger akademikern Susan Schneider.

“Det finns inga enkla svar pĂ„ frĂ„gor om medvetande i maskiner,” tillade grundaren av Center for the Future of the Mind vid Florida Atlantic University.

Bristande skepsis hos dem som arbetar med Ă€mnet Ă€r ocksĂ„ möjlig vid en tidpunkt dĂ„ mĂ€nniskor “simmar i en enorm mĂ€ngd AI-hype”, som lingvistikprofessor Bender uttryckte det.

“Och massor och massor av pengar kastas pĂ„ det hĂ€r. SĂ„ mĂ€nniskorna som arbetar med det har denna mycket starka signal att de gör nĂ„got viktigt och verkligt” vilket resulterar i att de inte nödvĂ€ndigtvis “upprĂ€tthĂ„ller lĂ€mplig skepsis”, tillade hon.

Under de senaste Ă„ren har AI ocksĂ„ lidit av dĂ„liga beslut – Bender citerade forskning som fann att en sprĂ„kmodell kunde plocka upp rasistiska och invandrarfientliga fördomar frĂ„n att trĂ€na pĂ„ internet.

Kingwell, professor vid University of Toronto, sa att frĂ„gan om AI-kĂ€nsla Ă€r del “Brave New World” och del “1984”, tvĂ„ dystopiska verk som berör frĂ„gor som teknik och mĂ€nsklig frihet.

“Jag tror att mĂ„nga mĂ€nniskor inte riktigt vet vart de ska vĂ€nda sig, och dĂ€rav Ă„ngesten,” tillade han.


En mjukvaruingenjör frÄn Google tror att en AI har blivit kÀnnande. Om han har rÀtt, hur skulle vi veta det?


© 2022 AFP

Citat:Den Àr (inte) vid liv! Google rad avslöjar AI-problem (2022, 15 juni)hÀmtad 15 juni 2022 frÄn https://techxplore.com/news/2022-06-alive-google-row-exposes-ai.html

Detta dokument Àr föremÄl för upphovsrÀtt. Bortsett frÄn all rÀttvis handel i syfte att privata studier eller forskning, fÄr ingen del reproduceras utan skriftligt tillstÄnd. InnehÄllet tillhandahÄlls endast i informationssyfte.

HĂ„ll kontakten med oss ​​pĂ„ sociala medieplattformar för omedelbar uppdatering klicka hĂ€r för att gĂ„ med i vĂ„r Twitter och Facebook

BotĂłn volver arriba

Annonsblockerare upptÀckt

Du mÄste ta bort AD BLOCKER för att fortsÀtta anvÀnda vÄr webbplats TACK