vir slike, Getty Images
-
- pisatelj, Melissa Hogenboom
- vloga, BBC kultura*
-
Čas branja: 9 minut
Ker veliki jezikovni modeli (LLM), ki jih uporabljajo storitve umetne inteligence (AI), začnejo prevzemati večino človekovih kognitivnih nalog, raziskovalci opozarjajo, da je treba plačati visoko ceno za to, kar so poimenovali “mentalno zunanje izvajanje”.
Raziskovalka Nataliya Kosmyna je priznala, da je postala sumničava, ko je urejala kartoteke pripravnikov. Veliko prošenj, ki jih je prejel, je bilo zelo podobnih.
Vsebina je dolga in urejena s podobno strukturo, in sicer uvodni del nato preskoči na odnos kandidata do delovnega mesta, ki je neutemeljeno ciljano.
Kosmyna je tudi zaključil, da so kandidati za pisanje pisem o prijavi uporabili LLM iz umetne inteligence, ki poganja klepetalne robote, kot so ChatGPT, Google Gemini in Claude.
Med študijem na Massachusetts Institute of Technology (MIT) je Kosmyna raziskoval interakcijo med človekom in računalnikom. Začel je opažati, da je veliko učencev zdaj pozabilo snov, ki se je nedavno učila lažje kot prejšnja leta.
vir slike, Getty Images
Obstajajo tudi pomisleki, da bi lahko zaradi prevelikega zanašanja na umetno inteligenco vplivali na jezikovne spretnosti in zmožnost opravljanja osnovnih kognitivnih nalog, kot so kritično razmišljanje, reševanje problemov in ravni koncentracije. Tega ne čuti le Kosmyna, ampak tudi drugi raziskovalci.
Še več, zdaj to kaže vse več raziskav “prestavljanje kognitivnega bremena” za AI to vpliva na škodovanje miselnim sposobnostim. Posledice so precej zaskrbljujoče in prispevajo celo k upadu kognitivnih funkcij.
Ker lahko uporabljena orodja očitno spremenijo način razmišljanja. S pojavom interneta je na primer naloge, ki so nekoč zahtevale poglobljeno raziskovanje, mogoče dokončati preprosto z vnosom preproste ključne besede v iskalno polje.
Z naraščajočo uporabo iskalnikov različne študije razkrivajo, da se nagnjenost k pomnjenju podrobnosti zmanjšuje. Ta pojav je dobil vzdevek “Google učinek”.
Vendar pa se pojavijo drugi pomisleki, ko je prevladujoč del razmišljanja prenesen na LLM ali druge oblike umetne inteligence. Spomin in sposobnost reševanja težav se lahko močno zmanjšata.
vir slike, Getty Images
Vendar je to nevarno. Rezultati številnih raziskav kažejo, da so mladi še posebej občutljivi na negativne vplive uporabe umetne inteligence, predvsem na osnovne kognitivne sposobnosti, kot je npr. kritično mišljenje.
V skladu z vse večjo odvisnostjo od umetne inteligence Kosmyna ocenjuje, da obstaja vpliv na kognicijo študentov z razvojem te popularne tehnologije. Preučeval ga je tudi, da bi bolje razumel.
Kakšni so rezultati raziskav glede uporabe AI?
Da bi se poglobili, so Kosmyna in njeni kolegi iz MIT Media Lab zaposlili 54 študentov, da bi napisali kratke eseje. Razdeljeni so bili v tri skupine.
Ena skupina je bila pozvana, naj uporablja ChatGPT. Druga skupina lahko uporablja iskalnik Google, vendar onemogoči povzetke, ki jih ustvari umetna inteligenca. Potem, tretja skupina ne uporablja nobene tehnologije. Od tu so bili izmerjeni možganski valovi vsakega učenca med opravljanjem naloge.
Tema eseja za to raziskavo je namenoma odprta, kar pomeni, da ta naloga zahteva zelo malo raziskovanja. Obstajajo samo navodila o glavnih temah, kot so tiste, povezane z zvestobo, srečo ali odločitvami v vsakdanjem življenju.
Čeprav rezultati niso bili objavljeni v znanstveni reviji, je Kosmyna dejal, da ta raziskava razkriva marsikaj.
Med drugim je tretja skupina, ki se je zanašala samo na lastne misli brez kakršne koli tehnologije, pokazala možgane, ki so “zasvetili” s široko aktivnostjo na številnih področjih.
Medtem je druga skupina, ki je uporabljala le iskalnike, pokazala intenzivno aktivnost v vizualnih predelih možganov. Vendar je skupina, ki je uporabljala ChatGPT, pokazala veliko nižjo aktivnost možganov, tj do 55%.
“Možgani ne spijo, vendar se zmanjša aktivnost na področjih, povezanih z ustvarjalnostjo in obdelavo informacij,” je dejal Kosmyna.
ChatGPT je vplival tudi na spomin udeležencev. Po oddaji esejev člani skupine, ki so uporabljali AI, niso mogli citirati delov svojega pisanja, nekateri pa niso imeli občutka lastništva nad delom.
vir slike, Getty Images
Te ugotovitve so še v fazi strokovnega pregleda strokovni pregled. Vendar so rezultati v skladu z drugimi študijami. Študija, ki so jo izvedli strokovnjaki z univerze v Pensilvaniji, je pokazala, da nekateri ljudje doživijo stanje, imenovano “kognitivna predaja” pri uporabi klepetalnega robota AI.
To pomeni, da ti ljudje ponavadi sprejmejo, kar pravi umetna inteligenca, z minimalnim pregledom in celo pustijo, da njena interpretacija preglasi njihovo lastno intuicijo.
Podobne vplive je mogoče opaziti zunaj področja klepetalnih robotov z umetno inteligenco, tudi v situacijah življenja in smrti. Večnacionalna raziskovalna skupina je pred kratkim ugotovila, da so se zdravstveni delavci, ki so v treh mesecih uporabljali umetno inteligenco za odkrivanje raka debelega črevesa, manj sposobni odkriti tumorje brez pomoči teh orodij.
Zato je Kosmyna ponovno opozoril na morebitna negativna tveganja, vključno z izgubo ustvarjalnosti za ustvarjanje izvirnih del. Ker je to jasno razvidno iz rezultatov esejev, ki so jih študentje pisali med študijem s ChatGPT.
Eseji študentov, ki so uporabljali ChatGPT, so bili med seboj zelo podobni. Predavatelji ocenjevalci so jo po njegovih besedah označili tudi za “brezdušno”, ker ji manjka izvirnosti in globine. “Nek predavatelj je celo vprašal, ali študentje sedijo drug poleg drugega, glede na to, kako podobni so bili eseji.”
Študije, kot je ta, samo ponazarjajo kratkoročni vpliv, ki ga ima lahko LLM na možgane. Dolgoročne posledice so še vedno nejasne, čeprav študija Kosmyne in njenih sodelavcev zagotavlja začetno sliko tega.
vir slike, Getty Images
Štiri mesece po raziskavi so študente prosili, da napišejo še en esej. Toda tokrat so tisti, ki so vključeni v uporabniško skupino ChatGPT, pozvani, da delajo brez LLM podpore.
Izkazalo se je, da je nevronska povezljivost v njihovih možganih nižja kot pri tistih, ki so sami razmišljali ali uporabili iskalnik in nato preklopili na ChatGPT. To nakazuje, da se niso ustrezno ukvarjali s temami, o katerih so razpravljali prej v procesu.
AI ima lahko pozitiven učinek, če…
LLM bi lahko bil pozitivno orodje za spodbujanje razmišljanja, pod pogojem, da se ne zanaša v celoti na predanost miselnim nalogam, pravi računalniška nevroznanstvenica Vivienne Ming.
Težava je v tem, da se avtor knjige Robot Proof zaveda, da večina ljudi, ki uporabljajo to tehnologijo, dejansko preda mentalne in kognitivne naloge napravi.
To je ugotovil med raziskavo. Ming je prosil skupino študentov Univerze Berkeley, naj napovejo številne stvari, kot so cene nafte. Ugotovil je tudi, da je večina udeležencev takoj preklopila na AI in prepisala odgovore. Hkrati je izmeril aktivnost valov gama v njihovih možganih, da bi zajel indikatorje kognitivnega napora. Posledica tega je, da je kognitivna aktivnost zelo nizka.
Podobno kot pri Kosmyni tudi Mingove ugotovitve še niso bile objavljene. Vendar pa je zaskrbljen, da bodo, če bodo rezultati preučeni bolj poglobljeno, dolgoročne posledice začrtane.
“To je zelo zaskrbljujoče. To orodje je le orodje, ne samo uporabljeno. To je povezano s človeško inteligenco v prihodnosti,” je dejal Ming.
vir slike, Getty Images
Vendar je Ming ugotovil, da je manj kot 10 % udeležencev uporabilo AI kot orodje za zbiranje podatkov, ki so jih nato sami analizirali. Ti posamezniki so podali natančnejše napovedi kot drugi udeleženci in pokazali tudi večjo možgansko aktivnost.
Pred skoraj dvema desetletjemaMing napoveduje, da bo v 20 do 30 letih prišlo do statistično pomembnega povečanja stopnje demence, kar je neposredno povezano s prevelikim zanašanjem na Google Maps.
“Moj namen je bil sprožiti kritično analizo. Če vam ni treba razmišljati o tem, kako krmariti, potem bodo zaznavni učinki.”
Ker se uporaba orodij umetne inteligence povečuje, morajo tudi ljudje razumeti, kako naj bi bila njihova uporaba dolgoročno koristna in ne škodljiva.
Ming je tudi predlagal, da bi bil končni cilj oblika “hibridne inteligence”, kjer ljudje in stroji “rešujejo težke naloge” skupaj. To pomeni, da morajo ljudje najprej razmisliti sami in nato uporabiti orodje za testiranje.
Kosmyna se strinja s tem pristopom in predlaga študij različnih predmetov brez uporabe orodij AI v začetnih fazah. To je zgraditi močne temelje. Šele takrat lahko pride v poštev uporaba AI.
Ming priporoča uporabo “navodil némesis” za preizkušanje lastnega sklepanja. Ta metoda vključuje zahtevo AI, da odigra vlogo in podrobno pojasni, zakaj so naše ideje napačne in kako jih je mogoče popraviti.
Na ta način smo prisiljeni braniti in izpopolnjevati argumente, namesto da preprosto sprejmemo odgovore, ki jih ponuja orodje.
Druga predlagana tehnika je določanje prednosti “produktivno trenje”tako da AI preprosto zagotavlja kontekst in postavlja vprašanja, namesto da bi neposredno dajal odgovore. Med preizkušanjem te metode je opazil uporabnike, ki kažejo višjo stopnjo angažiranosti in sodelovanja.
Navsezadnje moramo vsi ostati pozorni na kognitivne bližnjice. Nekaj, kar Kosmyna ugotavlja, je nekaj, kar naši možgani “res ljubijo”. Da pa bi zagotovili dolgoročno zdravje možganov, se morate vedno izostriti tako, da izzovete delovanje svojih možganov, da vedno razmišljajo in so ustvarjalni.
