El risc de confiar cegament en la IA
Un estudi recent realitzat per investigadors de Microsoft i la Universitat Carnegie Mellon adverteix sobre com l’ús incorrecte d’eines d’IA generativa pot debilitar les nostres habilitats de pensament crític. La investigació mostra que dependre en excés d’aquestes eines, sense qüestionar la veracitat dels seus resultats, redueix l’esforç cognitiu que apliquem a les nostres tasques diàries.
Lev Tankelevitch, investigador principal de Microsoft Research i coautor de l’estudi, explica que la IA pot sintetitzar idees, millorar el raonament i fomentar la participació crítica, però només si se la considera com a soci en el pensament i no com una simple font ràpida d’informació. Per obtenir beneficis reals, els usuaris han d’interactuar de manera activa amb la IA, avaluant i refinant el contingut que genera.
De l’execució de tasques a la supervisió activa
L’estudi, que va enquestar a 319 professionals, va identificar que una confiança excessiva en les eines d’IA sovint redueix l’esforç cognitiu en la feina. Els participants tendien a assumir que la IA era competent en tasques simples, cosa que disminuïa la seva implicació activa en els processos. Això marca un canvi en el món laboral: el rol dels professionals està passant de l’execució manual de tasques a la supervisió del contingut generat per la IA, avaluant si és precís i rellevant.
No obstant això, a molts treballadors els costa comprometre’s críticament amb els resultats de la IA a causa de la manca de coneixement especialitzat. Fins i tot si reconeixen que la IA podria equivocar-se, no sempre tenen l’experiència necessària per corregir els seus errors, especialment en camps tècnics com l’anàlisi de dades o la programació.
El dilema de la descàrrega cognitiva
Aquest fenomen està relacionat amb la “descàrrega cognitiva”, en què les persones deleguen tasques mentals a eines externes, com calculadores o sistemes GPS. Tot i que la pràctica no és negativa per si mateixa i pot alliberar recursos mentals per a altres tasques més complexes, la IA generativa introdueix nous riscos.
Molts usuaris tendeixen a acceptar sense qüestionar les respostes de la IA, especialment en tasques percebudes com de baix risc, cosa que dona lloc a errors no detectats. La facilitat i rapidesa amb què la IA proporciona resultats pot generar una falsa sensació de seguretat, reduint la disposició a qüestionar i verificar la informació.
El paper del disseny en l’experiència d’usuari
Per intentar evitar aquests riscos, els desenvolupadors d’IA han de centrar-se a dissenyar interfícies que fomentin la verificació i el pensament crític. Les plataformes haurien de facilitar la comprensió de com la IA arriba a les seves conclusions i proporcionar explicacions contextuals.
Un exemple és Perplexity, que ofereix camins lògics clars i explica els passos que la IA segueix per arribar a un resultat, promovent una col·laboració oberta entre la IA i l’humà. Els usuaris poden veure com s’ha generat una resposta i comprendre millor el procés darrere del contingut i com s’ha format.
A més, les interfícies podrien incloure indicadors de confiança o suggeriments d’alternatives perquè els usuaris avaluïn i refinin les respostes generades. L’experiència seria una interacció més activa i conscient, amb una major implicació per part de l’usuari.
Una oportunitat per potenciar el pensament crític
L’estudi planteja interrogants sobre l’impacte a llarg termini de la IA en les nostres capacitats cognitives. Si els professionals es converteixen en consumidors passius del contingut generat per la IA, podrien veure deteriorades les seves habilitats de pensament crític. No obstant això, si aquestes eines es dissenyen i utilitzen com a socis interactius, podrien potenciar la intel·ligència humana.
Tankelevitch conclou que la clau està en com triem interactuar amb la IA i en dissenyar interfícies que promoguin la reflexió crítica i activa. El futur de la IA en l’àmbit laboral dependrà més de la nostra disposició a qüestionar i reflexionar sobre les seves respostes que dels avenços tecnològics en si mateixos. Serà l’actitud que tinguem davant la tecnologia la que determinarà si la IA potencia o limita el nostre pensament crític.
Foto de Ben Sweet a Unsplash
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
