Un estudi analitza l’impacte que podria tenir la IA en els continguts que es publiquen a internet
L’expansió de la IA generativa avança sense pausa, amb els nous models GPT-4.5 d’OpenAI i Claude 3.7 Sonnet d’Anthropic sumant-se a la competència. Però, mentre aquestes eines faciliten la creació de contingut, també estan transformant de manera silenciosa la forma en què consumim informació a la web. Un estudi recent, publicat al servidor arXiv de la Universitat de Cornell, adverteix sobre l’impacte massiu del contingut generat per IA a la web.
Aquest fenomen es denomina “slop” i descriu la proliferació de contingut de baixa qualitat produït per eines d’IA generativa, que va des de textos fins a imatges creades per IA. L’informe exposa que després del llançament de ChatGPT per OpenAI el novembre de 2022, la presència d’aquest tipus de contingut no ha deixat de créixer.
Una anàlisi de 300 milions de documents
La investigació ha analitzat més de 300 milions de documents, incloent-hi queixes de consumidors, comunicats de premsa corporatius, ofertes de feina i fins i tot missatges institucionals de les Nacions Unides. El període avaluat va des de gener de 2022 fins a setembre de 2024. Els resultats mostren que, abans de l’existència de ChatGPT, només l’1,5% de les queixes de consumidors mostraven indicis d’assistència per IA. Però, després del seu llançament, la xifra s’ha elevat fins al 15%.
L’estudi també identifica diferències geogràfiques als Estats Units. L’any 2024, els estats d’Arkansas, Missouri i Dakota del Nord van ser els més propensos a utilitzar IA en la redacció de queixes, amb aproximadament una de cada quatre queixes mostrant evidència de generació automatitzada. En altres estats, com Virgínia Occidental, Idaho i Vermont, va ser molt menor, amb proporcions d’entre una de cada 20 i una de cada 40.
Quin és el mètode de detecció?
Per poder identificar el contingut generat per IA, els investigadors van crear un marc estadístic propi que analitza patrons lingüístics, com la distribució de la freqüència de paraules, i els compara amb textos humans previs al llançament de ChatGPT. El mètode assoleix una taxa d’error de predicció inferior al 3,3%, amb una precisió força alta en la distinció entre textos generats per humans i els automatitzats.
Una amenaça per a la creativitat i la confiança digital
Yaohui Zhang, un dels coautors de l’estudi, ha expressat la seva preocupació sobre l’impacte que pot arribar a tenir situar la IA generativa per sobre de la creativitat humana: “d’alguna manera, està limitant la creativitat”. A més, l’augment de contingut automatitzat pot afectar la confiança en els continguts digitals, sobretot en sectors com els comunicats corporatius i les queixes institucionals.
El creixement del “slop” generat per IA a la web fa valdre la necessitat de desenvolupar eines que permetin identificar i gestionar aquest tipus de contingut. Com equilibrar l’eficiència de la IA en la generació de contingut amb la preservació de l’autenticitat i creativitat humana? Són preguntes que queden obertes i el desenllaç està per veure.
Imatge de Gerd Altmann de Pixabay
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
