El Reglament d’IA de la Unió Europea obligarà els desenvolupadors a posar marques d’aigua al contingut generat amb IA. De moment, OpenAI ho està implementant només en el pla gratuït.
OpenAI està experimentant amb la incorporació de marques d’aigua en les imatges creades mitjançant el seu model de generació d’imatges en ChatGPT, específicament en comptes gratuïts. Aquest moviment busca abordar les preocupacions sobre l’autenticitat i l’origen del contingut generat per intel·ligència artificial.
L’investigador d’IA Tibor Blaho va descobrir referències a una funció anomenada «image-gen-watermark-for-free» en el codi de l’aplicació beta de ChatGPT per a Android, la qual cosa suggereix que OpenAI planeja implementar marques d’aigua en les imatges generades per usuaris sense subscripció. D’altra banda, els subscriptors de ChatGPT Plus podrien guardar imatges sense aquestes marques. Tanmateix, OpenAI no ha confirmat oficialment aquesta funció ni el seu abast definitiu.
La popularitat del model de generació d’imatges d’OpenAI ha crescut notablement, cosa que permet als usuaris crear imatges en diversos estils, com el característic de Studio Ghibli. Aquesta tendència ha portat l’empresa a considerar mesures que garanteixin la identificació clara dels continguts generats per IA.
D’obligació a Europa
Segons el Reglament d’IA de la Unió Europea, els continguts generats per IA hauran d’anar correctament identificats amb una marca d’aigua, que pot estar en el codi o ser visible. De fet, ja existeixen alguns sistemes per incloure aquest tipus de marques també en el text generat, encara que això genera molts dubtes als proveïdors d’aquestes tecnologies pel rebuig que podria generar en els seus usuaris, que algunes vegades volen amagar que han utilitzat la IA per redactar.
La implementació de marques d’aigua en continguts generats per IA no és nova. Empreses com OpenAI han explorat prèviament tècniques similars per identificar contingut creat artificialment. Tanmateix, l’eficàcia d’aquestes marques ha estat qüestionada, ja que poden ser eliminades o alterades, cosa que limita la seva utilitat en la prevenció de desinformació. En canvi, si s’integren en el codi, serien més difícils d’alterar o treure.
A més, OpenAI ha anunciat plans per desenvolupar una API de la seva eina de generació d’imatges, cosa que permetria a desenvolupadors externs integrar aquesta funcionalitat en les seves pròpies aplicacions. No queda clar si les marques d’aigua s’aplicaran també a les imatges generades a través d’aquesta API. De moment, aquestes es provaran en el pla gratuït.
Obre un parèntesi en les teves rutines. Subscriu-te al nostre butlletí i posa’t al dia en tecnologia, IA i mitjans de comunicació.
