No es pot negar l’impacte actual de les eines d’IA generativa en els nostres entorns professionals, acadèmics i personals. Tant si hi confiem com si ens mantenim escèptics davant dels usos que se’n fan, el debat públic ja és ben visible i té una gran presència als mitjans. Només cal obrir un fil de notícies per trobar desenes d’articles dedicats als reptes ètics, qualitatius, jurídics i mediambientals, o bé als riscos d’addicció que planteja aquesta tecnologia. Sigui quina sigui la nostra visió sobre la utilitat o la pertinència de la IA generativa per a una tasca concreta, la seva presència en la nostra vida digital ja no és anecdòtica. S’ha convertit en una eina àmpliament accessible i visible, de vegades gratuïta, que molta gent utilitza amb la mateixa facilitat que un cercador, un mitjà de comunicació públic o una base documental en línia.

Tanmateix, com totes les eines digitals, obeeix les seves pròpies regles. El seu funcionament algorítmic fa que no sigui ni un cercador, ni un mitjà de comunicació, ni una base documental. La IA generativa és, per definició, una eina de generació de continguts. Respon a una petició formulada en forma d’instrucció o prompt. La manera com es redacta aquesta petició influeix en la resposta i pot fer-hi aparèixer determinats biaixos, representacions —correctes o errònies— i intencions. Tot i que la IA generativa no està pensada per esdevenir una font de referència, funciona com una eina de redacció basada en la predicció. Segons el sistema, aquesta generació es pot complementar amb l’accés a documents o fonts externes. Les dades d’entrenament, les decisions de disseny i els recursos emprats també poden reproduir biaixos, representacions i prioritats.

Considerem essencial comprendre els grans principis algorítmics que fan funcionar la IA generativa per poder utilitzar aquestes eines amb criteri. Aquesta comprensió no és pas inaccessible: es pot adquirir d’una manera senzilla i lúdica. Permet, especialment, distingir la generació de continguts de la cerca d’informació. Una IA generativa no substitueix ni la recerca, ni la verificació de les fonts, ni la reflexió personal. Pot ajudar a formular, resumir o redactar, però mai no ens eximeix de tornar a les fonts, comprovar els fets i aplicar el nostre propi criteri. També pot donar suport a algunes persones amb trastorns de l’aprenentatge, per exemple reformulant una consigna, proposant una explicació diferent, estructurant un text o facilitant-ne l’accés oral. Aquests usos no substitueixen l’acompanyament pedagògic ni les eines d’accessibilitat adequades, però mostren l’interès d’explorar què pot aportar la IA a cadascú, segons les seves necessitats.

És precisament en aquest espai, entre la fascinació, la inquietud i la necessitat d’entendre, on se situa Youth AI Lab. El projecte proposa als joves observar, manipular i qüestionar els sistemes d’IA a partir d’experiments concrets duts a terme en quatre laboratoris europeus. No es tracta ni de celebrar cada novetat tecnològica ni d’alimentar discursos catastrofistes. Més aviat volem construir punts de referència per entendre com funcionen aquestes eines, quins usos tenen i quins límits presenten.

Defensem, doncs, un enfocament de la IA que no es limiti ni al domini tècnic d’una eina ni a l’aprenentatge d’uns quants «bons prompts». Entendre una IA generativa vol dir aprendre a qüestionar l’origen d’una resposta, verificar-ne el contingut i reconèixer les incerteses que de vegades amaga darrere d’una formulació convincent. Vol dir exercir l’esperit crític davant d’una màquina que produeix continguts versemblants sense produir necessàriament continguts verídics. I vol dir, finalment, qüestionar les decisions econòmiques, polítiques, socials i mediambientals que en determinen tant el disseny com la difusió.

Aquest primer butlletí presenta les primeres etapes de Youth AI Lab i els recursos que ja estan disponibles al nostre web. Mitjançant experiments, retorns de l’experiència sobre el terreny i eines pedagògiques obertes, el projecte vol oferir als joves, als mentors i als equips educatius recursos concrets per observar, manipular i qüestionar la IA. No pretenem donar una resposta definitiva sobre què hauria de ser, sinó proposar mètodes i recursos per abordar-la amb curiositat, criteri i responsabilitat.

Amb aquest primer número, us convidem a endinsar-vos amb nosaltres en aquest procés: manipular per comprendre, contrastar per qüestionar i compartir per aprendre. Bona lectura.