Per la castanyada, un conte de terror
La Queralt va somriure satisfeta: la IA li havia fet els deures de llengua en segons. Tot sonava perfecte… o gairebé. L’endemà, la mestra va aixecar una cella mentre llegia.
—Queralt, què vol dir “les fulles ballaven amb una melodia d’algoritmes”?
Tota la classe va riure. La Queralt es va enrojolar avergonyida. Va mirar la llibreta, que li retornava la profe amb una frase afegida en vermell: “si fas servir la IA per fer els deures, com a mínim repassa el text abans de lliurar-lo”.
Aquesta podria ser una història basada en fets reals i la moral seria que una cosa és que la IA t’ajudi a fer els deures i l’altra, que te’ls faci.
N’estem aprenent en tots els àmbits de les nostres vides. En un món on la IA pot crear textos perfectes i imatges realistes, i copiar la veu humana amb una precisió extraordinària, distingir la realitat de la ficció s’ha convertit en un desafiament quotidià per a tots. Aquesta és la qüestió que la UNESCO ha posat al centre del debat en la Setmana AMI, que acaba avui.
Amb el lema La IA també s’equivoca, la trobada internacional s’ha dedicat a analitzar com l’alfabetització mediàtica i informacional pot ajudar les persones a reflexionar críticament sobre els continguts generats per intel·ligència artificial. Els models d’IA estan dissenyats per respondre preguntes i quan no saben la resposta, endevinen, per millorar el seu rendiment general. Aquest procés produeix respostes incorrectes expressades amb total seguretat.
La UNESCO adverteix que “aquests errors poden enganyar la ciutadania, influir en els líders i modelar l’opinió pública. Els efectes ja s’estan notant: el contingut fals es difon ràpidament, influeix en els processos electorals, distorsiona fets i erosiona la confiança en el periodisme.”
Algunes de les accions que UNESCO proposa per frenar la desinformació i reconstruir la confiança són: aturar-se abans de compartir, qüestionar les fonts, diversificar els mitjans de comunicació i comprendre com funcionen els sistemes d’IA. Aquests són alguns dels deures que s’emporten els països participants en la Setmana AMI per treballar amb la seva ciutadania.
Per aprendre com funcionen els sistemes d'IA a l'eduCAC us proposem la situació d'aprenentatge Un cervell al teu servei, on l'alumnat treballarà les bases del funcionament d'aquesta tecnologia, les implicacions ètiques i socials que té, els avantatges, i també els riscos que comporta.
