La intel·ligència artificial (IA) generativa ha de respectar, en el seu desenvolupament actual i futur, els principis d’equitat, privadesa i responsabilitat, adequant-se a una sèrie de valors morals a l’hora de prendre decisions o actuar. Aquestes són algunes de les recomanacions principals expressades el dia 12 de desembre, al Museu de la Ciència CosmoCaixa, per l’alumnat participant a la jornada de conclusions del programa “Joves, Ciència i Ètica”, curs 2024-2025. Organitzat per la Fundació Catalana per a la Recerca i la Innovació (FCRI), en col·laboració amb el Departament d’Educació i Formació Professional de la Generalitat i amb el suport de l’Ajuntament de Barcelona, la iniciativa ha dedicat la seva novena edició a l’IA.
Un total de 328 alumnes de 3r d’ESO i 26 professors de 5 instituts catalans, han format part d’un programa que vol estimular la capacitat crítica dels joves i implicar-los en els debats ètics que avui plantegen els temes d’actualitat vinculats a la recerca i les seves implicacions socials. En l’àmbit de la privadesa, els participants a la jornada han considerat que l’IA hauria de tenir en compte el maneig de dades sensibles, tot recalcant la necessitat d’esdevenir usuaris crítics d’aquesta tecnologia. El respecte als valors morals per part de l’IA s’ha de centrar, segons l’alumnat, en els principis ètics de transparència en l’obtenció de les dades utilitzades, l’equitat entesa com a absència de biaixos en els models de llenguatge, i el respecte a la seguretat i el be de les persones, aspectes que, per a materialitzar-se, exigeixen arribar a un consens general de mínims.
Alumnes dels 5 centres de Barcelona participants enguany (IES Oriol Martorell, Institut Miquel Tarradell, Institut Pau Claris, Institut Caterina Albert i Institut Jaume Balmes), organitzats en grups mixtos de treball formats per 10 estudiants (2 representants de cadascun dels instituts), han exposat a la trobada les seves conclusions, debatent-les entre si. La dinàmica va ser conduïda per experts científics de l’Institut d’Investigació en Intel·ligència Artificial del Consell Superior d’Investigacions Científiques (IIIA-CSIC), la Universitat Autònoma de Barcelona (UAB) i el Barcelona Supercomputing Center – Centre Nacional de Supercomputació (BSC-CNS), amb el suport d’experts en debats. En aquesta edició de Joves, Ciència i Ètica, la IA s’ha estudiat, des del punt de vista ètic, mitjançant quatre grans subtemes: “Principis ètics per a la IA”, “IA amb valors morals”, “Eines IA generatives i aprenentatge” i “IA i biaixos en els models de llenguatge”.