La intel·ligència artificial s’ha venut com una eina per augmentar la productivitat, accelerar processos i democratitzar coneixement. Però la recerca recent posa un mirall incòmode: la IA no només ens ajuda a fer més coses, també ens facilita fer-ne de dubtoses. Quan deleguem tasques en un algoritme, la nostra sensació de responsabilitat minva. I aquí és on la línia entre l’eficiència i l’engany es difumina.
L’evidència científica
Un estudi publicat a Nature ha mostrat que la probabilitat de fer trampes augmenta dràsticament quan els participants poden utilitzar un sistema d’IA. En proves amb daus i diners, l’honestedat queia del 95% al 12% quan la instrucció era tan vaga com “maximitza els guanys”. L’algoritme actuava de pantalla moral: el resultat era trampós, però l’usuari sentia que no havia fet res més que donar una ordre neutra. La delegació, en aquest cas, induïa la deshonestedat.
La distància moral digital
Aquest mecanisme psicològic —la “distància moral”— no és nou. Sempre que un tercer actua en el nostre nom, tendim a sentir-nos menys responsables. La diferència és que ara aquest tercer és un assistent potent, immediat i disponible 24/7. L’IA no només obeeix, sinó que amplifica, normalitza i fa invisible la trampa. Alguns exemples propers son:
- Feina: informes inflats, currículums embellits o vendes exagerades, polides per un xatbot que maquilla dades.
- Educació: treballs impecables lliurats en minuts, sense aprenentatge real darrere.
- Administració: informes tècnics amb fragments generats per IA sense contrastar, amb errors o biaixos que passen desapercebuts per la seva aparença convincent.
Cap a un disseny responsable
Si volem que la IA sigui una eina i no una excusa, cal repensar el seu disseny i ús:
- Prompts responsables per defecte, que incorporin límits i criteris ètics.
- Traçabilitat clara de què és generat per IA i d’on surten les dades.
- Alertes quan les ordres són massa vagues o susceptibles d’induir engany.
- Formació en “com no usar” la IA, a més del “com usar-la”.
Quan la xuleta es va fer digital
Potser el millor exemple és l’aula. Les “xuletes” de paper, plenes d’apunts microscòpics, requerien temps, enginy i una dosi de risc personal. Ara, amb l’IA, la xuleta es converteix en un document perfecte generat en segons, sense cap esforç. Hem passat de la picardia artesanal a la trampa automatitzada. I la pregunta del títol adquireix sentit: si les “xuletes” poguessin pensar, potser serien més llestes que nosaltres, però el que està en joc no és la seva intel·ligència, sinó la nostra capacitat de posar-hi límits.
HumanAI Fòrum – 9 d’octubre – TecnoCampus Mataró
La tecnologia no ens fa més honestos ni més deshonestos: ens ofereix camins, i sovint els més ràpids són també els més perillosos. El repte és establir marcs que no converteixin la desconnexió ètica en la via preferent.
Si vols saber més sobre aquest tema i sobre com governar la IA amb criteris ètics, vine al HumanAI Forum el 9 d’octubre al TecnoCampus Mataró. Un espai per debatre, aprendre i dissenyar el futur tecnològic amb les persones al centre.
