ChatGPT: què és, per a què serveix i quines conseqüències té per a la docència

Índex

Mans teclejant amb un teclat d'ordinador portàtil

Què és ChatGPT?

ChatGPT és un chatbot, un sistema informàtic capaç de contestar preguntes mitjançant una interfície de text escrit. Destaca per la seua capacitat per a mantindre converses coherents i donar respostes plausibles que poden parèixer obra d’una persona, pràcticament sobre qualsevol tema i en qualsevol idioma. Utilitza algoritmes d’Intel·ligència Artificial (IA) generativa, entrenats amb el contingut de milions de pàgines web, llibres o articles de la Wikipedia.

  • Aquests algoritmes han analitzat milers de milions de documents per tal de detectar relacions entre paraules i patrons estadístics.
  • Requereixen conjunts de dades immensos i una gran potència de computació, amb un cost econòmic de l’ordre de centenars de milers o fins i tot milions d’euros.
  • La generació de text és un procés iteratiu en què, a cada pas, l’algoritme computa quina paraula o símbol seria més probable que apareguera a continuació, tenint en compte els milions de documents analitzats.

ChatGPT es va posar en funcionament el 30 de novembre de 2022. És un servei d’OpenAI, una empresa tecnològica amb participació majoritària de Microsoft. En aquest moment es pot utilitzar gratis, però també té versions de pagament.

  • Microsoft ha integrat aquesta tecnologia en el buscador Bing i el navegador Edge. També ha anunciat la seua integració en Teams i en les aplicacions d’Office, com ara Word, on servirà per a generar resums automàtics, esborranys de documents o de correus, etc.
  • L’API (Application Programming Interface) d’OpenAI permet integrar les funcions de ChatGPT en altres aplicacions. A hores d’ara hi ha un gran nombre d’eines l’utilitzen, com ChatPDF, Explainpaper, etc.
  • Altres empreses estan desenvolupant i posant en funcionament serveis similars a ChatGPT, com Google Bard Gemini. Google també ha anunciat que inclourà funcions d’IA generativa en el seu buscador web, en GMail, Google Docs, etc.

Per a què serveix la IA generativa?

La IA generativa pot realitzar tasques molt útils relacionades amb la creació i processament de textos a partir de la informació que li proporcione l’usuari en la seua consulta o prompt. Les funcions següents, entre altres, podrien ser rellevants en el context de l’educació superior:

  • Resumir un text aportat per l’usuari, p. ex. per a generar un abstract.
  • Proposar títols possibles per a un document, article, etc.
  • Generar l’esquema per a un document, article, etc., a partir d’una idea o tema descrit per l’usuari.
  • Generar un text complet a partir d’una idea o un esquema.
  • Reescriure un text amb un altre estil, p. ex. per a un tipus de públic diferent.
  • Generar preguntes (p. ex. qüestionaris) referents a un tema, o a un text aportat per l’usuari.
  • Generar codi informàtic (Python, Javascript, HTML, CSS, etc.) que realitze una funció descrita per l’usuari.
  • Conversar en anglès i en altres idiomes sobre qualsevol tema.

És fiable la IA generativa?

La IA generativa no és una enciclopèdia. Sol donar respostes coherents i versemblants, però és molt important tindre en compte que no són sempre correctes. Sovint contenen errors de fet en qualsevol àmbit temàtic. De vegades són errades flagrants, p. ex. en càlculs matemàtics, fins i tot càlculs aritmètics bastant simples, o quan atribueix a un autor obres que no ha escrit o no existeixen.

La raó és que aquest tipus d’algoritmes no estan dissenyats per a comprovar els fets i no tenen cap manera de fer-ho, sinó que es limiten a generar frases coherents a partir dels milions de textos amb què han estat entrenats.

Pel mateix motiu, ChatGPT i les altres aplicacions d’IA generativa no solen ser capaces de donar referències que sostinguen les seues afirmacions, ja que no basen les afirmacions en referències: són només frases derivades d’altres frases.

Per tant, ChatGPT no sol ser una bona eina per a resoldre dubtes o obtindre informació sobre un tema. Resulta molt més útil per a generar esborranys de diferents tipus de textos, els quals en tot cas caldrà revisar i editar.

Quines conseqüències té la IA generativa per a la docència?

És evident que l’estudiantat pot utilitzar ChatGPT o altres aplicacions equivalents per a redactar documents, p. ex. treballs acadèmics. De la mateixa manera que poden o podran fer-ho fora de l’àmbit acadèmic, p. ex. en l’entorn laboral. I de la mateixa manera que pot fer-ho el professorat.

Hem d’assumir que la Intel·ligència Artificial seguirà amb nosaltres i les seues aplicacions augmentaran i evolucionaran. Açò pot provocar canvis en moltes professions i és lògic que faça modificar també les metodologies docents. Ha passat abans amb les calculadores, els ordinadors, Google, la Wikipedia o els telèfons mòbils.

Cal distingir, per tant, dues qüestions:

  1. D’una banda, és necessari ensenyar a utilitzar aquestes eines, correctament i productivament, en les diferents pràctiques professionals i àrees de coneixement per a les quals formem l’estudiantat (mitjançant el procés de reflexió que siga necessari al si dels departaments i de les àrees de coneixement).
  2. Al mateix temps, cal evitar el seu ús fraudulent en activitats d’avaluació.

Què puc fer respecte a l’avaluació?

En els treballs de l’estudiantat, l’ús literal de respostes generades per IA com si foren originals es pot considerar una acció fraudulenta, segons l’article 11 de la normativa d’avaluació de grau i màster de l’UJI.

Tanmateix, la prohibició de la IA no resulta viable, ni seria tampoc una opció raonable, ja que suposaria ignorar la realitat. Entre altres raons, perquè molts usos de la IA, com hem vist, poden ser perfectament legítims.

Turnitin i altres empreses o la mateixa OpenAI amb AI Text Classifier, han anunciat o ofereixen la possibilitat de detectar els treballs que hagen estat generats per una IA i utilitzats literalment. Tanmateix, els índexs de falsos negatius i falsos positius d’aquests serveis són massa elevats, i és dubtós que puguen arribar a funcionar d’una manera suficientment fiable, a mesura que millora la capacitat d’imitar amb la tecnologia l’escriptura genuïnament humana.

Més enllà de la detecció automàtica o del prohibicionisme, la manera d’afrontar la incorporació de la IA en les activitats d’ensenyament (professorat) i aprenentatge (estudiantat) depén molt de les particularitats de cada àrea de coneixement. Però es poden donar alguns consells d’abast general per a minimitzar les males pràctiques i reforçar l’aprenentatge.

1. Evitar els tipus de treballs que pot emular més fàcilment una IA generativa

Com a regla general, si un treball el pot redactar una IA generativa, no serà una bona prova d’avaluació. Podeu demanar a ChatGPT que redacte el treball i comprovar si ho fa bé o no.

Algunes característiques rellevants que podria tenir un bona prova d’avaluació serien les següents:

  • Ser prou específica: no limitar-se a l’exposició d’un tema massa genèric que es puga copiar o generar fàcilment.
  • Requerir habilitats cognitives d’ordre superior: analitzar, comparar, justificar, criticar… i no sols traslladar informació ja existent.
  • Implicar tasques pràctiques, com ara recollir testimonis o dades reals, tractar o elaborar les dades, analitzar casos concrets, etc.
  • Incloure punts de vista de diferents autors o referències bibliogràfiques de diferents autors (les IA generatives solen inventar informació bibliogràfica falsa o inexacta).
  • Enfocar-se a temes recents (les IA generatives han estat entrenades mesos o anys arrere i no solen tenir accés a informació més actual).

2. Avaluar el procés, no sols el resultat

Fer un seguiment adequat dels treballs durant la seua realització, sense esperar fins a la tramesa final de la tasca, amb revisions periòdiques en les quals l’estudiantat informe al professorat sobre el procés d’elaboració.

3. Incloure components d’autoreflexió en l’avaluació

És a dir, que l’estudiant haja de contestar qüestions referents al seu aprenentatge i al treball realitzat. Per exemple:

  • Com has planificat i estructurat el treball? Quins problemes t’has trobat i quines decisions has hagut de prendre?
  • Què has après amb el treball? Quins coneixements o competències nous has adquirit? Quins coneixements o competències previs has necessitat aplicar?

4. Valorar l’adequació del treball escrit als objectius d’aprenentatge i considerar altres opcions i estratègies d’avaluació

  • Considereu altres tipus de treballs avaluables: vídeos, presentacions, mapes conceptuals, infografies, etc.
  • Considereu altres estratègies d’avaluació, com l’aprenentatge basat en projectes.

5. Explorar amb l’alumnat les possibilitats i limitacions de la tecnologia

  • Podeu treballar amb l’estudiantat amb informació generada per ChatGPT sobre temes de l’assignatura. Identificar errors, comprovar dades, etc.
  • Especialment en assignatures centrades en l’escriptura de text o de codi informàtic, podeu provar a integrar les eines d’IA generativa en el cicle de treball habitual.
    • P. ex., podríeu demanar a l’estudiantat que partisca de text o codi generat per ChatGPT i que explique i justifique els canvis que ha hagut d’introduir per a arribar a la versió definitiva.

Hauria de provar ChatGPT, Copilot, etc.?

Provar ChatGPT, o altres eines semblants, us permetrà formar-vos una idea més clara de quin és l’abast i quines són les limitacions d’aquesta tecnologia en el vostre àmbit de coneixement. Però recordeu que es tracta d’un servei extern i que haureu d’acceptar el tractament de dades personals que puga realitzar. Per tant, no es podria utilitzar amb alumnat en activitats docents obligatòries.

Especialment en activitats docents, l’aplicació que us aconsellem és el Copilot de Microsoft amb l’adreça de correu i contrasenya de l’UJI. Si feu servir Copilot amb el vostre compte de l’UJI, Microsoft garanteix que no desarà les dades de les converses, les esborrarà en acabar la sessió i no les utilitzarà per a entrenar els seus models d’IA.

ChatGPT o Gemini no ofereixen als usuaris de l’UJI el mateix nivell de protecció. En tot cas, procureu no introduir mai dades personals o informació confidencial en les vostres interaccions amb aquestes eines.

Més informació sobre ChatGPT, IA i docència