ChatGPT: què és, per a què serveix i quines conseqüències té per a la docència

Índex

Mans teclejant amb un teclat d'ordinador portàtil

Què és ChatGPT?

ChatGPT és un chatbot, un sistema informàtic capaç de conversar amb humans. Destaca per la seua capacitat per a mantindre converses coherents i donar respostes plausibles que poden parèixer obra d’una persona, pràcticament sobre qualsevol tema i en qualsevol idioma. Utilitza algoritmes d’Intel·ligència Artificial (IA) generativa, entrenats amb el contingut de milions de pàgines web, llibres o articles de la Wikipedia. Podem fer-li preguntes o demanar-li que redacte textos. També pot escriure codi informàtic.

  • Aquests algoritmes han analitzat milers de milions de documents per tal de detectar relacions entre paraules i patrons estadístics. Posteriorment, poden fer servir aquests patrons per a generar textos nous.
  • Requereixen conjunts de dades immensos i una gran potència de computació, amb un cost econòmic de l’ordre de centenars de milers o fins i tot milions d’euros.

ChatGPT es va posar en funcionament el 30 de novembre de 2022. És un servei d’OpenAI, una empresa tecnològica amb participació majoritària de Microsoft. En aquest moment es pot utilitzar gratis, però també té versions de pagament.

  • Microsoft ha integrat aquesta tecnologia en el buscador Bing i el navegador Edge. També ha anunciat la seua integració en Teams i en les aplicacions d’Office, com ara Word, on servirà per a generar resums automàtics, esborranys de documents o de correus, etc.
  • L’API (Application Programming Interface) d’OpenAI permet integrar les funcions de ChatGPT en altres aplicacions. A hores d’ara hi ha nombroses aplicacions que en trauen profit, com ChatPDF, Explainpaper, etc.
  • Altres empreses estan desenvolupant i posant en funcionament productes similars a ChatGPT, com Google Bard. Google també ha anunciat que inclourà les mateixes funcions d’IA generativa en el seu buscador web, en GMail, Google Docs, etc.

Per a què serveix ChatGPT?

ChatGPT pot realitzar tasques molt útils relacionades amb la creació i processament de textos a partir de la informació (prompt) que li proporciona l’usuari. Les funcions següents, entre altres, podrien ser rellevants en el context de l’educació superior:

  • Resumir un text, p. ex. per a generar un abstract.
  • Proposar un títol per a un document, article, etc.
  • Generar l’esquema per a un document, article, etc., a partir d’una idea.
  • Generar un text complet a partir d’una idea o un esquema.
  • Reescriure un text amb un altre estil, p. ex. per a un tipus de públic diferent.
  • Generar preguntes (p. ex. qüestionaris) referents a un text.
  • Conversar en anglès i en altres idiomes.

És fiable ChatGPT?

ChatGPT sol donar respostes coherents i versemblants, però és molt important tindre en compte que no són sempre correctes. Sovint contenen errors de fet en qualsevol àmbit temàtic. De vegades són errors flagrants, p. ex. en càlculs matemàtics, fins i tot càlculs aritmètics bastant simples, o quan atribueix a un autor obres que no ha escrit o no existeixen.

La raó és que aquest tipus d’algoritmes no estan pensats per a comprovar els fets i no tenen cap manera de fer-ho, sinó que es limiten a generar respostes versemblants, no sempre vertaderes, remesclant de forma aparentment coherent els milions de frases amb què han estat entrenats (que poden ser certes o no).

Pel mateix motiu, ChatGPT no sol ser capaç de donar referències que sostinguen les seues afirmacions, ja que no basa les afirmacions en referències: són només frases derivades d’altres frases.

Per tant, ChatGPT no sol ser una bona eina per a resoldre dubtes o obtindre informació sobre un tema. Resulta molt més útil per a generar esborranys de diferents tipus de textos, els quals en tot cas caldrà revisar i editar.

Quines conseqüències té ChatGPT per a la docència?

És evident que l’estudiantat pot utilitzar ChatGPT o altres aplicacions equivalents per a redactar documents, p. ex. treballs acadèmics. De la mateixa manera que poden o podran fer-ho fora de l’àmbit acadèmic, p. ex. en l’entorn laboral. I de la mateixa manera que pot fer-ho el professorat.

Hem de pensar que la Intel·ligència Artificial seguirà amb nosaltres i les seues aplicacions augmentaran i evolucionaran. Açò pot produir canvis en moltes professions i és lògic que faça modificar també les metodologies docents. Ha passat abans amb les calculadores, els ordinadors, Google, la Wikipedia o els telèfons mòbils.

Cal distingir, per tant, dues qüestions:

  1. D’una banda, és necessari ensenyar a utilitzar aquestes eines, correctament i productivament, en les diferents pràctiques professionals i àrees de coneixement per a les quals formem l’estudiantat (mitjançant el procés de reflexió que siga necessari al si dels departaments i de les àrees de coneixement).
  2. D’altra banda, cal evitar el seu ús fraudulent en activitats d’avaluació.
El focus, generalment, s’ha posat en la segona qüestió, però la primera és igualment important.

Què puc fer respecte a l’avaluació?

Podríem pensar en prohibir a l’estudiantat l’ús de ChatGPT i aplicacions similars, però aquesta mesura resultaria inviable en la pràctica fora de les aules informàtiques de l’UJI. I a més a més no seria mai una bona solució, perquè suposaria ignorar la realitat.

D’altra banda, tant Turnitin com altres empreses, o la mateixa OpenAI (amb AI Text Classifier), han anunciat o ofereixen ja la possibilitat de detectar els treballs redactats per una IA.

  • Tanmateix, els índexs de falsos negatius i falsos positius d’aquests serveis són elevats, i és dubtós que puguen arribar a funcionar d’una manera suficientment fiable, a mesura que millora la capacitat d’imitació de l’escriptura genuïnament humana (cfr. “Can AI-Generated Text be Reliably Detected?”).
  • El 20 de juliol de 2023, OpenAI va retirar el seu detector “a causa del seu baix índex de precisió”.

Més enllà d’aquesta detecció automàtica, la manera d’afrontar la incorporació de la IA en les activitats d’ensenyament (professorat) i aprenentatge (estudiantat) depén molt de les particularitats de cada àrea de coneixement. Però es poden donar alguns consells d’abast general per a minimitzar aquest tipus de frau:

  1. Evitar els tipus de treballs que pot emular més fàcilment una IA generativa
    • Com a regla general, si un treball el pot redactar una IA generativa, no serà una bona prova d’avaluació. Podeu demanar a ChatGPT que redacte el treball i comprovar si ho fa bé o no.
    • Algunes característiques rellevants que podrien tenir els treballs serien les següents:
      • Ser prou específics: no limitar-se a l’exposició d’un tema massa genèric que es puga copiar o generar fàcilment.
      • Requerir habilitats cognitives d’ordre superior: analitzar, comparar, justificar, criticar… i no sols traslladar informació ja existent.
      • Implicar tasques pràctiques, com ara recollir testimonis o dades reals, tractar o elaborar dades, analitzar casos concrets, etc.
      • Incloure punts de vista de diferents autors o referències bibliogràfiques de diferents autors (les IA generatives solen inventar informació bibliogràfica falsa o inexacta).
      • Enfocar-se a temes recents (les IA generatives no solen tenir accés a informació actual).
  2. Avaluar el procés, no sols el resultat
    • Fer un seguiment adequat dels treballs durant la seua realització, sense esperar fins a la tramesa final de la tasca, amb revisions periòdiques en les quals l’estudiantat us informe sobre el procés d’elaboració.
  3. Incloure components d’autoreflexió en l’avaluació
    • És a dir, que l’estudiant haja de contestar qüestions referents al seu aprenentatge i al treball realitzat. Per exemple:
      • Com has planificat i estructurat el treball? Quins problemes t’has trobat i quines decisions has hagut de prendre?
      • Què has après amb el treball? Quins coneixements o competències nous has adquirit? Quins coneixements o competències previs has necessitat aplicar?
  4. Valorar l’adequació del treball escrit als objectius d’aprenentatge i considerar altres opcions i estratègies d’avaluació
    • Considereu altres tipus de treballs avaluables: vídeos, presentacions, mapes conceptuals, infografies, etc.
    • Considereu altres estratègies d’avaluació, com l’aprenentatge basat en projectes.
  5. Explorar amb l’alumnat les possibilitats i limitacions de la tecnologia
    • Podeu treballar amb l’estudiantat amb informació generada per ChatGPT sobre temes de l’assignatura. Identificar errors, comprovar dades, etc.
    • Especialment en assignatures centrades en l’escriptura de text o de codi informàtic, podeu provar a integrar les eines d’IA generativa en el cicle de treball habitual.
      • P. ex., podríeu demanar a l’estudiantat que partisca de text o codi generat per ChatGPT i que explique i justifique els canvis que ha hagut d’introduir per a arribar a la versió definitiva.

Hauria de provar ChatGPT?

Provar ChatGPT us permetrà formar-vos una idea més clara de què és capaç de fer en el vostre àmbit. Però recordeu que es tracta d’un servei extern i que haureu d’acceptar el tractament de dades personals que puga realitzar. Per tant, no es podria utilitzar en activitats docents obligatòries.

Especialment en activitats amb alumnat, us aconsellem que feu servir en el seu lloc Google Bard, molt similar a ChatGPT. Com que és accessible amb el compte Google de l’UJI, no requereix crear un nou compte d’usuari en un servei extern.

Aquestes aplicacions registren totes les vostres interaccions i les poden fer servir com a feedback per a avaluar i millorar el seu funcionament. No hi introduïu mai dades personals o informació confidencial.

Més informació sobre ChatGPT, IA i docència