La IA como ayudante y la sospecha sobre quién ha trabajado

Seguimos con la inteligencia artificial (generativa, que es el sabor actual). Seguro que todos estamos más o menos cansados del mantra sobre si la IA nos va a sustituir o no, si va a hacer nuestros negocios mejores o peores y todas esas cosas.

En Universities in the age of AI comentan sobre el artículo ‘I received a first but it felt tainted and undeserved’: inside the university AI cheating crisis sobre algunos aspectos que me han parecido interesantes (pero, ya se sabe, hagamos lo que hagamos estará mal, tampoco pasa nada).

La cuestión comienza con lo que casi todo el mundo hace: usar alguna IA para alguna parte de su trabajo; por supuesto, encontrar usos más que útiles y, tal vez, tener cuidado con los resultados o directamente no utilizarlas para algunas partes que consideramos especialmente críticas.

I use genAI in client work, and also in my academic studies. It’s incredibly useful as a kind of ‘thought partner’ and particularly handy in doing a RAG analysis of essays in relation to assignments. Do I use it to fabricate the answers to assessed questions which I then submit as my own work? No, of course not.

A nivel institucional las aproximaciones son diversas y muchos preferiríamos que fueran positivas, con cuidado.

Different institutions are approaching the issue differently, as you would expect. The answer, I would suggest, is something akin to Cambridge University’s AI-positive approach, outlined in the quoted text below.

Porque utiliar las herramientas de forma adecuada puede ser una experiencia enriquecedora.

It’s been my experience that using genAI in appropriate ways is an incredibly enriching experience.

Pero sin olvidar que lo que hacemos (en la Universidad y en otros sitios) es aprender para nuestro propio beneficio, estudiar con IA puede ser mejor que hacerlo sin ella.

At the end of the day, I’m studying for my own benefit, and I know that studying with genAI is better than studying without it.

Pero también que el objetivo es aprender y hacer cosas mejores, no sustituir nuestro propio trabajo.

Por su parte en el artículo referenciado hablan de cómo muchos estudiantes utilizan IA y se enfrentan a situaciones donde las personas que les evalúan creen que han utilizados estas herramientas más allá de lo debido.

Albert, a 19-year-old undergraduate English student, scanned the content, stunned. He had been accused of using artificial intelligence to complete a piece of assessed work.

Las universidades se encuetran, nos dice, en una escalada de ‘armamento’, incluso utiliando la IA para detectar usos fraudulentos de la IA.

In the struggle to stuff the genie back in the bottle, universities have become locked in an escalating technological arms race, even turning to AI themselves to try to catch misconduct.

Con sus propios problemas, puesto que estas herramientas tienen sus propios sesgos, al señalar como copiadas con mayor frecuencia las entregas de personas que no hablan el idioma (el inglés, en este caso) frente a las que lo dominan.

One study at Stanford found that a number of AI detectors have a bias towards non-English speakers, flagging their work 61% of the time, as opposed to 5% of native English speakers

Y, claro, esto provoca un ambiente de sospecha: cualquier cosa extraña puede ser calificada e investigada como posible mala conducta.

Cheating or not, an atmosphere of suspicion has cast a shadow over campuses.

Problema que se extiende incluso entre los propios estudiantes cuando tienen que colaborar.

Students are also turning on each other. David, an undergraduate student who also requested to remain anonymous, was working on a group project when one of his course mates sent over a suspiciously polished piece of work.

Aunque también existen las políticas favorables hacia la IA, por ejemplo para descubrir conceptos nuevos, colaborador, o apoyo en la gestión del tiempo.

At Cambridge University, for example, appropriate use of generative AI includes using it for an “overview of new concepts”, “as a collaborative coach”, or “supporting time management”.

Avisando, eso sí, de que un exceso de confianza en las herramientas puede llevar a un desarrollo limitado de las capacidades del estudiantado en cuanto a la posibilidad de desarrollar habilidades de pensamiento crítico.

The university warns against over-reliance on these tools, which could limit a student’s ability to develop critical thinking skills.

Aunque esto seguramente nos llevará a modificar los sistemas de evaluación (entrevistas de uno en uno, exámenes orales, …)

They all agreed that a shift to different forms of teaching and assessment – one-to-one tuition, viva voces and the like...

Sin olvidarnos de que la obtención de un título es algo tan mercantilizado (en países donde la financiación depende de las matrículas, pero, como siempre, también en otros modelos) que tampoco se puede ser demasiado exigente, porque los ‘clientes’ eligen otros sitios donde lo son menos.

If anything, the AI cheating crisis has exposed how transactional the process of gaining a degree has become. Higher education is increasingly marketised; universities are cash-strapped, chasing customers at the expense of quality learning.

Mis recomendaciones a mis estudiantes es utilizar las IAs, pero no para que realicen su trabajo, sino para consultarles dudas, pedirles explicaciones, comprender cómo funcionan y qué debilidades tienen, analizar críticamente lo que responden…. Y, sí, claro: también hemos encontrado casos de estudiantes que envían como resultado de su trabajo el que ha hecho una de estas cosas (aunque antes tampoco tenían problema en enviar lo que había hecho alguno de sus compañeros). Hemos descubierto, por ejemplo, como dos estudiantes pueden encontrarse con que su trabajo es copiado aunque ni siquiera se conozcan entre sí: la IA les ha dado a ambos un resultado muy similar (y con defectos que permiten detectar que no lo habían hecho ellos).