Bitácora de fernand0 Cambiando de aires

Bots ¿con o contra bots?

Cátedra aula Fray Luis de León

Leía hace un rato un titular que venía a decir que se está graduando estos días la primera cohorte de estudiantes-chatGPT. Si recordamos, ChatGPT fue lanzado en noviembre del 2022 (ChatGPT en Wikipedia) así que es un buen título: los estudiantes que comenzaron en el 2022 ahora se estarán graduando.

Llevamos ya cuatro años en los que todavía no hemos decidido qué es la IA para muchas (por no decir casi ninguna) de las actividades que desarrollamos y, a la vez, usándolo (casi siempre de manera oportunista) para muchas actividades que desarollamos. La contradicción viene de que no hay usos formalmente aprobados/recomendados en la mayoría de las organizaciones y, sin embargo, está claro que casi todo el mundo echa mano de una IA para diversas tareas. En educación, en particular, parece un buen atajo para los estudiantes (‘hazme esta tarea’) a la que los vendedores no parecen estar poniendo especial interés en detener, y para el profesorado es un atajo (que tire la primera piedra quién nunca haya usado una IA para preparar algo de alguna clase) y también un dolor de cabez: ¿habrá hecho esto mi estudiante o lo habrá hecho la IA?. A veces es fácil detectarlo, y otras veces no tanto.

En ‘It’s just bots talking to bots’: AI is running rampant on college campuses as students and professors alike lean on the tech hablaban del tema desde la persperctiva de la educación y las paradojas que aparecen.

Si lo pensamos, esto se puede convertir en lo que dice el titular: el profesor prepara una tarea (con IA), los estudiantes la resuelven (con IA), y el profesor la corrige y califica (con IA).

Ya hemos escuchado las voces de muchos profesores quejándose de esta nueva situación, pero también ocurre con los estudiantes: ¿realmente vamos a pagar por una enseñanza que viene automatizada?

While it was once faculty at higher institutions who were up in arms about students’ use of AI, now some students are getting increasingly irked about their professors’ reliance on it.

¿Debemos admitir ser penalizados por utilizar la IA cuando los profes la usan?

However, others say it’s unfair that students can be penalized for AI use while professors fly largely under the radar.

Parece un debate interesante y hacia el final se concentran en la transparencia (o falta de ella): se puede usar o no, pero habría que aclararlo para que todo el mundo sepa a qué atenerse.

He suggests being upfront about AI use, explaining how it benefits students, such as allowing more time for grading or helping create fairer assessments.

Y, claro, aparecen usos más interesantes: ¿una IA podría servir de segundo corrector para asegurarnos de que no nos hemos equivocado? Podría evitar, por ejemplo, sesgos.

In one recent example of helpful AI use, the university lecturer began using large language models like ChatGPT as a kind of “double marker” to cross-reference his grading decisions.

Sin duda, en cualquier caso, lo más interesante (y necesario) es convencer a todo el mundo de que los estudiantes necesitan aprender determinadas cosas (aunque las IAs puedan hacerlas) y el profesorado hacer su parte del trabajo de forma que esta tarea sea de utilidad.

“There’s still a temptation [to cheat]…but I think these students might realize that they really need the skills we’re teaching for later life,” he said.

Allí intentaremos estar.

En la I Jornada sobre Software Libre e Inteligencia Artificial Abierta

Un esquema de la arquitectura generado con IA

Desde la URJC se ha organizado la I Jornada sobre Software Libre e Inteligencia Artificial Abierta (seLIA), subtitulada ‘Una jornada para compartir conocimientos, experiencias, herramientas e ideas en torno a la intersección entre software libre e IA abierta’ y pensé que podría ser un buen foro para presentar algunos experimentos que estoy haciendo con IAs locales para la gestión de la agenda.

Yo pensaba que seríamos unos pocos amigos (por la premura de la convocatoria y las limitaciones de este tipo de aproximaciones) pero fue un auténtico éxito. Con oportunidad de reencontrar a viejos conocidos y conocer a más personas interesadas en estos temas. Ojalá tenga continuidad.

La propuesta puede verse en Soberanía Digital (o casi) de bajo coste: algunos experimentos con la gestión de la agenda utilizando LLMs locales y la presentación que utilicé en [PDF] Soberanía Digital (o casi) de bajo coste: algunos experimentos con la gestión de la agenda utilizando LLMs locales.

La idea es sencilla: recibimos un montón de convocatorias, desde fuentes diversas (correos electrónicos con convocatorias y páginas web, fundamentalmente) y la pregunta era si se podría automatizar la extracción de la información relevante (fecha, hora, lugar, …) e incluirla en nuestro calendario. Cuando empecé (finales del 2024, principios del año pasado) el proceso era lento y poco fiable (el principio fue con IAs generalistas y remotas, así que la velocidad era buena, pero pronto pensamos en los temas de privacidad, independencia de los proveedores, …), pero ahora solo es lento y funciona bastante bien (si aceptamos que la respuesta no sea inmediata). En mi caso valoro mucho la precisión de las respuestas (porque suelo equivocarme al introducir datos en la agenda con cierta facilidad) y así lo manifestábamos en las conclusiones: Para añdirle interés el proyecto se desarrolla utilizando un equipo limitado, una Raspberry Pi 5 Model B Rev 1.0 (8Gb).

Ya habíamos hecho alguna aproximación con programas (sin IA), pero las bibliotecas disponibles no cubrían las necesidades del todo.

Se trata de un trabajo sencillo de elegir las preguntas (prompts) adecuadas,con algunos descubrimientos curiosos por el camino, como que los LLMs en aquel momento no conocían la fecha. O, directamente, se la inventaban.

También resultó interesante ver como alguna IA se añadía como coautora en el código (que no me parece mal, pero tiene su discusión interesante).

Finalmente, a modo de conclusiones:

  • Resolvemos el problema. Cada vez mejor.
  • Nuevas necesidades: organizar una agenda demasiado poblada
  • La rapidez no es importante

Surgen nuevas necesidades porque al ser fácil añadir datos a la agenda empieza a estar demasiado poblada.

También nos hacemos algunas preguntas:

  • ¿Mejorarán los modelos locales o dejarán de existir?
  • ¿Alguien va a hacer modelos fuera de GAFAM+China?
  • ¿La rapidez no es (tan) importante?

Y en cuanto a trabajo futuro:

  • Combinar programa + IA
  • Más fuentes de datos (¿autonomía?)
  • Otros destinos calendarios, correo, …
  • Multimodalidad (¡No hagáis convocatorias/páginas web que solo tengan imágenes/PDFs!)

El código (sujeto a cambios constantes) está en manage-agenda y se ha desarrollado a mano al principio y posteriormente utilizando algunas IAs (esta vez no locales) para acelerar el desarrollo.

Esta entrada es una versión adaptada de la publicada en En la I Jornada sobre Software Libre e Inteligencia Artificial Abierta.

La IA, dónde gana y dónde le ganamos

Torre entre muros

En Where AI Provides Value un análisis de Bruce Schneier con Nathan E. Sanders (de hace un año, casi) donde nos recuerda las capacidades y ventajas de la IA, y qué debemos tener en cuenta.

Está claro que en muchas tareas la IA es mejor que los humanos y lo que hace falta es tener claro cuáles son esas tareas y cuáles no lo son.

But the fact remains that AI already has definite advantages over even the most skilled humans, and knowing where these advantages arise—and where they don’t—will be key to adapting to the AI-infused workforce.

La primera, nos dice, es la velocidad: en muchas tareas podemos ser tan buenos como una IA, pero no tan rápidos. Cita casos como el de mejora de imágenes.

First, speed. There are tasks that humans are perfectly good at but are not nearly as fast as AI. One example is restoring or upscaling images: taking pixelated, noisy or blurry images and making a crisper and higher-resolution version.

También en la capacidad de escalar: una IA puede hacer mucho más trabajo que el que puede hacer un humano.

The second dimension of AI’s advantage over humans is scale. AI will increasingly be used in tasks that humans can do well in one place at a time, but that AI can do in millions of places simultaneously.

Aunque algunos humanos puedan ser mejores que la IAs en algunos aspectos, lo que no es fácil que suceda es que un humano sea mejor que una IA en todos, así que pueden ser interesantes para alcanzar un espectro más amplio de capacidades.

Next, scope. AI can be advantageous when it does more things than any one person could, even when a human might do better at any one of those tasks.

En cuanto a sofisticación parece que también podemos perder: las IAs pueden tener muchos más parámetros en cuenta y proporcionarnos una ventaja.

Finally, sophistication. AIs can consider more factors in their decisions than humans can, and this can endow them with superhuman performance on specialized tasks.

Finalmente nos dice que en estas cuatro dimensiones la IA es mejor que los humanos, aunque a veces la precisión puede ser importante. Sin embargo, afirma, que no suele ser necesaria mucha precisión y que en muchas ocasiones basta con ser bueno y rápido, o adecuado y escalable.

Those are the four dimensions where AI can excel over humans. Accuracy still matters. You wouldn’t want to use an AI that makes graphics look glitchy or targets ads randomly—yet accuracy isn’t the differentiator. The AI doesn’t need superhuman accuracy. It’s enough for AI to be merely good and fast, or adequate and scalable.

La clave para nosotros puede ser si consideramos a la IA un sustituto o un amplificador; se trata de encontrar esas parcelas donde la IA proporciona valor, pero también aquellas en las que las capacidades humanas facilitan algún tipo de ventaja. Y podríamos empezar mirando en los cuellos de botella en la velocidad, la escala, el ámbito o la sofisticación.

Looking for bottlenecks in speed, scale, scope and sophistication provides a framework for understanding where AI provides value, and equally where the unique capabilities of the human species give us an enduring advantage.

Muchos usuarios odian a sus ordenadores

Heilig-Geist-Spital. Ventanas.

Una buena puesta de pie a tierra en Why Doctors Hate Their Computers (un resumen en ‘Why doctors hate their computers?’ por si el primero no está disponible).

Yo diría que los médicos y muchas otras profesiones se sienten incómodos con los ordenadores, no es exclusivo de la clase médica.

La primera (y subtítulo del artículo) es la pregunta de si estos aparatos no se están convirtiendo en una barrera entre pacientes y médicos.

Digitization promises to make medical care easier and more efficient. But are screens coming between doctors and patients?

También, la sensación de que en lugar de liberarles del trabajo, se convierte en un nuevo trabajo por sí mismo.

But three years later I’ve come to feel that a system that promised to increase my mastery over my work has, instead, increased my work’s mastery over me.

En algunos casos simplemente es una ayuda, que a veces es más lento y otras veces nos proporciona rapidez.

Some things were slower than they were with our old system, and some things had improved.

Compartir información es bueno, pero se convierte también en un problema cuando cualquiera (‘cualquiera’) puede modificar esa información, independientemente de la experiencia, conocimiento del paciente, o simplemente opinión… Provocando lentitud y dificultades al médico responsable.

But now everyone across the organization can modify the list, and, she said, “it has become utterly useless.” Three people will list the same diagnosis three different ways.

Otra dificultad puede venir del simple copia y pega: si lo tienes que hacer a mano, extraes la información relevante y la escribes brevemente. Si puedes copiar un informe (o un trozo), lo haces.

Doctors’ handwritten notes were brief and to the point. With computers, however, the shortcut is to paste in whole blocks of information—an entire two-page imaging report, say—rather than selecting the relevant details.

Como decíamos arriba, estos problemas no son solo para la medicina y a esto se suma que muchas veces los programas crecen de forma casi orgánica.

They regularly added new features to it, and, over time, the program expanded to more than a million lines of code, in multiple computer languages. Every small change produced unforeseen bugs.

Luego necesitan algún tipo de gestión o regulación, relacionada con que esos cambios pueden afectar a demasiada gente y, por lo tanto, deben realizarse con precacución. Y la eterna lucha entre quienes siempre quieren más y los que ya estaban satisfechos con lo que tenían.

As a program adapts and serves more people and more functions, it naturally requires tighter regulation. Software systems govern how we interact as groups, and that makes them unavoidably bureaucratic in nature. There will always be those who want to maintain the system and those who want to push the system’s boundaries.

Todo esto tiene algún defensor: se trata de mejorar la vida de los pacientes, no la de los médicos.

“But we think of this as a system for us and it’s not,” he said. “It is for the patients.”

Y con sus propias ventajas: se puede ayudar a los pacientes de formas insospechadas. Además del acceso remoto a sus resultados, claro, pero también análisis más amplios para evitar sobredosis en medicaciones complicadas o identificación de pacientes susceptibles de beneficiarse de nuevos tratamientos.

In one project, Partners is scanning records to identify people who have been on opioids for more than three months, in order to provide outreach and reduce the risk of overdose. Another effort has begun to identify patients who have been diagnosed with high-risk diseases like cancer but haven’t received prompt treatment.

Probablemente se trata de que estamos muy al inicio de todo esto y habrá que ver médicos más comprensivos con estas nuevas posibilidades, y también beneficios tangibles que demuestren que tenían sentido.

“I’m playing the long game,” he said. “I have full faith that all that stuff is just going to get better with time.”

Sin olvidar las necesidades propias de cada profesión, y cómo deben abordarse los proyectos relacionados con estas necesidades y características. Por un lado, un tema complejo y adaptativo a la realidad (con herramientas que no lo son tanto).

Medicine is a complex adaptive system: it is made up of many interconnected, multilayered parts, and it is meant to evolve with time and changing conditions. Software is not. It is complex, but it does not adapt.

Por otro, decidir entre mutación (profesionales que tienen diferentes características y forma de abordar problemas y solucionarlos) frente a la adaptación: tenemos una herramienta y tenemos que continuar desarrollando nuestra tarea con ella.

Mutation produces variety and deviation; selection kills off the least functional mutations. Our old, craft-based, pre-computer system of professional practice—in medicine and in other fields—was all mutation and no selection.
Computerization, by contrast, is all selection and no mutation.

Se pueden añadir algunas ayudas (por ejemplo, encargar a otro personal la transcripción y anotación de la información) pero al final, tenemos una parte positiva: seguramente todo mejorará.

It’s not hard to believe that our interfaces for documenting and communicating will get easier, more intuitive, less annoying.

Por la otra la pregunta de si realmente podremos reducir ese trabajo ‘burocrático’ o terminará siendo más de lo mismo.

With the time that scribes freed up, the system simply got doctors to take on more patients. Their workload didn’t lighten; it just shifted.

También puede ocurrir que los especialistas tomen las riendas y empiecen a pedir lo que realmente necesitan (y a conseguirlo).

Together, they convened an open weekly meeting, currently on Thursday mornings, where everyone in the neurosurgery department—from the desk clerks to the medical staff to the bosses—could come not just to complain about the system but also to reimagine it.

Es un problema frecuente (muchas veces por soberbia, otras por falta de medios, y también otras por pura falta de interés o implicación; incluso puro sabotaje) que los usuarios no están en el desarrollo ni en la selección de funcionalidades. Todavía puede haber sitio para implicarles y devolverles el control.

Malhotra’s innovations showed that there were ways for users to take at least some control of their technology—to become, with surprising ease, creators. Granted, letting everyone tinker inside our medical-software systems would risk crashing them. But a movement has emerged to establish something like an app store for electronic medical records, one that functions much the way the app store on your smartphone does.

El artículo dice muchas más cosas y creo que vale la pena leerlo indpendientemente de en qué ‘lado’ se esté.

En la Casa de la Mujer hablando de IA

No me considero un gran experto en IA, aunque algo de material he ido preparando para mis clases, alguna sesión que me han pedido aquí y allá y mis propias lecturas y pruebas con la cosa.

Hace algunas semanas me contactó María Dubón de la Asociación María Moliner para ver si podíamos organizar una sesión sobre inteligencia artificial.

Se celebró el día 16 de abril en la Casa de la Mujer del Ayuntamiento de Zaragoza y propusimos (con la ayuda de una IA, claro) como título: “IA. Un viaje en el tiempo y usos para la vida diaria”. El objetivo era tratar de poner en contexto unos avances de setenta años, mostrar algunos hitos y luego tratar de mostrar ejemplos de uso que cualquiera podría tener interés en utilizar.

Empezamos hablando de los primeros años (1956, reunión de Darmouth, nótese que son solo 11 años después del nacimiento de la que se considera primera computadora de propósito general, ENIAC). Luego señalamos algunos hitos (creación del laboratorio de IA del MIT, creación de ELIZA, el primer chatbot, los sucesivos inviernos de la IA -con la pregunta de si nos estaremos acercando a otro-, cómo la IA cambió de una orientación a reglas para convertirse en un análisis y búsqueda de patrones en datos, … Hablamos de Deep Blue y el ajedrez, el premio de Netflix, Jeopardy y Watson, el AlphaGo de Google Deepmind y el juego del go, los éxitos en procesamiento de lenguaje natural de Alibaba y, finalmente, el nacimiento y anuncio de la IA de moda, ChatGPT y los modelos gigantes de lenguaje).

En una segunda parte algo más técnica hablamos de IA, aprendizaje de máquina (machine learning, aprendizaje profundo (deep learning) y, finalmente la IA generativa, incluyendo algún ejemplo. Después pasamos a detallar un poco más cómo funcionan estos nuevos modelos (probabilidades, tokens, aritmética de relaciones, …

Aunque tratamos de dar una visión positiva de la tecnología (ya hay bastantes ‘cenizos’ por ahí afuera) no podemos dejar pasar la ocasión de comentar algunos problemas como:

  • Alucinaciones
  • Desactualización
  • Aislamiento
  • Dependencia (que además por poco no hemos podido usar un ejemplo del fin de semana, con final feliz, parece que finalmente se ha arreglado la cosa).
  • Noticias falsas, manipulaciones,…

Para completar esta parte comentamos sobre la posibilidad de aumentar los modelos con nuestra propia información (Retrieval-Augmented Generation, RAG), conectarlos con otras herramientas (Model Context Protocol, MCP), y la (pen)última palabra de moda, la IA Agéntica.

Finalmente, y según lo prometido, nos estuvimos contectando a una IA para hacerle algunas preguntas: fue llamativo ver cómo analizaba la página web de la asociación, extraía las actividades y las ponía en nuestro calendario, pero también cómo nos ayudaba a seleccionar en un catálogo de actividades las que caían en un día de la semana determinado. Luego, otros ejemplos, como recomendaciones de recorridos turísticos en un viaje y otras que creo que no se comentan suficiente: podemos usar las IAs para que nos traduzcan un texto en otro idioma, pero también podemos utilizarlas para hablar en ese idioma y mejorar nuestras capacidades; no solo eso, podemos pedirle sugerencias, ideas de mejora, … preparar exámenes para ver si hemos aprendido suficiente,…

Creo que quedó bien, y será de utilidad para las personas más interesadas en estos asuntos, sin dejar de lado la parte más técnica que es la que nos puede ayudar a comprender mejor lo que tenemos entre manos.

Si alguien quiere el material de la sesión o que la repitamos en alguna parte no tiene más que decirlo.

Publicado originalmente en En la Casa de la Mujer hablando de IA