Bitácora de fernand0

Fatiga regulatoria, riesgos y consecuencias

2026-03-02T14:00:00+00:00

Cuando hablamos de seguridad (aunque también si hablamos solo de llevar adelante nuestro trabajo) aparecen los aspectos de las regulaciones: muchas veces nos parecen un inconveniente y un freno, pero la realidad es que a veces hay que hacer normas para que determinadas operaciones (que parecen de lógica) se lleven adelante: las operaciones son lo importante, y hacer las cosas ‘bien’ siempre es algo que puede esperar.

Otra coas es el exceso de regulaciones y, claro, el exceso de tareas asociadas. En Compliance Fatigue Is Real—And It’s Putting Cybersecurity at Risk se habla del tema como un riesgo más.

Se basa en un estudio de una consultora (Bridewell Consulting) que afirma que el 44% de las empresas financieras en Gran Bretaña señalan las tareas relacionadas con el cumplimiento normativo (compliance) como uno de los principales retos para la ciberseguridad. No solo por la propia, sino por las obligaciones relacionadas con su operación en diferentes países del mundo.

New research by Bridewell Consulting revealed that 44% of all financial services institutions in the UK listed compliance as the top cybersecurity challenge their organizations currently face. And it may be no surprise as many financial institutions do business in other countries, making them subject to not only UK-based cybersecurity law but those established around the world.

Cuando el cumplimiento se convierte en una tarea más, y es de las importantes, puede ocurrir que otras se dejen de lado. Por ejemplo, gestión de vulnerabilidades, actualización de sistemas y reducción en los equipos de respuesta a incidentes.

When inundated with a lot of Governance, Risk, and Compliance (GRC) documentation, it can all start to blur. Compliance fatigue is the result of such overwhelm and can ironically jeopardize security measures at the helm.

Luego lista una serie de regulaciones de Gran Bretaña que incluye cinco de estas normas y que no es completa.

This list is not comprehensive; other frameworks like NIS2, AML/CTF regulations, and more widely apply as well.

Interesante.

Lo que decía arriba de la necesidad de regulaciones no es solo mi idea. Un experto como Bruce Schneier ya lleva tiempo diciéndolo en artículos como Why Was SolarWinds So Vulnerable to a Hack? donde habla de incentivos, asimetría de la información y otras cuestiones que muchas veces se pasan por alto.

Así que: desregular no, regular sí, pero con cuidado.

En Buenos Días Aragón hablando de reconocimiento automático de contenido (ACR)

2026-01-29T09:00:00+00:00

📺 La ciberseguridad no es solo un problema que afecta a nuestros móviles. Las televisiones inteligentes también pueden recopilar información y datos personales, y pueden estar expuestas a ciberdelincuentes. Lo han explicado en #BDAragón pic.twitter.com/WofFyym1EN
— Aragón Noticias (@AragonNoticias_) January 28, 2026

Parece que en EEUU ha habido una demanda contra algunos fabricantes de aparatos de televisión sobre el espionaje que hacen estos aparatos de nuestros hábitos de uso Texas sues TV makers for taking screenshots of what people watch . En particular, por el uso del ACR (reconocimiento automático del contenido) que saca imágenes de nuestro aparato de TV, extrae algunas características relevantes y contrasta esos datos con los de su base de datos, para saber qué es lo que estamos viendo.

Para hablar un poco de este tema me llamaron de Aragón TV y el resultado puede verse (por unos días) en BUENOS DÍAS ARAGÓN - 28/01/2026 08:01, alrededor del minuto 41. Luego salió también una parte en las noticias (al menos por la noche), y puede verse en ARAGÓN NOTICIAS 2 - 28/01/2026 20:29 , alrededor del minuto 35,20.

Hablamos del sistema en sí que, efectivamente, elige fragmentos de lo que vemos y los envía para identificar lo que vemos (con fines publicitarios, perfilado, recomendaciones …). Una televisión moderna se parece mucho a un teléfono móvil porque es un ordenador donde se pueden instalar aplicaciones, tiene micrófono, algunas veces cámara… La ley obliga a que los fabricantes incluyan mecanismos para evitar ese seguimiento, y los fabricantes deberían respetarlo. No debemos olvidar que estos aparatos tienen características avanzadas: este sistema en sí no parece la puerta de entrada a ningún ataque, pero los ataques con sistemas informáticos siempre son posibles.

Publicado originalmente en En Buenos Días Aragón hablando de reconocimiento automático de contenido (ACR).

Añadido para este sitio: me llama la atención cómo una industria que está en todos los hogares, con poca discusión, haya llevado una adaptación tan mala a los tiempos. Aparatos lentos, incómodos, difíciles de configurar y encima con características que mucha gente no aprecia de ninguna manera.

En la sesión sobre 'Tecnología en la competencia global' del título 'Geopolítica Aplicada a la Empresa'

2026-01-28T16:00:00+00:00

El martes 27 de febrero se celebró la sesión del módulo ‘Tecnología en la competencia global’, dentro del título propio de la Universidad de Zaragoza sobre Geopolítica Aplicada a la Empresa, que he tenido el placer de coordinar.

Hay un grupo de estudiantes estupendo, que claramente están porque les interesa y preocupa el tema, que se nota en el desarrollo de la sesión.

Fue una sesión muy interesante, donde contamos con personas de la empresa:

Carlos Rubio, de la consultora GFT hablándonos de Ciberseguridad para directivos)

De la Universidad:

Ana Gascón Marcén, de la Universidad de Zaragoza, hablándonos de Riesgos tecnológicos y regulaciones

Del ejército:

Luis Alberto Hernández García, Jefe de la Sección de Análisis y Prospectiva (SEAYP), que nos habló de la Tecnología como fuerza motriz del cambio en materia de seguridad, y
Enrique Pérez de Tena junto a Alejandra Vicens Martínez del Campo, del Mando Conjunto del Ciberespacio, que nos explicaron algunas cuestiones sobre la guerra tecnológica.

Con nuestro agradecimiento a Victoriano Blanco Carabanes, delegado de Defensa en Aragón por las gestiones para contar con el personal del ejército.

Además, algunas instituciones como:

David Llamas de INCIBE - Instituto Nacional de Ciberseguridad, que aportó el punto de vista de su organización sobre Ciberseguridad y amenazas y
Ana Figuera del MITECO, que nos habló de Propiedad intelectual e innovación.

El título está coordinado por José Antonio Laínez Gadea con el apoyo de Emilio Martín Vallespín y todavía le quedan unas cuantas sesiones dedicadas a diversos temas.

Esta entrada se publicó originalmente en En la sesión sobre ‘Tecnología en la competencia global’ del título ‘Geopolítica Aplicada a la Empresa’.

Las IAs como consejeras o ayudantes

2026-01-14T09:00:00+00:00

Algo que parece que no está claro para todo el mundo es que la IA no sirve para todo (hasta ahora) y mucho menos los LLMs (modelos de lenguaje gigantes), que hacen algunas cosas muy bien y otras no tanto.

En Why ChatGPT is a uniquely terrible tool for government ministers nos cuentan el caso de Peter Kyle, Secretario de Estado de Ciencia y Tecnología en Gran Bretaña (UK), que habría estado usando una de estas IAs como consejera para cuestiones de su negociado. En concreto, borradores de discursos, pero también sugerencias sobre a qué podcasts acudir y recomendaciones sobre su gestión.

Kyle apparently used the AI tool to draft speeches and even asked it for suggestions about which podcasts he should appear on. But he also sought advice on his policy work, apparently including questions on why businesses in the UK are not adopting AI more readily. He asked the tool to define what "digital inclusion" means.

Pero, nos dicen, esto tiene muchos problemas:

Las IAs miran el pasado (los datos con los que han sido entrenadas, que son los que había disponibles en ese momento, y no el futuro.

No sería un problema solo por tratarse del pasado, sino también por el sesgo en los datos acerca de lo que había: un gobierno conservador.

... that means that not only will a Labor minister be accessing information from the past, but he'll be advised by an algorithm leaning heavily on advice given to Conservative governments.

Prejuicios.

Cuando uno de estos modelos no puede dar una buena respuesta basa las suyas en lo que se llama su ‘modelo de verdad’, que típicamente considera el consenso como el valor aceptable. El problema es que la verdad es la que es, independientemente de lo que la mayoría de la gente piense (no estamos hablando, claro, del consenso científico o de los especialistas).

For us, the truth is what best corresponds to reality in the physical world. The divergence between the truth models could be consequential in many ways.

Por este motivo pueden aparecer problemas relacionados con prejuicios, sexismo, racismo ..

Social prejudices, including sexism and racism, are easily internalized under the consensus model.

Narrativas complacientes

Los modelos proporcionan, típicamente, historias atractivas y elegantes cuando responden. El objetivo es responder, pero también que los usuarios sigan teniendo interés en usarlas.

These poetic pieces of writing work well for engagement and help OpenAI to keep users hooked on their product.

Lamentablemente, el mundo real no siempre es bonito ni atractivo: complejidad, contradicciones, dilemas morales… que en muchos casos ni siquiera tienen solución.

But the real world is not a story. It is a constant swirl of political complexities, social contradictions and moral dilemmas, many of which can never be resolved.

La verdad es que, al final, el uso de Kyle no es más que una excusa para introducir algunos arumentos que a mi me han parecido interesantes, y que mucha gente ignora cuando utiliza este tipo de herramientas.

Buscando sitios cómodos en internet

2025-12-23T09:00:00+00:00

El consultor Venkatesh Rao ha acuñado el término cozy web, que podríamos traducir por web acogedora o algo parecido. En The Dark Forest and the Cozy Web es donde lei el término y nos dicen que se trata de la parte de la web privada, protegida por distintos mecanismos donde nos hemos recogido en muchos casos en los últimos años. La definición del término apareció en The Extended Internet Universe.

The cozy web is Venkatesh Rao ’s term for the private, gatekeeper-bounded spaces of the internet we have all retreated to over the last few years.

Se trataría de una analogía con la teoría de la web como bosque oscuro, que parece inquietantemente silencioso y desprovisto de vida, porque las criaturas que lo habitan están escondidas por miedo.

The “dark forest” is a place that seems eerily quiet and devoid of life. All the living creatures within it are hiding.

Los depredadores serían los anunciantes, herramientas de seguimiento, creadores de cebos, atractores de atención, gente que responde, …. Parece poco seguro mostrarnos de manera genuina y por eso nos retiramos a espacios privados.

The predators here are the advertisers, tracking bots, clickbait creators, attention-hungry influencers, reply guys, and trolls. It’s unsafe to reveal yourself to them in any authentic way. So we retreat into private spaces.

Luego muestra una figura donde esa web más acogedora serían los grupos de whatsapp, slack, discord, telegram, …. donde podemos encontrar gente que se parece a nosotros y mantener conversaciones más controladas y civilizadas.

We create tiny underground burrows of Slack channels, Whatsapp groups, Discord chats, and Telegram streams that offer shelter and respite from the aggressively public nature of Facebook, Twitter, and every recruiter looking to connect on LinkedIn.

En la historia original se contraponen los protocolos ‘humanos’ de los usuarios pinchando enlaces de sitios públicos creados por editoriales (publishers) frente a los protocolos humanos basados en personas intercambiando lo que sea que quieren compartir.

Unlike the main public internet, which runs on the (human) protocol of “users” clicking on links on public pages/apps maintained by “publishers”, the cozyweb works on the (human) protocol of everybody cutting-and-pasting bits of text, images, URLs, and screenshots across live streams

La verdad es que no lo había visto así (porque sigo creyendo en la internet abierta), pero desde luego me parece una explicación bastante razonable de algunas de las cosas que vemos que están pasando.

Las inteligencias artificiales, la web abierta y nosotros

2025-12-16T09:00:00+00:00

Por aquí ya llevamos tiempo hablando del mal estado de la web: sigue siendo fácil crear páginas, mantenerlas, gestionarlas … El único límite es el interés de la gente por crearlas. Pero también es verdad que ahora hay herramientas mucho más sencillas para publicar en internet (no siempre en la web) y mucha gente no se da cuenta de las limitaciones de ese modelo hasta que ya es tarde (te borran la cuenta, quieres encontrar algo, …). En el acceso pasa algo parecido: es más cómodo entrar en esos sitios donde es fácil publicar y dejarnos llevar por el flujo de imágenes/contenidos que se nos van mostrando.

El otro día leía ¿Está llegando el fin de la web abierta? El control de la IA y la desaparición de los pequeños en favor de los gigantes donde se habla de un nuevo ‘enemigo’: si las inteligencias artificiales nos van a dar los datos que necesitamos, ¿quién va a navegar por la web buscando información?

Hoy en día, cuando hacemos una búsqueda, esperamos recibir una lista de enlaces con páginas que contienen información relevante. Pero cada vez más, las IAs están eliminando ese paso intermedio y ofreciéndonos la respuesta directamente.

Claro, eso puede ser un problema porque nada ni nadie nos garantiza que la información que proporcionarán esas IAs será la que necesitamos sin censura ni transformaciones de conveniencia.

Si las IAs controlan el acceso al conocimiento, surge un problema aún mayor: unas pocas empresas decidirán qué información es relevante y cuál no.

Por lo tanto David nos recuerda que parte de la solución está en nuestras manos: las IAs abiertas y descentralizadas, fomento de plataformas alternativas (no solo las nacidas de las grandes empresas), regulación del acceso (protección del acceso para todo el mundo), y fortalecer la web abierta.

Veo difícil las tres primeras, fundamentalmente porque la historia nos demuestra que en estos juegos el ganador se lo lleva (casi) todo y es muy difícil romper esas dinámicas (tampoco es que haya grandes esfuerzos en ese sentido). Sobre la cuarta, aquí estamos (seguimos) tratando de mantener un espacio y, tal vez, animar a otras personas a tenerlo. Pero casi reconociendo desde el inicio que no vamos a ganar, ni siquiera a ser suficientemente relevantes.

Como dice David:

¿Estamos listos para dejar que esto ocurra? Si queremos un futuro digital libre, ahora es el momento de actuar.

La gobernanza de las universidades y la política (en EEUU)

2025-12-10T09:00:00+00:00

En EEUU las universidades están atravesando momentos difíciles (por aquí también hay casos, porque, como ya hemos dicho en otras ocasiones y aunque los modelos son bastante diferentes, los políticos -pero no solo ellos, el entorno también marca direcciones- influyen mucho en lo que puede pasar).

En Who actually runs Columbia University? hablan del caso de la Universidad de Columbia y sus problemas de gobierno. La cuestión es algo ténica, pero esencialmente parece que uno de los miembros de la junta directiva (compuesta por personas que no son académicos) sin consultar a las personas de la universidad.

For a member of the board of trustees to assume leadership of the university, without even the fig leaf of faculty consultation, has never occurred in the 271-year history of Columbia.

Todo esto se desarrolla en el contexto de la amenaza del presidente de seguir sus directrices o perder financiación (aunque, como decimos, no son públicas reciben fondos federales y de diversos organismos públicos).

Y, nos dicen, esto afecta a la libertad académica y a la propia gobernanza.

American universities, in their recent dealings with the federal government – and with their own trustees – have repeatedly shown themselves incapable of preserving the core values of academic freedom and shared governance.

Estas juntas directivas desempeñan un papel fundamental en asegurar la salud financiera y la estabilidad, pero en tiempos donde el gobierno quire influir en las universidades esto puede ser un problema grave, afectando a quién se contrata, qué líneas de trabajo se favorecen, incluso con motivaciones políticas de los propios directivos.

Trustees (sometimes called governors, regents, visitors or “members of the corporation”) have a lofty function: to ensure the financial health and stability of the institution, partly through their own donations. ... In our fraught times, these levers are in increasing use, especially by the Trump-driven Republican party, to target disciplines, departments and individual professors. Many boards have become political wolves in the guise of fiduciary sheep.

Habla un poco de las características de estos comités (formados por hombres blancos exitosos, en su mayoría) y sus sesgos e intereses, pero no entraremos en ello.

Sí, claro, dicen que esto es un caso en una Universidad concreta, pero que no es un caso único y por eso debería preocuparnos. La universidades públicas de allá tampoco se salvan.

The Columbia board is by no means unique. ... As far as public universities are concerned, ... In these regards, they are very much like their private counterparts.

Finalmente habla del contrato social de estos directivos y cómo deberían responsabilizarse de sus decisiones y recibir la adecuada vigilancia así como asegurarse de que siguen los valores y principios correctos.

Creating this new social contract will require two crucial steps. The first is to bring the full force of public scrutiny to bear on boards, their membership, their accountability and the checks on their powers. The second is to demand that all academic governing boards both reflect and defend the fundamental values of universities in a liberal democracy: freedom of academic speech, opinion and inquiry; procedural transparency; and demographic diversity.

Para no perder de vista.

La preservación digital y los riesgos actuales

2025-12-02T09:00:00+00:00

De vez en cuando hablamos de preservación digital y, en particular, de la web. En As the Trump administration purges web pages, this group is rushing to save them nos recuerdan que una parte de la web está siendo borrada de manera activa.

No solo páginas federales, que en algunos casos volvían modificadas, sino también conjuntos de datos (fundamentalmente relacionados con ciencia y medio ambiente).

After President Trump's inauguration in January, some federal web pages vanished. While some pages were removed entirely, many came back online with changes that the new administration's officials said were made to conform to Trump's executive orders to remove "diversity, equity, inclusion, and accessibility policies." Thousands of datasets were wiped — mostly at agencies focused on science and the environment — in the days following Trump's return to the White House.

Nos recuerdan de la existencia del Internet Archive y de su valioso trabajo, preservando sitios que van desapareciendo con el tiempo.

The nonprofit, founded in 1996, is a digital library of internet sites and cultural artifacts. This includes hundreds of billions of copies of government websites, news articles and data. The Wayback Machine is the archive's access point to nearly three decades of web history.

Cada día descargan varios teras de información, que archivan adecuadamente y luego ofrecen para su revisión.

Every day, about 100 terabytes of material are uploaded to the Internet Archive, or about a billion URLs, with the assistance of automated crawlers. Most of that ends up in the Wayback Machine, while the rest is digitized analog media — books, television, radio, academic papers — scanned and stored on servers.

Creo que es un proyecto que merece la pena apoyar (independientemente de quién sea el presidente de turno de los EEUU, su trabajo sería valioso aunque no hubiera alguien tratando de borrar información).

Y nos recuerdan que, incluso pasa en la Wikipedia: un número importante de sus enlaces corresponden a páginas que ya no existen, pero cuyo contenido se puede conocer gracias a este proyecto.

"I don't remember the page but, you know, a significant percentage of the links that were on the Wikipedia article are Internet Archive links," he said. "That is really sad — that what people view as a primary source is something that doesn't exist anymore."

También tienen amenazas legales, que pretenden desanimar el archivado y la labor de esta organización.

Founder Kahle said the costly lawsuits — which legal experts say are meant to be a deterrent — threaten the future of the archive.

Cuando los datos pasan de la nube a tu dispositivo y algo va mal

2025-11-26T09:00:00+00:00

Ya hace algún tiempo que perdimos la fe en Google. En Oops: Google says it might have deleted your Maps Timeline data un recordatorio de que mover datos es más complicado de lo que pensamos.

Google Maps es uno de mis servicios favoritos de Google y no hace mucho nos invitaron a guardar los datos en el dispositivo, en lugar de en su nube. En principio sería un manejo más respetuoso de los datos (porque se supone que ellos no los conservan), aunque no tanto (porque los pueden analizar antes de borrarlos, claro).

Se trata de los datos de localización (historial de visitas) que más de una vez me ha ayudado a saber dónde estuve tal día, o dónde saqué aquella foto.

El caso es que en la migración algunos usuarios han perdido sus datos.

Users started piping up over the past several weeks, posting on the Google support forums, Reddit, and other social media that their treasured Timeline data had gone missing.

Sería, según los portavoces de la empresa, un fallo y nada intencionado, pero los usuarios se han quedado sin la información.

A Google spokesperson confirmed this is the result of a technical issue and not user error or an intentional change.

Y esto nos lleva a dos cuestiones: ¿dejar los datos en la nube o en local? Desde luego, nadie gestiona mejor los datos que los profesionales, dedicados específicamente a ello y con mucha más dedicación de la que podemos tener nosotros.

Google, en todo caso, proporciona una solución intermedia, permitiendo almacenar una copia de seguridad, pero es una opción que hay que activar.

t’s good that Google still supports a secure backup option, but it’s not on by default.

Tener los datos en local tiene algunas ventajas (aunque en este caso no creo que la privacidad sea una de ellas); también para Google, porque si alguna autoridad se lo solicita no puede proporcionárselos (y eso sí que es una ventaja para nosotros, si las cosas vienen mal).

Pero, desde luego, la moraleja es que este tipo de cambios pueden ser traumáticos por muy profesional y cuidadoso que se sea.

Cómo los científicos utilizan la IA para sus programas y qué habría que enseñarles

2025-11-20T09:00:00+00:00

En How scientists learn computing and use LLMs to program: Computing education for scientists and for democracy hablan del aprendizje de la informática por parte de científicos que la necesitan para su traabajo.

Hay recursos, nos dicen, abundantes:

I was surprised how much the scientists in her study needed more curation. There’s no lack of ways of learning data science — videos, tutorial, MOOCs, books, ...

Pero se trata de gente ocupada, así que deben ser selectivos en los recursos que utilizarán.

They were busy professionals. They struggled to find the right learning materials for their level of knowledge that matched what their field used.

Se da la paradoja de que la informática es ampliamente utilizada, pero cursar materias relacionadas es raro. Como consecuencia tenemos personas autodidactas o que aprenden lo que necesitan cuando les hace falta.

While programming is common across the sciences, actually taking CS classes is rare among scientists that we’ve worked with. Most of the programming science faculty we met are self-taught, or learned through apprenticeship from the labs and groups they came up through.

Esto les funciona, pero carecen de los recursos necesarios para tomar las decisiones de manera informada; eligen el lenguaje de programación porque se usa en su campo, y no por las características que pueda tener.

They are making choices for programming languages based on the libraries and communities that use those tools, not on the characteristics of the languages themselves.

Y, por supuesto, optimizando su tiempo, prácticamente usando ‘recetas’.

... but within the constraint that they’re trying to optimize their time. ... “Recipes” of how to do things in R are just fine for them.

Tampoco utilizan herramientas de control de versiones, y su preocupación son los datos y los resultados.

They write code (often, no more than a screenful) to get a job done, then throw the code away. They care about the data and the results, not the code. If you don’t invent new abstractions and you don’t reuse code, what does Github buy you?

Y, naturalmente, utilizan los LLMS (IAs) para obtener el código que necesitan, como ha estudiado Gabrielle O’Brien (Elle).

She finds that “scientists often use code generating models as an information retrieval tool for navigating unfamiliar programming languages and libraries.”

No sin verificar el resultado (trabajo riguroso, claro).

I was impressed with how much effort the scientists that she studied put into checking what the LLMs produced.

Aunque a veces estas herramientas añaden problemas que no son fáciles de detectqar, con lo que es posible que se estén teniendo alguna influencia negativa en sus resultados.

And yet, the LLMs still inserted bugs that the scientists missed. LLMs are absolutely nefarious in how and where they generate bugs. Elle raises the possibility that LLMs are having a negative influence on the scientific enterprise.

Información adicional: How Scientists Use Large Language Models to Program.

Porque, como dice el mismo autor en CS doesn’t have a monopoly on computing education: Programming is for everyone. Lo ilustra a través de varios ejemplos:

Los estudiantes de Justicia Social, por ejemplo deberían estudiar (según sus rprofesores) cómo se pueden crear páginas web a partir de bases de datos.
En las ramas científicas estarían más interesados en la ciencia de datos (cálculo, limpieza de datos, visualización,…)
En ramas de las ciencias sociales puede ser interesante conocer el lenguaje R para estadística y visualizaciones.
Muchos usuarios utilizan operaciones vectoriales (no bucles o estructuras iterativas).

Pero lo interesantes es que en muchos estudios de informática estas cuestiones no se enseñan por diversos motivos.

La conclusión para el autor es que la informática que se estudia no es la que necesitan las personas que no van a dedicarse la informática.

Learning to program is a form of computing education, but computer science is not typically teaching the things that non-CS majors need to program, so computing education is moving away from Computer Science (field, departments, teachers). Computer science no longer has a monopoly on computing education.

La pregunta es si los que nos dedicamos a este tipo de enseñanza deberíamos acercarnos a estas otras necesidades de informática (yo creo que sí).

Computer science departments should offer computer science educationWe obviously need lots of people who know computer science, including many professional software developers. But most people who program will not be computer science majors (e.g., see this 2017 Oracle study). The needs for computing education must also be met.

La forma en que programamos va a cambiar

2025-11-03T09:00:00+00:00

En The End of Programming as We Know It una discusión sobre el tema que está más o menos en un montón de sitios relacionados con el tema: desde los que dicen que ya no vale la pena aprender porque lo harán las máquinas por nosotros a los de esto solo produce problemas y desastres, con todas las graduaciones intermedias.

Tim O’Reilly empieza diciendo que no se lo cree.

There’s a lot of chatter in the media that software developers will soon lose their jobs to AI. I don’t buy it.

Aunque matiza que seguramente sí que es el fin de la disciplina y tal y como la conocemos, lo que tampoco es nuevo: al principio se programaba de una forma (prácticamente uniendo cables y enchufando cosas) y luego todo ha ido evolucionando.

It is not the end of programming. It is the end of programming as we know it today. That is not new. The first programmers connected physical circuits to perform each calculation.

Lo mismo sucedió con los sistemas operativos: los primeros usuarios tenían que programar sus propios drivers, luego compilarlos, y finalmente Windows (dice él) nos trajo la independencia en ese tema.

Consumer operating systems were also a big part of the story. In the early days of the personal computer, every computer manufacturer needed software engineers who could write low-level drivers that performed the work of reading and writing to memory boards, hard disks, and peripherals such as modems and printers. Windows put an end to that.

Pero la consecuencia fue que, al final, había más programadores y no menos.

This was far from the end of programming, though. There were more programmers than ever.

Luego habla de la web como nuevo ‘final’ y los resultados que lo contradicen.

Así que la pregunta es, ahora que cualuqiera que no sabe programar puede utilizar una IA para hacer un programa ¿qué sucederá?

Suddenly, though, it is seemingly possible for a nonprogrammer to simply talk to an LLM or specialized software agent in plain English (or the human language of your choice) and get back a useful prototype in Python (or the programming language of your choice).

Al final, nos dice, se trata de un avance que pone la potencia computacional en manos de más gente, pero también la posibilidad de crear más servicios y todo lo que llevan asociado. Sin olvidar los que proporcionan servicios a toda esta ‘nueva magia’.

But that same breakthrough also enables new kinds of services and demand for those services. It creates new sources of deep magic that only a few understand.

Así que probablemente lo que habrá será una transformación: mucho de lo que se hace hoy en día será obsoleto (igual que los conocimientos de los primeros programadores).

AI will not replace programmers, but it will transform their jobs. Eventually much of what programmers do today may be as obsolete (for everyone but embedded system programmers) as the old skill of debugging with an oscilloscope.

Tampoco cree que los jóvenes vayan a ser los damnificados, sino aquellos que sigan empeñados en las viejas costumbres.

... it is not junior and mid-level programmers who will be replaced but those who cling to the past rather than embracing the new programming tools and paradigms.

Su predicción es que la gente creará, utilizará y refinará más programas, y que aparecerán nuevas industrias para gestionar lo que creen.

People will be creating, using, and refining more programs, and new industries will be born to manage and build on what we create.

Definitivamente, lo que sí que cambiará es lo que llamamos programar y el nivel de abstracción manejado.

In a recent conversation, he told me, “We’re in the middle of inventing a new programming paradigm around AI systems. When we went from the desktop into the internet era, everything in the stack changed, even though all the levels of the stack were the same. We still have languages, but they went from compiled to interpreted.

Por un lado, parece que los usuarios tradicionales dicen que son mucho más productivos con la IA, pero no lo estamos notando en los programas que producen:

calls this the 70% problem: “While engineers report being dramatically more productive with AI, the actual software we use daily doesn’t seem like it’s getting noticeably better.”

Por otro lado, los nuevos usuarios pueden terminar presentando prototipos y demostraciones realmente impresionantes, pero no tienen la formación adecuada (o los conocimientos suficientes) para conseguir productos que realmente resuelvan problemas.

He notes that nonprogrammers working with AI code generation tools can get out a great demo or solve a simple problem, but they get stuck on the last 30% of a complex program because they don’t know enough to debug the code and guide the AI to the correct solution.

Y la clave, probablemente, de todo este cambio es que la IA nos pone a pensar de una forma nueva: resolver lo que realmente requiere pensar.

I don’t think AI introduces a new kind of thinking. It reveals what actually requires thinking.

Porque hay mucho trabajo por hacer, pero la IA sola no lo hará.

In short, there is a whole world of new software to be invented, and it won’t be invented by AI alone but by human programmers using AI as a superpower. And those programmers need to acquire a lot of new skills.

Podemos convertirnos en mucho más ambiciosos.

As Simon Willison, a longtime software developer who has been at the forefront of showing the world how programming can be easier and better in the AI era, notes, AI lets him “be more ambitious” with his projects.

YouTube: ¿qué sube la gente normal y para qué lo usa?

2025-10-27T09:00:00+00:00

Se habla mucho del algoritmo (como si solo hubiera uno, o como metáfora de un pretendido dominio por parte de alguien que maneja algo que influye sobre nuestra voluntad). Da para titulares jugosos y esta vez traemos The hidden world beneath the shadows of YouTube’s algorithm un tema que parece más sugerente que en otras ocasiones.

Empieza diciendo que la mayoría de los vídeos que hay alojados en YouTube no han sido vistos ni una sola vez.

The vast majority of YouTube's estimated 14.8 billion videos have almost never been seen.

Esto es, cuando hablamos de YouTube y la gente que publica nos estamos concentrando en una pequeña parte de la cosa: lo que es popular y, por lo tanto, estamos dejando de lado a mucha gente y sus motivaciones.

"The conversations we're having about YouTube are based on an impoverished view of what the platform really is," says Ryan McGrady, senior researcher at the Initiative for Digital Public Infrastructure at the University of Massachusetts Amherst, US. "When we just focus on what's popular, we miss how the vast majority of people actually use YouTube as uploaders, and overlooking the role it plays in our society."

Pero más allá de lo popular, hay un montón de vídeos que sirven para que unas pocas personas los vean, o incluso como archivo personal.

Most of these videos aren't meant for us to see. They exist because people need a digital attic to store their memories. It's an internet unshaped by the pressures of clicks and algorithms – a glimpse into a place where content doesn't have to perform, where it can simply exist.

Según McGrady la mediana de vistas de un vídeo es de 41, y si el vídeo se ha visto más de 130 veces estamos hablando de uno de los que están en el primer tercio de popularidad.

Among the findings, the researchers estimate that the median video has been watched just 41 times. Posts with more than 130 views are actually in the top third of the service's most popular content. In other words, the vast majority of YouTube is practically invisible.

Y esto nos lleva a la motivación (equivocada) que asumimos que tiene cualquiera que sube un vídeo: tratará de ser un famoso (influencer) y si no lo consigue es un fracaso.

We tend to assume the reason to use social media is to try to be an influencer, either you're Joe Rogan or you're a failure. But that's the wrong way to think about it,

Encontrar o no los vídeos viene mediado por los algoritmos de búsqueda y recomendación de la plataforma, y eso significa ser capaces de determinar qué querrá ver el usuario que la usa.

The algorithm's job is to help people find the videos they want to watch and that will give them value, YouTube says...

Pero si no seguimos las recomendaciones lo que podemos ver es a gente mostrando sus momentos personales y utlizando las herramientas para comunicarse.

Without the algorithm's recommendations, you'll find that YouTube is a study of the everyday, Zuckerman says, people documenting small moments in their lives and using the available tools to exchange ideas.

Por ejemplo, es común en el sudeste asiático que se utilice para comunicarse entre personas que no saben escribir o no lo hacen muy bien.

In South Asia, for example, Zuckerman says YouTube and similar networks seem to function as a video messaging tool for people with low or no literacy.

La mayoría del contenido proviene de fuera de EEUU, con más de un 70% de vídeos que utilizan idiomas diferentes del inglés.

Most of YouTube comes from outside of the US, in fact. Zuckerman's lab has estimated that over 70% of YouTube videos are in languages other than English.

También es cierto que si estos vídeos se convirtieran en ‘virales’ o populares podría ser un pequeño (o grande) desastre para los interlocutores.

"If any of these videos went viral, it would mean something went terribly wrong. That's not what most of YouTube for," Zuckerman says.

Ponen unos cuantos ejemplos (sin enlaces, claro) e incluso muestran las motivaciones de algunas personas, que están ahí por el simple gusto de mostrar lo que hacen y cómo eso les hace felices.

"I don't get a big audience a lot of the time, but that doesn't bother me. I was just so in love with how happy it made the dogs that at some point I thought 'I gotta share this',"

También nos habla de otras investigaciones, según las cuales el sistema de recomendaciones amplificaría la negatividad, y da poco control sobre lo que no queremos ver.

Research suggests YouTube's algorithm amplifies negativity, reinforces stereotypes and gives users little control over the content they don't want to see.

No solo eso, sino también podría ayudar a difundir contenido relacionado con el odio, extremismos políticos y desinformación. Incluso para captar personal para los cárteles de narcotraficantes y grupos terroristas.

... concerns about hate speech, political extremism and misinformation. Along with other social media platforms, YouTube has been utilised by drug cartels and harnessed by terrorists as a tool for promotion and recruitment.

Siempre podemos borrar nuestro historial, para empezar de cero con las recomendaciones y algo que yo aconsejo a quien me lo pregunta (siempre lo he dicho por aquí): esforzarnos un poco en no dejarnos guiar por nuestros instintos y realizar acciones (pasar un vídeo, por ejemplo, o hacer una búsqueda) cuando las recomendaciones no sean correctas para nosotros. La pereza es mala consejera.

En Buenos Días Aragón hablando de la caída de AWS

2025-10-21T09:00:00+00:00

Hemos hablado un poco del tema en Aragón TV. pic.twitter.com/XgWHqiJtKY
— fernand0 (@fernand0) October 21, 2025

Antes de ayer hubo una caída de servicios en la nube de amazon (AWS) que afectó a bastantes empresas de internet, sobre todo en Estados Unidos. Casualmente coincidió con una caída de Redsys, proveedor de infraestructura y comunicaciones para la industria de medios de pago (fundamentalmente en España, si no me equivoco). Todo esto provocó un revuelo, que motivó la llamada de una periodista de Aragón TV para intervenir la mañana siguiente (el día 21) en el programa de comentario de noticias de actualidad, Buenos Días Aragón.

Se puede ver en Buenos Días Aragón - 21/10/2025 08:00 durante unos días y comienza a partir de una hora y 33 minutos, aproximadamente.

Hablamos sobre varios temas, fundamentalmente relacionados con el fallo, sus posibles causas y si debíamos preguntarnos sobre si podría tratarse de un problema de seguridad.

Parece que la causa tenía que ver con el servicio de gestión de nombres (DNS) que estaría mal configurado.

Nos termina afectando porque muchas empresas que nos prestan servicio alojan sus programas informáticos en esos servidores que, cuando fallan, les afectan de manera inevitable.

Este fallo puede ocurrir en cualquier centro de datos en cualquier parte del mundo y, por supuesto, en nuestra casa (‘casa’) también; hay que prever los fallos y disponer de alternativas para que en caso de fallo podamos continuar con la funcionalidad.

Aparentemente la seguridad no ha sido comprometida, y tampoco los datos se han visto perjudicados, sólo ha sido un problema de acceso a los mismos durante un cierto tiempo.

En esta situación no hubo oportunidad de aclarar que el fallo de los pagos con tarjeta no tenía que ver con lo de AWS (con lo que sabemos, y parecería raro que le afectase) y uno se debate internamente en directo sobre si hay que aclarar esa parte, o centrarnos en las preguntas concretas

Ya aprendimos un poco durante el apagón eléctrico de primavera, pero parece que sigue habiendo empresas y organizaciones que no aplican estos aprendizajes en sus operaciones.

Además de esto, en mi cuenta de X (antes Twitter) me preguntaba algunas cosas mientras íbamos viendo cómo se desarrollaban los acontecimientos. El hilo empieza en este post:

Una pregunta que muchos nos hicimos inmediatamente, fue por qué había tantas empresas alojadas en la misma zona de AWS. Parece que tiene bastante tiempo (unos 20 años), es la más grande (es difícil hacer pruebas a la escala de esta instalación).

Se me ocurre pensar que mucha gente haya empezado allí cuando no había tantas zonas disponibles y que no se hayan movido por pereza y las dificultades que pueda suponer una migración de estas características. Si yo fuera el responsable técnico de una de estas empresas le pediría a mi comercial de AWS ayuda para moverme a una zona menos poblada o, al menos, una estrategia de replicación del servicio en alguna otra zona. Si yo fuera de AWS, seleccionaría unas cuantas de estas empresas para ayudarles a moverse a zonas diferentes.

En estos casos suele echarse la culpa a la centralización (que la tiene) pero se habla poco de las veces que podrían caerse los servicios individualmente si cada uno los tuviera en su ‘casa’. Redsys es un ejemplo de que estas cosas pasan en AWS y fuera. Aunque en esta ocasión su responsabilidad se está viendo un poco diluída entre el ruido de lo otro.
Cuando arreglaron el problema apareció un fenómeno de vuelta de los servicios lenta: probablemente tiene que ver con que, de pronto, hay muchos servicios tratando de arrancar a la vez, provocando errores de congestión, contención, …
Se ha mezclado el debate, claro, con la soberanía tecnológica (que no tenemos) pero sería más interesante si el debate se centrara en la diversidad de proveedores, la disponibilidad de réplicas, … y una gestión consciente de los recursos (con tanta soberanía como sea posible).

Desde el punto de vista de la información, chapeau para AWS ([RESOLVED] Increased Error Rates and Latencies) por la información que iba proporcionando a través del servicio disponible para ello (comparar con la otra, que no sé si todavía ha dicho casi nada, -y tampoco nadie les ha preguntado mucho-). Más lecciones que aprender, desde luego.

Esta profesión nunca deja de proporcionarnos horas y horas de entretenimiento. Y aprendizajes.

Publicado originalmente en En Buenos Días Aragón hablando de la caída de AWS

Contra Chat Control

2025-10-15T09:00:00+00:00

A pesar de estar completamente en contra, la verdad es que no estoy muy seguro del estado actual del tema, pero llevamos un par de semanas con bastante intensidad sobre Chat Control (lo cuentan, por ejemplo, en Cruce de cables: Chat Control, el enésimo intento de ponerle puertas al campo mientras coartan nuestros derechos con la disculpa de proteger a los menores.

Se trata de un mecanismo que la Unión Europea quiere hacer obligatorio en las plataformas de comunicación electrónicas que serviría para analizar todo lo que enviamos por ellas. y tiene la forma de reglamento de la Comunidad Europea.

Ha habido montones de reacciones y países que lo apoyan (entre ellos, lamentablemente, pero poco sorprentemente por el poco cariño que se le da a internet por aquí, España) y otros que están en contra.

Hay una web con información en Fight Chat Control.

No será ninguna sorpresa decir que aquí estamos en contra: a los menores hay que protegerlos, claro que sí, pero esta no es la forma.

A riesgo de repetirme (ya lo decíamos En el día mundial del cifrado con los Cibervoluntarios).

Este tipo de medidas:

No garantiza la protección de nadie: leer todos los mensajes, buscar contenido dañino, verificarlo y realizar las acciones correspondientes excede claramente la capacidad de cualquiera que intente abordarlo.
Dejar a la policía (o a quien sea) leer nuestros mensajes abre la puerta que puedan leerlos otras personas que no están intersedas en protegernos, dicho sea de paso. Ese es un riesgo que nadie debería estar dispuesto a asumir.

Veremos.

Un calendario en un fichero de texto

2025-10-06T09:00:00+00:00

Lo digo nada más empezar: soy un friki de los calendarios. Desde que hace un montón de años llegué tarde a una cita porque no la había apuntado, busqué una aplicación para el teléfono (entonces un Nokia) y desde entonces siempre he tenido alguna instalada en el teléfono de cada momento. No solo eso, incluso he hecho algún programa para anotar correctamente las citas (otro de mis defectos, bailar horas, fechas,…) y últimamente hasta hice un curso para no quedarme en mis propios experimentos.

En This Simple Text Document Could Replace Your Calendar App una propuesta minimalista (sí, también soy fan de los documentos escritos en formato solo texto). La plantilla se puede descargar de Calendar.txt.

It's a text document based on a similar philosophy—a stripped down, just-the-basics take on your overloaded calendar app. It's a concept worth considering.

Para mi gusto es demasiado sencillo (los teléfonos no se llevan demasiado bien con el texto simple). Se basa en tener una línea para cada día.

This specific tool is about as simple as it gets: It uses one line of text for every day.

Y se adaptaría bien al uso de terminales (sí, de esto tenemos en el teléfono, pero el teclado no es muy adecuado para escribir estas cosas, la verdad). Y tampoco estoy seguro de que una línea por día sea suficiente para mi, aunque eso tieneremedio.

Conocer y aprender a detectar los 'patrones oscuros' de la web

2025-09-24T09:00:00+00:00

Desde hace tiempo venimos diciendo lo molesto que se ha convertido navegar por la web. Cuando queremos dejar de pagar por un servicio o arrepentirnos de alguna compra todavía es peor. Muchos sitios web utilizan los denominados ‘patrones oscuros’ (dark patterns), cuyo objetivo es que no consigamos llevar a cabo la tarea.

En «Detectar patrones oscuros» en forma de juego, algo que todo el mundo puede y debería aprender nos descubren el juego Dark Patterns Detective que nos ayuda a detectarlos y conocerlos mejor. Lamentablemente solo está en inglés (alguien debería traducirlo).

Los patrones son (copiados de la web de microsiervos):

Renovaciones no deseadas
- Dificultad para cancelar suscripciones.
- Procesos de cancelación complejos que hacen perder tiempo.
- Suscripciones que se mantienen «accidentalmente».
Presión psicológica y manipulación
- Presión a los usuarios para realizar compras no deseadas.
- Crear expectativas de precios poco realistas.
- Generar culpa o ansiedad de forma innecesaria.
- Explotación de diversas vulnerabilidades psicológicas.
- Toma de decisiones mal informadas o apresuradas.
- Ansiedad y estrés.
Impacto económico
- Gastar dinero en servicios no deseados.
- Compras apresuradas que generan arrepentimiento.
- Afectar especialmente a consumidores vulnerables.
Pérdida de confianza
- Dañar la confianza en las compras en línea.
- Percepción negativa de las marcas.
- Pérdida de confianza en el servicio/medio/tienda.
Frustración del usuario
- Sentirse frustrado o manipulado al descubrir el «truco».
- Conflictos con el servicio de atención al cliente.
- Frustración al intentar contactar con el equipo de soporte.
Violaciones de privacidad
- Compartir datos personales sin consentimiento.
- Seguimiento persistente en diversos dispositivos.
- Violaciones de privacidad, por ejemplo a través de «clubs de socios».
- Creación de perfiles detallados de comportamiento no deseados.
- Pérdida de control sobre la información personal.
Consecuencias inesperadas
- Cargos imprevistos, renovaciones no deseadas, problemas económicos.
- Abandono de compras debido a los «trucos de interfaz».

Interesante y valioso.

¿Lento o rápido? Nuestra experiencia con los sistemas informáticos

2025-09-24T09:00:00+00:00

Si preguntamos a cualquiera, la percepción que tiene (tenemos) es que su computadora (escritorio, teléfono, lo que sea…) es muy lenta. Sin embargo, lo cierto es que hacen un montón de operaciones de manera rápida, eficiente y nos ayudan a manejar gran cantidad de información.

De esto hablaba Do you understand how fast computers are?, que comienza hablando de lo que era una búsqueda de la ficha de un cliente hace no tanto.

We chatted amiably while the tea was poured and, barely five minutes later, a slightly dusty Miss Moneypenny slid the file onto the desk.

La cuestión tenía en este caso dos partes, por un lado, alguien que hacía la búsqueda mientras estas dos personas charlaban; por otro, la propia charla que aligeraba la espera.

Luego nos recuerda la rapidez de la búsqueda en un sistema informático, aunque en muchos casos mediatizada por alguien que hace de intermediario. Seguramente más lento.

But his experience of retrieving data, like most people's, was being on interminable hold to call centres, or being told that to expect a written reply in 28 working days, or that the hospital has lost their records. It is no wonder they distrusted digital filing.

Sin embargo, cualquiera puede experimentar buscar palabras en un texto razonablemente largo y encontrar dónde aparecen con un esfuerzo mínimo. Seguramente en menos de un segundo.

As an experiment, download the complete works of Shakespeare in plain text format and then hit + (or whatever search you want to use) and try to find the word "invocations". It will be instant. The file isn't a structured database but, in less than a second, you can find every instance of a word. Computers are fast.

Sin embargo, si comparamos con la espera delante de una máquina de venta, o muchas otras experiencias donde parece que el ‘sistema’ ralentiza innecesariamente las operaciones.

And yet, think about every interaction you have with a computer in public? Ticket machines asthmatically wheeze as they slowly trick you into buying the most expensive option. Passing through an airport seems to involve waiting impatiently at a number of desks while arthritic mainframes slowly coalesce your data.

También nos recuerda que la digitalización trae sus propios riesgos: raramente un archivo físico no suele ser atacado por personas maliciosas y los documentos escritos en papel no se pueden ver afectados por un ‘ransomware’ (aunque puede haber ladrones que entren en el archivo y, desde luego, alguien puede dañar los documentos físicos).

Backing up data, insuring its integrity, and keeping it confidential were all important - but digitisation also came with risks. Filing cabinets rarely get hacked and typewritten documents are unlikely to be encrypted by ransomware.

No sólo eso, las noticias muchas veces solo se refieren a los caso en que todo va mal (que, si lo pensamos, es un recordatorio de que casi siempre, casi todo el tiempo, va bien).

If you pay attention to the news, all you hear about is the times when data goes wrong. You never notice the times when things run smoothly, but you are painfully aware of every time a computer screws up.

Algunos datos sobre el internet de 2024

2025-09-16T16:00:00+00:00

A principios de año (como corresponde) podíamos leer 2024 according to Cloudflare: Global traffic up, Google still king, US churning out bots donde se habla del informe de Cloudflare (famoso últimamente en nuestro entorno por los bloqueos indscriminados de La Liga) Cloudflare 2024 Year in Review.

El titular sería que el tráfico en internet crece (un 17.2%).

Una parte de responsabilidad la tienen los bots, que no siempre son malos.

As far as bots go, this label covers any non-human internet traffic, so not all are necessarily malicious. Cloudflare says it maintains a list of verified bots such as those used for search engine indexing, performance testing, and availability monitoring.

La fuente principal de tráfico sería los EEUU (34,86%), seguida de lejos por Alemania (6,8%) y después China y Singapur.

However, the US is far and away the largest source of this traffic, accounting for 34.6 percent, while second-placed Germany sits at just 6.8 percent. Iran, China, and Singapore follow, with the UK in sixth place at 3.2 percent.

El tráfico en IPv6 (la versión actual del protocolo IP, que permite un número mayor de direcciones y resuelve algunos de los problemas tradicionales) parece que decrece ligeramente.

One surprise (or perhaps not) is that IPv6 traffic is actually down as a percentage of the packets that passed through Cloudflare's network. It says that 28.5 percent of global traffic was IPv6 during 2024, whereas last year's report put this figure at 33.75 percent.

El tráfico móvil constituye un 41,3% del total.

Mobile device traffic accounted for about 41.3 percent of the total, which is roughly the same as last year. This is largely split between the Apple and Android ecosystems, with iOS on almost a third and Android accounting for two-thirds.

El navegador más popular sería Chrome, con un 65,8% de todas las peticiones, seguido de Safari (15,5%), Edge (6,9%) y Firefox (4%).

Google's Chrome appears to be the most popular browser by far, accounting for 65.8 percent of all requests during 2024. Just 15.5 percent came from Apple's Safari browser, which leads the way on iOS devices, naturally. Microsoft's Edge accounted for 6.9 percent of browsing, while Mozilla Firefox stood at 4 percent.

Google sigue siendo el buscador más usado (88%).

For search engines, Google also claimed the top spot, with a greater than 88 percent share of all search traffic that passed through Cloudflare. Yandex and Baidu were next with 3.1 percent and 2.7 percent, respectively, while Bing trailed with 2.6 percent. DuckDuckGo accounted for 0.9 percent of searches.

Ya hay un 13% del tráfico con cifrado post-cuántico.

One surprising figure is that 13 percent of traffic operating with Transport Layer Security (TLS) 1.3 is using post-quantum encryption, which must mean that some organizations must be taking seriously the potential security threat posed by quantum computers.

España lidera la velocidad de descarga, con 292,6 Mbps y también la de subida, con 192,6 Mbps.

Cloudflare names Spain as the leader in internet download speed (292.6 Mbps) and upload speed (192.6 Mbps), and says that the top ten countries all had average download speeds above 200 Mbps.

A veces hay que mirar los números para conocer mejor el mundo en el que estamos.

Creatividad y reseñas de internet. No todo está perdido.

2025-09-01T09:00:00+00:00

Me gustó leer A Portrait of the Artist as an Amazon Reviewer porque en estos tiempos de pura búsqueda del beneficio y la obtención der resultados nos habla de Kevin Killian, que publicó entre los años 2003 y 2019 una buena cantidad de revisiones (más de 2400) pero con un enfoque un poco diferente del habitual.

Between 2003 and 2019, Kevin Killian published almost twenty-four hundred reviews on the site. Can they be considered literature?

Y no es porque haya evaluado productos raros o buscando la notoriedad: revisaba DVDs, biografías literarias, pero también productos de baño….

The products he evaluated included DVDs of classic twentieth-century cinema, literary biographies, and experimental poetry collections—but also toiletries, Halloween costumes, and a chestnut tree.

¿La diferencia? Un tono exhuberante, incluso melodramático (nos dicen) pero que van más allá de la parodia.

His reviews, usually five stars, are often exaggeratedly gushing, even melodramatic, but they are not mere parodies.

Aunque hemos dicho que no buscaba notoriedad, lo cierto es que llegó a publicar un libro con una selección, Selected Amazon Reviews que tiene, en este momento, 18 reseñas y una puntuación de 4.8.

Luego nos cuentan la vida de este personaje y su comienzo como revisor, después de un ataque al corazón en el año 2003. La medicación le impediría seguir con su carrera de escritor.

This productive period was interrupted when, in 2003, Killian had a heart attack. His medication regimen destroyed his will to write.

Aunque la sugerencia de otra escritora, Dodie Bellamy, le inició en la tarea de mantener su arte de escritor a través de reseñas breves.

Bellamy suggested that brief Amazon reviews might provide a gentle reëntry. Killian began tentatively, punching single words into the site’s review form.

Vale la pena leer el artículo para hacerse una idea del estilo de las reseñas de este personaje, pero no las reproduciremos aquí.

Y, como decíamos arriba, no se puede reducir todo a una parodia o burla, sino que parece un interés genuino en la plataforma, por su uso y como herramienta de publicación.

Killian, like so many of us on social media, seemed to love his platform of choice—the Amazon review section—despite its complicity in a techno-capitalist system that he abhorred.

La plataforma ha evolucionado, nos dicen, y ahora la IA (¿creían que no hablaríamos de ella aquí?) elabora resúmenes a partir de las reseñas de los usuarios, domesticándolas en cierto modo.

Each product page now features an A.I.-generated summary of the existing customer reviews, smoothing out the heterogeneity of human taste into an algorithmic average.

Aunque esto tiene sus propias consecuencias, puesto que hay gente tratando de scar partido de esto, con timadores llenando las páginas de reseñas y haciendo que pierdan buena parte de su valor.

Now scammers are flooding the Web site with A.I.-generated listings, and then using bots to generate favorable reviews to artificially boost them.

El fallecimiento de Killian hizo que dejara de publicar, claro. Y también que se perdiera los momentos de gloria que proporcionan estas herramientas automatizasdas.

Un ejemplo, sin traducir.

“As an AI language model, I don’t have a body,” one recent review for a pair of maternity shorts reads. “But I understand the importance of comfortable clothing during pregnancy.”

Seguro que dentro de algún tiempo descubriremos otros usos creativos de estas nuevas herramientas y gente ingeniosa.

Tengo que reconocer que sin considerarme escritor ni de lejos, he sucumbido en alguna ocasión a escribir una reseña en este estilo (no sé si mi subconsciente recordó esta historia, o fue la insistencia de los mapas de Google en invitarme a escribir reseseñas sobre cosas un poco absurdas).

Cuando la música se convierte en una forma de ganar dinero se buscan medios para conseguirla más barata

2025-08-25T09:00:00+00:00

No es la primera vez que alguien engaña a la industria musical o al público (incluso cuando había editores y muchas más posibilidades de control). Hace unos meses podíamos leer The Ghosts in the Machine donde se cuenta el caso de algunos llamados artistas fantasmas que estarían llenando las listas del servicio musical Spotify, incluso con la especulación de que fuera la propia empresa la promotora. El artículo está detrás de un muro, si alguien lo quiere …

Some even speculated that Spotify might be making the tracks itself. At a time when playlists created by the company were becoming crucial sources of revenue for independent artists and labels, this was a troubling allegation.

Aunque Spotify negaba tener nada que ver en ello, lo cierto es que está ocurriendo: artistas y listas con miles de canciones (incluso millones) incluso con su biografía como si realmente existieran de los que no se puede averiguar nada.

One of the tracks had more than three million streams; at the time of this writing, the number has surpassed four million. Larsson was amused by the elaborate artist bio, which he read aloud.

Lo cierto es que parece que Spotify sí que tiene interés en estas cosas: un equipo dedicado a rebajar sus costes, en donde encajarían este tipo de producciones.

Spotify, I discovered, not only has partnerships with a web of production companies, which, as one former employee put it, provide Spotify with "music we benefited from financially," but also a team of employees working to seed these tracks on playlists across the platform.

Sería lo que llaman, el contenido perfectamente ajustado.

The programa's name: Perfect Fit Content (PFC). The PFC program raises troubling prospects for working musicians.

Y, por otro lado, ¿esto es un engaño? Parece que mucha gente acude al servicio sin buscar artistas ni músicas específicos: simplemente quieren tener una banda sonora para su día a día (música de fondo).

... many users were not coming to the platform to listen to specific artists or albums; they just needed something to serve as a soundtrack for their days, like a study playlist or maybe a dinner soundtrack.

Pero sí que es verdad que esto afecta a los productores tradicionales, algunos de los cuales se beneficiaban de esta búsqueda de música de fondo, como jazz, clásica, ambiente, …

These higher-ups were well versed in the business of major-label hitmaking, but not necessarily in the cultures or histories of genres like jazz, classical, ambient, and lo-fi hip-hop' music that tended to do well on playlists for relaxing, sleeping, or focusing.

Incluso algunos músicos también habrían empezado a colaborar en este tipo de apuestas, dedicándose a crear música para este tipo de intereses.

But our conversation soon turned to something else: his most recent side gig, making jazz for a company that was described, in one internal Spotify document, as one of its "high margin (PFC) licensors."

Esencialmente, haciendo música anónima que se distribuiría según este modelo.

He had signed a one-year contract to make anonymous tracks for a production company that would distribute them on Spotify.

En definitiva, viejos profesionales encontrando nuevas formas de ganarse la vida.

He was just someone who, like other working musicians today, was trying to cobble together a living.

Nada impedirá, claro, que aparezca la música generada por IA y que cumpla también este papel.

Spotify, for its part, has been open about its willingness to allow AI music on the platform.

A mi me gusta la música, y suelo poner música de fondo. Pero pongo cosas que quiero escuchar por un motivo u otro, aunque no le preste toda la atención que merece. No todo el mundo hace lo mismo. Tampoco es nueva la idea de la música de fondo (música de ascensor) o de relleno y la historia de artistas que se han dedicado a ella a lo largo del tiempo existe y se puede investigar.

Algunos cambios en la forma de contratar con las IAs

2025-08-18T09:00:00+00:00

En How GenAI is reshaping tech hiring un análisis de cómo está cambiando la contratación en el ámbito de la tecnología a causa de la IA.

Tienen en común con lo que escribíamos la semana pasada, porque habla del sobreesfuerzo que supone detectar a la gente que miente.

Impact on recruitment. More focus on catching “fakers,” recruitment becomes more effort, and more demand for interview questions that LLMs cannot assist efficiently with.

No sólo por las preguntas, que hay que tratar de hacerlas para que no sea fácil que la IA nos las resuelva, sino también en las entrevistas remotas, donde los candidatos pueden recibir ayudas no esperadas. Los puntos principales son los siguientes.

“Faking it” with GenAI tools. Candidates can get away easier with seeking unauthorized LLM help on remote interviews – while interviewers are increasingly suspicious.

También afecta en el tratamiendo de los currículums donde, a lo mejor, los peor escritos son de candidatos mejores, favoreciendo también el historial frente a un currículum muy bien escrito.

Impact on resume screening. Weaker resumes and cover letters, pedigree becoming more important than a well-written resume...

Las entrevistas basadas en trabajo para llevar a casa pueden perder completamente el sentido (si es que lo tenían).

Changing take-homes and coding interviews. Exercises to evaluate candidates beyond their coding skills will likely spread...

También cambiarán las entrevistas: más reuniones en persona, y para el resto entrevistas asistidas por la IA.

Effects on the interview process. Some companies will push for more in-person interviews, while others will integrate LLM usage into the interview process.

Rediseño del proceso.

Redesigning the interview process ...

Integración de la IA en el proceso.

Integrating GenAI into the interview process

Luego desarrolla algunos de ellos, aunque me temo que una parte importante es de pago. El resumen me parece valioso, en cualquier caso.

La IA como ayudante y la sospecha sobre quién ha trabajado

2025-08-11T09:00:00+00:00

Seguimos con la inteligencia artificial (generativa, que es el sabor actual). Seguro que todos estamos más o menos cansados del mantra sobre si la IA nos va a sustituir o no, si va a hacer nuestros negocios mejores o peores y todas esas cosas.

En Universities in the age of AI comentan sobre el artículo ‘I received a first but it felt tainted and undeserved’: inside the university AI cheating crisis sobre algunos aspectos que me han parecido interesantes (pero, ya se sabe, hagamos lo que hagamos estará mal, tampoco pasa nada).

La cuestión comienza con lo que casi todo el mundo hace: usar alguna IA para alguna parte de su trabajo; por supuesto, encontrar usos más que útiles y, tal vez, tener cuidado con los resultados o directamente no utilizarlas para algunas partes que consideramos especialmente críticas.

I use genAI in client work, and also in my academic studies. It’s incredibly useful as a kind of ‘thought partner’ and particularly handy in doing a RAG analysis of essays in relation to assignments. Do I use it to fabricate the answers to assessed questions which I then submit as my own work? No, of course not.

A nivel institucional las aproximaciones son diversas y muchos preferiríamos que fueran positivas, con cuidado.

Different institutions are approaching the issue differently, as you would expect. The answer, I would suggest, is something akin to Cambridge University’s AI-positive approach, outlined in the quoted text below.

Porque utiliar las herramientas de forma adecuada puede ser una experiencia enriquecedora.

It’s been my experience that using genAI in appropriate ways is an incredibly enriching experience.

Pero sin olvidar que lo que hacemos (en la Universidad y en otros sitios) es aprender para nuestro propio beneficio, estudiar con IA puede ser mejor que hacerlo sin ella.

At the end of the day, I’m studying for my own benefit, and I know that studying with genAI is better than studying without it.

Pero también que el objetivo es aprender y hacer cosas mejores, no sustituir nuestro propio trabajo.

Por su parte en el artículo referenciado hablan de cómo muchos estudiantes utilizan IA y se enfrentan a situaciones donde las personas que les evalúan creen que han utilizados estas herramientas más allá de lo debido.

Albert, a 19-year-old undergraduate English student, scanned the content, stunned. He had been accused of using artificial intelligence to complete a piece of assessed work.

Las universidades se encuetran, nos dice, en una escalada de ‘armamento’, incluso utiliando la IA para detectar usos fraudulentos de la IA.

In the struggle to stuff the genie back in the bottle, universities have become locked in an escalating technological arms race, even turning to AI themselves to try to catch misconduct.

Con sus propios problemas, puesto que estas herramientas tienen sus propios sesgos, al señalar como copiadas con mayor frecuencia las entregas de personas que no hablan el idioma (el inglés, en este caso) frente a las que lo dominan.

One study at Stanford found that a number of AI detectors have a bias towards non-English speakers, flagging their work 61% of the time, as opposed to 5% of native English speakers

Y, claro, esto provoca un ambiente de sospecha: cualquier cosa extraña puede ser calificada e investigada como posible mala conducta.

Cheating or not, an atmosphere of suspicion has cast a shadow over campuses.

Problema que se extiende incluso entre los propios estudiantes cuando tienen que colaborar.

Students are also turning on each other. David, an undergraduate student who also requested to remain anonymous, was working on a group project when one of his course mates sent over a suspiciously polished piece of work.

Aunque también existen las políticas favorables hacia la IA, por ejemplo para descubrir conceptos nuevos, colaborador, o apoyo en la gestión del tiempo.

At Cambridge University, for example, appropriate use of generative AI includes using it for an “overview of new concepts”, “as a collaborative coach”, or “supporting time management”.

Avisando, eso sí, de que un exceso de confianza en las herramientas puede llevar a un desarrollo limitado de las capacidades del estudiantado en cuanto a la posibilidad de desarrollar habilidades de pensamiento crítico.

The university warns against over-reliance on these tools, which could limit a student’s ability to develop critical thinking skills.

Aunque esto seguramente nos llevará a modificar los sistemas de evaluación (entrevistas de uno en uno, exámenes orales, …)

They all agreed that a shift to different forms of teaching and assessment – one-to-one tuition, viva voces and the like...

Sin olvidarnos de que la obtención de un título es algo tan mercantilizado (en países donde la financiación depende de las matrículas, pero, como siempre, también en otros modelos) que tampoco se puede ser demasiado exigente, porque los ‘clientes’ eligen otros sitios donde lo son menos.

If anything, the AI cheating crisis has exposed how transactional the process of gaining a degree has become. Higher education is increasingly marketised; universities are cash-strapped, chasing customers at the expense of quality learning.

Mis recomendaciones a mis estudiantes es utilizar las IAs, pero no para que realicen su trabajo, sino para consultarles dudas, pedirles explicaciones, comprender cómo funcionan y qué debilidades tienen, analizar críticamente lo que responden…. Y, sí, claro: también hemos encontrado casos de estudiantes que envían como resultado de su trabajo el que ha hecho una de estas cosas (aunque antes tampoco tenían problema en enviar lo que había hecho alguno de sus compañeros). Hemos descubierto, por ejemplo, como dos estudiantes pueden encontrarse con que su trabajo es copiado aunque ni siquiera se conozcan entre sí: la IA les ha dado a ambos un resultado muy similar (y con defectos que permiten detectar que no lo habían hecho ellos).

Información, datos y sus límites

2025-08-04T09:00:00+00:00

Para cualquier persona mínimamente interesada e informada debería estar claro lo que son las inteligencias artificiales que tanto nos deslumbran: una forma muy inteligente (e interesante) de sacar partido de toda la información que han sido capaces de ingerir, con un mecanismo para recuperarla de forma que se ajuste a lo que les hemos pedido. Pero esa información viene en forma de datos que alguien ha puesto en algún sitio de alguna manera.

En The Limits of Data C. Thi Nguyen aprovecha para recordarnos que esta aproximación tiene sus propios límites y comienza con el arte.

Nos habla de un experimento para crear arte basándose en los datos de interés/enganche (engagement) de Netflix.

I asked one researcher about the training data. How did they choose to operationalize “good art”? Their reply: they used Netflix data about engagement hours.

Pero claro, nos recuerda, hora de interés no representan calidad artística (o no tienen por qué representarla).

The problem is that engagement hours are not the same as good art.

Y no sólo eso, sino que el arte puede ser importante para nosotros de formas muy diversas: emocionarnos, removernos, enseñarnos, …

There are so many ways that art can be important for us. It can move us, it can teach us, it can shake us to the core.

La conclusión surge por si sola, si entrenamos a la IA para que valore ese interés obtendremos justamente eso: productos que generen ese tipo de atracción.

Cambiando de enfoque, nos habla de las políticas y su lenguaje, que actualmente parecen ser los datos. La mayoría de las administraciones quieren tener éxito en las medidas sobre los datos, para demostrar su eficacia y eficiencia en términos claros, objetivos y fáciles de comprender.

Government agencies, corporations, and other policymakers all want to make decisions based on clear data about positive outcomes. They want to succeed on the metrics—to succeed in clear, objective, and publicly comprehensible terms.

Pero, nuevamente, la conclusión es clara: los datos y sus medidas son incompletos por su propia naturaleza.

But metrics and data are incomplete by their basic nature.

Y hay muchas cuestiones importantes que no salen en los datos (o que son difíciles de medir): podemos medir la salud, por ejemplo, en términos de longevidad, vidas salvadas,…. Pero es más difícil medir la felicidad, comunidad, tradición, belleza, comodidad, …

It’s easier to justify health care decisions in terms of measurable outcomes: increased average longevity or increased numbers of lives saved in emergency room visits, for example. But there are so many important factors that are far harder to measure: happiness, community, tradition, beauty, comfort, and all the oddities that go into “quality of life.”

Pone más ejemplos y da algunas ideas más, pero podemos saltar a la parte donde nos cuenta cómo hay gente estudiando en los datos que recolectamos, cómo lo hacemos para tomar las decisiones.

A small group of scholars have been working on understanding this, mostly in science and technology studies—an interdisciplinary field focused on how science works that conducts studies across philosophy, history, anthropology, sociology, and more. This work offers an understanding of the intrinsic limitations on the process of data collection and on the contents of big datasets.

Porque, nos dice luego, no todos los tipos de conocimiento, ni todas las clases de comprensión pueden considerarse información y datos.

Not all kinds of knowledge, and not all kinds of understanding, can count as information and as data.

Por no hacer esto muy largo, luego llega a la cuestión de que la cuantificación (información, datos, …) trabaja de manera inevitable eliminando información importante del contexto, porque el objetivo es conseguir información portable, que se pueda comparar, examinar,…

Quantification, as used in real-world institutions, works by removing contextually sensitive information. The process of quantification is designed to produce highly portable information,...

Así que ese es el compromiso: recolectamos datos, ganamos en portabilidad y podremos agregar esa información, pero perdemos información.

So here is the first principle of data: collecting data involves a trade-off. We gain portability and aggregability at the price of context-sensitivity and nuance.

Cuando hay información, y se manejan datos hay otro esfuerzo más, que es el de la clasificación. Una cosa es decir cuál es tu raza con tus propias palabras y otra diferente es incluirte en la categoría que alguien ha definido para poder transformar eso en datos, porque un análisis de la descripción que pudiera hacer caada persona de sí misma sería difícil de manejar.

Data collection efforts require classification, which is a second kind of filter. Imagine a US census form where everybody simply wrote into a blank space their racial identity, in their own terms. There would be no way to aggregate this easily. Collectors need to sort information into preprepared buckets to enable aggregation. So there are distinct buckets—white, Black, American Indian, Asian, and, ...

Pero claro, esas clasificaciones las prepara alguien y no tienen por qué describir bien lo que alguien piensa de sí mismo. Y esas categorías no son neutras. No solo eso, también deciden antes de empezar qué recordar y qué olvidar.

Classification systems decide ahead of time what to remember and what to forget.

Y es verdad que podemos anotar esos datos en muchos casos (una casilla para poner información adicional), pero es igual de cierto que esa parte de la información se ‘mueve’ peor que los datos sin más.

ometimes information infrastructures do offer a place for unstructured notes. When I’m entering my grades into the school’s database, I get a little blank box for other notes. The information is collected in some sense, but it doesn’t really move well; it doesn’t aggregate.

El problema de estas limitaciones tiene que ver, ahora, con que justamente esos valores filtrados (y refiltrados) son los que se integran en los sistemas de decisión automatizados.

And now, in the algorithmic era, there’s a new version of this problem: these filtered values will be built so deeply into the infrastructure of our technological environment that we will forget that they were filtered in the first place.

No deberíamos por ello dejar de entrenar y utilizar este tipo de sistemas, puesto que nos han permitido avanzar mucho en muchas ocasiones.

My point isn’t that we should stop using data-based methods entirely. The key features of data-based methodologies—decontextualization, standardization, and impersonality—are precisely what permit the aggregation of vast datasets and are crucial to reap the many rewards of data-based methodologies.

Pero hay que tener en cuenta las limitaciones, puesto que los sistemas construidos de esta forma tendrán sesgos de manera inevitable.

But policymakers and other data users need to keep in mind the limitations baked into the very essence of this powerful tool. Data-based methods are intrinsically biased toward low-context forms of information.

Y, por lo tanto, deberemos preguntarnos ¿quién recolectó los datos? ¿Quién creó las categorías? ¿Qué información se enfatiza y cuál se pierde? ¿A qué intereses sirve el sistema de filtrado?

This suggests at least two responses to the limitations of data. First, when confronted with any large dataset, the user should ask: Who collected it? Who created the system of categories into which the data is sorted? What information does that system emphasize, and what does it leave out? Whose interests are served by that filtration system?

Y no olvidar que no todos los problemas se pueden tratar solo con los datos, así que no deberíamos dejar que estos ahoguen a los otros modelos de comprensión.

Second, policymakers and data users should remember that not everything is as tractable to the methodologies of data. [...] Data is powerful but incomplete; don’t let it entirely drown out other modes of understanding.

Muy interesante lectura, vale la pena leerlo completo y con calma.

¿Qué escuchas en el coche?

2025-07-28T09:00:00+00:00

Hace tiempo que no comentamos estadísticas (numerología). En In-Car Listening on Mobile Phones nos hablaban de la escucha de dispositivos móviles en el coche.

This week’s insight takes a closer look at in-car listening specifically on mobile devices.

Yo pensaba que sería un número mayor, pero nos dicen que un 29% de las personas de 13 años y más escuchan audio en el coche en un teléfono móvil.

Today that number has nearly doubled, and now 29% of the U.S. population age 13+ who listen to audio in-car do so on a mobile phone.

De ellos, un 53% escucharían música, un 17% podcasts y un 14% música que tienen en el dispositivo. Detrás vendría YouTube (14%) y finalmente audiolibros, con un 4%

The majority of time listening in-car on a phone, 53%, is spent listening to streaming music services. ... ... podcasts at 17%, and owned music such as downloaded digital files at 14%. Listening to music and music videos on YouTube accounts for 9% of listening on a phone in-car. Audiobooks clock in with 4% of the total.

A mi me parece poco, si miro a las personas jóvenes que tengo alrededor y echo de menos en la estadística las redes sociales (la nueva televisión: los reels de Instagram y TikTok). También puede ser que los jóvenes van poco en coche y prefieren (o solo pueden acceder a) otros medios de transporte.

Desde luego, lo que sí que ha pasado ya son los tiempos de escucha única, con un equipo centralizado que era la única posibilidad.

Yo suelo escuchar música (que tengo en un disco portátil). Los podcasts los dejo para pasear.

Internet y la preservación de información

2025-07-24T09:00:00+00:00

No me gusta mucho enlazar artículos que están detrás de un muro (aunque sea registrarse) pero en este caso haré una excepción porque es un tema que me llama la atención. Tengo la teoría de que cuando pase el tiempo veremos que hay etapas sobre las que habrá muy poca documentación: en mi cabeza esa etapa tiene que ver con los momentos de digitalización masiva, donde mucha información ya no se guarda en bibliotecas, archivos,… pero tampoco se conserva adecuadamente (y mucho menos se publica o se pone a disposición de otras personas en la red). Por eso guardo muchas de las cosas que voy leyendo en digital (utilizando sistemas imperfectos, pero que me permiten conservar los textos; por cierto, si alquien quiere este texto también lo tengo).

Y por eso me gustó leer Why the Internet Era Might Be History’s Least-Documented Period donde se hablaba un poco del tema.

Comenzaba hablando de las fotos de su graduación, que estaban en alguna cuenta de algún servicio, en un disco duro roto y por otros diversos lugares….

Last week, I tried to find some photos from my college graduation. Despite being only fifteen years ago, they proved surprisingly elusive – trapped on a defunct Photobucket account, lost to a crashed hard drive, and scattered across social media platforms that no longer exist.

Luego nos recuerda como las empresas deciden cerrar servicios y dejar perder un montón de información (en las próximas semanas ocurrirá con el contenido de Pocket, por ejemplo). Geocities, MySpace, Google+, …

Remember Geocities? Yahoo shut it down in 2009, taking with it millions of early websites – a unique snapshot of early internet culture. The Internet Archive managed to save some pages, but most are gone forever. MySpace lost 12 years of music uploads during a server migration. Google+ vanished, taking with it communities and conversations. Vine? Gone.

Sin embargo, nos recuerda, seguimos pudiendo tener acceso a documentos muy antiguos conservados en diveras bibliotcas, o pinturas de hace mucho tiempo.

We can still read Egyptian hieroglyphics carved 5,000 years ago. We can examine medieval manuscripts, Renaissance paintings, and Victorian photographs. These analog formats have proven remarkably durable.

Es cierto que estos argumentos son trampososo, porque tenemos acceso a unos pocos textos y a unas pocas imágenes, que por muchas y diversas circunstancias se han conservado. ¿Cuántas fotografías analógicas de nuestros padres y abuelos se habrán perdido igualmente que las de la autora?

Luego nos recuerda que los medios digitales son muy frágiles: se rompen los discos duros, los datos se corrompen….

Y la pregunta es evidente, ¿hay alguien conservado estas cosas? La respuesta es, claro, sí y no. El Internet Archive hace un esfuerzo notable (uno de los pocos proyectos a los que dono de vez en cuando algo de dinero). Pero su capacidad llega hasta donde llega, incluso con amenazas legales de vez en cuando.

The Internet Archive does heroic work, but they can only save a fraction of the web and they do so under constant, desperate, grasping legal threat.

También es cierto que uno tenía un libro, o unos documentos y los dejaba en cualquier lado. Con que no tuviera mala suerte, los medios en los que estaban almacenados resistían bastante bien el paso del tiempo. Esto es algo que no sucede tan fácilmente con medios más modernos.

In contrast, a book on a shelf just needs to be kept dry and (preferably) away from fire.

También ocurre que en la actualidad guardamos mucha información en medios diversos que cuando ya no estemos puede desaparecer de manera casi inevitable (los servicios desaparecen, pero aunque no lo hagan, la información está protegida por contraseñas en alguna nube….).

Today, we send ephemeral messages and store photos in the cloud. When we die, our digital presence often dies with us - locked behind passwords or lost to obsolete services.

Las soluciones que propone tienen que ver con aproximaciones híbridas (versiones analógicas de los documentos e imágenes más valiosos), mejorar nuestras habilidades de archivado e instituciones que se encarguen de la preservación a largo plazo.

Perhaps we need a hybrid approach. Critical records could be preserved in both digital and analog formats. Personal archiving could become a emphasized skill, like digital literacy. We might need new institutions dedicated to long-term digital preservation.

Pero sobre todo, nos decía, lo primero es darnos cuenta del problema para poder empezar a actuar.

But first, we need to recognize that the problem actually exists. The digital age promised to make everything accessible, but instead made everything ephemeral. Unless we act, we risk becoming an unexpected dark age - not for lack of records, but for lack of readable ones.

Desde luego, deberíamos invertir más esfuerzo en esto y uno se sorprende al ver como muchas instituciones (para la gente particular es todo más complicado) están ignorando este problema y dejando el tiempo pasar con pérdidas que pueden ser irreparables.

Las definiciones son importantes: IAs 'open source'

2025-07-14T09:00:00+00:00

Llevamos una (larga) temporada hablando de inteligencia artificial (fundamentalmente modelos gigantes de lengugaje LLMs) y una de las iniciativas que ha proliferado es la posibilidad de descargar los modelos para ejecutarlos localmente (buena noticia desde el punto de vista, al menos, de la privacidad); además, se proporciona información acerca de como se han desarrollado (con la idea de poder intentar reproducirlos), origen de los datos, para qué se pueden utilizar, posibilidad de modificarlos e incluso redistribuir estas modificaciones.

En The Open Source AI Definition Is Out nos hablan justamente de eso: recientemente se publicó la versión 1.0 de la definición de lo que se consideraría una IA ‘open source’, según la Open Source Initiative.

Básicamente la definición dice lo que hemos puesto arriba.

- Provide sufficient information about its design to allow substantial recreation - Disclose pertinent details about training data, including provenance and processing methods - Allow usage for any purpose without permission - Permit studying of the system’s inner workings - Enable modification for any purpose - Allow sharing of the original or modified version.

El problema es que la mayoría de las IAs que ofrecen las empresas llamándolas ‘open source’ no cumplen las condiciciones.

Spoiler alert: Many won’t. The open-wash releases from AI companies such as OpenAI and Meta don’t make the OSAID grade.

Mientras que con el código todo estaba claro, en este caso nos movemos en terrenos más pantanosos, puesto que se incluye código, datos, técnicas, sesgos…

... analyst Stephen O’Grady ... Their scope blends software, data, techniques, biases and more. AI is inarguably a fundamentally different asset than software alone.”

Está claro que un estándar como el propuesto puede servir de referencia y para aclarar el panorama, aunque no sea lo que elijan las empresas relevantes.

No matter where you land on this issue, this new standard could have significant implications for companies that have been marketing their AI models as “open source.”

Desde la iniciativa están abiertos al cambio, pero consideran la propuesta como una primera versión (que no es beta) y esperan que se utilice, se comprenda mejor y se pueda hablar de estas cosas con más precisión a partir de ahora.

Piana explained, being open to change is an “acknowledgment that our collective understanding of what AI does, what’s required to modify language models is limited now. The more we use it, the more we’ll understand. Right now our understanding is limited, and we don’t know yet what the technology will look like in one year, two years, or three years.” Thus the OSAID is leaving room for future flexibility.

Ya era hora.

Las aplicaciones pueden delatar tu posición. O la de alguien con el que vas

2025-07-07T09:00:00+00:00

Casi a título de inventario, Location of world leaders including Putin, Trump and Macron ‘revealed by security teams’ Strava’ aunque es interesante por el máximo perfil de las personas implicadas.

Y el problema no son ellos mismos, que probablemente están protegidos, sino su personal de seguridad (no informática, claro). Por un lado, agentes del Servicio Secreto de EEUU, que harían de escolta y que tendrían instalada la conocida aplicación deportiva.

A report by French newspaper Le Monde said several US Secret Service agents use the Strava fitness app, which has revealed highly confidential movements of US president Joe Biden, presidential rivals Donald Trump and Kamala Harris and other world leaders.

Pero lo mismo parece que sucede (o sucedía) con el personal de seguridad de Macron, Putin, …

The investigation also identified Strava users among the security personnel for French president Emmanuel Macron and Russian president Vladimir Putin.

Estos dispositivos están prohibidos cuando están trabajando, pero no cuando están en su tiempo de descanso.

In a statement to the newspaper, the Secret Service said its staff aren’t allowed to use personal electronic devices while on duty during protective assignments but “we do not prohibit an employee’s personal use of social media off-duty.”

La clave estaría en identificar a las personas ‘interesantes’, y luego encontrar sus perfiles en las aplicaciones.

Tampoco estoy muy seguro de que esto sea un problema tan grave, teniendo en cuenta todo el personal que mueven a su alrededor (no solo las aplicaciones podrían delatarles). Es algo parecido a lo que dicen desde el gabinete de Macron, por ejemplo, aunque es bueno ser conscientes del problema.

Macron’s office said on Monday that the consequences of the issues reported by Le Monde “are very slight and in no way affect the security of the president of the republic.” But, it added: “A reminder was nevertheless issued to agents by the chief of staff asking them not to use this app.”

En la web de RTVE hablando sobre redes sociales

2025-07-04T09:00:00+00:00

Auge y olvido de las redes sociales: la comunicación humana al servicio de ciclos de usar y tirar

Cada cierto tiempo salta una nueva noticia sobre la "muerte" de una red social. Hace unos meses fue el turno de Skype.

✍️ E. Cezón https://t.co/Z4b9SICQnL
— RTVE Noticias (@rtvenoticias) June 30, 2025

Hace unos días me contactó Eva Cezón de RTVE para una nota que estaba elaborando con motivo del día de las redes sociales (que, se ve, se celebraba el lunes padasado día 30 de junio).

Las preguntas se centraban en cómo las redes van evolucionando y algunas de ellas van perdiendo fuerza (o son abandonadas). El resultado se ha publicado en Auge y olvido de las redes sociales: la comunicación humana al servicio de ciclos de usar y tirar.

No sé si tiene mucho interés, pero como suele pasar, intercambiamos bastantes ideas y al final salen unas pocas frases, así que copio aquí lo que le mandé. Sobre todo porque en un artículo de estas características no es posible poner todo lo que se habla y creo que hay un buen resumen de algunas de mis ideas fundamentales en estos temas.

Sobre la evolución y obsolescencia en la tecnología digital y algunas redes que han sido predomimantes han sido reemplazadas o absorbidas.

Hay una inevitable renovación generacional que muchas veces aparece como intento por parte de las empresas de captar nuevos clientes y también por los usuarios que las adoptan por reacción a lo que utilizan las generaciones anteriores. En algunos casos los viejos usuarios acuden a las nuevas redes por su valor o interés (los casos de instagram y TikTok donde se puede ver a gente más mayor) y en otros casos se quedan donde están los ‘amigos’ que han conocido (y también, claro, por la familiaridad con el uso, porque no todo el mundo es tan hábil adaptándose a las nuevas interfaces (aspecto y forma de interactuar). Eso se mezcla con la habilidad/capacidad de algunas de las viejas para captar un número suficiente de usuarios que les permita sobrevivir.

Sobre la innovación rápida y los ciclos de vida:

Las nuevas redes traen nuevas características, pero cada vez es más rápida la adopción de estas en las viejas (podemos ver publicaciones del tipo de las de TikTok o los Reels de Instagram en Facebook, en YouTube e incluso en LinkedIn). A veces eso les permite mantener a los viejos usuarios y otras veces les hace perder identidad. Lo que sí que es cierto es que todas las empresas tratan de activar características que les diferencien y las hagan más atractivas.

Sobre la inmediatez y lo desechable:

En muchos casos, cuando estamos en casa aburridos con el teléfono, lo único que queremos es una distracción ligera que nos ayude a pasar el rato. Y siempre hay gente dispuesta a darnos ese contenido que sirva para eso y, de paso, ganar dinero ellos y la red social. Esto ocasiona que, a veces, invirtamos ese tiempo en pura distracción de usar y tirar en lugar de otras tareas más provechosas. No obstante, sostengo desde hace tiempo que casi en cualquiera de las redes sociales podemos encontrar personas afines y que hacen cosas muy interesantes; incluso aprender. Pero hace falta una cierta voluntad de no dejarse llevar y tratar de llevar lo que nos sugieren hacia terrenos que nos pueden interesar más. Y no es difícil, basta con dar me gusta o saltar las publicaciones en los momentos adecuados.

Sobre la adaptación de las redes a las nuevas peticiones de los usuarios y cómo influye en su supervivencia o extinción:

Es cierto que los usuarios pedimos novedades y muchas veces estas hacen que cambiemos (o que empecemos a usar) los sitios que frecuentamos. Pero no hay que despreciar la costumbre y lo que sabemos manejar, que nos permite movernos con cierta confianza y soltura. Aquĺ podríamos poner el ejemplo de X (Twitter), que a pesar de su degradación no está sufriendo una desbandada total porque mucha gente todavía encuentra valor allí y es a lo que está acostumbrado.

Factores que pueden influir en la muerte de una red, como los cambios de propietarios.

El cambio de propiedad puede ser un momento decisivo para una red: los nuevos propietarios no se adaptan bien a la cultura del sitio, o ya tienen algún producto que desempeña el mismo papel y no quieren esa competencia ‘interna’ …. Hemos visto cambios notables en eso, como sucedió con una red de IRC, Freenode, que fue adquirida por alguien que no fue recibido y en pocos días la mayoría de la gente se había ido a una nueva red (Libera Chat). En este caso se trataba de usuarios más o menos avanzados, que no tuvieron ninguna dificultad en coordinarse, dejar el viejo sitio e irse al nuevo sin problemas. Finalmente, tenemos casos como Instagram, que fue adquirido por Facebook (Meta) y que han sabido mantener el espíritu original (más o menos) y también conservar una convivencia adecuada con el viejo producto.

Sobre la falta de actualización y la reacción de la gente joven:

La falta de actualización puede tener efectos en la entrada de nuevos usuarios, pero no hay que despreciar nunca a los antiguos: casos como el del IRC (que sigue vivo y en uso), o Facebook nos enseñan que puedes mantener un producto antiguo, donde las nuevas generaciones ya no entran, pero que goce de buena salud.

Sobre la competencia.

Siempre hay emprendedores intentando dar con la nueva idea que haga que los usuarios se cambien a sus redes y eso hace que todo avance. La competencia es, como dices, feroz, pero ya no hay duda de que hay un buen número de personas intentándolo e inversores apoyándoles.

Sobre las consecuencias, en particular la pérdida de nuestra huella digital.

Esto es algo que todavía no sé si somos capaces de examinar: efectivamente hay un riesgo de perder nuestros mensajes, fotos e identidades en esa eterna migración hacia nuevas redes. En muchos casos puede ser hasta bueno, porque siempre habrá etapas de nuestra vida que no queremos recordar, pero también deberíamos evaluar qué guardamos, cómo y dónde para poder mostrar, dentro de unos años aquellas fotografías de los sitios que visitamos, o los encuentros memorables. Quién más quién menos ya ha perdido algunas fotos que apreciaba, aunque no sé hasta que punto eso es diferente a cuando teníamos las fotos en papel y tampoco las volvíamos a ver nunca más.

Y la nostalgia digital.

Yo no soy muy nostálgico, pero veo a veces a la gente recordar sus buenos momentos en MySpace, o en Tuenti y, efectivamente, existe esa nostalgia. Supongo que se parece a la nostalgia ‘analógica’ de los recuerdos de los buenos ratos vividos. También hay que reconocer que esos momentos se quedan allí en muchas ocasiones y que los contactos y las relaciones dejan de existir por algún motivo (no siempre desagradable).

Sobre la superficialidad de los vínculos digitales y el cambio constante. ¿Estamos condenados a empezar de cero de manera permanente?

Yo creo que no. Las redes digitales precisamente nos permiten establecer vínculos más profundos y cercanos que sus contrapartes analógicas: cuando la única posibilidad que tenías de hablar con alguien que estaba lejos era una carta o una (cara) llamada de teléfono, en muchas ocasiones una mudanza era el fin de muchas relaciones. Eso ya no tiene por qué ser así, si las relaciones son auténticas. Y no sólo eso, sino que con personas cercanas, pero que no podemos ver todos los días por diversos motivos, estas redes nos permiten tener una cercanía que de otro modo sería imposible.

Sobre la posibilidad de mantener una red social permanente.

La red social permanente es la que mantenemos las personas, mediante las herramientas que tenemos a mano: es nuestra tarea conservarla, mantenerla y gestionarla. Y las herramientas nos permiten, de vez en cuando, ampliarla y mejorarla.

Lo que pueden aprender las nuevas plataformas de las que ya están consolidadas.

Respetar a los usuarios, ayudarles a mejorar su vida y ofrecerles valor. En muchas ocasiones vemos como las empresas solo buscan el beneficio económico y mejorar la cuenta de resultados y eso termina siendo un problema, cuando los usuarios encuentran la siguiente red social más divertida y ‘mejor’.

¿Cómo debemos relacionarnos en el entorno digital?

Efectivamente, para mi esa es la clave y lo digo siempre que me dejan: puedes dejarte llevar y puede que te entretengas un rato, o puedes tratar de buscar valor en lo que ves y haces. No se trata de (exagerando) buscar fuentes de conocimiento profundo (o sí, si ese es nuestro interés, claro), pero si tienes una afición, o hay algo que te gusta, puedes enfocar tu actividad en las redes a la búsqueda de ‘almas gemelas’, gente de la que aprender, e información valiosa. Es un poco más de esfuerzo que dejarse llevar, pero en mi opinión es mucho más satisfactorio.

Sobre las expectativas y repensar lo que las redes sociales deben ofrecernos.

Así es. Debemos tratar de hacer cosas que tengan sentido; aunque soy pesimista. La realidad nos muestra cómo nos dejamos llevar y hay gente que dedica horas y horas a actividades que sólo son entretenimiento.

Publicado originalmente en En la web de RTVE hablando sobre redes sociales.

Lo que importa (en internet y la indie web)

2025-06-27T15:00:00+00:00

Hace algún tiempo vi Hugs of Death: How should we think about resilience in the IndieWeb? y a pesar del título llamativo y que empieza con una parte algo técnica, me pareció interesante por lo que dice un poco más abajo.

Todo empieza porque una entrada del sitio llega a un agregador importante (Hacker News) y su proveedor parece que no aguanta la carga.

Either way, it’s clear that this little VPS couldn’t handle the load of the HN post getting popular.

Soluciones técnicas hay para evitar estos problemas, pero el autor se pregunta si realmente es importante.

Does it actually matter?

Al cabo de poco tiempo la página volvía a estar disponible y la cuestión era, ¿para qué tenemos un sitio como este? Se trata de compartir ideas, pensamientos y conocimientos al mundo, manteniendo la propiedad y el control de todo. Y esto es posible con pocos recursos (aunque podamos tener algún inconveniente de vez en cuando).

I like the fact that the IndieWeb can empower smaller creators to share their interests and creations with the world, while owning their own corner of the internet. I like the idea that the barrier to entry can be quite low, starting with something like a 512 MB VPS that someone can manage themselves. Maybe even something more DIY like a Raspberry Pi.

Nos dice también que estos problemas son preferibles a la centralización que supone utilizar ese otro tipo de servicios.

If there’s a bit of downtime or some teething problems, or a hug of death or two, is that preferable to adopting the centralised providers like GitHub and Cloudflare as the “default”, or giving newbies the idea that there’s no way to publish good content without an overkill auto-scaling setup?

Interesante.

Lo cierto es que este sitio está alojado ahora en Github Pages, aunque mantenemos el control (dominio y todo) para moverlo en cualquier momento a otro lugar. Tal vez lo pensemos.

Las inteligencias artificiales y la revisión por pares

2025-05-22T15:00:00+00:00

Tenía guardado para comentar ChatGPT is transforming peer review — how can we use it responsibly? (lamentablemente no está en abierto, si alguien lo quiere que lo diga) y casualmente compartí en redes sociales el otro día este otro Using AI for Reviews, de uno de los fijos en mi lector de RSS, Lance Fortnow.

Decían en Nature que estaban observando un número significativo de revisiones hechas por IAs.

At major computer-science publication venues, up to 17% of the peer reviews are now written by artificial intelligence.

Como en tantas ocasiones, no es difícil del todo darse cuenta de la situación: el tono es formal y muy ‘verboso’, con palabras como ‘meticuloso’ y ‘encomiable’ apareciendo diez veces más que antes.

Y la cuestión es, claro, que nos guste o no estas herramientas han venido y están para quedarse (aunque se habla muy poco de qué sucedería si los proveedores deciden cortarnos el grifo o subir los precios, claro).

El razonamiento típico para adoptar estas herramientas tiene que ver con la ‘productividad’: falta de tiempo para hacerlo por métodos más tradicionales.

También hay otro razonamiento habitual y es si se puede restringir a tareas que sean ‘las correctas’ (corrección de texto, gramática, responder a preguntas simples sobre el manuscrito,…). Pero también puede suceder que este proceso haga todavía peor el (ya maltrecho) sistema de publicaciones científicas. Sin olvidar los temas de propiedad intelectual y la privacidad, claro.

Otra queja habitual de los que reciben este tipo de revisiones es la falta de profundidad y las alucinaciones.

Alguna ventaja más, por el otro lado, podría ser que la inteligencia artificial se fije en cosas que un revisor tradicional pasaría por alto.

Como solución, nos dicen, la que estamos adoptando en otros campos: añadir más interacciones al proceso; si los revisores y los autores pueden debatir probablemente haya más incentivos para hacer las cosas correctamente.

En cualquier caso, no podemos cerrar los ojos y pensar que nada pasa (con inconvenientes y ventajas).

Por su parte Fortnow comenta como tuvo que aceptar la norma de no utilizar IA para una revisión que tuvo que hacer.

I reviewed a paper recently and I had to agree not to use AI in any aspect of the reviewing process.

Lo hizo, nos dice, pero se sintió raro: al final, sería como tener prohibido usar una calculadora para revisar los cálculos que puedan aparecer. También dice que los modelos gigantes de lenguaje (LLMs, Large Language Models) tienen sus inconvenientes, pero también sus ventajas.

So I didn't but it felt strange, like I wouldn't be able to use a calculator to check calculations in a paper. Large language models aren't perfect but they've gotten very good and while we shouldn't trust them to find issues in a paper, they are certainly worth listening to.

La idea sería que la IA no escriba la revisión completa, o eso es lo que parece que están tratando de evitar.

Las inteligencias artificiales van siendo cada vez más capaces y resuelven problemas, al menos los habituales y comunes. Nada que hacer (ni se espera mucho) en el caso de los problemas interesantes.

It solves all my old homework problems and cuts through purported P v NP proofs like butter. I've tried it on some of my favorite open problems where it doesn't make new progress but it doesn't create fake proofs and does a good job giving the state of the art, some of which I didn't even know about beforehand.

Podríamos decir que tenemos inteligencias artificiales del nivel de un estudiante universitario y, por lo tanto, deberíamos tratar sus respuestas de esta forma.

We now have AI at the level of new graduate students. We should treat them as such.

También habla de los problemas de privacidad, puesto que los artículos que revisamos no deberían ser accesibles para nadie más y con estos procedimientos podrían terminar siendo material de entrenamiento de las inteligencias artificiales. Esto podría llevar a la divulgación de información secreta, si se hacen las preguntas adecuadas.

We do have a privacy issue. Most papers under review are not for public consumption and if uploaded into a large-language model they could become training data and be revealed if someone asks a relevant question.

La recomendación que nos hace es, cuandos seamos los autores, pasar una revisión del artículo con una IA, pidiéndole una revisión crítica y sugerencias. ¿Llegaremos a tener que remitir artículos certificados por alguna IA?

If you are an author, have AI review your paper before you submit it. Make sure you ask AI to give you a critical review and make suggestions. Maybe in the future we'd required all submitted papers to be AI-certified.

Y la conclusión es que, por ahora, una revisión hecha solo por un humano, o solo por una IA es peor que si se hace conjuntamente pero, ¿quién sabe qué sucederá en el futuro?

For now, humans alone or AI alone is just not the best way to do conference reviews. For now when you do a review, working with an AI system as an assistant will lead to a stronger review. I suspect in the future, perhaps not that far, AI alone might do a better job.

Por mi parte, he revisado unos cuantos artículos en los últimos meses y todavía no me he atrevido a lanzarlos contra una IA (me puede la prevención de mandar a estas cosas el trabajo de otros) pero creo que, efectivamente, las IAs nos ayudan a realizar parte de nuestro trabajo (alguna prueba estoy haciendo en otros ámbitos) y podemos tener un asistente que no deberíamos despreciar.

Eso sí, como el texto que escribimos aquí es completamente manual, llevamos una temporada flojeando. Siempre que alguien me pregunta por tener una bitácora le digo que tiene que adaptarse a su forma de pensar, trabajar y también integrarse en sus rutinas. Esto último es lo que se me ha roto con los horarios que he tenido este curso y he perdido el ritmo que ya veremos si consigo recuperar.

En tecnolocuras hablando del blog

2025-03-26T16:00:00+00:00

Estoy viendo que llevo más de un mes sin escribir por aquí (En internet (casi) nadie te echará de menos.) pero es que mis horarios en esta primera parte del año son un poco raros y colisionan claramente con mis otras rutinas. A ver si retomamos la actividad, de momento con una intervención en casa de otros. Me (nos) escribió Henry, de tecnolocuras tratando de reproducir una idea que ha estado flotando por la blogosfera (aunque el formato era más de autoentrevista). En mi caso el resultado salió en #2 Conversaciones con blogueros: Fernando Tricas García y fue una buena oportunidad para reflexionar sobre esta actividad. Se pueden ver el resto en Entrevistas con blogueros donde seguramente podamos encontrar algún sitio nuevo para nuestro lector de RSS.

Por conservación del contenido, reproduzco aquí el texto:

El entrevistado es Fernando Tricas García, la persona detrás de https://elmundoesimperfecto.com

Entrevista
¿Qué te motivó a iniciar tu blog?

Yo era uno de los editores de un sitio de noticias y debates sobre software libre, que se llamaba BarraPunto. En algún momento se permitió a la gente tener su propia página con sus propios contenidos y lo llamamos las bitácoras. Poco después mi amigo Víctor Ruiz programó el sistema para publicar en Blogalia.com y allí empecé a tomarme más en serio lo de tener un blog. Ahora he pasado a un blog con mi propio dominio que es la continuación de ese (https://blog.elmundoesimperfecto.com/).

¿Cuáles consideras que son los principales desafíos a los que se enfrenta un bloguero en la actualidad?

Los desafíos no han cambiado mucho: encontrar tiempo y ganas de escribir en tu sitio con la frecuencia que se ajuste a ti. Es cierto que hubo algún momento en el que había mucha gente escribiendo y leyendo blogs y mucha de esa actividad pasó a las redes sociales pero eso no cambia demasiado la dinámica de un bloguero, salvo que su objetivo sea ser famoso o vivir de su sitio.

¿Cómo seleccionas los temas sobre los que escribes y cuál es tu proceso creativo?

Yo leo mucho, de temas variados, algunos por interés profesional y otros por interés personal. De esas lecturas guardo las que me parecen más interesantes (en realidad las guardo todas, soy un maniático de la conservación de información en digital; las que me motivan más las marco para escribir sobre ellas en algún momento). A veces son temas de actualidad (aunque nunca demasiada, el tiempo de comentar noticias del día y pasó) y otras veces temas más de fondo y de largo recorrido. Siempre (o casi) motivadas por la lectura de algo que ha llamado mi atención y donde creo que vale la pena señalar las ideas que me interesan. En algunas ocasiones, con algo de mi opinión personal.

¿Qué estrategias utilizas para captar a tu audiencia?

Soy bastante malo en eso. Tengo la impresión de que nadie (o muy poca gente) lee lo que escribo, pero creo que eso está bien. Ha sido una sorpresa agradable ver tu interés. Si después de tanto tiempo manteniendo una cierta regularidad no hay muchos lectores es porque seguramente no es tan interesante. En cualquier caso, mi motivación para escribir es guardar esas lecturas que llamaron mi atención, comentarlas y quién sabe si en el futuro volver a mirarlas. Lo importante para mi es el proceso: leo, selecciono, comento y es un círculo que se va realimentando.

¿Qué herramientas o plataformas consideras indispensables para la gestión de tu blog?

Un editor de texto (yo uso vim) y un sistema de gestión de versiones (ahora mismo estoy publicando fundamentalmente utilizando un generador de sitios estáticos, Jekyll, en GitHub pages). A la vez es muy importante para mi (aunque espero que no me suceda) tener la capacidad de reconstruir el sitio en otra parte (e incluso con una tecnología diferente) con poco esfuerzo. También considero indispensable el lector de RSS (utilizo feedly) para poder seguir un buen montón de fuentes de información; las redes sociales también me proporcionan enlaces a buenas lecturas en muchas ocasiones. Finalmente, utilizo Pocket para guardar los enlaces que quiero leer (raramente veo un enlace y lo leo, los guardo para leerlos más tarde) y un lector de tinta electrónica (ahora un Kobo, que me permite leer con comodidad lo que he guardado en Pocket).

¿Cómo manejas las críticas o comentarios negativos en tu blog?

Hace mucho tiempo que quité los comentarios del blog: no porque fueran negativos, sino porque fundamentalmente eran de spam. El tiempo invertido en rescatar los pocos comentarios interesantes no merecía la pena.

¿Has integrado alguna herramienta de inteligencia artificial en tu proceso de escritura? Si es así, ¿cómo la usas y qué impacto ha tenido en tu trabajo?

No. Estuve un tiempo generando un boletín de enlaces diario donde empecé a jugar con inteligencia artificial (antes del chatGPT) para clasificarlos y no descarto retomar el proyecto de nuevo cuando encuentre la herramienta adecuada (en aquel momento lo hacía con Revue, que la compró Twitter y luego la cerró).

¿Cómo crees que la inteligencia artificial afectará el futuro de los blogs y la creación de contenido en línea?

Ya les está afectando. Se ve en los sitios más comerciales cómo usan las inteligencias artificiales para generar textos, imágenes,... y en ese sentido seguimos con una tendencia ya consolidada de tratar de obtener el máximo beneficio con el mínimo esfuerzo. No me gusta mucho, pero nadie me obliga a leerlo, así que supongo que está bien para alguien y ya está. Para alguien que tiene un sitio personal, veremos herramientas que nos ayudarán en determinadas tareas y quién sabe cómo se integrará en nuestras rutinas. Yo no estoy cerrado en absoluto a añadir herramientas, pero de momento no he dedicado tiempo suficiente a pensar en ello.

¿De qué manera monetizas tu blog, si es el caso, y qué consejos darías a quienes buscan hacerlo?

No lo monetizo. Para mi el blog es una actividad que integro en mi vida profesional y personal sin más, y que no tenga monetización me da bastante libertad a la hora de escribir.

¿Cuál es el costo de mantener tu blog?

En este momento muy poquito: el coste del dominio y poco más (bueno, como siempre, hace falta un ordenador, leo en el kobo, la conexión a internet,...). Utilizo servicios gratuitos externos (GitHub Pages) y fácilmente reemplazables en caso de que dejen de serlo. Me seduce la idea de hacer una aproximación 'low cost' que cualquiera podría utilizar. Manteniendo, eso sí, un cierto control de los posibles daños en caso de que algún servicio gratuito deje de funcionar o empiece a tener coste.

¿Qué blogs o blogueros te inspiran y por qué?

Sigo un montón de sitios y presto atención a unos cuantos amigos de toda la vida: sin orden especial Consultoría artesana en la red (https://www.consultorartesano.com/), Torres Burriel (https://torresburriel.com/), entre los cercanos. También algunos como el de Simon Willison (https://simonwillison.net/); este además lleva un par de años de máxima actualidad por su apuesta divulgativa en temas de IA, o el linklog de Stephen Downes (https://www.downes.ca/); el de Jon Udell (https://blog.jonudell.net/). También algunos sitios de noticias como Slashdot (https://slashdot.org/), InfoQ (https://www.infoq.com/), OSNews (https://www.osnews.com/), o Hackaday (https://hackaday.com/), entre otros.
Esto es una selección apresurada y seguro que en un par de días veo en el lector de RSS alguno que no he dicho ahora.

¿Cómo ves el futuro del blogging en el mundo hispanohablante?

Afortunadamente, escribir un blog sigue siendo igual que siempre: sencillo, cómodo y accesible. En ese sentido seguirá habiendo personas que encuentren esta forma de publicar en internet adecuada y seguirá existiendo. No creo que de pronto vaya a convertirse en un medio de publicación para mucha gente, como sucedió hace unos años, aunque creo que no soy especialmente bueno pronosticando el futuro.

¿Qué consejo le darías a alguien que está pensando en crear su propio blog?

Que se lo tomen con calma, elijan alguna de las herramientas disponibles y prueben. Esto no es un matrimonio ni un contrato, así que si no les funciona, no hay problema. La calma la necesitarán porque es bastante probable que no tengan muchos lectores, así que más vale que les sirva a ellos para algo. Puede parecer pesimista, pero veintipico años después allí seguimos escribiendo, así que creo que tener un blog, e ir escribiendo me parece una buena idea.

En la 2ª Edición del Encuentro Ciberseguridad 360º

2025-02-11T16:00:00+00:00

Un nuevo éxito en #Ciberseguridad360º, esta vez en #Madrid. ¡Gracias por acompañarnos! 👏
🔒 Hemos reunido a grandes profesionales para compartir estrategias, buenas prácticas y experiencias sobre los desafíos de la #ciberseguridad. ¿Has estado?

¡Nos vemos en la próxima edición! pic.twitter.com/Xp1PJtmywC
— Sarenet (@Sarenet) February 11, 2025

Hace unas semanas me contactó un conocido de Sarenet para participar en 2ª Edición Encuentro Ciberseguridad 360º. Me pedían si podía hacer una pequeña panorámica históricas de lo sucedido en ciberseguridad. No soy historiador, así que mi aproximación es de aficionado, pero sí que me gusta traer y recordar historias para contextualizar lo que vamos viendo y tratar de aprender algunas lecciones, así que el otro día estuvimos por allí hablando un ratito del tema.

Empezamos hablando de cuando casi ni había internet y de cómo en los EEUU ya se preocupaban por la seguridad de los programas, y la ligaban a la complejidad, con los experimentos que ya hemos comentado alguna vez CHAPERON 1 y 2 (Penetrate, Exploit, Disrupt, Destroy: The Rise of Computer Network Operations as a Major Military Innovation).

Luego recordábamos a principios de siglo se hablaba de la complejidad de Linux frente a Windows, Windows vs Linux Server (versión archivada), Why Windows is less secure than Linux (versión archivada). Ya estaba a punto de dejar de usar esta información por obsoleta, pero el año pasado nos regalaron esta imagen que ‘revive’ la historia:

FreeCAD's build dependency graph in Debian, made using the `debtree` tool pic.twitter.com/hWP19AolUv
— Kurt WK (@thekurtwk) March 12, 2024

La complejidad es enemiga de la seguridad (y de más cosas), pero allí estamos.

A continuación recordamos el primer gusano, Morris Worm Tunnels Through Internet y cómo la causa era un desbordamiento de memoria (buffer overflow).

Pero si miramos la base de datos de vulnerabilidades, overflow CVE encontramos que es un fallo que sigue apareciendo con frecuencia (uno al día en diversos productos, desde principios de este año, por ejemplo), así que en esto tampoco hemos mejorado.

Luego recordamos aquellos años de virus, troyanos y otros programas maliciosos en general, con nombres como: CIH, Melissa, ILOVEYOU, Code Red, … y cómo dejaron de oirse estas cosas. Pero no es porque hubieran desaparecido, sino porque su creación se había profesionalizado y continuaron creándose, pero con efectos más discretos y más provechosos para sus creadores. De hecho, hay todo un mercado de compra venta de fallos de seguridad (los de día cero, esto es desconocidos para todo el mundo, los preferidos) y sitios para comprar y vender como Zerodium.

A continuación vino el caso de STUXNET y una de las primeras acciones de ciberguerra importantes, These Olympic Games Launched a New Era of Cyber Sabotage con nuevas lecciones aprendidas: da igual lo protegido que esté un sistema, siempre aparecen formas de introducir problemas (Dutch man sabotaged Iranian nuclear program without Dutch government’s knowledge: report una noticia del año pasado que lo devolvió por un momento a la actualidad).

Pero este caso es interesante porque una vez que se despliega una ‘solución’ de este tipo es muy difícil que sólo afecte a quienes motivaron la acción y pudimos ver cómo afectaba a otros, en W32.Stuxnet.

Esto nos da para pensar un poco:

¿Gobiernos como creadores de programas maliciosos?
Mercados de compra y venta de estos programas
Fallos de día cero utilizados en lugar de informar a los fabricantes
¿Los fallos para defender a tu gente, o para atacar a otros?

Acercándonos un poco en el tiempo recordamos el reciente caso del ataque The Solarwinds cyberattack’ donde se comparten algunas características con el anterior (tiempo dilatado de preparación, fallos de día cero, …) pero donde aparece una novedad que puede resultar muy peligrosa: en lugar de atacar a una empresa u organización atacan a sus proveedores. De esta manera pasan desapercibidos por los sistemas de defensa habituales y además el ataque se puede lanzar a mucha mayor escala. Tal y como nos mostraban en [PDF] Open Source Software Supply Chain Security - Why does it matter? fueron afectados incluso algunos organismos gubernamentales muy imporantes.

Con estos ataques, incluso aunque hagas bien las cosas en tu casa te puedes llevar la sorpresa a través de uno de tus proveedores. Les han dado el nombre de ataques a la cadena de suministro, y han provocado la aparición del Software Security in Supply Chains: Software Bill of Materials (SBOM), esto es, una descripción de las componentes que se incluyen con un programa informático, para poder conocer el problema si alguna de ellas tiene un problema de seguridad. En un país en el que, recordemos, no es obligatorio indicar en la etiqueta del agua embotellada los minerales que contiene (TRANSCRIPT The Bottle vs. Tap Battle Finale).

Para terminar con las historias y acercándonos todavía más en el tiempo hablamos del caso de los ataques a las personas de las que dependen algunos programas muy importantes para todo el mundo: What we know about the xz Utils backdoor that almost infected the world. Un desarrollador un poco cansado, que sigue manteniendo el programa porque lo ha hecho siempre. Pero, de pronto, se encuentra gente que le empieza a ayudar, luego a presionarle para que se eche a un lado y terminan infectando un producto que podría haber terminado en muchos sitios con efectos muy peligrosos.

Me gusta comentar siempre Why Was SolarWinds So Vulnerable to a Hack? It’s the economy, stupid sobre cómo algunos de estos problemas solo se arreglarán con regulación (bien aplicada y entendida) porque los incentivos están claramente en el lugar equivocado y no defienden a la gente. También, porque hace un par de años volvió a la actualidad, la [PDF] National Strategy to Secure Cyberspace (versión archivada) que promovió George Bush en 2003 y que Joe Biden relanzó/reformuló en 2023 [PDF] National Cybersecurity Strategy (versión archivada). Está por ver si el nuevo presidente hará algo en esta línea o no.

Para terminar, recordamos que la seguridad es un tema complicado porque te pueden dar un golpe por cualquier vía, como puso en evidencia el asunto de los buscas y Hezbollah el año pasado, What we know about the Hezbollah device explosions.

Me lo pasé bien preparando esta presentación, creo que a los asistes les interesó y aprovechamos para ver a viejos conocidos y, como siempre, conocer a nuevas personas. Ya que está preparada y ha alcanzado cierta madurez (diversos fragmentos se van contando a lo largo del tiempo en diversas versiones) estaré encontado de contársela a quien quiera.

Originalmente publicado en En la 2ª Edición del Encuentro Ciberseguridad 360º.

En la Jornada sobre Ciberseguridad en la era de la IA: retos y oportunidades

2025-01-24T16:00:00+00:00

👉 Hoy estamos en el espacio Xplora de @ibercaja, en Zaragoza, hablando sobre cómo la IA transforma la ciberseguridad, sus desafíos y ventajas estratégicas. pic.twitter.com/2KDSAt5QxD
— GFT España (@gft_es) January 22, 2025

Durante las vacaciones me contactó Milagros Jordán, de la consultora GFT para participar en la jornada que estaba organizando sobre Ciberseguridad en la era de la IA: retos y oportunidades.

Además de un servidor, participaba en la jornada:

Leandro Hermida, Director de Tecnología, Resiliencia Digital y Continuidad Ibercaja
Carlos Rubio Manero, Director de Arquitectura y Soluciones de Ciberseguridad en GFT
Maite Blasco, Delivery Executive Manager en GFT Consulting, Directora de la oficina de GFT Zaragoza y moderadora
Adrián Feliu Gonzalez, Responsable de Consultoría Cyber en Howden Iberia
Lorena Arcega Rodríguez, Directora del grado en Ingeniería de la Ciberseguridad en la Universidad San Jorge
Jordi Murgó, Especialista en Seguridad e IA en GFT
Eduvigis Ortiz, President & Founder Women4Cyber Spain / Cybersecurity AI Innovation Digital Leader

La idea era participar en una mesa redonda y aportar alguna opinión sobre estos temas.

La jornada se celebró el otro día y, como siempre, conocimos gente nueva, saludamos a gente conocida (me hizo especial ilusión encontrar estudiantes que terminaron y que ya están trabajando por ahí) y aprendimos algunas cosas.

Me preguntaron sobre las habilidades que deben adquirir los profesionales de la ciberseguridad para trabajar con la IA de forma efectiva.

Yo creo que en este momento los profesionales deben (debemos) probar, experimentar y, si se me permite, jugar con la tecnología para conocerla y familiarizarnos con ella. Pero también adaptarse a los compañeros (que los habrá muy aventajados y otros no tanto) y tratar de ayudarles para que desarrollen sus trabajos con la IA sin ser el freno (por aquello de la seguridad) pero tampoco que se hagan las cosas a lo loco y sin asumir riesgos innecesarios.

La pregunta se completaba con la forma en que los sistemas eduativos pueden integrar la IA y ciberseguridad en sus programas de formación.

Allí yo recordaba que vivimos en un entorno altamente regulado, donde los cambios son costosos y además continuamente hay novedades que nos ‘invitarían’ a estar cambiando continuamente los programas. Eso es poco realizable pero, sin embargo, sí que podemos utilizar esa información que tendremos gracias a nuestra exploración de la que hablábamos antes para compartirla con nuestros estudiantes de diversas formas (alguna clase, comenarios, discusiones, trabajos, …) y también con las empresas y quién nos lo pida.

Posteriormente me preguntaron sobre los ataques que pueden ser más dañinos de los que se pueden realizar con inteligencia articial.

Yo estoy muy preocupado, fundamentalmente, con dos cuestiones:

Alguien va a tener, en algún momento y en algún lugar la tentación de sacar a los humanos de la cadena de decisión y eso va a provocar algún desastre. Seguramente no serán empresas grandes, ni a lo mejor en nuestro contexto más cercano pero será bastante fácil que ocurra en alguna parte del mundo. Y que nos afecte.
La verdad. Vivimos en un mundo en el que la verdad ha dejado de ser importante para casi todos los que la defendían y en este momento es cada vez más fácil generar imágenes e incluso vídeos que nos pueden hacer creer cosas porque estamos habituados a interpretar esos formatos y darles credibilidad. Ante la ausencia de contraste, porque incluso los medios tradicionales se han lanzado a la guerra de publicar antes lo que sea, cada vez lo tenemos más difícil.

Quedó en el aire la pregunta de si la IA es aliada o enemiga y para mi es una pregunta que no es correcta del todo, porque da igual: la IA está aquí y va a ayudar a los malos y a los buenos. Por eso mismo no podemos esconder la cabeza debajo del ala y esperar a que vengan tiempos mejores, porque si hacemos eso lo que vendrán, seguramente, serán los problemas. Esto es especialmente relevante para muchas empresas pequeñas que se resisten a la tecnología sin darse cuenta de que el miedo les está colocando en una posición peor para competir contra aquellas otras que sí que utilizan (y sacan partido) la tecnología, con sus riesgos.

Publicado originalmente en En la Jornada sobre Ciberseguridad en la era de la IA: retos y oportunidades.

La información digital, la web y la permanencia

2025-01-15T16:00:00+00:00

No es que sea un fanático de mantener las webs a cualquier precio; de hecho el sitio anterior a este apenas tenía acceso desde Google y no pasaba nada. No sólo eso, estuvo caído varias semanas y la vida siguió. Pero eso no me impide asombrarme cuando muchas organizaciones e instituciones tienen tan poco aprecio por su página: miras el historial de actividades y no existe (utilizan la web para publicitar algo, pero lo borran cuando ya pasó, como si el rastro que dejaran les preocupara).

El tema de la persistencia del contenido web está siendo tratado últimamente y me dejó preocupado (aunque ya lo estaba) leer When Online Content Disappears que resumen un informe que ha elaborado la consultora Pew Research y que nos da unas cifras llamativas:

Una cuarta parte de las páginas que existían entre 2013 y 2023 ya no están disponibles.

A quarter of all webpages that existed at one point between 2013 and 2023 are no longer accessible, as of October 2023. In most cases, this is because an individual page was deleted or removed on an otherwise functional website.

Para contenido más antiguo, el porcentaje es peor, un 38%.

For older content, this trend is even starker. Some 38% of webpages that existed in 2013 are not available today, compared with 8% of pages that existed in 2023.

Un 23% de las páginas tienen, al menos, un enlace roto.

23% of news webpages contain at least one broken link, as do 21% of webpages from government sites.

El 54% de las páginas de Wikipedia contienen algún enlace en ‘Recursos’ que apunta a una página que ya no existe.

54% of Wikipedia pages contain at least one link in their “References” section that points to a page that no longer exists.

En las redes sociales la cosa no es mucho mejor:

Casi uno de cada cinco tuits ya no son visibles públicamente solo unos meses después de publicarse.

Nearly one-in-five tweets are no longer publicly visible on the site just months after being posted.

Algunos tipos de tuits desaparecen más rápido que otros (por ejemplo, más del 40% de los que están escritos en turco o árabe ya no son visibles tres meses después).

Certain types of tweets tend to go away more often than others. More than 40% of tweets written in Turkish or Arabic are no longer visible on the site within three months of being posted. And tweets from accounts with the default profile settings are especially likely to disappear from public view.

El texto proporciona algunos detalles más pero creo que los titulares ya nos hacemos una idea.

Yo entiendo que haya gente que tenga miedo a su pasado (no te pueden atacar por algo que no se puede encontrar en tu web, o en tus redes sociales) pero como sociedad vamos a tener un problema si el medio elegido de publicación es la web y lo que ponemos luego desaparece.

Es cierto, como dicen en How to disappear completely que a veces se trata simplemente de un cambio de dirección (URL).

This happens because pages are taken down, URLs are changed, and entire websites vanish, as in the case of dozens of scientific journals and all the critical research they contained.

Y me recuerda lo frívolas que son algunas organizaciones con estas cuestiones.

Como decíamos, esto es particularmente preoupante para organizaciones gubernamentales, bibliotecas, pero también revistas científicas… Si no guardamos recuerdo de algunas cuestiones estamos perdiendo algo que en el futuro puede ser valioso.

Historical content can be an incredibly informative resource, telling us how people lived and thought. But we must remember that it’s a small fraction of contemporaneous material that survives, even as we hope, of course, that it’s our own existence that is ultimately memorialized.

¿Deberíamos estar pensando mejor cómo archivar alguna información digital valiosa (o no tanto) en previsión de que sus creadores decidan eliminarla o la pierdan por cualquier motivo?

Aún iré más allá y es otro defectillo que tiene la información digital: si solo está en el sitio del proveedor puede que tenga la tentación de modificar cosas, cambiar versiones y que en su web empiecen a perderse ‘detalles’ que eran relevantes pero que por algún motivo no interesa preservar. ¿Estaremos viendo en los sitios de series y películas las versiones que hicieron sus autores o terminaremos teniendo esas versiones recortadas y adaptadas que eliminan los detalles que pueden perjudicar su difusión a públicos más amplios?

Algunas estadísticas y datos sobre chatGPT

2025-01-09T16:00:00+00:00

A mediados del año pasado se publicaban estos datos: ChatGPT Statistics 2024All the latest statistics about OpenAI’s chatbot que tal vez ya estén un poco anticuadas, pero creo que vale la pena guardar por aquí. Y tal vez me sirvan para otras cosas.

Consiguieron un millón de usuarios en la primera semana y en abril de 2024 se estima un número de visitas a la página web de 1800 millones (1.8 billion) con un número de usuarios activos estimado de 100 millones.
Está disponible en 163 países y donde no está es en China, Rusia, Ukrania, Bielorusia, Venezuela, Afganistán e Irán.
Funciona en inglés, pero parece que entiende cerca de 100 idiomas.
Está escrito en Python, aunque también es capaz de comprender otros lenguajes, entre los que se encuentran los más habituales.
De los 1000 sitios más importantes un 12% bloquea al bot que recorre la web buscando información.
El coste de su funcionamiento se estima en unos 700000 dólares al día. Corre sobre 3500 servidores en Azure y utiliza alrededor de 30000 GPUs (procesadores gráficos).
Alrededor del 70% de las personas han oido hablar de estos sistemas y solo un 30.7% los han probado.

Esto es solo una selección de datos que me han llamado la atención, hay muchos más en el artículo.

Manteniendo el jardín digital

2025-01-02T16:00:00+00:00

No me veo con fuerzas, aunque quién sabe. En Tending To My Digital Garden nos cuenta cómo dedica tiempo a echar un vistazo a algunas de las entradas viejas de su sitio y se asegura de que los enlaces funcionen y, al menos, apunte a algo relevante para lo que se decía.

I go in to old posts and check that the links are still pointing somewhere relevant.

A veces es un trabajo gozoso, nos dice, aunque también resulta frustratne ver cómo algunos enlaces valiosos han desaparecido. En todo caso, dice, es meditativo: todo cambia, evoluciona y aunque luchemos contra la decadencia, la entropía siempre gana.

Sometimes the work is delightful - finding a prescient post from a decade ago. Sometimes it is frustrating - being unable to find a vital-but-long-dead link. And sometimes it is sad - seeing how much or how little the world has changed. But, mostly, it is meditative. We do our best to fight against decay, but entropy always wins in the end. Every link eventually withers and every truth is eroded by time. Nevertheless, we continue. </blocquote> ¡Feliz 2025!

Esos viejos discos duros ya no tienen la información, ¿y ahora qué?

2024-12-23T16:00:00+00:00

Alguna vez hemos hablado de la preservación de la información y sus dinámicas. Mal llevadas en muchos casos porque descubrimos que son delicadas por las malas. Relacionado con esto, leíamos hace algunas semanas Music industry’s 1990s hard drives, like all HDDs, are dying.

Parece que la industria musical pasó la música de las cintas donde se almacenaba a discos duros y están envejeciendo mal.

One of the things enterprise storage and destruction company Iron Mountain does is handle the archiving of the media industry's vaults. What it has been seeing lately should be a wake-up call: roughly one-fifth of the hard disk drives dating to the 1990s it was sent are entirely unreadable.

Estos aparatitos no están pensados para almacenamiento de larga duración y sus componentes electrónicos también pueden fallar.

Standard hard drives were also not designed for long-term archival use. You can almost never decouple the magnetic disks from the reading hardware inside, so that if either fails, the whole drive dies.

La solución es la de siempre, supongo: estar atentos, observar, copiar a nuevos dispositivos cuando va pasando el tiempo…

The gist of it: You cannot trust any medium, so you copy important things over and over, into fresh storage.

Nada nuevo bajo el sol, pero es un buen aviso para las empresas y también para nuestros propios usos del almacenamiento.

So Iron Mountain's admonition to music companies is yet another warning about something we've already heard. But it's always good to get some new data about just how fragile a good archive really is.

Menos básicos de lo que pensamos: educación y pareja

2024-12-16T16:00:00+00:00

Otra que no vimos venir. En Online Dating Caused a Rise in US Income Inequality, Research Paper Shows nos dicen que el aumento de las citas en línea ha traído un aumento en la desigualdad de ingresos en los EEUU.

Este tipo de aplicaciones nos permiten elegir los criterios de nuestras posibles parejas, incluyendo la educación. A pesar de que tenemos fama de superficiales, resulta que lo que busca la gente es a otras personas parecidas a ellos. Y, nos dicen, esto tendría una parte de responsabilidad en el aumento de las diferencias de ingresos en los hogares.

Since the emergence of dating apps that allow people to look for a partner based on criteria including education, Americans have increasingly been marrying someone more like themselves. That accounts for about half of the rise in income inequality among households between 1980 and 2020, researchers from the Federal Reserve Banks of Dallas and St. Louis and Haverford College found.

La cuestión parece ser que la gente busca parejas con niveles educativos y de habilidades.

Who people marry has a major impact on household income. The research shows that the two main contributors to inequality through the selection of a future spouse are education and skills.

Luego les importan los ingresos, la edad y la raza parece que no es muy importante.

They are followed, to a much lesser extent, by income and age, while race plays a relatively inconsequential role,...

Lo miden con el denominado coeficiente de Gini y la diferencia observada es de un 3%. No sé si ese porcentaje justifica un informe y luego una entrada aquí, pero aquí queda.

¿Seguirá tu nuevo coche funcionando en unos años?

2024-12-02T16:00:00+00:00

Una buena razón para comprar aparatos (sobre todo si tienen que durar tiempo) de marcas conocidas y de una cierta trayectoria es que es posible que podamos estar más tranquilos sobre su permanencia y, por lo tanto, que lo que hayamos comprado siga teniendo posibilidades de mantenimiento, reparación … En When EV startups shut down, will their cars still work? nos hablan de algunos fabricantes de coches chinos que están dejando de enviar actualizaciones porque la empresa deja de existir. Si lo pensamos, la mayor parte del vehículo sigue allí, con nosotros, y en caso de avería algún mecánico nos podrá echar una mano pero… ¿qué sucede con los programas, las pantallas y las aplicaciones para el teléfono? Porque, como dicen continuamente en el artículo, los coches se están convirtiendo en teléfonos inteligentes con ruedas.

When one of China’s once-popular electric vehicle startups went bust, car owners encountered an unexpected problem: Their vehicles went “offline.”

Las molestias pueden ir desde no poder gestionar el aire acondicionado, la apertura desde tu teléfono, o ver los kilómetros, el estado de carga…:

... discovered that he could no longer log into WM Motor’s smartphone app, which remotely controlled the car lock and air conditioner. He also couldn’t see his car’s mileage and charging status on the dashboard.

También que el sistema de sonido deje de funcionar:

Other WM Motor owners reported that the smartphone app was unusable, and the built-in car stereo, which required an internet connection, had stopped working.

Pero quién sabe qué puede suceder con la máxima integración de los sistemas, las nubes y las acciones de los fabricantes.

... the fact that many electric cars rely on cloud services — from smartphone controls to software updates — has raised concerns about the long-term serviceability of the vehicles.

Esto siempre se puede atacar desde el punto de vista de la regulación, aunque ya sabemos que los fabricantes normalmente tienen mucha mayor capacidad de influencia que los consumidores.

China’s automobile regulations say car manufacturers must ensure the supply of hardware parts and after-sales service for at least 10 years following a model’s discontinuation.

Pero en una industria vieja (aunque las marcas y fabricantes sean nuevas) siempre hay aspectos a los que se da menos importancia, como son las actualizaciones de los programas. Tampoco ayuda que estos tienen licencias privativas, lo que impide que terceros puedan dar ese servicio cuando el proveedor no responda adecuadamente, ni que en muchos casos los servicios dependan de conexiones a servicios de internet, que también requieren su mantenimiento. Esas regulaciones deberían contemplar estos nuevos sistemas y las formas de garantizar su supervivencia, aunque el fabricante deje de prestarles atención.

EVs, however, are far more dependent on advanced software, which is not explicitly covered by China’s after-sales support requirement. Proprietary software is often used for features like charging, remote access, door keys, and even in-car entertainment. They’re also often connected to internet-based services that are reliant on the carmaker’s cloud servers.

En realidad, es posible que eso también pase con otras empresas (¿alguien tiene un teléfono móvil de alguna de las reconocidas que ya no recibe actualizaciones?) y las de automóviles hasta ahora se han ido librando, probablemente porque han sido muy conservadoras en lo que incluían en sus coches (y seguro que alguien tiene algún GPS o algún sistema de entretenimiento en un coche de hace unos años que se ha quedado completamente obsoleto).

Luego podríamos hablar de la seguridad de esos dispositivos, claro (Los vehículos, los nuevos servicios y los mismos fallos de siempre).

Juan Palomo algorítmico

2024-11-18T16:00:00+00:00

En Man Arrested for Creating Fake Bands With AI, Then Making $10 Million by Listening to Their Songs With Bots nos hablaban de un Juan Palomo algorítmico.

El autor de la estafa creaba cientos de canciones en servicios de música en línea utilizando inteligencia artificial; posteriormente, lanzaba un ejército de bots a ‘escucharlas’, lo que se convertía en jugosas ganancias.

An alleged scammer has been arrested under suspicion that he used AI to create a wild number of fake bands — and fake music to go with them — and faking untold streams with more bots to earn millions in ill-gotten revenue.

En realidad parece que la generación de canciones las contrataba a otra empresa, con nombres como: “n_7a2b2d74-1621-4385-895d-b1e4af78d860.mp3,”

The songs that the AI CEO provided to Smith originally had file names full of randomized numbers and letters such as “n_7a2b2d74-1621-4385-895d-b1e4af78d860.mp3,” the DOJ noted in its detailed press release.

Después, el autor les cambiaba el nombre por otros más ‘civilizados’ (aunque no demasiado): “Zygotes,” “Zygotic” y “Zyme Bedewing”.

When uploading them to streaming platforms, including Amazon Music, Apple Music, Spotify, and YouTube Music, the man would then change the songs’ names to words like “Zygotes,” “Zygotic,” and “Zyme Bedewing,” whatever that is.

También creaba grupos para esas canciones con nombres como: “Calvin Mann”, “Calorie Event”, “Calms Scorching”, y “Calypso Xored.

The artist naming convention also followed a somewhat similar pattern, with names ranging from the normal-sounding “Calvin Mann” to head-scratchers like “Calorie Event,” “Calms Scorching,” and “Calypso Xored.”

Finalmente, sus propios bots se ocupaban de solicitarlas en las tiendas.

En las Mesas de Debate AICAR ADICAE sobre ciberseguridad

2024-11-14T16:00:00+00:00

Antes del verano me contactaron desde AICAR-ADICAE para grabar una mesa redonda que se emitiría posteriormente a través de diversos canales. Grabamos en septiembre y ahora se han publicado y el resultado puede verse en:

Además, está disponible para escucharlo (nuestras caras son lo que son, seamos realistas) en:

(Creo que nunca había grabado nada que haya salido en Spotify, pero no estoy seguro)

También en:

Además nos pidieron un texto, que han publicado en su web: Claves de ciberseguridad para los consumidores y que transcribo a continuidad por archivado personal. Me costó un poco porque no tenía muy claro como enfocarlo, espero que sea de utilidad para alguien.

Parece como si en los últimos años hubieran aumentado los problemas de seguridad en internet: cada día escuchamos sobre nuevas y viejas amenazas, en algunos casos incluso afectando a personas cercanas. En esta nota vamos a hablar un poco de algunas de ellas y qué medidas podemos adoptar para vivir más tranquilos. Aunque en algunos casos no podemos hacer gran cosa, sobre otras tenemos más posibilidades y, desde luego, dedicar atención a estos asuntos va a mejorar nuestra situación sin ninguna duda. Vamos a tratar de aportar algunas ideas desde aquí.

La primera recomendación es la que haríamos con cualquier otra tecnología (más o menos avanzada) que tengamos a nuestra disposición: siempre vale la pena aprender a manejar las herramientas, comprender lo que está sucediendo y poder tomar decisiones adecuadas para nuestras necesidades. Y en caso de duda, preguntar a personas que nos puedan ayudar.

Internet nos ha traído unas posibilidades que eran impensables para nosotros: acceso a información de cualquier parte del mundo, desde la comodidad de nuestro hogar y con un coste bastante económico. Sin embargo, muchas veces tratamos de acceder solo a los beneficios, sin tener en cuenta los costes. Igual que sucede en cualquier circunstancia de nuestras vidas, estar seguros al 100% es un objetivo inalcanzable; sin embargo, mejorar nuestra seguridad puede ser una tarea abordable para cualquiera.

Normalmente todo sucede a gran velocidad, lo que probablemente sea uno de los primeros problemas: muchas veces recibimos mensajes, e indicaciones que nos fuerzan a actuar con rapidez (cuando no directamente con presión, con amenazas más o menos preocupantes). Este tipo de ataques tratan de aprovechar el comportamiento de las personas, siempre dispuestas a ayudar, resolver problemas o a responder ante estímulos alarmantes. Cuando un mensaje de este tipo nos pilla con la guardia baja, si reaccionamos rápido puede ser que actuemos con menos cuidado del debido.

En los dos últimos años la estrella está siendo la inteligencia artificial: tenemos acceso a herramientas capaces de manipulaciones impresionantes y, en particular, muy orientadas al manejo del lenguaje. Con estas inteligencias artificiales se realizan ataques mejores y más convincentes: esos mensajes que nos llegan tratando de que realicemos ciertas acciones están cada vez mejor escritos y no tienen erratas que nos permitan desconfiar de su contenido; también hay inteligencias artificiales protegiéndonos para que estos mensajes no nos lleguen. No obstante, la recomendación sigue siendo la misma de siempre: si es demasiado bueno para ser verdad, o demasiado malo para provocarnos alguna preocupación, siempre nos queda el recurso de tratar de mantener la calma y utilizar algunas estrategias:

- Copiar el texto del mensaje (o una parte) en nuestro buscador favorito y ver si alguien puede aportarnos información sobre el asunto.

- Preguntar a los supuestos remitentes; eso sí, tal vez por canales más tradicionales y no como respuesta a lo que recibimos; esto es, podemos llamar, por ejemplo, a nuestro banco, o al servicio de atención al cliente para ver si lo que estamos viendo es legítimo. O hacerles una visita.

- Preguntar a otros para que nos puedan aportar su perspectiva y conocimiento.

- Llamar a los teléfonos de ayuda que existen para estos casos (el Instituto Nacional de Ciberseguridad, INCIBE, tiene un teléfono desde hace algún tiempo de atención al público donde nos pueden ayudar y dar consejos; es el 017).

- Dejar pasar el tiempo (casi nada es tan urgente como nos quieren hacer creer los mensajes amenazantes que recibimos y es posible que mientras esperamos podamos informarnos mejor).

Vemos de vez en cuando noticias de robos de información a diversas empresas; entre la información robada puede estar la de sus clientes, y eso puede ser un problema para nosotros. Aunque no podemos hacer nada directamente contra esto, sí que podemos tratar de ser más precavidos con nuestros datos: cuando nuestros proveedores nos piden una cantidad excesiva de información personal podemos intentar asegurarnos de que si se los roban no estaremos demasiado comprometidos:

- Preguntarnos si cada dato que nos piden es necesario: hay que tener en cuenta que algunos son fáciles de sustituir en caso de que se vean comprometidos (podemos solicitar una nueva tarjeta al banco, por ejemplo), pero otros no lo son tanto (no podemos cambiar la dirección donde vivimos). En caso de que no lo sea podemos poner alguno menos comprometedor, como, por ejemplo, la dirección del trabajo.

- Evaluar el uso de direcciones alternativas para recibir los bienes, en caso de que se trate de un envío. Por ejemplo, los puntos de entrega que muchas agencias de mensajería tienen, de forma que no desvelaremos nuestra dirección.

- Tratar de elegir a proveedores que soliciten menos datos.

Finalmente, cuando queramos adquirir bienes diversos (tiendas de internet) será buena idea prestar atención a dónde lo hacemos:

- Buscar reseñas del sitio en cuestión. ¿Hay otros clientes hablando del sitio? ¿Parecen satisfactorias sus experiencias?

- Opiniones de otros usuarios. ¿Conocemos a alguien que haya utilizado el servicio? ¿Existen comparativas con otros comercios similares?

- Revisar las condiciones del servicio ofrecido. Estos sitios tienen leyes y regulaciones que deben cumplir, pero, además, debería ser sencillo encontrar esta información, y todo lo que leamos debería ayudarnos a comprender mejor los procesos, los costes, plazos, así como toda la información que nos ayude a mejorar nuestra confianza en el sitio.

En definitiva, cuando utilizamos tecnología (igual que cuando no la utilizamos): asegurarnos de que lo que se nos propone es razonable, invertir tiempo en hacer comprobaciones que nos satisfagan, preguntar, tratar de estar al día y pensar que no sucede nada si lo que estamos tratando de conseguir nos cuesta un poco más de tiempo, que es el que estamos invirtiendo en tranquilidad.

Fernando Tricas, Doctor Ingeniero en Informática y Profesor Titular en el Departamento de Informática e Ingeniería de Sistemas de la Universidad de Zaragoza

Entrada publicada originalmente en En las Mesas de Debate AICAR ADICAE sobre ciberseguridad.

El correo como sistema de acceso sin contraseña

2024-11-11T16:00:00+00:00

Hace tiempo que en algunos sitios a los que no damos mucha importancia, o que no usamos demasiado no nos aprendemos las contraseñas, ni tampoco las apuntamos, ni usamos ‘la de siempre’ (que es algo que no deberíamos hacer). De eso nos hablaban en The “email is authentication” pattern

1. Get to a login page 2. Click “I forgot my password” 3. Go to their email 4. Click the recovery link 5. Type a throwaway password they won’t retain 6. Rinse, and repeat

El autor se pregunta, ¿cómo es que la gente ha llegado a ese patrón de uso?

How do you decide that using “I forgot my password” as authentication makes sense to you? Or more specifically, the most sense to you, out of all possible options?

Y llega a la conclusión de que no es una decisión, sino una consecuencia de los usos y costumbres.

I think people can’t answer why they do this because it’s not a concious decision. [...] Instead, this is a process that has coalesced over time and become rote. It offers a guaranteed, repeatable, low-effort solution (of sorts) to passphrases they don’t need to think about (there’s those brackets again).

Desde mi punto de vista también es una línea de mínimo esfuerzo: intento conectarme con la que creo que puede ser la contraseña, no lo consigo (porque no era, o porque la tecleé mal) y me cuesta menos esfuerzo reinicilizarla.

Se pregunta si no deberíamos diseñar sistemas pensando en ello.

What if we could somehow design systems so that the people who use them evolve to use them in better ways?

Pero lo cierto es que ya es así: no será la primera vez que Discord, o Slack (y alguna otra) que nos mandan directamente un enlace, en lugar de preguntarnos la contraseña. Tiene todo el sentido (salvo cuando tenemos dificultades con el correo y no podemos recibirlo adecuadamente, que también pasa). De hecho, cuando nos enfrentamos a algún sistema más ‘creativo’ donde lo de recuperar contraseña no es tan sencillo, la operación se convierte en un auténtico problema. El otro día me pasaba en un sitio de estos que para mi tienen poco valor, pero que ellos creen que tienen que proteger como si fueran las joyas de la corona:

Esto es loquísimo. Contraseña -> autoriza desde el móvil (otra vez contraseña) -> Introduce otro código -> no lo recuerdo -> SMS...
— fernand0 (@fernand0) October 31, 2024

Cuidado porque, a veces, esas contraseñas son las más importantes (no la del ejemplo), pero son de poco uso y en momentos muy concretos, así que más vale que sea fácil acceder. También me pasa, a veces, con sistemas que añaden restricciones adicionales a las contraseñas (que ya sabemos que producen contraseñas menos seguras, Why Enforced Password Complexity Is Worse for Security (and What to Do About It), pero eso es otra batalla).

No puedo asistir a la reunión, mi asistente lo hará por mi

2024-11-07T16:00:00+00:00

Después del amplio fracaso de la web, a veces por no comparecencia (Abundancia de información, difusión, y granularidad), otras por no participar más allá de mostrar lo nuestro y ya (El enlace, la atribución y el flujo de información) y, probablemente la peor, la contaminación (Las búsquedas y la contaminación de la web, ¡volvió Blogalia!) tengo algo de fe (moderada, porque los desengaños van sumándose uno tras otro) en los agentes personales (robots que hacen cosas por nosotros y nos traen la información que necesitamos) que, tal vez, sean capaces de eliminar la basura que se nos ofrece.

Pero claro, también aparecerán otros usos que igual no nos gustan tanto. en I’m Unable to Attend, But I’ll send my AI Bot podemos ver cómo nos cuentan un caso de uso (no en la web) en el que podemos sentir simpatía o antipatía dependiendo del lado en que estemos a la hora de convocar una reunión: por un lado, esas que pensamos que podrían haber sido un correo o un documento explicativo; por el otro, esas donde sentimos que la presencia es muy importante para entender bien lo que estamos hablando.

Parece que ya hay productos que permiten enviar a nuestro robot a la reunión, que tome notas por nosotros, haga un resumen y nos lo facilite.

Recently, I attended an online meeting where two persons did not turn up but sent their AI note-taker bots instead.

La cosa es que allí se discutió sobre el tema y se denegó esta forma de participación.

Me parece interesante disponer de herramientas como estas y ya digo que podemos encontrarnos en la situación de estar encantados con disponer de un buen ayudante (aunque tal vez debería haber ayudado al convocante a redactar un resumen que hubiera remitido y ya) que nos permita cosas como estas. Además, resumir es un arte que no todo el mundo hace (hacemos) bien.

Se añaden, dice, otros factores, como las regulaciones (¿grabar lo que se dice?), la comodidad que pueden sentir los participantes…. No me importaría probar uno para la próxima vez que alguien se empeñe en convocarnos a una reunión (o ‘sesión informativa’) y ver cómo toma notas, resumen y presenta algo que pueda ser de utilidad.

Yo en las reuniones soy muy de tomar notas y hacer dibujitos. Pero muchas veces más por aburrimiento que por efectividad y eficacia real porque … ¿quién convierte luego en legibles unas notas tomadas rápido y mal mientras alguien cuenta algo?

En ENISE, moderando una mesa sobre ciberseguridad

2024-10-23T16:00:00+00:00

¿Cómo pueden las nuevas #tecnologías mejorar la gestión de #incidentes?

👉 @INCIBE, @guardiacivil, @policia, @tecnalia y @unizar abordan #estrategias innovadoras para reaccionar con rapidez y eficacia ante #ciberataques 🔧.

🖥️ https://t.co/Vi3mmuu3r7 #18ENISE pic.twitter.com/vqowGx56Fm
— INCIBE (@INCIBE) October 23, 2024

Este año tuve la suerte de poder acudir al ENISE (ENcuentro Internacional de SEguridad de la información), organizado por el INCIBE (Instituto Nacional de Ciberseguridad), que se celebró en León los días 21, 22 y 23 de octubre.

Pude moderar una mesa redonda, con el título “Nuevas tecnologías y estrategias al servicio de la gestión de incidentes de ciberseguridad” acompañado de:

Erkuden Rios, Directora de proyectos / TECNALIA
Patricia Alonso, Gerente / INCIBE-CERT
Santiago González, Jefe de la Oficina Técnica (Cuerpo Nacional de Policía-GPO- Plan director de Seguridad) / Ministerio del Interior- Dirección General de Policía
Juan Salom, Coronel Jefe de la Unidad de Coordinación de Ciberseguridad de la Guardia Civil / Guardia Civil

Nunca había estado en este encuentro y fue una buena oportunidad para conocerlo, saludar a algunos conocidos y hacer una pequeña visita que tuvieron la amabilidad de organizar al INCIBE. También, claro, dar una vuelta por la ciudad un probar un poco la gastronomía (funtamentalmente tapas).

No había mucho tiempo así que nos concentramos, fundamentalmente estas preguntas:

Una toma de posición inicial de cada una de las personas que había (se habló de IA, pero también de otras tecnologías y la preocupación de cómo muchos ciberataques ni siquiera se denuncian).
Hablamos un poquito del uso de la IA en los distintos negociados de los participantes
Introdujimos el tema de usar nuevas tecnologías para detectar ataques, e incluso en el análisis posterior, cuando ya se ha pasado el problema, pero… ¿sería adecuado experimentar cuando estamos en pleno incidente?
¿Qué otras tecnologías puede haber por debajo del radar en este momento que pueden ser peligrosas en el futuro?

Muy interesante, a pesar de no disponer de mucho tiempo.

Se puede ver la mesa en (a partir de las 3 horas y 15 minutos, aproximadamente):

Es un encuentro muy bien organizado, con traducción simultánea, también para personas con dificultades auditivas. Un verdadero placer.

Además tuve la suerte de encontrarme con que se hacía un homenaje a uno de mis primeros profesores en la Universidad, Santos González Jiménez, que fue profesor en la Universidad de Zaragoza antes de marcharse a Oviedo, y que se ha dedicado a diversos temas sobre la criptografía. Pude saludarle y recordar aquellos tiempos cuando todo empezaba.

🎓🎓el miércoles vivimos un día muy emotivo durante el #18ENISE de INCIBE. Se rindió un merecido homenaje al profesor emérito santos Gonzalez jimenez, director de nuestra Cátedra.
Felix Barrio , D.G. @INCIBE Ensalzó su figura tanto profesional como personal del profesor. pic.twitter.com/nRgQ6O09H5
— Cristina Caldueño (@criscaldueno) October 25, 2024

Esta entrada se publicó en primer lugar en En ENISE, moderando una mesa sobre ciberseguridad

En el día mundial del cifrado con los Cibervoluntarios

2024-10-21T16:00:00+00:00

Hace un par de semanas me contactó Oscar Espiritusanto al que conozco desde hace unos cuantos años y que participa en la ONG Cibervoluntarios. Me contó que llevaban unos años celebrando el World Encryption Day y que este año habían pensado en mi para la sesión.

La actividad se celebró el lunes 21 de octubre a las 16:30 (el anuncio en la web de la actividad: Encryption: key resource to empower people y estuvimos un rato bien agradable charlando de estos temas.

Se puede ver el resultado (dura casi una hora) en:

Hablamos de qué es la criptografía, los sistemas más conocidos (clave secreta, clave pública) y por qué es importante que las comunicaciones sean secretas aunque no tengamos nada que esconder. También cómo debilitar esa seguridad con el objetivo de capturar a pesonas que tienen comportamientos inadecuados es una medida poco efectiva:

Porque no garantiza que vayan a encontrarlas y detenerlas (estas personas ya se saltan la ley, no tendrían problemas en saltársela para conseguir mejores sistemas de protección de sus comunicaciones).
Aunque fueran capaces de leer absolutantemente todos los mensajes que se emitieran, necesitarían algún tipo de sistema automatizado para detectar los mensajes peligrosos y eso, en sí mismo, ya sería una tarea difícil.
Dejar desprotegidos a los ciudadanos puede tener consecuencias para algunos de ellos que son especialmente susceptibles de ser atacados y espiados por diversos motivos.
Si alguien que no sea el gobierno (o la policía) tiene acceso a esas herramientas de acceso a la información cifrada con mecanismos más débiles puede provocar problemas a la gente.

Óscar comparaba la necesidad del cifrado con la de la salud, que solo nos damos cuenta cuando nos falta. En el caso del cifrado, añadíamos, hablaríamos de la salud en términos de enfermedades crónicas (una gripe se pasa, pero una vez que nuestra seguridad ha sido comprometida ya no hay vuelta atrás).

Esta entrada se publicó originalmente en En el día mundial del cifrado con los Cibervoluntarios

¿Están sesgadas las discusiones sobre los sesgos de las inteligencias artificiales?

2024-10-14T09:00:00+00:00

No tengo ninguna duda sobre que las discusiones sobre los sesgos de las inteligencias artificiales están muy sesgadas en nuestro contexto. Es una herencia de ese sentimiento anti-tecnología que rodea todas las discusiones y que, aquí encuentra argumentos con facilidad. Me esperaba, sin embargo, algo menos en el contexto global y Donald Clark nos recuerda que no es así en What if discussions of bias in AI were mostly biased themselves?.

Habla de los típicos argumentos que ya casi son un meme, como la inteligencia artificial que confunde a una persona negra con un gorila, y otros…

You also hear the same very old examples being brought up time and time again: black face/gorilla, recruitment and reoffender software.

Luego pasa a analizar algunas de las críticas habituales, y por qué podrían ser poco útiles:

Razonamientos que implican sólo los aspectos negativos. Pero todas las tecnologías (y lo que no es) tienen aspectos negativos y, en este caso, en lugar de analizar lo positivo y lo negativo se quedan en los aspectos menos convenientes.

The main bias in debates on bias is a form of one-sidedness in the analysis. Most technology has a downside. ... Rather than tease out the complexity, even comparing upsides with downsides, we are given the downsides only.

Razonamientos antropomórficos. Se basan muchas veces en ver los posibles efectos de la tecnología, visualizándolos como robots malignos, o acciones que podemos comprender mejor que la propia naturaleza de los algoritmos que realmente se utilizan.

So crude images of robots enter the mind as characterising AI, or fixed databases where data is retrieved, as opposed to complex LLMs, vector databases or software or mathematics, which is not, for most, easy to call to mind or visualise.

Razonamientos que ignoran los propios sesgos humanos. Las personas tenemos nuestros propios sesgos (género, educación, economía, …) lo que hace que muchas veces ni siquiera seamos capaces de ver el problema de manera desapasionada (sesgo de confirmación, negatividad, …)

One layer of human bias heavily influences the bias debate. Rather than look at the issue dispassionately we get well identified neophobia biases; ... This is common in financial decision making and, especially, new technology.

Razonamientos que asumen que todas las inteligencias artificiales tienen sesgos. Pero todos conocemos algoritmos sin sesgos (ordenar una lista, por ejemplo) y eso sucede con la mayoría. No sólo eso, mejoran la velocidad, efectividad….

The point is that most algorithms are benign, doing a mechanical job and free from bias. They can improve performance in terms of strength, precision and performance over time...

Razonamientos que combinan los sesgos humano y estadístico. No hay que olvidar que hablamos de programas, que no tienen consciencia no conocimiento de cuál es su objetivo y por lo tanto no pueden tener sesgo en el sentido en el que lo tienen las personas. La definición de sesgo estadístico tiene que ver con medir la diferencia entre ‘lo esperado’ y ‘lo que se obtiene’ y, en este sentido, nos permite medir, comprobar y tratar de eliminar el problema. Sin embargo, el sesgo humano muchas veces ni siquiera se mide.

Al is not conscious or aware of its purpose. It is just software, and as such, is not ‘biased’ in the way we attribute that word to ‘humans’. ... There is a definition of ‘bias’ in statistics, which is not a pejorative term, but precisely defined as the difference between an expected value and the true value of a parameter. ... The statistical approach at least recognises these biases and adopts scientific and mathematical methods to try to eliminate these biases. ... This is a key point – human bias often goes unchecked, statistical and mathematical bias is subjected to rigorous checks.

Barandillas. Las barandillas (guardrails) son una intervención humana, igual que los re-entrenamientos (post-model training) que tratan de mejorar los resultados, pero que pueden introducir sus propios problemas por los sesgos de los humanos.

Guardrails are human interventions, along with post-model training by humans. These introduce problems with bias introduced by humans.

Acusaciones de racismo. Las inteligencias artificiales son un fenómeno global, no están confinadas al mundo occidental. Incluso en Silicon Valey (el Valle de la Silicona, como decían en aquella traducción de la películas de James Bond) hay una cierta diversidad. ¿No estaremos exagerando sobre la maldad de estas empresas? Eso no quiere decir, claro, que no ocurra en algunos casos.

AI is a global phenomenon, not confined to the western world. Even in Silicon Valley the presence of Chinese, Asian and Indian programmers is so prevalent that they feature in every sitcom on the subject. In addition, the idea that these coders are unconsciously, or worse, consciously creating racist and sexist algorithms is an exaggeration.

Acusaciones de sexismo. En este caso, nos dicen, el sesgo está claramente en la parte de las personas (educación, y sus resultados).

There seems to be bias in the educational system among parents, teachers and others to steer girls away from STEM subjects and computer studies. But the idea that all algorithms are gender-biased is naïve. If such bias does arise one can work to eliminate the bias. Eliminating human gender bias is much more difficult.

Inteligencia artificial y transparencia. Se habla mucho de la transparencia en los algoritmos de inteligencia artificial, pero mucho menos de otros algoritmos y todavía menos en los resultados de otras disciplinas (cita la medicina, y como algunos medicamentos sabemos que funcionan pero no tenemos claro del todo por qué; y aún así los utilizamos, claro).

A common observation in contemporary AI is that its inner workings are opaque, especially machine learning using neural networks. But compare this to another social good – medicine. We know it works but we don’t know how. As Jon Clardy, a professor of biological chemistry and molecular pharmacology at Harvard Medical School says, "the idea that drugs are the result of a clean, logical search for molecules that work is a ‘fairytale'”. Many drugs work but we have no idea why they work. Medicine tends to throw possible solutions at problems, then observe if it works or not.

Confundir lanzamientos tempranos y pruebas con los productos finales. La clave, nos dice, es que esos algoritmos no tienen consciencia ni conocimiento así que cometerán errores que pueden corregirse en sucesivas iteraciones.

The good news is that repeated failure results in improvement in machine learning, reinforcement learning, adversarial techniques and so on. It is often absolutely necessary to learn from mistakes to make progress. We need to applaud failure, not jump on the bias bandwagon.

Podemos decir que algo funciona mal, ponerle mala fama y evitar utilizarlo, pero eso no evitará que otras personas lo utilicen, corrijan sus sesgos y tomen decisiones sobre ello mientras nosotros lo criticamos y decimos que no sirve.

En el foro 'Claves Para Entender El Nuevo Mercado Laboral'

2024-10-07T09:00:00+00:00

Hace unas semanas me invitaron desde la Cámara de Comercio de Zaragoza a moderar una sesión sobre el sector tecnológico del Foro: ‘Claves Para Entender El Nuevo Mercado Laboral’, junto con Pilar Fernández de la Cámara y Mertixell Laborda de Océano Atlántico. El encuentro se celebró el dia 10 de septiembre en la recién rehabilitada sede de la Cámara de Comercio de Zaragoza.

Participaban personas muy interesantes, algunas de ellas viejas conocidas (incluso ex-alumnos) y otras con las que no había tenido la suerte de coincidir:

Víctor Alfaro, Director General de Podoactiva.
Santiago Sánchez, Socio Fundador de Origen Biotech.
Ruth Lázaro Torres, Directora de Taisi.
FernandO Cabeza, CEO de Océano Atlántico.
Félix Gil, CEO de Integra Tecnología.
Emilio Gomáriz, General Manager de Global Spedition.
Enrique Villaverde, Director General y Socio Fundador Megablok.
Ángel Pardillos, Director of Talent Strategy de Hiberus Tecnología.

Eran empresas muy variadas, desde tecnológicas puras a otras para las que su enfoque es la producción pura. Familiares, empresas con fines sociales, … Dedicándose a logística, alimentación, informática, servicios…

A mi me llamaba la atención cómo algunas empresas no se consideran tecnológicas a pesar de que su negocio depende fuertemente de las herramientas (y no me refiero solo a la gestión) y que en muchos casos la tecnología puede hacer que seamos diferenciales con respecto a nuestra competencia.

Surgió la necesidad de captar estos perfiles, para todo tipo de empresas (pero tal vez para las que no se dedican a la tecnología un poco más), se habló de los perfiles, la formación (que tiene sus propias dificultades) y un poquito de la llegada de la inteligencia artificial y cómo puede afectarnos.

La web de Foro ‘Claves Para Entender El Nuevo Mercado Laboral’ que ha tenido tres encuentros contiene algunos vídeos a modo de resumen. Se puede leer también el [PDF] documento del tercer foro, en el que participamos, y un poco de información (y fotografías) en Los desafíos TIC en la empresa: talento, irrupción tecnológica y nuevas dinámicas

Durante la sesión hice un pequeño juego (no hubo mucho tiempo para preparar la sesión) al hacer la presentación de las presonas y de sus empresas a través de lo que veía en su página web. Queda como ejercicio para el lector sacar sus propias impresiones.

Historia publicada originalmente en En el foro ‘Claves Para Entender El Nuevo Mercado Laboral’

El enlace, la atribución y el flujo de información

2024-10-07T09:00:00+00:00

Este sitio se basa, casi exclusivamente, en comentarios sobre diversas notas que voy encontrando por la red. En estos casos siempre, sin excusa, hay un (o más) enlaces a lo que originó la publicación así que me gusta mucho traer Why I Attribute donde Stephen Downes nos da sus razones para hacerlo.

Una de las claves es que cuando hay atribución se puede ver no sólo el comentario de la persona que estamos leyendo, sino también los de las personas referenciadas, si el tema nos interesa lo suficiente.

By the time it got to you, you had not only the original story but also some interpretations or perspectives on that story.

También se muestra un cierto apoyo: no significa que estemos de acuerdo con lo que se pueda comentar en los otros sitios, pero al menos la historia ha interesado a una serie de personas y no solo a la que te lo muestra.

It means each of us felt that this story was important enough to pass along. By the time you got it, the story had been vetted three times.

Al final, se construye una red de relaciones, que puede verse como una comunidad, porque normalmente no habrá un solo seguidor de este contenido, ni del enlazado, ni del…

Few people have only one follower. Most people have several. Some have thousands. Nobody has millions, as on mass social networks - there's an upper limit somewhere where too many followers doesn't really work on a federated social network (which is why we are very unlikely to see advertising-supported federated social networks). These followers constitute a community.

Y como resultado de este ‘entramado’ puede ser más sencillo darle credibilidad a algunas ideas, o simplemente evaluarlas.

Getting the message in this way puts you in a much better position to assess the message, evaluate whether it is true, and decide whether to act on it (or pass it along to your own community).

Luego elabora sobre las redes sociales y cómo cortocircuitan este mecanismo, de la misma forma que lo hacen muchas veces los medios de masas, más preocupados por la cantidad de atención sobre todas las cosas. Sin olvidar del esfuerzo que supone la validación a través de la atribución.

These functions, though, have all but disappeared from news media. Because news media depended on advertising, and therefore mass audiences, it came to value engagement over all. The layers of validation and verification were not only expensive overhead, they got in the way of prioritizing engagement.

De hecho, iba a comentar arriba que en redes sociales no suelo enlazar a las fuentes tanto: por una cuestión práctica (o dos), que tiene que ver con el espacio limitado, y porque parece que nada importa demasiado allí.

Contando cantidades muy grandes con la ayuda de una moneda

2024-09-30T09:00:00+00:00

Si hablamos de contar pensaremos que se trata de una tarea fácil, porque es algo que hacemos habitualmente sin demasiados problemas. Incluso disponemos de herramientas que nos ayudan: cuántas fotos he hecho, cuántos pasos he dado, … Aunque a veces no es tan sencillo. En Computer Scientists Invent an Efficient New Way to Count nos preguntan cómo contaríamos el número de seres vivos en un bosque. Incluso con herramientas como ese contador de la cámara de fotos y disparando una foto cada vez que lo necesitemos sería complicado.

Imagine that you’re sent to a pristine rainforest to carry out a wildlife census. Every time you see an animal, you snap a photo. Your digital camera will track the total number of shots, but you’re only interested in the number of unique animals — all the ones that you haven’t counted already. What’s the best way to get that number?

¿Y el número de usuarios distintos que se conectan cada día a una red social como Facebook? Tendríamos que comparar cada nueva entrada de un usuario con una lista inmensa de entradas previas, para asegurarnos de que era un nuevo usuario.

It gets worse. What if you’re Facebook, and you want to count the number of distinct users who log in each day, even if some of them log in from multiple devices and at multiple times? Now we’re comparing each new login to a list that could run to the billions. </blockquote> El problema tiene nombre propio, el problema de los elementos diferentes (the distinct elements problem) y recientemente Sourav Chakraborty del Indian Statistical Institute, Vinodchandran Variyam de la University of Nebraska, Lincoln, y Kuldeep Meel de la University of Toronto han propuesto una solución novedosa, que se puede ver en Distinct Elements in Streams: An Algorithm for the (Text) Book. El algoritmo evita almacenar todo lo que se ha contado hasta el momento, basado en la aleatoriedad: podemos ir tomando elementos, hasta llegar a los 100, evitando las repeticiones. Cuando los tenemos, lanzamos una moneda al aire (¡aleatoriedad!) por cada elemento contado: si sale cara, se queda en la lista; si sale cruz, lo borramos. Al final deberíamos tener unos 50 elementos.

When the space is full, press pause and flip a coin for each word. Heads, and the word stays on the list; tails, and you delete it. After this preliminary round, you’ll have about 50 distinct words left.

Ahora seguimos contando y cada vez que encontramos un elemento que ya tenemos en la lista volvemos a lanzar la moneda: si sale cruz la borramos, y si sale cara la mantenemos en la lista. Continuamos hasta que volvamos a tener 100 elementos y volvemos a borrar de manera aleatoria aproximadamente la mitad. Con esto hemos terminado la primera ronda.

Proceed in this fashion until you have 100 words on the whiteboard. Then randomly delete about half again, based on the outcome of 100 coin tosses. That concludes Round 1.

Para la segunda, haremos algo parecido; pero en este caso será más difícil que un elemento permanezca en la lista. Si sale la cruz la borramos, igual que antes; pero si sale cara, lanzamos la moneda otra vez y mantenemos el elemento solo si vuelve a salir cara. Una vez que tenemos los 100 elementos ocupados de nuevo eliminamos alrededor de la mitad de las palabras otra vez, igual que en la vuelta anterior.

ontinue as in Round 1, only now we’ll make it harder to keep a word. When you come to a repeated word, flip the coin again. Tails, and you delete it, as before. But if it comes up heads, you’ll flip the coin a second time. Only keep the word if you get a second heads.

En la tercera ronda, hará falta que salga cara tres veces para mantener el elemento, en la cuarta, cuatro. Y así sucesivamente.

In the third round, you’ll need three heads in a row to keep a word. In the fourth round you’ll need four heads in a row. And so on.

En algún momento habremos terminado con los elementos que tenemos que contar y por la forma de proceder cada elemento tiene exactamente la misma probabilidad de estar allí que el resto: 1/2^k. Por ejemplo, si hay 61 elementos en la lista y el proceso ha costado seis rondas, podemos dividir 61 por la probabilidad (1/2⁶) lo que nos da un resultado de 3904 elementos.

The point of the exercise has been to ensure that every word, by virtue of the random selections you’ve made, has the same probability of being there: 1/2k. If, for instance, you have 61 words on your list at the conclusion of Hamlet, and the process took six rounds, you can divide 61 by the probability, 1/26, to estimate the number of distinct words — which comes out to 3,904 in this case.

Lo que han demostrado es que la precisión de este método aumenta con el tamaño del espacio que usamos para contar. Si la memoria es suficientemente grande podemos obtener una precisión del 100%.

Variyam and his colleagues mathematically proved that the accuracy of this technique scales with the size of the memory.

¿Por qué es interesante? Como dice William Kuszmaul, incluso para problemas sencillos de entender, básicos y que han sido muy estudiados se pueden encontrar soluciones simples pero no obvias.

“This is a great example of how, even for very basic and well-studied problems, there are sometimes very simple but non-obvious solutions still waiting to be discovered,” said William Kuszmaul (opens a new tab) of Harvard University.

Para personas menos acostumbradas a estas cosas también puede servir cómo, a veces, lanzar una moneda al aire nos ayuda a obtener resultados que no seríamos capaces de conseguir sin ella en un tiempo razonable.

Tiempos complicados, malos comportamientos y vigilancia

2024-09-26T09:00:00+00:00

Vivimos tiempos verdaderamente complicados. Aunque no entraremos en los detalles más técnicos, este verano fue noticia el casi conseguido ataque a un conjunto de programas desconocidos por la gente menos técnica, pero muy importantes en muchas distribuciones de Linux (xz utils). La cosa tiene casi las características de una película de intriga, porque el análisis posterior de la cosa nos muestra como alguien se infiltra en un proyecto de software libre, con tácticas de ingeniería social (esencialmente dar la lata, presionar, …) consigue hacerse con el control del proyecto e insertar código malicioso; pero no de cualquier manera, porque lo esconcía en alguna parte de la batería de pruebas, despistando a cualquier examinador que intentara encontrar algo raro. Pero algo raro había, porque un desarrollador de Microsoft se da cuenta que una determinada operación tarda más tiempo de lo que debería y, tirando del lío, descubre el problema. Justo cuando esos programitas ya habían empezado a entrar en las actualizaciones de las distribuciones, pudiendo ser un peligro muy importante.

En Jia Tan and SocialCyber ilustran el caso desde una perspectiva interesante, que es la actividad de las personas que contribuyen a este tipo de proyectos. No sólo desde el punto de vista puramente ténico, sino a través de otras señales que se pueden observar.

Jia Tan era el nombre de este contribuidor (seguramente un equipo) que estuvo a punto de liarla gordísima.

Pero aquí nos queremos centrar hoy en el punto de vista de los indicios cuando algo va mal, porque en el desarrollo de los programas hay una parte técnica y tecnológica, claro, y otra parte que podemos llamar ‘social’. Esto es, están las instrucciones y las líneas de código, la interacción con los repositorios donde se pone el trabajo en común…. pero también están los mensajes que se intercambian, la red social de personas que se relacionan directamente con el trabajo de desarrollar …

..., and that software includes both the technical artifacts (aka, the commits) and the social artifacts (messages around software, and the network of people that build the software), holds true to this day, and has not, in my opinion, received the attention it deserves.

En el caso del tal Jia Tan, si prestamos atención a los detalles podíamos ver:

Problemas en la línea de tiempo (fechas/horarios que no son compatibles/razonables).
Medidas de la actividad del usuario en cuestión.
Modificaciones en ‘zonas’ del código que normalmente no tocan.
Amistades ‘peligrosas’.
Verificación de las direcciones de correo electrónico utilizadas, a través del análisis en los sitios de divulgación de incidentes relacionados con ellas (ahora resulta que si tu dirección de correo no aparece en ningún indicente hay bastantes probabilidades de que sea peligrosa).
Comparación de similaridades con otros programas maliciosos

- Time zones (easily forged, but often forgotten), sometimes you see "impossible travel" or time-of-life anomalies as well - Pagerank (measures "importance" of any user in the global or local scope of the repo). "Low" is relative but I just pick a random cutoff and then analyze from there. - Users committing to areas of the code they don't normally touch (requires using Community detection algorithms to determine areas of code) - Users in the community of other "bad" users - Have I Been Pwned or other methods of determining the "real"-ness of an email address - especially email addresses that come from non-corpo realms, although often you'll see people author a patch from their corpo address, and commit it from their personal address (esp. in China) - Semantic similarity to other "bad" code (using an embeddings from CodeBERT and Neo4j's vector database for fast lookup)

Podemos estar de acuerdo en que no siempre es muy sencillo hacer estas comprobaciones y menos todavía si no somos personas de perfil técnico; pero también lo estaremos en que podemos detectar situaciones ‘raras’ prestando un poco de atención y haciendo las preguntas o las indagaciones correctas. Y eso está en la mano de casi todo el mundo.

Apasionante.

Sobre el ataque se puede leer en The Mystery of ‘Jia Tan,’ the XZ Backdoor Mastermind.

Los modelos de lenguaje, los datos y las instrucciones

2024-09-19T09:00:00+00:00

Uno de los problemas fundamentales en la seguridad informática aparece cuando por el mismo canal de comunicación aparecen información y datos de control (instrucciones): aunque los marques para diferenciarlos, alguien lo hará mal alguna vez o alguien encontrará una forma de saltarse las medidas que pongamos.

Cuando hablamos de inteligencias artificiales estos días casi siempre nos referimos a los modelos gigantes de lenguaje (large language models, LLMs) y Bruce Schneier nos hablaba del problema en LLMs’ Data-Control Path Insecurity.

Comienza recordando que las primeras centralitas telefónicas eran vulnerables al problema y cómo alguna gente enviaba tonos especiales que les permitían llamar gratis.

Back in the 1960s, if you played a 2,600Hz tone into an AT&T pay phone, you could make calls without paying.

El problema era el que comentábamos: por la misma línea iban los datos (el sonido de la llamada) y la información de control (esos tonos y otros que se usaban).

This general problem of mixing data with commands is at the root of many of our computer security vulnerabilities.

Es el mismo problema que la inyección de SQL, los desbordamientos de memoria… que son un poco técnicos para ponerlos aquí.

Cuando han llegado los modelos de lenguaje, se ha empezado a hablar de la inyección de preguntas (prompt injection) y la idea vuelve a ser la misma: el mismo canal que nos sirve para interrogar al modelo, permite controlar determiandas formas en que responderá. Por lo tanto, alguien podrá engañar al modelo para que proporcione información que no debería.

Prompt injection is a similar technique for attacking large language models (LLMs). There are endless variations, but the basic idea is that an attacker creates a prompt that tricks the model into doing something it shouldn’t.

Es relativamente sencillo tratar de evitar estos ataques cuando se conocen, pero el problema es que hay muchas formas en las que esto puede suceder y esto es, en sí mismo, un problema.

Individual attacks are easy to prevent once discovered and publicized, but there are an infinite number of them and no way to block them as a class.

Además, y a diferencia de los sistemas previamente mencionados, no es posible separar en estos sistemas los datos de las instrucciones, porque justo esa es una de sus características: queremos que los datos cambien el comportamiento de la cosa.

But unlike the phone system, we can’t separate an LLM’s data from its commands. One of the enormously powerful features of an LLM is that the data affects the code. We want the system to modify its operation when it gets new training data. We want it to change the way it works based on the commands we give it. The fact that LLMs self-modify based on their input data is a feature, not a bug. And it’s the very thing that enables prompt injection.

Muy interesante.

La inteligencia artificial y algunos argumentos alrededor de ella

2024-09-09T09:00:00+00:00

Me gustó escuchar la intervención de Simon Willison en la PyCon US sobre inteligencia artificial. Ha puesto a disposición del que quiera verlo una transcripción con imágenes que creo que puede ser muy interesante: Imitation Intelligence, my keynote for PyCon US 2024. Se puede escuchar/ver en Keynote Speaker - Simon Willison.

Empieza desde los oríenes de la IA (eso me gusta) allá por el año 1956 (desde que tenemos computadoras hay gente pensando en que podrían pensar) y reformula el término de inteligencia articial de los modelos grandes de lenguaje (LLMs) como inteligencia emulada. Y no para despreciarla, sino para poder trabajar a partir de ese concepto.

When discussing Large Language Models, I think a better term than “Artificial Intelligence” is “Imitation Intelligence”. It turns out if you imitate what intelligence looks like closely enough, you can do really useful and interesting things.

Pero sin olvidar que no son inteligentes, sino que simplemente imitan lo que se les ha mostrado previamente.

It’s crucial to remember that these things, no matter how convincing they are when you interact with them, they are not planning and solving puzzles... and they are not intelligent entities. They’re just doing an imitation of what they’ve seen before.

Habla un poco de los diversos aspectos que pueden preocuparnos de la IA (licencias, sesgos, las preguntas -prompts- y sus riesgos de seguridad, da algún ejemplo …

Finalmente, hace otra reformulación cambiando lo de inteligencia artificial generativa en inteligencia artificial transformativa, porque considera que la aplicación más interesante es justamente esa: proporcionar grandes cantidades de texto y utilizarlo para evluar y hacer cosas con ello.

I think the most interesting applications of this stuff when you feed large amounts of text into it, and then use it to evaluate and do things based on that input.

Termina hablando de ética, desde la procedencia de los datos de entrenamiento (que no le preocupa demasiado) pero también cómo se utiliza para generar contenidos y, si estamos en ese lado, la pregunta sería si estamos generando algo valioso con la IA o simplemente aumentando el contenido automáticamente sin proporcionar nada de valor. Esto es, ¿la usamos de manera responsable?

I love this term. As a practitioner, this gives me a mental model where I can think, OK, is the thing I’m doing-is it just slop? Am I just adding unwanted AI-generated junk to the world? Or am I using these tools in a responsible way?

También habla del fraude (cheating), en particular entre los estudiantes. Nos dice: es malo porque les hace daño (si eres un estudiante y estás usando estas herramientas para que parezca que sabes algo que realmente no sabes, eso es un problema) y, además, es malo porque les puede estar dando una ventaja frente a otros.

I think there are two reasons. Firstly, it hurts them. If you’re a student who cheats and you don’t learn anything, that’s set you back. Secondly, it gives them an unfair advantage over other students. So when I’m using this stuff, I try and bear that in mind.

También habla de compartir las preguntas (al estilo de compartir código) y lo interesante que son estas herramientas a la hora de programar (es un foro de programadores, al fin y al cabo) por la sencilla razón de que la sintáxis y la gramática de los programas es muchísimo más simple que la de los lenguajes naturales y eso hace que funcionen bastante bien.

It turns out language models are better at generating computer code than they are at generating prose in human languages, which kind of makes sense if you think about it. The grammar rules of English and Chinese are monumentally more complicated than the grammar rules of Python or JavaScript.

Y se pregunta si habremos llegado al punto donde no es necesario ser un ingeniero para automatizar tareas aburridas.

This offends me. You shouldn’t need a computer science degree to automate tedious tasks in your life with a computer.

Pero esto también es una responsabilidad: que nadie se quede atrás, que tenemos que ayudar a otros a aprender, comprender y manejarse razonablemente en este nuevo mundo.

I think that means we have a responsibility not to leave anyone behind, to help pull other people up, to understand the stuff and be able to explain it and help people navigate through these weird (and slightly dystopian at times) waters.

Muy interesante.

Willison es un viejo conocido por aquí, aunque veo que no lo he enlazado apenas. Por ejemplo, en 2008, Sitios para visitar en Londres (para geeks).

Abundancia de información, difusión, y granularidad

2024-09-02T09:00:00+00:00

Me llevan los demonios cada vez que veo a una organización compartiendo información de alguna actividad (en formato visualmente muy atractivo, o no, pero bastante inútil de imagen; muchas veces) en redes sociales, pero buscas información en la web (su web, en muchos casos, abandonada y triste porque la última actualización es de hace meses o años) y no la tienen. Así que me pareció casi de ciencia ficción leer The Fediverse of Things que habla de instituciones que no sólo tienen buena información, sino que además la difunden en medios abiertos y con una granularidad máxima porque además resuena con algunas ideas de cosas que se podrían hacer por aquí.

Nos cuenta, por ejemplo, el caso del Museo de San Francisco (Holding Hands with the “Fediverse” – ActivityPub at SFO Museum) que han lanzado unos cuantos bots informativos en el ‘fediverso’ (mastodon y otras plataformas) que van publicando de manera automatizada diversas informaciones sobre objetos del museo. Información como: cosas que han ocurrido recientemente relacionadas con objetos de la colección de aviación del museo, hechos ocurridos con relación a las terminales, y finalmente, hechos relacionados con vuelos que llegan y se van de San Francisco.

As mentioned these are automated, low-frequency, accounts and, currently, only a limited set of interactions are supported: Accounts can be followed or unfollowed, individual posts can be “liked”, “boosted” or replied to but those replies will not be answered (yet) or published on the SFO Museum websites. To get started we’ve created three “groups” of accounts. They are: Things which have happened recently involving the SFO Museum Aviation Collection; Things which have happened in the terminals (new and old) and; Things from the collection which are related to flights in and out of SFO.

También nos recuerda el caso del ‘correo arbóreo’ (The Melbourne treemail phenomenon) donde nos contaban cómo se asignó un identificador a cada árbol gestionado por el ayuntamiento y una cuenta de correo asociada, donde se podían mandar mensajes sobre su estado (está perdiendo hojas, se ha estropeado, …). Incluyendo fenómenos emergentes como cuando la gente empezó a usar esos correos para ‘hablarle’ a los árboles. Algo como ‘cuando me iba del colegio, me quedé parado, no por una rama, sino por tu belleza radiante…’

"As I was leaving St Mary's College today I was struck , not by a branch, but by your radiant beauty. You must get these messages all the time. You're such an attractive tree,"

Por cierto, que sin ser exactamente eso, me gustó mucho saber hace algún tiempo que existía Huesca ciudad entre jardines, que es un catálogo de los árboles de la ciudad.

También nos cuenta sobre Twitter y @uktrains (I invented tweeting trains (probably) que también es inspirador. Se comparten (se compartían) diversas incidencias en los ferrocarriles británicos.

In 2009 I built @uktrains, the first (to my knowledge) service to share rail travel disruption alerts on Twitter. It covered the whole of the UK, using official data sourced from the BBC that rail operators weren’t (yet) sharing.

Al final, si tienes información disponible puedes divulgarla utilizando diversos mecanismos. El autor nos recuerda el concepto de la Internet de las cosas (Inernet of Things, IoT) y la versión ‘cercana’, la intranet de las cosas (porque podría ser útil para nosotros, pero poco adecuado para el resto conocer, por ejemplo, el estado de nuestras bombillas).

Y, claro, se pregunta (y nos podemos preguntar) si no podrían los responsables de los servicios dotarles de cuentas informativas, algo como @parada23@ayuntamiento_de_ciudad.es y similares.

On the one hand, it would be nice to be able to follow @Yellow_Line@Transit_Authority.gov - or even @Bus_Stop_1234@bus_company.biz - that would allow for hyperfocused data getting to the right people.

Es cierto que existen aplicaciones (ay, aplicaciones, que tenemos que instalar, configurar, …) y otros sistemas más o menos afortunados.

Es un tema que me provoca mucho interés y algunas ideas he tenido, que ya he llevado a cabo, y otras que no termino de ver la forma de enfocar (es importante la información, pero también es importante la forma en que se presenta, los momentos, …). Me permito aquí recordar la existencia de algunos proyectos en esta línea que voy manteniedo, como:

medalleroESP (está en otras redes también, pero sigamos con el fediverso), que va publicando las medallas que ganan en las olimpiadas los deportistas españoles.
botelectrico, que va publicando cada hora la tarifa PVPC de electricidad en España.

¿Se os ocurren otras ideas de proyectos que podríamos realizar? A mi me parece interesante el tema del transporte (trenes, tranvía, autobuses, aviones,… ) pero a lo mejor hay otros temas que podrían considerar.

Por cierto, que empieza hablando de las dificultades que tuvo uno de los autores al intentar hacer los bots en Twitter (un número verdaderamente, grande, claro) y me recuerda las sucesivas dificultaes que ha ido poniendo Facebook para hacer este tipo de cosas (sin evitar en absoluto que los ‘malos’ hagan sus cosas malas).

I was out with a friend who worked for Twitter and I asked them whether it would be possible for the museum to “create 200,000 Twitter accounts, one for each object in the Cooper Hewitt’s collection”. My friend looked at me for a moment, laughed, and then simply said: No.

Podcasts y oportunidades... ¿Perdidas?

2024-08-26T09:00:00+00:00

Llevamos una temporada en la que la palabra podcast es de uso habitual, curiosamente, en un momento en que muchos dejaron de serlo. No es que yo vaya a ponerme a dar carnés de lo que es o deja de ser, pero lo cierto es que en muchos casos se llaman podcasts a grabaciones de audio (algunas incluyen vídeo) encerradas en alguna plataforma (Spotify, Amazon, …). Tampoco digo que la gente no tenga derecho a encerrar sus ‘programas’ donde mejor le parezca y traten de ganar dinero con ello (‘monetizar’), pero la cosa va quedando cada vez más coja y ‘desinternetizada’.

Por eso traigo aquí el texto de Anil Dash, “Wherever you get your podcasts” is a radical statement que habla un poco del tema y de cómo la posibilidad o no de escuchar estas grabaciones donde y cómo más nos convenga puede ser relevante, porque podemos terminar con la cosa en manos de unas pocas empresas, que puedan decidir qué escuchamos y qué no:

But here's the thing: being able to say, "wherever you get your podcasts" is a radical statement. Because what it represents is the triumph of exactly the kind of technology that's supposed to be impossible: open, empowering tech that's not owned by any one company, that can't be controlled by any one company, and that allows people to have ownership over their work and their relationship with their audience.

Nos recuerda que el podcasting nació con la web social, y con la idea de crear sistemas abiertos, interoperables con herramientas de otras plataformas…

See, podcasting as a technology grew out of the early era of the social web, when the norms of technology creators were that they were expected to create open systems, which interoperated with tools by other creators and even other companies.

Lo contrapone con otras plataformas como YouTube, TikTok, Twitch, donde los creadores viven a merced de los cambios que puedan hacer estas empresas, dándoles o quitándoles visibilidad. La audiencia no es del creador, es de la plataforma.

Contrast this to other media formats online, like YouTube or Tiktok or Twitch, which don't rely on open systems, and are wholly owned by individual tech companies. On those platforms, creators are constantly chasing the latest algorithmic shifts, and are subject to the whims of advertising algorithms that are completely opaque.

Dash cree que los podcasts resisten mejor estas tentaciones gracias a los formatos abiertos y su portabilidad.

What podcasting holds in the promise of its open format is the proof that an open web can still thrive and be relevant, that it can inspire new systems that are similarly open to take root and grow.

Yo no soy tan optimista porque cada vez veo más sitios que se van dejando características, y llamando podcasts a cosas no tan abiertas. También veo que muchas veces favorecemos la comodidad frente a la apertura y que contribuimos a que estos modelos se amplíen y consoliden. Tampoco me engaño porque ese tipo de modelos son los que trajeron la normalización del término, y seguramente eso le da riqueza. Así que veremos si se cumplen las predicciones de Dash y, efectivamente, sigue siendo un formato más abierto que cerrado, o no.

¿Desconexión digital o tomar el control?

2024-08-20T09:00:00+00:00

Es habitual ver en los medios mandangas (por llamarlo de alguna forma) sobre la desintoxicación digital, el abuso de los dispositivos electrónicos y similares. Entiendo que pueda haber gente de caracter adictivo (por poner otro nombre) que tenga facilidad para engancharse a determinadas actividades y, en particular, a ‘la vida’ en su teléfono móvil, redes sociales, whatsapp. Lo que no es tan habitual es hablar de desengancharse de la televisión (o de la radio, o del periódico, …), lo que nos hace pensar en algunas ocasiones que la preocupación no es el enganche (o desenganche) sino el estar conectado al medio adecuado (y que le conviene más al emisor del mensaje).

Por eso me gustó leer El mito del ‘detox’ digital: cómo mejorar el uso que hacemos de las pantallas con pequeñas desconexiones porque, al menos, pone la palabra ‘mito’ en el titular.

El párrafo introductorio dice: Es poco probable que la tecnología digital nos intoxique, lo que subraya una limitación del concepto de ‘detox’ digital. que es una novedad para los medios que tenemos a mano.

Tiene que ver, nos dicen, más que con la cosa en sí, con la relación que establezcamos con ella:

Tanto Internet como las redes sociales (y los dispositivos que utilizamos para acceder a ellos) pueden resultar saludables o insanos según el uso que les demos.

Pero tiene mucho que ver con la pereza, dejarnos llevar sin pensar mucho … (vamos, lo mismo que la tele, por decir algo).

Sobre la desconexión (y el detox) nos dice:

El detox digital consiste en una pausa voluntaria de uso de la tecnología. Puede ser de 24 horas o de una semana, y tiene como propósito disminuir el tiempo de conexión, y con ello el estrés, la ansiedad, la depresión, la adicción o la sobrecarga cognitiva que nos puede estar provocando el uso continuado del móvil, tableta u ordenador.

Sin embargo, cita un estudio con:

850 participantes alemanes (de entre 18 y 65 años) no encontró que utilizar el móvil de manera más continuada o intermitente tenga un impacto en el bienestar mental.

Y otros dicen que puede tener más que ver con:

... variables como el tipo de actividad, el momento del día y rasgos de personalidad como la extroversión o la introversión juegan un papel más significativo

Y, por supuesto:

... una desconexión puntual no tiene relación directa con el bienestar, el autocontrol o la salud general.

La propuesta que se hace es tomar el control:

Hacer desconexiones puntuales, por el contrario, sí nos puede ser útil para iniciar procesos de reflexión y tomar conciencia del uso que hacemos de la tecnología.

No se trata sólo de desconectar, se trataría de tomar conciencia.

Porque cortar la comunicación como medida ‘sanadora’ puede tener sus propios problemas, algunos que ni siquiera nos podemos permitir:

Sin embargo, experimentaron dificultades para realizar tareas académicas o comunicarse con los demás. Algunos estudiantes manifestaron sentirse aislados y ansiosos por falta de información.

Al final, la tecnología es una opción más de ocio (además de una parte muy importante de nuestra vida laboral moderna) y tenemos que desarrollar nuestras propias estrategias de acceso a la información, al entretenimiento… Saber poner en cuarentena casi cualquier cosa que leamos/escuchemos/veamos (sobre todo en dos de las fases que podemos observar actualmente con la información: en el primer momento cuando lo que hay son datos sueltos -a veces ni eso, y suposiciones, y en ese momento intermedio donde ya las partes han tomado su decisión del enfoque y empiezan a utilizarla contra sus ‘enemigos’). Esto lo digo influido por los últimos acontecimientos que padecemos, gracias a las redes sociales, pero también al ansia de muchos medios de comunicación (por no decir todos) por llenar páginas de información aunque esta todavía no exista.

Apple, los espías, la intimidad y los jueces

2024-08-12T09:00:00+00:00

Durante las olimpiadas nos hemos hartado de ver el anuncio de Apple y su navegador, Safari, como grandes defensores de la privacidad. Aunque nos lo creemos lo justo, lo cierto es que ya es una singularidad que alguien haga publicidad pensando en esos temas tan poco atractivos para las personas de la calle (que siempre dicen/decimos que nos importa mucho, pero que luego no es algo que validemos con nuestras decisiones). Sobre este tema (la privacidad y Apple) hablaba Enrique Dans el otro día en Apple, la privacidad… y el valor de un buen anuncio, pero no es lo que queríamos traer aquí hoy (por cierto, allí se puede ver el anuncio).

La noticia es algo más vieja (principios de año) y se refiere al pleito que mantenía Apple contra NSO (el fabricante del ‘famoso’ sistema espía Pegasus): Apple wins early battle against NSO after suing spyware mercenaries for attacking iPhone users. Apple había demandado al grupo NSO y estos se defendían tratando de llevar el jucio a un lugar más favorable para ellos, como es Israel. Sin embargo, el juez Donato en Estados Unidos, daba la razón a Apple, sugiriendo que Apple tendría unas dificultades en Israel parecidas a las que podría tener el grupo NSO en Estados Unidos.

In short, Judge Donato ruled that NSO Group’s request for dismissal in the US in favor of a trial in Israel didn’t meet the bar. Instead, Judge Donato suggested that Apple would face the same challenges in Israel that NSO faces in the US.

No estoy seguro de que la cosa haya avanzado mucho en estos meses, pero sí que es fácil encontrar como el espionaje sigue activo Apple alerta sobre una nueva oleada de malware espía que afecta a los iPhone.

Mientras tanto, todo hay que decirlo, Apple se resiste a las peticiones de los regulardores europeos que le piden poder utilizar motores alternativos (y no el suyo) en las aplicaciones que desarrollen otros, alegando que así se defiende mejor también la intimidad de sus usuarios: Using alternative browser engines in the European Union

To help keep users safe online, Apple will only authorize developers to implement alternative browser engines after meeting specific criteria and who commit to a number of ongoing privacy and security requirements, including timely security updates to address emerging threats and vulnerabilities.

¿Eres humano? La web cada vez más difícil de usar

2024-08-05T09:00:00+00:00

Seguimos con algunas consecuencias de los avances en la inteligencia artificial y son los CAPTCHAS, esos inventos que utilizan algunos sitios web para comprobar que somos humanos. La idea es evitar que se utilicen herramientas automatizadas para realizar ciertas acciones (crear cuentas, por ejemplo), porque esto puede suponer que nuestra web termine estando ‘habitada’ por robots, que no es el objetivo para la mayoría (aunque hay algunas que los admiten y los favorecen, siempre que se utilicen para actividades ‘saludables’; un ejemplo serían Slack, Reddit, o incluso la Wikipedia, donde estos programas realizan diversas tareas; en el último caso, principalmente por parte de la propia organización).

En Welcome to CAPTCHA Hell nos avisan, probablemente ya hemos notado que estos sistemas son cada vez más difíciles de resolver.

You’ve probably noticed that CAPTCHAs are getting more difficult. What started as weird strings of letters to type out without much thought has turned into images that are harder and harder to identify.

Ahora nos encontramos con rotaciones de animales en 3D y otras ‘diabluras’.

And that’s before we get into animal rotating, which I’ve yet to get right on the first try.

El problema es que los ‘bots’ que navegan por internet (un montón, si hacemos caso a las estadísticas que se publican por ahí) ya son bastante ‘listos’ y son capaces de resolver las pruebas a las que ya estábamos resignados y acostumbrados.

... which means this torture device has been designed specifically because bots can solve other CAPTCHAs. That you have to rotate the animal is the result of a world in which AI can do even more human tasks.

Ya el año pasado podíamos leer An Empirical Study & Evaluation of Modern CAPTCHAs donde nos avisaban de que:

Había mucha variabilidad en la velocidad de resolución de estas pruebas.
Las preferencias de los usuarios no tenían mucho que vre con la velocidad a la hora de resolverlas.
El contexto es muy importante cuando se realizan los experimentos.
A la gente mayor le cuesta más resolverlos.
Hay una tasa elevada de abandono cuando aparecen.

Pero no solo eso, también nos decían que los bots eran más rápidos que los humanos, y resolvían estas pruebas con mayor precisión.

The machines are already better and faster than us at most kinds of CAPTCHAs, the study found, and that’s before considering just how quickly AI is advancing.

Algunos sistemas ya han dejado de usar esas pruebas (o las incluyen adicionalmente), y utilizan la observación de nuestra navegación (Google, por ejemplo) previa, básicamente porque un humano raramente irá directo a realizar una acción, sino que tendrá ciertos patrones de navegación previa.

... primarily noninteractive tactics to detect bots. “A legitimate user may typically visit the homepage, click on a sign-in button, enter their credentials, and then, for example, go to pay their bill,” Leroy said. “An attacker, on the other hand, either via hiring humans or writing bots, will try many different email-and-password combinations.”

Las inteligencias artificiales, la confianza y quién nos la devolverá cuando la perdamos

2024-07-29T09:00:00+00:00

Ahora estamos empezando a leer que el interés por la inteligencia artificial se enfría y hasta se habla de bancarrotas (OpenAI, Home Of ChatGPT, May Lose $5B This Year – Report) así como de enfriamiento inversor (Investors Are Suddenly Getting Very Concerned That AI Isn’t Making Any Serious Money) y, enfriamiento por las vía legales (Meta Halts AI Training in EU, Brazil Amid Regulatory Concerns). Y aún peor ya empezamos a ver los émulos de los ‘Amazon locales’, las ‘IA locales’ (Madrid usará inteligencia artificial en estos nuevos semáforos: qué significa exactamente y para qué se van a usar. Incluso campañas para no permitir el entrenamiento de las inteligencias artificiales con nuestros datos: Cómo evitar que Twitter use tus datos para entrenar su IA.

Yo dejo a las inteligencias artificiales que aprendan de mis cosas. O que se confundan, quién sabe 😃
— fernand0 (@fernand0) July 26, 2024

También anuncios de algo que más o menos teníamos claro: los buscadores van a cambiar (Search as we know it is officially over.)

Sin embargo, y desde la misma prudencia que hace meses, vale la pena comentar otras noticias. Hace ya unos meses Bruce Schneier ponía su dosis (de prudencia) con AI and Trust.

Comienza recordándonos que nuestra vida se basa en la confianza: el teléfono nos despertará, la empresa de transporte nos proporcionará un medio de transporte, el conductor nos llevará de forma segura a nuestro destino, el resto de conductores no la liarán, ….

I trusted a lot today. I trusted my phone to wake me on time. I trusted Uber to arrange a taxi for me, and the driver to get me to the airport safely. I trusted thousands of other drivers on the road not to ram my car on the way.

Así que la confianza es esencial para que la sociedad funcione. Y además, nos dice, hay dos tipos de confianza: la interpersonal y la social, que habitualmente confundimos.

In this talk, I am going to make several arguments. One, that there are two different kinds of trust—interpersonal trust and social trust—and that we regularly confuse them.

Además esta confusión se va a aumentar con las inteligencias artificiales, porque las confundiremos con algo amistoso, en lugar de lo que son, servicios.

We will make a fundamental category error. We will think of AIs as friends when they’re really just services.

En tercer lugar, las empresas propietarias de estos productos sacarán partido de estas confusiones y, por lo tanto, de nosotros.

Three, that the corporations controlling AI systems will take advantage of our confusion to take advantage of us. They will not be trustworthy.

Finalmente, esto nos lleva a que deben ser los gobiernos los que nos ayuden, regulando estos temas en beneficio de la confianza. Pero, nos dice, no regulando la propia IA, sino a las organizaciones que la controlan.

And four, that it is the role of government to create trust in society. And therefore, it is their role to create an environment for trustworthy AI. And that means regulation. Not regulating AI, but regulating the organizations that control and use AI.

Luego desarrolla los puntos con calma suficiente, vale la pena leerlo.

Crowdstrike: hacer las cosas (más o menos) bien y aún así...

2024-07-24T09:00:00+00:00

💻 La actualización de un componente de ciberseguridad ha causado un fallo global en Micorsoft que ha afectado a gran número de compañías.

En Aragón, se han producido afecciones en el Salud, se han suspendido algunos juicios y se han cancelado vuelos.

▶️ https://t.co/ds4JsNUkyP pic.twitter.com/JXAonHqRRt
— Aragón Noticias (@AragonNoticias_) July 19, 2024

Estoy hablando aquí desde el punto de vista del usuario: trabajas para una empresa, contratas los productos que todo el mundo usa/recomienda, y aún así se lía y se te complica un viernes cualquiera. Lo de más o menos lo digo porque todo es matizable y mejorable, claro.

El viernes fue un día con mucha actividad por el fallo que se produjo el fallo en la actualización de Crowdstrike (se puede ver en su web Preliminary Post Incident Review (PIR): Content Configuration Update Impacting the Falcon Sensor and the Windows Operating System (BSOD).

Nos llamaron de Aragón TV para dar unas primeras impresiones sobre lo (poco) que sabíamos en ese momento y lo sacaron en las noticias.

Se puede ver en El fallo informático global ha causado afecciones en el Salud y se han suspendido varios juicios. También en la web de las noticias Aragón Noticias 1 - 19/07/2024 13:59.

En este caso, poco que decir: un fallo en la actualización ha provocado fallos en los clientes que usan el producto de Crowdstrike en los equipos con sistemas de Microsoft. Además, una llamada a la diversidad, porque si hubiera más sistemas operativos en uso, muchas marcas de productos como este, el impacto habría sido menor.

En todo caso, me interesa para este sitio hablar del proceso completo, tal y como lo viví (desde la barrera).

Nos depertábamos con un inicio del follón, donde algunas empresas españolas tenían algún problema indeterminado:

Esperemos que sea por el calor...https://t.co/R1FEQlEtLN
— fernand0 (@fernand0) July 19, 2024

Aunque rápidamente veíamos que la cosa podía ser más grave, porque los australianos (y otros países de la zona) ya habían alertado del problema:

Not just everywhere, but every*one* (nearly). This is massive https://t.co/0xVlOrMj4m
— Troy Hunt (@troyhunt) July 19, 2024

Y también veíamos como algunas organizaciones más cercanas también estaban afectadas.

Más cerca.https://t.co/PpSY5H4qvT
— fernand0 (@fernand0) July 19, 2024

Los medios de comunicación españoles empezaban a hablar de la cosa, aunque algunos estaban bastante despistados.

Hablaban de un problema de Azure.

Mientras tanto en España:
Azure? https://t.co/Nz5i3Ymieh
— fernand0 (@fernand0) July 19, 2024

O, directamente, de Microsoft (que algo tenía que ver, desde luego), pero no era una caída suya.

Caída de Microsoft.https://t.co/U2IV0pprBA
— fernand0 (@fernand0) July 19, 2024

Un poco más tarde, llegaban los efectos a EEUU (básicamente cuando es por la mañana y la gente empieza a trabajar, aunque hay quien no para por la noche).

https://t.co/GzMAWOIReN
— fernand0 (@fernand0) July 19, 2024

Al mediodía la empresa empezaba a hablar del problema:

Ya se han despertado en EEUU.https://t.co/bJ5Dzy3IGN
— fernand0 (@fernand0) July 19, 2024

Y veíamos que algunas empresas tenían que dar servicio con medios rudimentarios. Fundamentalmente, porque lo tienen previsto y reaccionan ante los problemas.

Todo está previsto.https://t.co/6dnN3MENNx
— fernand0 (@fernand0) July 19, 2024

Algunas ideas:

Las cosas pueden fallar y fallarán, tal vez deberías tener previstos mecanismos para recuperarte cuando eso suceda, o poder proporcionar tus servicios de otra forma.
La diversidad es buena, las personas que no eran clientes de Crowdstrike o de Microsoft no se vieron afectadas en sus instalaciones. Buen momento para recordar a Dan Geer y sus avisos sobre los monocultivos informáticos.

También es un buen día para recordar a Dan Geer y el tema de la diversidad tecnológica.
"Shared Risk at the National Scale"https://t.co/g4uR8T6XCv
— fernand0 (@fernand0) July 19, 2024

Como decíamos arriba, los responsables han hecho ‘bien’ su trabajo (recordando aquella vieja frase de “Nobody gets fired for buying IBM”, no despiden a nadie por contratar a IBM, que hoy se actualizaría con otras marcas y empresas), y aún así las empresas se han visto afectadas. Hay que planificar que estas cosas pueden suceder y ser capaces de reaccionar, o tal vez establecer diferentes niveles de actualización para distinos equipos en distintos momentos por lo que pueda suceder.

Finalmente, un pequeño homenaje al personal de IT que se ha visto obligado a reaccionar a una situación sobre la que tenían poco control pero en la que todo el mundo les estaba mirando.

Ánimo al personal de TI, que parece que va a ser un viernes intenso.... 🤞🏼🤞🏼🤞🏼
— fernand0 (@fernand0) July 19, 2024

Esta entrada es un resumen de lo que publicamos ese mismo día y el siguiente en:

Hilo de Twitter, que empieza con Esperemos que sea por el calor…
Entrada en LinkedIn, el sábado, con un resumen preliminar, y que empieza, Ayer fue un día muy curioso…
La parte de la TV la he puesto en En las noticias de Aragón TV hablando del incidente de Crowdstrike

En la web de Aragón Noticias, de Aragón TV, hablando sobre robos de datos

2024-06-21T00:00:00+00:00

En Aragón Noticias

La semana pasada me contactó la periodista Victoria Pascual para hablar un poco en el programa Objetivo de Aragón TV sobre espías. No es un ámbito en el que yo esté muy especializado, pero la tecnología se puede utilizar para espiar, naturalmente.

Hace unos días me contactó Teresa P. Albero de Aragón TV para hablar un poco sobre los últimos robos de datos que hemos conocido en las noticias (“Banco Santander, Telefónica o Iberdrola”). Fue una entrevista telefónica y se ha publicado el resultado en la web, en El lucrativo negocio del robo de datos a grandes empresas: extorsiones y crisis de reputación con la intervención de algún otro experto.

Por mi parte yo hablé de la importancia de compartimentalizar, minimizar los datos que se almacenan y que, muchas veces, el valor de los datos no es tanto como nos quieren hacer creer (lo que no evita que tengamos que tener cuidado) sino la pérdida de prestigio y esta modalidad de los denominados ataques a la cadena de suministro, donde el problema es que le roban tus datos (o los de tu cliente) a un tercero que los gestiona.

También, desde el punto de vista personal, aunque no podemos hacer gran cosa, porque los datos los gestionan las empresas, sí que podemos limitar el daño utilizando tarjetas de prepago, o que se pueden desconectar para las operaciones en internet.

Entrada publicada originalmente en En la web de Aragón Noticias, de Aragón TV, hablando sobre robos de datos.

En Objetivo, de Aragón TV hablando sobre espionaje

2024-06-01T00:00:00+00:00

Hablando de espionaje en Aragón TV

Lo han publicado en Cap. 648 - 01/06/2024 13:26 y la compañía era de lujo: un espía retirado (Fernando San Agustín), la primera agente femenina del CSID (Isabel Martínez), y un periodista (Ramón J. Campo).

También lo cuelgan en YouTube, donde se puede ver el reportaje

Mi intervención, en dos líneas: la tecnología permite a los espías ser más eficientes obteniendo información, aunque los países civilizados tienen reglas sobre lo que los espías pueden (y no pueden hacer); a la gente normal no nos espían individualmente porque normalmente no somos interesantes para eso, pero nuestros datos agregados con los de otras personas parece que son bastante valiosos.

Publicado originalmente en En Objetivo, de Aragón TV hablando sobre espionaje.

Estudiantes y canales alternativos de comunicación

2024-05-30T00:00:00+00:00

Cómo hacer llegar la información adecuada a las personas adecuadas es un problema que me fascina. Probablemente por eso tengo este sitio (y alguno más) pero, reconozcámoslo, esto solo sirve para quien ya lo conoce (y, eventualmente, si alguien lo comparte para que llegue a unas pocas personas más). Además, tratamos de difundirlo en diversas redes sociales, por diversos canales, en formatos alternativos,… Pero lo cierto es que la mayor parte del mundo no lo verá, como es natural.

Un caso particular de este problema es hacer llegar la comunicación adecuada a nuestros estudiantes: también ponemos todos los medios a nuestro alcance (recuerdo una mesa redonda donde lo comentábamos) y aún así, hay quien no se enterará de algo importante, o la información le llegará tarde.

Mientras tanto, nuestro estudiantado organiza sus propios canales de información que también llegan hasta donde pueden. De eso habla un poco How Students Use Unofficial Online Backchannels for Classes donde empieza diciendo algo parecido a lo de arriba: tenemos nuestros canales de comuncación oficiales, pero eso no evita (tampoco me parece necesario evitarlo, claro) que se organicen de la forma que mejor les apetezca.

... pointing students to official platforms for turning in assignments and participating in class discussions. Meanwhile students are setting up unofficial online channels of their own, where they can ask questions of classmates, gripe about the professor and sometimes share homework and test answers

Tiene una parte sorprendente: la de enterarse de cosas que se comunican adecuadamente por los medios oficiales, pero también hay una parte alternativa imporante, que tiene que ver con poder decir y preguntar lo que tal vez no se pueda hacer en ellos (¿críticas? ¿compartir hallazgos relevantes?…). Ojalá, la verdad, estos canales actuaran como catalizadores para hacernos llegar algunos comentarios de una manera organizada (esto es, se dice la queja, pero no el ‘quejica’, por ejemplo; y, tal vez, se pone remedio al problema, si lo había).

También abren la puerta, claro, a lo que ahora se llama pomponsamente deshonestidad académica (a copiar, vaya), que puede ser una preocupación para una parte del profesorado. También puede existir la inciativa de usar sus herramientas para tratar de acercanos un poco.

Some professors welcome these channels as a way for students to blow off steam. But others worry that they can lead to violations of academic integrity. And some have taken the attitude of, “if you can’t beat ’em, join ’em,” actively setting up Discord servers or joining those created by their students.

Pero, nos dicen, charlas de pasillo (o de cafetería) ha habido siempre y esto no es más que una ampliación mediada por las herramientas de comunicación del asunto. Aunque con la diferencia de que pueden estar activas las 24 horas del día de todos los días de la semana.

In some ways it’s just an online version of informal networking that students have always done as they chat with classmates in physical classrooms before or after class. But because these online platforms are easy to hide from instructors and are available 24/7, they can be trickier for students and professors to navigate.

Igual que esas conversaciones de pasillo, o encuentros en la cafetería, partidas de cartas… también pueden ayudar a crear una comunidad: se establencen relacoines, se conoce mejor a otros estudiantes y se aumenta el sentido de pertenencia a ‘algo’.

“I loved it,” she says, noting that the students got to know each other by asking questions like what they planned to do next year. “What gave me my feeling of being in relationship with anyone else in the class was the conversations I had there.”

También pueden tener una parte negativa, reduciendo la asistencia: si vamos a conseguir la información de alguien que vaya a clase por nosotros, es posible que tengamos la tentación de ‘aprovechar’ mejor ese tiempo.

But even though these forums can build community, they might also be playing a role in reducing attendance in classes and contributing to a sense of student disengagement in physical lectures.

Sobre las tentaciones alrededor de las copias porque la comunicación mediada por las plataformas puede dejar rastro, o incluso dejar a personas inocentes bajo sospecha por acudir a los foros donde se divulgan soluciones ‘compartidas’. Tampoco sabemos quiénes son todas las personas que están en un determinado foro, sobre todo cuando se usan seudónimos, hay mucha gente,…

... students saying he would give them an F on an assignment and refer them to the dean’s office after he discovered they were on a GroupMe chat group where answers to an exam were shared.

Finalmente, nos recomiendan al profesorado no intentar participar/entrar en estos espacios digitales: la independencia del sistema oficial es lo que los hace atractivos y también lo que permite que se creen las dinámicas adecuadas (bastantes, beneficiosas).

And she advises professors to resist the temptation to get involved with these informal channels at all. “The undergroundness of Discord is part of its appeal,” she notes. For students, she adds, “this is how you develop independence.”

La copia, las inteligencias artificiales y el aprendizaje

2024-05-20T00:00:00+00:00

Durante la pandemia ya descubrieron algunos que sus estudiantes copiaban: antes creían que mirando de manera constante lo podían evitar y ahora que eso no era posible, aumentaba la precoupación.

Las inteligencias artificiales han venido a aumentar la preocupación por estos temas, porque la tentación es fuerte, y el resultado suficientemente bueno (sobre todo si no se mira mucho lo que nos entregan que, en algunos casos, es el verdadero problema).

En Academic Integrity and Assignment Design hablaban del tema de la integridad académica (la forma ‘sofisticada’ de tratar de evitar que los estudiantes, o los investigadores, o quien sea, copien).

Y la pregunta era, ¿deberíamos cambiar el tipo de trabajos que encargamos vistas las capacidades de la tecnología?

Should we change the way we assign writing this fall given what we know about current AI text generation capabilities?

Y la respuesta es, como suele pasar, compleja. Seguramente sea buena idea adaptar los encargos para reducir los comportamientos deshonestos y la consiguiente pérdida en los procesos de aprendizaje. Básicamente, hacer más sencillo que lo correcto sea el camino fácil.

Rather, we’re looking at adapting our existing assignments to mitigate dishonesty and learning loss by discouraging misuse as much as possible through recognized best practices in assigning writing. We follow scholarship on academic integrity which suggests that in making it easier to do the right thing and harder to do the wrong thing can significantly reduce dishonesty ...

Porque nunca hemos sido capaces de elimitar completamente el engaño, reconocen.

We have never been able to prevent all cheating, and that will not change.

Tampoco hay que olvidar que estos trabajos se encargan con el objetivo de que las personas aprendan, así que habría que incidir en estos aspectos, aumentando la motivación intrínseca y dejando claro los objetivos y las ventajas de realizarlos.

It’s always worth underscoring that clarifying the purpose of each assignment and introducing student choice or personal connection to the topic can help make dishonesty less likely.

Aumentar la interacción con el estudiantado en el momento de realizar los trabajos, aumentando su significado y, por lo tanto, su valor.

Situating the writing process in the context of a genuine teacher-student relationship and peer-to-peer relationships makes writing assignments more meaningful.

Añadir pasos intermedios en el proceso; aunque las inteligencias artificiales puedan ayudar en estos pasos también tendremos, al final, que el estudiante habrá tenido que interactuar más con el resultado.

Here we mean annotation of readings, brainstorming, outlining, drafting, peer review, revision, and reflection on the process. While AI systems could be used to produce artifacts simulating artifacts of a writing process and metacognitive reflection, assigning them supports and encourages student engagement and makes dishonesty more cumbersome.

Solicitar documentación y reflexiones adicionales sobre el propio proceso, de manera que el trabajo para engañar sea más costoso, y el trabajo de realizar la tarea sea más provechoso.

Asking students to share and comment on the version history for their draft can help make it transparent when text was copied and pasted from another source.

Probar, claro, nuestros enunciados en las inteligencias artificiales, para familiarizarse con los resultados y saber qué se puede esperar de estos sistemas.

The purpose of such testing would be to give instructors familiarity with the quality of outputs that might be expected.

También dedican una sección a algunas apuestas que consideran que no serían interesantes.

Una es tratar de encargar tareas que las inteligencias artificiales no vayan a ser capaces de hacer.

Some instructors have attempted to create assignments they don’t think AI systems can plausibly complete.

Solicitar trabajos que se hagan solo en clase.

Some instructors are moving toward assigning writing only by hand and/or only in class.

El problema en este caso, nos dicen, es que el tipo de trabajos que se pueden pedir queda reducido notablemente. No hay que olvidar que el objetivo es el aprendizaje, reflexión, análisis,…

Yo ya llevo algún tiempo trabajando con los estudiantes en estos esfuerzos de reflexión y discusión sobre lo entregado, porque creo que esto les ayuda a comprender mejor lo que han hecho, pero también lo que se podría hacer, pero el esfuerzo a veces es importante y no siempre disponemos de tiempo suficiente.

Por lo tanto, descarga, archiva, conserva ...

2024-05-09T00:00:00+00:00

Siguiendo la estela de lo que decíamos la semana pasada (Nada es eterno en internet, parece) y teniendo que recordar que seguramente lo haremos mal (el trabajo de archivero no es tan sencillo como a veces pensamos), nos viene al pelo otra entrada que nos recordaba el tema desde otro punto de vista: Nota para mi yo del pasado: descarga todo lo que amas.

A través de sus vivencias personales Javier Lacort nos recuerda cómo algunas cosas que le gustaban e incluso páginas web que hizo en algún momento hoy en día están perdidas.

Hoy no tengo acceso a ninguno de esos elementos que construyeron mi adolescencia.

Para muchas personas, no tener acceso a sus recuerdos de la adolescencia no es un problema, pero está claro que siempre habrá contenidos (digitales y de otro tipo) que nos gustaría tener más adelante.

Algo así me gustaría sentir rememorando ese tipo de recuerdos digitales.

Y es porque a veces no nos damos cuenta de lo que estamos perdiendo.

O peor: porque no entendía el valor que daría en el futuro a lo que entonces era cotidiano pero que hoy amaría.

Así que la propuesta es clara: ¿por qué no acumular todo lo que nos gusta? Por lo que pueda pasar.

Si hacemos fotos y vídeos de lo que ocurre en nuestra vida y queremos almacenar para siempre, ¿por qué no hacerlo de aquello que ocurre en nuestra vida digital? Viva el acumular recuerdos y contenidos que se revalorizarán con el paso del tiempo, amigos.

Me he sentido cercano a Lacort porque casi todo lo que leo lo voy guardando (en una cuenta de correo, recordad que hablaba de nuestras malas costumbres archivísticas) y ya llevo una buena temporada dándole cariño a muchos de mis recuerdos digitales (o digitalizados, que es una forma de tener a mano algunos documentos físicos).

Como bola extra (sólo para manitas digitales) una herramienta de Simon Willison, Dogsheep que tiene un montón de herramientas para descargar contenido (propio, pero también de otros) de diversos sitios de publicación y los archiva localmente.

Y un recordatorio a la Indie web y sus publicar en varios sitios, republicar, (sin enlaces, que blogalia sigue en horas bajas) …

Nada es eterno en internet, parece

2024-05-03T00:00:00+00:00

Tengo guardado este enlace desde hace tiempo (pero ya se habrán fijado en que, además, le estoy dedicando poco tiempo a este sitio), que nos habla del archivado, la permanencia de la información en la red y cómo se van perdiendo datos poco a poco.

Se trata de Finer Points: Web rot is erasing our images and videos y empieza hablando de la ‘crisis de los cuarenta’ de internet, esa edad en la que se pasa revista, elecciones, metas…

The Internet is in the midst of a midlife crisis. Its age is anywhere from 33 to 40 years old, the ripe age for contemplating past misses and successes, its legacy and an overbearing questioning of choices, behaviors and goals.

Poco después introduce el concepto de pudrición, de la mano de pequeños cambios (se centra en fotografía, porque el sitio es DrPreview, que es ¿era? un sitio sobre material fotográfico y noticias alrededor del mundillo). Nos dice que uno de los servicios Apple se ha eliminado, Google ha quitado el almacenamiento ilimitado para fotografías, Flickr también ha borrado imágenes, Vimeo…. Todavía lo es porque encontraron un comprador (Camera review site DPReview finds a buyer, avoids shutdown by Amazon).

Right before our eyes, the web is not only changing but rotting. Sometimes, the changes are small: Apple removes a photo product, Google removes unlimited photo storage, and Twitter breaks its legacy referral links. Other times, it is much larger, such as Flickr deleting thousands of user photos, Vimeo deleting user videos ...

Internet hoy en día es una competición económica, donde lo que realmente avanza son los intentos de ser la próxima gran empresa en obtención de beneficios, con los usuarios pasando por caja.

Today's Internet, seemingly driven by economic pursuits, is a cornucopia of tech companies racing to leverage AI to make operations more efficient, always on service with monthly subscriptions, social media clout chasing with revenue sharing schemes or plain old quarterly growth financials.

Mientras tanto, mucho de lo que creíamos archivado en la red para siempre va desapareciendo.

Past websites, scholarly papers, early streaming videos, photos and more are vanishing daily, lost to the ether. Web rot reminds us that the Internet is not permanent.

Se están perdiendo, nos dice, imágenes importantes de Twitter (X), como muchas de las que se publicaron en la llamada primavera árabe.

But the bulk of these images and videos were made between 2010 and 2013, and if a glitch in code can erase it all, what a scary prospect for our future knowledge.

La cuestión es que depender del archivado realizado por estas empresas se está demostrando que es una temeridad (no creo que la cosa sea mucho mejor en muchas empresas y organizaciones, donde los único que estamos seguros que se mantiene son los datos ‘vivos’: nos esperan ‘sorpresas’ desagradables en el archivado de muchas cosas durante los próximos años, o eso me temo).

Por lo tanto, ¿qué podemos hacer? Primero, nos dice, mantener una higiene adecuada de datos, esto es asegurémonos de que esos repositorios en los que hemos confiado siguen vivos (nuestros datos de contacto actualizados, por ejemplo, para asegurarnos de que nos llegen las noticias, aunque sean malas).

First, practice good data hygiene, log into all your accounts where you post photos and videos, and ensure your email and other contact info are up to date. When a service (Flickr or Vimeo, for instance) changes its rules around how it treats your data, they're required to notify you, and if your email is out of date, you can easily miss the news and lose your files.

Segundo, analizar si confiamos en esas plataformas a las que cedemos nuestros datos (imágenes, dice): si es así, podemos seguir; pero si no (y aunque confiemos, diría yo) será bueno mantener una copia local.

Next, take stock of where you are posting and ask yourself if you trust the platform with your images and videos. If you do, continue posting, but consider downloading your data once a year to save files locally in a backup.

Finalmente, ¿tienen las empresas de internet algún tipo de responsabilidad en el archivado de lo que se les ha confiado? Legalmente, nos dice, no lo parece, pero tal vez hay una componente de responsabilidad social que habría que considerar.

Finally, back to the question of whether it's okay for owners of media companies to delete at any time the accumulated history of everything it had ever published. As a private company, legally, of course, they can. But as a social responsibility, maybe they shouldn't.

Yendo más allá, nos dice, deberíamos trabajar con la gente especializada en preservación (por ejemplo, en las bibliotecas públicas, pero también en las empresas de internet y universidades).

Here's a suggestion: work with preservationists within public libraries, tech companies and universities to maintain an archive and continue to make it accessible to the Internet.

Concluye diciendo: preservar los tesoros digitales requierepoco esfuerzo, pero lo primero que hay que hacer es darse cuenta de los riesgos de la pudrición de la web y pedir a las plataformas que albergan esos datos que reconozcan su valor.

We can preserve our digital treasures with little effort, but we have to first recognize the risks of web rot and ask the platforms that hold our data and the companies that own our media to recognize their inherent value. Some things can't be fully captured as a line item on a corporate spreadsheet. Some things require a heart.

Justo en estos días se está hablando de otro problema: la posible desaparición del archivo de internet: The Internet Archive’s last-ditch effort to save itself. En este caso es por falta de dinero, por las amenazas de los ‘guardianes del copyright’.

Medios sociales e inteligencia colectiva, ¿hemos fracasado?

2024-03-25T00:00:00+00:00

Muchos creímos que una democratización de la posibilidad de publicar redundaría en más visiones que, además, serían mejores. Yo sigo pensando que es bueno que todo el mundo tenga acceso a la publicación y, por lo tanto, a tener una audiencia para sus ideas, pero también creo que eso nos impone una responsabilidad: estar atentos, filtrar, no dejarnos llevar…

En Algorithmic Amplification for Collective Intelligence publicaron un texto bastante interesante sobre el tema, con una versión más positiva de lo habitual. El subtítulo es: los medios sociales prometieron una nueva esfera pública democratizada, y digital. Los algoritmos nos pueden ayudar a alcanzarla.

Social media promised a new, democratized, and digital public sphere. Algorithms can help us get there.

Sin embargo, empieza hablando de cómo hemos pasado de estas tecnologías liberadoras a la era de la post-verdad: veíamos las herramientas como revolucionarias, facilitando la comunicación entre personas a nivel planetario.

Just about five years after their respective releases, Facebook and Twitter were touted as literally revolutionary tools. Through its enabling of cheap, fast, and easy peer-to-peer communication at scale,...

Sin embargo, lo que estamos viendo es un incremento de lo que nos hace pensar que la gente ha perdido su capacidad de razonar, debatir y conseguir tener creencias ajustadas a la realidad.

Rather than ushering in the era of the more informed citizen, the increasing use of social media had coincided with events that seemed to fundamentally question people’s ability to reason, deliberate, and form accurate beliefs.

No está claro que la única responsabilidad sea de los medios sociales, por supuesto.

Pero hay que entender el papel que desempeñan los algoritmos en la esfera pública en la red, empezando por la clara sobreabundancia de información.

In other words, we now find ourselves faced with information overload. It is impossible for people to engage with all information available to them.

Esto ha hecho que en muchas ocasiones nos veamos obligados a confiar en los algoritmos, que nos permitirían manejar mejor esta sobrecarga. Estos algoritmos se habrían hecho, en cierto modo, imprescindibles para poder enfrentarnos a todo el contenido disponible.

n response to this information overload, we have come to rely on content-curating algorithms such as those underlying recommender systems on social media ... ... These algorithms provide a truly indispensable service.

Pero claro, estos algoritmos no son neutros, y promueven ciertos tipos de contenido frente a otros, de forma que juchas veces es inocuo, aunque que no siempre.

Other the other hand, the algorithms we rely on to navigate through the overload of information online are not neutral. By design, they tend to promote some types of content while suppressing others —a process sometimes referred to as algorithmic amplification.[44,45] While this is innocuous or beneficial in many instances,...

No sólo eso, sino que en muchos casos este diseño es paternalista, puesto que trata de indicarnos qué es lo relevante para nosotros, desde el punto de vista de sus diseñadores. Y el objetivo casi siempre es económico (que las plataformas ganen más), así que los algoritmos tratan de obtener esos resultados.

As currently implemented, algorithmic amplification is inherently paternalistic. The underlying algorithms are designed by platform engineers who get to decide what it means for some content to be “relevant” to some user. Since most platforms have commercial goals to retain their users and maximize revenue, they are incentivized to design algorithms that amplify content in ways that achieve these goals.

Por lo tanto, algo habría que hacer para que las plataformas reflejen mejor los intereses de sus usuarios y esto pasaría por hacer algunos cambios en la forma de interactuar, mejorar las competencias digitales de la gente o hacer que las plataformas se comporten de manera más transparente.

The basic idea is that by making small changes in the user interface, supporting users’ digital competencies, or by regulating platforms to be more transparent, people might be able to have more informative and less misleading experiences online

Algunos ejemplos de esto son los verificadores externos (factchecks) y las notas de las comunidades (community notes). Pero es inevitable que estas medidas se centren en una parte del problema, sin poder ayudar al usuario en todas sus necesidades.

All of these efforts are valuable and worthwhile. They help people get the most out of access to information online without encroaching on their agency. However, these existing efforts have tended to focus on just part of the picture.

También podríamos ver estos algorimos y su amplificación como una oportunidad: que nos ayuden a navegar pero que no estén optimizados para engancharnos a nada, ¿sería esto posible?

What if we viewed algorithmic ranking and amplification not as a threat to be mitigated, but as an opportunity? We need algorithms to help us navigate information online, but those algorithms need not optimize for engagement. Is it possible to engineer a better online public sphere by changing the algorithms that mediate it?

Ya hay algunas iniciativas, por ejemplo en Spotiy saben que si los algoritmos se basan solo en las relaciones con el contenido, lo que aparece es que los ricos se hacen más ricos y los nuevos participantes tienen dificilísimo poder despertar el interés de nadie. Así que añaden parámetros que contrarestan este efecto.

At Spotify, for instance, it has been recognized that an exclusively engagement-based approach to recommendation would result in a rich-get-richer feedback loop, whereby the popularity of top performers gets rewarded over and over again while new artists have little opportunity to break into the market. For this reason, Spotify researchers have included a “fairness” metric in their algorithm so that new artists, and artists of different demographics, are more likely to be included in recommendations and playlists.

Claro, digo yo, cuando se producen estos fenómenos lo que termina sucediendo es que la gente se va, porque lo que obtienen va perdiendo más y más interés.

En YouTube, nos dicen, también incluyen parámetros relacionados con la ‘responsabilidad’ que incluye respuestas a encuestas que se hacen los usuarios.

At YouTube, criticism that their engagement-based approach to recommendations amplified toxic videos was rebutted with an explanation that, “since 2017, YouTube has recommended clips based on a metric called ‘responsibility,’ which includes input from satisfaction surveys it shows after videos.”

Una vez alcanzadas (cuando se alcance) las recomendaciones cuyo objetivo es el benficio social, la siguiente etapa sería tratar de alcanzar la inteligencia colectiva: esto es, algoritmos que mejoren la deliberación y mejoren nuestro conocimiento.

Once we acknowledge that the algorithms driving social media recommender systems and civic platforms can be programmed to optimize for socially beneficial outcomes, it seems reasonable to ask: Can we optimize for collective intelligence? Specifically, can we design algorithms to curate content in ways that support deliberation and improve the accuracy of our beliefs?.

También sería interesante dar visibilidad a los usuarios que tengan un mejor historial de buen juicio sobre algún tema.

A second thought might be to amplify users with track records of accurate judgments on a given topic.

Y la pregunta es, ¿sería posible amplificar algorítmicamente los buenos argumentos?

This stream of research begs the question: What if we could algorithmically amplify good arguments online? If algorithms could classify and promote strong, well-structured arguments over fallacious, weak arguments, this could seemingly foster more informed deliberation online.

Nada garantiza que esto fuera a mejorar el comportamiento de la gente en la red, ni sus habilidades o conocimientos y a partir de aquí el artículo se vuelve algo más técnico, sin olvidar que esto también es manipular la información y a la gente.

Another criticism of this work is that content-curating algorithms are manipulative and redesigning them does not change this. While it is true that content-curating algorithms are inherently paternalistic as currently implemented, there are reasons to not shy away from this issue.

Tampoco hay que olvidar que estas plataformas son negocios y hace falta que haya incentivos y modelos de negocio para que estas nuevas aproximaciones tengan sentido.

Even if algorithms for intelligence-based ranking are developed, there are no incentives or business models for adopting them

Muy interesante. Léanlo entero, si pueden.

Mi opinión es que, efectivamente, estas propuestas parecen difíciles de conseguir, pero que si nadie prueba es bastante probable que sigamos igual. También, como digo cada vez que puedo, que tenemos que estar atentos individualmente, no dejarnos llevar por las emociones (o al menos solo de vez en cuando) y estar alerta todo el tiempo para no equivocarnos a la hora de apoyar causas, difundir información y estar en la red. Y tampoco olvidar que estos algoritmos sociales están siendo emulados desde los medios más tradicionales, que necesitan sobrevivir y también necesitan que les prestemos atención, de la manera que estemos dispuestos a hacerlo.

Future Politics. Algunos párrafos que señalé mientras lo leía.

2024-03-11T00:00:00+00:00

A principios de año leí el libro Future Politics: Living Together in a World Transformed by Tech de Jamie Susskind y me gustó bastante. Con lo fácil que es encontrar libros que dicen todo lo que va a ir mal con la tecnología este libro trata de mostrarnos algunas ideas positivas (y también qué cosas pueden ir mal o están yendo mal). No me veo con fuerzas para comentarlo, pero sí que señalé algunos párrafos (sin intención de ser completista ni nada de eso) y voy a ponerlos por aquí.

Sobre dónde se realiza la computación (el trabajo informático) hoy en día y las consecuencias. La potencia de cálculo está disponible para cualquier dispositivo (no hace falta que sea especialmente pontente) y además las máquinas no aprenderán solo de sus ‘propias’ experiencias, sino que forman parte de un enjambre informacional:

A final point about machine learning: it used to be that the computing power that fuelled any particular system was physically present within the system in question. The most powerful digital devices literally contained the processors that made them run. The arrival of cloud computing in the last decade or so has meant that the computing power no longer needs to be located within the device itself: like Apple’s Siri it can be accessed over the internet. This has major implications for the integration of technology, as it means that small devices can draw on big computing resources (chapter two). But it’s also important for machine learning because it means that machines don’t need to ‘learn’ from their own separate experiences; they can learn from others’ too, so that every machine in a swarm or fleet adds to the collective ‘intelligence’ of the whole.

Los cuatro factores de la información: se recogen muchos más datos, gracias a la actividad social alrededor de todo lo que se puede digitalizar (y se digitaliza); el coste del almacenamiento se ha reducido cada dos años a la mitad durante los últimos cincuenta; la explosión en capacidad de cálculo nos ha dado la capacidad de procesar lo que almacenamos; finalmente, la información digital prácticamente no tiene coste de reproducción.

Four factors have made this possible. First, much more data is gathered, because an increasing amounts of social activity is undertaken by and through digital systems and platforms. Second, in the last fifty years the cost of digital storage has halved every two years or so, while increasing in density ‘50-million fold’. Third, the explosion in computational power has given us the ability to process what we store. Fourth, digital information has almost no marginal cost of reproduction— it can be replicated millions of times very cheaply. Together, these factors explain why the transition from a print-based information system to a digital one has yielded such an explosion of data.

A veces se usa de manera intercambiable código y algoritmos, cuando no son estrictamente lo mismo. La idea de algoritmo se refiere a la descripción de cualquier aproximación matemática al razonamiento, cálculo y manipulación de datos. Se trata de un conjunto de instrucciones para realizar una tarea. Pero no necesita estar codificado para que lo maneje una máquina. Cuando hablamos de tecnología digital el algoritmo es la fórmula y el código es la expresión del algoritmo en un lenguaje de programación.

Code and algorithms are often referred to interchangeably, but they’re not strictly the same thing.The word algorithm can be traced back to the ninth-century Persian mathematician Abd’Abdallah Muhammad ibn Mūsa ̄ Al-Khwar̄ izmī. The translation of his name, algorismus, came to describe any mathematical approach to reasoning, calculating, and manipulating data.8 Today, the word algorithm describes a set of instructions for performing a task or solving a problem. It need not be written in computer code. ... When we talk about digital technology, the algorithm is the formula and the code is the expression of that formula in programming language.

Sobre los protocolos en las actividades humanas. ¿Qué sucede si nuestro médico ignora las pruebas y se deja llevar por su experiencia o intuición y el resultado es dañino para nosotros?

After a while you are attended by a human doctor, Dr Smith, who inspects your leg and tells you that it needs to be operated upon immediately. Concerned by this response, you ask whether that course of action is consistent with the X-ray results. Dr Smith replies that he has not looked at the X-ray results; he does not need to. He’s an experienced physician and has seen this a hundred times before—the leg needs to be operated on immediately. The surgery takes place, and it turns out that Dr Smith was wrong: there was no need to operate after all. This would have been clearly visible from the X-ray results. Unfortunately, because of complications arising from the surgery, you suffer long-term damage to the limb. You sue the hospital. In court, unsurprisingly, the judge finds that Dr Smith acted negligently by not looking at the scans— not because the law contains a rule specifying that doctors must always look at X-ray results, but because the law lays down a standard that doctors must exercise reasonable care or they will be negligent. It was negligent, the court finds, to refuse even to look at the scans.

Tal vez si hubiera habido más tecnología, el Dr. hubiera debido seguir mejor los protocolos para poder avanzar.

Now imagine what might have happened in the digital lifeworld. Dr Smith would have been required to consult Robots MD and JD before operating. Not to do so would itself be negligent. In fact, it might not have been possible to register a surgical procedure on the system without having consulted Robots MD and JD first.When consulted, these AI systems would have warned Dr Smith that he ought to wait for the X-ray; operating without doing so would be likely to cause harm and be seen by a court as negligent.

Esto puede llevar a situaciones como las de no poder hacer nada que no haya previsto el diseñador del sistema, que nos proporciona un sistema que nos da mayor libertad para hacer cosas, pero que también la restringe.

Liberty and Private Power One of the curious traits of digital technology, as we’ve seen, is that it can enhance and restrict our freedom at the same time. It frees us to do things that we couldn’t do previously. But it restricts us according to the constraints of the code.

Intercambiamos tener que sufrir algo de totalitarismo a cambio de la comodidad y los resultados que podemos conseguir.

The legal scholar Tim Wu, referring to this example, observes that ‘consumers on the whole seem content to bear a little totalitarianism for convenience.’

La capacidad de procesamiento de datos tendrá otras consecuencias: cuando alguien consiga un trabajo, será común que éste sea medido, observado y evaluado por algoritmos. Esto significa que los algoritmos decidirán quién consigue su medio de vida.

Algorithms, in short, will decide whether millions of people access the most precious thing the market has to offer: a livelihood. Once a person has a job, it will become more common for their work itself to be measured, monitored, and assessed using algorithms. They’re already used to predict when employees

Pero dejar que los algoritmos tomen esas decisiones no es necesariamente malo. Es posible que algoritmos bien diseñados pudieran eliminar los sesgos y prejuicios de los humanos. podría, por ejemplo, ampliar la base de candidatos para un puesto, más allá de las universidades y centros habituales. Y lo mismo podría pasar con los créditos, seguros… Los algoritmos podrían convertirse en un mecanismo de redistribución más justo.

Using algorithms and data to make these decisions is not inherently a bad thing. On the contrary, it’s possible that carefully crafted algorithms could eliminate the biases and prejudices of human decision-makers.With regard to work, for instance, affirmative action algorithms could be used to broaden the pool of successful applicants from beyond the usual colleges and institutions. When it comes to loans, housing, and insurance, algorithms could be used to widen access for those who need or deserve it most. My point, at this stage, is simpler: code (embodying algorithms) is an increasingly important mechanism of distributive justice.

Pero esto no tiene por qué suceder por sí solo, es necesario prestarle la atención adecuada.

It demands close political attention.

También pueden afectar a los precios. Si alguien midiera cómo usamos los sistemas (incluyendo fuentes externas de información) podría aumentar notablemente sus beneficios. Esto podría llevar, por ejemplo, a precios para cada persona, esto es, cobrar a cada usuario justamente lo máximo que está dispuesto a pagar por un servicio, en ese preciso momento.

Research suggests that if Netflix took into account its customers’ online behaviour (5,000 variables, including how frequently they visit IMDB and Rotten Tomatoes) it could increase its profits by more than 12 per cent. An extreme end result would be ‘person-specific pricing’ whereby algorithms are used to charge customers the precise maximum they are prepared to pay at that moment.

El libro dice muchas más cosas y creo que ha valido la pena leerlo y aquí sólo hemos dejado unos párrafos que nos llamaron la atención.

Automatización: contenido automático, publicidad programada y tú ¿también eres un robot?

2024-03-08T00:00:00+00:00

Uno de los miedos que tenemos a la tecnología y a la inteligencia artificial (como si fuera la única/última tecnología disponible para ello) es la posibilidad de quedarnos sin trabajo. Siendo esto posible, lo cierto es que no hay mucho que podamos hacer, en mi opinión: los productores de lo que sea eliminarán al humano y colocarán una máquina siempre que eso sea rentable. Pero sí que hay algo que podríamos y deberíamos estar haciendo: dejar de apoyar sitios que generan información automática (o semiautomática, que como decíamos arriba muchos sitios ya llevan años alimentando sus informaciones/contenidos a través de copias o inspiraciones más o menos automatizadas; no solo eso, han convencido/engañado a Google para que salgan bien parados en los resultados del buscador). La tecnología nos podrá sustituir, pero seremos nosotros los que estaremos ayudando a que eso pase con nuestras acciones: compras, lecturas, …

En Junk websites filled with AI-generated text are pulling in money from programmatic ads hablaban de esto y me pareció interesante.

Empieza diciendo que hay muchos sitios que ya son generados por inteligencia artificial y que hay empresas financiándolos con su prespuesto de publicidad.

People are using AI chatbots to fill junk websites with AI-generated text that attracts paying advertisers, according to a new report from the media research organization NewsGuard that was shared exclusively with MIT Technology Review.

Esto sucede porque la propia contratación de publicidad está automatizada, lo que significa que nadie mira donde sale ni si esos sitios son mejores o peores.

Most companies that advertise online automatically bid on spots to run those ads through a practice called “programmatic advertising.”

También, no tengan duda eso es así porque mucha gente visita estos sitios en busca de recomendaciones, consejos o lo que sea: todo tiene sentido económico. Y allí es a donde yo quería ir cuando hablaba de que somos agentes necesarios de este sistema.

Algorithms place ads on various websites according to complex calculations that optimize the number of eyeballs an ad might attract from the company’s target audience.

Luego hay un poco de publicidad de un producto que supuestamente nos ayudaría a evitar eso, pero el diagnóstico es lo que me interesa.

Por supuesto, también hay quien usa esto para generar desinformación, y bulos.

... most of the AI-generated sites are considered “low quality” but “do not spread misinformation.” But the economic dynamic of content farms already incentivizes the creation of clickbaity websites that are often riddled with junk and misinformation, and now that AIs can do the same thing on a bigger scale, it threatens to exacerbate the misinformation problem.

¿La solución? Tan fácil y tan difícil como que naveguemos conscientemente, paguemos por servicios de suficiente calidad y sigamos recomendaciones de personas y no de sitios de los que no podemos saber si fiarnos o no.

Como bola extra, una lectura reciente, How Google is killing independent sites like ours sobre un tema del que ya habíamos hablado y que muestra cómo el problema ya venía de antes.

Hola mundo

2024-03-07T00:00:00+00:00

Se sabe cuándo empiezan las cosas, pero no cuando terminan.

Después de 22 años con el Reflexiones e Irreflexiones no sabía si cerrarla, seguir escribiendo allí o hacer algún cambio.

Finalmente (o de momento, quién sabe) he pensado en abrir este sitio, asociado a mi dominio (lo único que nos pertenece en internet, visto lo visto, y no del todo son los identificadores).

Tengo que tomar algunas decisiones (¿copiar el contenido de allá? no creo que tenga sentido), pero bienvenidos a su/nuestra casa digital. También habrá que adaptar las plantillas, ver qué ponemos y qué quitamos…