Las IAs como consejeras o ayudantes

Algo que parece que no está claro para todo el mundo es que la IA no sirve para todo (hasta ahora) y mucho menos los LLMs (modelos de lenguaje gigantes), que hacen algunas cosas muy bien y otras no tanto.

En Why ChatGPT is a uniquely terrible tool for government ministers nos cuentan el caso de Peter Kyle, Secretario de Estado de Ciencia y Tecnología en Gran Bretaña (UK), que habría estado usando una de estas IAs como consejera para cuestiones de su negociado. En concreto, borradores de discursos, pero también sugerencias sobre a qué podcasts acudir y recomendaciones sobre su gestión.

Kyle apparently used the AI tool to draft speeches and even asked it for suggestions about which podcasts he should appear on. But he also sought advice on his policy work, apparently including questions on why businesses in the UK are not adopting AI more readily. He asked the tool to define what "digital inclusion" means.

Pero, nos dicen, esto tiene muchos problemas:

• Las IAs miran el pasado (los datos con los que han sido entrenadas, que son los que había disponibles en ese momento, y no el futuro.

No sería un problema solo por tratarse del pasado, sino también por el sesgo en los datos acerca de lo que había: un gobierno conservador.

... that means that not only will a Labor minister be accessing information from the past, but he'll be advised by an algorithm leaning heavily on advice given to Conservative governments.

• Prejuicios.

Cuando uno de estos modelos no puede dar una buena respuesta basa las suyas en lo que se llama su ‘modelo de verdad’, que típicamente considera el consenso como el valor aceptable. El problema es que la verdad es la que es, independientemente de lo que la mayoría de la gente piense (no estamos hablando, claro, del consenso científico o de los especialistas).

For us, the truth is what best corresponds to reality in the physical world. The divergence between the truth models could be consequential in many ways.

Por este motivo pueden aparecer problemas relacionados con prejuicios, sexismo, racismo ..

Social prejudices, including sexism and racism, are easily internalized under the consensus model.

• Narrativas complacientes

Los modelos proporcionan, típicamente, historias atractivas y elegantes cuando responden. El objetivo es responder, pero también que los usuarios sigan teniendo interés en usarlas.

These poetic pieces of writing work well for engagement and help OpenAI to keep users hooked on their product.

Lamentablemente, el mundo real no siempre es bonito ni atractivo: complejidad, contradicciones, dilemas morales… que en muchos casos ni siquiera tienen solución.

But the real world is not a story. It is a constant swirl of political complexities, social contradictions and moral dilemmas, many of which can never be resolved.

La verdad es que, al final, el uso de Kyle no es más que una excusa para introducir algunos arumentos que a mi me han parecido interesantes, y que mucha gente ignora cuando utiliza este tipo de herramientas.