Las inteligencias artificiales, la confianza y quién nos la devolverá cuando la perdamos

Ahora estamos empezando a leer que el interés por la inteligencia artificial se enfría y hasta se habla de bancarrotas (OpenAI, Home Of ChatGPT, May Lose $5B This Year – Report) así como de enfriamiento inversor (Investors Are Suddenly Getting Very Concerned That AI Isn’t Making Any Serious Money) y, enfriamiento por las vía legales (Meta Halts AI Training in EU, Brazil Amid Regulatory Concerns). Y aún peor ya empezamos a ver los émulos de los ‘Amazon locales’, las ‘IA locales’ (Madrid usará inteligencia artificial en estos nuevos semáforos: qué significa exactamente y para qué se van a usar. Incluso campañas para no permitir el entrenamiento de las inteligencias artificiales con nuestros datos: Cómo evitar que Twitter use tus datos para entrenar su IA.

Yo dejo a las inteligencias artificiales que aprendan de mis cosas. O que se confundan, quién sabe 😃

— fernand0 (@fernand0) July 26, 2024

También anuncios de algo que más o menos teníamos claro: los buscadores van a cambiar (Search as we know it is officially over.)

Sin embargo, y desde la misma prudencia que hace meses, vale la pena comentar otras noticias. Hace ya unos meses Bruce Schneier ponía su dosis (de prudencia) con AI and Trust.

Comienza recordándonos que nuestra vida se basa en la confianza: el teléfono nos despertará, la empresa de transporte nos proporcionará un medio de transporte, el conductor nos llevará de forma segura a nuestro destino, el resto de conductores no la liarán, ….

I trusted a lot today. I trusted my phone to wake me on time. I trusted Uber to arrange a taxi for me, and the driver to get me to the airport safely. I trusted thousands of other drivers on the road not to ram my car on the way.

Así que la confianza es esencial para que la sociedad funcione. Y además, nos dice, hay dos tipos de confianza: la interpersonal y la social, que habitualmente confundimos.

In this talk, I am going to make several arguments. One, that there are two different kinds of trust—interpersonal trust and social trust—and that we regularly confuse them.

Además esta confusión se va a aumentar con las inteligencias artificiales, porque las confundiremos con algo amistoso, en lugar de lo que son, servicios.

We will make a fundamental category error. We will think of AIs as friends when they’re really just services.

En tercer lugar, las empresas propietarias de estos productos sacarán partido de estas confusiones y, por lo tanto, de nosotros.

Three, that the corporations controlling AI systems will take advantage of our confusion to take advantage of us. They will not be trustworthy.

Finalmente, esto nos lleva a que deben ser los gobiernos los que nos ayuden, regulando estos temas en beneficio de la confianza. Pero, nos dice, no regulando la propia IA, sino a las organizaciones que la controlan.

And four, that it is the role of government to create trust in society. And therefore, it is their role to create an environment for trustworthy AI. And that means regulation. Not regulating AI, but regulating the organizations that control and use AI.

Luego desarrolla los puntos con calma suficiente, vale la pena leerlo.