Las definiciones son importantes: IAs 'open source'

Llevamos una (larga) temporada hablando de inteligencia artificial (fundamentalmente modelos gigantes de lengugaje LLMs) y una de las iniciativas que ha proliferado es la posibilidad de descargar los modelos para ejecutarlos localmente (buena noticia desde el punto de vista, al menos, de la privacidad); además, se proporciona información acerca de como se han desarrollado (con la idea de poder intentar reproducirlos), origen de los datos, para qué se pueden utilizar, posibilidad de modificarlos e incluso redistribuir estas modificaciones.

En The Open Source AI Definition Is Out nos hablan justamente de eso: recientemente se publicó la versión 1.0 de la definición de lo que se consideraría una IA ‘open source’, según la Open Source Initiative.

Básicamente la definición dice lo que hemos puesto arriba.

- Provide sufficient information about its design to allow substantial recreation - Disclose pertinent details about training data, including provenance and processing methods - Allow usage for any purpose without permission - Permit studying of the system’s inner workings - Enable modification for any purpose - Allow sharing of the original or modified version.

El problema es que la mayoría de las IAs que ofrecen las empresas llamándolas ‘open source’ no cumplen las condiciciones.

Spoiler alert: Many won’t. The open-wash releases from AI companies such as OpenAI and Meta don’t make the OSAID grade.

Mientras que con el código todo estaba claro, en este caso nos movemos en terrenos más pantanosos, puesto que se incluye código, datos, técnicas, sesgos…

... analyst Stephen O’Grady ... Their scope blends software, data, techniques, biases and more. AI is inarguably a fundamentally different asset than software alone.”

Está claro que un estándar como el propuesto puede servir de referencia y para aclarar el panorama, aunque no sea lo que elijan las empresas relevantes.

No matter where you land on this issue, this new standard could have significant implications for companies that have been marketing their AI models as “open source.”

Desde la iniciativa están abiertos al cambio, pero consideran la propuesta como una primera versión (que no es beta) y esperan que se utilice, se comprenda mejor y se pueda hablar de estas cosas con más precisión a partir de ahora.

Piana explained, being open to change is an “acknowledgment that our collective understanding of what AI does, what’s required to modify language models is limited now. The more we use it, the more we’ll understand. Right now our understanding is limited, and we don’t know yet what the technology will look like in one year, two years, or three years.” Thus the OSAID is leaving room for future flexibility.

Ya era hora.