Intento poner una IA local a trabajar en mi Mac M1: esto es lo que pasó

¿Podemos tener nuestra propia inteligencia artificial en el Mac?

Durante los últimos años hemos pasado de preguntarnos qué puede hacer la inteligencia artificial a preguntarnos algo diferente: ¿podemos tenerla trabajando directamente en nuestro ordenador?

La idea parecía bastante sencilla.

Tenemos un Mac con procesador M1, tenemos modelos de inteligencia artificial que podemos descargar y tenemos herramientas que prometen convertirlos en asistentes capaces de ayudarnos a programar.

Así que pensamos: ¿por qué no probarlo?

El objetivo no era montar un laboratorio de inteligencia artificial ni convertirnos en ingenieros especializados en modelos de lenguaje. Queríamos algo mucho más sencillo: un asistente de programación que estuviera en nuestro propio ordenador y que nos ayudara a trabajar con nuestros proyectos.

Y ahí empezó la aventura.

En YouTube todo parece mucho más fácil

Si buscas información sobre inteligencia artificial local encontrarás muchos vídeos en los que parece que todo consiste en instalar una aplicación, descargar un modelo y listo.

Y nuestro primer contacto con Ollama fue precisamente así.

Ollama es una herramienta que permite descargar y ejecutar modelos de inteligencia artificial directamente en nuestro ordenador, sin depender de un servicio en la nube.

Y funcionó.

Ese momento fue importante porque comprobamos que aquello que parecía tan complicado realmente podía hacerse.

El problema llegó cuando quisimos ir un paso más allá.

No queríamos simplemente hablar con la IA

Nuestro objetivo no era tener una ventana donde preguntarle cosas a una inteligencia artificial.

Queríamos que trabajara con nosotros.

Que pudiera entender un proyecto, consultar archivos, modificar código y ayudarnos realmente durante el proceso de programación.

Y ahí descubrimos que ejecutar un modelo de IA y conseguir que ese modelo se comporte como un verdadero asistente de programación son dos cosas bastante diferentes.

Probamos diferentes posibilidades.

Qwen fue uno de los modelos que utilizamos. También probamos herramientas como Ornit, OpenCode y Aider, cada una intentando solucionar de una manera diferente ese problema.

Y tuvimos pequeños éxitos.

Pero también tuvimos muchos momentos de:

“Esto no funciona.”

El verdadero problema no era ejecutar la IA

Nuestro Mac podía ejecutar modelos de inteligencia artificial.

Eso estaba claro.

El problema era conseguir juntar todas las piezas que necesitábamos: modelo, contexto, herramientas, acceso al proyecto y capacidad para realizar acciones sobre él.

Y cuanto más avanzábamos, más evidente era que tener una IA funcionando no significa necesariamente tener un asistente de programación funcionando como nosotros queríamos.

Incluso descubrimos algo curioso con el Neural Engine de Apple.

El M1 tiene núcleos especializados para inteligencia artificial, pero eso no significa que cualquier modelo local pueda utilizarlos automáticamente. El programa y el modelo tienen que estar preparados para aprovechar ese hardware.

Así que tener un Mac con un Neural Engine no solucionaba mágicamente nuestro problema.

¿Entonces fracasamos?

Aquí viene la parte interesante.

Al final llegamos a una conclusión bastante clara: para nosotros, para nuestros proyectos y para lo que queríamos conseguir, la IA local no era viable en ese momento.

Pero eso no significa que la inteligencia artificial local no funcione.

De hecho, funciona.

Hay personas para las que puede ser perfectamente útil. Depende del ordenador, de los modelos, de las herramientas y, sobre todo, de lo que quieras hacer con ella.

Nosotros simplemente descubrimos que nuestro caso concreto no encajaba con las posibilidades que teníamos.

Y aprendimos muchísimo durante el camino.

Hay fracasos que son éxitos

Quizá esta sea la principal conclusión de nuestro experimento.

No conseguimos exactamente lo que buscábamos, pero conseguimos algo igualmente importante: saber hasta dónde podíamos llegar.

Probamos herramientas nuevas, entendimos mejor cómo funciona la IA local y descubrimos que muchas veces la tecnología no es tan sencilla como parece en un vídeo de YouTube.

Pero tampoco es imposible.

Y esa es precisamente la razón por la que merece la pena probar.

La tecnología cambia constantemente. Lo que hoy no funciona bien puede func