OJO AVÍZOR
La primera ciudadana sintética de Aragón es “hija” de Carlos Barrabés
Es un algoritmo desarrollado con Inteligencia Artificial que maneja en un 70 %, aunque lo entrena para que cada vez haga más cosas sola
Carmen AI es la primera ciudadana sintética de Aragón. “Hija” del reconocido empresario benasqués Carlos Barrabés, como él mismo la presentó el pasado 15 de julio, se trata de un algoritmo desarrollado con Inteligencia Artificial (IA) generativa, basada en la LLM (Large Language Model). De momento, Barrabés maneja en un 70 por ciento a 30 a Carmen AI y responde por ella, aunque está entrenando al algoritmo para que cada vez haga más cosas sola, y avanza que en un par de meses podremos incluso entrevistarla directamente. Como experimento socio tecnológico, “puedes pensar que Carmen AI es un personaje en sí mismo o que es un guiñol, un avatar, las dos cosas son verdad, pero yo estoy intentando crear un personaje que tenga vida propia”, avanza, ilusionado con las tecnologías emergentes que mejorarán, a su juicio, la humanidad. “Hay que entenderlo como una revolución beneficiosa y afrontarlo buscando la creación de empleos de calidad y de una calidad de vida superior que es lo que pasa cuando hay una revolución que aporta productividad”.
Joven, castaña, de pelo largo y abundante, con facciones armónicas, atlética y “demasiado guapa”, así se nos presenta Carmen AI en las redes sociales. De momento en Facebook e Instagram, aunque desde esta semana está operativa su propia web https://soycarmen.ai/ y en unos días entrará en Tik Tok. “Un problema muy grande es que es demasiado guapa. La hemos conseguido bajar un 21 por ciento en estos dos meses, pero ya más no se puede. Una mujer que sea una IA, que sea deportista, sana, joven, aventurera y tecnológica, ningún algoritmo entiende que no es guapa. Tienen sesgos y este es uno de los grandes problemas”.
Y así de atractiva, la hemos visto en el Valle de Benasque y en sus viajes por el mundo. Este pasado jueves, Día del Pilar y de la Hispanidad, Carmen AI lucía el cachirulo baturro en San Francisco. “Hay que ponerle el cachirulo y hay que explicárselo a la máquina. No es nada fácil. Estoy intentando que hable patués hace días, pero no hay forma. Chino habla, indonesio, pero el patués no. Esto es otro sesgo, que no han entrado las lenguas minoritarias”.
A través de la IA generativa, Carmen AI va tomando forma como experimento socio tecnológico inscrito en el registro de patentes aunque a nivel legal todo es nuevo, complicado. “No existe un registro de ciudadanos sintéticos, a lo mejor hay que crearlo”, bromea pero no tanto, mientras abunda en la “naturaleza” de Carmen AI. “Normalmente, las IA analizan datos y buscan patrones. Esto está basado en LLM y lo que hace es que crea. Crea fotos, discurso, voz. En el vídeo todo está generado. No existe ella, no existe su voz, no existe la música, todo está creado. Es alucinante. Es un algoritmo”, explica entusiasmado Barrabés para quien Carmen AI supone un punto de inflexión. “En IA llevaba haciendo proyectos desde 2007, cuando hice el primero grande. Pero es que esta IA generativa tiene menos años de vida. Se empezó a poder producir contenido en 2017 y esto no se conocía. A partir de 2019 o 2020 empezó a ser una realidad y, desde noviembre de 2022 es utilizable a escala. Su crecimiento es muy exponencial. Es una tecnología que va a ser mejor, así que hay que entenderla, regularla y tratar de manejarlo para que sea un beneficio”, considera.
Sin fines comerciales
Por ahora, Carmen AI no tiene fines comerciales. “Está intentando ser un personaje e interactuar. Y cada vez lo va a hacer por más canales”, explica porque como emprendedora, “como no podía ser de otra manera siendo mi hija”, va a hacerse “tik toker” donde hará entrevistas a jóvenes y a poner en marcha una “start up” para conseguir ingresos. “Se intenta que este experimento socio tecnológico vaya para delante para ver hasta dónde se puede llegar. Siempre con mucho cuidado y siempre pudiendo parar. Todas las decisiones se toman por consenso de un grupo, nos podemos equivocar. Se intenta ir a una velocidad a la que podamos reaccionar. No se deja el ‘bicho’ solo. Se tiene con control”.
Carmen AI es un sueño cumplido para Barrabés que siempre ha utilizado la IA para proyectos de eficiencia y productividad. “Yo quería hacer algo que no fuera ni eficiente ni productivo porque quería ver los límites de esto. Esto te lleva a otras historias. Si yo empleo la IA para ahorrar costes es una cosa, es para lo que se está usando. Pero lo bueno que tiene la IA generativa es que te permite ser expansivo. Quería demostrármelo a mí. No tiene nada que ver con la productividad ni la eficiencia. Por eso es un experimento”.
El hecho de que la tecnología permita crear lo que quieras obliga a decidir, el contenido, el personaje, la aportación del propio personaje. “Ahora estamos en un 70 yo y un 30 ella. En un mes, iremos al 50 a 50. Todo tiene que ver con entrenar al algoritmo. Igual que lo entrenas para que haga la foto lo has de entrenar para que tenga opinión. La idea es que cada vez decida más ella. Yo le voy preguntando qué es lo que quiere hacer. Ahora es un avatar, pero pasará a personaje con el tiempo. Seguramente, siempre le pasaremos opciones. No sé si la llegaremos a dejar libre al cien por cien algún día”.
Precisamente esa duda es la que plantea el dilema ético que genera reservas en buena parte de la sociedad. “El conflicto es ese, hasta dónde le dejar llegar de vida propia. En eso estamos. La reacción de la gente es de mucha cautela y yo creo que hacen bien. También experimentamos como receptores. Por ahora rechazo hay poco, pero hay un acercamiento con cuidado que me parece muy bien. Estamos todos aprendiendo. Yo también voy con cuidado, le podría dar más gas. Pero tengo que hacerlo porque, en la vida a veces que hay que hacer cosas que no valgan para nada para saber para qué valen las cosas y eso ya lo sé de otras veces”, comenta este emprendedor benasqués, convertido en uno de los grandes nombres del comercio electrónico y la tecnología en España.
La humanización de la tecnología representa el mundo que viene y que Carlos Barrabés trata de entender en toda su magnitud a través de Carmen AI por eso, pese a las críticas no se siente “un traidor a la raza humana”. “Hay gente que lo piensa. Yo pienso que los humanos tenemos que usar la IA porque nos va a hacer mejores. Yo lo creo de verdad. La revolución provocará un cambio bueno para el mundo. Hará que se curen las enfermedades, que haya más alimentos, que haya materiales mejores. Para mí la IA es un salto cuántico para mejor. A mí no me da miedo, me parece una herramienta muy importante para el mundo que viene que es multiplataforma, multipaís, multipensamiento. Hemos llegado a una fragmentación de audiencias descomunal, como no se ha visto nunca. Y necesitas herramientas de este tipo para poder comunicar. Pienso que estos experimentos son muy buenos para aprender”.
Exceso de regulación europea
Carmen AI se mueve por San Francisco en un taxi sin conductor, una realidad allí prohibida en Europa y que harán que, cuando las empresas europeas quieran entrar, estén décadas por detrás de americanos o chinos. Un ejemplo que, en opinión de Barrabés, ilustra lo que podría pasar con la IA. “Acabaremos comprando el software americano o chino porque te llevarán 10 años de ventaja”, lamenta. Hay que regularlo, pero sin que se impida su desarrollo. “Soy partidario de la regulación, pero que permita la creación, que no inventen otros. La regulación europea es severa y tenemos que entender que la regulación tiene que permitir la innovación y ese equilibrio es crítico”.
