Partes de una formación en ingeniería industrial y tu trayectoria ha evolucionado hacia la innovación tecnológica y la inteligencia artificial. ¿En qué momento profesional te encuentras ahora?
Hace ya un año decidí emprender y dedicarme, como profesional independiente, por un lado, a la divulgación y, por otro, al acompañamiento de empresas en su transformación digital y en la visualización de su innovación. Y, por supuesto, también a la implantación de sistemas de IA para empresas.
¿Qué balance haces de todos estos años de trayectoria?
Han sido muy gratificantes para mí. Creo que el camino que he seguido ha sido coherente porque siempre he seguido mis inquietudes. Como ingeniera técnica industrial, especializada además en cálculo de máquinas, desde el principio he querido vivir cerca de las máquinas.
Durante los 21 años en los que desarrollé mi carrera profesional en fábrica, trabajando con productos fabriles y manufactura, fui feliz porque era el desarrollo que quería para mi carrera. Pero durante ese camino también fui incorporando mi faceta divulgativa y la generación de vocaciones, como ocurrió con el otro libro que escribí, ‘10.001 Amigas Ingenieras’; mi participación en asociaciones como la Asociación de Mujeres Investigadoras y Tecnólogas; y mi implicación en la propia transformación digital.
Yo era jefa de producto y acompañaba a esos productos durante su desarrollo, hasta que la tecnología empezó a dar unos saltos que para mí resultaban muy estimulantes y decidí adentrarme por completo en el mundo del dato y de la inteligencia artificial, porque para mí representa la evolución de las máquinas.
A medida que avanzaba la tecnología, también potenciaba más mi faceta divulgativa, tanto dentro de la empresa como hacia el público general. Así he ido siguiendo ese camino.
Siguiendo ese camino, ¿cómo fue el proceso de gestación de tu último libro: ‘Los secretos de la IA’?
Bueno, fue como voy contando en el propio libro: se gestó hace muchos años, mínimo diez años. Yo estaba cerca de la evolución de la IA y siempre me ha gustado escribir y contar historias. Además, hace tres años comencé ‘El curioso caso del sesgo de la croqueta’. Cada vez tenía más ganas y más interés en dar a conocer todo esto al público general, más que al público técnico.
Ahí empezó a gestarse la idea de hacer un cuento, porque realmente el libro consiste en contar una historia sobre todo esto que parece, y es, tan complejo como la evolución de las máquinas. La idea fue tomando forma hasta que la editorial me propuso escribirlo, hace algo menos de un año. A mí me gusta mucho leer y todo fue desarrollándose en mi cabeza hasta culminar en este libro.
Partiendo de tu definición o concepto de la IA, ¿qué aspectos siguen siendo peor comprendidos por el público?
Cómo funciona por dentro. Yo explico que necesita una serie de datos para hacer algo que simula un cerebro, aunque está muy lejos de parecerse a un cerebro humano.
Creo, y cada día veo noticias en ese sentido, que la propia frase «la IA está aquí para quedarse», que se dice muchísimo, demuestra que normalmente el público general la percibe como algo que ha venido impuesto, ya establecido, y de lo que no forma parte. Creo que eso es lo que peor se entiende: pensar «esto está aquí, pero yo no formo parte».
Y sí formamos parte. Tenemos responsabilidad y también poder para dirigirla. Pero precisamente por ese desconocimiento no utilizamos esa capacidad. Hacia ahí voy yo: descubre, como explico en el libro, cómo relacionarte con esto sin miedo, porque formamos parte.
Creo que esa es la gran brecha. El público general lo ve como algo que no le compete. Y sí le compete, porque al final esta IA que tenemos ahora es un producto.
‘El curioso caso del sesgo de la croqueta’ acerca al público algunos de los sesgos que también reproduce la IA. ¿Cómo surgió este proyecto?
Surgió de esa idea que yo iba desarrollando alrededor de la inteligencia emocional, que consiste finalmente en la gestión de nuestras propias emociones y en cómo interactuamos con nuestro contexto.
Cuando surgió ChatGPT y la IA generativa irrumpió en la vida de todas las personas, ocurrió algo que hasta entonces había sido muy selectivo, porque la interacción era programática y se realizaba mediante código. Ahora esa interacción se producía mediante la palabra. El ámbito en el que más trabajo es la interacción máquina-persona. De pronto, esa distancia que había entre las máquinas y las personas prácticamente había desaparecido porque la comunicación ya era directa.
Fue entonces cuando empecé a unir todo el conocimiento que había adquirido hasta ese momento y pensé: igual que cuando comemos interactuamos con la comida y ahí aparecen nuestros sesgos cognitivos, cada vez que nos acercamos a una máquina sucede lo mismo. Así surgió todo. Yo tengo casi una obsesión por acercar estos conceptos al público general, a cualquiera. Pensé en hacerlo en un bar porque para mí es un lugar donde estamos cómodos y relajados.
No quería llevarlo únicamente a un aula formativa. Además, las croquetas me encantan. Mi gente más cercana siempre se ríe de mí porque suelo tomar el café con una croqueta. Es algo extravagante, no parece que pegue, pero yo siempre lo hago y me parecía un juego interesante. Tengo una amiga que tiene un bar muy conocido aquí por sus croquetas, y pensé: «Vamos a probar a llevar esto a un bar y explicar cómo funciona».
Empezó así, con un proyector encima de un barril de cerveza y una sábana en la pared. De pronto, aquello se llenó, me pidieron que lo repitiera una y otra vez y lo he ido desarrollando desde mi pasión por la innovación.
Para mí también ha sido un reto personal. Reconozco que en cada evento me colapso porque quiero estar siempre a la última de lo que sucede en IA. Voy adaptándolo a la tecnología más reciente e intento mostrar los últimos resultados.
Curiosamente, he aprendido que la IA avanza muchísimo en la manera de generar imágenes, movimientos y otras capacidades, pero los sesgos y aquello que he aprendido sobre cómo somos las personas siguen ahí. Eso no evoluciona. Siempre aparecen los mismos sesgos. Por tanto, creo que hay proyecto para rato, porque no estamos avanzando en algo mucho más profundo: avanzar hacia una sociedad inclusiva.
Quizá seguimos anclados en demasiados patrones. ¿Te refieres a eso?
Exactamente. Los patrones que se repiten en la sociedad se reproducen en la IA y eso no está cambiando.
Con la proliferación de modelos de inteligencia artificial que existe ahora, ChatGPT de OpenAI, Claude de Anthropic, Gemini de Google y las soluciones de Apple, ¿qué parámetros debería seguir un usuario medio o alguien que trabaja en el ámbito empresarial para elegir un determinado modelo?
Buena pregunta. Lo resumiría diciendo que, en el mundo corporativo, debe primar sobre todo la seguridad del dato. En ese sentido, Microsoft Copilot es el que más seguridad ofrece. Yo, en el ámbito corporativo, trabajo principalmente con Copilot.
¿Te refieres a protección de datos?
Sí, a protección de datos. Trabajar con tus datos y tus propias bases de datos sin que esa información salga de ahí es lo más seguro. Eso se puede conseguir con Anthropic, con ChatGPT, con Google, con distintos modelos. Lo más seguro es trabajar en local. Habrás visto que ni siquiera menciono Grok. Nunca utilizo Grok. Sé que es muy fácil de utilizar, pero también lo considero el menos ético.
Sobre todo, en el mundo corporativo hay que empezar por el dato, por disponer de un dato de calidad. Siempre habrá sesgos, pero tienen que estar controlados. Necesitamos datos de calidad, que se mantengan en el tiempo, que sean incorruptibles y que nos ofrezcan un reflejo real de lo que tenemos en nuestra empresa.
De lo contrario, nos proporcionarán una imagen distorsionada, como el ejemplo que pongo en el libro con determinadas imágenes que ofrecen una representación distorsionada de nuestra sociedad.
Y no seré yo quien quiera que estas empresas ganen más dinero, pero es cierto que hay que pagar para disponer de una mínima protección. ChatGPT, aunque está evolucionando mucho, es muy poco objetivo. Es un modelo muy eficiente, pero quizá sea uno de los que más tienden a darte la razón. Yo utilizo ChatGPT especialmente para temas de marketing, gestión de redes y guiones, porque maneja muy bien la imitación humana.
Hay otro asunto del que todavía se habla poco: el prompt, la instrucción que damos a la inteligencia artificial. ¿Hasta qué punto saber formular una buena instrucción puede convertirse en una nueva forma de alfabetización digital? ¿Qué distingue un prompt eficaz de uno que conduce a respuestas genéricas o alejadas del objetivo?
Eso es lo primero. Tener un objetivo. Parece una obviedad, pero no lo es. A veces una empresa o una persona me dice: «Quiero que esto me lo dé la IA». Y yo pregunto: «Vale, pero ¿qué quieres conseguir?». Y me responden: «No lo sé». Tienes que saber qué quieres. Parece una obviedad, pero es la base. Esto no es una varita mágica ni una bola de cristal. Primero hay que tener un propósito: quiero conseguir esto.
Por hacer referencia al libro, hubo personajes que llegaron a lo que ahora entendemos como inteligencia artificial trasladando primero su pensamiento, como Alan Turing. Primero pienso qué quiero hacer. Después existen una serie de planteamientos que debo trasladar a la máquina. Y uno de los más importantes es el contexto. Necesitamos proporcionarle un contexto porque nosotros, como seres humanos, tenemos un cerebro capaz de adaptarse automáticamente a él.
Por ejemplo, cuando me has llamado yo estaba haciendo otra cosa aquí, en mi habitación, dentro de un determinado contexto. Inmediatamente ha sonado tu llamada y he pensado: «Vale, me llaman para esto». He cambiado de contexto automáticamente. Pero una IA no sabe hacer eso. Hay que explicarle lo que estás haciendo porque, si no se lo dices, no lo sabe.
Una vez definido el contexto, tienes que explicarle qué quieres conseguir, proporcionándole las entradas necesarias. Por ejemplo: «Ahora estoy hablando con Juan Carlos. Yo soy esta persona…».
Después debes indicarle cómo quieres que aparezca la información. Puedes pedirle cinco opciones, incorporar una variable nueva, plantearle qué ocurriría si esta tarde llueve… Hay que ir proporcionándole opciones y después analizar muy bien el resultado.
Ese resultado no es seguro ni infalible. De todas las opciones que me has proporcionado, tengo que valorar cuál es estadísticamente la que me resulta más adecuada.
Siempre funciona así. De hecho, en el libro hablo del manuscrito en el que por primera vez se plantea lo que es inteligencia artificial y de esos diez hombres que, en dos meses, quieren desarrollarla. El planteamiento es similar: a esas redes neuronales sintéticas que se han fabricado hay que proporcionarles un contexto semejante al que tendría el cerebro humano.
No sé si he contestado a la pregunta sobre el prompt, pero es eso. El prompt, la instrucción, consiste realmente en poner a la máquina en contexto respecto a aquello que se quiere conseguir.
Pero para mí el prompt también es el lugar donde se produce la tormenta perfecta. Es ese momento en el que le decimos a la máquina: «¿Verdad que esto es así?». Buscamos el sesgo de confirmación. Nos creemos todo lo que dice porque tenemos el automation bias, el sesgo de automatización, y también seguimos aquello que pregunta todo el mundo. En ese momento es donde se mezcla todo: la mente humana con la máquina.
Yo siempre digo, y soy muy insistente con esto, que ni «gracias» ni «por favor». Es una máquina, ni siente ni padece. Cuanto más al grano vayamos, mejor. Cuanto más asépticos seamos en los conceptos, más productiva será la máquina.
No hay que decirle: «¿Qué harías si tuvieras…?». No. Existen tres variables: esta, esta y esta. Decide una y dime las consecuencias de cada una. Punto. Es una máquina. Hay que ir al grano.
Con la expansión de la IA se están transformando profesiones creativas, científicas y administrativas, y existe una especie de pánico encubierto ante la posibilidad de que se produzca una transformación o desaparición de determinados empleos. ¿Cómo lo ves?
Sí, habrá empleos que desaparezcan porque quizá sean trabajos en los que determinadas tareas han quedado obsoletas para los tiempos actuales. Por ejemplo, cuando te montas en un ascensor, hace muchos años, aunque yo no llegué a conocerlo, había una persona dentro encargada de llevarte al piso correspondiente. Era el ascensorista o botones.
Ahora ya no existe esa persona. Tenemos botones digitales y llegará un momento en el que entrarás en el ascensor y, simplemente diciendo «voy al cuarto», te llevará allí. Aquella profesión quedó obsoleta porque una persona estaba realizando una tarea que podía hacer una máquina. Y así ocurrió.
Las profesiones en las que se considera a la persona como una parte de un ensamblaje probablemente desaparecerán. Es una evolución natural. Siempre ha sucedido.
Podemos hacer memoria y acordarnos, por ejemplo, del sereno. Había una persona en la calle que llevaba las llaves de las casas y tenías que llamarla para que te abriera la puerta. Cuando apareció el portero automático, aquella función desapareció. Es una evolución.
¿Hacia dónde vamos? Hasta ahora teníamos trabajos en los que se desarrollaban determinadas tareas transversales. Pensemos en la administración: ¿qué hace una persona administrativa? Gestiona documentos. Si desaparecen esos papeles, puede ocurrir que también desaparezcan algunas de las tareas que realizaban esas personas.
Puede ser que sobren personas que simplemente estén poniendo un sello en un papel, porque ahora eso puede hacerse digitalmente. Pero también es cierto que lo que necesitamos ahora no son tareas repetitivas, sino trabajos que solucionen problemas concretos. Gracias a la IA vamos a personalizar muchísimo las cosas, vamos a ser capaces de resolver problemas mucho más específicos y surgirán muchísimas cosas nuevas.
Hoy mismo estaba trabajando con una empresa de Zaragoza en la solución de un proceso en el que invierten un porcentaje muy elevado de su tiempo. Digitalizarlo les permite dedicar ese tiempo a otras actividades que aportan mucho más valor a la empresa y crecer por otro camino.
¿Dónde empieza la responsabilidad ética de las empresas cuando la IA puede utilizarse para reducir empleo, evitar contrataciones, discriminar o concentrar aún más el poder económico?
Creo que necesitamos empresas porque generan empleo. Después hay empresas que se preocupan por su estructura, por proporcionar trabajo y que han aplicado la ética durante toda su trayectoria. La responsabilidad corresponde a las empresas, pero también a los trabajadores y trabajadoras, que deben ponerse al día de los últimos avances.
Supongo que te refieres a planteamientos del tipo: «Quiero ganar más dinero, quiero que mis beneficios aumenten aunque tenga que despedir a tres personas» o «voy a implantar este sistema de IA porque así evito contratar a dos personas más».
También a que una herramienta pueda convertirse en un instrumento de discriminación o de crecimiento económico desproporcionado. En todos esos aspectos, creo que la ética no depende únicamente de la IA, sino de la propia empresa. Es un valor universal.
La IA está poniendo de manifiesto la necesidad de que las personas que trabajan en una empresa estén en formación continua. Esto avanza muy rápido. Hay que modificar procesos y adecuar a las personas a las herramientas. No puedes decir de un día para otro que una determinada herramienta pasa a ser obligatoria sin haber proporcionado antes formación para utilizarla. Pero eso ocurre con la IA y también sin ella. La inteligencia artificial está evidenciando que hay que cambiar la manera de estar en las empresas.
También es cierto que los trabajadores y trabajadoras tienen que poner de su parte para gestionar el cambio y adaptarse a nuevos escenarios. Creo que, en su mayoría, esto se está haciendo dentro de las empresas, pero afecta mucho el miedo del que tú hablabas: el temor a ser sustituido por una herramienta. Sí es cierto que la IA permite hacer más con menos personas.
¿Qué obstáculos siguen encontrando las mujeres para acceder y progresar en los ámbitos tecnológico y laboral en igualdad de condiciones?
Los mismos de toda la vida. Aunque quizá sea un sesgo mío por mi propia experiencia. Formo parte de la Asociación de Mujeres Investigadoras y Tecnólogas y también de Women in AI, una asociación internacional integrada fundamentalmente por mujeres, aunque también participan hombres.
Lo comentamos porque disponemos de datos: el porcentaje de mujeres vinculadas a la IA mayores de 35 años, e incluso mayores de 40, es elevadísimo. Hay muchas más que entre las mujeres más jóvenes.
Por eso creo que ahora mismo, en el talento senior, y cuando digo senior me refiero a partir de aproximadamente los 45 años, las mujeres tenemos una ventaja competitiva que antes no habíamos tenido. Me explico. Las mujeres de mi edad hemos vivido en un entorno laboral que nos lo ha puesto difícil. Es así.
Ha ocurrido con la conciliación y con los permisos para conciliar. Además, en entornos como el mío, el industrial, he trabajado siempre con menos de un 10 % de representación femenina.
Eso hace que tengas que demostrar más y formarte más. Siempre parece poco porque eres la única, la única representante, la única voz. Y eso ha provocado que ahora, en un momento en el que hay que estar actualizándose continuamente, podamos tener cierta ventaja competitiva porque llevamos muchos años haciéndolo.
Las barreras de entrada que estoy observando en las nuevas generaciones no tienen tanto que ver con el género, aunque ese factor también existe, sino con la consideración de que las nuevas incorporaciones no tienen nada que aportar a las organizaciones. Y eso me preocupa.
Me preocupa que no se considere a una nueva incorporación dentro de una organización como un activo valioso, porque lo es. Es una persona que llega con una mentalidad nueva, que va a observar la organización de una manera diferente, algo necesario, y que posee otra forma de entender el trabajo. Si consideramos a las nuevas incorporaciones simples becarios destinados a hacer fotocopias, estamos perdidos, con IA y sin IA.
Como la inteligencia artificial realiza ahora muchas de las tareas que antiguamente se asignaban a los becarios, se dice que la IA está acabando con el trabajo de los juniors. Para mí eso es muy peligroso. Porque cuando empiezas no se trata únicamente de hacer fotocopias, sino de aprender una profesión y entender cómo funciona una empresa.
Si no les damos esa oportunidad y, además, aunque esto ya nos lleve un poco fuera de la IA, tampoco les damos la posibilidad de emanciparse porque los pisos cuestan un riñón, no sé qué tipo de mundo les estamos dejando. Por otro lado, con la IA se está produciendo también una automatización de tareas que históricamente han sido desempeñadas por mujeres, como la gestión administrativa o determinados trabajos en supermercados, porque el trabajo de las cajeras, que normalmente son mujeres, está desapareciendo.
Desde tu experiencia en innovación e inteligencia artificial, ¿cómo valoras la posición de España en estos ámbitos respecto a Europa? ¿Qué áreas de mejora identificas?
Según el ranking, somos el sexto país, pero nuestras empresas no están obteniendo rentabilidad. Creo que en materia de innovación hay que apostar más.
Las instituciones públicas desempeñan aquí un papel casi imprescindible
Sí. Se necesita una mayor inversión en innovación, pero estratégicamente creo que debemos apostar por la innovación de nuestro país. No tanto únicamente por los servicios, y no quiero decir con esto que no haya que hacerlo, sino que debe existir una apuesta mayor por la ciencia y la innovación.
Las empresas están todavía muy verdes. Además, a la pequeña y mediana empresa, que representa el 95 % de nuestro tejido industrial, se le carga con todo el peso de la ciberseguridad y de la adaptación a la normativa, cuando una pequeña empresa tiene unos costes enormes y no siempre puede asumirlo todo.
Por tanto, estamos bien en cuanto al ranking global, pero todavía verdes en materia de innovación y de inteligencia artificial.
Tras los fallos detectados en modelos de OpenAI durante pruebas de ciberseguridad, en las que llegaron a eludir controles y acceder a sistemas no autorizados, ¿seguimos ante problemas técnicamente controlables o la autonomía de estos sistemas está avanzando más rápido que nuestra capacidad para supervisarlos?
Es una advertencia. De hecho, hoy ha aparecido en muchos medios la noticia de un ingeniero que ha dimitido y se ha marchado de Anthropic. Básicamente, viene a decir algo parecido a lo que acabas de plantear. Incluso ha afirmado que antes de que termine la década existe un riesgo claro de que la IA pueda matar a la humanidad.
Para mí es una advertencia clara de que el poder de gestionar todo esto, y también su gobernanza, está en manos de muy pocas personas en el mundo. Además, estas empresas tecnológicas están inmersas en una carrera por ver quién llega antes o quién gana.
¿Existe un peligro real?
No me refiero a afirmar categóricamente que exista un peligro de que la IA vaya a venir a matarnos. ¿Hay un riesgo real de que algo así pueda suceder o de que estos sistemas lleguen a descontrolarse y a tomar decisiones por sí mismos?
De descontrol, sí. No se están adoptando todas las salvaguardas necesarias para impedirlo porque se está avanzando con mucha prisa. ¿Existe un peligro real? Yo creo que sí. ¿Creo que va a suceder exactamente lo que se plantea en algunos escenarios? Creo que no, porque antes se pondrán límites. Pero si continuamos por este camino sin tener en cuenta la gobernanza y las salvaguardas necesarias, sí existe un peligro.
Para concluir, ¿qué nuevos proyectos tienes en mente de cara al futuro?
Tengo proyectos muy ilusionantes, como el workbook de ‘Los secretos de la IA’, que será una guía de trabajo que podrá utilizarse en centros educativos para trabajar hacia una IA inclusiva y aprender, entre otras cosas, a elaborar prompts inclusivos y a manejar estas herramientas. Es uno de los proyectos que quiero poner en marcha en centros educativos este año o en primavera.
Otro proyecto se llama ‘Poquetón. Misión Salvar la Tierra’. Está también muy alineado con todo esto porque necesitamos que el planeta y la humanidad seamos capaces de hacer sostenible este desarrollo en materia de recursos, materiales raros, agua y energía. Lo desarrollo junto con la Universidad de Zaragoza y el Colegio de Geólogos. Necesitamos también más geólogos para afrontar todo esto.
Y tengo otro proyecto del que todavía no quiero hablar demasiado porque está verde y soy así, no quiero que se gafe, pero está muy relacionado con la primera parte del libro y con la historia del taller de Dartmouth. Se cumplen 70 años del taller y quiero profundizar todavía más en todos los personajes que aparecen en esa parte dedicada a la historia de la inteligencia artificial.
