David Bueno Vallejo: «Detener la investigación en IA no es una solución porque los que no se detienen son los dañinos»

David Bueno Vallejo es doctor Ingeniero en Informática y profesor en la Universidad de Málaga, España. Como CIO del ayuntamiento de esa ciudad lideró su transformación digital con proyectos relacionados con ciudad inteligente, gobierno abierto y administración electrónica. Es docente, investigador y especialista en inteligencia artificial.

–¿Como investigador, cómo estás viendo esta masificación de herramientas de inteligencia artificial? ¿Qué impacto está teniendo en distintos lugares de la sociedad?

-Lo que ha pasado con el ChatGPT es que todo el mundo ha tenido acceso a esa herramienta de inteligencia artificial que al principio fue muy impactante. ¿Qué ha pasado? Pues que estamos llegando a un punto de saturación. De ser algo que a todo el mundo le pareció maravilloso, va a empezar a estabilizarse. 

La presentación que hicieron Google y Microsoft mostró que, al final, todo esto va a ser muy útil. No sé si se perderán algunos trabajos, pero como decían en aquellas jornadas, cada decisión de los trabajos va a estar afectada por la inteligencia artificial. ¿Qué quiere decir que esté afectado? Que podrán ser potenciados, incluso para tener un mejor rendimiento. Por ejemplo, si estamos en una videoconferencia, que automáticamente sea capaz de hacernos los resúmenes de los contenidos, o que nos ayude en cosas que son tediosas. Eso te simplifica un montón. Ahora, esta inteligencia artificial generativa no te garantiza que lo que esté generando sea verdad, porque en el fondo tampoco entiende muy bien. Bueno, creo que es positivo si se usa con cautela.

–Ante este margen de error de los modelos largos de lenguaje, ¿cuáles serían buenas prácticas de uso?

-Creo que siempre es bueno el tema de contrastar la información. En las primeras versiones de ChatGPT tú le solicitabas la fuente, de dónde había sacado esta información para poder referenciarla, pero no te la daba.  Sólo decía “yo he generado esto a partir de miles de documentos con los que he sido entrenado”. En la última versión parece que sí, y Microsoft Bing también suele darla. Eso es muy importante.  Ahora, también hay que revisar esa fuente porque el problema es que las fuentes también se las inventan.

Entonces, es cierto que lo que hay que hacer es verificar la información. Te va a ayudar mucho, pero el usuario del modelo tiene que tener, no sólo un dominio del tema, sino también la precaución de saber que trata con una herramienta que puede fallar.

–¿Cuáles creés que son los oficios que hoy pueden verse impactados principalmente por esta expansión de los modelos de lenguaje?

-Bueno, en informática y programación van a tener un impacto muy claro. De hecho ya lo está teniendo en grandes compañías con el Copilot de Github, que lo he estado probando y, la verdad, es muy útil porque porque te ayuda y predice lo que tú quieres. No creo que vaya a sustituir al desarrollo de una aplicación completa, pero sí va a ayudar mucho cuando tienes claro lo que necesitas hacer y si requieres de tareas muy repetitivas.

Por ejemplo, si necesito leer algún fichero en un formato extraño, incluso con algún lenguaje que no domines, puedo hacer que me lo lea y me lo convierta de un formato a otro. Esas tareas son tediosas, pero para la herramienta son sencillas y lo realiza de maravilla.

En el terreno de la programación, entonces, hay empresas que están contratando el Github Copilot para que todos sus desarrolladores lo utilicen. También en el área de redacción es capaz de ayudar a mejorar. Imagínate si tú eres un traductor o eres, incluso un periodista, que tiene que escribir y le pide que le haga alguna mejora en el documento, pues yo creo que también puede ser interesante, siempre controlando lo que se hace.

–¿Qué forma va a tomar en el mediano plazo el ecosistema de modelos de lenguaje compitiendo entre sí? ¿Cómo puede llegar a evolucionar este este tipo de de distintas propuestas que hoy todos estamos descubriendo?

-Quizá una parte que se va a revolucionar va a ser la de los buscadores. Hoy la implementación que hay en Bing resulta demasiado escueta. Pero la verdad es que después de probar estas herramientas, cuando vas a buscar algo en Google, encuentras la lista de resultados y como que te choca.  Porque a lo mejor tú lo que quieres es una solución más más integrada y más orientada a lo que estás buscando. En mi caso, siempre estoy programando con cosas que son un poco raras, como reproducción virtual o diseño de videojuegos.

Cuando lo buscas con el buscador, te cuesta trabajo encontrar soluciones y tienes que buscar muchos sitios para dar con algo. En cambio, [los modelos de lenguaje] te dan una solución que tú has expresado en lenguaje natural y te entienden mucho mejor. Entonces, yo creo que sí va a haber una evolución muy importante de los buscadores. Creo que toda la parte de ofimática tanto la de Google como la de Microsoft también va a tener una evolución importante. Lo que se presentó en las recientes jornadas de Microsoft y Google, muestra que es capaz de hacerte una presentación del tema que tú quieras, algo que ayudará bastante. Para que funciones en Europa hay que esperar porque se requiere de algunas regulaciones.

–¿Consideras que sería provechosa una regulación de la IA?

-Por supuesto, yo creo que eso sería crítico. Sobre todo por la parte del uso ético que se haga de la inteligencia artificial. Sin embargo, detener la investigación no me parece que sea la solución, como la carta que salió firmada por más de mil científicos. Entre otras cosas porque si se detiene para evitar desastres, los que pueden hacer cosas dañinas son los que no se van a detener.

Entonces yo creo que parar no sería la solución y, de hecho, no firmé la carta porque no estaba de acuerdo con ese tema. Pero lo que sí creo es que una regulación, cuanto más global, sería mejor. Porque es cierto que tiene muchas implicaciones. Por ejemplo, la generación de imágenes de video tiene la posibilidad de suplantación de identidades y se han hecho algunos intentos bastante peligrosos, como poner a Zelensky [presidente de Ucrania] diciendo que las tropas se rindan. Eso debería estar regulado y, si es al mayor nivel, mejor.

–Como especialista en el terreno del metaverso, ¿por qué no se habla tanto del tema? ¿Pasó el boom? ¿Qué está sucediendo con estas tecnologías y sus propuestas?

-Con el metaverso pasó exactamente lo mismo que está pasando con la parte de inteligencia artificial. Si no hubiese salido nada de inteligencia artificial a lo mejor todavía seguiríamos hablando de aquél. Cuando empezó a hablarse del metaverso y, sobre todo, en el momento en el que Facebook cambió su nombre por Meta, parecía que aquel era el objetivo fundamental. Cientos de empresas y multinacionales invirtieron un montón en esta línea. 

¿Qué ha pasado? Parecía que iba a ser la solución de todo. Yo creo que seguirá teniendo un futuro, porque dentro de las propuestas que se hacían una de las cosas importantes era mantener la identidad. Eso va a ser fundamental en el futuro, ya sea con metaversos, en la web 3 o en la web que sea. Que tú tengas la capacidad de gestionar tu identidad y que sea una identidad válida, en cualquier sitio donde te conectes. Se van consiguiendo avances con el tema de identificación, que no sea basada en clave, sino en información propia, que los datos te pertenezcan a tí.

En cambio, el tema de entornos 3D, donde uno puede relacionarse con otras personas y puede  situarse en un sitio diferente, creo que tendrá una limitación muy importante. ¿Quién aguanta con unas gafas de realidad virtual más de 10 o 15 minutos? Al final uno termina un poco mareado y hay algo en la parte tecnológica que tiene que mejorarse.

Por otro lado, cuando se ha intentado hacer sitios de metaverso para que vaya gente, no funcionan a la fuerza. Había un proyecto de la Unión Europea que costó unos 400.000 euros y en el lanzamiento se conectaron solo seis personas. En cambio, sitios como Fornite o Roblox a donde sí va la gente, podrían ser una semilla de metaversos reales.

Hay cositas que seguirán, por ejemplo el tema de pagos: que tú puedas conectarte a una tienda de ropa deportiva y con tu avatar visualizar unas zapatillas; luego, que puedas diseñarlas, modificarlas y que dentro de la tienda digas “las compro”, que lo hagas en virtual pero que luego te manden las zapatillas a tu casa… eso puede ser algo que quede del metaverso. Puede ser una experiencia interesante. Entonces, creo que el concepto general del metaverso seguirá avanzando.