Andrés Hohendahl: “Los algoritmos de IA en inglés no funcionan en español porque éste es un idioma muy complejo”

Andrés Hohendahl es ingeniero electrónico, docente y experto en Inteligencia Artificial. Pionero en el desarrollo personas virtuales, conversó con Ok-Bot by Convercom sobre la irrupción de ChatGPT, su lugar en la evolución de modelos de lenguaje y el impacto que está teniendo el producto en la conversación hombre-máquina. Además, los desafíos de la investigación de IA en español.

-¿Qué impresión te generó esta difusión masiva que está teniendo chatGPT en el terreno de la inteligencia artificial?

-Voy a ser franco: más de lo mismo. Lo llamo yo “amarillismo tecnológico”. O sea, el producto ChatGPT como concepto es interesante, pero no es tan poderoso como se lo está contando. Se lo muestra como una especie de Inteligencia Artificial general, como una especie de gurú que te va a resolver todo.

Por eso, primero hay que entender lo que es un modelo de lenguaje. Lo voy a simplificar en forma brutal: imaginate que logro encontrar una palabra, me voy a todos los diarios y me fijo cuál es la palabra que le sigue con más asiduidad. Entonces, anotó esa segunda palabra. Después con ese par de palabras, me fijo cuál es la que le sigue en millones de medios con mayor asiduidad, y así sucesivamente… Voy componiendo una frase que lo más probable es que tenga mucho sentido, porque ha sido escrita en algún lado. Cuando uno hace eso, está buscando información dentro de información previamente almacenada. Es un proceso probabilístico.

En consecuencia, todo lo que escribe ChatGPT desde el punto de vista de generación del lenguaje, para nosotros hace sentido y eso es lo maravilloso. Pero lo que es un peligro es que no hay nadie pensando por detrás, nadie está elaborando un resultado. Lo que pasa es que falta el observador, o sea, falta la voluntad del observador.

Han hecho un truco muy genial, que me parece maravilloso a nivel marketing, que es utilizar un procesamiento de lenguaje natural común, tradicional, al cual yo estoy acostumbrado y que la gente que sabe de esto está acostumbrada. Analizaron la oración del requisito que las persona hacen y entonces lanzan una serie de tareas sobre el modelo de lenguaje.

Eso es lo que hace que te escriba una nota sobre tal tema y sobre tal otro… porque extraen información de lo que vos le decís y aplican el modelo de lenguaje para esa información. 

Pero esencialmente, desde el punto de vista conceptual no es una inteligencia artificial que está pensando, razonando o componiendo algo en base a una voluntad.

-¿Cómo crees que este nuevo producto puede impactar en este terreno de la conversación hombre-máquina?

-Creo que por un lado va a estar ayudando bastante a que las personas piensen que las máquinas pueden entender algo. Uno de los grandes problemas que hay en los chatbots son los option bots. Todos los chatbots que conozco, incluso Boti, no entienden absolutamente nada si no le das las opciones de las A,B,C,D… Esencialmente, es un sistema de menú en donde te doy opciones limitadas.

El problema es que la gente se acostumbra a hablar mal con los bots y entonces los sistemas del lenguaje tienden a fallar, porque las personas no se expresan naturalmente, por lo cual no le das la oportunidad a un sistema a levantar información fidedigna. Esto crea una ilusión falsa.

En un sistema tipo ChatGPT vas a tener respuestas maravillosas, pero lo peligroso de todo esto, y esto levanta una alerta, es que como todo lo que escribe tiene sentido para un humano, un tipo puede estar tentado a preguntar “¿Qué pasa si tengo una astilla bajo la uña?” y a lo mejor el ChatGPT encuentra “astilla bajo la uña” en un artículo sobre caballos y te dice “aplicate Alcanfor y un poco de cianuro” y lo mata al darle una instrucción fuera de contexto.

De hecho, hay muchísimas fallas en ChatGPT porque el sistema te arma algo muy verosímil, pero puede ser un tremendo chamuyo porque no tiene capacidad de razonamiento.

-Muchos avances y papers sobre Inteligencia Artificial están en inglés, como principal idioma. ¿Qué rol puede tener el español para el desarrollo de la disciplina? ¿Encontrás algún tipo de desafío ahí?

-Absolutamente. He dado clases durante mucho tiempo sobre inteligencia artificial y siempre digo que entender español es muy complicado. Básicamente, porque es un idioma que tiene muchas conjugaciones. Un verbo en inglés tiene tres conjugaciones en español tiene 250. Además, tiene un montón de accidentes, tildes, eñes y esas cositas que tienen las letras que en el inglés no existen.

La gente no sabe usar la mayoría de los teclados y los predictivos suelen escribir lo que se les canta, no tienen mucha idea de lo que es y, por ejemplo, ponen el acento cuando no corresponde. O sea, ya tenés un problema de entrada de ortografía importante.

Yo tengo medida la calidad de ortografía de las personas humanas en Argentina a partir de una tarea que hice para una telefónica grande. Te sorprendería saber que el 70% de las frases que se escriben en chat suelen tener al menos un error de ortografía. Y no tenés una segunda oportunidad de tener una buena primera conversación cuando ya de entrada viene todo mal. Por eso, mi tesis trata sobre cómo corregir ortografía en tiempo real, presuponiendo lo que un humano está esperando.

Ahora, el español es fenomenalmente complejo y los algoritmos que te venden inteligencia artificial en inglés no andan en español. Estamos hablando de unos elefantes blancos gigantescos que tienen mucho poder de fuego y que, si no les alcanza, ponen una batería de personas atrás a trabajar y te van atando cada error, van agregando if then, if then y chau.

El español es infernalmente complejo y yo te desafío a que encuentres un sistema que en español pueda resolver la ambigüedad del lenguaje. Nuestro sistema, cuando vas con una palabra fonéticamente mal escrita, no solo te trae las tres o cuatro palabras que en español mejor suenan, sino que se fija en las palabras anteriores: si estabas diciendo algo que está con el género y el número, así como el tipo de palabra que le va y entonces corrige ortografía en forma contextual, dentro de la oración. Esas son tareas fenomenalmente complejas que se dan en español. Ese tipo de cosas no existen en el mercado y es un poco donde nosotros estamos poniendo el foco.

-Fuiste pionero en el concepto de persona virtual. ¿Cómo lo ves hoy? ¿Qué evolución tecnológica estás observando con respecto a esta a esta idea?

-Nosotros salimos con la idea de persona virtual para despegarnos de los sistemas de inteligencia artificial llamados “sistema basado en intenciones”, como los que venden Google, IBM o Microsoft, que lo que hacen es generalizar oraciones, un sistema que no tiene buenos resultados.

La persona virtual, en cambio, es un sistema que imita el funcionamiento del cerebro humano desde el punto de vista conversacional. Yo quise encontrar la manera en que vos y yo conversamos, para lo cual me tomé 15 años de trabajo, tomé clases de escritura y literatura y aprendí a pensar como escritor. Entonces, fabriqué una mente humana, como yo creo que funciona. Y esa mente humana es un modelo de funcionamiento de una mente humana sencilla, alguien que se acuerda hasta lo que cinco minutos atrás le dijeron, se acuerda si no le contestaste una pregunta, se acuerda si el tipo está frustrado o no…

¿Qué fabriqué yo para que eso funcione computacionalmente?  Fabriqué un sistema que toma tu oración, la trata de entender en el contexto de la conversación anterior, se fija cuáles son sus intenciones internas, qué es lo que quiero obtener de vos, si te quiere vender algo o si que solamente te quiere escuchar y contestar, o si te pidió el documento para que saques un turno médico. 

En el contexto, toma la decisión y trata de entender lo que le dijiste, dependiendo del grado de entendimiento. Entonces, si vos tenés un modelo que funciona y que te permite contestar cosas fuera de la caja, cultivas algo que yo llamo “empatía” y la empatía significa cómo las personas se entienden entre sí. Pero los chatbots generalmente son cero empáticos. Ahora, si le tirás un córner y te lo ataja, inmediatamente vos pasas a respetarlo y empezás a hablarle bien. La idea es lograr empatía entre las máquinas y las personas.