El Plan de Acción sobre Inteligencia Artificial (IA) de los Estados Unidos anunciado por el presidente Donald J. Trump establece que se debe diseñar a la Inteligencia Artificial para que busque “la verdad objetiva”. ¿Podría esa búsqueda llevar al colapso de la propia IA?
El plan dice que “nuestros sistemas de IA deben estar libres de sesgos ideológicos y diseñados para buscar la verdad objetiva en lugar de agendas de ingeniería social cuando los usuarios buscan información o análisis fácticos”.
Suponiendo que la IA no tome sus instrucciones a la ligera, se podría generar una situación similar a la que fue imaginada por el escritor Jorge Luis Borges en 1946 en su cuento sobre la verdad objetiva, “Del rigor en la ciencia”.
En ese muy breve ensayo, Borges contó cómo los habitantes de un país decidieron trazar un mapa objetivamente preciso de su territorio y terminaron con uno con escala 1 a 1 que cubrió la totalidad de la masa terrestre.
“Se desperdiciaron tantos recursos en este ambicioso proyecto representativo que el imperio se derrumbó”, escribió Yuval Noah Harari en su libro Nexus al comentar sobre la obra de Borges.
“Un mapa uno a uno puede parecer la representación definitiva de la realidad, pero, de forma reveladora, ya no es una representación en absoluto; es la realidad”, afirmó Harari al analizar la situación planteada por Borges.
Recrear la realidad podría ser un puente demasiado lejos, aún para la IA, ya que entre otras cosas obligaría el empleo de toda la energía existente en el universo, qué de ser usado, fulminaría a la realidad misma.
David Evan Harris, un especialista sobre temas de IA y ética de la Universidad de California, Berkeley, dijo que determinar cómo van a implementar la directiva es “alucinante”.
“Tengo alto grado de interés y entusiasmo sobre la idea de que alguien va a intentar simultáneamente determinar qué es una IA que busca la verdad, y qué es una IA neutral”, dijo en una reunión online para analizar el Plan de Acción de IA. Agregó que, eventualmente, habrá “conversaciones interesantes sobre qué es la verdad”.
El Plan de Acción IA también dice que la IA debe ser guiada por el concepto de libertad de expresión, pero con algunas excepciones.
“Es fundamental que estos sistemas se construyan desde cero teniendo en cuenta la libertad de expresión, y que las políticas del gobierno estadounidense no interfieran con ese objetivo. Debemos garantizar que la libertad de expresión prospere en la era de la IA y que la IA adquirida por el gobierno federal refleje objetivamente la verdad, en lugar de agendas de ingeniería social”.
Pero a la vez, agrega que se debe “eliminar las referencias a la desinformación, la diversidad, la equidad y la inclusión y el cambio climático”.
Harris, al comentar sobre este aspecto del plan, dijo que la referencia inicial a la libertad de expresión es coherente con la insistencia del Partido Republicano en la última década en apoyar ese derecho. De todos modos, sobre el texto y las excepciones, agregó: “Esto es exactamente el revés a la libertad de expresión”.
La referencia al cambio climático tiene especial relevancia, ya que el plan pretende limitar regulaciones que podrían tomar los estados individuales de la unión, por ejemplo, para atenuar los impactos de las instalaciones de IA sobre el medio ambiente local, visto que la IA es enorme consumidor de electricidad y agua.
Ayudanos a seguir pensando, buscando y elaborando información para conectar a la sociedad. Si valoras lo que hacemos....
Hacé tu comentario