Qué queremos conservar cuando la IA ya puede hacerlo por nosotros

Hay una pregunta que quizá tengamos que empezar a hacernos antes de lo que pensamos: ¿qué queremos conservar cuando la IA ya no solo puede hacerlo por nosotros, sino que puede hacerlo mejor?

Hace poco llegué a un artículo de Bill Gates sobre las decisiones que debemos afrontar si queremos que lo que él llama la "era turbulenta de la IA" nos beneficie a todos y no se convierta en todo lo contrario. Habla del trabajo, la desigualdad, la educación, la seguridad o las relaciones humanas, pero hubo una idea que me llamó especialmente la atención. Gates la llama Human Reserved: aquellas cosas que podríamos decidir conservar para las personas aunque una máquina ya fuera capaz de hacerlas igual o mejor.

Bill lo explica con el ejemplo de una reserva natural. Podríamos construir allí, pero elegimos no hacerlo porque lo que perderíamos importa más que lo que ganaríamos. El planteamiento parece sencillo. Lo difícil empieza cuando intentas decidir qué debería quedar dentro de esa reserva.

No todo lo que hacemos es una tarea

Cuando intento buscar un ejemplo, lo primero que me viene a la cabeza es algo tan evidente que casi parece absurdo decirlo: el cuidado de un hijo.

Es fácil imaginar que algún día un sistema podrá vigilar mejor que nosotros, adaptar una explicación a cada momento o no olvidar jamás una cita. Muchas de las tareas que forman parte del cuidado podrían delegarse y seguramente algunas se harían mejor así (¡y seguro que, además, nos ahorraríamos algún que otro grito y más de un berrinche!).

Pero cuidar a un hijo no es completar "correctamente" una lista de tareas. Es una relación, una responsabilidad y una parte de tu propia vida: de tu esencia y de tu propósito. Apartarte por completo sería renunciar a una parte de ella y nadie en su sano juicio decidiría delegar este tipo de experiencias, ¿verdad?

Hay cosas que hacemos para obtener un resultado y otras en las que vivir el proceso también forma parte del resultado. En las primeras, que una máquina lo haga mejor puede ser una razón suficiente para dejarla. En las segundas, quizá no.

Gates utiliza un ejemplo parecido al hablar de los cuidadores que acompañaron a su padre durante el Alzheimer. También plantea una situación muy concreta: una máquina podría comunicarte que tienes una enfermedad incurable, pero que pueda hacerlo no significa que deba hacerlo. En momentos así, la presencia humana no es una ineficiencia añadida al servicio. Es parte del valor que estamos ofreciendo.

Cuando automatizar también te aleja

En una escala mucho más pequeña, esta pregunta también aparece cuando automatizamos nuestro trabajo o nuestros proyectos. Al principio sustituyes una tarea repetitiva y terminas el día contento porque has "recuperado tiempo". Después conectas varias tareas y automatizas un proceso entero. Ahora, con el nivel de IA que cualquiera de nosotros tiene a su alcance, ese proceso puede incluso analizar sus resultados, detectar problemas y refinarse sin que tú tengas que intervenir.

Es una capacidad enorme. Y precisamente por eso merece la pena pensar hasta dónde queremos llegar.

Si un sistema puede ocuparse de las operaciones, resolver los problemas y mejorar por su cuenta, existe la posibilidad de que todo funcione cada vez mejor mientras tú entiendes cada vez menos lo que ocurre dentro. Algo parecido ya podía suceder en los tiempos "a. IA" (antes de la inteligencia artificial): bastaba con ir externalizando tareas y responsabilidades más allá de lo que quizá debíamos, hasta que, poco a poco, el núcleo del negocio terminaba funcionando al margen de quien lo había creado. La diferencia es que ahora puedes construir tú solo el sistema que termine alejándote de aquello que tú mismo creaste.

Mi primera reacción no es reservarme todas las decisiones ni revisar cada paso. Sería convertir el control humano en una puesta en escena para sentir que todavía estamos ahí. Lo que sí querría conservar es saber qué está pasando, por qué hemos llegado al estado actual y hacia dónde está evolucionando el proyecto.

Necesitamos información suficiente para comprender el rumbo, refinarlo y mover el volante si deja de ir hacia donde queríamos.

¿Y si el resultado es mejor?

Aquí aparece otro problema. Mantener el rumbo tampoco puede significar aferrarnos a nuestra primera idea. El sabio puede cambiar de opinión; el necio, nunca.

Si una IA encuentra un camino que da mejores resultados, me gustaría entender por qué y estar dispuesto a cambiar de opinión. Pero "mejores resultados" no resuelve por sí solo la decisión. Una métrica puede mejorar porque el sistema ha descubierto una forma que no habíamos considerado. También puede mejorar porque ha cruzado un límite que nosotros no estábamos dispuestos a cruzar.

Y es aquí donde entran la ética, la responsabilidad y algo tan básico como decidir qué significa realmente hacerlo mejor. O, mejor dicho, qué límites estamos dispuestos a sobrepasar para alcanzar ese resultado. No todas las formas de cumplir un objetivo son aceptables. Y si para conseguir más hay que actuar de una manera que considero poco ética, prefiero obtener menos.

Por eso creo que, si reservamos algo para las personas, debería ser la capacidad de definir el propósito, revisar los medios, cambiar de opinión cuando la evidencia lo merece y mantener límites que una métrica por sí misma no sabe representar.

Pero ni siquiera entenderlo todo puede convertirse en una condición absoluta.

Imaginemos que una IA encuentra una cura para un cáncer que hoy no sabemos tratar. El resultado es reproducible, los ensayos demuestran que funciona y podemos verificar su seguridad, pero la explicación supera durante un tiempo nuestra capacidad de comprensión científica. ¿Deberíamos rechazarla hasta ser capaces de comprender cada paso?

Yo no lo tengo claro, pero me costaría defender que sí. En un caso así, convertir la comprensión humana en el techo de lo que podemos aceptar podría impedir precisamente uno de los mayores beneficios de la tecnología. Tendríamos que exigir evidencia, seguridad, seguimiento y responsabilidades claras. Y estoy convencido de que llegará un momento en el que la IA encontrará soluciones que nosotros, sencillamente, no seremos capaces de comprender. No sé si, llegado ese momento, tendríamos que exigir también una comprensión absoluta antes de salvar esas vidas.

Ese ejemplo rompe cualquier respuesta fácil. Por supuesto, no todo lo que no comprendemos debería aceptarse. Pero quizá tampoco todo lo que no comprendemos debería quedar prohibido.

Una decisión que no pueden tomar solo los laboratorios

Gates lleva esta pregunta a su escala real. La IA puede afectar al empleo, a cómo repartimos la riqueza, a la educación de los niños, a la salud, a la seguridad y a las relaciones que mantenemos con otras personas.

Las empresas que desarrollan la tecnología pueden aportar conocimiento y proponer soluciones, pero no les corresponde decidir por sí solas qué trabajos pueden desaparecer, qué riesgos son aceptables o qué presencia humana merece ser protegida. Tampoco parece razonable dejar que la respuesta la dé únicamente el mercado. Si sustituir a una persona resulta más barato, la presión por hacerlo existirá aunque el coste para esa persona o para su comunidad no aparezca en la cuenta de resultados.

No sé si llamarlo una constitución para la IA, pero quizá necesitemos algo parecido: unos principios compartidos desde los que decidir cada caso, sabiendo que la respuesta no será idéntica en todos los países ni permanecerá inmóvil para siempre. Pero necesitamos protegernos de nuestros propios avances.

Y esto no sería una lista cerrada de profesiones protegidas. Tendría que ayudarnos a plantear preguntas más difíciles. Filosóficas, en muchos casos. ¿La presencia humana forma parte del valor? ¿Quién asume el daño si el sistema falla? ¿Podemos verificar el resultado aunque todavía no sepamos explicar cómo se llegó a él? ¿Qué responsabilidad, relación o propósito perdemos cuando nos apartamos y dejamos que la IA ocupe nuestro lugar?

Gates defiende un proceso público en el que participen gobiernos, especialistas, educadores, profesionales sanitarios, comunidades y las personas que van a vivir la transición. Me parece una distinción importante: la capacidad de hacer algo puede salir de un laboratorio, pero la decisión de incorporarlo a la sociedad no debería salir solo de allí.

Qué queremos seguir viviendo

No tengo una respuesta para definir qué debería ser Human Reserved. Cuanto más lo pienso, más excepciones encuentro. Una norma pensada para protegernos puede impedir un gran avance para la humanidad. Una automatización creada para liberarnos puede terminar separándonos de algo que daba propósito a nuestra vida.

Pero creo que la pregunta merece la pena incluso sin una respuesta definitiva. Hasta ahora hemos tendido a celebrar cada nueva capacidad preguntando qué puede hacer la IA y cuánto tiempo nos ahorra. Quizá tengamos que añadir otra pregunta: qué perdemos cuando dejamos de hacerlo nosotros mismos.

No para conservar tareas por nostalgia, ni para mantener a las personas artificialmente ocupadas. Se trata de pensar a qué queremos seguir ligados y en qué partes de nuestra vida queremos seguir presentes, aunque una máquina pueda hacerse cargo.

La IA ampliará mucho los límites de lo posible. Lo que no deberíamos permitir es que esos límites decidan por defecto en qué clase de vida y de sociedad queremos vivir.