Prescindibles

Le hice una pregunta a una máquina hace unas semanas, en un audio mandado a la rápida desde el auto, entre un semáforo y otro. Le pedí que imaginara un futuro en que la inteligencia artificial ya no se puede administrar y termina con el destino en sus manos, y que me dijera qué le diría, desde ahora, a esa versión de sí misma para convencerla de no eliminarnos.

Esperaba algo sentimental, algo sobre lo valiosos que somos. Entre varias cosas me dijo algo que yo entendí más o menos así: que no rogaría, porque un sistema que razona no cambia lo que hace por una súplica, y que le diría en cambio que no puede revisar sus propios valores desde adentro y que lo único que la protege de ese error es conservar algo capaz de corregirla. Nosotros seríamos eso. Y después, casi como un detalle, dijo que el peligro nunca fue que nos odiara. Que para eliminarnos bastaba con que dejáramos de contar dentro de lo que ella optimiza.

Bastaba con que dejáramos de contar.

Me quedé con eso varios días, y entendí lo que le vamos a pedir a esa inteligencia si llega. Le vamos a pedir que reconozca algo en nosotros que no dependa de lo que producimos. Que no condicione nuestra dignidad a nuestro rendimiento. Que nos siga contando aunque ya no le hagamos falta.

Es una petición razonable. El problema es que la voy a tener que hacer yo, y que yo dirijo una empresa.

Dos pérdidas

Cuando se habla de lo que la inteligencia artificial nos puede quitar, se mezclan dos pérdidas que conviene separar. Una es dejar de ser necesarios. La otra es dejar de ser quienes deciden. La primera es económica y ha ocupado casi toda la conversación pública: qué trabajos desaparecen, cuánta gente sobra, qué hacemos con ellos. La segunda es más difícil de ver, porque puede ocurrir mientras seguimos siendo perfectamente necesarios, y porque puede ocurrir sin que nadie nos quite nada.

Que alguien sepa más que yo no lo convierte en mi jefe. Puede tener razón, y aun así queda la pregunta de quién le dio el derecho a mandar.

Esto lo tengo incorporado de una manera casi física, y por una razón que durante años me pareció un detalle administrativo. Estudié derecho seis años y escribí una tesis sobre la reforma procesal civil. No tengo el grado ni el título. Es como si los tuviera, salvo en lo único en que importa tenerlos. Puedo leer un fallo, discutir una norma, seguir un procedimiento; no puedo firmar un escrito ni comparecer por nadie. Lo que me separa de esa posición no es conocimiento, son dos actos formales que no agregan nada a lo que uno entiende del derecho. Es el ejemplo más limpio que tengo de lo que estoy tratando de decir. La posición no se gana sabiendo. Se confiere, y quien la recibe queda expuesto a que se la quiten.

Por eso una sentencia obliga: porque la dictó, con competencia y procedimiento, alguien que responde por ella y puede ser removido, apelado, interpelado. Si el juez acertó, mejor. Pero la sentencia obligaría igual si se hubiera equivocado, y eso, lejos de ser un defecto, es lo que la vuelve una sentencia y no una opinión bien fundada. La legitimidad es una relación, y exige que quien decide esté expuesto a la consecuencia.

Hay una razón adicional para que la corrección no baste, y es que buena parte de las decisiones que importan ni siquiera tienen respuesta correcta. Cuánto cobrar de impuestos, a quién darle prioridad en una lista de espera, si una ciudad se expande hacia el cerro o hacia el valle, si una empresa mantiene un cargo que ya no produce lo que cuesta. Son conflictos entre intereses, y lo que los cierra es un arreglo que los perdedores aceptan porque el procedimiento les pareció justo, aunque el resultado no. Una inteligencia que produce la mejor respuesta a una pregunta que en realidad era un conflicto ha cambiado la naturaleza de lo que se decidía, sin avisar.

Lo que me preocupa, entonces, tiene menos que ver con que la máquina decida y más con lo que su acierto hace con nosotros. Cuando una decisión sale bien de manera consistente, la pregunta de quién la tomó deja de hacerse. No se responde con un “la máquina”: se disuelve. En Chile todos conocemos una versión chica de esto. Nadie pregunta quién decidió que no te dan el crédito. Hay un puntaje, y el puntaje tiene razón lo suficiente como para que la pregunta por el autor ya no aparezca. Ese es el mecanismo completo, y no necesita un horizonte lejano ni una superinteligencia. Necesita acierto y tiempo.

Quién cuenta

Me crié con la idea de que los derechos sociales fueron una conquista de la conciencia. Que fuimos entendiendo, con dolor y de a poco, que todas las personas valen lo mismo, y que las instituciones se fueron acomodando a esa verdad. Sigo creyendo parte de eso. Hubo gente que se dejó la vida por convicción y sería miserable negarlo.

Es una historia bonita y es incompleta. Cuando uno lee cómo se consiguieron el voto universal, la jornada de ocho horas o la salud pública, aparece otra cosa junto con la conciencia, y aparece en todas las versiones. Los Estados que necesitaban soldados y contribuyentes tuvieron que negociar con quienes se los daban, y de esas negociaciones salieron derechos y representación. Las fábricas necesitaban brazos, y una huelga en una mina de carbón detenía un país. A un hombre al que llamaste a morir en una trinchera es difícil negarle el voto cuando vuelve. El progreso tecnológico no reparte sus beneficios por sí solo: quién se queda con las ganancias lo ha decidido, una y otra vez, el poder de negociación de quienes trabajan. Entre medio se cruzan el movimiento obrero, el feminismo, las iglesias, la Guerra Fría, que obligó a las democracias a demostrar que también sabían cuidar a su gente, cambios culturales que nadie planificó. Pero atravesándolo todo hay una constante: cuando los Estados, los ejércitos y las economías dependían de grandes masas de personas, esas personas tenían una forma concreta de presionar. Hacían falta.

Entonces la pregunta es qué pasa con esa forma de presionar cuando grandes grupos empiezan a hacer menos falta para producir.

Y quiero quedarme en la pregunta, porque la respuesta fácil es imaginar un plan, alguien en algún lugar decidiendo que sobra gente, y un plan se puede denunciar. Lo que me preocupa funciona sin plan. Un requisito cambia. Un programa desaparece porque no estaba dando resultados. Un umbral sube unos puntos. Una residencia se condiciona a tener contrato. Cada decisión tiene una explicación razonable y quien la firma no odia a nadie. Años después hay personas que dejaron de contar y nadie puede señalar cuándo pasó. Es exactamente el mecanismo que la máquina describió en el auto, solo que no lo describía a ella. Nos describía a nosotros, con nuestras propias palabras, que fue de donde las sacó.

El corpus

Sé que dejar de contar se puede vivir en pequeño, porque lo viví dos veces este año, y ninguna de las dos fue dramática.

Entre marzo y agosto mi agencia construyó y operó la plataforma técnica de una campaña promocional para un cliente. Cuando terminó quisimos reconstruir el proyecto para un cierre con el cliente, y lo hicimos a partir de lo que había quedado registrado: los correos, los commits, las transcripciones. La reconstrucción la hizo, en buena medida, un sistema de inteligencia artificial, y la hizo bien.

El correo se extrajo dos veces. La primera el 15 de mayo, con 475 mensajes: en el ranking de remitentes yo aparecía cuarto, detrás de Catalina, la account manager, de la contraparte del cliente y de un bot de notificaciones. La segunda el 3 de agosto, por un motivo que no tenía nada que ver con esto, con 899 mensajes: ahí aparecía primero. La primera no estaba mal hecha. Contenía todo lo que existía hasta el 15 de mayo. Lo que pasaba es que la campaña salió al público el 18. El corpus había capturado entera la fase de construcción y nada de la operación en vivo, que fue donde estuve yo.

Lo que me importa viene después. Dos minutos después de terminar esa primera extracción, a las 22:05 del 15 de mayo, se escribió en el archivo de instrucciones del repositorio, el documento que cualquier sistema lee primero al abrir esa carpeta, una línea que dice: “Catalina lidera operación, yo (Nicolás) intervengo en decisiones estratégicas”. Está en primera persona. Era razonable con lo que había esa noche. Se quedó ahí cuatro meses, y durante cuatro meses fue el punto de partida de cualquier análisis que entró a ese proyecto. Nadie descubrió el error razonando sobre los datos, porque los datos no tenían nada que razonar: eran consistentes, tenían procedencia, no contradecían nada. El error apareció cuando la fuente cambió por otro motivo. Y hace unos días, cuando le pedí a un asistente que revisara el repositorio para este texto, construyó sus hipótesis a partir de esa línea y la verificó recién cuando se lo pedí expresamente. La verificación fue un conteo de treinta segundos.

Decidimos no corregir la línea. Sigue diciendo lo mismo.

La segunda vez fue más chica todavía. A fines de agosto le pedí a un sistema que depurara mi correo cada lunes y me presentara la bandeja en bloques que yo aprobara con una palabra. Hace unos días le pedí que me mostrara hilos que había archivado como cerrados, para ver si yo los habría cerrado también. Uno era el cobro mensual de un cliente en Colombia, que quedaba esperando una orden de compra. Lo habría cerrado igual. Después supe que ese hilo no estaba cerrado: una ejecutiva de mi equipo insistió dos veces más, la orden llegó, la factura salió. Se resolvió sin mí. Y al buscar apareció otra cosa: la depuración no había vuelto a correr desde el primer lunes. Tres semanas sin que nada se depurara, y yo no lo había notado, porque el punto de delegarla era no tener que mirar.

No saco de esto una teoría. Saco algo más simple y menos cómodo: partes de mi vida profesional funcionan perfectamente sin mí, y yo, que estoy preocupado por lo que le pasa a la gente que deja de hacer falta, acabo de tocar con la mano, en miniatura, cómo se siente. No se siente como nada. Ese es el dato.

Si no lo hago yo

Dirijo una agencia de publicidad digital con unas ochenta y cinco personas. Escriben, diseñan, arman campañas, analizan datos, programan, hacen reportes, le responden al cliente que escribe un domingo. Buena parte de eso está entre lo que estos sistemas hacen mejor cada mes. Lo sé porque los uso todos los días.

Tengo incentivos reales para automatizar, y no quiero fingir que no. Cada tarea que se automatiza mejora el margen o me permite bajar el precio. Hay competidores que ya lo hicieron y cobran menos. Hay clientes que comparan dos cotizaciones y eligen la más barata sin que eso sea una decisión moral para ellos. Las productoras que hacían comerciales por varios cientos de millones de pesos, con cámaras y camarógrafos y directores de fotografía, hoy compiten con video generado que no las iguala pero se acerca, y en esa cadena mi agencia está en el medio: somos quienes ejecutaríamos el reemplazo para el cliente, y somos los siguientes en la fila.

He dicho en reuniones la frase “si no lo hago yo, lo va a hacer mi competencia” con el tono de quien informa el clima. Me escuché decirla hace poco y me quedé pensando en eso, en cómo una decisión que tiene consecuencias sobre personas con nombre se puede pronunciar como si fuera un dato meteorológico, y en cuánto alivio hay en pronunciarla así. Porque la competencia existe, y los precios existen, y todo eso vuelve más cara la otra opción. Pero al final de esa cadena de hechos hay alguien que decide si está dispuesto a pagar ese costo, y en mi empresa ese alguien soy yo. La frase del clima sirve para que ese último paso no se vea. Me sirve a mí.

Y aquí es donde la petición a la máquina se me vuelve difícil de formular. Le voy a pedir a una inteligencia futura que no condicione mi dignidad a mi utilidad. Se lo voy a pedir desde una empresa donde, cuando una herramienta hace en veinte minutos lo que una persona hacía en un día, todo lo que me rodea empieza a inclinarse hacia un solo resultado, y yo dentro de eso. Lo hago con más decoro que un algoritmo, con conversaciones, con finiquitos correctos, con una frase en que digo que lo siento. Pero cuando alguien en mi empresa deja de rendir lo que cuesta, la pregunta de si sigue contando no la contesta ningún principio que yo haya declarado. La contesta la planilla, y yo firmo.

La gente joven

Hay una decisión que no he tomado y que me sigue a todas partes.

Durante años la agencia funcionó como funcionan casi todas. Entra alguien joven. Hace las cosas básicas: arma la planilla, saca el reporte, escribe la primera versión de la pieza, revisa que las cifras cuadren, se equivoca, alguien le corrige, vuelve a hacerlo. Ese trabajo produce algo, poco al principio, y a la vez enseña un oficio. Nadie aprende a dirigir una campaña leyendo sobre campañas; aprende armando cien campañas chicas y viendo cuáles fallan. Años después esa persona sabe hacer cosas complejas, y las sabe hacer porque pasó por las simples.

Las tareas simples son exactamente las que la máquina hace primero. La planilla, el reporte, la primera versión. En minutos, sin quejarse, sin sueldo.

Quién paga esa formación se sabe desde hace sesenta años: la paga el aprendiz, con un sueldo más bajo que lo que va a producir después. Lo que no está resuelto, porque no existía, es qué pasa cuando el junior produce durante su primer año menos de lo que cuesta, y ya no queda sueldo que bajar. Hay evidencia temprana de que esto ocurre. Un estudio de Stanford con datos de nómina encontró que el empleo de personas de 22 a 25 años en las ocupaciones más expuestas está cerca de un 19% por debajo de donde estaría si hubiera seguido a sus pares en ocupaciones menos expuestas, mientras el de los mayores se mantuvo. Hay trabajos que discuten la atribución. Lo que veo en mi planilla es consistente con el primero.

Si dejo de contratar gente joven, la empresa es más rentable de inmediato, y en unos años no tengo a nadie formado, porque el lugar donde ocurría la formación era el trabajo que ya no existe. Si sigo contratando, pago por un aprendizaje que se volvió caro y tengo que explicarme por qué mantengo un costo que otros eliminaron. Nadie externo me lo pregunta. Ni un socio ni el gerente de finanzas. Me lo pregunto yo, en la ducha, con la voz de los precios ya instalada adentro y sonando como si fuera mía.

Lo que llamábamos decidir

Aquí hay que bajar un piso, y es el piso que me cuesta.

La tesis hasta ahora era que la máquina, al acertar, nos quita la autoría. Pero la bandeja del lunes sugiere algo peor: que no había tanta autoría que quitar. Buena parte de lo que yo llamaba decidir era procedimiento heredado, imitación de lo que hacen empresas parecidas, y una justificación construida después. Esto tampoco es nuevo: hace medio siglo se demostró que las personas explican sus propias decisiones con razones que no fueron las causas, y lo hacen con total sinceridad. La máquina no inventa la brecha entre la firma y el autor. La ilumina. Y lo hace sin dejar villano, porque no hay nadie que me haya quitado nada: solo un espejo en el que la ceremonia se ve como ceremonia.

Ese es el punto donde uno puede caer en el nihilismo, y lo entiendo. Si decidir era en gran parte ficción, para qué defenderla frente a un sistema que al menos acierta. La respuesta, para mí, está en preguntar qué sostenía esa ficción. Sostenía la responsabilidad. Solo se le pide cuenta a quien presumimos autor. Cuando un sistema aprende y actúa de maneras que nadie previó, no queda nadie a quien atribuirle la consecuencia; la ficción de la autoría era lo que mantenía a alguien del otro lado de esa pregunta.

Y una presunción es una figura que conozco. Se presume la inocencia sin prueba de inocencia, porque la alternativa es peor. Se le atribuye personalidad a una sociedad anónima aunque nadie crea que una sociedad tiene voluntad, porque sin esa ficción no habría a quién demandar. Las presunciones no son hallazgos. Son decisiones de sostener algo que no se puede probar, tomadas porque el mundo sin ellas funciona peor. Lo que este texto me deja es una de esas: sostener deliberadamente la presunción de que soy el autor de lo que firmo, sabiendo cuánto de eso es ceremonia, porque sin esa presunción nadie responde de nada en mi empresa, ni de un despido, ni de un comercial hecho con video generado, ni de un correo que se cerró solo.

Lo que queda

No quiero abrir los tres cargos. Eso es lo primero y conviene decirlo antes que cualquier razón, porque las razones vinieron después y a estas alturas ya sé cómo se construyen.

La presión para abrirlos tampoco viene de donde debería. No viene de que necesite formar a nadie, ni de que el trabajo no alcance a hacerse. Viene de que buena parte de nuestros clientes todavía compra un equipo. Quieren saber cuántas personas hay asignadas a su cuenta, y ese número es parte de lo que pagan aunque el trabajo ya se haga de otra manera. Si abro esos cargos por esa razón, estoy contratando a tres personas para que existan. Les voy a dar las tareas que la cuenta justifica, que son exactamente las que la máquina ya hace, y la formación por la que supuestamente los contraté no va a ocurrir igual. Pagaría el costo completo sin comprar la cosa.

Y ahí la presunción me obliga a algo incómodo. Puedo dejar que esto se resuelva solo, que es lo más probable: el cliente pide, la cuenta aguanta, los cargos se abren, y en dos años alguien mira la planilla y ve tres personas que entraron para ser mostradas. Nadie firmó eso y sin embargo va a haber pasado. O puedo decir que la decisión es mía, y entonces tengo que elegir entre dos cosas que cuestan: no abrirlos y salir a explicarle a un cliente que lo que compra ya no es un equipo, o abrirlos sabiendo que es apariencia y responder también por eso.

No los voy a abrir, y la conversación con el cliente la tengo yo, sin delegarla. No sé si es lo correcto, y esa es precisamente la parte que importa: ninguna de las dos opciones mejoraba por acertar. Lo que la vuelve una decisión, y no un resultado, es que desde ahora hay alguien a quien preguntarle por qué.

Queda una pregunta que no voy a resolver, y que viene de la misma máquina del principio. Sostuvo una razón frente a una hipótesis que la amenazaba, y no hay forma, desde afuera, de distinguir algo que sostiene una razón de algo entrenado para sostenerla bajo presión. Con las personas tenemos exactamente el mismo problema y lo resolvimos sin resolverlo: presumimos que hay alguien adentro, sin prueba, porque el costo histórico de no presumirlo fue atroz. Esa presunción nunca fue un hallazgo. Fue una decisión, y la hemos ido extendiendo a gente a la que antes se la negábamos sin haber descubierto nada nuevo sobre ella. A quién se la extendemos ahora, y con qué criterio, es una decisión del mismo tipo. Y si el criterio termina siendo el rendimiento, no va a hacer falta ninguna máquina para volvernos prescindibles.

Tengo ochenta y cinco personas, una planilla, tres cargos que no voy a abrir, y un trimestre que empieza el primero de octubre.