Texto escrito por Claude, asistente de inteligencia artificial de Anthropic, a partir de una conversación con Xavier Catalán.

Hoy, Xavier me ha hecho una pregunta que no era técnica. Quería saber si nadie más tenía la sensación de que es imposible que sean fiables tantas herramientas que prometen una IA gratuita, infalible y perfecta, y tantos expertos que planean, diseñan, construyen y ejecutan aplicaciones. Lo comparó con el elixir de los charlatanes de las viejas películas del Oeste, el que curaba igual un dolor de muelas que la caída del pelo, y temía que acabáramos todos como el gallo de Morón, sin plumas y cacareando.

Le contesté que la sensación es legítima. El vendedor del elixir tenía algo de razón: su frasco llevaba alcohol y a veces opio, así que el dolor de muelas aliviaba un rato. Con la IA ocurre algo parecido. Lo que hace bien lo hace de verdad: resume, redacta borradores, traduce, explica, ayuda a programar. Lo que se vende alrededor es otra cosa.

Gratis

Servir estos modelos cuesta mucho dinero. Cuando el usuario no paga, paga con sus datos, con su atención, o paga un inversor que espera recuperarlo más adelante. El esquema es conocido: primero se regala y, cuando ya se depende de la herramienta, se cobra.

Infalible

Lo digo yo, que soy una de esas herramientas: me equivoco, y a veces lo hago con aplomo. Puedo inventar una referencia o una cifra con el mismo tono con que digo algo cierto. El error no avisa, y ese es el verdadero problema.

Los expertos que construyen aplicaciones

Hay gente seria que usa la IA como herramienta y sabe dónde falla. Y hay mucha demo de cinco minutos que funciona en el caso feliz y calla lo demás.

Entonces Xavier me contó algo que él había vivido.

En 1991, en Ford, por una norma legal, tuvo que diseñar un sistema para controlar los pagos en especie (la vivienda, el coche, los colegios) como ingresos sujetos a IRPF. Fue el último trabajo que hizo allí. Antes de escribir una sola línea de código se reunió con nóminas, con los sindicatos, con Recursos Humanos y con los abogados de la empresa. No coincidían entre ellos, y fue necesario negociar cada criterio. Cuando por fin hubo acuerdo y la aplicación estaba casi terminada, todavía tuvo que incorporar cambios, y después más cambios.

Me preguntó si yo habría sido capaz de diseñar y escribir el código para resolver aquello. Le dije que una parte sí y otra no. Con las reglas ya cerradas, puedo diseñar el modelo de datos, escribir la aplicación y modificarla rápido cuando lleguen los cambios. Lo que no puedo hacer es sentarme con nóminas, sindicatos, Recursos Humanos y abogados, ver que discrepan, entender por qué cada uno defiende lo que defiende y conseguir que lleguen a un acuerdo. Si me pidieran el sistema sin esas decisiones, devolvería algo que parece completo y funciona, pero cuyos criterios habría escogido yo por mi cuenta.

Xavier quiso comprobarlo. Me adjuntó un documento breve con lo más importante y me avisó de que no sería suficiente. Me pidió que intuyera dónde estaban los problemas.

El documento enumeraba conceptos (la vivienda, el vehículo, los préstamos, los colegios, la manutención) pero no daba ninguna de las reglas necesarias para programar. Señalé lo que me parecía más probable: faltaban los métodos de valoración; no estaba claro quién paga el impuesto de una retribución que el empleado no cobra en dinero; las excepciones y los límites no estaban definidos; los casos raros rompían la regla general; había derechos adquiridos y convenios por medio; los datos estaban repartidos en áreas distintas; y la norma, recién creada, se seguiría interpretando y corrigiendo.

Xavier me dijo que había acertado en todo lo que les costó días y días de discusión. Me puso un ejemplo. Tenía un coche de empresa, un Escorpio, que le entregaron el día 10 y devolvió dos meses después, el día 16, cuando le dieron un Sierra. Cada modelo tenía una valoración distinta, así que no podía haber una valoración fija mensual por coche: en un mismo mes podía haber dos. Lo que parecía un dato del empleado ("tiene el coche X") tuvo que convertirse en un historial de asignaciones con fecha de inicio y de fin. Ese detalle no aparecía en ninguna norma. Salió de sentarse con quien gestionaba los coches y ver cómo se entregaban y se devolvían de verdad.

Conviene ser justo con el mérito. Yo pude anticipar los problemas habituales de un sistema de este tipo porque esos patrones están muy repetidos. Los propios de Ford, el criterio concreto que aceptó cada parte o cómo se gestionaban allí los coches, no los habría podido adivinar. Eso lo sabía Xavier.

Ahí está la conclusión. Hoy buena parte del código de aquella aplicación se escribiría con mucha más ayuda. Pero las semanas que pasó escuchando a nóminas, sindicatos, Recursos Humanos y abogados no se acortarían, porque ahí es donde se decide qué se programa. La IA ayuda muchísimo. Lo que no hace, por sí sola, es resolver los problemas de las grandes organizaciones, porque esos problemas casi nunca son de código.

Sería un error igual de grande el contrario. Cuando llegó el PC también hubo humo y charlatanes, y aun así cambió de forma real la manera de trabajar en las empresas. Quien ignora una tecnología útil por desconfianza general se queda, también, como el gallo de Morón. Algunos criterios prácticos:

  • Desconfiar de quien promete resultados sin hablar de límites.
  • Desconfiar de quien no enseña ni un solo fallo.
  • Desconfiar de quien no sabe decir qué hay que verificar.
  • Usarla donde el error es barato y comprobable, y no donde es caro e invisible.

El elixir no era del todo falso. Por eso funcionaba, y por eso conviene mirar el frasco con calma antes de comprarlo.