Estos días ha habido un poco de ruido en Internet con la decisión de Anthropic, la empresa detrás de Claude, de añadir una "marca de agua" al texto que generan sus modelos. Dicha marca de agua es robusta: hace falta una reescritura profunda del texto para eliminarla.
Si bien cada empresa está eligiendo cumplir el artículo 50 del AI Act como le da la gana, Anthropic ha sido quien ha generado más polémica, hasta el punto que hay gente que está cancelando su suscripción por esta cuestión. Algunas figuras famosas han llamado a esto "una perversión de la escritura".
En paralelo está ocurriendo otra cosa aún más interesante. A medida que la gente va acumulando experiencia en tratar con estos extrusores de palabras, empezamos a reconocer su estilo. Ese estilo, por motivos que solo podemos elucubrar, se viene haciendo más denso, alambicado, pedante y odioso en los últimos meses. Un artículo dice literalmente "odio esta voz y espero que muera en la hoguera". Un compañero de trabajo, al leer un artículo que compartí, dijo "el post es interesante, pero está escrito en lenguaje de mierda asqueroso asistido por agentes" (hideous agent assisted turd language, wow).
Los humanos no necesitamos sofisticados métodos estadísticos que inyectan marcas de agua. Reconocer patrones es nuestra especialidad.
No he podido evitar sentir cierta ternura frente a todas estas reacciones. No solo a nadie le gusta leer prosa generada por IA, sino que además a nadie le gusta que otros sepan que han usado IA para generar dicha prosa. Para una tecnología que frecuentemente se describe como "inevitable", parece que está suscitando cada vez más rechazo.
Estoy seguro de que algunos de estos problemas son pasajeros. En el fondo, las grandes empresas tecnológicas comparten un desdén infinito por sus usuarios, que no es sino un reflejo de cómo sus ejecutivos desprecian incluso a sus propios empleados:
It’s worse than this. Having been in the room with many of them (long ago, before I knew they were psychopaths), the tycoons who are left running the industry have an active contempt for ordinary people, including their own workers. They actively want to oppress, control and punish them.
The author of the quoted post has requested their posts not be displayed on external sites.
Solo hace falta que llegue alguna empresa con ganas de escuchar para que empiecen a surgir modelos que no solo sean potentes sino que "escriban bien".
Pero hay otros males mucho más peligrosos. El mayor de ellos es que las tecnológicas están consiguiendo su sueño de que no confiemos en nada.
El fin de la confianza
Pienso a menudo en la viñeta de Peter Steiner que encabeza este artículo, publicada en The New Yorker en julio de 1993. Tiene algo de tristemente premonitorio: hoy podríamos decir que, en Internet, nadie sabe que eres un loro estocástico (o una multitud de ellos).
Y a pesar de todo, aún deseamos conectar con otros humanos a través de Internet. En un momento en el que los buscadores se están haciendo completamente inservibles solo para ganar más dinero y las redes sociales han dejado de hacer honor a su nombre y son solo plataformas de contenido, la gente se refugia en los espacios digitales en los que teóricamente aún podemos conectar con otras personas.
No todo el mundo se ha percatado, claro. Usamos las plataformas por costumbre, y no queremos marcharnos solos.
Váyase (de X) señor Sánchez
Ideas malas y no tan malas sobre cómo acabar con los tecnobros
El contenido producido por humanos es hoy de los activos más valiosos que existen. Lo saben las empresas de "IA", que están comprando libros antiguos y arrancándoles el lomo en un intento desesperado de lo que en inglés llaman "rascar el fondo del barril". Y lo saben los inversores: el día que Reddit anunció que sus visitas en EEUU (su mercado más rentable) habían subido un 10 % pero sus usuarios activos solo un 1 %, se dejó un 21 % de su valor bursátil.
La destrucción de la confianza avanza dentro y fuera del espacio digital. La historiadora Sonja Drimmer publicó en su blog esta semana uno de los textos que me han empujado a escribir este artículo, titulado "The End of Trust". Entre otras cosas cuenta cómo la FDA, la Administración de Alimentos y Medicamentos de los EEUU, ha tenido que retirar trece productos en solo una semana.
No están en su mejor momento en lo que a salud pública se refiere: aparecen brotes de diarrea explosiva, la lepra se convierte en endémica, y el sarampión alcanza su máximo de los últimos 35 años. Todo gracias al patético proyecto DOGE encabezado por Elon Musk, que algunos iluminados querían repetir en España, y con la incansable colaboración del excéntrico ministro de sanidad antivacunas Robert F. Kennedy Jr. Es el caldo de cultivo perfecto para aquellos que desprecian el papel de los expertos, que se sientan en la misma mesa que quienes dicen que "solo el pueblo salva al pueblo".
Sobran los ejemplos de alto voltaje geopolítico y guerra híbrida. Lo cuenta bien este artículo que también me ha inspirado, sobre cómo la ficción nos cuenta lo que los medios no se atreven a decir.
La alternativa es reconectar
Aunque me duele escribir esto, reconozco que es cierto lo que dicen algunos tecno-optimistas sobre que "la 'IA' ha venido para quedarse", incluso cuando explote la burbuja financiera creada en torno a ella.
En lo que se equivocan los tecno-optimistas es en la visión que tendremos sobre la "IA" en el futuro. Quedará, sí, como otras invenciones humanas tristemente difíciles de eliminar o reemplazar: las bombas nucleares, los CFC, o el amianto1.
La comparación con el amianto no es en absoluto descabellada. Cory Doctorow ya se ha referido ampliamente a la "IA" como amianto digital, así como Dagmar Monett y Ariel Guersenzvaig en un artículo que ya comentamos hace unos meses. Es una analogía que ya lleva circulando varios años.
Es hora de que la "IA" haga un fork
No más exhortaciones para que los mantenedores de proyectos de código abierto hagan esto o aquello
Tampoco he sido el primero en comparar la "IA" generativa con la radiación de fondo provocada por las primeras detonaciones nucleares. John Graham-Cumming, antiguo directivo de Cloudflare, creó en marzo de 2023 una web para preservar contenido previo a la irrupción de ChatGPT, comparándolo con el acero de bajo fondo, un material que solo se puede encontrar en barcos naufragados antes de de la prueba Trinity y los bombardeos de Hiroshima y Nagasaki. Como las bombas nucleares, la "IA" es útil, así que posiblemente jamás habrá una voluntad universal para eliminarla por completo.
La "IA" ética no existe
Cuando era joven, elegí estudiar Ingeniería Aeronáutica, principalmente por dos motivos: porque tenía fama de ser muy difícil, y porque estaba obsesionado con un avión militar.
Y por último, menciono los CFC porque son una demostración importante de que somos capaces de coordinarnos para resolver problemas globales. Este inspirador artículo cuenta cómo el agujero de la capa de ozono se empezó a cerrar a principios de los 2000, y no fue gracias a "los mercados", sino el resultado de décadas de investigación científica, negociaciones y multilateralismo que arrancaron en los años 1970.
No sé cuál es la solución al problema de confianza generado por la "IA" generativa. Soy escéptico de quienes proponen resolverlo con más tecnología. Solo sé que requerirá un esfuerzo global y coordinado, que será imposible eliminarlo del todo, y que pasará por reafirmar nuestra humanidad frente a quienes nos comparan con redes neuronales. Eso incluye necesariamente abrazar la ineficiencia y encontrarnos en el mundo real.
¿Y si dejamos de automatizar cosas y disfrutamos de la vida?
Un recorrido por la historia de la "IA" y una reflexión sobre qué hacer con ella
El primer paso lo tenemos frente a nosotros, que es mirar a los ojos a los gigantes tecnológicos y decir:
"No".