Antes de ponerme a despotricar sobre las últimas travesuras de la IA, hagamos todos una respiración profunda, al estilo del yoga: inhalamos y exhalamos… «phoooooooooo». Me alegro de verdad de que hayamos tenido al menos un mes de paz y tranquilidad en el agitado mundo de la IA.
Empezaré diciendo esto: la IA NO acabará con la raza humana en 2030, ni en 2090, ni en 5080, ni en ningún otro año. De hecho, todo esto se está volviendo realmente aburrido y monótono. Y, si te fijas, siempre son las mismas empresas, y el personal de esas mismas empresas, los que siguen con este espectáculo teatral y dramático. ¡Siempre pasa lo mismo!
Esto no lo oyes de boca de las empresas tecnológicas más antiguas y consolidadas. De hecho, solo son las dos primas: OpenAI y Anthropic. Son las auténticas «reinas del drama». Imagínate un mundo sin esas dos empresas, qué aburrido sería, ¿no?
Así que estamos empezando a perder el hilo, y tenemos que recordar que todo lo que ocurre tiene un motivo y una razón subyacente.
Sigo sin poder entender cómo una empresa que se gana la vida desarrollando IA de vanguardia y que está empeñada en alcanzar la IA general (AGI) no deja de insistir en que la IA acabará con la raza humana, o que nos quitará el trabajo, o que provocará alguna otra gran catástrofe. Si de verdad creen todo eso, ¿por qué siguen dedicándose al desarrollo de IA?
Anthropic, en concreto, es una empresa que no consigo entender. Creen sinceramente que las capacidades de la IA dan mucho miedo. Esto me quedó claro de nuevo cuando estuve en Washington D. C. en una sesión de trabajo con reguladores y médicos estadounidenses organizada por la Asociación Médica Americana hace un par de meses. El panel en el que intervine lo compartí más tarde con Google, OpenAI y Anthropic (y algunas otras empresas). Y el representante de Anthropic afirmó con seriedad que «no sabemos lo que estamos creando, no conocemos las implicaciones de lo que podría llegar a hacer. No sabemos a qué nos enfrentamos aquí».
Y ahí estoy, sentado, pensándome para mis adentros: «Entonces, ¿por qué seguís compitiendo para ganar la carrera de la IA y seguís creando modelos de IA de vanguardia? ¿Por qué desarrolláis algo que ni conocéis ni entendéis?». ¿O es que se me escapa algo?
Y ahora tenemos otro llamamiento más para hacer una pausa en el desarrollo de la IA y ralentizarlo, esta vez por parte de Dario Amodei, director ejecutivo de Anthropic; y, por primera vez, su viejo amigo Sam Altman está de acuerdo con él. (¡Quizá vayan de la mano en la próxima cumbre sobre seguridad de la IA!)
Se trata de otro enfrentamiento dramático entre las startups estadounidenses de inteligencia artificial. Todas ellas compiten por salir a bolsa.
No debemos olvidar que, desde 2023, ha habido varias declaraciones, compromisos y promesas para frenar el ritmo de desarrollo de la IA. Y, efectivamente, se está ralentizando. Tanto es así que los llamados «agentes rebeldes» siguen pirateando las páginas web de la gente, ¡e incluso secuestrándolas! El último caso se produjo en OpenAI, donde un agente secuestró una página web alemana y la convirtió en un tablón de anuncios para otros agentes. Por supuesto, OpenAI mantuvo esto en secreto.
¿Sabes? Cuando vi estos últimos titulares sobre el «apocalipsis de la IA», lo primero que hice fue intentar imaginarme cómo nos acabaría eliminando realmente la IA. ¿Acaso tiene manos y pies para llevar a cabo esa tarea? Oh, pero estoy siendo un poco torpe, ¿no? Porque son los humanos quienes desarrollan y ponen en marcha estos agentes y modelos de IA que destruirán a la raza humana si no se les pone freno. No es la IA, no le echéis la culpa a la IA.
Esto nos lleva a la siguiente pregunta: cómo evitar que sucedan este tipo de situaciones descabelladas. Por ejemplo, pensando en temas como la ciberseguridad, la seguridad y la alineación de la IA, la IA responsable, la gobernanza de la IA, la normativa sobre IA, etcétera.
Sin embargo, antes de seguir adelante, es importante recordar que todas estas personas son de Estados Unidos. Así que, si deciden frenar el desarrollo de la IA, China ganará la carrera de la IA. Porque me gustaría ver cómo Trump le susurraría palabras bonitas al oído a Xi Jinping para convencerlo de que detuviera todo lo relacionado con la IA. Eso sí que sería la broma del siglo.
La IA presenta numerosos retos que han permanecido sin resolver a lo largo de los años. Los únicos avances «progresivos» que hemos visto son nuevos modelos de IA, nuevos agentes de IA que compiten entre sí y, por supuesto, nuevas modas y temores en torno a la IA. Como el último modelo de OpenAI, el GPT 6, que ahora se ha declarado como IA general (por supuesto que lo es).
Seguimos lidiando con los interminables problemas relacionados con la violación de los derechos humanos por parte de la IA, hasta tal punto que los diputados y los miembros de la Cámara de los Lores del Reino Unido han pedido una nueva ley que aborde la cuestión de la IA y los derechos humanos. ¿Hace falta recordar que, aunque la IA sigue siendo bastante útil para la gestión y las tareas cotidianas, sigue siendo una tecnología muy mal diseñada?
La IA está agravando la desigualdad en todo el mundo, con un oligopolio concentrado y un control del poder. Sigue estando plagada de sesgos que alteran la vida de las personas, de perjuicios en materia de representación y ofrece resultados engañosos y alucinaciones que han llevado a muchas personas a la muerte.
¿Y qué hay de la crisis energética cada vez más grave? Los habitantes de Londres, sobre todo los de Slough, están sufriendo temperaturas cada vez más insoportables debido a la presencia de centros de datos en esa región, que elevan las temperaturas hasta en 9 °C. Este es solo un ejemplo entre los cientos que hay en todo el mundo.
¿Qué crees que provocó las riadas repentinas en Nepal? ¿O los incendios forestales que siguen arrasando en muchas partes del mundo, destruyendo hogares y cobrándose vidas? Has acertado: un factor clave es la crisis climática, que se agrava cada vez más, impulsada en gran medida por los centros de datos, que consumen enormes cantidades de energía.
También existen sesgos cada vez más acusados en materia de contratación, crédito y justicia. Nos enfrentamos a riesgos como el borrado cultural, el colonialismo de datos y el control que se ejerce sobre los anotadores mal remunerados. ¿Y qué hay de la vigilancia humana, el uso militar de la IA para destruir a civiles y a niños inocentes, etc.?
Y lo último, que en realidad siempre ha estado ahí, son los diagnósticos erróneos y las alucinaciones de la IA en el ámbito sanitario. Aunque el sector de la toma de notas mediante IA ha prosperado y se ha implantado en varios sectores, incluido el sanitario, en forma de «IA ambiental», ahora se están produciendo casos de diagnósticos erróneos, se están recetando medicamentos equivocados que se han confundido con otros de nombre similar, se están omitiendo recetas repetidas de los resúmenes, aparecen «alucinaciones» en las notas en las que se recetan fármacos de los que nunca se ha hablado, etc.
Esto da mucho miedo. Más miedo que las amenazas de la IA desconocidas, invisibles y sin demostrar. Así que, si no tenemos cuidado, mientras todo el mundo está prestando atención a esos actores increíbles que probablemente se han equivocado de sector, las tecnologías de IA imprecisas, sin probar e inseguras irán acabando silenciosamente con vidas humanas a través de la sanidad.
No os dejéis sorprender, amigos. Centrémonos en lo que realmente importa. Ya es hora de que los organismos reguladores de todo el mundo den un paso al frente para garantizar que las empresas rindan cuentas y cuenten con las medidas de seguridad adecuadas en materia de IA. Abordar estas cuestiones riesgo a riesgo o daño a daño es el mejor enfoque.
En cuanto al resto de nosotros, podéis estar tranquilos: no os vais a ir a ningún sitio por ahora.
