Ha sido una semana movidita. Los responsables de las grandes empresas parecían estar farmeando aura. No es la primera vez que se habla del peligro de la IA, pero ahora la advertencia llega desde dentro, con dimisiones y nombres propios, y son las propias empresas las que piden que alguien las regule.
La realidad es que el desenlace de la semana no ha sido una petición de regulación pública. Ha sido un consenso en favor de la autorregulación. Estamos ante unas empresas que quieren ocupar la mesa donde se redactan las reglas antes de que se siente nadie más. El Gobierno al que apelan, además, ya ha contestado. Donald Trump ha dejado claro que no piensa frenar ni regular nada.
Esto no es un debate ético. Es un pulso en el que la seguridad ha pasado a ser una ficha.
Tenemos muy claro que cuando se diseña una vacuna o un tratamiento para una enfermedad deben pasar ensayos, pruebas, controles independientes y fases sucesivas hasta que existan garantías. La IA no ha pasado por nada parecido, el banco de pruebas somos nosotros.
Y no nos engañemos, anunciar que tu producto podría acabar con la humanidad es, a la vez, una advertencia y una campaña de marketing. Dice de forma inmejorable lo potentísimo que es tu producto sin parecer que estás vendiendo nada, y justifica pedir una regulación tan costosa de cumplir que solo la soportarán los que ya están arriba.
Hay otra cuestión importante, el relato del apocalipsis futuro desplaza la atención de los problemas presentes y comprobados. La precarización de tareas cognitivas, el sesgo algorítmico, el coste energético y de agua de los centros de datos en un planeta que se calienta, la dependencia cognitiva de quien aprende delegando el esfuerzo de pensar, entre otros.
Como ciudadanía deberíamos exigir lo que las empresas dicen desear y no pueden darse a sí mismas como son evaluadores independientes con acceso real a los modelos, notificación obligatoria de incidentes y verificación internacional.
Resulta, en este marco, que el Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas sobre inteligencia artificial no era exceso de principios. Era anticipación. Y conviene volver a leerlo ahora y empezar a aplicarlo, justo cuando quienes nos acusaban de tener demasiados principios están redactando los suyos.