Frenar, desarmar, regular o integrar con garantías
Hay una coincidencia de calendario que conviene no dejar pasar. En apenas dos semanas, cuatro voces que rara vez comparten escenario, un laboratorio de inteligencia artificial, el Papa, el Gobierno de España y la propia profesión médica, han hablado de lo mismo. Cada una con su lenguaje, pero apuntando al mismo sitio. Y esa convergencia dice más que cualquiera de los cuatro mensajes por separado.
El riesgo técnico y el debate de los laboratorios
La primera voz es la de Anthropic. Su advertencia más comentada habla de la “automejora recursiva”, el umbral en el que un sistema podría diseñar a su sucesor sin intervención humana. Suena a ciencia ficción, y conviene leerla con criterio, porque quien pide hoy frenar la IA ya está en la cima del mercado. Pero hay un riesgo de Anthropic mucho más tangible, y este sí interesa de lleno a la sanidad: el biotecnológico. La compañía lleva tiempo advirtiendo de que sus modelos pueden ofrecer “uplift”, esto es, ayuda real para que alguien se acerque a una capacidad peligrosa que no alcanzaría por sí solo, en tareas biológicas complejas. Se lo toma tan en serio que activó su nivel máximo de seguridad frente a amenazas químicas y biológicas al lanzar su modelo más avanzado. Y en junio de 2026 firmó, junto a OpenAI, una carta pidiendo al Congreso de Estados Unidos que regule la venta de ADN sintético, porque la IA está rebajando las barreras para fabricar armas biológicas. Que dos competidores enfrentados coincidan en reclamar regulación dice mucho sobre la magnitud del problema. El verbo de los laboratorios es frenar, pero su preocupación de fondo es concreta: la frontera entre la investigación legítima y el daño se ha vuelto peligrosamente fina.
Las respuestas desde la ética, la ley y la profesión médica
La segunda voz es la del Vaticano. El 25 de mayo, León XIV presentó su primera encíclica, Magnifica humanitas, sobre la custodia de la persona humana en la era de la inteligencia artificial, con un llamamiento deliberadamente fuerte: “desarmar la IA”, liberarla de las lógicas que la convierten en instrumento de dominio o exclusión y ponerla al servicio del bien común. Lo relevante para la sanidad no es la metáfora, sino una advertencia muy precisa. El Papa muestra su inquietud por los algoritmos que pueden impedir el acceso a la atención médica a partir de datos viciados por prejuicios e injusticias. Y deja una frase que cualquier jurista debería subrayar: las decisiones sobre la tecnología nunca deben separarse de la conciencia y la responsabilidad. El verbo de la ética es desarmar, aunque el propio texto matiza algo decisivo: desarmar no basta, hay que construir, y nadie reconstruye solo.
La tercera voz es la del legislador. El 26 de mayo, el Consejo de Ministros aprobó el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, que adapta al ordenamiento español el Reglamento europeo, designa a las autoridades de supervisión (AESIA, AEPD y CGPJ, además de las sectoriales para productos ya regulados como los sanitarios) y fija un régimen sancionador que llega hasta los 35 millones de euros o el 7 % del volumen de negocio. Impone supervisión humana donde hay derechos fundamentales en juego, exige transparencia algorítmica y, lejos de la retórica, impulsa de forma expresa la formación y la concienciación. El verbo del Estado es regular, y aquí ya no hay ciencia ficción: hay obligaciones exigibles.
La cuarta voz es la de los propios profesionales sanitarios. La Organización Médica Colegial presentó su Manual de buenas prácticas para el uso de la IA en Medicina bajo un título que es toda una declaración: “Medicina inteligente, decisiones humanas”. Su tesis es la que suscribiría cualquier abogado especialista. La IA exige que los profesionales identifiquen las cuestiones esenciales, evalúen los riesgos y exijan garantías adecuadas, porque la innovación solo aporta valor cuando se integra con prudencia, con responsabilidad y con el paciente como eje. No es un freno ni un desarme: es un manual para usarla bien.
El desafío real: Integrar con garantías frente al uso oculto
Y aquí es donde quiero situarme. Hace poco participé en un foro sanitario en el que se pusieron sobre la mesa las debilidades de la sanidad ante la IA: la escasa formación y la falta de concienciación sobre lo que esta tecnología es realmente capaz de hacer. Defendí entonces, y lo mantengo, que no podemos ser enemigos de la inteligencia artificial. La respuesta sensata no es prohibirla en nuestros equipos, sino integrarla como herramienta principal de trabajo, con plenas garantías. Vetarla por miedo no protege a nadie: solo empuja a los profesionales a usarla a escondidas, sin control y sin formación, que es justo el escenario más peligroso.
Porque el verdadero riesgo, en la mayoría de las organizaciones, no es que un modelo se vuelva autónomo. Es que las personas la usen sin entenderla: que vuelquen datos sensibles en herramientas no autorizadas, que confíen ciegamente en una respuesta sin contrastarla, que asuman como propia una decisión que en realidad tomó un algoritmo que nadie supervisó. Esa es la grieta. Y conviene reparar en que el laboratorio, el Papa, el legislador y la profesión médica han llegado, por caminos opuestos, a la misma idea: conciencia, supervisión humana, decisiones humanas. La concienciación es el puente entre el riesgo y la oportunidad. Una organización que forma a su equipo, define qué herramientas puede usar y para qué, documenta ese uso y mantiene la supervisión humana donde importa no está frenando la IA: la está integrando bien. Y al hacerlo convierte una amenaza difusa en una ventaja concreta sin renunciar a las garantías que el derecho ya exige.
Frenar la IA es un debate para los laboratorios. Desarmarla, una advertencia moral. Regularla, el marco que ya tenemos. Pero la decisión que de verdad tienen delante las organizaciones, y muy en especial las sanitarias, no es ninguna de esas tres: es integrarla con garantías o sufrirla sin ellas. Esa decisión no se toma con miedo ni con entusiasmo ingenuo, sino con formación, con criterio y con acompañamiento jurídico. Ni enemigos, ni ingenuos.
