A cada persona que cumple condena en una prisión federal de Estados Unidos se le asigna un número que ayuda a decidir cuándo sale. Lo produce PATTERN — Prisoner Assessment Tool Targeting Estimated Risk and Needs, el instrumento de evaluación de riesgo y necesidades que el Departamento de Justicia construyó después de que el Congreso, en la First Step Act de 2018, se lo ordenara. La puntuación clasifica a cada persona en una de cuatro categorías de riesgo de reincidencia, de mínimo a alto, y esa categoría gobierna algo concreto: si los créditos de tiempo que alguien gana con sus programas pueden de verdad canjearse por una salida anticipada a un centro de reinserción o a confinamiento domiciliario. Una puntuación de riesgo mínimo es un camino a casa. Una de riesgo alto es una puerta cerrada. La herramienta es real, tiene consecuencias y está gobernada — se audita, se revalida, se litiga. Lo que no es, de ninguna forma estructurada, es contestable por la persona a la que evalúa. Ese último hecho es el asunto de esta lectura, y la razón por la que PATTERN es la ilustración más limpia de una afirmación que está en el centro de cualquier comparación seria entre la regulación europea y la estadounidense de la IA.
↑ N° 17 · La distinción de Hildebrandt entre legal by design y legal protection by design es el motor teórico de esta pieza: PATTERN es lo que ocurre cuando un sistema se gobierna para el riesgo sistémico pero nunca se construye para mantener en pie la contestación.La herramienta, y lo que la puntuación de verdad mueve
Antes que la norma, el objeto. PATTERN no es una curiosidad consultiva: su resultado cambia la fecha en que un ser humano sale por la puerta.
La First Step Act fue una ley penal y penitenciaria bipartidista, firmada en diciembre de 2018, que intentó reducir la población reclusa federal pagando a las personas, en tiempo, por rehabilitarse. Completa un programa aprobado — un curso de formación profesional, un tratamiento de adicciones — y ganas «créditos de tiempo». Aplícalos, y tu salida a un régimen supervisado se adelanta. Pero el texto legal puso una compuerta al cobro: los créditos solo puede aplicarlos quien el sistema juzga con baja probabilidad de reincidir. Para operar esa compuerta a escala, el Congreso encargó al Departamento de Justicia construir un instrumento de evaluación de riesgo.1 PATTERN es ese instrumento, publicado en 2019 y revisado desde entonces.
Vale la pena enunciar la mecánica sin rodeos, porque la abstracción «evaluación de riesgo» esconde lo que está en juego. PATTERN toma una serie de datos — edad, hechos del historial penal, expediente disciplinario dentro de prisión, programas completados — y devuelve una puntuación, que se traduce en un nivel de riesgo. El nivel no es un consejo que un gestor de caso pueda tomar o dejar. Está cableado a la elegibilidad. Dos personas con créditos ganados idénticos pueden caer a lados opuestos de la compuerta de salida porque el modelo las situó en categorías distintas.
Esto es lo primero que hay que retener: la puntuación no es una recomendación que se sienta al lado de la decisión. Para una clase amplia de casos es la decisión, o la parte que decide. Es justo la configuración que, en otros contextos, el derecho ha aprendido a rodear de garantías.
Cómo gobierna Estados Unidos a PATTERN — de forma difusa, y desde fuera
Hay supervisión real. Solo que no vive dentro de la herramienta, y casi nunca se activa a petición de la persona evaluada.
Sería falso decir que PATTERN no está gobernado. Lo contrario se acerca más a la verdad: es uno de los algoritmos más examinados del gobierno federal. El brazo investigador del propio Departamento de Justicia lo revalida con una cadencia más o menos anual, y publica informes técnicos sobre su exactitud predictiva y sus disparidades entre grupos raciales y étnicos — disparidades que los propios informes documentan y que el departamento reconoce seguir tratando de reducir.2 En 2025, la Oficina de Rendición de Cuentas del Gobierno (GAO), el órgano de auditoría del Congreso, examinó el sistema y concluyó que hacían falta mejoras en cómo se gestiona la herramienta y cómo se comunican sus límites a quienes dependen de ella.3 El Departamento de Justicia también incluye ya a PATTERN en su inventario público de casos de uso de IA.4
Así que supervisión hay. La pregunta es su forma. Cada uno de estos canales es sistémico y externo: una revalidación periódica de estadísticos internos, una auditoría puntual de la GAO, una entrada en un inventario de transparencia, una carta de alegaciones de una coalición de derechos civiles.5 Examinan la herramienta como un instrumento de nivel poblacional. Ninguno es una vía por la que una persona concreta, evaluada como «alto» un martes concreto, pueda exigir la base de esa puntuación y ponerla ante alguien con poder para cambiarla.
Donde ha asomado la contestación individual, ha sido donde el sistema estadounidense suele enviar los agravios sin resolver: los tribunales. Un puñado de demandas presentadas por personas presas ha empezado a poner a prueba determinaciones vinculadas a PATTERN — cómo se calcularon los créditos, cómo se asignó un nivel de riesgo, si se siguió el procedimiento.6 El litigio es un canal de contestación. Pero es el más lento, el más caro y el menos accesible de los disponibles: se alcanza casi siempre a posteriori y casi siempre por quien consigue abogado.
PATTERN se audita a fondo y casi no se puede recurrir. No son el mismo tipo de rendición de cuentas. — La tesis de esta lectura
La distinción de esa frase es todo el asunto, y conviene frenar en ella, porque la intuición de que «un sistema bien auditado es un sistema con rendición de cuentas» es justo la intuición que el resto de la pieza trata de complicar. Auditar pregunta: ¿rinde la herramienta según lo especificado en el conjunto de la población? Contestar pregunta: ¿puede esta persona impugnar lo que la herramienta hizo con ella? Un sistema puede superar lo primero de forma continua y no ofrecer respuesta a lo segundo. PATTERN, hoy, en gran medida hace eso.
Lo que un régimen de alto riesgo exigiría
Ahora mueve la misma herramienta al otro lado del Atlántico, conceptualmente, y pregunta qué exigiría el Reglamento de IA si PATTERN cayera bajo sus reglas de alto riesgo.
El Reglamento de Inteligencia Artificial de la Unión Europea, en vigor desde agosto de 2024, no regula toda la IA por igual. Clasifica los sistemas por riesgo y reserva sus obligaciones más pesadas para un conjunto definido de usos de «alto riesgo» — entre ellos la IA empleada en la administración de justicia y en la evaluación de riesgo para fines policiales, la familia a la que PATTERN pertenece.7 Una herramienta con la función de PATTERN, desplegada en la Unión, caería casi con seguridad en ese nivel. Y el nivel de alto riesgo no es una etiqueta de advertencia. Es un conjunto de deberes de diseño y de proceso exigibles.
Cuatro de esos deberes importan aquí, porque son justo los que la gobernanza estadounidense de PATTERN deja al azar. Los artículos 11 y 12 exigen documentación técnica y registro automático — el sistema debe guardar trazas que permitan reconstruir su funcionamiento a posteriori. El artículo 13 exige transparencia hacia quien lo despliega, para que el funcionario que usa la puntuación entienda las capacidades y los límites de la herramienta. El artículo 14 exige supervisión humana integrada en el diseño del sistema y operativa durante el uso, no solo prometida en una política. El artículo 15 exige un estándar declarado y probado de exactitud y robustez.8
Después llega la parte sin análogo estadounidense alguno: la evaluación de conformidad. Antes de que un sistema de alto riesgo salga al mercado, el Reglamento de IA exige un procedimiento que verifique que cumple los requisitos — casi siempre por control interno conforme al Anexo VI y, para algunos usos, mediante un tercero independiente, un «organismo notificado», acreditado según el artículo 31 para hacer la comprobación.9 El argumento no es que el papeleo europeo pese más. El argumento es estructural: el Reglamento convierte la buena práctica en una condición para operar, y le adosa un verificador externo que lo confirme. Las revalidaciones de PATTERN son excelentes, pero son obra del mismo departamento que opera la herramienta, hechas tras el despliegue, sin ninguna compuerta externa que el sistema deba pasar para seguir en marcha.
Por qué esto es una cuestión de interoperabilidad, no de una herramienta
La brecha no es que Estados Unidos se olvidara de gobernar a PATTERN. Es que el marco con el que lo gobierna nunca se construyó para hacer el trabajo que la brecha nombra.
Estados Unidos no carece de marco de gobernanza de IA. Tiene el Marco de Gestión de Riesgos de IA del Instituto Nacional de Estándares y Tecnología — el AI RMF del NIST —, un documento cuidadoso y muy respetado, organizado en torno a cuatro funciones: gobernar, mapear, medir y gestionar.10 Una agencia que se tomara en serio el AI RMF para PATTERN haría buena parte de lo que pide la buena gobernanza: inventariar el sistema, mapear su contexto, medir su rendimiento y sus disparidades, gestionar los riesgos que afloran. De hecho, casi todo eso es lo que las revalidaciones ya hacen.
Pero el AI RMF es voluntario y — más importante para este argumento — está hecho para gestionar el riesgo en el plano del sistema y la institución, no para conferir un derecho a la persona. Le dice a una agencia cómo gobernar bien su modelo. No le dice a la persona evaluada que puede exigir la base de la puntuación y contestarla ante un foro que pueda cambiarla. Esa segunda cosa no es un defecto que el AI RMF olvidara incluir. Es, sencillamente, otra clase de instrumento haciendo otra clase de trabajo.
Aquí PATTERN deja de ser una anécdota y se vuelve prueba de una tesis. El proyecto central de comparar el Reglamento de IA de la UE y el AI RMF del NIST es encontrar dónde se corresponden ambos marcos y, más revelador, dónde uno cubre un terreno que el otro deja abierto.11 PATTERN marca uno de esos huecos con claridad inusual. Del lado europeo, una clasificación de alto riesgo arrastra evaluación de conformidad, supervisión integrada y — a través del régimen de protección de datos que acompaña al Reglamento de IA — el derecho de la persona a impugnar una decisión solo automatizada. Del lado estadounidense, las obligaciones equivalentes son voluntarias, externas, a posteriori o inexistentes. Los marcos no son imágenes especulares con unas pocas piezas que faltan. Están construidos alrededor de centros de gravedad distintos: gestión del riesgo sistémico de un lado, protección jurídica individual del otro.
Esa última fila es la que el vocabulario de Hildebrandt se construyó para nombrar. Un sistema puede ser legal by design — diseñado para ejecutar la regla correctamente — y aun así no estar construido para la legal protection by design, la preservación de las condiciones, la contestabilidad la primera, que hacen que una regla proteja en lugar de simplemente ejecutarse. PATTERN es un caso cuidadoso de lo primero con muy poco de lo segundo.
Coda — qué queda abierto y qué no
PATTERN es un blanco móvil, y parte de lo que esta lectura describe cambiará. La herramienta se está revalidando otra vez para 2026; las disparidades que documentan sus propios evaluadores pueden estrecharse; el puñado de demandas que ponen a prueba sus determinaciones puede producir doctrina que cuaje, en algún sitio, en un canal de contestación real. El sistema estadounidense no es estático, y su sede preferida para construir derechos — el tribunal — es lenta pero no está cerrada.
Lo que no admite mucha duda es la estructura. PATTERN se estudia a fondo y se contesta muy poco, y esa combinación no es un accidente de la implementación de una herramienta. Es lo que se obtiene cuando un sistema se gobierna con un marco hecho para gestionar el riesgo institucional en lugar de para conferir protección individual. El Reglamento de IA no haría necesariamente a PATTERN más justo ni más exacto — sus revalidaciones quizá ya superen lo que exigiría una primera evaluación de conformidad. Lo que el Reglamento cambiaría es la gramática: convertiría la documentación, la supervisión y una comprobación externa en condiciones para operar, y se situaría junto a un derecho que permite a la persona evaluada replicar.
Al lector le queda un diagnóstico, no un veredicto. La próxima vez que encuentres la afirmación de que algún algoritmo público está «gobernado de forma responsable», conviene preguntar a qué pregunta responde esa gobernanza. ¿Rinde bien la herramienta en el conjunto de la población? ¿O puede la persona a la que juzga discutir con ella? Son rendiciones de cuentas distintas, y PATTERN es el caso que muestra cuánto pueden separarse.