AI Act y agentes de IA: obligaciones según tu papel
De la finalidad prevista a la cadena de valor: cómo delimitar el sistema, clasificar el riesgo y asignar responsabilidades antes de elegir controles.
Leer artículo →No declaramos una propiedad porque compile. Intentamos destruirla. Lo que sobrevive queda publicado.
Análisis del AI Act para empresas y responsables de IA, junto a ensayos técnicos de Borja Fernández Angulo sobre agentes, control y termodinámica de la información. Los análisis regulatorios nuevos se identifican como síntesis técnica asistida por IA, con fuentes y límites explícitos.
De la finalidad prevista a la cadena de valor: cómo delimitar el sistema, clasificar el riesgo y asignar responsabilidades antes de elegir controles.
Leer el análisis →De la finalidad prevista a la cadena de valor: cómo delimitar el sistema, clasificar el riesgo y asignar responsabilidades antes de elegir controles.
Leer artículo →Autoridad, contexto y capacidad de intervención: una lectura técnica de la supervisión humana en sistemas agénticos de alto riesgo.
Leer artículo →Registro automático, conservación y cadena de custodia: separar integridad, completitud y observación física de un efecto.
Leer artículo →La ilusión cartesiana de separar el cómputo probabilístico de los efectos físicos en producción condena a los agentes de IA al colapso entrópico. Formalización termodinámica de Landau, simetrías de Noether y la necesidad del broker determinista en silicio.
Por qué los frameworks tradicionales (LangChain, AutoGen, CrewAI, bases vectoriales y guardrails de prompt) colapsan en producción crítica, y cómo un micro-kernel en Rust, el cerrojo Touch ID en L1 y la verificación formal en Lean 4 establecen el nuevo estándar del estado del arte.
Por qué el RAG tradicional y la similitud coseno colapsan ante La Pared de la Consistencia, y cómo la memoria compartida (iceoryx2) instaura el veto epistémico determinista.
El prompt engineering modela una tendencia estadística sin barrera en el espacio de procesos. Por qué la seguridad en producción exige mediación determinista y fronteras fail-closed fuera del modelo.
La carrera por hacer agentes más capaces produce sistemas que ejecutan acciones complejas pero flaquean ante la pregunta crítica: ¿qué sabía el sistema en el momento en que actuó, y puedes demostrar que ese registro no fue alterado?
Análisis comparativo de las cinco plataformas dominantes: personalización (Mem0), SO de memoria (Letta), grafos temporales (Zep), flujos de estado (LangGraph) y custodia verificable (CORTEX).
La inflación del término en la industria: por qué llamar a APIs no confiere autonomía, y qué separa un asistente reactivo de un sistema con objetivos persistentes y memoria evolutiva.
Los agentes de IA no fallan por bugs ruidosos; fallan porque nadie midió la distancia entre lo que hacen y lo que deben hacer. Cómo cerrar el lazo de retroalimentación y medir la distancia entre la especificación y el estado actual.
Artículos sobre termodinámica de información, teoría de la señal y modelos de decisión:
El cortafuegos kantiano vía Energía Libre (Friston), la auditoría somática de la sangre (Escohotado), y los límites computacionales de Landauer y Curry-Howard.
Leer investigación →Incompatibilidad topológica estricta entre el filtro de sustracción acústica O(1) y la transducción no lineal de Nigel Godrich.
Leer investigación →No ocultamos las cicatrices de la arquitectura. Cada hito en BABYLON-60 procede de una hipótesis previa destruida por la telemetría del silicio. Publicamos los contraejemplos cuantitativos donde la contención colapsó para certificar las fronteras operativas reales.
«El ring-buffer lock-free (256/4096 slots) garantiza transporte sin pérdida de mensajes para enjambres concurrentes de alta frecuencia.»
Hipótesis refutada. Ampliar buffers no resuelve la saturación asimétrica. Se instaura control de admisión por créditos, rechazo explícito y backpressure determinista: accepted(m) ⟹ eventually [committed(m) ∨ explicitly_rejected(m)].
«El coste de ~1,23 ms observado por mensaje se debe a la sobrecarga computacional de verificación de firmas Ed25519.»
Hipótesis de cuello de botella refutada. La criptografía no satura el consumidor. Se aísla formalmente: Latencia de Transporte ≠ Latencia de Verificación ≠ Latencia de Decisión ≠ Latencia de Efecto Consolidado.
«Restringir permisos POSIX a 0700 en los descriptores SHM aísla la memoria compartida frente a subprocesos y agentes hostiles.»
Hipótesis de seguridad refutada. chmod 0700 no confina procesos del mismo usuario. Se exige sandboxing estricto (Seatbelt/sandbox-exec en macOS, namespaces en Linux) y broker de capacidades Ring-0 con verificación estricta de procedencia.
«El uso de thread::yield_now() en bucles de polling lock-free garantiza una cesión cooperativa y eficiente de cómputo en CPUs multinúcleo.»
Hipótesis refutada. yield_now() no es un primitivo de sincronización válido bajo saturación. Migración a backoff exponencial adaptativo con os_unfair_lock/futex en reposo y conmutación a event-driven IPC en picos de carga.