¿Quién responde cuando el código falla? La perspectiva de un consultor en la era de la contabilidad 100% autónoma.
Desde mi posición como constructora de mis propias herramientas y consultor tecnológico, mi trabajo consiste en ayudar a las empresas a implementar innovación, optimizar flujos de trabajo y adoptar automatización.
Veo a diario el tremendo potencial de modelos como Claude o ChatGPT: procesan datos a velocidad luz, extraen información de facturas en milisegundos y automatizan tareas que antes tomaban días.
Y la pregunta que recibo de mis clientes con más frecuencia es: ¿Por qué no encendemos el piloto automático total? ¿Por qué no dejamos que la Inteligencia Artificial gestione la contabilidad y los impuestos de principio a fin, sin intervención humana?
Como consultor mi responsabilidad no es solo vender la tecnología, sino analizar los riesgos estratégicos, contractuales y operativos de las soluciones que recomendamos.
Cuando analizamos la letra pequeña de la ley, las pólizas de seguro y el cumplimiento normativo en Holanda y la Unión Europea, la respuesta es contundente: la autonomía ciega en procesos financieros y fiscales es una trampa de riesgo masivo.
Esta es mi reflexión técnica y estratégica sobre las preguntas que cualquier consultor o líder de proyecto debe plantearse antes de automatizar al 100% la función contable.
1. La ilusión de la delegación: la IA no tiene personalidad jurídica
Cuando un cliente me plantea sustituir la supervisión humana por un agente de IA autónomo, suelo hacerle una pregunta de gestión de riesgos: si el algoritmo comete un error sistémico al clasificar el IVA durante un año, ¿a quién notifica la administración tributaria?
La realidad operativa es inflexible: las autoridades fiscales (como el Belastingdienst en los Países Bajos) no dialogan con software.
La Inteligencia Artificial no tiene personalidad jurídica; no se le pueden embargar bienes, no se le pueden imponer sanciones ni se le puede exigir responsabilidad tributaria. Para la ley, el obligado tributario (la empresa) y sus representantes legales son los únicos responsables.
No existe la defensa de «es que la herramienta cometió una alucinación».
La empresa pagará la deuda, los intereses y las multas de su propio bolsillo antes de poder iniciar cualquier reclamo contra el proveedor del software.
2. El vacío en las pólizas de seguro: el riesgo que la consultoría no puede ignorar
Uno de los errores más comunes al diseñar una arquitectura de procesos es asumir que el Seguro de Responsabilidad Profesional (Beroepsaansprakelijkheidsverzekering o BAV) del cliente cubrirá cualquier fallo tecnológico.
Si como consultores diseñamos e implementamos un proceso donde se elimina por completo la validación humana (human-out-of-the-loop), las aseguradoras pueden clasificar el incidente como una violación del deber de cuidado (zorgplicht) o negligencia grave.
Si la aseguradora rechaza el siniestro, el impacto financiero recae directamente sobre el patrimonio de la empresa, lo que además expone al consultor a reclamos por un mal diseño de procesos.
3. El dilema del GDPR: confundir herramientas de oficina con canalización de datos
En el ámbito de la consultoría de IT, a menudo escucho esta objeción: «Si la empresa ya utiliza Microsoft 365 o Google Workspace en la nube, ¿cuál es la diferencia de enviar facturas a la API de Claude?»
La diferencia es de arquitectura de datos y gobernanza:
- Datos sensibles en facturas: una factura contiene información protegida por el AVG/GDPR (datos de autónomos ZZP'ers, direcciones fiscales, IBANs personales, conceptos de servicio confidenciales).
- Entornos no regulados: enviar estos datos a través de interfaces públicas o APIs sin acuerdos comerciales Enterprise o sin un Acuerdo de Procesamiento de Datos (DPA) formal constituye una fuga de datos (datalek).
- Multas no asegurables: en Europa, las sanciones impuestas por las autoridades de protección de datos (como la Autoriteit Persoonsgegevens) no se pueden asegurar por ley. Ninguna póliza indemnizará a una empresa por una multa de privacidad derivada de un flujo de trabajo mal estructurado.
Mi recomendación como consultor: «autonomía aumentada», no ciega
Mi rol no es frenar la adopción de la Inteligencia Artificial, sino garantizar que la transformación digital de mis clientes sea sostenible y legalmente sólida. Para implementar IA en procesos financieros de forma segura, recomiendo seguir tres pilares de diseño:
- Despliegue en infraestructuras reguladas (EU Enterprise): consumir modelos de lenguaje a través de regiones europeas gestionadas (como Google Cloud Vertex AI o Amazon Bedrock en la UE) con contratos DPA que garanticen que los datos no se transfieren fuera del Espacio Económico Europeo ni se utilizan para reentrenar modelos.
- Arquitectura human-in-the-loop: diseñar el sistema para que la IA ejecute la extracción, reconciliación y detección de anomalías, pero manteniendo puntos de control donde un profesional humano revise y autorice las operaciones críticas o valide muestras aleatorias.
- Gobernanza y trazabilidad (logs): configurar registros auditables de cada decisión tomada por el modelo para respaldar cualquier inspección fiscal o auditoría de cumplimiento.
La Inteligencia Artificial es el copiloto más potente que podemos integrar en una empresa, pero la responsabilidad del vuelo y el control de los mandos sigue siendo un compromiso humano estratégico que ningún código puede reemplazar.
← Todos los artículos