El avance frenético de la tecnología ha situado a la sociedad global en un cruce de caminos histórico donde la frontera entre la innovación y los derechos fundamentales se ha vuelto extraordinariamente difusa. La irrupción masiva de sistemas automatizados de toma de decisiones y modelos generativos capaces de procesar volúmenes ingentes de información en milisegundos ha desbordado los marcos legales tradicionales, diseñados para una era analógica o, como mucho, digitalmente estática. En este escenario de cambio vertiginoso, el Derecho se enfrenta a una tarea titánica: construir un muro de contención ético sin asfixiar el progreso científico y económico.
Garantizar la privacidad individual en un entorno donde los datos se han consolidado como el petróleo del siglo XXI representa el verdadero quebradero de cabeza para legisladores y juristas de todo el planeta. Cada interacción en línea, cada consulta en un motor de búsqueda y cada movimiento registrado por dispositivos inteligentes alimenta algoritmos opacos que perfilan comportamientos, anticipan decisiones y, en el peor de los casos, vulneran la intimidad de las personas sin que estas sean plenamente conscientes de ello. La recogida masiva de información personal ha dejado de ser un asunto puramente técnico para convertirse en un dilema sociopolítico de primer orden.
Frente a esta realidad, la necesidad de una normativa clara, exigente y armonizada a escala internacional es más urgente que nunca. La legislación debe responder con agilidad a interrogantes sobre la propiedad de los datos, la responsabilidad civil derivada de los errores algorítmicos y los sesgos discriminatorios que a menudo perpetúan estos sistemas. A lo largo de las siguientes líneas, analizaremos con detenimiento cómo la comunidad jurídica está abordando la regulación de la inteligencia artificial, los escollos metodológicos que encuentra en el camino y el difícil equilibrio entre la protección de la ciudadanía y la competitividad tecnológica.
El cambio de paradigma
Durante décadas, las leyes de protección de datos se articularon en torno al principio del consentimiento informado y el control individual sobre la información personal. El usuario entregaba sus datos para una finalidad concreta y la entidad receptora quedaba obligada a no utilizarlos para propósitos distintos. Sin embargo, la arquitectura intrínseca de los modelos de aprendizaje profundo (deep learning) rompe por completo este esquema estático, dado que estas herramientas necesitan alimentarse de conjuntos de datos colosales e indisolubles para entrenar sus redes neuronales.
El verdadero problema surge cuando esos macrodatos (big data) incluyen registros de voz, imágenes faciales, patrones de conducta o historiales médicos de millones de ciudadanos recopilados mediante rastreos automatizados en la red. En este punto, resulta prácticamente imposible trazar qué dato específico ha servido para generar una determinada respuesta algorítmica, complicando de forma extraordinaria el ejercicio de los derechos de acceso, rectificación o supresión. El concepto de la autodeterminación informativa se tambalea ante una tecnología que no olvida y cuya lógica interna resulta incomprensible incluso para sus propios creadores.
A esta complejidad se suma la naturaleza transfronteriza de la red de redes. Los datos recopilados en un país europeo pueden ser procesados en servidores ubicados en Norteamérica y utilizados para entrenar un modelo que comercializa una empresa asiática. Adaptar preceptos jurídicos territoriales a un flujo de datos que no conoce fronteras geográficas exige un esfuerzo de cooperación internacional sin precedentes que choca frontalmente con los intereses geopolíticos y comerciales de las grandes potencias.
El reglamento de inteligencia artificial de la UE
La Unión Europea ha tomado la delantera global en la ambición regulatoria mediante la aprobación de la AI Act, un texto marco que busca establecer estándares de seguridad basados en una pirámide de riesgos. La premisa central del legislador comunitario consiste en clasificar los usos de la inteligencia artificial según la amenaza potencial que representen para los derechos fundamentales, prohibiendo de manera tajante aquellos sistemas que manipulen el comportamiento humano o realicen identificación biométrica en tiempo real en espacios públicos sin orden judicial.
Esta estrategia por niveles impone requisitos sumamente estrictos a los desarrolladores de sistemas catalogados como de alto riesgo, exigiendo auditorías previas, trazabilidad del código, supervisión humana obligatoria y elevados estándares de ciberseguridad. Si bien esta estructura busca transmitir confianza a los consumidores y proteger la salud y los valores democráticos, diversos sectores industriales advierten sobre la pesada carga burocrática que supone para las pequeñas y medianas empresas emergentes, las cuales podrían quedar en desventaja frente a competidores de jurisdicciones con marcos legales mucho más laxos.
A pesar de estas discrepancias, el «efecto Bruselas» vuelve a ponerse de manifiesto. De la misma manera que el Reglamento General de Protección de Datos (RGPD) se convirtió en un estándar global imitado por decenas de países, el enfoque europeo basado en el riesgo está sirviendo de plantilla técnica para otras naciones que buscan proteger a sus ciudadanos sin desconectarse del comercio digital internacional. La clave del éxito radicará en la flexibilidad con la que los órganos de control apliquen las normas ante un escenario de evolución acelerada.
Transparencia y la paradoja de la caja negra algorítmica
Uno de los pilares jurídicos indiscutibles en cualquier Estado de Derecho es el principio de motivación de las resoluciones: la ciudadanía tiene derecho a saber exactamente por qué se ha tomado una decisión que le afecta. No obstante, en el ámbito de los algoritmos avanzados de inteligencia artificial, este principio choca frontalmente con lo que técnicamente se conoce como el problema de la «caja negra». La extrema complejidad matemática de las redes neuronales profundas impide rastrear con precisión la secuencia lógica de cálculo que condujo a un resultado concreto.
Imaginemos un sistema automatizado que deniega una hipoteca, descarta un candidato en un proceso de selección de personal o evalúa la probabilidad de reincidencia de un interno en un centro penitenciario. Si los propios ingenieros no pueden explicar la ruta exacta de razonamiento matemático que siguió el programa, la persona afectada queda sumida en una situación de total indefensión jurídica. Exigir la explicabilidad de los algoritmos se ha convertido, por tanto, en una reivindicación prioritaria para los expertos en derecho digital.
En este sentido, Despacho Calero recuerda que la opacidad algorítmica no solo vulnera el derecho a la tutela judicial efectiva, sino que dificulta la auditoría legal necesaria para detectar si un modelo de inteligencia artificial está operando con criterios sesgados o directamente discriminatorios. La transparencia no debe entenderse únicamente como la entrega del código fuente, a menudo protegido por secretos comerciales, sino como la capacidad de ofrecer una explicación clara, inteligible y accesible sobre la lógica aplicada en el tratamiento de los datos.
Sesgos algorítmicos y la perpetuación de la discriminación histórica
Existe el mito extendido de que las decisiones tomadas por máquinas son frías, objetivas e imparciales por carecer de emociones. Nada más lejos de la realidad. Los sistemas de inteligencia artificial no operan en un vacío ético; aprenden y extraen patrones de conjuntos de datos históricos recopilados en sociedades marcadas por prejuicios, desigualdades estructurales y diferencias de género o raza. Si un modelo se entrena con datos sesgados, el resultado no solo reproducirá esa discriminación histórica, sino que la amplificará y la sistematizará a gran escala bajo un halo engañoso de neutralidad técnica.
Un caso paradigmático ocurre en las herramientas de selección de personal alimentadas con contrataciones de décadas anteriores. Si históricamente los puestos directivos en un sector determinado fueron ocupados mayoritariamente por hombres, el algoritmo interpretará la variable de género como un factor predictivo de éxito, penalizando sistemáticamente los currículos de mujeres sin que exista un mandato explícito para hacerlo. Detectar y desmantelar estos sesgos resulta una tarea sumamente compleja que requiere auditorías periódicas y una selección quirúrgica de las muestras de entrenamiento.
Desde la perspectiva del derecho de la competencia y la no discriminación, atribuir la responsabilidad jurídica por estos sesgos supone un desafío inédito. ¿Responde el programador que diseñó la arquitectura del código, la empresa que recopiló los datos defectuosos o la entidad que implementó el software para tomar decisiones comerciales? Ajustar los marcos de responsabilidad civil para que las víctimas de discriminación algorítmica puedan ser indemnizadas es una de las asignaturas pendientes más complejas que tienen los tribunales por delante.
Propiedad intelectual y el entrenamiento no autorizado con datos protegidos
El auge de la inteligencia artificial generativa ha abierto un frente bélico encarnizado en el ámbito de la propiedad intelectual. Herramientas capaces de redactar textos complejos, componer música o crear ilustraciones hiperrealistas en cuestión de segundos han sido entrenadas raspando (scraping) miles de millones de contenidos protegidos por derechos de autor que circulaban libremente por la red. Creadores, artistas, fotógrafos y medios de comunicación han iniciado litigios colectivos al considerar que las empresas desarrolladoras han explotado su trabajo creativo sin consentimiento previo ni compensación económica.
Las grandes compañías tecnológicas apelan habitualmente a doctrinas de uso legítimo o fair use para justificar este entrenamiento masivo, argumentando que los algoritmos no copian las obras, sino que aprenden los patrones subyacentes de la misma manera que lo hace un estudiante humano en un museo o en una biblioteca. Por contra, los creadores sostienen que la escala industrial con la que operan estas máquinas destruye el mercado original y sustituye al autor humano utilizando su propio trabajo como materia prima sin pagar la licencia correspondiente.
La indeterminación legal actual genera un clima de enorme inseguridad jurídica que frena la inversión y perjudica tanto a los desarrolladores como a la comunidad artística. La regulación del futuro deberá establecer mecanismos de licenciamiento colectivo, cánones por el uso de obras en el entrenamiento de datos o registros públicos de transparencia que detallen con qué material exacto se ha alimentado cada versión del modelo informático, garantizando la remuneración justa de la creación intelectual.
El desafío de la desinformación
La capacidad de los algoritmos para generar contenido sintético hiperrealista ha alcanzado un nivel de perfeccionamiento que resulta prácticamente indistinguible de la realidad para el ojo humano no entrenado. Los conocidos como deepfakes, vídeos, audios o fotografías manipulados mediante inteligencia artificial para hacer decir o hacer cosas a personas que nunca las dijeron ni hicieron, representan una amenaza letal para la privacidad de la imagen, el honor individual y la estabilidad de las instituciones democráticas.
En el ámbito privado, la proliferación de herramientas accesibles para alterar imágenes ha provocado un repunte alarmante de casos de ciberacoso, extorsión económicamente motivada y creación no consentida de contenido pornográfico sintético, afectando de forma desproporcionada a menores de edad y mujeres. La legislación penal tradicional choca con graves problemas para sancionar estas conductas con celeridad debido al anonimato que ofrece la red y a la dificultad para atribuir la autoría material del archivo manipulado.
A escala geopolítica, la manipulación mediática mediante archivos sintéticos difundidos masivamente en redes sociales durante campañas electorales o conflictos bélicos puede desestabilizar naciones enteras y erosionar la confianza pública en la veracidad de la información. Exigir la inserción de marcas de agua digitales indelebles en los archivos generados artificialmente y tipificar como delito grave la difusión maliciosa de contenido sintético sin etiquetar son respuestas regulatorias que los Estados están implementando a gran velocidad para contener el desastre.
Responsabilidad civil y la atribución de daños causados por decisiones autónomas
Uno de los pilares del Derecho Civil es la atribución de culpa o negligencia a un sujeto de derecho, sea persona física o jurídica, cuando su acción u omisión causa un daño injustificado a un tercero. Ahora bien, este esquema salta por los aires cuando la acción dañina es ejecutada por un sistema que opera con un grado elevado de autonomía determinista, como un vehículo de conducción autónoma que sufre un accidente o un software médico que diagnostica erróneamente una patología grave, afectando la salud del paciente.
Determinar la cadena de causalidad en estos supuestos se convierte en una pesadilla procesal. ¿Se debió el fallo a un error imprevisto en el código del programador, a una actualización defectuosa del sistema operativo, a la mala interpretación de los sensores físicos o al uso inadecuado por parte del usuario final? La fragmentación de los procesos de desarrollo dificulta que las víctimas puedan probar la culpa concreta de uno de los actores involucrados, dejándolas desprotegidas en la práctica.
Para evitar la desprotección de los afectados, la doctrina jurídica avanza hacia la implantación de regímenes de responsabilidad objetiva pura asociados a la obligatoriedad de contratar seguros de suscripción de riesgos para la puesta en mercado de tecnologías altamente automatizadas. De este modo, la víctima cobra la indemnización correspondiente de manera directa a través de la cobertura del seguro, dejando que posteriormente las aseguradoras y las empresas tecnológicas liquiden sus disputas en litigios técnicos a puerta cerrada.
