La inteligencia artificial generativa-productiva
en el derecho constitucional comparado:
una revisión sistemática
Generative-productive artificial intelligence in comparative
constitutional law: a systematic review
Recibido: 06/04/2025 - Aceptado: 18/07/2025
Dayhana Silvia Lope-Cervantes
https://orcid.org/0000-0002-8845-954X
dlopec@ucvvirtual.edu.pe
Universidad César Vallejo. Lima, Perú
Julio Iván Rabanal-Bardales
https://orcid.org/0000-0002-3409-0652
jrabanalb@ucvvirtual.edu.pe
Universidad César Vallejo. Lima, Perú
Diego Conrado Ludeña-Manco
https://orcid.org/0000-0002-8680-3458
U20151b634@upc.edu.pe
Universidad Peruana de Ciencias Aplicadas. Lima, Perú
Violeta María De Piérola-García
https://orcid.org/0000-0002-8075-0340
vpierola@ucvvirtual.edu.pe
Universidad César Vallejo. Lima, Perú
Nilton Isaías Cueva-Quezada
https://orcid.org/0000-0002-1038-8884
ncuevaq@ucvvirtual.edu.pe
Universidad César Vallejo. Lima, Perú
Resumen
La investigación analiza el impacto de la inteligencia artificial generativa (IAG) en el derecho constitucional
comparado, enfocándose en sus implicaciones éticas y legales, así como en los beneficios y desafíos que
representa para los derechos fundamentales. Para ello, se empleó un enfoque cualitativo y una revisión
sistemática conforme al protocolo PRISMA, que incluyó un análisis temático de estudios relacionados con la IAG,
el derecho constitucional y el derecho comparado. La búsqueda bibliográfica, realizada en bases de datos
académicas relevantes, inicialmente identificó 125 registros; finalmente, se seleccionaron 27 estudios para la
síntesis cualitativa. Los resultados evidencian una interacción compleja entre la IAG y el derecho constitucional,
destacando principalmente desafíos en torno a la responsabilidad y la regulación. En particular, se señalaron
preocupaciones sobre la perpetuación de sesgos y la vulnerabilidad de la privacidad. Además, la IAG plantea
cuestionamientos acerca de la autoría, la propiedad intelectual y la responsabilidad legal. En conclusión, el estudio
subraya la necesidad imperante de adaptar los marcos legales para garantizar un uso ético de la inteligencia
artificial que respete los derechos fundamentales y la seguridad jurídica. En definitiva, la evolución tecnológica
demanda que el derecho constitucional se prepare para afrontar los desafíos emergentes derivados de la IAG,
asegurando su regulación adecuada y ética.
Palabras clave: derechos fundamentales, derecho comparado, inteligencia artificial generativa.
Abstract
This research analyzes the impact of generative artificial intelligence (GAI) on comparative constitutional law,
focusing on its ethical and legal implications, as well as the benefits and challenges it poses for fundamental rights.
To this end, a qualitative approach and a systematic review according to the PRISMA protocol were employed,
2
which included a thematic analysis of studies related to GAI, constitutional law, and comparative law. The
bibliographic search, conducted in relevant academic databases, initially identified 125 records; ultimately, 27
studies were selected for the qualitative synthesis. The results reveal a complex interaction between GAI and
constitutional law, primarily highlighting challenges around accountability and regulation. In particular, concerns
about the perpetuation of bias and the vulnerability of privacy were noted. Furthermore, GAI raises questions about
authorship, intellectual property, and legal liability. In conclusion, the study underscores the urgent need to adapt
legal frameworks to ensure the ethical use of artificial intelligence that respects fundamental rights and legal
certainty. Ultimately, technological evolution demands that Constitutional Law prepare to address the emerging
challenges arising from AI, ensuring its appropriate and ethical regulation.
Keywords: fundamental rights, comparative law, generative artificial intelligence.
Introducción
A lo largo de la historia, el ser humano ha experimentado una evolución notable, no solo en su desarrollo
físico, sino también en su capacidad intelectual. Este proceso de transformación ha facilitado la transición del
hombre primitivo al ser racional, impulsando una evolución significativa en sus habilidades sociales y cognitivas.
Como señala Galeano (2011), este fenómeno se conoce como inteligencia social, que abarca la forma en que
nos comunicamos y ha permitido la conformación de sociedades estructuradas en torno a la cultura, la religión y,
eventualmente, la vida política.
En consecuencia, esta gran evolución ha provocado un cambio paradigmático en el humano, quien ahora
es capaz de crear algoritmos y sistemas complejos diseñados para simplificar la convivencia social. Sin embargo,
dicha capacidad ha generado también una creciente dependencia de estos sistemas, los cuales ejecutan tareas
específicas con gran rapidez y un nivel de razonamiento autónomo, lo que hoy denominamos inteligencia artificial
(IA). Gracias a esta inteligencia, se han desarrollado robots que, mediante el procesamiento del lenguaje natural
y el reconocimiento de patrones, han alcanzado una forma de pensamiento propio.
En este contexto, la incorporación de la inteligencia artificial generativa-productiva en el derecho
constitucional comparado supone un avance trascendental en la forma en que se desarrollan, interpretan y aplican
las normas constitucionales. Las tecnologías actuales permiten analizar grandes volúmenes de datos jurídicos,
identificar patrones y anticipar posibles escenarios legales con una agilidad y precisión que complementan el
análisis jurídico tradicional (Pinto, 2024). No obstante, esta adopción plantea interrogantes fundamentales en
torno a la legitimidad, transparencia y responsabilidad. Si bien la automatización en la generación de documentos
y asesorías legales ofrece rapidez y accesibilidad, también implica desafíos en cuanto a la protección de datos,
la pérdida de elementos humanísticos en el análisis y posibles interpretaciones erróneas de las normas.
Por tanto, la relación entre el derecho y la inteligencia artificial requiere un entendimiento técnico profundo,
junto con una reflexión crítica que garantice el respeto irrestricto a los principios constitucionales, los derechos
humanos y la justicia. Además, la comparación entre distintos sistemas jurídicos revela diversas perspectivas
sobre la regulación e implementación de estas tecnologías, reflejando particularidades políticas, sociales y
culturales propias de cada contexto. En este sentido, Durango (2023) informa sobre la presencia de androides en
un estadio de California durante un partido entre Miami Dolphins y Los Angeles Chargers, cuyos asistentes
quedaron asombrados por la interacción con estos seres; asimismo, BBC News Mundo (2019) alerta sobre los
riesgos de que este tipo de inteligencia aprenda con información errónea proporcionada por humanos.
Uno de los androides más mediáticos es Sophia, cuya creación se volvió viral en 2016 tras manifestar
una supuesta intención hostil contra la humanidad. Sin embargo, Bellucci (2021) explicó para Clarín que Sophia
opera con inteligencia social basada en software de código abierto. Este caso ejemplifica el tránsito desde simples
programas de videojuegos hasta la sofisticada IA generativa (IAG), tecnología que ha hecho posible que hoy
existan robots capaces de aprender y comportarse de manera autónoma.
No obstante, pese a los avances positivos, también emergen riesgos asociados. En una publicación
de The Conversation de octubre de 2023, Travieso (2023) señaló que "los prompts hacen que la IA se salte los
límites legales", subrayando que antes del lanzamiento de ChatGPT-3 se simularon ataques en OpenAI, lo que
evidencia que, aunque la IA no equivale a una bomba nuclear, un mal uso puede ocasionar daños considerables.
Por ello, la Inteligencia Artificial Generativa representa desafíos singulares en el ámbito legal,
especialmente en materia de responsabilidad y regulación. A medida que crecen los sistemas automatizados
basados en esta tecnología, surgen interrogantes sobre autoría, propiedad intelectual y responsabilidad por sus
acciones. En consecuencia, es fundamental adaptar los marcos legales para asegurar un uso ético que respete
los derechos humanos y garantice la seguridad jurídica y biológica. En esta coyuntura, el derecho constitucional
no puede quedar rezagado; debe estar a la vanguardia, atento a los avances tecnológicos, puesto que, como
3
advierte Carrasco (1984), en el futuro la IAG a través de androides podría vulnerar gravemente derechos
fundamentales.
Desde una perspectiva teórica, el estudio de la inteligencia artificial generativa-productiva aplicada al
derecho constitucional comparado brinda herramientas esenciales para comprender la interacción entre estas
tecnologías y las instituciones constitucionales. La IA se define como sistemas capaces de realizar tareas que
requieren facultades humanas, como la comprensión del lenguaje natural, el aprendizaje automático y la
generación de contenido. En particular, la IA generativa-productiva se caracteriza por crear contenido original, lo
que abre nuevas oportunidades y retos en el ámbito jurídico. Por otro lado, los principios y fundamentos del
derecho constitucional establecen el marco normativo, doctrinal y ético que regula la organización estatal, los
derechos fundamentales y el control constitucional; estos elementos requieren una profunda revisión ante la
integración tecnológica, según Suleng et al. (2025).
Asimismo, los principios constitucionales configuran la estructura legal y política que regula el Estado,
protege los derechos fundamentales y distribuye el poder, sustentados en la supremacía constitucional, la
separación de poderes y el respeto de los derechos humanos. Además, valores como la soberanía popular, el
Estado de derecho y la legalidad garantizan la legitimidad y estabilidad democrática. Fierro (2025) señala que
adaptar estos fundamentos a la era digital demanda nuevas formas de interpretación y aplicación, especialmente
frente a tecnologías avanzadas.
De igual modo, incorporar la inteligencia artificial en procesos constitucionales plantea dudas y
oportunidades en la interpretación normativa, la defensa de derechos y la formulación de políticas públicas.
Resulta esencial comprender estos principios para evaluar si la IA contribuye o contraviene los valores
constitucionales, garantizando que la innovación tecnológica esté alineada con los derechos y libertades
fundamentales. La interacción entre derecho constitucional y tecnologías emergentes requiere un análisis
riguroso, que integre respeto por los derechos humanos, transparencia y responsabilidad en el uso de sistemas
automatizados. Como sostienen Ruiz et al. (2025), este debate es crucial para definir límites adecuados y
asegurar que la aplicación de la IA en el ámbito constitucional sea coherente con los principios democráticos y
jurídicos que sustentan el Estado de derecho.
Finalmente, la relación entre inteligencia artificial y Derecho configura un escenario complejo y
multidimensional que ha cobrado relevancia en la última década. La incorporación de sistemas de IA generativa
en el ámbito jurídico no solo automatiza procesos tradicionales, sino que transforma la manera en que se
interpretan y aplican las normas constitucionales. La IA facilita el análisis masivo de datos legales, identifica
patrones y emite recomendaciones que pueden agilizar decisiones judiciales. Sin embargo, también plantea
cuestionamientos en cuanto a la compatibilidad con principios básicos como la protección de derechos humanos,
la transparencia y la responsabilidad legal. Dopazo (2024) señala que automatizar actividades jurídicas exige un
marco regulatorio que garantice ética y rendición de cuentas, sobre todo en aspectos constitucionales que afectan
la autonomía del Estado de derecho.
Además, la interacción entre IA y Derecho genera interrogantes sobre la legitimidad y comprensión de
decisiones asistidas por tecnología, requiriendo un equilibrio entre innovación y garantías constitucionales. La
regulación debe incluir procedimientos que aseguren equidad y eviten sesgos y discriminaciones derivados de
datos no representativos. En consecuencia, este vínculo demanda no solo la adaptación de normas vigentes, sino
también la elaboración de nuevas directrices para proteger la integridad constitucional en medio del avance
tecnológico. La cooperación estrecha entre juristas, tecnólogos y legisladores es indispensable para promover un
desarrollo tecnológico al servicio de la protección constitucional, sin sacrificar los principios de justicia y legalidad
que amparan los derechos fundamentales, tal como plantean Grimaldo & Álvarez (2025).
En virtud de lo anterior, el presente estudio tuvo como objetivo investigar las implicancias del uso de la
Inteligencia Artificial desde la perspectiva del derecho constitucional comparado, analizando el comportamiento
de androides con Inteligencia Artificial Generativa-productiva, enmarcando sus aplicaciones y reconociendo
beneficios y desafíos para los derechos fundamentales frente a la Constitución y las leyes vigentes.
Metodología
Esta investigación se desarrolló bajo un enfoque cualitativo, respetando criterios de transparencia y
rigurosidad metodológica alineados con el protocolo PRISMA (Preferred Reporting Items for Systematic Reviews
and Meta-Analyses), adaptado para revisiones cualitativas según las directrices de SRQR (Standards for
Reporting Qualitative Research). El objetivo principal fue describir de manera detallada y replicable los métodos
empleados para analizar la inteligencia artificial generativa-productiva en el ámbito del derecho constitucional
comparado.
4
El diseño adoptado consistió en una revisión sistemática con carácter cualitativo y descriptivo. Se aplicó
un análisis temático que permitió identificar, examinar y presentar patrones o temas relevantes en los datos
recopilados. Esta aproximación favoreció una comprensión profunda de las perspectivas y significados asociados
a la inteligencia artificial generativa en el contexto jurídico, apoyándose en la literatura existente. La opción por
un enfoque cualitativo descriptivo respondió a la necesidad de explorar la complejidad del fenómeno y sus
implicaciones éticas y legales, más allá del análisis cuantitativo tradicional.
Los criterios de inclusión para seleccionar los estudios consideraron:
Tipología: artículos de investigación, revisiones, ensayos y documentos analíticos que abordaran la
IA generativa-productiva vinculada con el derecho constitucional, derechos fundamentales y derecho
comparado.
Idioma: trabajos publicados en español e inglés.
Periodo: se priorizó literatura reciente sin establecer límites temporales estrictos para garantizar una
cobertura amplia y representativa.
Contenido: estudios que ofrecieran perspectivas cualitativas o conceptuales sobre beneficios,
desafíos, aspectos éticos, regulatorios y sociales de la IA generativa en el marco jurídico-
constitucional.
Se excluyeron investigaciones enfocadas exclusivamente en aspectos técnicos sin relación clara con el
derecho, así como estudios puramente cuantitativos sin análisis cualitativo.
La búsqueda bibliográfica se realizó en bases de datos académicas y científicas relevantes, como
Scopus, Web of Science y Google Scholar, complementándose con repositorios institucionales. Además, se
revisaron las referencias de los documentos seleccionados mediante la técnica “bola de nieve” para incluir
literatura pertinente.
Se diseñó una estrategia de búsqueda que combinó términos clave relacionados con inteligencia artificial
generativa, derecho constitucional, derechos fundamentales y derecho comparado, utilizando operadores
booleanos que fueron adaptados a cada base de datos.
La selección de estudios se efectuó en dos fases: inicialmente, dos evaluadores independientes revisaron
títulos y resúmenes para identificar documentos que cumplían con los criterios. Posteriormente, se evaluó el texto
completo de los artículos preseleccionados para confirmar su inclusión. En caso de discrepancia, se resolvía
mediante discusión o la intervención de un tercer revisor. Todo el proceso de selección se documentó
minuciosamente siguiendo el formato PRISMA.
Para la extracción de datos se empleó una plantilla estructurada que recopiló información sobre
referencias bibliográficas, objetivos, metodologías, hallazgos principales y las implicaciones éticas, legales y
sociales relacionadas con la IA generativa. La síntesis se realizó mediante análisis temático que permitió organizar
los resultados en categorías representativas del fenómeno estudiado.
5
Figura 1
Diagrama PRISMA para la selección de documentos
El diagrama PRISMA expuesto ilustra el proceso de selección y filtrado de los estudios incluidos en la
revisión. Inicialmente, se identificaron 125 registros en bases de datos y 13 a partir de otras fuentes, totalizando
138 registros. Tras eliminar duplicados, quedaron 68 artículos para evaluación. De estos, se excluyeron 29 por
no cumplir con los criterios. Los 39 restantes fueron evaluados a texto completo, y se descartaron 12 por falta de
relevancia para la investigación. Finalmente, 27 estudios se incluyeron en la síntesis cualitativa. Este proceso
riguroso garantiza que los estudios analizados sean pertinentes y de calidad, fortaleciendo la validez y
confiabilidad de los resultados obtenidos.
Resultados y discusión
Los resultados de esta revisión sistemática cualitativa evidencian una interacción compleja entre la
inteligencia artificial generativa-productiva y el derecho constitucional comparado, con implicaciones relevantes
para los derechos fundamentales y la seguridad jurídica. A continuación, se expone un resumen organizado en
temas emergentes.
La IA generativa en el contexto jurídico
Para contextualizar, la inteligencia artificial existe desde hace varias décadas y está integrada en múltiples
ámbitos sociales. El término fue concebido por primera vez por John McCarthy, matemático estadounidense,
durante la Conferencia de Dartmouth en 1956. Desde entonces, la IA ha evolucionado notablemente. En cuanto
a su definición, la Comisión Europea la considera como un sistema capaz de mostrar comportamientos razonables
e inteligentes, analizar su entorno y, con cierto grado de autonomía, tomar decisiones basadas en su
programación contextualizada (Zewe, 2023).
La inteligencia artificial es una de las ramas de la informática aplicada al derecho que busca que las
máquinas realicen tareas que normalmente requieren razonamiento humano. Automatiza procesos vinculados al
pensamiento, como la toma de decisiones, la resolución de problemas y el aprendizaje. Para ello, los sistemas
informáticos simulan atributos propios de la inteligencia humana. Así, un sistema inteligente se caracteriza por
resolver problemas de manera semejante a un ser humano y, en situaciones como una conversación a ciegas,
puede resultar indistinguible de una persona (Paz, 2024).
Dentro de este campo, los sistemas expertos son programas que imitan comportamientos humanos
utilizando la información proporcionada por los usuarios para ofrecer resultados concretos. Dichos sistemas
6
realizan preguntas que permiten identificar el tema relevante basado en las respuestas recibidas. En el ámbito
jurídico, los sistemas expertos son una de las principales aplicaciones de la inteligencia artificial (Cuba, 2022).
En particular, la IA generativa-productiva ha impulsado el desarrollo de robots capaces de interactuar y
aprender de los seres humanos. Sin embargo, este avance plantea importantes desafíos, especialmente en
términos de responsabilidad y regulación. La capacidad de la IA generativa para crear contenido y tomar
decisiones automatizadas genera interrogantes sobre la autoría, la propiedad intelectual y la responsabilidad legal
derivada de sus acciones. Por ello, es fundamental que los marcos legales se adapten para garantizar un uso
ético que no vulnera derechos humanos, ni la seguridad jurídica ni la integridad biológica de las personas
(Carrasco, 1984).
Implicaciones de la IA en los derechos fundamentales
Independientemente del área en la que se aplique, el uso de sistemas de inteligencia artificial impacta de
manera significativa una amplia variedad de derechos fundamentales. Entre estos se encuentran la privacidad, la
protección de datos, la no discriminación y el acceso a la justicia. Sánchez (2021) señala que, lejos de ser neutral,
la IA ejerce una influencia directa sobre estos derechos. De manera positiva o negativa, esta tecnología incide en
los derechos humanos y los entrelaza con las instituciones sociales existentes, como el Estado, los centros
educativos, los espacios laborales y los mercados. Cabe destacar que cada sistema artificial afecta múltiples
derechos de forma compleja y, en ocasiones, contradictoria (Torres, 2022).
En consecuencia, esta sección pretende evidenciar cómo la inteligencia artificial, en particular en relación
con cuatro derechos fundamentales —la igualdad, la privacidad, las garantías judiciales y la libertad de
expresión— puede conducir a su vulneración, generando patrones de comportamiento específicos. Para tal fin,
se llevará a cabo un análisis basado en casos reales que ilustran las limitaciones y deficiencias de los sistemas
de inteligencia artificial generativa productiva, así como en situaciones cotidianas que permeabilizan diversos
ámbitos de la vida social (Solar-Cayón & Sánchez-Martínez, 2022).
Igualdad y no discriminación
Uno de los riesgos más significativos de la inteligencia artificial generativa es su capacidad para perpetuar
y reforzar prejuicios sociales ya existentes, lo que representa una clara vulneración del derecho a la igualdad. A
diferencia de las personas, los sistemas de IAG no disponen de discreción ni libre albedrío para modificar su
comportamiento ético; en cambio, replican patrones de toma de decisiones aprendidos a partir de datos que, en
muchos casos, contienen sesgos humanos. Esta dinámica puede profundizar las desigualdades ya presentes en
el entorno digital (Chanamé-Orbe, 1993).
Además, investigaciones globales demuestran que las mujeres están subrepresentadas en puestos de
responsabilidad y campos STEM (ciencia, tecnología, ingeniería y matemáticas), una situación que la IAG podría
agravar al transformar las habilidades demandadas en el mercado laboral y condicionar los procesos de
contratación (Collett, Neff, & Gomes, 2022). Para contrarrestar estos sesgos, resulta fundamental adoptar las
siguientes medidas:
Fomentar la diversidad en los equipos responsables del desarrollo de la IA.
Incorporar la educación y la sensibilización en género dentro de la formación en ingeniería.
Incluir a expertos en ciencias sociales y equidad para analizar los conjuntos de datos y eliminar
prejuicios.
Implementar un monitoreo y prueba constante de los algoritmos para detectar sesgos en sus
resultados (Grupo Ático 34, s.f.)
Asimismo, el control humano emerge como una respuesta legal clave para proteger los bienes jurídicos
tutelados frente a la IA, garantizando que la autonomía y capacidad de aprendizaje de estos sistemas no
comprometan los derechos humanos (Sánchez & Toro-Valencia, 2021).
Privacidad y protección de datos
La privacidad constituye un derecho fundamental que la inteligencia artificial generativa desafía de
manera significativa. En particular, la capacidad de las organizaciones para recolectar, procesar y analizar
grandes volúmenes de datos en tiempo real, frecuentemente sin el consentimiento explícito del titular, genera
preocupaciones importantes sobre la vulneración de este derecho (Mendoza, 2021). Aunque los sistemas de IA
suelen estar diseñados para cumplir con los requisitos legales mínimos en materia de protección de datos, el
7
consentimiento otorgado por los usuarios no siempre es plenamente informado ni contempla mecanismos
accesibles para comprender las implicaciones y alcance de dicha autorización.
Asimismo, la recopilación y el manejo automatizado de información afectan directamente el derecho a la
seguridad personal y a la privacidad. Un ejemplo claro es el caso del sistema SyRI en los Países Bajos, donde
los algoritmos elaboraron perfiles de riesgo que determinaron cuáles residentes podían estar involucrados en
actos delictivos como la extorsión, situación que fue considerada una vulneración al derecho a la vida privada
(Collosa, 2021). Por ello, resulta imprescindible que los algoritmos se diseñen para reducir la propensión a
vulnerar la seguridad y protección, consolidando lo que puede considerarse un derecho sagrado a la seguridad y
a la integridad de la identidad digital de las personas (Prado-Saldarriaga, 2017).
Libertad de expresión y acceso a la información
Una preocupación central en torno a la recolección y manejo automatizado de información radica en el
derecho a la protección, dado que los algoritmos procesan, administran y retransmiten grandes cantidades de
datos e imágenes individuales (Müller, 2016). En los últimos años, este tipo de tratamiento masivo ha tenido
consecuencias importantes para el disfrute y ejercicio del derecho a la privacidad y de la vida cotidiana, incluyendo
el derecho a la seguridad en contextos educativos.
Por ejemplo, mediante estos cálculos se generan perfiles que identifican a ciertos residentes con
presuntas obligaciones delictivas, como ocurrió en el caso del sistema SyRI en los Países Bajos. Dicho sistema
fue declarado incompatible con los requisitos del artículo 8, párrafo 2, del Convenio Europeo de Derechos
Humanos, que protege la vida privada y establece condiciones para el manejo legítimo de datos personales
(Prieto-Sánchis, 2000).
En este sentido, los algoritmos deberían constituir herramientas valiosas para reducir la vulnerabilidad en
materia de seguridad y protección, consolidando un derecho fundamental a la seguridad y a la integridad de la
identidad digital. No obstante, especialistas han advertido que la automatización y la inteligencia artificial pueden
reproducir e intensificar sesgos previos. Esta situación es especialmente preocupante porque, a diferencia de las
personas, los algoritmos no suelen contrarrestar deliberadamente las predisposiciones diseñadas, ya sea
consciente o inadvertidamente, por sus desarrolladores (Crawford & Schultz, 2014).
Así, el diseño y la gestión de estos sistemas influyen decisivamente en el acceso y la transferencia de
datos, un aspecto clave para el derecho a la libre expresión. Si bien los algoritmos y rastreadores web generan
beneficios importantes para este derecho, también existen profundas preocupaciones respecto a su utilidad para
promover una discusión pública plural, inclusiva y abierta a todos en sociedades democráticas. Además, las
cuestiones relacionadas con la seguridad y la veracidad de la información pueden obstaculizar que las personas
se expresen libremente (Landa, 2021).
Por otro lado, para muchas personas, plataformas como Google o Facebook representan las principales
fuentes de información y espacios esenciales de comunicación, donde se amplifican las voces de los usuarios.
Este fenómeno no debe subestimarse. Por lo tanto, la libre circulación de datos debe permitirse salvo que existan
razones legítimas, aplicadas con prudencia y proporcionalidad, como ocurre en la supresión de contenidos ilícitos
(O`Donnell, 1987). Un ejemplo actual es la suspensión reiterada de cuentas en Twitter y YouTube, así como las
continuas restricciones impuestas en Facebook e Instagram al expresidente de Estados Unidos, Donald Trump,
debido a sus discursos polémicos que incitaron a acciones extremas como el asalto al Capitolio (Roose, 2021).
Este contexto demuestra que la gestión del contenido en plataformas de entretenimiento y comunicación
en línea se realiza cada vez más mediante procesos semi automatizados o robotizados. Esta realidad genera
efectos inmediatos en el derecho a la libre expresión y a la articulación pública, al tiempo que suscita debates
intensos sobre la legitimidad, autenticidad y proporcionalidad de estas medidas (Rodríguez & Muñiz, 2000).
Desafíos y regulaciones
El aumento de los sistemas de automatización productiva generativa implica nuevos desafíos,
principalmente debido a su complejidad, lo que dificulta identificar de forma clara cuándo se vulneran derechos
fundamentales. En el contexto del ordenamiento civil peruano, persisten deficiencias, especialmente porque el
régimen de responsabilidad se basa principalmente en la culpa, evidenciando su carácter subjetivo (Muñoz &
García, 2019). Además, la protección de datos personales se ve comprometida por la falta de regulaciones
específicas, claras y efectivas, lo que expone la privacidad tanto de individuos como de empresas contratantes.
Por ello, la extracción y el uso de datos deben sujetarse a límites y protocolos definidos que eviten la
invasión a los derechos personales y a la privacidad (Landa, 2021). Resulta esencial que los sistemas de
inteligencia artificial cumplan con principios fundamentales como la legalidad, el consentimiento informado, la
finalidad, la proporcionalidad, la calidad y la seguridad en el tratamiento de datos personales (Wagner, 2016).
8
Para asegurar una supervisión eficaz de los derechos fundamentales, es necesario considerar la teoría
de derechos y los tratados internacionales, especialmente aquellos derechos que cuentan con una tutela
reforzada. Por ejemplo, la Defensoría del Pueblo en Perú tiene como función prioritaria la protección de los
derechos fundamentales de las personas y la comunidad en general (Rubio, 1999). Asimismo, la Carta de
Derechos Fundamentales de la Unión Europea representa un marco orientado a fortalecer la salvaguarda de
estos derechos (Unión Europea, 2003).
Finalmente, los derechos fundamentales deben garantizar espacios de libertad personal frente a la
intrusión estatal. En ese sentido, los Estados tienen la obligación no solo de abstenerse de violar estos derechos,
sino también de prevenir que terceros lo hagan, asegurando así una protección integral (Valadés, 2011).
Conclusiones
La inteligencia artificial generativa-productiva representa un avance tecnológico de gran trascendencia
con profundas implicaciones para el derecho constitucional comparado y la protección de los derechos
fundamentales. Los hallazgos de esta revisión sistemática cualitativa evidencian la naturaleza compleja y
multifacética de la IA, que, aunque ofrece beneficios en la automatización y el análisis de datos, también plantea
desafíos significativos en el ámbito jurídico.
En primer lugar, la IAG, al desarrollar la capacidad de tomar decisiones autónomas y de generar contenido
original, suscita interrogantes complejos en torno a la autoría, la propiedad intelectual y la responsabilidad legal.
Ante estas nuevas realidades, resulta indispensable que los marcos legales se actualicen, garantizando que el
desarrollo y la aplicación de la IA se rijan por principios éticos que respeten los derechos humanos y aseguren la
seguridad jurídica.
En segundo término, la revisión ha puesto en evidencia el impacto directo de la IAG sobre derechos
fundamentales como la igualdad, la privacidad y la libertad de expresión. La tendencia de los algoritmos a
reproducir los sesgos presentes en los datos de entrenamiento subraya la urgencia de mantener un control
humano continuo y de implementar medidas que garanticen la equidad y eviten la discriminación. La protección
de la privacidad y los datos personales emerge como uno de los mayores desafíos, dado el enorme potencial de
la IA para recolectar y procesar información, lo que demanda regulaciones claras y eficaces que aseguren el
consentimiento informado y la seguridad de los datos.
Finalmente, la complejidad inherente a los sistemas de IAG dificulta la identificación precisa de
vulneraciones a los derechos fundamentales, lo que enfatiza la necesidad de adaptar los ordenamientos jurídicos
vigentes. La incorporación de principios como la legalidad, el consentimiento, la finalidad, la proporcionalidad, la
calidad y la seguridad en el tratamiento de datos personales resulta esencial. Asimismo, es fundamental fortalecer
los mecanismos de supervisión y cumplimiento, tanto a nivel nacional como internacional, para garantizar una
protección efectiva de los derechos fundamentales en esta nueva era tecnológica. En tal sentido, la evolución
tecnológica exige que el derecho constitucional se mantenga a la vanguardia, anticipando y respondiendo de
manera proactiva a los desafíos que la IAG plantea tanto para la sociedad como para el Estado de derecho.
Referencias
BBC News Mundo. (31 de octubre de 2019). Cómo la inteligencia artificial podría destruirnos por accidente. BBC
News Mundo. https://www.bbc.com/mundo/noticias-50246831
Bellucci, J. (17 de febrero de 2021). Los secretos de Sophia: el robot que pretendía destruir a la humanidad y
ahora la protege. Clarín. https://www.clarin.com/tecnologia/secretos-sophia-robot-pretendia-destruir-
humanidad-ahora-protege_0_MFH1vqbKr.html#google_vignette
Carrasco, P. A. (1984). El "juicio de razonabilidad" en la justicia constitucional. Revista Española de Derecho
Constitucional, 4(11). Madrid, España: CEC.
Chanamé-Orbe, R. (1993). La constitución de todos los peruanos. En ¿Cuál es la importancia del Sistema de
Supervisión y Cumplimiento de Sentencias del Tribunal Constitucional? (2021). Ventana Jurídica - Blog
Académico de la Facultad de Derecho PUCP. https://facultad-derecho.pucp.edu.pe/ventana-juridica/cual-
es-la-importanciadel-sistema-de-supervision-y-cumplimiento-de-sentencias-del-tribunalconstitucional/
Collett, C., Neff, G., & Gomes, L. G. (2022). Los efectos de la IA en la vida laboral de las mujeres. UNESCO.
https://unesdoc.unesco.org/ark:/48223/pf0000380871
Collosa, A. (8 de febrero de 2021). Algoritmos, sesgos y discriminación en su uso: A propósito de recientes
sentencias sobre el tema. Centro Interamericano de Administraciones Tributarias
(CIAT). https://www.ciat.org/ciatblog-algoritmos-sesgos-y-discriminacion-en-su-uso-a-proposito-de-
recientes-sentencias-sobre-el-tema/
9
Crawford, K., & Schultz, J. (2014). Big Data and Due Process: Toward a Framework to Redress Predictive Privacy
Harms. Boston College Law Review, 55(93). https://ssrn.com/abstract=2325784
Cuba Yaranga, J. C. (2022). Inteligencia artificial en la seguridad nacional. Centro de Estudios Estratégicos del
Ejército del Perú (CEEEP). https://ceeep.mil.pe/2022/01/11/inteligencia-artificial-en-la-seguridad-
nacional-limites-legales/
Dopazo Fraguío, M. P. (2024). El impacto de la inteligencia artificial generativa: clínica jurídica e innovación
docente. REJIE: Revista Jurídica de Investigación e Innovación Educativa, (30), 93–
126. https://docta.ucm.es/rest/api/core/bitstreams/a13f8291-443e-4e26-b663-9449a781510b/content
Durango Hurtado, J. (15 de septiembre de 2023). ¿A qué se debió la visita de robots humanoides a un partido de
la NFL? El Colombiano. https://www.elcolombiano.com/deportes/futbol/la-razon-de-la-visita-de-robots-
humanoides-a-un-partido-de-la-nfl-EK22394231
Fierro Rodríguez, D. (2025). Ruipérez Alamillo, J., y Vega García, P. de (2024). Dos estudios sobre la Constitución
y su defensa. Colex. Cuestiones Constitucionales. Revista Mexicana de Derecho Constitucional, 26(52),
e19411. https://doi.org/10.22201/iij.24484881e.2025.52.19411
Galeano, J. (2011). El hombre y la tecnología: del hombre moderno al hombre primitivo. KubernÉtica, 5, 1–
10. https://www.kubernetica.com/2011/04/27/el-hombre-y-la-tecnologia-del-hombre-moderno-al-
hombreprimitivo/
Grimaldo Paredón, M. E., & Álvarez Paredón, J. R. (2025). IA en la justicia: transformación y desafíos éticos y
legales. IECC México, 2(2). https://ieccmexicoreview.com/index.php/home/article/view/10
Grupo Ático 34 (s.f.). Inteligencia artificial e igualdad de género. Grupo Ático 34. https://protecciondatos-
lopd.com/empresas/inteligencia-artificial-igualdad-genero/
Landa Arroyo, C. (2021). Constitución, derechos fundamentales, inteligencia artificial y algoritmos. THĒMIS:
Revista de Derecho, 79, 37-50.
https://revistas.pucp.edu.pe/index.php/themis/article/download/24863/23650/
Mendoza Enríquez, O. A. (2021). El derecho de protección de datos personales en los sistemas de inteligencia
artificial. Revista IUS: Derecho e Inteligencia Artificial, 15(48), 179–
207. https://doi.org/10.35487/rius.v15i48.2021.743
Müller, F. (2016). La positividad de los derechos fundamentales: cuestiones para una dogmática práctica de los
derechos fundamentales. Dykinson.
Muñoz, F., & García, G. (2019). Derecho penal. Parte general. Tirant lo Blanch.
O`Donnell, D. (1987). Protección internacional de los derechos humanos. Comisión Andina de Jurista.
http://biblioteca.corteidh.or.cr/tablas/18049.pdf
Paz Panduro, M. N. (2024). Orígenes, evolución de la inteligencia artificial y derecho penal. Sapientia & Iustitia,
(10), 115–127. https://doi.org/10.35626/sapientia.10.5.129
Pinto Alberto, T. G. (2024). Inteligencia artificial y verificación de hechos brutos: desafíos a los derechos
humanos. En M. C. Rayón Ballesteros & A. M. D’Ávila Lopes (Eds.). Transformación Digital de la Sociedad
y Derechos Humanos (pp. 123-
140). https://www.academia.edu/124839838/Transformacion_digital_de_la_sociedad_y_Derechos_Hum
anos#page=123
Prado-Saldarriaga, V. R. (2017). Derecho penal: Parte especial. Pontificia Universidad Católica del Perú. Fondo
Editorial. https://repositorio.pucp.edu.pe/index/handle/123456789/170685
Prieto-Sánchis, L. P. (2002). La limitación de los derechos fundamentales y la norma de clausura del sistema de
libertades. Pensamiento Constitucional, 8(8), 61–
102. https://revistas.pucp.edu.pe/index.php/pensamientoconstitucional/article/view/3275
Rodríguez, J., & Muñiz, T. (2000). Principios, fines y derechos fundamentales. Dykinson.
Roose, K. (7 de enero de 2021). The president is losing his platforms. The New York Times.
Rubio, C. M. (1999). Estudio de la Constitución Política de 1993 (Tomo VI). Lima, Perú: Fondo Editorial de la
Pontificia Universidad Católica del Perú.
Ruiz Silva, J. H., Granja Huacón, S. H., & Coello Avilés, E. M. (2025). Investigación sobre la Corte Constitucional
y la salvaguarda de la supremacía de la Constitución en Ecuador. Revista Dilemas Contemporáneos:
Educación, Política y Valores, 12(2). https://doi.org/10.46377/dilemas.v12i2.4575
Sánchez Vásquez, C. (2021). El derecho al control humano en la inteligencia artificial. [Tesis. Universidad
EAFIT]. https://repository.eafit.edu.co/bitstream/handle/10784/30580/Carolina-Sanchez-
2021.pdf?sequence=2
10
Sánchez Vásquez, C., & Toro-Valencia, J. (2021). El derecho al control humano: Una respuesta jurídica a la
inteligencia artificial. Revista Chilena de Derecho y Tecnología, 10(2), 211-
228. https://dx.doi.org/10.5354/0719-2584.2021.58745
Solar-Cayón, J. I., & Sánchez-Martínez, M. O. (2022). El impacto de la inteligencia artificial en la teoría y la práctica
jurídica (Vol. 1). Wolters Kluwer España.
Suleng Furió, K., Pedreño Muñoz, A., Gómez Sanchis, J., Blasco Ivars, J., Albiol Colomer, F. J., Lloret Romero,
N., ... & Botti Navarro, V. (2025). Inteligencia artificial: aplicaciones de vanguardia en sectores
estratégicos. Fundació Parc Científic Universitat de València (FPCUV). https://pcuv-3808422.hs-
sites.com/descarga-ebook-inteligencia-artificial-sectores-estrategicos
Torres, J. (2022). Derecho convencional, derecho constitucional y derechos fundamentales: el inevitable camino
hacia la justicia (Vol. 1). J. M. Bosch Editor.
Travieso Teniente, S. (30 de diciembre de 2023). Los ‘prompts’ que hacen que la IA se salte los límites legales. El
Economista. https://www.eleconomista.com.mx/tecnologia/Los-prompts-que-hacen-que-la-IA-se-salte-
los-limiteslegales-20231230-0020.html
Unión Europea. (2003). Carta de derechos fundamentales. Diario Oficial de las Comunidades Europeas, 18, 1-
22.
Valadés, D. (2011). La protección de los derechos fundamentales frente a particulares. Anuario de Derechos
Humanos. Nueva Época, 12, 439-470. https://doi.org/10.5209/rev_ANDH.2011.v12.38112
Wagner, B. (2016). Global free expression: Governing the boundaries of internet content. Springer International
Publishing.
Zewe, A. (9 de noviembre de 2023). Explained: Generative AI. How do powerful generative AI systems like
ChatGPT work, and what makes them different from other types of artificial intelligence? MIT News: On
Campus and Around the World. https://news.mit.edu/2023/explained-generative-ai-1109
