591
Vol. 8 Num. 18 Suplemento CICA Multidisciplinario
Julio-Diciembre 2024
LA PROTECCIÓN CONSTITUCIONAL DE LA INFORMACIÓN PERSONAL
FRENTE A LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL
THE CONSTITUTIONAL PROTECTION OF PERSONAL INFORMATION
AGAINST ARTIFICIAL INTELLIGENCE SYSTEMS
A PROTEÇÃO CONSTITUCIONAL DAS INFORMAÇÕES PESSOAIS DOS
SISTEMAS DE INTELIGÊNCIA ARTIFICIAL
AUTORES
Vizcaíno Salazar Brayan
1
Autor de correspondencia brayan.vizcaino.01@est.ucacue.edu.
Universidad Católica de Cuenca - Ecuador
Trelles Vicuña Diego Fernando
2
Email: dtrelles@ucacue.edu.ec
Universidad Católica de Cuenca – Ecuador
Recibido: 5 de octubre 2024 Aceptado:27 de noviembre 2024 Publicado: 20 de diciembre 2024
RESUMEN
El presente trabajo de investigación tiene como objetivo el analizar las disposiciones
constitucionales relevantes y proponer un marco regulatorio adecuado para los sistemas de IA
en Ecuador. Esto se debe a que, en la actualidad se están desarrollando aplicaciones y
plataformas informáticas que entre sus herramientas utilizan a las denominadas IA, sin que
haya un marco normativo que regule esta actividad. Por esta razón, la presente investigación es
de carácter cualitativo y cuantitativo, porque, por un lado, se revisará la Constitución
1
Vizcaíno Salazar Brayan Autor de correspondencia brayan.vizcaino.01@est.ucacue.edu.
Universidad Católica de Cuenca - Ecuador https://orcid.org/0009-0003-3834-7413
2
Trelles Vicuña Diego Fernando Email: dtrelles@ucacue.edu.ec Universidad Católica de Cuenca – Ecuador
https://orcid.org/0000-0002-8466-7165
592
ecuatoriana, las leyes, los proyectos de ley, la jurisprudencia y la doctrina especializada o que
esté relacionado con la IA, así como también, la realización de entrevistas a profesionales
especializados en IA, derecho, ética y otras áreas relevantes para obtener sus opiniones y
perspectivas. Por otro lado, se realizó una encuesta a la población ecuatoriana para conocer su
nivel de conocimiento sobre la IA el sector público, el sector privado y la academia. Todo ello,
dio como resultado, la necesidad de implementar una normativa que regule la IA y proteja así,
la información personal.
PALABRAS CLAVE: Inteligencia artificial, dato personal, protección de datos, información,
tratamiento de datos.
ABSTRACT
The objective of this research work is to analyze the relevant constitutional provisions and
propose an appropriate regulatory framework for AI systems in Ecuador. This is because,
currently, computer applications and platforms are being developed that use so-called AI
among their tools, without there being a regulatory framework that regulates this activity. For
this reason, this research is qualitative and quantitative in nature, because, on the one hand, the
Ecuadorian Constitution, laws, bills, jurisprudence and specialized doctrine or that is related to
AI will be reviewed, as well as Also, conducting interviews with professionals specialized in
AI, law, ethics and other relevant areas to obtain their opinions and perspectives. On the other
hand, a survey was carried out on the Ecuadorian population to find out their level of knowledge
about AI in the public sector, the private sector and academia. All of this resulted in the need
to implement regulations that regulate AI and thus protect personal information.
KEYWORDS: Artificial intelligence, personal data, data protection, information, data
processing.
593
RESUMO
O objetivo deste trabalho de investigação é analisar as disposições constitucionais relevantes e
propor um quadro regulamentar adequado para os sistemas de IA no Equador. Isto porque,
atualmente, estão a ser desenvolvidas aplicações e plataformas informáticas que utilizam a
chamada IA entre as suas ferramentas, sem que exista um quadro regulamentar que regule esta
atividade. Por esse motivo, esta pesquisa é de natureza qualitativa e quantitativa, porque, por
um lado, a Constituição equatoriana, leis, projetos de lei, jurisprudência e doutrina
especializada ou relacionada à IA serão revisadas, bem como Além disso, realizar entrevistas
com profissionais especializados em IA, direito, ética e outras áreas relevantes para obter suas
opiniões e perspectivas. Por outro lado, foi realizado um inquérito à população equatoriana para
conhecer o seu nível de conhecimento sobre a IA no sector público, no sector privado e na
academia. Tudo isto resultou na necessidade de implementar regulamentos que regulem a IA
e, assim, protejam as informações pessoais.
PALAVRAS-CHAVE: Inteligência artificial, dados pessoais, proteção de dados, proteção de
dados, informação, tratamento de dados.
INTRODUCCIÓN
La IA ha emergido como una fuerza transformadora en la sociedad contemporánea, ofreciendo
oportunidades sin precedentes para la innovación y el progreso. Sin embargo, el rápido avance
de esta tecnología plantea desafíos significativos en términos de ética, privacidad, seguridad y
equidad. En Ecuador, un país comprometido con los principios de igualdad, justicia y derechos
humanos consagrados en su Constitución, la regulación jurídica de los sistemas de IA se
presenta como una necesidad imperativa.
594
Si bien, la aplicación de sistemas de IA ha sido una herramienta transformadora para la
sociedad; su utilización errónea ha conllevado a la vulneración de derechos constitucionales.
En vista que, si bien, la IA ha traído mejoras, su aplicación también implica una serie de
riesgos para la sociedad, tales como, responsabilidad difusa, emitir información falsa o
errónea, amenazar la ciberseguridad de los Estados, desmotivación de los trabajadores,
generadora de inestabilidad. De la misma manera, otros peligros de la IA pueden fomentar
perjuicio, la falta de transparencia en el trabajo y desplazamiento laboral. Pero, quizás, el
mayor peligro es la capacidad de generar violaciones a la privacidad e intimidad de la persona,
la cual, dependiendo de la información puede conllevar a generar una discriminación.
Por lo tanto, el estudio de la regulación jurídica de los sistemas de IA en el marco
constitucional ecuatoriano es esencial para garantizar que estos avances tecnológicos se
utilicen de manera ética, responsable y beneficiosa para la sociedad. La protección de
derechos fundamentales, la promoción de la seguridad, la prevención de impactos negativos,
el fomento del desarrollo ético y sostenible, y la adaptación a los avances tecnológicos son
las razones esenciales que justifican la atención y dedicación a este tema desde una
perspectiva científica y jurídica.
La rápida expansión de la tecnología y el advenimiento de sistemas de inteligencia artificial
(en adelante IA) han revolucionado diversos aspectos de la sociedad moderna, desde la
atención médica y la industria manufacturera hasta la toma de decisiones gubernamentales.
Sin embargo, esta rápida evolución tecnológica también ha generado desafíos significativos
en términos de regulación jurídica, especialmente en países como Ecuador, donde la
adaptación del marco constitucional y legal a estos avances se ha vuelto cada vez más crucial.
En el contexto ecuatoriano, la Constitución de 2008 estableció un marco sólido en términos
de derechos humanos, soberanía y democracia participativa. Sin embargo, la falta de
595
disposiciones específicas para regular el desarrollo, uso y control de sistemas de IA dentro de
este marco constitucional deja un vacío legal que plantea diversas preocupaciones y desafíos.
En primer lugar, la ausencia de una regulación clara sobre sistemas de IA genera
incertidumbre en cuanto a la protección de derechos fundamentales, tales como el derecho a
la privacidad y la intimidad personal y familiar. La aplicación de algoritmos de IA en la toma
de decisiones puede dar lugar a resultados sesgados o discriminatorios, lo que socava los
principios de igualdad, no discriminación y justicia, los cuales están consagrados en la
Constitución ecuatoriana. Además, la opacidad en el funcionamiento de estos sistemas
plantea interrogantes sobre la rendición de cuentas y la responsabilidad en caso de decisiones
perjudiciales para los individuos o grupos afectados.
En segundo lugar, la falta de una regulación clara dificulta la supervisión y el control
democrático sobre el desarrollo y despliegue de sistemas de IA por parte del Estado y
entidades privadas; la falta de transparencia en la recopilación y uso de datos, así como en los
algoritmos utilizados, plantea riesgos significativos en términos de violaciones de la
privacidad y el ejercicio del poder de manera arbitraria. Además, la ausencia de un marco
normativo sólido puede generar inseguridad jurídica tanto para los desarrolladores de
tecnologías de IA como para aquellos que son afectados por sus decisiones. La falta de
claridad en cuanto a las responsabilidades legales en caso de daños o perjuicios causados por
sistemas de IA puede desincentivar la inversión en innovación tecnológica y obstaculizar el
desarrollo de la economía digital en Ecuador.
En última instancia, la necesidad de establecer una regulación jurídica adecuada de los
sistemas de IA en el marco constitucional ecuatoriano se vuelve imperativa para garantizar la
protección de derechos fundamentales, promover la transparencia y la rendición de cuentas,
y fomentar la innovación tecnológica de manera ética y responsable. Este desafío requiere
una acción concertada por parte del Estado, la sociedad civil y otros actores relevantes para
596
abordar las complejidades éticas, legales y sociales asociadas con la adopción de tecnologías
de IA en Ecuador.
En resumen, la falta de una regulación jurídica adecuada de los sistemas de IA en el marco
constitucional ecuatoriano plantea una situación problemática multifacética que demanda una
atención urgente y acciones concretas para proteger los derechos fundamentales en la era
digital, en especial el derecho a la intimidad personal, familiar y a la protección de datos
personales. Por ello, cabe el plantear la siguiente interrogante: ¿Cuál es el impacto por la falta
de una regulación clara y específica que regule los sistemas de IA en Ecuador? y ¿cómo se
pueden diseñar e implementar marcos normativos efectivos que aseguren un equilibrio
adecuado entre la aplicación de los sistemas de IA y el derecho a la protección de los datos
personales, la intimidad personal y familiar de los ciudadanos?
Por todo ello, este trabajo investigativo presenta como objetivo principal, el analizar el
sistema jurídico ecuatoriano, para proponer un marco regulatorio adecuado para los sistemas
de IA en el Ecuador. A más de ello, esta investigación también examinar las disposiciones
constitucionales pertinentes relacionadas con la protección de datos personales, el tratamiento
y procesamiento de los datos y la responsabilidad legal en el contexto de la inteligencia
artificia. Así mismo, evaluar la legislación y las normativas infra constitucionales existentes
en Ecuador en relación con la IA para identificar posibles lagunas o áreas de mejora en la
regulación jurídica actual. También, se debe proponer recomendaciones específicas para el
desarrollo de un marco regulatorio sólido y equilibrado que conjuntamente promueva la
innovación tecnológica en cuestión y garantice el derecho a la intimidad personal y a la
protección de datos personales.
Con base en esta descripción del trabajo investigativo, es que se presenta siguiente estructura
general: el primer capítulo trata de conceptos generales y las áreas en donde se aplican las
inteligencias artificiales y su relación con los datos personales; el segundo capítulo, abordará
597
temas relacionado con la normativa vigente para la protección de datos personales y la
aplicación de tecnologías; por último, el tercer capítulo se abordara como tema, la propuesta
de una normativa que regule las IA y proteja a la información personal de estas.
Marco teórico
La IA, la nueva tecnología
Según Gil Aluja (2020) se puede definir a la IA como la “capacidad de la máquina para
autoaprender con algoritmos, mediante la estructuración de informaciones” (p. 4). En otros
términos, la IA es “la capacidad que tiene de pensar por sí sola una máquina” (Nivela Cornejo
et al, 2020, p. 240). Y es que, estas máquinas realizan una serie de actividades innovadoras,
tales como, obedecer relacionar, separar, agrupar, asignar u ordena datos, según el algoritmo
que la dirige (Gil Aluja, 2020). Por lo tanto, es “por medio de una serie de algoritmos que le
proporcionan la capacidad de interpretación, decisión y resolución de problemas de forma
autónoma ante las señales que recibe” (Nivela Cornejo et al, 2020, p. 240).
La IA se clasifica en cuatro modelos: i) la que actúa como una persona; ii) la que se comporta
y piensa como una persona; iii) la que razona como un humano; y iv) que permite actuar
como lo haría una persona (Nivela Cornejo et al, 2020; Revista de Robots, 2020). El primer
modelo se trata de sistemas artificiales que tienen la capacidad de repetir tareas simulando al
humano, un ejemplo de ellos son los robots; segundo modelo se refiere a un sistema con
capacidad para tomar decisiones, así como para aprender y resolver conflictos (Revista de
Robots, 2020). Por otro lado, las tecnologías capaces de razonar como un humano, también
se le denominan como sistemas racionales. Por último, las tecnologías artificiales que actúan
como lo haría una persona, este tipo de IA fue identificada como organizaciones de Agente
Racional o Sistemas que actúan racionalmente. (Revista de Robots, 2020). Por su parte
Mirando Bonilla (2022) clasifica la IA en “a) máquinas reactivas; b) máquinas con memoria
598
limitada; c) máquinas con una teoría de la mente y; d) máquinas con conciencia propia” (p.
377).
La IA en las diferentes esferas de acción
Actualmente la sociedad se encuentra atravesando nuevas experiencias en lo referente a la
tecnología, lo que ha conllevado a alterar la manera en la que desarrolla la sociedad, es decir,
en las diferentes esferas de acción (Mirando Bonilla, 2022). Una de estas tecnológicas es
justamente la IA; ya que, según Mirando Bonilla (2022) se encuentra presente en muchos
aspectos de nuestra cotidianidad y ha tenido un impacto en la economía, sociedad mundial y
en el derecho en general (p. 376). Por ejemplo, en el campo de la salud, la IA se la ha utilizado
como asistente robótico para cirugías, permitiéndole al profesional médico, el poder realizar
operaciones sin la necesidad de que se encuentren en el mismo espacio geográfico
conjuntamente con el paciente (Martínez-García et al., 2019).
Una de las mayores incorporaciones de la IA se ha dado en el ambiente laboral, ya que, en
vez de afectar el empleo, este fenómeno no impacta al trabajo humano a nivel global; de
hecho, se pueden citar varios ejemplos, tales como, lo sucedido en el sector automotriz en
países como Estados Unidos y en Alemania, donde a la par que se incorporaron instalaron,
fueron aumentando los puestos de trabajo para las personas (Corvalán, 2019).
La IA también ha estado presente en la educación, aunque se han producido, tanto ventajas
como desventajas su aplicación en este ámbito, lo cierto es que “la principal ventaja de su uso
en educación radica en que tendrán la capacidad de adaptar a cada individuo el material
educativo en función de sus debilidades y fortalezas, con el fin de que la enseñanza sea más
eficiente” (Nivela Cornejo et al, 2020, p. 242). En este sentido, su aplicación ha dado en todos
los niveles de educación, pero sobre todo en las universidades. Y, es que, según Nivela
Cornejo et al (2020) “ha generado una serie de impactos importantes y de gran repercusión
en lo que respecta a la educación superior” (p. 242). Una de las áreas educativas, en donde se
599
puede implementar la utilización de las IA, es “para monitorear de forma automática la
gestión de calidad en los procesos tanto administrativos como de enseñanza-aprendizaje
propios de una Institución” (García-Peña, 2020, p. 657); como también, en los procesos de
admisión universitaria, para determinar los intereses vocaciones del estudiante y
redireccionarlo a un área de estudio acorde a su perfil (García-Peña, 2020).
La IA y los datos personales
En un artículo publicado por Morales Cáceres en la WORD COPLIANCE ASSOCIATION,
indicó que “protección de los datos personales se ve desafiada por el rápido desarrollo y el
veloz despliegue de la Inteligencia Artificial (…) pues su utilización implica necesariamente
el tratamiento de datos masivos, dentro de los cuales se incluyen diferentes categorías de
datos personales” (Morales Cáceres, 2020). Por lo que, hay que señalar a la IA como una
nueva amenaza contra la protección de los datos personales.
En este sentido se puede detectar dos posibles situaciones en los que la IA son un riesgo para
el titular de los datos personales: “El primero es que la IA en sí misma puede tomar decisiones
automatizadas y, el segundo, es que el sistema se desarrolla aprendiendo de la experiencia e
información proporcionada” (Morales Cáceres, 2020).
Por ello, cabe la siguiente interrogante: ¿Es posible combinar el desarrollo de la IA con un
adecuado tratamiento de los datos personales? Si, es posible que las IA puedan estar reguladas
bajo un sistema normativo que garantice el tratamiento adecuado de los datos personales. Es
aquí, en donde se puede crear una normativa que delimite la creación y el funcionamiento de
esta tecnología en un Estado, como también aplicar una interpretación integral de la
normativa jurídica ya existente (supraconstitucional, constitucional e infraconstitucional) que
colme el vacío legal.
600
Los datos personales y su protección en la normativa
Entre las normas supraconstitucionales se encuentran la Declaración Universal de Derechos
Humanos, el Pacto Internacional de Derechos Civiles y Políticos y la Convención de las
Naciones Unidas contra la Corrupción. En lo que se refiere a la Declaración Universal de
Derechos Humanos, su artículo 12 reconoce la protección que tiene toda persona contra
cualquier tipo de injerencias arbitrarias en su vida privada o familiar; así como, a posibles
ataques contra su honra o reputación. Por su parte, el Pacto Internacional de Derechos Civiles
y Políticos protege los derechos anteriormente mencionados en el artículo 17, además, se
protege el derecho a la libertad de expresión y a no ser molestado a causa de sus opiniones,
según lo establece el artículo 19. Hasta el momento, estas normas son las encargadas de
proteger la intimidad personal en cualquier ámbito o esfera de acción de la persona, incluso,
puede estar incluido todo aquello relacionado con el tratamiento de datos personales en
medios electrónicos e informáticos.
Por su parte, el Convención de las Naciones Unidas contra la Corrupción, previene el mal uso
del tratamiento de los datos personales, pero desde un contexto del derecho público; ya que,
para garantizar la transparencia en su administración pública, esta normativa establece que
los Estados deben implementar de procesos que le permitan el acceso a la información de la
entidad, así como su funcionamiento, pero, llegando a respetar “la protección de la intimidad
y de los datos personales, sobre las decisiones y actos jurídicos que incumban al público”
(CNUC, art. 10 literal a).
Si bien, estas normativas no regulan de una manera específica la protección de datos
personales relacionadas a los procesos donde interviene la IA, si lo hacen desde un contexto
generalizado. Por lo que, es importante que cada Estado desarrolle una normativa específica
que proteja la intimidad personal y familiar de los ciudadanos frente al desarrollo tecnológico
y todo lo que ello implica, incluido la IA.
601
La protección a los datos personales es un derecho que se encuentra protegido y garantizado
en la Constitución de la República del Ecuador:
Se reconoce y garantizará a las personas: El derecho a la protección de datos de carácter
personal, que incluye el acceso y la decisión sobre información y datos de este carácter, así
como su correspondiente protección. La recolección, archivo, procesamiento, distribución o
difusión de estos datos o información requerirán la autorización del titular o el mandato de la
ley. (Constitución de la República del Ecuador, art. 6 numeral 19)
El reconocimiento de este derecho implica, primeramente, la protección desde el acceso a
dicha información, es decir, que, toda persona que no cuente con el beneplácito del titular de
la información personal u orden emitida por autoridad competente, no puede acceder a dichos
datos. La segunda etapa de protección incurre en la decisión sobre dicha información, en otros
términos, en el uso o los motivos que se le dé. Para ello, la defensa de los datos personales
transcurre desde el acceso hasta la difusión de mismos.
Para el 2021, trece años después de la expedición de la Constitución, se promulga la Ley
Orgánica de Protección de Datos Personales; la cual, tiene como finalidad “garantizar el
ejercicio del derecho a la protección de datos personales, que incluye el acceso y decisión
sobre información y datos de este carácter, así como su correspondiente protección” (LOPDP,
art. 1).
Aunque, en un principio la normativa constitucional estaba pensada en proteger la personal
almacenada en bases de datos de las diferentes instituciones, tanto públicas como privadas.
Lo cierto es que, su alcance abarca a toda información personal almacenada en dispositivos
electrónicos o físicos. Esto se debe, al desarrollo de la LOPDP, la cual, ha establecido el
ámbito de aplicación material del derecho a la protección de los datos personales, “al
tratamiento de datos personales contenidos en cualquier tipo de soporte, automatizados o no,
así como a toda modalidad de uso posterior” (LOPDP, art. 3). Pero, estableciéndose algunas
602
limitantes, tales como: i) las actividades familiares o domésticas; ii) datos personales de
personas fallecidas; iii) datos anonimizados; iv) Actividades periodísticas y otros contenidos
editoriales; v) datos personales regulados por una ley especial; y, vi) Datos o bases de datos
establecidos para la prevención, investigación, detección o enjuiciamiento de infracciones
penales o de ejecución de sanciones penales. (Ibidem).
Una nueva normativa para regular las IA
Como se puede observar, existen áreas o esferas de acción en donde la normativa no regula
el tratamiento de los datos personales, en este caso, nos centraremos en las actividades
familiares o domésticas, mismas que están en estrecha relación con la intimidad familiar y
personal. El que no haya una norma que regula el uso de los datos personales en esta área, se
presta para que información personal, intimidad o sensible pueda ser utilizada para generar
daño al titular de los datos o persona cercana a su círculo íntimo y privador.
Por esta razón, es necesario que se desarrolle un marco jurídico que regule no solo el
tratamiento de datos personales en el ámbito familiar y doméstico, sino también, una
normativa que regule los procesos de creación, gestión y aplicación de las plataformas de IA,
en las cuales también se incluyan el tratamiento de los datos personales. Con ello, se
precautelará el mal uso de la información, previniendo así vulneraciones y ataques a la honra
y a la integridad de las personas titulares de los datos.
Pero, aun así, las normas no pueden o no deben restringir el uso IA, sino más bien, promover
la innovación tecnológica de las mismas, pero con responsabilidad y delineamientos claros
de su uso. porque, estas nuevas tecnologías, por un lado, pueden ayudar al desarrollo social,
por otro lado, también, pueden generar grandes afectaciones, no solo a las personas, sino a la
sociedad y al mismo Estado.
Con respecto a la regulación de la IA, hay que considerar varios aspectos clave, tales como:
la transparencia, la ética, protección de datos y privacidad, los sesgo y discriminación, la
603
responsabilidad legal, las pruebas y las certificaciones. En lo referente a la transparencia, este
es un principio que se encuentra establecido en tanto en la Constitución cono en varias normas
infraconstitucionales; en este caso, este principio axiológico guiaría la conducta, para que así
las personas puedan respetar y cautelar la publicidad de los actos, resoluciones,
procedimientos relacionados con el desarrollo de esta tecnología, el uso y tratamiento de datos
personales. Respecto a la ética, se debe desarrollar un código que establezca un determinado
número de principios claros que sirvan para guiar el desarrollo y la implementación de la IA
en los diferentes campos y esferas de acción; de esta manera, se garantice que los sistemas de
IA puedan ser justos y confiables con los derechos humanos y la dignidad.
Las normas jurídicas que regulen la implementación de las IA deben, también, regular la
recopilación y el uso de datos, en este sentido tiene que tener concordancia no solo con la
norma constitucional, sino también, con las normas infraconstitucionales, tales como la
LOPDP, su respectivo reglamento y la guía para el tratamiento de datos personales en
administración pública.
El uso y aplicación de las IA pueden estar sujetos a sesgos ideológicos que conlleven a una
discriminación. Por lo tanto, la regulación jurídica debe abordar esta problemática y exigir
que las IA no fomenten prejuicios sociales. Por otro lado, es importante que la normativa
jurídica establezca los parámetros para identificar al sujeto con responsabilidad legal, en el
caso de generación de daños producto de los sistemas de IA, es decir, quien o quienes deberán
asumir la responsabilidad (civil, penal o administrativa) de las decisiones tomadas por la
tecnología en cuestión en el caso de haber errores o daños que causen perjuicio. Por último,
las normas deben establecer pruebas, parámetros de calificación y certificaciones para el uso
de las IA, se den con base en estándares establecidos en términos de seguridad, precisión y
ética. Algo que se debe tomar en cuenta referente al desarrollo normativo de las IA, es que,
es un tema muy complejo en la región (América Latina) en comparación con el desarrollo
604
normativo que se puede observar en la Unión Europea. Justamente, en estos actuales
momentos en Europa, se están llevando a cabo debates y deliberaciones que están
relacionadas a la aplicación de las IA. En donde, se abordan temas relacionados a la calidad
de los datos, la seguridad, la transparencia, la privacidad, la no discriminación y la supervisión
humana. Debido a que, en el mes de marzo de este preciso año, se expidió la Ley de
Inteligencia Artificial, el cual todavía no entra en vigor. Pero, que tiene como objetivo de
proporcionar a los desarrolladores de IA requisitos y obligaciones claras en relación con los
usos específicos de la IA.
Es precisamente aquí, en donde se puede observar una brecha entre el desarrollo normativo
europeo y el desarrollo normativo latinoamericano. Es en el viejo continente donde se viene
debatiendo el tema de la protección de datos personales desde años antes, lo que ha hecho
que tenga una normativa mucho más desarrollada que en la región latinoamericana. Por
ejemplo, la Comisión Europea define dato personal como “cualquier información relativa a
una persona física viva identificada o identificable.” (Comisión Europea) Es decir, toda
aquella información que conlleve a la identificación de una persona. Esto órgano considera
como datos personales el nombre y apellidos, el domicilio, la dirección de correo electrónico,
el número de identidad, datos de localización, dirección del protocolo de internet, los datos
en poder de un hospital o médico, o el identificador de la publicidad del teléfono. Toda
información privada tiene carácter de intimidad. Se debe considerar como intimo todo
“aquello que está lo más adentro posible. Lo que está en el interior del hombre.” (Pfeffer
Urquiaga, 2020, p. 466).
Hay que tener en cuenta que, la IA es una tecnología que fue desarrollada con el objetivo de
garantizar un desarrollo cualitativo en nuestro sistema productivo, científico y social. Pero,
también es verdad que dichos sistemas, pueden generar riesgos que violen la privacidad de la
persona ni genere condiciones de discriminación. Por ello, se deben de crear sistemas
605
regulatorios de verificación y control público en el desarrollo de las IA, con los parámetros
anteriormente abordados.
MATERIALES Y METODOS
La metodología utilizada en este trabajo se basó en un enfoque mixto, combinando métodos
cualitativos y cuantitativos. Desde la perspectiva cualitativa, se realizó un análisis exhaustivo
de la normativa constitucional e infraconstitucional del Ecuador, así como de la
jurisprudencia y doctrina relevante, para identificar las protecciones legales existentes frente
al uso de sistemas de inteligencia artificial (IA) y su impacto en la protección de datos
personales. Este análisis incluyó la revisión de documentos legales y académicos, con el fin
de determinar las lagunas normativas y los desafíos que enfrentan los derechos
constitucionales en el contexto de la IA.
Por otro lado, se utilizó una metodología cuantitativa para complementar el análisis
normativo, mediante la realización de encuestas a la población ecuatoriana. El objetivo de
estas encuestas fue conocer el nivel de conocimiento público sobre la IA, así como las
percepciones en torno a su regulación y los riesgos asociados al manejo de datos personales
en sistemas de Inteligencia Artificial. Se recabaron datos de diversas áreas, incluyendo el
sector público, el privado y el académico, para obtener una visión integral de la situación.
El alcance de la investigación fue descriptivo y explicativo. A nivel descriptivo, se buscó
exponer el estado actual de la regulación de la IA en Ecuador, mientras que el análisis
explicativo permitió identificar los factores que influyen en la falta de normativa específica y
las consecuencias potenciales de esta omisión. El diseño de la investigación no fue
experimental, ya que no se manipularon variables, sino que se analizó la información
disponible a través de fuentes documentales y datos recopilados en las encuestas.
606
El método utilizado fue el analítico, el cual permitió descomponer la normativa existente y la
jurisprudencia en sus componentes clave para evaluar su efectividad en la protección de los
datos personales frente al avance de la IA. También se utilizó el método comparativo, al
revisar la regulación de IA en otros países y contrastarla con la situación ecuatoriana,
identificando mejores prácticas y posibles recomendaciones para el contexto local.
La técnica principal de recolección de datos fue la revisión documental, complementada con
entrevistas a expertos en derecho, tecnología y ética, y encuestas a profesionales y actores
clave en el sector. Las encuestas fueron un instrumento clave para obtener información
cuantitativa, permitiendo identificar el nivel de conocimiento y las preocupaciones de la
sociedad ecuatoriana en torno a la IA y la protección de los datos personales. No se utilizó
estadística inferencial en esta investigación, pero se aplicó estadística descriptiva para
sistematizar los datos obtenidos de las encuestas, lo que permitió identificar tendencias y
patrones significativos en la percepción de los encuestados.
RESULTADOS
Entrevista
La entrevista se la realizó a un especista con experiencia (Mg. Yandri Chinga Aspiazu);
abogado por la Universidad Laica Eloy Alfaro de Manabí; magister en Derecho
Constitucional por la Universidad de Sevilla y doctorando por la misma universidad en el
periodo 2023/2024. Ha sido tutor de trabajo de titulación de la Maestría en Derecho
Constitucional en la PUCE-Manabí, en los temas: “EL ALCANCE DEL DATO
IDENTIFICABLE EN LA ACCIÓN DE HABEAS DATA EN EL ECUADOR” y “LA
ACCIÓN DE HABEAS DATA Y LA VULNERACIÓN DEL DERECHO A LA
INTIMIDAD EN LA APLICACIÓN DE MENSAJERÍAWHATSAPP”.
607
1.- ¿Cómo define la legislación actual el derecho a la protección de datos personales
en el contexto de la inteligencia artificial?
Actualmente, en el Ecuador hay una serie de normas jurídicas que protegen los datos
personales, entre ellas se encuentran no solo la Constitución, como norma suprema, sino
también, la Ley Orgánica de Protección de Datos Personales y su respectivo reglamento.
Ahora bien, si es verdad, que no existe una norma que regule el desarrollo y aplicación de la
IA en el Ecuador, es necesario saber que, las normas antes mencionadas brindan una
protección de la información personal en diferentes esferas sociales. De la misma manera, la
Corte Constitucional en el año 2021, emitió una sentencia relacionada a la protección de los
datos personales, la sentencia No. 2064-14-EP/21.
Aquí, la Corte determinó que hubo violación al derecho a la protección de datos personales y
autodeterminación informativa, a la imagen, a la honra y buen nombre e intimidad, por mal
uso del tratamiento de datos personales en la esfera doméstica. Por lo que, deja algunas pautas
generales que se pueden seguir. Aunque, si es necesario desarrollar una norma jurídica en el
contexto de la IA.
2.- ¿Existen precedentes judiciales que aborden conflictos entre la inteligencia artificial y la
protección de la información personal?
Como he podido manifestar, existe sentencias emitidas por la Corte Constitucional que
abordan el tema de protección de los datos personales, la sentencia No. 2064-14-EP/21,
aunque no en el contexto de la IA, pero si en el tratamiento de datos en plataformas
electrónicas, algo que está estrechamente relacionado con la IA. Otras sentencias son las No.
1868-13-EP/20 y la No. 1226-18-EP/23, que también abordan los temas sobre la protección
de la información personal.
Eso en lo concerniente al derecho interno. Por ejemplo, en la región también se han tratado
temas referentes a la información personal como es el caso Albán Cornejo y otros Vs.
608
Ecuador. Fondo, Reparaciones y Costas. Sentencia de 22 de noviembre de 2007. Serie C No.
171; el Cuscul Pivaral y otros Vs. Guatemala. Excepción Preliminar, Fondo, Reparaciones y
Costas. Sentencia de 23 de agosto de 2018. Serie C No. 359. Los cuales tratan sobre la
protección de datos personales referentes a la salud o datos sensibles.
3.- ¿Qué papel juegan los principios de privacidad y consentimiento en la regulación de los
sistemas de inteligencia artificial?
Los principios son normas de carácter axiológico que sirven para guiar la vida humana; en
todo cuerpo normativo se contemplan estos principios, como son el de privacidad y
consentimiento. El primero está relacionado con la protección de la vida personas y familiar
de las personas, es decir, proteger lo más íntimo del ser. El segundo principio, está relacionado
con la capacidad que tiene la persona en decidir sobre su persona y sobre su información
personal, es decir, en consentir la utilización de su información personal para un determinado
fin. En este sentido, el tratamiento que se le dé a los datos personales dependerá de las
condiciones que su titular ha establecido.
4.- ¿Qué medidas de seguridad se deben implementar en los sistemas de inteligencia artificial
para garantizar la protección de datos personales?
Primeramente, se debe establecer una ley específica para el desarrollo, tanto de la IA como
de otras sistemas informativos o tecnológicos. Posterior a eso, se deben desarrollar
reglamentos que regulen los procesos en los que se aplica la IA, para ello, debe haber una
coordinación entre el órgano técnico y personal profesional capacitado en ciencias
informáticas y tecnológicas. Entre las medidas de seguridad es importante regular el
tratamiento de datos en las diferentes esferas o ámbitos sociales de la persona.
5.- ¿Cómo se puede garantizar que la inteligencia artificial no discrimine ni viole los derechos
de privacidad de los individuos?
609
Por medio de un sistema normativo, el cual deje en claro el procedimiento de cómo se debe
realizar el tratamiento de datos en los procesos tecnológicos donde interviene la IA. También,
se debe especificar el órgano técnico encargado para regular la aplicación de la IA. Debido a
que esta tecnología se puede aplicar en cualquier campo y órgano del Estado, es importante
que la regulación de las inteligencias artificiales se haga de manera transversal, es decir,
involucre a varios órganos o agencias del Estado.
6.- ¿Qué recomendaciones haría para mejorar la protección de datos personales en el uso de
sistemas de inteligencia artificial en Ecuador?
Primeramente, crear o reformar las normas jurídicas existentes sobre la protección de datos,
pero enfocada en el uso de la IA, por otro lado, es necesario la creación de norma jurídica
sobre el desarrollo, aplicación y gestión de la IA. Segundo, que las diferentes agencias
gubernamentales, vigilen el desarrollo, aplicación y gestión de la IA en sus respectivas áreas.
Resultados - encuesta
Correspondiente a la encuesta realizada, la misma consistió en consultar a un grupo de
profesionales del derecho y funcionarios públicos de la judicatura, la situación actual de la
IA en relación con la protección de los datos personales.
Pregunta núm. 1.- ¿Usted ha escuchado hablar sobre la Inteligencia Artificial? Si o
No. Respuesta: Las 10 personas encuestadas contestaron afirmativamente.
610
Figura 1.
Conocimiento sobre la inteligencia artificial (IA).
Nota, La figura muestra las cifras del conocimiento que tienen las personas sobre las IA.
Pregunta núm. 2.- ¿Existe alguna norma que regule la aplicación de plataformas de
Inteligencia Artificial en Ecuador? Si o No. Respuesta: 1 de cada diez personas manifestaron
que sí; mientras que 9 manifestaron que no.
Figura 2.
Conocimiento sobre una norma que regule la inteligencia artificial (IA).
Nota, La figura muestra las cifras del conocimiento que tienen las personas sobre las normas
que regulan la IA.
10
0
Pregunta núm. 1.- ¿Usted ha escuchado hablar
sobre la Inteligencia Artificial? Si o No.
Si No
1
9
Pregunta núm. 2.- ¿Existe alguna norma
que regule la aplicación de plataformas de
Inteligencia Artificial en Ecuador? Si o
No.
Si No
611
Pregunta núm. 3.- ¿Es necesario la expedición de normas jurídicas que regulen la
implementación de la Inteligencia Artificial en Ecuador? Si o No. Respuesta: Las 10 personas
encuestadas dijeron que sí
Figura 3.
Sobre la expedición de una norma que regule la inteligencia artificial (IA).
Nota, La figura muestra necesidad sobre expedir una norma que regulan la IA.
Pregunta núm. 4.- ¿La falta de una normativa que regule la Inteligencia Artificial puede tener
consecuencias negativas en la sociedad ecuatoriana? Si o No. Respuesta: Respuesta: 2 de
cada 10 personas manifestaron que no; mientras que siete de cada diez personas manifestaron
que sí.
Figura 4.
Sobre las consecuencias negativas que tiene la falta regulación la inteligencia artificial (IA).
8
2
Pregunta núm. 4.- ¿La falta de una normativa que
regule la Inteligencia Artificial puede tener
consecuencias negativas en la sociedad ecuatoriana? Si
o No.
Si No
612
Nota. La figura muestra la opinión de los encuestados sobre las consecuencias de la falta de
regulación la IA.
Pregunta núm. 5.- ¿En cuáles de las siguientes áreas debe ser prioridad regular la inteligencia
artificial? Salud, burocracia administración pública, administración de justicia, sistema
financiero. De las10 personas encuestadas 5 escogieron que el área de la salud es prioridad,
2 la administración pública y 3 la administración de justicia.
Figura 5.
Sobre las áreas que debe regular la inteligencia artificial (IA).
Nota, La figura muestra las áreas donde regular la inteligencia artificial.
Análisis e interpretación de resultados
De las encuestas realizadas a profesionales del derecho en libre ejercicio profesional,
funcionarios de entidades públicas del sector administrativo y judicial; se puede observar que,
de las 10 personas encuestadas, 5 manifestaron que el área de la salud es donde más se debe
regular el uso de la IA, esto se puede deber, a que, en dicha área existe un tratamiento de
datos personales y sensibles. Por otro lado, dos de los encuestados, manifestó que el área de
la administración pública debe ser prioridad regular la IA, ya que, descongestionaría la
presencialidad en la gestión de tramites. Por último, 3 de los 10 encuestados manifestaron
5
2
3
0
Pregunta núm. 5.- ¿En cuáles de las siguientes áreas
debe ser prioridad regular la inteligencia artificial?
Salud, burocracia administración pública,
administración de justicia, sistema financiero.
Salud Administración pública
Sistema de justicia Sistema financiero
613
que el área de la administración de justicia es donde debe regular la IA, esto esta
correlacionado con la causa anterior, ya que, descongestionaría el proceso de administración
de justicia.
Algo importante que acotar, son lo reflejado por las preguntas 1, 2, 3 y 4, las cuales ponen en
manifiesto, la falta de un sistema jurídico que regule la aplicación de la IA en lo concerniente
a la protección de datos personales.
DISCUSION
La hipótesis de este trabajo establece que “la falta de una regulación específica y clara sobre
los sistemas de inteligencia artificial (IA) en Ecuador representa una amenaza para la
protección de los datos personales y la privacidad de los ciudadanos, lo que genera un vacío
legal que debe ser abordado para garantizar la salvaguarda de los derechos fundamentales”.
Tras el análisis documental, la recopilación de datos empíricos a través de encuestas y
entrevistas, y la comparación con marcos regulatorios de otros países, se ha determinado que
la hipótesis HI (Hipótesis Alternativa) es la válida.
La información obtenida confirma que, en efecto, la ausencia de una normativa adecuada para
la IA en Ecuador deja a los datos personales en una situación de vulnerabilidad. Esto se
constató a través del análisis de las respuestas obtenidas en las encuestas realizadas a la
población ecuatoriana, en las que una mayoría significativa manifestó no estar al tanto de
ninguna normativa que regule la IA en el país. Esta falta de conocimiento refleja tanto un
vacío legal como una falta de educación pública sobre los riesgos y derechos relacionados
con la IA. Además, las entrevistas con expertos en derecho y tecnología resaltaron la
necesidad urgente de desarrollar un marco regulatorio robusto que contemple los avances
tecnológicos en el ámbito de la IA y la protección de los datos personales.
614
En cuanto a la primera pregunta de investigación, que indagaba sobre si la falta de una
normativa específica en Ecuador afecta la protección de los datos personales frente a los
sistemas de IA, los resultados permiten validar esta premisa. Tanto el análisis normativo
como los resultados de las encuestas revelaron que la inexistencia de una legislación clara
sobre IA genera incertidumbre y deja expuestos a los ciudadanos ante el uso desregulado de
sus datos personales. Además, la revisión de sentencias constitucionales y normas
internacionales pone de manifiesto la necesidad de una mayor precisión en la regulación de
estas tecnologías.
La segunda pregunta de investigación, que planteaba si la implementación de un marco
normativo adecuado podría mejorar la protección de los datos personales en el contexto de la
IA, también fue confirmada. Los expertos consultados en las entrevistas coincidieron en que
la creación de una ley específica que regula el desarrollo y aplicación de la IA, junto con la
actualización de la Ley Orgánica de Protección de Datos Personales, podría prevenir muchos
de los riesgos actuales. Al establecer principios como la transparencia, el consentimiento
informado y la responsabilidad en el uso de la IA, se lograría mitigar los peligros que
actualmente enfrentan los ciudadanos en cuanto a su privacidad e intimidad.
La triangulación de la hipótesis con la información encontrada valida que el vacío normativo
actual en Ecuador no solo pone en riesgo la protección de los datos personales, sino que
también frena el desarrollo ético y sostenible de la IA. En países donde ya existen marcos
regulatorios, como la Unión Europea con su recién aprobada Ley de Inteligencia Artificial,
se observa que la regulación promueve tanto la innovación como la protección de los derechos
fundamentales. Ecuador podría beneficiarse significativamente al adoptar medidas similares,
adaptadas a su propio contexto constitucional y social.
En cuanto a las recomendaciones, el estudio sugiere varias prioritarias. En primer lugar, es
imperativo que el Estado ecuatoriano desarrolle una ley específica para la regulación de la IA
615
que incorpore principios claves como la protección de datos, la transparencia, la no
discriminación y la rendición de cuentas. En segundo lugar, se recomienda una mayor
capacitación para los operadores de justicia y actores relevantes en el manejo y regulación de
tecnologías emergentes como la IA, a fin de asegurar su correcta implementación y
supervisión.
Finalmente, la educación pública debe ser una prioridad, ya que la encuesta reveló un bajo
nivel de conocimiento sobre la IA y sus implicaciones, lo que indica la necesidad de campañas
educativas que informen a los ciudadanos sobre sus derechos y cómo protegerlos frente a las
nuevas. tecnologías.
CONCLUCIONES
Después de hacer un análisis de la doctrina especializada en lo que concierne a la regulación
de la IA en Ecuador, y su relación con la protección de datos personales, la presente
investigación ha llegado a la conclusión:
Primero, que la IA se encuentra presente en muchos aspectos de la vida cotidiana de las
personas, como pueden ser en el ámbito doméstico o en la realización de trámites
burocráticos; por lo que, tiene un enorme impacto en el sector de la economía, la sociedad
mundial y la política. La cual, ha generado, tanto ventajas que facilitan la vida a las personas,
como desventajas, como es la vulneración de los derechos a la intimidad personal.
Segundo, que existe normativa jurídica que regula el tratamiento de los datos personales, así
como jurisprudencia constitucional, pero que, si bien abarca conceptos generales, es
imprescindible que se expida la correspondiente norma jurídica que regule, el desarrollo,
aplicación y gestión de la IA en las diferentes áreas o esfera de acción humana, tales como,
el área de la salud, la comunicación e información, en el entretenimiento o en la
administración pública. Esto se debe, porque la IA se ha convertido en una herramienta para
el desarrollo de la sociedad.
616
Además, primero, se debe establecer los lineamientos de la aplicación, desarrollo y gestión
de la IA en un marco legal claro y el cual debe estar en constante actualización.
Segundo, se debe establecer mecanismos para la supervisión y el control de la aplicación,
desarrollo y gestión de la IA; los mismos que, pueden consistir en la creación de entes
especializados o recaer sobre los diferentes organismos y agencias estales ya creadas.
Tercero, fomentar la el principio de transparencia y responsabilidad. Esto supone, no solo la
creación de una norma jurídica, sino también, la expedición de normas de carácter axiológico
que guie la conducta humana en la aplicación, desarrollo y gestión de la IA.
REFERENCIAS
Comisión Europea. ¿Qué son los datos personales? Disponible en: https://bit.ly/3VRDM6v
Corvalán, J. G. (2019). El impacto de la Inteligencia Artificial en el trabajo. Revista de Direito Econômico e
Socioambiental, 10(1), 35-51.
Ecuador. Constitución de la República del Ecuador. Registro Oficial 449 de 20 de octubre de 2008.
Ecuador. Ley Orgánica de Protección de Datos. [LOPDP]. Quinto Suplemento del Registro Oficial No.459, 26 de
mayo de 2021.
García-Peña, V.R., Mora-Marcillo, A.B., & Ávila-Ramírez, J.A. (2020). La inteligencia artificial en la educación.
Dominio Científico, 6(3), 648-666.
Gil Aluja, J. (2020). De la razón artificial a la inteligencia artificial. E.M., 64, 1-10.
Martínez-García, D. N., Dalgo-Flores, V. M., Herrera-López, J. L., Analuisa-Jiménez, E. I., & Velasco-Acurio,
E. F. (2019). Avances de la inteligencia artificial en salud. Dominio De Las Ciencias, 5(3), 603–613.
Mirando Bonilla, H. (2022). Inteligencia artificial y justicia. Revista de la Facultad de Derecho de México,
72(284), 373-402.
Morales Cáceres, A. (1 de septiembre de 2020). El impacto de la inteligencia artificial en la protección de datos
personales. WORD COPLIANCE ASSOCIATION. Disponible en:
https://www.worldcomplianceassociation.com/2767/articulo-el-impacto-de-la-inteligencia-artificial-en-
la-proteccin-de-datos-personales.html
Naciones Unidas. (2004). Convención de las Naciones Unidas contra la Corrupción. Nueva York: Naciones
Unidas.
Naciones Unidas. Declaración Universal de Derechos Humanos. 10 de diciembre de 1948.
Naciones Unidas. Pacto Internacional de Derechos Civiles y Políticos. 16 de diciembre de 1966.
Nivela-Cornejo, M.A., Echeverría-Desiderio, S.V., & Otero- Agreda, O.E. (2020). Estilos de aprendizajes e
inteligencia artificial. Polo del conocimiento, 5(9), 222-253.
Pfeffer Urquiaga, E. (2000). Los derechos a la intimidad o privacidad, a la honra y a la propia imagen. Su
protección frente a la libertad de opinión e información. Ius et Praxis, 6(1), 466.
617
Revista de Robots. (2020). ¿Qué es la Inteligencia Artificial y para qué sirve la IA? Disponible en:
https://revistaderobots.com/inteligencia-artificial/que-es-la-inteligencia artificial/ Consultado EL 02 de
junio de 2020.
