Doi:
https://doi.org/10.17398/2695-7728.36.695
EL IMPACTO DE LA INTELIGENCIA ARTIFICIAL EN EL PROCESO PENAL
THE IMPACT OF ARTIFICIAL INTELLIGENCY ON PENAL
PROCEDURE
Ana Belén Muñoz Rodríguez
Universidad de Extremadura
Recibido: 24/07/2020
Aceptado: 29/10/2020
Resumen
En el presente trabajo analizamos cómo el avance la
denominada inteligencia artificial ha supuesto el desarrollo de una
serie de nuevas tecnologías que están incidiendo de manera directa en nuestro
Sistema de Justicia. Partiendo de esta base, examinamos los diferentes sistemas
de inteligencia artificial que operan en la actualidad en el mundo jurídico.
Nos referimos a la predicción judicial y al uso de herramientas como Ross Intelligence –utilizada en los
despachos de abogados–, Compas –capaz
de predecir el posible nivel de reincidencia de un sujeto– o Prometea –utilizada para la resolución
de casos de cierta complejidad–. El uso de estas tecnologías trae consigo la
necesidad de adoptar un sistema compatible con los Derechos Fundamentales de
los ciudadanos afectados, incluyendo aspectos como la protección de datos, la
protección de la privacidad y la no discriminación. Por otro lado, nos ocupamos
de la revolución que ha supuesto en el proceso penal la aplicación de medidas
de investigación tecnológica como la intervención de las comunicaciones
telemáticas, la videovigilancia o la grabación de comunicaciones, así como el
aumento de las fuentes de prueba de naturaleza digital –mediante la aplicación Whatsapp– y el uso de la videoconferencia.
Palabras clave: inteligencia artificial, justicia, Derechos Humanos, videoconferencia,
prueba electrónica.
Abstract
The present study
analyses how the advance of the so-called artificial intelligence has meant the
development of a series of new technologies that are having a direct impact on
our Justice System. On this basis, we examine the various artificial
intelligence systems currently operating in the legal world. We refer to
judicial prediction and the use of tools such as Ross Intelligence -used
in law firms-, Compas -capable of predicting the possible level of
recidivism of a subject- or Prometea -used for the resolution of cases
that have a certain complexity. The use of these technologies brings with it
the need to adopt a system compatible with the Fundamental Rights of the
citizens concerned, including aspects such as data protection, privacy
protection and non-discrimination. On the other hand, we deal with the
revolution that the application of technological research measures such as the
intervention of telematic communications has brought about in the criminal
process, video surveillance or communication recording, as well as the increase
of test sources of a digital nature -through Whatsapp- and the use of
viodeconferencing.
Keywords: Artificial
Intelligence (AI), Justice, Human Rights, Videoconference, Digital evidence.
Sumario: 1. Introducción. 2. Una aproximación a la inteligencia
artificial aplicada al mundo jurídico y su repercusión en los procesos
judiciales. 2.1. El fenómeno de la inteligencia artificial: concepto y alcance.
2.2. Herramientas de inteligencia artificial más utilizadas desde el punto de
vista judicial y de los despachos profesionales de abogados. 2.3. Problemática
en torno a la inteligencia artificial y límites morales y éticos. 3.
Aplicaciones de la inteligencia artificial en el proceso penal. 3.1. Apoyo a la
investigación judicial. 3.2. Prueba electrónica (prueba y uso de la
inteligencia artificial en los juicios). 3.3. Videoconferencia. 3.4. Riesgos
del uso de la inteligencia artificial en el proceso penal. 4. Conclusiones.
En
el presente trabajo analizamos la denominada inteligencia artificial y
su repercusión en nuestro Sistema de Justicia, especialmente en el marco del
proceso penal español. Este trabajo parte del proyecto de investigación que
hemos llevado a cabo en el marco de la beca de colaboración que hemos
desarrollado en el Departamento de Derecho Público y, de forma más concreta, en
el Área de Derecho Procesal.
Partiendo del Informe del Comité de Asuntos Legales del
Parlamento Europeo, de 27 de enero de 2017, sobre las cuestiones jurídicas
vinculadas a la robótica y la inteligencia artificial en la Unión Europea,
puede afirmarse que la incorporación de la tecnología en el ámbito judicial va
en aumento, siendo una realidad que ha venido para quedarse. Partiendo de estas
consideraciones, este trabajo tiene que ver con las diferentes implicaciones de
la inteligencia artificial en el ámbito judicial y del proceso, como
instrumento a través del cual se va a ofrecer una tutela pública y privada de
los derechos. Baste como ejemplo, la automatización de las oficinas judiciales,
el modo en que se realizan las vistas, audiencia y comparecencias, así como
todo lo relacionado con la predicción judicial.
Nuestro
trabajo tiene un enfoque netamente procesal que podemos dividir en dos partes.
En una primera analizaremos el desarrollo de la inteligencia artificial y su
incidencia en la Administración de Justicia en general, centrando la segunda
parte en la aplicación de las Tecnologías de la Información y la Comunicación
en el proceso penal, concretamente en la fase de instrucción y en la posterior
celebración del juicio oral. Partiendo de esta base, abordaremos, en primer
lugar, el concepto y alcance de la inteligencia artificial ligada a los
procesos jurisdiccionales, así como su incipiente regulación legal. Nos estamos
refiriendo a la elaboración de directrices y principios comunes de la
inteligencia artificial elaborados por la Comisión Europea a fin de asentar a
nivel comunitario los pilares fundamentales para una regulación de carácter
obligatorio. Seguidamente, se tratarán las herramientas de inteligencia
artificial más utilizadas desde el punto de vista judicial y en los despachos
profesionales de abogados, planteándonos retos como la creación de determinados
mecanismos automatizados de resolución de conflictos y analizando, finalmente,
las ventajas e inconvenientes de su utilización y siendo necesario plantear las
limitaciones de la inteligencia artificial como herramienta del proceso
judicial, tanto por consideraciones ético-morales como por la vulneración de
determinados Derechos Fundamentales.
A
continuación, como ya hemos mencionado, nos centraremos en el estudio de las
nuevas tecnologías aplicables en el proceso penal. En concreto, analizaremos su
utilización en apoyo a la investigación judicial entendiendo como tal el
conjunto de diligencias practicadas en la fase de instrucción, así como la
entrada y valoración de las pruebas electrónicas que cada vez tienen mayor
importancia en el proceso. Con todo, desarrollaremos la utilización de medios
telemáticos como la videoconferencia en la celebración del juicio oral,
haciendo hincapié en la importancia que ha adquirido esta vía de comparecencia
tras la crisis sanitaria provocada por la COVID-19. Finalmente, se mencionarán
los riesgos propios del uso de la inteligencia en el ámbito penal, como es la aparición
de la ciberdelincuencia. En definitiva, este trabajo está dirigido a establecer
los límites de la inteligencia en la actualidad, así como a identificar los
mitos y limitaciones de la inteligencia artificial aplicada al proceso judicial
haciendo patente la necesidad de una regulación de su uso con carácter
internacional.
La metodología que hemos utilizado para la
realización de nuestro trabajo ha sido la propia de cualquier estudio jurídico,
de modo que hemos partido de la legislación aplicable a la materia y nos hemos
valido de la doctrina más relevante sobre inteligencia artificial y derecho
procesal. Como colofón a nuestro trabajo, extraemos una serie de conclusiones
que dan cuenta de la importancia del tema tratado y de su trascendencia social y
práctica.
2. UNA APROXIMACIÓN A LA INTELIGENCIA ARTIFICIAL APLICADA AL
MUNDO JURÍDICO Y SU REPERCUSIÓN EN LOS PROCESOS JUDICIALES
2.1. el fenómeno de la inteligencia artificial:
concepto y alcance
El
término Inteligencia Artificial[1]
(en adelante, IA) fue acuñado por primera vez en el año 1955 por John McCarthy,
profesor de Standford, que lo definía como “la ciencia y la ingeniería
de fabricar máquinas inteligentes, en especial máquinas inteligentes de
computación”, entendiendo por inteligente la parte de la informática
orientada a obtener resultados.
Desde entonces, la inteligencia artificial, como parte de
un gran proceso de Revolución Digital al que hemos venido asistiendo, no ha
dejado de desarrollarse adquiriendo cada vez mayor protagonismo en la sociedad,
convirtiéndose en una de las grandes herramientas de trabajo en la actualidad.
Dada su multiplicidad de aplicaciones, no existe un total consenso sobre el
concepto de inteligencia artificial. Según la doctrina mayoritaria puede
definirse como la combinación de algoritmos planteados con el propósito de
crear máquinas que presenten las mismas capacidades que el ser humano. Jordi
Nieva, a su vez, la describe como la posibilidad de que las máquinas piensen, o
más bien imiten el pensamiento humano a base de aprender y utilizar las
generalizaciones que las personas usamos para tomar nuestras decisiones
habituales[2].
Recientemente, debido a la presencia de sistemas de inteligencia artificial en
el ámbito procesal, el Libro Blanco sobre la inteligencia artificial, recoge
una definición completa contenida en su Comunicación sobre una IA para Europa,
posteriormente completada por el Grupo de Expertos de Alto Nivel y según la
cual: "Los sistemas de inteligencia
artificial (IA) son elementos de software (y en su caso, también de hardware),
diseñados por seres humanos y que, dado un objetivo complejo, actúan en la
dimensión física o digital, perciben su entorno mediante
la adquisición e interpretación de datos estructurados o no estructurados
recogidos, razonan sobre el conocimiento o el procesamiento de la información
derivada de estos datos e identifican y adoptan la(s) mejor(es) medida(s) a
tomar para lograr el objetivo determinado[3]”
De
todas estas ideas extraemos que la palabra clave en la inteligencia artificial
es “algoritmo”, que sería el esquema ejecutivo de la máquina almacenando todas
las opciones de decisión en función de los datos que se vayan conociendo[4],
ofreciendo uno o varios resultados a través de un proceso equiparable a lo que
los humanos entendemos como la toma de una decisión[5]. Una finalidad que ha
supuesto la división de opiniones en cuanto a las ventajas e inconvenientes de
su utilización, tema que abordaremos a continuación.
En primer lugar, cabe especificar que el proceso judicial
engloba desde que se presenta una demanda o denuncia penal, pasando por la
solicitud de asistencia jurídica a despachos profesionales hasta que,
finalmente, el proceso se desenvuelve en el seno de los Juzgados y se resuelve
por la autoridad competente, ya sea Juez o Letrado de la Administración de
Justicia. Hasta ahora, la inteligencia artificial utilizada en el mundo
jurídico era la relativa a los procesadores de texto y buscadores de
jurisprudencia, la organización de grandes bases de datos, la clasificación,
ordenación, análisis y estudio de determinados ámbitos del conocimiento
jurídico, es decir, una inteligencia artificial débil consistente en procesos
automatizados que no van más allá de labores de organización y mecanización de
trabajos de búsqueda. Sin embargo, la realidad ha cambiado y debido a los
últimos avances tecnológicos producidos en la denominada Cuarta Revolución
Industrial[6],
es posible la aplicación de la inteligencia artificial como herramienta de
trabajo en procesos más complejos y que inciden cada vez más en aquellos
trabajos desarrollados, tradicionalmente, por personas y que hasta hace unos
años parecía impensable que pudieran desempeñarlo las máquinas. Aquí nos
referimos a su uso tanto en despacho de abogados como dentro de los propios
juzgados.
En el caso de los despachos de abogados, hemos de señalar
que su uso no supone que sustituya la labor que pueda realizar ningún
profesional del derecho, puesto que el uso de la inteligencia artificial va
mucho más allá de eso. La IA resulta ser una herramienta de apoyo que
complementa la actividad del abogado. Y es que al igual que muchos otros
aspectos de nuestra sociedad, los bufetes de abogados también se ven afectados
por el aumento de la cantidad de los datos generados. A este respecto, el uso
de la IA en el ámbito de la abogacía está, hoy, más o menos limitado a las
herramientas de investigación, la simplificación del análisis de datos y, en algunas
jurisdicciones, para la predicción de posibles decisiones judiciales. Entre
estas tareas se pueden destacar: los instrumentos que facilitan el análisis de
la legislación, la jurisprudencia y la doctrina científica, los instrumentos
que facilitan el proceso de diligencia debida de los contratos y documentos,
las soluciones de e-Discovery (identificación automatizada de documentos
pertinentes y examen asistido por tecnología) y la automatización en la
elaboración de documentos[7].
Las
herramientas que más nos interesan, por lo novedoso de su función, son las
denominadas técnicas de predicción judicial, las cuales permiten a través de
formulaciones, la reducción de las barreras relativas al almacenamiento y
procesamiento de datos con el objetivo de construir una estrategia procesal más
eficiente, orientada, en todo caso, a la plena satisfacción del interés del
cliente[8].
Por ejemplo, si nos encontramos ante un supuesto jurídico que requiere una
respuesta, podemos dotar a un sistema o herramienta con una serie de datos
(como los hechos, las personas implicadas, el plazo) y ponemos a su disposición
una gran base de datos, como la jurisprudencia más relevante, la doctrina, la
legislación y toda la documentación referente a nuestro asunto. La herramienta lo que hará será aglutinar y juntar toda esa
información y darnos una respuesta jurídica que sirva para apoyar y desarrollar
la resolución de nuestro caso[9].
Según
un estudio elaborado por un grupo de investigadores del University College
London, la Universidad de Sheffield y la de Pennsylvania, estas técnicas son
capaces de generar resoluciones correctas en un 79% de los casos. Para ello han
desarrollado un algoritmo capaz de analizar los datos de casos del Tribunal
Europeo de Derechos Humanos (TEDH) logrando predecir un 79% las resoluciones
alcanzadas en 584 asuntos. Según Pablo F. Burgueño, "la mayor parte de los
asuntos que llegan a la TEDH tienen una solución objetiva que, mediante el
análisis de la normativa vigente, es posible resolver con facilidad. En temas
tan claros como éstos, sería posible aplicar sistemas cognitivos -bases de
datos que recopilan sentencias y jurisprudencia- o de inteligencia artificial.
Así, procedimientos que, por razones puramente formales se extienden durante
años, se podrían resolver en pocos meses[10]”.
Otro
de los proyectos más importantes es la denominada Ross Intelligence[11],
una herramienta de investigación legal, que constituye el buscador de
jurisprudencia y documentación legal más avanzado que los habituales,
permitiendo a los abogados lanzar una pregunta y recibir una respuesta legal
específica. Este hecho, supondría una liberación de gran parte de la carga de
trabajo de investigación y documentación. Se estima que los despachos podrían
trabajar en más de 2.000 casos por año, en lugar de 250, siendo cada vez más
despachos los que apuesten por la inversión en nuevas tecnologías lo que,
indirectamente nos llevaría a desatascar las vías judiciales, pues al evaluarse
la probabilidad de éxito se podría reducir el número de demandas o recursos que
se interpusieran.
En cuanto a la tramitación de los procedimientos
judiciales, una gran parte de la labor de los juzgados es mecánica, donde buena
parte de los funcionarios trabajan utilizando modelos de resolución y
modificando -simplemente- los datos identificatorios del proceso. En la
actualidad, pocas sentencias se redactan completamente ex novo, incluso
en la jurisprudencia de los más altos tribunales, donde se detecta en infinidad
de ocasiones el uso del “corta-pega”[12]. De
este modo, el software de predicción judicial no solo podrá ser utilizado en
los despachos profesionales sino también como herramienta de apoyo al juez a la
hora de tomar decisiones, pues al no existir casos idénticos, estos algoritmos
podrían ayudar al magistrado aportándole el conjunto de argumentos legales
aplicables y proponiéndole ciertas decisiones, lo que aligeraría los tiempos
necesarios para dictar sentencia. En este sentido, Joaquín Muñoz insiste en que
la IA será útil, pero no acabará con la figura del juez, "aunque se pueda
utilizar un algoritmo para resolver asuntos, cualquier fallo generado por esta
vía siempre deberá ser verificado y refrendado por un juez y, en caso de
desacuerdo, tendrá que existir una posibilidad de recurso[13]”.
Algunos de los ejemplos concretos de los diferentes usos
de IA en la Administración de Justicia lo encontramos en Estados Unidos, con el empleo del programa Compas[14] (Correctional Offender Management Profiling for
Alternative Sanctions). Esta herramienta tiene por objeto reducir
la población carcelaria, comenzándose a utilizar una serie de algoritmos que,
según los antecedentes penales
de acusado, predicen el posible nivel de reincidencia. No obstante,
según un informe elaborado por Partnership[15], no se
trata de una técnica fiable pues podría reforzar los prejuicios existentes,
“siendo un grave malentendido pensar que las herramientas son objetivas o
neutrales simplemente porque están basada en datos”[16]; tema
que abordaremos en el epígrafe siguiente en relación con la problemática de la
aplicación de ciertos softwares. Una de las más recientes apuestas de IA en el
mundo jurídico la encontramos en Buenos Aires con la utilización de Prometea[17],
un sistema de
IA creado en el ámbito del Ministerio Público Fiscal. El sistema informático
se utiliza para resolver casos de diversa materia, pero sencilla resolución
como infracciones menores, accidentes de tráfico o políticas sociales, entre
otros. Prometea cuenta con habilidades que van desde la automatización hasta la
predicción, aunque originalmente fue construida pensando en la optimización de
la justicia, mostrando que podía ser interesante para otros sectores de cara a
agilizar y optimizar los procesos burocráticos[18]
en todo tipo de organizaciones. Actualmente, España se ha mostrado interesada
en este programa, por lo que, en octubre de 2019, autoridades del área de
modernización del Ministerio de Justicia español que, en enero de 2020 pasó a
denominarse de Transformación Digital de la Administración de Justicia,
visitaron las oficinas del Ministerio Público Fiscal de la Ciudad de Buenos
Aires con el objetivo de conocer Prometea.
2.3. Problemática en torno a la inteligencia
artificial y límites morales y éticos
A pesar de su multiplicidad de funciones, el
efecto práctico de la IA no es todo lo que podría serlo debido a
consideraciones, fundamentalmente, de tipo ético y moral. Pero es que además de
estas limitaciones, nos encontramos con otra serie de problemas relativos a la
posible vulneración de determinados derechos de los ciudadanos en el momento en
que acceden al sistema judicial.
Con carácter general, en relación con los riesgos
derivados del uso de la IA podemos identificar tres áreas principales[19].
La primera de ellas es la relativa a los riesgos para los derechos
fundamentales de los ciudadanos, incluyendo la protección de datos, la
protección de la privacidad y la no discriminación; esta última procedente de
los sesgos tanto de los datos como de los algoritmos. Al fin y al cabo, se trata de
sistemas o herramientas en el que se introducen una serie de datos y
documentación que, mediante un proceso de razonamiento y el seguimiento de una
serie de instrucciones, analiza y alcanza una conclusión. Es decir, si a un
sistema o herramienta le introduces una base de información errónea, limitada o
incorrecta, no podrá llevar a cabo un proceso de análisis correcto y las
soluciones a las que va a llegar y que ofrecerá serán tergiversadas o falsas.
En el caso concreto de Compas, este se basa en parámetros sesgados y subjetivos
que predispone, en función de la catalogación inicial del algoritmo, una
determinada raza a ser considerada de mayor riesgo delictivo por la inclusión
de parámetros racistas y desigualitarios[20]. Como
menciona Sofía Trejo, Iván Meza y Fernanda López Escobedo, las relaciones
intrínsecas de los datos reflejan estructuras no explícitas de la sociedad,
como lo es la discriminación[21],
por lo que si el software aprende a imitar estos comportamientos tendrá
resultados discriminatorios.
En este sentido, la Unión Europea ha estado trabajando en
diferentes proyectos como el Libro Blanco sobre Inteligencia Artificial, titulado "Una aproximación europea a la excelencia y a
la confianza", donde el punto de partida y premisa ética de la IA no es
otro que la dignidad y los derechos fundamentales. El Supervisor Europeo de Protección de datos
señala que en el entorno digital actual ha de tenerse en cuenta la dimensión
ética del tratamiento de datos. Así mismo, la Comisión Europea recuerda que la
IA ha de desarrollarse y aplicarse en un marco adecuado, que promueva la
innovación y respete los valores y derechos fundamentales de la Unión, así como
principios éticos tales como la obligación de rendir cuentas y la transparencia[22]. Estas últimas obligaciones
están relacionadas con el segundo de los riesgos de la IA, como son la opacidad, impredecibilidad y
autonomía de algunos sistemas complejos, así como los riesgos para la seguridad
y efectivo funcionamiento del régimen de responsabilidad[23].
Por
lo tanto, una cuestión clave para el Derecho, en el actual estado de la
tecnología y la robótica, es cómo distribuir derechos, deberes y obligaciones
entre los seres humanos cuando los sistemas robóticos crean beneficios o
provocan lesiones[24].
El desarrollo tecnológico ha permitido que las máquinas sean capaces de
aprender por sí mismas y de tomar decisiones de manera autónoma, lo que
necesariamente implica la posibilidad de que estas adopten un comportamiento
imprevisible para el ser humano[25],
siendo el régimen de responsabilidad civil, es decir, la obligación de
indemnizar a un tercero por los daños provocados de forma involuntaria, uno de
los aspectos que más preocupa en este ámbito. Algunos autores consideran que la
introducción de la IA no supone demasiados cambios en el régimen de
responsabilidad. Promover la responsabilidad comporta garantizar la rendición de cuentas[26]
y un modo fácil de conseguirlo es hacer entender a los distintos operadores
jurídicos (fundamentalmente jueces y fiscales) que los sistemas de software tienen,
en buena parte, los mismos problemas de responsabilidad que cualquier otro
artefacto fabricado: si se les da un uso inadecuado, es culpa del propietario;
si generan daños cuando se utilizan adecuadamente, están defectuosos y es
probable que el fabricante sea el responsable, a menos que pueda demostrar que
ha respetado la diligencia debida y que han concurrido circunstancias
excepcionales[27].
Por ello, se plantea la posibilidad de crear una ley de responsabilidad
algorítmica mediante la cual se incentive a los creadores y desarrolladores de
algoritmos a establecer ciertos controles de objetividad sobre los mismos con
la finalidad de evitar que su uso conlleve a resultados inexactos[28].
En
definitiva, además de garantizarse los valores humanos, el uso de la IA no debe verse como un medio en sí mismo, sino con el
objetivo de aumentar el bienestar a mayor número de ciudadanos[29],
teniendo como punto de partida el respeto a principios y derechos humanos que,
además, se configuran como un límite en la aplicación de la IA[30].
No todo vale en esta carrera por ser pioneros en robotizar todos los aspectos
de la sociedad. A mayor abundamiento, la
problemática generada por la IA no solo deriva de su uso sino del abuso que se
pueda hacer de la misma, por ejemplo, en despachos de abogados. A nuestro
juicio, el abuso de estos softwares puede actuar en detrimento de aquellos justiciables que puedan ser
beneficiarios del derecho a la asistencia jurídica gratuita, teniendo en cuenta
que estos casos pueden no resultar rentables para el despacho. Así mismo,
identificamos un problema moral desde el punto de vista deontológico y de
competencia desleal entre los despachos, puesto que la IA requiere de una gran
inversión a la que pueden acceder todos los despachos. A nuestro modo de ver,
la mejor defensa no es la que necesariamente se deriva del uso de la IA.
A
este respecto, se hace patente la necesidad de que los abogados hagan un uso
consciente y responsable de estas nuevas tecnologías, siendo fundamental el
respeto al código deontológico de todo profesional para proteger la confianza
entre el abogado y el cliente junto con el cumplimiento de la normativa
vigente. Y en este sentido, el Consejo de la Abogacía Europea establece una
serie de principios que han de respetarse en el uso de los instrumentos de la
inteligencia artificial como son el deber de competencia, el deber de informar
a los clientes, el mantenimiento de la independencia de los abogados en cuanto a
la defensa y el asesoramiento, el deber de preservar la secreto y el privilegio
profesional legal y la obligación de proteger la confidencialidad de los datos
de los clientes[31].
De este modo, se requiere una evaluación exhaustiva de las necesidades de
formación que tienen los abogados en materia de IA, ya que, en el empleo de la
misma en el desarrollo de tareas legales, cuyas ventajas son más que obvias a
nivel de eficiencia, coste y tiempo, existe un deber del abogado de supervisar
la tarea realizada y el resultado generado por los algoritmos. Junto a este
deber, debería exigirse la obligación de informar al cliente de que para llegar
a esa conclusión se ha usado un software específico, con una
determinada configuración y un concreto margen de error, rigiendo en todo
momento el principio de transparencia algorítmica[32].
Finalmente, una de las mayores preocupaciones que
nos podemos encontrar en relación a la IA aplicada al proceso judicial, es que
una máquina pueda sustituir la función más vital de un juez, que no es otra que
la de dictar sentencias (el juicio jurisdiccional), de manera que las personas
acabemos siendo juzgados por máquinas sin conciencia. Para la emisión del fallo
es necesario que el juez, a partir de todos los elementos de convicción
aportados y debidamente valorados, se forme una idea sobre los hechos realmente
acaecidos y los califique oportunamente[33]. Sin
embargo, la IA, lejos de poder valorar e imaginar los hechos como podría
hacerlo una persona, resolverá siempre de la misma forma, no adaptándose a los
cambios, tendiendo a “fosilizar decisiones”[34].
Junto a las anteriores
consideraciones, hemos de recalcar que la IA no podrá ser utilizada cuando se
trate de jurisdicciones como, por ejemplo, la penal o las causas centradas en
el derecho de familia, puesto que, en estos casos, además de indicadores
objetivos, aparece un elenco de derechos subjetivos que han de tenerse en
cuenta y que necesitan la interpretación del juez. En cambio, la IA podría aplicarse en asuntos
relacionados con el derecho de los negocios en los que existan infracciones
económicas o temas de competencia desleal o en ámbitos como el fiscal (casos de
contabilidad), la propia jurisdicción civil (deudas, multas de tráfico,
aseguradoras) o en temas de marcas y patentes[35]. Encontramos diferentes
posturas de la doctrina en relación a la imparcialidad del juez por el uso de
la IA. Autores como Jordi Nieva, consideran que el empleo de la IA puede
convertirse en una herramienta para combatir la subjetividad propia de las
personas y el abuso de la interpretación teleológica de las normas por parte de
los jueces[36].
No obstante, otros autores como Cristina San Miguel consideran que no será así
porque los algoritmos no son objetivos y por lo tanto pasaríamos de la
subjetividad del juez a la subjetividad del desarrollador del algoritmo[37]. Por lo tanto,
puede concluirse que la IA podrá sustituir la decisión humana cuando se trate
de adoptar decisiones automáticas en base a unos determinados requisitos
objetivos, pero no cuando sea necesario que se tengan en cuenta las
particularidades de determinadas situaciones, garantía que solo la puede
ofrecer la intervención humana[38].
3. APLICACIONES DE LA INTELIGENCIA ARTIFICIAL EN EL
PROCESO PENAL
El
desarrollo de ciertas tecnologías de la información y la comunicación (en
adelante TICs) y su empleo en el proceso penal, ya sea en fase de instrucción o
sea en la de juicio oral, han resultado ser cruciales a diferentes niveles en
la persecución de la criminalidad, en la investigación del delito y en su
posterior enjuiciamiento.
3.1. Apoyo a la investigación judicial
La
eficacia del sistema penal, como herramienta para la persecución de la
criminalidad en nuestro país, se ha visto reforzada gracias a estos avances de
la sociedad de la información, siendo una auténtica necesidad a la hora de
garantizar el derecho fundamental a la seguridad de los ciudadanos (art. 17.1
CE) [39].
Podemos definir la investigación judicial como el conjunto de diligencias
practicadas por las autoridades competentes encaminadas al esclarecimiento de
unos hechos delictivos y de las circunstancias en las que se produjeron, así
como la verificación de sus autores y víctimas[40].
La aplicación de la IA en el sistema de justicia ha supuesto una auténtica
revolución dentro del plano de la investigación judicial, tanto a la hora de
esclarecer los hechos como de prevenir el delito, y no solo por la aparición de
nuevos mecanismos de investigación si no por el aumento de la eficiencia de
estos medios. No obstante, nos encontrábamos ante a una gran dificultad y es
que la legislación vigente en la Ley de Enjuiciamiento Criminal (en adelante
LECrim) de 1892 se encontraba muy anticuada para hacer frente a los nuevos
retos, no adaptándose a las nuevas necesidades de investigación y exigiendo a
los jueces y magistrados una gran labor jurisprudencial para suplir los vacíos
legales existentes[41].
No fue hasta el año 2015 cuando se aprobó la última reforma de calado de la
LECrim mediante la promulgación de la Ley Orgánica 13/2015, de 5 de octubre, de
modificación de la LECrim para el fortalecimiento de las garantías procesales y
la regulación de las medidas de investigación tecnológica. Junto a ella, se promulgó
la Ley 41/2015, de 5 de octubre, de modificación de la LECrim para la
agilización de la justicia penal y el fortalecimiento de las garantías
procesales. Anteriormente, las medidas de investigación existentes apenas
contaban con cobertura legal expresa, repercutiendo negativamente en la
investigación y represión de las nuevas formas de criminalidad y también en la
necesaria seguridad jurídica[42].
Algunas
de las medidas de investigación tecnológica más frecuentes en la práctica son
la intervención de las comunicaciones telefónicas y telemáticas, la
videovigilancia o la grabación de comunicaciones orales mediante la utilización
de dispositivos electrónicos. Respecto a la intervención de las comunicaciones
telefónicas y telemáticas, ya se encontraban reguladas con carácter previo a la
reforma (antiguos arts. 570 y ss. LECrim), aunque de forma deficiente, mientras
el resto de medidas han sido introducidas por la citada reforma para recoger
actuaciones que ya se venían haciendo con criterios jurisprudenciales en
materia de actuaciones de investigación criminal[43].
Se trata de medidas llevadas a cabo por la Policía Judicial, previa
habilitación legal por parte del Juez encargado de conocer de la instrucción
del procedimiento, siempre que existan indicios suficientes que hagan prever
que mediante alguna de estas técnicas se obtendrán pruebas que incriminen a los
sujetos investigados. Algunas de estas medidas, como la intervención de las
comunicaciones, tienen doble naturaleza en el proceso penal, pudiendo servir
como fuente de investigación de delitos y utilizarse como fuente de prueba[44].
Tras
adoptarse la medida de investigación, cabe destacar el importante papel
desempeñado por las empresas privadas para el acceso a fuentes de pruebas como
grabaciones o comunicaciones, así como en la conservación y cesión de estos
datos, amparado en el deber de colaboración de los prestadores de servicios de
telecomunicaciones, de acceso a redes de comunicaciones o de servicios de la
sociedad de la información recogido en el artículo 588 ter e) LECrim. Son estas
empresas las que facilitan a la policía judicial las grabaciones de las
conversaciones telefónicas o el contenido de las comunicaciones electrónicas,
para hacérselas llegar, finalmente al juez instructor[45].
La cuestión que cabe plantear en este sentido es si nos encontramos ante una
“colaboración” o se ha producido una auténtica delegación a entes privados de
la práctica de determinadas actuaciones de investigación y hasta qué punto es
legítimo. Según manifiesta Fernando Gascón, esta delegación de funciones solo
debería ser legítima si va acompañada de una sumisión de estos entes al control
y a la supervisión pública, a través de técnicas regulatorias[46].
Finalmente,
no son pocos los requisitos que han de cumplirse para adoptar alguna de estas
medidas, debido a que su aplicación conlleva la importante vulneración de
derechos fundamentales de la persona investigada. El TS considera a las
intervenciones de investigación telemática como “unas medidas instrumentales
que suponen una restricción del derecho fundamental del secreto de las
comunicaciones[47]”.
Más concretamente “son medidas instructoras, no pudiendo utilizarse para
prevenir delitos o que puedan utilizarse para meras conjeturas o simples
sospechas”[48].
Por eso, su aplicación debe ser muy restrictiva y amparada en el principio de
proporcionalidad. En este sentido, la propuesta sobre el uso de la Inteligencia
artificial en los ámbitos policial y judicial preparada por el Comité de
Libertades Civiles, Justicia e Interior del Parlamento Europeo, señala que
"todo instrumento de inteligencia artificial elaborado o utilizado por las
fuerzas policiales o la judicatura debe, como mínimo, ser seguro en su uso,
estar protegido y ser adecuado para su finalidad, así como respetar los
principios de equidad, responsabilidad proactiva, transparencia y
explicabilidad y su despliegue estar sujeto a una estricta prueba de necesidad
y proporcionalidad[49]”.
3.2. Prueba electrónica (prueba y uso de la
inteligencia artificial en los juicios)
Gracias
a las labores de investigación tecnológica se obtienen una serie de pruebas que
son de absoluto valor probatorio. Se puede definir como prueba electrónica toda
información con valor probatorio incluida o transmitida por un medio electrónico[50].
Ésta puede ser cualquier clase de información, que deberá encontrarse en medios
electrónicos, capaz de acreditar hechos en un proceso abierto para la
investigación de todo tipo de infracciones penales[51].
Entre ellas figuran, en particular: a) los mensajes de correo electrónico; b)
los mensajes de texto o los contenidos procedentes de aplicaciones de
mensajería; c) los contenidos audiovisuales; y d) la información sobre la
cuenta en línea del usuario. Dada la acelerada evolución tecnológica y la utilización
masiva de los instrumentos electrónicos o digitales en todos los sectores de la
vida social, las fuentes de prueba de naturaleza digital se han incrementado de
forma considerable. Actualmente se utilizan datos electrónicos en
el 85 % de las investigaciones penales[52]. De este
modo, nos encontramos con la necesidad de regular una situación de gran
complejidad, por un lado, por el desconocimiento de estas herramientas y, por
otro lado, por el desafío que implica su comprobación y utilización como una
prueba confiable dentro de un proceso judicial[53].
En
un principio, la reforma de la LECrim del año 2015 introdujo la utilización de
medios tecnológicos para la investigación de delitos cuyo medio de comisión sea
internet. Si bien la prueba electrónica no solo es de utilidad en la comisión
de la denominada ciberdelincuencia, como en casos de pornografía infantil, si
no que tiene cabida en muchos procesos penales con delitos que aparentemente no
guardan relación con el mundo de la tecnología. Podemos comprobar en la
existencia de multitud de casos penales que la prueba electrónica desempeña un
papel fundamental en el esclarecimiento de los hechos[54].
Uno
de los principales medios probatorios electrónicos utilizados en la praxis es
la aportación en juicio de mensajería instantánea, con carácter general
procedente de la aplicación Whatsapp. Estos datos han de tener entrada en
el proceso a través de un concreto medio probatorio admitido por el
ordenamiento; y ha de ser respetado el procedimiento que, para el concreto
medio de prueba, sea contemplado por la respectiva legislación procesal para
ejercitar válidamente el derecho a la prueba[55]. Para
que una prueba de este tipo sea admitida, debe cumplir con requisitos de
obtención e incorporación de la prueba electrónica al proceso para que así ésta
pueda desplegar eficacia probatoria siendo objeto de valoración por parte del
Juez o Tribunal de conformidad con las reglas de la sana crítica.
La regla
general en materia de prueba electrónica es el sistema de libre valoración. Así
se deduce del art. 384.3 Ley de Enjuiciamiento Civil (en adelante LEC),
aplicable a los instrumentos que permitan archivar, conocer o reproducir datos
relevantes para el proceso que establece que el tribunal valorará los
instrumentos a que se refiere el apartado primero de este artículo conforme a
las reglas de sana crítica aplicables a aquéllos según su naturaleza. Este
precepto resultaría de aplicación por analogía a los procesos en todas las
jurisdicciones (art. 4 LEC) dado que no existe un precepto específico sobre
valoración de la prueba electrónica en las normativas procesales penal, laboral
o contencioso-administrativa. Y esta regla general resulta plenamente compatible
con las normas generales de valoración de la prueba de la jurisdicción penal.
De forma concreta, el artículo 741 LECrim contempla que el Tribunal, apreciando
según su conciencia las pruebas practicadas en juicio, dictará sentencia dentro
del término fijado en esta Ley, mientras que el artículo 973 LECrim señala que
el juez dictará sentencia apreciando según su conciencia, las pruebas
practicadas, las razones expuestas por el Fiscal y por las demás partes o sus
defensores y lo manifestado por los propios acusados. En definitiva, la libre valoración de la prueba
implica que la ley no obliga al juez a tener por probados los hechos que surjan
de una prueba electrónica, si no que realizará una valoración conforme a las
reglas de la sana crítica, es decir, una valoración conforme
a las reglas de criterio racional, de forma ajustada a las reglas de la lógica,
los principios de la experiencia y los conocimientos científicos[56].
Si ninguna parte
formula impugnación de la autenticidad e integridad de la prueba electrónica,
el Juez tenderá a considerarla como auténtica y exacta, de tal forma que la
misma deberá ser valorada en relación con el resto de las pruebas válidamente
practicadas en el proceso. En el caso de
que una de las partes impugne alguna prueba electrónica, se produce una
inversión de la carga de la prueba, por lo que será la parte que propone esa
prueba la que deberá demostrar su idoneidad probatoria[57].
Ciertamente
nos encontramos ante el uso de herramientas susceptibles de ataques y “hackeos”
que pueden poner en peligro, entre otros extremos, la privacidad de los sujetos
implicados en un proceso, la integridad de las actuaciones o la propia
fiabilidad de los elementos probatorios que tengan soporte digital[58].
El Tribunal Supremo (Sala 2ª), en su sentencia dictada
el 19 de mayo de 2015, establece que “la prueba de una comunicación bidireccional mediante cualquiera
de los múltiples sistemas de mensajería instantánea debe ser abordada con todas
las cautelas. La posibilidad de una manipulación de los archivos digitales
mediante los que se materializa ese intercambio de ideas forma parte de la
realidad de las cosas[59]”. La realidad es que la verdad procesal absoluta no existe y
todas las pruebas son susceptibles de ser falsificadas y un contrato privado
puede haber sido manipulado del mismo modo que puede serlo una conversación
entablada mediante aplicaciones de mensajería instantánea[60].
En el ámbito de la UE nos encontramos con el firme
propósito de regular la prueba electrónica como consecuencia de la necesidad de
adaptar estos mecanismos a la revolución tecnológica, abordando el problema
derivado del carácter volátil de las pruebas electrónicas y su dimensión
internacional. Para ello, la Comisión Europea presentó una Propuesta de Reglamento del Parlamento Europeo y del
Consejo sobre las órdenes europeas de entrega y conservación de pruebas
electrónicas a efectos de enjuiciamiento penal[61],
junto con una Directiva por la que se establecen normas armonizadas para la
designación de representantes legales a efectos de recabar pruebas para
procesos penales[62].
El objetivo
principal de las nuevas normas que propone la Comisión Europea es agilizar el acceso a
las pruebas electrónicas almacenadas en otro Estado miembro.
El artículo 230.1 de la
Ley Orgánica del Poder Judicial (en adelante LOPJ) , establece como obligación
de los Juzgados y Tribunales y de las Fiscalías la utilización de cualesquiera
medios técnicos, electrónicos, informáticos y telemáticos puestos a su
disposición para el desarrollo de su actividad y el ejercicio de sus funciones,
con las únicas limitaciones que procedan de la Ley Orgánica de Protección de
Datos Personales y garantía de los derechos digitales y las demás leyes que
resulten de aplicación. Por su parte, la LECrim desarrolla esta posibilidad de
utilización de los recursos tecnológicos distinguiendo según que su empleo se
produzca durante la fase de instrucción o en el juicio oral .
Respecto
a la fase de instrucción, el Juez podrá acordar, de oficio o a instancia de parte, que
las comparecencias personales que ante él hubieren de realizar investigados
o encausados, testigos, peritos o de cualquier otra persona que hubiere de
hacerlo en calidad distinta, se lleven a cabo mediante
videoconferencia o por cualquier otro sistema similar que garantice la
comunicación bidireccional y simultánea de la imagen y el sonido, siempre que
concurrieren circunstancias especialmente gravosas o perjudiciales, o se
aprecien razones de utilidad, seguridad o de orden público. En el caso de
juicio oral la finalidad principal también es para la declaración de alguna de
las partes o testigos, pero también se utiliza como prueba preconstituida que
se aportará al proceso posterior. En concreto, el objetivo fundamental de la
prueba preconstituida es permitir la aportación al proceso de pruebas que de
otra manera no podrían ser aportadas en el acto del juicio oral, por lo que es
necesario recogerlas previamente, siempre por autoridad judicial o policial.
Pensemos, por ejemplo, que
uno de los testigos fundamentales
para el esclarecimiento de un delito tiene una edad avanzada y no se sabe a
ciencia cierta si habrá fallecido en el momento del juicio oral. En este caso,
sería pertinente utilizar la videoconferencia para grabar su declaración y
poder aportarla con posterioridad como prueba en el juicio[63].
Aunque
el uso de estos medios electrónicos supone un auténtico vehículo para la
realización de actuaciones orales sin necesidad de desplazamiento, lo que
conllevaría un ahorro en costes, se pueden acabar tornando en una serie de
peligros[64],
si bien veríamos perturbado uno de los principios informadores básicos del
proceso penal, cual es la inmediación. Este principio busca, por encima de todo, eliminar
toda interferencia entre el tribunal y la fuente de prueba. En la práctica de
interrogatorios, la inmediación juega un papel fundamental en el sentido de que
se incluye necesariamente la presencia física y el contacto directo entre el
tribunal y el interrogado, algo imposible de conseguir a través de una
plataforma digital. En este sentido, el artículo 229 LOPJ señala que las
declaraciones, interrogatorios, testimonios, careos, exploraciones, informes,
ratificación de los periciales y vistas podrán realizarse a través de
videoconferencia, asegurándose en todo caso la posibilidad de contradicción de
las partes y la salvaguarda del derecho de defensa. Mientras este precepto
condiciona la utilización de la videoconferencia a que no se resientan los
principios estructurales de contradicción y defensa, el art. 731 bis de la
LECrim “rodea esa opción tecnológica de cautelas que sólo justificarían su
empleo cuando se acreditara la concurrencia de razones de utilidad, seguridad,
orden público o, con carácter general, la constatación de un gravamen o
perjuicio para quien haya de declarar con ese formato”[65]
La casuística jurisprudencial es prolija en afirmar que no existe contradicción
entre la videoconferencia y los principios que informan el desarrollo de los
actos de prueba, tales como la oralidad, la inmediación y la contradicción[66].
La creación de un
espacio judicial europeo ha hecho de la videoconferencia un medio reglado de
extendida aplicación en los distintos instrumentos jurídicos llamados a regular
la cooperación judicial entre Estados. En definitiva, la regulación adoptada
por el artículo 10 del Convenio de asistencia judicial en materia penal entre
los Estados miembros de la Unión Europea, aprobado en Bruselas el 29 de mayo de
2000, ha inspirado en el ámbito europeo otras normas que no han hecho sino
profundizar en las ventajas que ofrece aquella solución técnica para salvar,
con las debidas garantías, la distancia geográfica entre el declarante y el
órgano jurisdiccional que ha de valorar el significado probatorio de ese
testimonio.
En
la actualidad, hay países que están profundizando en la implantación de la
videoconferencia en todo el proceso. De hecho, debido al estado de alarma
producido por el COVID-19, ha provocado la paralización de todo el sistema de
justicia y como medida preventiva en los próximos meses, destinada a reducir
los riesgos del contagio, se ha comenzado a realizar en España los primeros
juicios íntegramente telemáticos, donde el juez, el letrado de la
administración de Justicia, los abogados y hasta el público asisten a distancia
a esta vista, desde sus casas o despachos, por medio de ordenadores. Al respecto, el
Real Decreto-ley 16/2020, de 28 de abril, de medidas procesales y organizativas
para hacer frente al COVID-19 en el ámbito de la Administración de Justicia,
señala en su artículo 19 la preferencia de realizar los juicios mediante
presencia telemática, siempre que los Juzgados, Tribunales y Fiscalías tengan a
su disposición los medios técnicos necesarios para ello. No obstante, como
límite a los denominados “telejuicios”, se especifica que en el orden jurisdiccional penal
será necesaria la presencia física del acusado en los juicios por delito grave.
Quizás nos encontremos
ante una de las nuevas realidades de los juzgados teniendo como objetivo
primordial dar respuesta a los ciudadanos ante la demanda de una tutela
judicial efectiva, ofreciendo un servicio público de Justicia más ágil, amable
y cercano[67].
Si bien, gran parte de los especialistas consideran que no se podrán celebrar
“telejuicios” en todos los asuntos, por lo que cada juez valorará si convienen
estos juicios virtuales en función de la gravedad de la causa, complejidad de
la vista, el número de partes y los testigos. La mayoría de jueces abogan por
la celebración de juicios telemáticos al considerar la videoconferencia como
una técnica fiable susceptible de respetar todas las garantías procesales. No
obstante, desde nuestro punto de vista, consideramos que la medida propuesta a
causa del COVID-19 no debe perpetuarse en el tiempo, pues los principios de
contradicción e inmediación no quedan suficientemente garantizados con la
celebración de un juicio virtual.
3.4.Riesgos del uso de la inteligencia artificial en
el proceso penal
Pese a esta visión
innovadora y vanguardista de las herramientas de la tecnología de la
información y la comunicación, nos encontramos también con una serie de riesgos
y peligros que se tornan más bien en desafíos para el legislador[68].
Una
vez analizadas las técnicas más utilizadas cabe mencionar que la aplicación de
estas novedades también puede conllevar una restricción de los derechos
fundamentales reconocidos constitucionalmente, por lo que el legislador se ha
visto en la obligación de incluir una serie de reformas sustanciales en la Ley
Orgánica 13/2015, de modificación de la Ley de Enjuiciamiento Criminal para el
fortalecimiento de las garantías procesales y la regulación de las medidas de
investigación tecnológica, de 5 de octubre de 2015.
En
apartados anteriores ya mencionábamos la vulneración de determinados derechos
fundamentales por el empleo de la IA, haciendo hincapié en el derecho a la
protección de datos y a la intimidad. En el ámbito del proceso penal, debido a
la naturaleza y finalidad de las diligencias de investigación, podríamos ver
vulnerados derechos tales como el de la intimidad personal y familiar, el
derecho a la propia imagen, el secreto de las telecomunicaciones o incluso el
derecho al honor. Sea mediante el uso o no de IA, estos derechos han de
garantizarse en todo proceso penal, de modo que ha de tenerse en cuenta una
serie de presupuestos de carácter genérico que han de cumplirse
escrupulosamente para que las medidas restrictivas de derechos y libertades
fundamentales adoptadas sean legítimas. El primero de ellos es el relativo a la
previsión normativa, es decir, la intromisión debe estar prevista legalmente en
la propia Constitución: derecho a la libertad (art. 17.2 y 4 CE),
inviolabilidad del domicilio (art. 18.2 CE), secreto de las comunicaciones
(art. 20.5 CE) o en la ley procesal correspondiente[69].
Además, esta medida ha de adoptarse por un órgano jurisdiccional en el seno de
un proceso (jurisdiccionalidad) y, finalmente, se exige la proporcionalidad[70].
En concreto, el artículo 588 bis a) LECrim establece los principios
rectores que han de guiar cualquier intromisión mediante el uso de medidas de
investigación tecnológica, debiendo satisfacerse los principios de idoneidad,
excepcionalidad, necesidad y proporcionalidad, cuya concurrencia debe
encontrarse suficientemente justificada en la resolución judicial habilitadora.
Si las previsiones de este precepto no se respetasen se estará
vulnerando alguno de los derechos fundamentales afectados y provocará la
denuncia de ilicitud de la prueba llevada a cabo; pudiéndose considerar prueba
ilícita ex artículo 11.1. LOPJ. Si se estima la vulneración de algún
derecho fundamental debe subsanarse, dejando sin efecto una determinada
diligencia instructora o incluso decretando la nulidad de actuaciones y la
consiguiente remisión de la causa a la fase inicial de investigación.
Partiendo
de las consideraciones anteriores, el Parlamento Europeo ha destacado la
necesidad de respetar plenamente los derechos fundamentales consagrados en la
Carta de Derechos Fundamentales de la Unión Europea, así como la legislación de
la Unión en materia de privacidad y protección de datos, especialmente la
Directiva (UE) 2016/680 (directiva policial). A su vez, ha destacado la
necesidad de aplicar varios principios básicos en el ciclo de vida de la IA,
como la aplicabilidad y la transparencia algorítmicas, la trazabilidad, la
realización de evaluaciones obligatorias del impacto sobre los derechos
fundamentales antes de la aplicación o el despliegue de cualquier sistema de IA
y la realización de auditorías obligatorias sobre estos sistemas[71].
Por
otro lado, y más allá de la prevención e investigación de la delincuencia
tradicional o en entornos físicos, los avances de las TIC´s han generado nuevas
oportunidades delictivas en el ciberespacio que aprovechan los delincuentes para
cometer numerosos delitos. Aunque la mayoría de las conductas no son, en
esencia, algo nuevo en sí mismas la extraordinaria particularidad del medio con
el que se cometen, o sobre el que actúan, confiere a estas conductas una
especial configuración que obliga a romper los esquemas clásicos para su
investigación y enjuiciamiento[72].
Según Romeo Casabona, se entiende por ciberdelito el conjunto de conductas
relativas al acceso, apropiación, intercambio y puesta a disposición de
información en redes telemáticas, las cuales constituyen su entorno comisivo,
perpetradas sin el consentimiento o autorización exigibles o utilizando
información de contenido ilícito, pudiendo afectar a bienes jurídicos diversos
de naturaleza individual o supranacional[73].
Nos encontraríamos ante una nueva generación de delitos que ha supuesto la
evolución en los medios y equipos de investigación, siendo además necesaria la
especialización de los agentes para dar respuesta a las soluciones que la
sociedad demanda contra la delincuencia informática. En la actualidad todos los
Cuerpos Policiales -nacionales y autonómicos- cuentan con unidades
especializadas, altamente cualificadas en investigación tecnológica, con
conocimientos y experiencia para luchar eficazmente contra el uso de las
tecnologías de la información y las comunicaciones con fines delictivos.
En
materia legislativa, con la reforma operada por la Ley Orgánica 1/2015, de 30
de marzo, por la que se modifica la Ley Orgánica 10/1995, de 23 de noviembre,
del Código Penal se introdujeron ex novo ciertos tipos penales por
primera vez a fin de dar respuesta a aquellos supuestos que quedaban
impunes a fin de resolver y solucionar los problemas que existían de falta de
tipicidad de algunas conductas[74]
y además, como consecuencia de ello, se habían introducido profundas reformas
en las disposiciones relativas a ataques informáticos, acoso sexual a menores,
pornografía infantil, propiedad intelectual, crímenes de odio, fraudes
informáticos y delitos de terrorismo. No obstante, la realidad delictiva
siempre va por delante de la regulación legal y la correspondiente sanción
punitiva de las conductas reprobables más en estos casos dada la rapidez del
desarrollo tecnológico.
PRIMERA. Los sistemas de
inteligencia artificial se pueden definir como la combinación de algoritmos
planteados con el propósito de crear máquinas capaces de percibir su entorno mediante la adquisición e
interpretación de datos, razonar sobre el conocimiento o el procesamiento de la
información derivada de estos datos e identificar y adoptar la mejor medida a
tomar para lograr el objetivo determinado a fin de que presenten las mismas
capacidades que el ser humano.
SEGUNDA. La revolución
tecnológica ha hecho posible la utilización de la IA en más ámbitos de la
sociedad como es su aplicación en el mundo jurídico, no solo en el uso de
procesadores de texto y buscadores de jurisprudencia que ya se venía haciendo,
sino con herramientas de apoyo que complementan la actividad del abogado y en
la creación de técnicas de predicción de judicial. Esta herramienta se encarga de aglutinar y juntar toda la
información y darnos una respuesta jurídica que sirva para apoyar y desarrollar
la resolución de nuestro caso, siendo capaces de generar resoluciones correctas en un 79%
de los casos, según los estudios realizados.
TERCERA. Los algoritmos
como herramienta inteligente de toma de decisión comenzaron a utilizarse en
Estados Unidos en el año 2016 con el programa Compas teniendo como
finalidad predecir el nivel de reincidencia basándose en datos, en principio
objetivos que, no garantizan necesariamente la objetividad de la resolución.
CUARTA. La inclusión en el proceso de cualquier herramienta de
IA y en concreto, en este caso, la de las técnicas de predicción judicial debe
realizarse siempre y en todo caso, respetando los derechos fundamentales de las
partes.
QUINTA. En la actualidad
la Unión Europea ha estado trabajando para la creación del denominado Libro
Blanco sobre Inteligencia Artificial, titulado
"Una aproximación europea a la excelencia y a la confianza", donde el punto de partida y premisa ética de la IA no es otro que la dignidad y los
derechos fundamentales.
SEXTA.
Consideramos -junto con la doctrina- que sería necesaria la creación de una ley
de responsabilidad algorítmica para regular el régimen de responsabilidad en
caso de que sean los sistemas robóticos los que provoquen las lesiones puesto
que aún este tema no ha sido contemplado en ninguna normativa.
SÉPTIMA. Se
aboga por un uso consciente y responsable de las nuevas tecnologías en
despachos de abogados cuyo abuso puede actuar en detrimento de aquellos
justiciables que puedan gozar de justicia jurídica gratuita por no resultar
rentable en los despachos, además de incentivar la competencia desleal entre
los despachos puesto que no todas las firmas cuentan con capital para la gran
inversión que supone la IA.
OCTAVA. Los
conflictos y su resolución judicial contienen factores humanos y sociológicos,
además de un elenco de derechos subjetivos que han de tenerse en cuenta y
necesitan de la interpretación de los agentes humanos que intervienen en el
proceso, no siendo posible, en la mayoría de los casos, su sustitución por
herramientas de IA.
NOVENA. En
el proceso penal, el uso de las nuevas tecnologías ha supuesto un aumento de la
eficiencia del sistema a diferentes niveles, por un lado, por el reforzamiento
de la persecución de la criminalidad y por otro lado, por el desarrollo de
nuevos medios en la investigación del delito y en su posterior enjuiciamiento.
En la investigación judicial ha resultado crucial la reforma de la Ley de
Enjuiciamiento Criminal operada en el año 2015 que reguló la adopción de medidas
de investigación tecnológica que algunas venían llevándose a cabo mediante
criterios jurisprudenciales pese a tratarse de medidas altamente restrictivas
de derechos fundamentales como el secreto a las comunicaciones o la intimidad
personal y familiar.
DÉCIMA.
Constituye prueba electrónica toda información con valor probatorio incluida o
transmitida por un medio electrónico. Actualmente se utilizan
datos electrónicos en el 85 % de
las investigaciones penales, dada la acelerada evolución tecnológica y la utilización
masiva de los instrumentos electrónicos o digitales en todos los sectores de la
vida social. En materia de prueba electrónica, la regla general, es el sistema de libre valoración conforme a las
reglas de criterio racional, de forma ajustada a las reglas de la lógica, los
principios de la experiencia y los conocimientos científicos. La prueba
electrónica es tan susceptible de ser falsificada como cualquier otra prueba
que pueda aportarse al proceso, pero esta nueva realidad exige de expertos con conocimientos
informáticos que puedan examinar su validez.
UNDÉCIMA. El
uso de la videoconferencia o cualquier otro medio que garantice la comunicación
bidireccional y simultánea de imagen y sonido es una realidad imparable cuya
utilización queda subordinada, en principio, a la concurrencia de razones de
utilidad, seguridad u orden público, si bien cabe mencionar el uso preferente
de la videoconferencia para la celebración de juicios íntegramente telemáticos
como medida de seguridad ante el estado de alarma por la crisis sanitaria
provocada por el COVID-19.
DUODÉCIMA.
En relación tanto a la práctica de la prueba electrónica como del uso de la
videoconferencia, al margen de las cuestiones procesales, cabe añadir que sería
conveniente una mayor adecuación de los medios técnicos acorde a la era digital
en la que nos encontramos, que permitan la correcta práctica probatoria y la
comunicación telemática que garanticen los derechos de los ciudadanos y los
principios informadores básicos del proceso penal, como son las inmediación,
contradicción y el derecho de defensa.
DÉCIMOTERCERA.
El desarrollo tecnológico y su incidencia en tantos aspectos
de la sociedad requiere de un marco jurídico que vaya actualizándose
continuamente, generando un derecho nuevo que respete los principios
estructurales de dignidad, libertad e igualdad. Actualmente contamos con las
últimas reformas operadas en el año 2015 tanto de la Ley de Enjuiciamiento
Criminal como del Código Penal con el objeto de adaptar tanto la investigación
como el posterior enjuiciamiento a las nuevas oportunidades delictivas,
regulándose el uso nuevas técnicas de investigación mediante medios
telemáticos, el acceso de pruebas electrónicas al proceso y la tipificación de
nuevos delitos operados a través de ataques informáticos.
REFERENCIAS BIBLIOGRÁFICAS
Armenta Deu, Teresa. Lecciones de Derecho procesal
penal. Madrid:
Marcial Pons, Madrid, 2017.
Barrio Andrés, Moisés. Ciberderecho: Bases estructurales, modelos de
regulación e instituciones de gobernanza de Internet. Valencia: Tirant lo
Blanch, 2018.
Barrio Andrés, Moisés. Del derecho de internet al derecho de los
robots: "Derecho de los robots”. Madrid: La Ley, 2018.
Borges Blázquez, Raquel. “La prueba electrónica en el proceso penal y el
valor probatorio de conversaciones mantenidas utilizando programas de
mensajería instantánea”. Revista Boliviana de Derecho 25 (2018):
536-549.
Borrás Andrés, Nuria. “La verdad y la ficción de la inteligencia
artificial en el proceso penal”. En La Justicia digital en España y la Unión
Europea, dirigido por Jesús
Conde Fuentes y Gregorio Serrano Hoyo. 31-39. Barcelona: Atelier, 2019.
Bryson, Joanna J. “La última década y el futuro del impacto de la IA en
la sociedad”, en ¿Hacia una
nueva Ilustración? Una década trascendente. Acceso el 30 de mayo de
2020, https://www.bbvaopenmind.com/articulos/la-ultima-decada-y-el-futuro-del-impacto-de-la-ia-en-la-sociedad/
Cevikcan, E., Industry 4.0:
Managing the digital transformation. Berlín: Springer, 2017.
Corvalán, Juan Gustavo. “Inteligencia artificial:
retos, desafíos y oportunidades. Prometea: la primera inteligencia artificial
de Latinoamérica al servicio de la Justicia”, Revista de Investigações Constitucionais 5, nº1, (2018): 295-316.
Cotino Hueso,
Lorenzo. “Ética en el diseño para el desarrollo de una inteligencia artificial,
robótica y big data confiables y su utilidad desde el derecho”. Revista
Catalana de Dret Públic, 58, (2019): 29-48.
Del Campo, Adelaida. “Luces y sombras de la inteligencia artificial
aplicada a la justicia”, acceso de consulta de 28 de mayo de 2020, https://confilegal.com/20200106-luces-y-sombras-de-la-inteligencia-artificial-aplicada-a-la-justicia-2/
Delgado Martín, Joaquín. “La prueba del Whatsapp”. Diario La Ley,
8605, Sección Tribuna (2015).
Gascón Inchausti, Fernando. “Desafíos para el proceso penal en la era
digital: externalización, sumisión pericial e inteligencia artificial”. En La
Justicia digital en España y la Unión Europea, dirigido por Jesús Conde Fuentes y Gregorio Serrano Hoyo.
191-206. Barcelona: Atelier, 2019.
Hernández Giménez, María. “Inteligencia artificial y derecho penal”. Actualidad
Jurídica Iberoamericana 10 bis (2019): 792-843.
Informe del Consejo General de la Abogacía Europea sobre los efectos de
la aplicación de la Inteligencia Artificial en el ámbito jurídico de 7 de mayo
de 2020, acceso de consulta de 28 de mayo de 2020, https://diariolaley.laleynext.es/dll/2020/05/07/el-consejo-de-la-abogacia-europea-analiza-los-efectos-de-la-aplicacion-de-la-inteligencia-artificial-en-el-ambito-juridico
Jiménez Segado, Carmelo y Puchol Aiguabella, Marta. “Las medidas de
investigación tecnológica limitativas de los derechos a la intimidad, la
imagen, el secreto de las comunicaciones y la protección de datos”. Diario
La Ley, 8676, (2016).
Libro Blanco de la Comisión Europea sobre Inteligencia Artificial
titulado "Una aproximación europea a la excelencia y a la confianza"
de 27 de febrero de 2020. Disponible en internet: https://diariolaley.laleynext.es/Content/Documento.aspx?params (fecha de consulta: 30 de mayo de
2020).
McCarthy, John. “A Proposal for
the Dearmouth Summer Research Project on Artificial Intelligence, August 31,
1955”. Al Magazine 27 (2006).
Nieva Fenoll, Jordi. Inteligencia artificial y proceso judicial.
Madrid: Marcial Pons, 2018.
Nieva Fenoll, Jordi. “La desburocratización de los procesos judiciales
(reflexiones a propósito del Código Procesal Modelo para Iberoamérica)”. Revista
Iberoamericana de Derecho Procesal, 14 (2012).
Rayón Ballesteros María Concepción y Gómez Hernández, José Antonio.
“Cibercrimen: particularidades en su investigación y enjuiciamiento”. Anuario
Jurídico y Económico Escurialense XLVII (2014): 209-234.
Rayón Ballesteros, María Concepción. “Medidas de investigación
tecnológica en el proceso penal: la nueva redacción de la Ley de Enjuiciamiento
Criminal operada por la LO 13/2015”. Anuario Jurídico y Económico
Escurialense, LII (2019): 179-204.
Romeo Casabona, Carlos. “De los delitos informáticos al cibercrimen. Una
aproximación conceptual y político-criminal”. El cibercrimen nuevos retos
jurídico-penales, nuevas respuestas político-criminales (2006): 1-43.
San Miguel, Cristina. “Las técnicas de predicción judicial y su
repercusión en el proceso”. En La Justicia digital en España y la Unión
Europea, dirigido por Jesús Conde Fuentes y Gregorio Serrano Hoyo. 41-50.
Barcelona: Atelier, 2019.
Santoni de Sio,
Filippo y Van den Hoven, Jeoren. “Meaningful human control over autonomous systems: a
philosophical account”. Frontiers in Robotics and AI 5, (2018).
López Escobedo, Fernanda, meza, Iván y Trejo,
Sofía. “Hacia los Comités de Ética en Inteligencia Artificial”, acceso el 30 de
mayo de 2020, https://arxiv.org/abs/
Vegas Torres, Jaime. “Las medidas de investigación tecnológica”. En Nuevas
tecnologías y derechos fundamentales en el proceso. 21-47. Cizur Menor (Navarra): Aranzadi, 2017.
AA.VV., “Los desafíos de la admisión de medios probatorios electrónicos
en los procesos judiciales”, acceso el 14 de junio de 2020, http://noticias.juridicas.com/actualidad/noticias/10537/
AA. VV., “Inteligencia artificial y Derecho”, acceso el 28 de mayo de
2020, https://letslaw.es/inteligencia-artificial-y-derecho/
https://wildentrepreneur.org/compas-el-algoritmo-que-predice-la-reincidencia-en-un-delito/, acceso el 28 de mayo de 2020.
Muñoz, Joaquín. para el Diario Expansión de fecha 2 de noviembre de
2016, acceso el 8 de junio de 2020. https://www.expansion.com/juridico/actualidadtendencias/2016/11/
02/581a3eefe5fdeaea228b4653.html
Sainz De Rozas, Rafael para el diario Público, acceso el 23 de junio de
2020, https://www.publico.es/politica/9
Touriño, A. para el Diario Expansión de fecha 2 de noviembre de 2016,
acceso el 8 de junio de 2020, https://www.expansion.com/juridico/actualidadtendencias/l
STS 2093/1994, 20 de febrero de 1994 (JUR 2000/89633).
STC (Pleno) 49/1999, de 5 de abril (RTC 1999/49).
STC 184/2003, 23 de octubre del 2003 (RTC 2003/184).
STS 957/2006, de 05 de octubre (ECLI: ES:TS:2018:1898).
STS 641/2009, de 16 de junio (ECLI: ES:TS:2009:8466).
STS (Sala de lo Penal) 161/2015, de 17 de marzo (ECLI: ES:TS:2015:161).
STS (Sala de Penal) 2047/2015, de 19 mayo 2015 (ROJ 2047/2015).
STS (Sala de lo Penal) 277/2018, de 8 de junio (ECLI: ES:TS:2018:2056).
Ana Belén Muñoz Rodríguez
Área de Derecho Procesal
Departamento de Derecho
Público
Facultad de Derecho
Universidad de Extremadura
https://orcid.org/0000-0002-1985-9742
[1] John McCarthy,
“A Proposal for the Dearmouth Summer Research Project on Artificial
Intelligence, August 31, 1955”, Al
Magazine 27 (2006): 12.
[2] Jordi Nieva Fenoll,
Inteligencia artificial y proceso
judicial, (Madrid: Marcial Pons, 2018), 20.
[3] Libro Blanco de la
Comisión Europea sobre Inteligencia Artificial titulado "Una aproximación
europea a la excelencia y a la confianza" de 27 de febrero de 2020. Acceso
el 17 de mayo de 2020, https://diariolaley.laleynext.es/Content/Documento.aspx?params.
[4] Nieva, Inteligencia
artificial y proceso judicial…, 2.
[5] Núria
Borrás Andrés, “La verdad y la ficción de la inteligencia artificial en el
proceso penal”, en La Justicia digital en
España y la Unión Europea, dir. por Jesús Conde Fuentes y Gregorio Serrano
Hoyo (Barcelona: Atelier, 2019), 33.
[6] Sobre la cuarta
revolución industrial, vid. E. CEVIKCAN, Industry 4.0: Managing the digital
transformation, (Berlín: Springer, 2017).
[7] En este sentido,
vid. Informe del Consejo General de la Abogacía Europea sobre los efectos de la
aplicación de la Inteligencia Artificial en el ámbito jurídico de 7 de mayo de
2020. Accesp el 28 de mayo de 2020, https://diariolaley.laleynext.es/dll/2020/05/07/el-consejo-de-la-abogacia-europea-analiza-los-efectos-de-la-aplicacion-de-la-inteligencia-artificial-en-el-ambito-juridico.
[8] Cristina San Miguel
Caso, “Las técnicas de predicción judicial y su repercusión en el proceso” en La Justicia digital en España y la Unión
Europea, dirigido por Jesús Conde Fuentes y Gregorio Serrano Hoyos
(Barcelona: Atelier, 2019), 41.
[9] AA. VV.,
“Inteligencia artificial y Derecho”. Acceso el 28 de mayo de 2020, https://letslaw.es/inteligencia-artificial-y-derecho/.
[10] Sobre Derecho
de las de las Nuevas Tecnologías y del Entretenimiento, vid. Moisés Barrio
Andrés, Ciberderecho: Bases
estructurales, modelos de regulación e instituciones de gobernanza de Internet.
(Valencia: Tirant lo Blanch, 2018).
[11] Puede verse
en internet, acceso el 28 de mayo de 2020, https://www.rossintelligence.com/.
[12] Nieva,
Inteligencia artificial y proceso…24.
[13] Al respecto, Joaquín
Muñoz, para el Diario Expansión de fecha 2 de noviembre de 2016. Acceso el 8 de
junio de 2020, https://www.expansion.com/juridico/actualidadtendencias/2016/11/02/581a3ee
fe5fdeaea228b4653.html.
[14] Puede verse
en internet, acceso el 28 de mayo de 2020, https://wildentrepreneur.org/compas-el-algoritmo-que-predice-la-reincidencia-en-un-delito/.
[15] Consorcio de
la industria de la tecnología centrados en establecer las mejores prácticas
para los sistemas de la IA, reuniendo a más
de 80 entidades públicas y privadas entre las que se encuentran las grandes
compañías tecnológicas. Acceso el 28 de mayo de 2020, https://www.partnershiponai.org/.
[16] Adelaida Del
Campo “Luces y sombras de la inteligencia artificial aplicada a la justicia”.
Acceso el 28 de mayo de 2020, https://confilegal.com/20200106-luces-y-sombras-de-la-inteligencia-artificial-aplicada-a-la-justicia-2/.
[17] Juan Gustavo Corvalán, “Inteligencia artificial:
retos, desafíos y oportunidades. Prometea: la primera inteligencia artificial
de Latinoamérica al servicio de la Justicia”,
Revista de Investigacoes Constitucionais 5, nº 1, (2018): 303 y 304.
[18] Sobre la
burocracia judicial, vid, Jordi Nieva Fenoll, “La desburocratización de los
procesos judiciales (reflexiones a propósito del Código Procesal Modelo para
Iberoamérica)”, Revista Iberoamericana de
Derecho Procesal, 14 (2012): 31 y ss.
[19] Libro Blanco de la Comisión Europea sobre
Inteligencia Artificial titulado "Una aproximación europea a la excelencia
y a la confianza" de 27 de febrero de 2020. Acceso el 30 de mayo de 2020, https://diariolaley.laleynext.es/Content/Documento.aspx?params.
[20] San Miguel,
“Las técnicas de predicción judicial y su repercusión..., 43.
[21] Fernanda
López-Escobedo, Iván Meza y Sofía Trejo, “Hacia los Comités de Ética en
Inteligencia Artificial”. Acceso el 30 de mayo de 2020, https://arxiv.org/abs/2002.05673.
[22] Lorenzo Cotino Hueso, “Ética en el diseño para el desarrollo
de una inteligencia artificial, robótica y big data confiables y su utilidad
desde el derecho”, Revista Catalana de
Dret Públic, 58, (2019): 29-48.
[23] En este
sentido vid, Libro Blanco de la Comisión Europea sobre Inteligencia Artificial
titulado "Una aproximación europea a la excelencia y a la confianza"
de 27 de febrero de 2020. Acceso el 30 de mayo de 2020, https://diariolaley.laleynext.es/Content/Documento.aspx?params.
[24] Moisés Barrio
Andrés, Del derecho de internet al derecho de los robots: "Derecho de los
robots” (Madrid: La Ley, 2018), 13.
[25] María
Hernández Giménez, “Inteligencia artificial y derecho penal”, Actualidad Jurídica Iberoamericana, (2019):
801.
[26] Filippo Santoni de Sio y
Jeroen Van Den Hoven, “Meaningful human control over autonomous systems: a
philosophical account”, Frontiers
in Robotics and AI, 5, (2018): 15.
[27] Joanna J.
Bryson, “La última década y el futuro del impacto de la IA en la sociedad” en ¿Hacia una nueva Ilustración? Una
década trascendente. Acceso el 30 de mayo de 2020, https://www.bbvaopenmind.com/articulos/la-ultima-decada-y-el-futuro-del-impacto-de-la-ia-en-la-sociedad/.
[28] San Miguel,
“Las técnicas de predicción judicial y su repercusión…, 48.
[29] Cotino, “Ética en el diseño para el desarrollo de una
inteligencia artificial, robótica y big data confiables y su utilidad…,36.
[30] Nieva,
Inteligencia artificial y proceso…, 127 y ss.
[31] En este
sentido, vid. Informe del Consejo General de la Abogacía Europea sobre los
efectos de la aplicación de la Inteligencia Artificial en el ámbito jurídico de
7 de mayo de 2020. Acceso el 28 de mayo de 2020, https://diariolaley.laleynext.es/dll/2020/05/07/el-consejo-de-la-abogacia-europea-analiza-los
-efectos-de-la-aplicacion-de-la-inteligencia-artificial-en-el-ambito-juridico.
[32] Sobre el
principio de transparencia algorítmica vid. Corvalán, “Inteligencia artificial: retos, desafíos…”, 311.
[33] Borrás, “La
verdad y la ficción de la inteligencia artificial…, 36.
[34] Nieva,
Inteligencia artificial y proceso…, 99.
[35] Al respecto,
Touriño, A. para el Diario Expansión de fecha 2 de noviembre de 2016. Acceso el
8 de junio de 2020, https://www.expansion.com/juridico/actualidadtendencias/2016/11/02/581a3eefe5 fdeaea228b4653.html.
[36] Nieva,
Inteligencia Artificial y proceso…, 134 y ss.
[37] San Miguel,
“Las técnicas de predicción judicial…, 44.
[38] Borrás, “La
verdad y la ficción de la inteligencia artificial…, 34.
[39] Fernando
Gascón Inchausti, “Desafíos para el proceso penal en la era digital:
externalización, sumisión pericial e inteligencia artificial”, en La Justicia digital en España y la Unión
Europea, dir. por Jesús Conde Fuentes y Gregorio Serrano Hoyo (Barcelona:
Atelier, 2019), 191.
[40] Víctor Moreno
Catena, “Garantías de los derechos fundamentales en la investigación penal”, Revista del Poder Judicial, 2 (1988):
131 y 172.
[41] María
Concepción Rayón Ballesteros, “Medidas de investigación tecnológica en el
proceso penal: la nueva redacción de la Ley de Enjuiciamiento Criminal operada
por la Ley Orgánica 13/2015”, Anuario
Jurídico y Económico Escurialense, LII (2019): 181.
[42] Carmelo
Jiménez Segado y Marta Puchol Aiguabella, “Las medidas de investigación
tecnológica limitativas de los derechos a la intimidad, la imagen, el secreto
de las comunicaciones y la protección de datos”, Diario La Ley, 8676 (2016): 1.
[43] Rayón,
“Medidas de investigación tecnológica en el proceso penal…”, 189.
[44] STS 511/1999,
de 24 de marzo.
[45] Jaime Vegas
Torres, “Las medidas de investigación tecnológica”. En Nuevas tecnologías y derechos fundamentales en el proceso, (Cizur
Menor: Aranzadi, 2017), 45.
[46] Gascón,
“Desafíos para el proceso penal en la era digital…, 195.
[47] STS 2093/1994,
20 de febrero de 1994.
[48] STC 184/2003,
23 de octubre del 2003.
[49] Propuesta del
Parlamento Europeo sobre el uso de la Inteligencia artificial en los ámbitos
policial y judicial de 9 de junio de 2020. Acceso el 12 de junio de 2020, https://diariolaley.laleynext.es/
dll/2020/06/09/el-parlamento-europeo-elabora-una-propuesta-sobre-el-uso-de-la-inteligencia-artificial-en-los-ambitos-policial-y-judicial.
[50] Hernández,
“Inteligencia artificial y derecho…”, 813.
[51] Raquel Borges
Blázquez, “La prueba electrónica en el proceso penal y el valor probatorio de
conversaciones mantenidas utilizando programas de mensajería instantánea”, Revista Boliviana de Derecho, 25 (2018):
541.
[52] Disponible en
internet. Acceso el 14 de junio de 2020, https://www.consilium.europa.eu/es/policies/e-evidence/.
[53] AA.VV., “Los
desafíos de la admisión de medios probatorios electrónicos en los procesos
judiciales”. Disponible en internet. Acceso el 14 de junio de 2020, http://noticias.juridicas.com/actualidad/noticias/10537-los-desafios-de-la-admision-de-medios-probatorios-electronicos-en-los-procesos-judiciales/.
[54] STS (Sala de
lo Penal) 277/2018, de 8 de junio.
[55] Joaquín
Delgado Martín, “La prueba del Whatsapp”, Diario
La Ley, 8605 (2015): 2.
[56] Delgado, “La
prueba…”, 3.
[57] STS (Sala de
Penal) 2047/2015, de 19 mayo 2015.
[58] Gascón,
“Desafíos para el proceso penal en la era digital…, 192.
[59] Al respecto,
vid. STS (Sala de lo Penal) 300/1015, de 19 mayo 2015 (ROJ: STS 2047/2015), que
trata de los abusos sexuales realizados por la pareja de la madre a una niña
menor de edad, cuya única prueba es un diálogo mantenido con un amigo a través
de Tuenti. La sala comienza puntualizando “que la prueba de una comunicación
bidireccional mediante cualquiera de los múltiples sistemas de mensajería
instantánea debe ser abordada con todas las cautelas. La posibilidad de una
manipulación de los archivos digitales mediante los que se materializa ese
intercambio de ideas forma parte de la realidad de las cosas pues, continúa
diciendo, el anonimato que autorizan tales sistemas y la libre creación de
cuentas con una identidad fingida, hacen perfectamente posible aparentar una
comunicación en la que un único usuario se relaciona consigo mismo”, apuntando
así a la mayor vulnerabilidad de la prueba electrónica.
[60] Borges, “La
prueba electrónica en el proceso penal y el valor probatorio de conversaciones
mantenidas utilizando programas de mensajería instantánea”, op. cit., p. 544.
[61] Propuesta de
Reglamento del Parlamento Europeo y del Consejo sobre las órdenes europeas de
entrega y conservación de pruebas electrónicas a efectos de enjuiciamiento
penal, Estrasburgo, 17.4.2018 COM (2018) 225 final 2018/0108 (COD). Disponible
en internet. Acceso el 16 de junio de 2020, https://eur-lex.europa.eu/resource.html.
[62] Propuesta de
Directiva del Parlamento Europeo y del Consejo por la que se establecen normas
armonizadas para la designación de representantes legales a efectos de recabar
pruebas para procesos penales, Estrasburgo, 17.4.2018 COM(2018) 226 final
2018/0107 (COD). Disponible en internet. Acceso el 19 de junio de 2020, https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52018PC0226&from=ES.
[63] Hernández,
“Inteligencia artificial…, 811.
[64] Gascón,
“Desafíos para el proceso penal…, 192.
[65] STS (Sala de
lo Penal) 161/2015, de 17 de marzo.
[66] Entre otras,
vid. STS 641/2009, de 16 de junio (ECLI: ES:TS:2009:8466) y STS 957/2006, de 05
de octubre (ECLI: ES:TS:2018:1898).
[67] Rafael
Sainz de Rozas, para el diario Público. Disponible en internet. Acceso el 23 de
junio de 2020, https://www.publico.es/politica/llegan-juicios-telematicos-covid-19-cambiar-chip.html.
[68] Numerosas
reformas legislativas en 2015: las Leyes Orgánicas 1/2015 y 2/2015 supusieron
una importante reforma del Código Penal español, inspirada en la normativa
europea (Directiva UE 2013/40 y Directiva UE 2011/93, DM 2008/919/JAI, etc.) y
también en el Convenio del Consejo de Europa sobre la Ciberdelincuencia y el
Convenio del Consejo de Europa para la Protección de los Niños contra la
Explotación y el Abuso Sexual. También en el año 2015, por Ley Orgánica
13/2015, se había abordado una profunda reforma de la Ley de Enjuiciamiento
Criminal, inspirada en el Convenio sobre la Ciberdelincuencia del Consejo de
Europa. Por esa reforma se habían regulado importantes medidas tecnológicas
relacionadas con el registro, el almacenamiento y la conservación de datos.
Para facilitar la interpretación de esas novedades legislativas, la Fiscalía
General del Estado había publicado diversas circulares sobre la materia.
[69] STC (Pleno)
49/1999, de 5 de abril.
[70] Teresa Armenta
Deu, Lecciones de Derecho procesal penal.
(Madrid: Marcial Pons, 2017), 184.
[71] Propuesta del
Parlamento Europeo sobre el uso de la Inteligencia artificial en los ámbitos
policial y judicial de 9 de junio de 2020. Disponible en internet. Acceso el 24
de junio de 2020, https://diariolaley.laleynext.es/dll/2020/06/09/el-parlamento-europeo-elabora-una-propuesta-sobre-el-uso-de-la-inteligencia-artificial-en-los-ambitos-policial-y-judicial.
[72] María
Concepción Rayón Ballesteros y José Antonio Gómez Hernández, “Cibercrimen:
particularidades en su investigación y enjuiciamiento”, Anuario Jurídico y Económico Escurialense XLVII (2014): 211.
[73] Carlos Romeo
Casabona, “De los delitos informáticos al cibercrimen. Una aproximación
conceptual y político-criminal”, en El
cibercrimen nuevos retos jurídico-penales, nuevas respuestas
político-criminales, Coord. por Carlos Romeo Casabona (Granada: Comares,
2006), 11.
[74] Algunos de
estos cambios fue la tipificación del denominado “sexting” en el artículo 197.
7 C.P. tras el Caso de Olvido Hormigos que quedó impune por no considerarse una
vulneración del derecho a la intimidad.