La inteligencia artificial se desarrolla a partir de algoritmos, que son capacidades matemáticas de aprendizaje, y de los datos que hacen falta para entrenar los algoritmos.
Los datos normalmente son datos observables, datos disponibles públicamente o datos generados en algunas empresas. Y los algoritmos iteran sobre esos datos para aprender a partir de ellos. Normalmente la inteligencia artificial se refiere a máquinas que aprenden de manera autónoma o semiautónoma a partir de grandes bases de datos.
“Los criterios de eficiencia y ahorro de costes derivados del uso de la IA no pueden anteponerse al respeto y la protección debidos a los derechos de las personas”. Son palabras del Consejo de la Abogacía Europea (CCBE, por su abreviatura en inglés) quien a comienzos de 2020 se mostraba preocupado por los posibles aspectos legales que tiene la implantación de herramientas que se sirven de inteligencia artificial en la Justicia.
Bajo el documento ‘Considerations on the legal aspects of the AI’, señalaba los riesgos que puede acarrear su uso en diferentes puntos de un proceso judicial referentes a la calidad del sistema, la protección de los derechos fundamentales de los intervinientes y el estado de derecho; y la conclusión era clara: la eficiencia no puede anteponerse a la legalidad.
¿Una normativa de la IA para asegurar el derecho?
Según el CCBE, para poder gestionar de manera eficaz el dueto formado por la IA y la Justicia es necesario establecer unos principios y una normativa que regle su implantación en ámbitos concretos del proceso judicial y no reducirlo todo a ahorrar tiempo y recursos:
“Los derechos fundamentales de las personas no pueden subordinarse a criterios como la mera mejora de la eficiencia o el ahorro de costes, ya sea para usuarios de los tribunales o para las propias autoridades judiciales”.
Por ello, ante todo hay que saber cuáles son los principales derechos que pueden verse vulnerados y prácticamente lo son todos. Aquí desgranamos algunos:
– Derecho a un juicio justo: por la falta de transparencia sobre cómo opera la IA.
– Derecho a la libertad de expresión: aumento de vigilancia y control de las personas.
– Derecho a la libertad de reunión y asociación: cuando se usa la IA para identificar a manifestantes en una protesta o miembros de una asamblea.
– Derecho a la privacidad y a la protección de datos: por el propio funcionamiento de la IA basado en la recogida y tratamiento de datos.
Llegados a este punto, podemos entender por qué puede llegar a ser muy controvertido que la inteligencia artificial pueda vincularse de manera más estrecha con un sistema como el judicial y que plantee dudas sobre su uso, estamos ante una edad muy temprana de esta tecnología lo que puede provocar cierta desconfianza:
“Hacer predicciones basándonos en sistemas de tratamiento masivo de datos, personales o no, con técnicas de Big Data o de aprendizaje automático puede dar error en un porcentaje elevado”.
¿Está capacitado un algoritmo para impartir Justicia?
Quizá es esta la gran pregunta: la tesitura de que un ordenador decida si vas a prisión por haber cometido un delito o si eres apto para recibir una ayuda económica. Está claro que es imposible sustituir al juez por una máquina:
“Por mucha inteligencia que se le presuponga, nuestras leyes no lo permiten. Solo jueces y magistrados son titulares y pueden ejercer la función jurisdiccional de acuerdo con el artículo 117 de la Constitución Española. Así que no sería legal, es totalmente inviable, pero no solo ir a la cárcel, sino también que decida qué progenitor se queda con la custodia de los hijos, qué indemnización le corresponde al trabajador que ha sido despedido de forma improcedente y determinar si le corresponde o no una indemnización y en qué cuantía a aquel que haya sufrido un accidente de tráfico”.
En este sentido, la abogada especializada en propiedad intelectual Natalia Tamames plantea responder a ciertas preguntas que nos hagan valorar la adecuación del uso de una herramienta que se sirva de la IA. Se basan en los 5 principios básicos que emanan de la primera ‘Carta Europea sobre el Uso Ético de la Inteligencia Artificial en los Sistemas Judiciales y su Entorno’ :
1. ¿Respeta este sistema de IA los derechos fundamentales y se garantiza el derecho a un juicio justo?
2. ¿Se discrimina a los individuos que están siendo juzgados?
3. ¿Se respetan los principios de equidad, transparencia e imparcialidad a lo largo de todo el proceso?
4. ¿Se actúa bajo los principios de seguridad y calidad en relación con el procesamiento de datos judiciales y decisiones?
5. ¿Se respeta el principio ‘bajo control del usuario’, garantizando que los profesionales del sistema de justicia son capaces de revisar, en cualquier momento, las decisiones judiciales y los datos empleados para dar un resultado?
En caso de que las respuestas fueran negativas, al menos solo una de ellas, la inteligencia artificial usada no se ajustaría a derecho.
¿Y si se trata de un juicio penal?
Ya valoramos la eficacia del uso de las nuevas tecnologías dentro del sistema judicial y cómo aún cuesta darles un uso reglado dentro de la Justicia. De hecho, planteamos la posibilidad de llevar a cabo un juicio penal a través de videoconferencia y, en este caso, llegamos a la conclusión de que no era posible, ya que se deberían asegurar las garantías procesales para el acusado, cosa que la tecnología no ayudaba del todo a solventar en casos graves como estos.
Con la inteligencia artificial, parece ocurrir más de lo mismo, porque supondría confiar en una máquina una decisión que podría llevar a conflicto. Tamames considera que para dilucidar si es viable juzgar a alguien penalmente usando IA, lo primordial sería comprender sobre qué criterios actúa el algoritmo en el que se basa el sistema para llegar a una conclusión o a otra:
“Es decir, cuáles han sido las fuentes de las que ha aprendido y valorar si son solventes y fiables. En este sentido, Lorena Jaume-Palasí, una de las mayores expertas en Inteligencia Artificial en España y miembro del grupo de sabios sobre IA y Big Data creado por la Secretaría de Estado de Agenda Digital sostiene que, en el fondo, el Derecho es un algoritmo que se aplica desde mucho antes de que existiera la informática. Un juez cuando juzga y condena en un juicio penal, también lo hace sesgado por sus propias convicciones, opiniones y aproximaciones a las diferentes teorías jurídicas”.
No obstante, son numerosas las voces que se han posicionado en contra:
“En concreto, la organización sin ánimo de lucro ‘Partnership on AI’, que reúne a los gigantes tecnológicos como Amazon, Apple, IBM, Facebook, Microsoft, Nvidia y Google, está en contra del uso judicial de la IA debido a que se trata de un método potencialmente opaco, sesgado y lastrado”.
En este sentido, Simón se posiciona también a ese lado de la balanza, porque considera que el ser humano que haya detrás de la creación del algoritmo puede tener sesgos ideológicos que influyan de manera interesada en la herramienta de IA:
“Por ejemplo, que se dé una puntuación singular en función de su origen, sexo, orientación ideológica…”.
Herramientas en uso basadas en IA
Pere Simón nos habla de dos tecnologías donde la inteligencia artificial ayuda a mejorar los procesos judiciales:
1. JURIMETRÍA: Se trata de un sistema muy útil para operadores jurídicos como abogados, fiscales… Tiene una gran capacidad de análisis de muchas bases de datos que te hacen saber qué probabilidad tienes de ganar un litigio:
“Toma en cuenta valores como el juzgado, el juez, la opinión de este en asuntos similares anteriores, así como condicionantes externas muy diversas desde la temperatura, pasando por el estado de la opinión pública sobre un tema”.
2. SOLUCIONES DE PII DISCOVERY: Te permite localizar aquello que está perdido en un mar de información irrelevante:
“Importante para ayudar a valorar las pruebas documentales y también las pruebas físicas. Todo ello, para la recogida y análisis de datos muy diversos en el marco de procesos judiciales”.
Recomendaciones a los tribunales
Con este fin, el Consejo de la Abogacía Europea aconseja examinar las siguientes cuestiones para una mejor introducción de la IA en el mundo de la Justicia:
– Que las partes involucradas en el proceso identifiquen el uso de la IA.
– Que no se delegue a una IA la decisión final del juez.
– Que se puedan verificar los datos de entrada y los criterios de razonamiento de la herramienta de IA.
– Que se pueda cuestionar o impugnar los resultados de la IA.
– Que se cumplan los principios del Reglamento General de Protección de Datos (RGPD).
– Que exista neutralidad y objetividad en los instrumentos de IA que se usen en el proceso, garantizando así la transparencia del proceso.
¿Qué riesgos plantea la inteligencia artificial?
El uso de la Inteligencia Artificial (IA) en los sistemas judiciales está siendo explorado por los poderes judiciales, los servicios de fiscalía y otros órganos judiciales de dominios específicos en todo el mundo. Por ejemplo, en el campo de la justicia penal, el uso de sistemas de la IA para brindar asistencia en los procesos de investigación y automatizar los procesos de toma de decisiones ya está implementado en muchos sistemas judiciales a nivel global. Teniendo en cuenta los rápidos avances en este campo, los desafíos y las oportunidades relacionados con el aprovechamiento de la IA en los sistemas judiciales y sus implicaciones para los derechos humanos y el Estado de Derecho deben formar parte de las discusiones entre las partes interesadas del ecosistema judicial.
¿Qué es la inteligencia artificial?
El padre de la inteligencia artificial es ampliamente considerado Alan Turing, quizás el más famoso por su computadora para descifrar códigos que ayudó a los Aliados durante la Segunda Guerra Mundial. Turing también propuso lo que más tarde se conoció como la prueba de Turing, una prueba que una computadora podría pasar solo si sus respuestas a las preguntas no se distinguen de las respuestas humanas.
Desde la década de 1950, las mentes científicas se han preguntado qué constituye el "pensamiento" y la "inteligencia" cuando se trata de máquinas y los algoritmos que utilizan para interpretar datos y responder preguntas. La IA puede ser complicada de definir, pero por lo general, una máquina es se cree que tiene inteligencia artificial si responde a las consultas en la forma en que los humanos generalmente responderían y si es capaz de tomar decisiones que requieran un nivel humano de inteligencia.
Componentes clave de la IA
Intencionalidad: En términos de IA, la intencionalidad significa que el sistema toma decisiones, en lugar de simplemente estar programado con respuestas predeterminadas. La intencionalidad requiere que la IA comprenda el significado de una consulta y analice los datos con la intención de determinar la respuesta. Para hacerlo, los sistemas de IA deben combinar datos de diferentes fuentes, analizarlos de inmediato y actuar sobre las conclusiones que extraen.
Inteligencia: La inteligencia de la IA a menudo proviene de su interacción con el aprendizaje automático y los programas de análisis de datos. La combinación de estas tecnologías permite lo que consideramos una toma de decisiones inteligente. Por ejemplo, un sistema de inteligencian artificial que asigna estudiantes a diferentes sistemas escolares no puede depender de cálculos de memoria; también debe sopesar valores como la equidad y la justicia para crear resultados beneficiosos para todos.
Adaptabilidad: La adaptabilidad significa que los sistemas de inteligencia artificial se ajustan a medida que reciben nuevos datos, toman decisiones e interpretan los resultados. Si las condiciones financieras o ambientales cambian, o, en el caso de los automóviles autónomos, si las condiciones de la carretera se deterioran, la IA puede tener en cuenta los nuevos datos y ajustar su toma de decisiones en consecuencia.
Además, la IA incorpora aprendizaje automático y redes neuronales profundas.
El aprendizaje automático utiliza grandes cantidades de datos y sofisticados algoritmos informáticos para realizar predicciones. Enormes cantidades de datos son cruciales porque los algoritmos de aprendizaje automático necesitan evaluar tantos resultados pasados como sea posible para producir predicciones correctas. A medida que la IA se desarrolla y se vuelve más capaz, es probable que pueda predecir con mayor y mejor precisión.
El aprendizaje automático puede ser supervisado o no supervisado. En el aprendizaje automático supervisado, los datos vienen con información útil, como etiquetas o hechos interpretados; digamos que el agua se congela en 0 grados Celsius: para ayudar a que el aprendizaje automático progrese más rápidamente. El aprendizaje automático no supervisado proporciona solo datos sin etiquetas o hechos asociados, por lo que el algoritmo debe aprender a interpretar patrones y realizar interpretaciones correctas por sí solo. El aprendizaje automático no supervisado incluye lo que se conoce como aprendizaje por refuerzo, en el que los algoritmos eligen y producen sus propios datos a medida que aprenden.
La IA también funciona mediante el uso de lo que se conoce como redes neuronales profundas o DNN. Las redes neuronales profundas combinan varias tareas de aprendizaje en un solo paquete para crear aprendizaje automático de uso general o GPML. El beneficio de GPML es que puede entender fácilmente una variedad de entradas, como video, audio e información textual.
Ejemplos famosos de IA en la historia
Los sistemas de inteligencia artificial han sido noticia en las últimas dos décadas. La computadora Deep Blue de IBM podría vencer a los grandes maestros en el ajedrez 20 hace años, y más recientemente, su Watson ha campeones de Jeopardy vencidos en Jeopardy .
Los experimentos de IA de IBM han existido durante décadas, pero gradualmente se han vuelto más sofisticados con la creación de algoritmos más poderosos. Ganar en Jeopardy, por ejemplo, es un desafío mayor que ganar en ajedrez porque Jeopardy es un juego basado en el lenguaje. Por lo tanto, la máquina tiene que analizar los infinitos matices del lenguaje, los modismos, las referencias culturales y otros aspectos de la comunicación humana en lugar de simplemente elaborar estrategias sobre los movimientos en un tablero.
Una de las razones por las que los programas de IA son tan expertos en el ajedrez es que abordan el problema de manera diferente a como lo hacen los humanos. Cuando jugamos al ajedrez, normalmente empleamos una mezcla de reconocimiento de patrones e intuición como parte de nuestra estrategia. Una computadora también realiza el reconocimiento de patrones, pero en segundos, también puede buscar a través de una base de datos masiva de posibles posiciones y resultados para descubrir su mejor movimiento. Cuando Watson aprende a jugar Jeopardy, hace lo mismo: utiliza enfoques estadísticos y orientados a reglas para interpretar las preguntas y acotar las respuestas. Luego incorpora la retroalimentación de los resultados que obtiene, para que gradualmente pueda determinar qué algoritmos funcionan mejor y bajo qué circunstancias. Este "aprendizaje" ayuda al sistema a encontrar respuestas con mayor precisión en el futuro.
Por supuesto, la mayoría de las empresas no necesitan sus computadoras para jugar al ajedrez o ganar juegos de preguntas y respuestas. Pero las mismas cualidades que ayudan a la IA a ganar partidas de ajedrez y juegos Jeopardy también pueden traducirse en aplicaciones profesionales.
Por ejemplo, es poco probable que se reemplace a los médicos con sistemas de IA porque muchos de los matices del diagnóstico, el tratamiento de enfermedades y la relación médico-paciente son difíciles de encapsular en un conjunto de datos. Pero la IA puede proporcionar un complemento útil para un médico humano. Un programa de IA podría desplazarse por cientos de miles de posibles diagnósticos o protocolos de tratamiento y ofrecer sugerencias en un entorno médico. Watson ya ha demostrado su utilidad de esta manera debido a su reconocimiento de voz y visión artificial. Puede analizar imágenes radiológicas, por ejemplo, y comunicar sus hallazgos a los médicos.
Tipos de IA
La IA se puede dividir en dos tipos: IA estrecha e IA general. La IA estrecha, que existe en muchas aplicaciones hoy en día, es la IA construida para realizar tareas específicas y definidas. Se puede encontrar en chatbots, programas de reconocimiento de voz, servicios de traducción automática y automóviles autónomos. Las computadoras de compañías como Amazon, Google y Netflix también usan inteligencia artificial para analizar los patrones de navegación, compra y observación de los consumidores y usan esos patrones para hacer recomendaciones personalizadas.
La IA general, que tenemos el potencial de desarrollar en una herramienta más poderosa en el futuro, abarca sistemas de aprendizaje automático que se pueden utilizar en una amplia variedad de aplicaciones. En su forma ideal, la IA general puede aprender más rápidamente que los humanos, y sus habilidades pueden superar las capacidades humanas en tareas intelectuales y de desempeño.
Actualmente, las computadoras no pueden comunicarse exactamente como los humanos, y también tienen limitaciones en cuanto a qué tan bien pueden “explicar” sus elecciones o recomendaciones cuando se les pregunta. Pero ofrecen muchas ventajas en entornos profesionales.
El impacto de la IA en la economía mundial
El impacto económico global de la IA ya es sustancial. La IA impacta el crecimiento económico de diversas formas:
Aumento de la productividad y las oportunidades comerciales: Uno de los impactos de la IA en el crecimiento económico proviene de su efectos macroeconómicos. Por ejemplo, cuando la IA aumenta el crecimiento de la productividad, ese crecimiento de la productividad también aumenta el crecimiento económico. También aumenta las oportunidades para el comercio internacional.
Mejor gestión de unidades de producción complejas: La IA ayuda a las empresas a manejar mejor las unidades de producción complejas y remotas al proporcionar un sistema de gestión centralizado. Por ejemplo, una empresa puede utilizar la IA para gestionar sus almacenes de forma más eficiente, predecir la demanda de los consumidores y mejorar la precisión de sus sistemas de entrega y entrega rápida.
Expansión de plataformas digitales: Comercio a través de plataformas digitales es posible gracias a la tecnología de IA. El sitio de subastas en línea eBay, por ejemplo, utiliza inteligencia artificial para automatizar sus operaciones.
Cómo la IA está ayudando a las empresas a expandirse globalmente
La expansión global y la IA han tenido una asociación fructífera. La IA ayuda a las empresas a expandirse globalmente de diversas formas:
Fácil expansión a través de plataformas digitales: La automatización de la IA a través de plataformas digitales proporciona una forma conveniente para que las empresas se expandan internacionalmente. En los Estados Unidos, 97 % de pequeñas empresas que están activos en eBay, que utiliza IA, exportan algunos de sus productos. En comparación, solo el 4 % de las empresas fuera de línea que no utilizan IA exportan sus productos.
Servicios de traducción precisos: AI también proporciona servicios de traducción instantáneos y precisos que mejoran el diálogo, reducen los errores de comunicación y hacen que la cooperación internacional sea mucho más ágil y eficaz. Se ha demostrado que el uso de traducciones de IA en los negocios tiene un efecto positivo en los ingresos comerciales, un efecto que equivale a disminuir la distancia entre los países. por más de 35 % .
Mejora de las negociaciones comerciales: La IA no solo mejora las comunicaciones, también mejora sus resultados. La IA se puede utilizar para analizar las rutas económicas de los socios negociadores en varios escenarios, predecir cómo las diferentes variables en el escenario comercial afectarán los resultados y predecir las respuestas comerciales de los países que no son parte de la negociación. Brasil, por ejemplo, ha desarrollado una Iniciativa de Tecnología Inteligente + Comercio que enfatiza la inclusión de la IA como un componente de las negociaciones comerciales.
Gestión de la cadena de suministro: Los sistemas de IA también pueden responder a la cadena de suministro en tiempo real. Pueden detectar patrones y tendencias, y pueden predecir dónde y cuándo aumentará la demanda. También pueden aumentar automáticamente la producción para satisfacer esa demanda, o pueden disminuir la producción para responder a la disminución de la demanda, reduciendo así la mano de obra desperdiciada y el excedente de inventario. Para las empresas en expansión que necesitan una forma de descubrir cómo suministrar la cantidad óptima de productos a un nuevo mercado, la IA ha demostrado ser invaluable.
Automatización de tareas rutinarias: Cuando las empresas se expanden, normalmente quieren centrar sus energías en tareas de nivel superior como la estrategia y menos en tareas de nivel inferior como asuntos burocráticos. La IA puede ayudar automatizando las tareas burocráticas rutinarias. Por ejemplo, a medida que las empresas incorporan nuevos trabajadores en diferentes países, pueden tener dificultades para administrar tareas como la nómina y proporcionar beneficios. La IA puede ayudar a automatizar estas tareas y evitar que los trabajadores humanos sufran molestias y frustraciones.
Mayor eficiencia y precisión: La IA también puede agilizar diferentes procesos dentro de una empresa haciéndolos más eficientes y precisos. Si un empleado humano está realizando tareas de nómina o inscribiendo empleados en planes de seguro médico, podría cometer uno o dos errores, lo que provocaría retrasos, pagos incorrectos o falta de cobertura. Con un sistema automatizado que nunca se cansa ni se distrae, la probabilidad de errores es mucho menor. Y un algoritmo de IA puede completar sus cálculos y entradas de datos más rápido que un empleado humano, lo que también aumenta la eficiencia.
¿Cómo afectará la IA a la expansión global en el futuro?
Es probable que la IA tenga un impacto en la expansión global en el futuro con mucha más fuerza que en la actualidad. Una de las razones es que adoptar nuevas tecnologías e incorporarlas de forma eficaz lleva tiempo. A medida que las empresas utilicen más la IA y comprendan mejor lo que la IA puede hacer por ellas, podrán hacer un uso más eficaz de sus capacidades. Y a medida que la IA mejore, su impacto también aumentará. El McKinsey Global Institute estima que debido a que es probable que los efectos de la IA muestren un crecimiento logístico, aumentando a lo largo de una curva en forma de S, el impacto de la IA en la economía global será tres veces mayor en 2030 de lo que es hoy.
En el futuro, es probable que la IA afecte la expansión global de las siguientes maneras:
Mejora de las predicciones de tendencias futuras: Gran parte del éxito de una empresa internacional se basa en su capacidad para predecir y responder a las tendencias futuras. La IA puede ayudar en esta área al pronosticar con precisión esas tendencias con modelos predictivos y permitir que las empresas tomen decisiones más informadas a medida que se expanden a los mercados internacionales.
Mayor fabricación inteligente: Fabricación inteligente requiere interconectividad entre los sistemas de sensores, los cibersistemas y la maquinaria física. A medida que la IA se vuelve más sofisticada, puede mejorar enormemente la fabricación inteligente al especializarse y agilizar procesos específicos. La IA también puede permitir una fabricación constante, a cualquier hora del día o de la noche, para aumentar la productividad. Y sus sistemas sensoriales, junto con su menor dependencia de operadores humanos, también pueden aumentar la seguridad en la planta de fabricación.
Mayor capacidad para analizar evidencia y sacar conclusiones: En el futuro, la IA se puede utilizar para leer e interpretar grandes volúmenes de datos. En el campo legal, por ejemplo, la IA podría funcionar en muchos la forma en que lo hace un asistente legal, pero a velocidades mucho más altas, leyendo grandes cantidades de casos precedentes y recopilando información relevante para su uso en casos actuales.
Mayor automatización de tareas: En los procesos de recursos humanos (RR.HH.), por ejemplo, la automatización puede ayudar a agilizar el reclutamiento, la incorporación, la capacitación, la nómina y la provisión de beneficios. Y las formas más sofisticadas de IA probablemente podrán analizar las leyes fiscales y las regulaciones internacionales de manera mucho más rápida y efectiva que los humanos. Por lo tanto, la automatización de estos procesos a través de la inteligencia artificial ayudará a las empresas a ahorrar tiempo y mano de obra y a disminuir su vulnerabilidad a las sanciones.
Vehículos autónomos más fiables: Los vehículos autónomos, o automóviles autónomos, tienen muchos sensores, específicamente, detectores de radar y de luz, que recopilan información sobre los objetos alrededor del vehículo. El sistema de IA usa estos datos para tomar decisiones instantáneas sobre qué tan cerca están los objetos, si hay peligros en la carretera y qué camino debe tomar para evitarlos. Tampoco tendrán que capacitar a los empleados para que aprendan nuevas reglas de tránsito en diferentes países, ya que un sistema de inteligencia artificial puede aprenderlas instantáneamente. Y los desarrollos en IA pueden hacer que estos vehículos sean más seguros y aumentar su presencia en la carretera.
Mayor precisión y eficiencia: Podemos pensar que nuestros procesos de IA son relativamente eficientes ahora, pero existen algunos errores en los sistemas de IA. ¿Alguna vez ha llamado a la línea de farmacia automatizada para reabastecer una receta, solo para que el sistema de inteligencia artificial se confunda y lo transfiera a un humano para solucionar el problema? ¿O alguna vez ha interactuado con un chatbot que no podía proporcionar información útil? En el futuro, los sistemas más sofisticados conducirán a un rendimiento mejorado, casi humano y a una reducción de errores y limitaciones.
Mayor enfoque en las innovaciones comerciales: Cuando las empresas deben centrarse menos en los procesos rutinarios del día a día, sus recursos mentales y creativos se vuelven libres para realizar un trabajo de nivel superior. En el futuro, a medida que la IA se vuelva más sofisticada, asumirá cada vez más funciones administrativas dentro de una empresa. Por lo tanto, liberará la capacidad intelectual de la empresa para asumir más desafíos intelectuales y dar saltos creativos. Un mayor enfoque en la visión y la creatividad probablemente conducirá al éxito internacional.
Inteligencia Artificial y transformación digital
La IA tiene un enorme potencial para ser utilizada por el bien social y en el logro de los Objetivos de Desarrollo Sostenible (ODS). Sin embargo, incluso cuando se utiliza para ayudar a resolver los problemas sociales más críticos de la humanidad, su uso también genera preocupaciones sobre la violación de los derechos humanos, como el derecho a la libertad de expresión, el derecho a la privacidad, la protección de datos y la no discriminación. Las tecnologías basadas en inteligencia artificial ofrecen grandes oportunidades si se desarrollan respetando las normas, la ética y los estándares universales, y si están ancladas en valores basados en los derechos humanos y el desarrollo sostenible.
A medida que avanza el uso de tecnologías de IA, los sistemas judiciales se están involucrando en cuestiones legales sobre las implicaciones de la IA para los derechos humanos, la vigilancia y la responsabilidad, entre otros. Además, los sistemas judiciales también están utilizando sistemas de IA para los procesos de toma de decisiones judiciales que han planteado preocupaciones sobre la equidad, la responsabilidad y la transparencia en la toma de decisiones mediante sistemas automatizados o habilitados por inteligencia artificial.
El potencial de la IA ya está siendo explorado por muchos sistemas judiciales que incluyen el poder judicial, los servicios de fiscalía y otros órganos judiciales a nivel global, en el ámbito de la justicia penal, proporcionando asistencia en procesos de investigación y automatizando/facilitando los procesos de toma de decisiones.
Sin embargo, el uso de la IA plantea una amplia gama de desafíos que deben abordarse: desde el reconocimiento de patrones hasta la ética, las decisiones sesgadas tomadas por algoritmos basados en la IA, la transparencia y la rendición de cuentas. Los algoritmos de autoaprendizaje, por ejemplo, pueden ser entrenados por ciertos conjuntos de datos (decisiones previas, imágenes faciales o bases de datos de videos, etc.) que podrían contener datos sesgados con el potencial de ser utilizados por aplicaciones con fines criminales o de seguridad pública, lo que lleva a decisiones sesgadas.
Teniendo en cuenta los rápidos avances en este campo, los desafíos y las oportunidades relacionados con el aprovechamiento de la IA en el campo de la justicia y cómo los sistemas basados en IA pueden ayudar a los sistemas judiciales en la administración de justicia, deben formar parte de las discusiones entre los actores del ecosistema judicial, lo que incluye el manejo de casos que involucran el uso de la IA con impacto en los derechos humanos.
Desde 2014, la UNESCO y sus socios han estado capacitando a jueces y actores judiciales en torno a los tópicos centrales de la libertad de expresión, el acceso público a la información y la seguridad de los periodistas, principalmente a través de cursos masivos abiertos en línea (MOOC). Más de 17.000 actores judiciales han sido capacitados en América Latina, en asociación con la Corte Interamericana de Derechos Humanos, así como en África, donde la UNESCO se ha asociado con el Centro de Derechos Humanos de la Universidad de Pretoria, la Comisión Africana de Derechos Humanos y de los Pueblos, la Corte Africana de Derechos Humanos y de los Pueblos y la Comunidad Económica de los Estados de África Occidental.
Estos cursos de capacitación mejoran la libertad de expresión, el acceso público a la información y la seguridad de los periodistas al fortalecer las capacidades de los jueces y otros actores de los sistemas judiciales en estos temas. Los cursos brindan a los actores judiciales una visión general de los marcos legales internacionales y regionales relevantes, así como de los nuevos desafíos que presentan Internet y otras tecnologías digitales. Mediante una mejor comprensión y conocimiento de los estándares internacionales y regionales de libertad de expresión y seguridad de los periodistas, los jueces y otros actores del poder judicial pueden alinear más efectivamente sus decisiones con los estándares internacionales y regionales y las buenas prácticas en estos temas.
Sobre la base de la experiencia anterior, la UNESCO y sus socios están desarrollando este programa para el desarrollo de capacidades de los actores judiciales en relación con el uso de la IA en los tribunales y por las fuerzas del orden, así como para abordar las implicaciones legales de las decisiones judiciales de IA basadas en las normas internacionales de derechos humanos.