<\/p>\n
TEMAS-SUBTEMAS<\/p>\n
Sentencia T-323\/24<\/p>\n
DERECHO AL DEBIDO PROCESO-Criterios orientadores para el adecuado uso de la inteligencia artificial (IA)<\/p>\n
(…) criterios orientadores en cuanto al uso de herramientas de IA como ChatGPT por parte de los despachos judiciales en el pa\u00eds: a. Transparencia, entendida como la obligaci\u00f3n de evidenciar con claridad y precisi\u00f3n el uso, alcances y ubicaci\u00f3n en las actuaciones o decisiones de los resultados obtenidos por la utilizaci\u00f3n de tales herramientas, que permita a los usuarios e interesados su pleno conocimiento y la posibilidad efectiva de contradicci\u00f3n. B. Responsabilidad, comprendida como aquella obligaci\u00f3n que existe de que el usuario de la herramienta de IA se encuentre capacitado y comprenda los impactos del uso de estas tecnolog\u00edas, para a su vez dar cuenta del origen, idoneidad y necesidad del uso de la IA y la informaci\u00f3n suministrada por la misma, la cual debe ser verificada. c. Privacidad, es aquel deber de custodiar y proteger la reserva de los datos personales y sensibles que se ponen en conocimiento de la administraci\u00f3n de justicia para cumplir con los fines propios de la Rama Judicial. d. No sustituci\u00f3n de la racionalidad humana, como expresi\u00f3n de la imposibilidad \u00e9tica y jur\u00eddica de sustituir la acci\u00f3n y la responsabilidad del individuo de la especie humana en la gesti\u00f3n de las actuaciones y decisiones judiciales. e. Seriedad y verificaci\u00f3n, que implica la obligaci\u00f3n de realizar un estricto escrutinio sobre las fuentes, alcances, restricciones, posibilidades, falencias y riesgos que presente la herramienta de cara a la actuaci\u00f3n en curso o a la soluci\u00f3n del problema jur\u00eddico correspondiente. f. Prevenci\u00f3n de riesgos, como mandato en cuanto aplicar los est\u00e1ndares adecuados de control sobre situaciones que generen riesgo por la aplicaci\u00f3n de tecnolog\u00edas tales, en aspectos como imprecisiones, desactualizaciones, alucinaciones, sesgos, inconsistencias y dem\u00e1s. g. Igualdad y equidad, en cuanto se erradiquen todas las formas de discriminaci\u00f3n relacionadas con la aplicaci\u00f3n de sesgos derivada del uso de tales tecnolog\u00edas y su impacto negativo en la eficacia de los derechos humanos. h. Control humano, en tanto considerando los anteriores criterios, siempre se permita la realizaci\u00f3n efectiva de escrutinios sobre las actuaciones y decisiones en que se usen herramientas de IA, mediante el acceso a la debida informaci\u00f3n y el uso de recursos que deban ser resueltos por autoridades humanas. i. Regulaci\u00f3n \u00e9tica, que implica el desarrollo de est\u00e1ndares de comportamiento individual que se adec\u00faen a los mandatos superiores y legales y a las pautas razonables para el uso de tales tecnolog\u00edas por parte de los funcionarios y servidores de la Rama Judicial. j. Adecuaci\u00f3n a buenas pr\u00e1cticas y est\u00e1ndares colectivos, en tanto se apliquen los esquemas razonables que se definan para el funcionamiento de la Rama Judicial, desde su autonom\u00eda e independencia, a partir de las definiciones que adopten sus autoridades, tanto en sede de administraci\u00f3n como de orientaci\u00f3n jurisprudencial. k. Seguimiento continuo y adaptaci\u00f3n, a efecto que el uso de tales tecnolog\u00edas consulte los avances jur\u00eddicos, sociol\u00f3gicos y tecnol\u00f3gicos que se vayan implementando, as\u00ed como los esquemas de mejora y control que se construyan en forma progresiva. l. Idoneidad. El uso de las tecnolog\u00edas de la informaci\u00f3n y de las comunicaciones en la gesti\u00f3n y tr\u00e1mite de los procesos judiciales y asuntos en curso debe ser adecuado para facilitar y agilizar el acceso a la justicia.<\/p>\n
CARENCIA ACTUAL DE OBJETO-Reiteraci\u00f3n de jurisprudencia<\/p>\n
DERECHO AL DEBIDO PROCESO-Naturaleza, definici\u00f3n y garant\u00edas que lo conforman<\/p>\n
SISTEMAS DE INTELIGENCIA ARTIFICIAL (IA)-Concepto y aspectos b\u00e1sicos acerca de su funcionamiento<\/p>\n
SISTEMAS DE INTELIGENCIA ARTIFICIAL (IA)-Marco regulatorio<\/p>\n
DERECHO AL DEBIDO PROCESO-Deberes del juez frente al uso de inteligencia artificial en una decisi\u00f3n judicial<\/p>\n
El juez, cuando encuentre necesario y pertinente recurrir a sistemas de IA, puede emplearlos razonada y ponderadamente. Esto supone un enfoque de protecci\u00f3n de derechos fundamentales, que valore y considere las mejores pr\u00e1cticas, as\u00ed como la aplicaci\u00f3n de criterios \u00e9ticos y de respeto a los mandatos superiores. \u00a0De acuerdo con ello, so pena de comprometer eventualmente su responsabilidad a ra\u00edz del uso indiscriminado e imprudente de estas tecnolog\u00edas, el funcionario judicial que las emplee deber\u00e1 respetar, como presupuesto m\u00ednimo en la materia, el criterio de no sustituci\u00f3n de la racionalidad humana, as\u00ed como atender las cargas de transparencia, responsabilidad y privacidad. En virtud de aquel criterio, es factible emplear inteligencia artificial en labores propias de la justicia siempre que el uso de dichas herramientas no remplace labores jurisdiccionales indelegables e irremplazables, como lo son aquellas que requieren del razonamiento l\u00f3gico y humano a efectos de interpretar los hechos, las pruebas, motivar la decisi\u00f3n o adoptarla.<\/p>\n
DEBIDO PROCESO-Aplicaci\u00f3n del principio del juez natural<\/p>\n
DEBIDO PROCESO-Independencia e imparcialidad del juez<\/p>\n
JUEZ-Obligaci\u00f3n de motivar las decisiones<\/p>\n
DERECHO A LA INTIMIDAD EN SISTEMAS DE INTELIGENCIA ARTIFICIAL (IA)-Alcance de la privacidad en el manejo de informaci\u00f3n<\/p>\n
NI\u00d1OS Y NI\u00d1AS CON DISCAPACIDAD-Sujetos de especial protecci\u00f3n constitucional<\/p>\n
DERECHO A LA SALUD DE NI\u00d1OS, NI\u00d1AS Y ADOLESCENTES EN SITUACI\u00d3N DE DISCAPACIDAD-Protecci\u00f3n constitucional<\/p>\n
PRINCIPIO DE CONTINUIDAD E INTEGRALIDAD EN EL SERVICIO PUBLICO DE SALUD-Prohibici\u00f3n de anteponer barreras administrativas para negar servicio<\/p>\n
EXONERACION DE CUOTAS MODERADORAS Y COPAGOS-Reglas jurisprudenciales<\/p>\n
DERECHO A LA SALUD DE NI\u00d1OS Y NI\u00d1AS EN SITUACION DE DISCAPACIDAD-Tratamiento integral<\/p>\n
CUBRIMIENTO DE GASTOS DE TRANSPORTE PARA PACIENTE Y ACOMPA\u00d1ANTE POR EPS-Reglas jurisprudenciales<\/p>\n
ACCESIBILIDAD AL DERECHO A LA SALUD-Transporte y copagos no puede ser obst\u00e1culo para acceder a los servicios de salud de quienes no tienen capacidad econ\u00f3mica para asumirlos<\/p>\n
DERECHO AL DEBIDO PROCESO-Lineamientos sobre el uso de la inteligencia artificial (IA) en la Rama Judicial<\/p>\n
DERECHO A LA SALUD DE NI\u00d1OS, NI\u00d1AS Y ADOLESCENTES EN SITUACI\u00d3N DE DISCAPACIDAD-Orden a EPS abstenerse de realizar cobros, por concepto de copagos o cuotas moderadoras por la prestaci\u00f3n de los servicios en salud que tenga que brindarle al menor<\/p>\n
CUBRIMIENTO DE GASTOS DE TRANSPORTE PARA PACIENTE Y ACOMPA\u00d1ANTE POR EPS-Orden a EPS autorizar traslado de menor y acompa\u00f1ante, desde su lugar de residencia hasta el lugar en el que deba acceder al tratamiento, ex\u00e1menes y citas m\u00e9dicas<\/p>\n
EXHORTO-Funcionarios y empleados de la Rama Judicial<\/p>\n
REP\u00daBLICA DE COLOMBIA<\/p>\n
CORTE CONSTITUCIONAL<\/p>\n
-Sala Segunda de Revisi\u00f3n-<\/p>\n
SENTENCIA T-323 de 2024<\/p>\n
Acci\u00f3n de tutela promovida por Blanca, en nombre y representaci\u00f3n de su hijo menor de edad, en contra de la EPS<\/p>\n
Asunto: uso de herramientas de inteligencia artificial generativas en procesos judiciales de tutela<\/p>\n
Cobro de copagos y cuotas moderadoras en el SGSSS a ni\u00f1o diagnosticado con TEA<\/p>\n
Magistrado sustanciador:<\/p>\n
Juan Carlos Cort\u00e9s Gonz\u00e1lez<\/p>\n
S\u00cdNTESIS DE LA DECISI\u00d3N<\/p>\n
\u00bfQu\u00e9 estudi\u00f3 la Corte?<\/p>\n
\u00a0 \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
(i) Tras analizar el cumplimiento de los requisitos de procedencia de la acci\u00f3n de tutela, la Corte Constitucional examin\u00f3 si en el presente caso se configuraban los presupuestos de una carencia actual de objeto por hecho superado. Agotado ese estudio, se abord\u00f3 (ii) el uso de la inteligencia artificial (IA) para la toma de decisiones en sede de tutela y (iii) el cobro de copagos y cuotas moderadoras en el Sistema General de Seguridad Social en Salud -SGSSS-, el suministro del servicio de transporte y el derecho al tratamiento integral de un ni\u00f1o diagnosticado con trastorno de espectro autista -TEA.<\/p>\n
<\/p>\n
Sobre el uso de la inteligencia artificial para la toma de decisiones en sede de tutela<\/p>\n
Teniendo en cuenta que el juez de segunda instancia de la tutela objeto de revisi\u00f3n hizo uso de IA para emitir su decisi\u00f3n, en espec\u00edfico, de ChatGPT 3.5, la Sala consider\u00f3 relevante revisar una posible vulneraci\u00f3n al derecho fundamental al debido proceso en la emisi\u00f3n de dicha decisi\u00f3n, ya que se encontraron dudas respecto a si quien emiti\u00f3 la decisi\u00f3n fue un juez de la Rep\u00fablica o una IA y si la decisi\u00f3n fue debidamente motivada o fue producto de alucinaciones y sesgos generados por la IA.<\/p>\n
De esta manera, se abordaron los siguientes puntos (i) el derecho fundamental al debido proceso; (ii) el debido proceso en un sistema jurisdiccional que utiliza IA; (iii) el sistema de inteligencia artificial. Conceptos y aspectos b\u00e1sicos acerca de su funcionamiento; (iv) impactos del uso de herramientas de IA en la sociedad; (v) estado de la IA en Colombia; (vi) el marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas nacionales; (vii) algunas experiencias concretas relacionadas con la IA en la pr\u00e1ctica judicial; (viii) la garant\u00eda del juez natural en un sistema jurisdiccional que utiliza IA y (ix) el debido proceso probatorio en un sistema jurisdiccional que utiliza IA.<\/p>\n
Sobre el cobro de copagos y cuotas moderadoras en el Sistema General de Seguridad Social en Salud (SGSSS), el suministro del servicio de transporte y el derecho a un tratamiento integral de un ni\u00f1o diagnosticado con trastorno de espectro autista (TEA).<\/p>\n
En relaci\u00f3n con el fondo del caso, le correspondi\u00f3 a la corporaci\u00f3n revisar si los derechos fundamentales a la salud, la vida digna y la seguridad social de un ni\u00f1o diagnosticado con TEA fueron o no vulnerados por su EPS, ya que no fue exonerado de copagos y cuotas moderadoras; no se le suministr\u00f3 el servicio de transporte interurbano bajo el argumento de que no exist\u00eda prescripci\u00f3n m\u00e9dica que lo ordenara y no se le autoriz\u00f3 un tratamiento integral.<\/p>\n
Al respecto, esta corporaci\u00f3n analiz\u00f3 los siguientes temas: (i) los ni\u00f1os, ni\u00f1as y adolescentes como sujetos de especial protecci\u00f3n constitucional; (ii) las personas en situaci\u00f3n de discapacidad como sujetos de especial protecci\u00f3n constitucional; (iii) el derecho a la salud; (iv) los ni\u00f1os, ni\u00f1as y adolescentes en situaci\u00f3n de discapacidad y la protecci\u00f3n de su derecho fundamental a la salud; (v) la prohibici\u00f3n de anteponer barreras administrativas para la prestaci\u00f3n del servicio de salud; (vi) tratamiento integral; (vii) el reconocimiento de los gastos de transporte para el paciente y un acompa\u00f1ante; (viii) cobros en el sistema de seguridad social en salud. Exoneraci\u00f3n de copagos y cuotas moderadoras para personas en situaci\u00f3n de discapacidad f\u00edsica o cognitiva. (ix) Finalmente se resolvi\u00f3 del caso concreto.<\/p>\n
\u00bfQu\u00e9 consider\u00f3 la Corte?<\/p>\n
\u00a0 \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
En cuanto a la posible violaci\u00f3n al debido proceso por la sentencia de segunda instancia, al utilizar el juez ChatGPT para su motivaci\u00f3n, la Sala estim\u00f3 que no existi\u00f3 un remplazo del ejercicio de la funci\u00f3n jurisdiccional por parte de ChatGPT, esencialmente porque el sistema de IA se utiliz\u00f3 luego de haberse fundamentado y tomado la decisi\u00f3n. En el orden metodol\u00f3gico que adopt\u00f3 el fallo de tutela, el funcionario judicial primero identific\u00f3 la tesis que sostendr\u00eda, luego las normas constitucionales aplicables al caso, el referente jurisprudencial que se deb\u00eda atender por guardar identidad f\u00e1ctica con el asunto analizado, para posteriormente solucionar el caso concreto al indicar que el cobro de copagos y cuotas moderadoras constitu\u00eda una barrera de acceso al servicio de salud del ni\u00f1o y, solo entonces, anunci\u00f3 y procedi\u00f3 a efectuar preguntas en el referido sistema de IA, para as\u00ed transcribir las respuestas arrojadas en la consulta.<\/p>\n
Conforme con lo anterior, no se cuestion\u00f3 la validez de la decisi\u00f3n del Juzgado del Circuito por haber sido tomada con antelaci\u00f3n al uso de la herramienta ChatGPT. Sin perjuicio de lo anterior, se evidenci\u00f3 que no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos. En cambio, el principio de privacidad s\u00ed se satisfizo, pues el juez no introdujo datos personales del menor ni de su historia cl\u00ednica, ni de las partes involucradas en la disputa concreta.<\/p>\n
Respecto al asunto de fondo, por un lado, la Corte estim\u00f3 que en el presente caso se cumplen las condiciones para exonerar al menor de edad del cobro de copagos y cuotas moderadoras con ocasi\u00f3n de los servicios y medicamentos que requiera, ya que las leyes 1438 de 2011 y 1618 de 2013, as\u00ed como el Decreto 1652 del 2022, except\u00faan del cobro de cuotas moderadoras y copagos a las personas en situaci\u00f3n de discapacidad, en relaci\u00f3n con su rehabilitaci\u00f3n.<\/p>\n
Aunque en un principio podr\u00eda considerarse que por esa raz\u00f3n se configura una carencia actual de objeto por hecho superado, lo cierto es que la accionada no adelant\u00f3 diligentemente todos los esfuerzos para que el amparo inherente a esa exoneraci\u00f3n sea completamente efectivo.<\/p>\n
La EPS, aunque exoner\u00f3 al ni\u00f1o de los copagos y cuotas moderadoras, no comunic\u00f3 ni inform\u00f3 a las IPS sobre la gratuidad de los servicios y medicamentos ordenados al ni\u00f1o, lo cual gener\u00f3 una barrera administrativa para la prestaci\u00f3n oportuna de los servicios m\u00e9dicos, situaci\u00f3n que va en detrimento de los principios de\u00a0accesibilidad\u00a0e\u00a0integralidad\u00a0del SGSSS.<\/p>\n
Por otro lado, la Sala encontr\u00f3 acreditado que (i) ni el ni\u00f1o ni su madre tienen los recursos econ\u00f3micos suficientes para pagar el valor de los traslados requeridos para acceder al servicio de salud, pues se encuentran en situaci\u00f3n de pobreza extrema y (ii) la falta de autorizaci\u00f3n del transporte, debido al diagn\u00f3stico que padece el ni\u00f1o, pondr\u00eda en riesgo su dignidad y estado de salud. Si bien la EPS autoriz\u00f3 el suministro del transporte para la asistencia a las terapias de rehabilitaci\u00f3n de su hijo, no se dio orden respecto a los dem\u00e1s desplazamientos asociados a valoraciones y controles con especialistas y ayudas diagn\u00f3sticas. De acuerdo con ello, la Sala encontr\u00f3 una deficiencia en el amparo concedido por los jueces de instancia, pues la orden impartida no garantiza efectivamente la plena protecci\u00f3n de los derechos fundamentales del ni\u00f1o a la salud y la vida digna.<\/p>\n
Finalmente, sobre el tratamiento integral no se alleg\u00f3 prueba al expediente de que la EPS se haya negado a autorizar alguna orden m\u00e9dica que prescribiera una valoraci\u00f3n, tratamiento, servicio asistencial, ayuda diagn\u00f3stica, control o cualquier otro parecido para la atenci\u00f3n m\u00e9dica del ni\u00f1o, por lo que no procede ordenar nada adicional a lo ya planteado anteriormente.<\/p>\n
\u00bfQu\u00e9 decidi\u00f3 la Corte?<\/p>\n
\u00a0 \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
La Sala de Revisi\u00f3n decidi\u00f3 que el derecho al debido proceso no se hab\u00eda vulnerado por el juez de segunda instancia, por tanto, no se configur\u00f3 una causal de invalidez de lo actuado, pues el uso de ChatGPT en el caso sometido a estudio no comport\u00f3 una usurpaci\u00f3n de la funci\u00f3n de administraci\u00f3n de justicia a cargo de la autoridad judicial competente.<\/p>\n
Sin perjuicio de lo anterior, la Sala estim\u00f3 que en el marco del respeto por los derechos fundamentales y de la salvaguarda de las garant\u00edas constitucionales para los usuarios del sistema de administraci\u00f3n de justicia y dadas las posibilidades de alucinaciones, sesgos discriminatorios y dem\u00e1s riesgos asociados a la IA, era procedente establecer algunos criterios orientadores, as\u00ed como que, desde el Consejo Superior de la Judicatura, se emitan unas gu\u00edas o lineamientos sobre su implementaci\u00f3n por parte de los jueces y que desde la judicatura misma se adopten las mejores pr\u00e1cticas que conforme a los principios y mandatos constitucionales, permitan hacer uso razonable y proporcional de herramientas innovadoras y din\u00e1micas como ChtatGPT, sin admitir en modo alguno que se impacte el debido proceso o se restrinjan de cualquier forma la autonom\u00eda e independencia judiciales.<\/p>\n
En cuanto a los derechos del ni\u00f1o, la Sala confirm\u00f3 parcialmente la sentencia. Esto, debido a que encontr\u00f3 fallas en la completa salvaguarda de los derechos vulnerados. As\u00ed, (i) la Sala de Revisi\u00f3n consider\u00f3 procedente para la garant\u00eda efectiva del amparo concedido por los jueces de instancia, ordenar a la EPS que realice todas las gestiones y tr\u00e1mites administrativos necesarios para que las IPS encargadas de la atenci\u00f3n del ni\u00f1o apliquen diligentemente y sin demoras la exoneraci\u00f3n de cobros de copagos y cuotas moderadoras, sin trasladar al ni\u00f1o y a su representante las consecuencias negativas de las eventuales faltas de comunicaci\u00f3n entre las entidades del sistema; (ii) estim\u00f3 procedente modificar los t\u00e9rminos en que los jueces de instancia ordenaron a la EPS autorizar el servicio de transporte intermunicipal, ya que no se deb\u00eda limitar dicho reconocimiento al transporte requerido para asistir a las terapias prescritas en la valoraci\u00f3n m\u00e9dica del 19 de julio de 2022. La EPS debe suministrar el servicio de transporte las veces que requiera el ni\u00f1o seg\u00fan criterio m\u00e9dico, para el tratamiento de su diagn\u00f3stico de trastorno de espectro autista, mientras subsista la insuficiencia de recursos econ\u00f3micos de sus padres para asumirlas; y (iii) la accionante no reproch\u00f3 ninguna actitud pasiva u omisiva con la que la EPS accionada estuviese negando el tratamiento integral, por lo que es innecesario tomar una medida al respecto.<\/p>\n
\u00bfQu\u00e9 orden\u00f3 la Corte?<\/p>\n
\u00a0 \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
PRIMERO. CONFIRMAR PARCIALMENTE la sentencia de segunda instancia proferida el 30 de enero de 2023 por el Juzgado del Circuito, que confirm\u00f3 la decisi\u00f3n de primera instancia del 7 de diciembre de 2022, que dict\u00f3 el Juzgado Municipal de la misma ciudad, dentro de la acci\u00f3n de tutela formulada por Blanca en contra de la EPS.<\/p>\n
SEGUNDO. MODIFICAR el numeral segundo de la sentencia del 7 de diciembre de 2022, que dict\u00f3 el Juzgado Municipal, la cual quedar\u00e1 as\u00ed:<\/p>\n
ORDENAR a la EPS que, dentro del t\u00e9rmino de cuarenta y ocho (48) horas contadas a partir del momento de la notificaci\u00f3n de esta providencia, autorice el valor del transporte urbano o suministre ese servicio al menor Emilio y a un acompa\u00f1ante, desde su residencia en la ciudad de Cartagena hasta la IPS en la que le corresponda recibir la atenci\u00f3n m\u00e9dica, asistencial o diagn\u00f3stica, ida y vuelta, las veces que requiera para el tratamiento de su diagn\u00f3stico trastorno de espectro autista, mientras subsista la insuficiencia de recursos econ\u00f3micos de sus padres para asumirlas.<\/p>\n
TERCERO. ADICIONAR un segundo inciso al numeral tercero de la sentencia del 7 de diciembre de 2022, proferida por el Juzgado Municipal, en los siguientes t\u00e9rminos:<\/p>\n
ORDENAR a la EPS que, dentro del t\u00e9rmino de cuarenta y ocho (48) horas contadas a partir del momento de la notificaci\u00f3n de esta providencia, \u00a0realice todas las gestiones y tr\u00e1mites administrativos necesarios para que las IPS encargadas de la atenci\u00f3n del ni\u00f1o apliquen diligentemente y sin demoras la exoneraci\u00f3n de cobros de copagos y cuotas moderadoras, sin trasladar al ni\u00f1o y a su representante las consecuencias negativas de las eventuales faltas de comunicaci\u00f3n entre las entidades del sistema.<\/p>\n
CUARTO. EXHORTAR a los jueces de la Rep\u00fablica para que eval\u00faen el adecuado uso de la herramienta tecnol\u00f3gica ChatGPT y otras an\u00e1logas o que se desarrollen en el \u00e1mbito de la inteligencia artificial IA, valoren y consideren las mejores pr\u00e1cticas, y apliquen criterios \u00e9ticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando encuentren necesario y pertinente hacer uso de aquellas, y asegurar la independencia y autonom\u00eda judiciales, como garant\u00edas insustituibles para la vigencia del Estado Social de Derecho y la democracia.<\/p>\n
En consecuencia, los funcionarios y empleados de la Rama Judicial aplicar\u00e1n los principios de (i) transparencia, (ii) responsabilidad, (iii) privacidad, (iv) no sustituci\u00f3n de la racionalidad humana, (v) seriedad y verificaci\u00f3n, (vi) prevenci\u00f3n de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulaci\u00f3n \u00e9tica, (x) adecuaci\u00f3n a buenas pr\u00e1cticas y est\u00e1ndares colectivos, (xi) seguimiento continuo y adaptaci\u00f3n y (xii) idoneidad.<\/p>\n
QUINTO. ORDENAR al Consejo Superior de la Judicatura que, en el t\u00e9rmino de cuatro (4) meses, contados a partir de la notificaci\u00f3n de esta providencia, divulgue una gu\u00eda, manual o lineamiento en relaci\u00f3n con la implementaci\u00f3n de la IA generativa en la Rama Judicial, especialmente en cuanto al uso de la herramienta ChatGPT, regulaci\u00f3n que deber\u00e1 ser acorde con los aspectos establecidos en esta providencia y, en particular, con lo dispuesto en su fundamento jur\u00eddico 423.<\/p>\n
SEXTO. ORDENAR al Consejo Superior de la Judicatura que, a trav\u00e9s de la Escuela Judicial Rodrigo Lara Bonilla, divulgue esta providencia a todos los despachos judiciales del pa\u00eds, y contin\u00fae generando espacios de capacitaci\u00f3n que fomenten el aprendizaje de conocimientos b\u00e1sicos sobre el uso de la inteligencia artificial (IA) en el contexto judicial, junto con sus riesgos y beneficios, con un enfoque de derechos.<\/p>\n
Bogot\u00e1 D.C., dos (02) de agosto de dos mil veinticuatro (2024)<\/p>\n
La Sala Segunda de Revisi\u00f3n de la Corte Constitucional, integrada por la magistrada Diana Fajardo Rivera y los magistrados Vladimir Fern\u00e1ndez Andrade y Juan Carlos Cort\u00e9s Gonz\u00e1lez, quien la preside, en ejercicio de sus competencias constitucionales y legales, ha proferido la siguiente<\/p>\n
SENTENCIA<\/p>\n
1. 1. \u00a0En el tr\u00e1mite de revisi\u00f3n de los fallos (i) de segunda instancia dictado el 30 de enero de 2023 por el Juzgado del Circuito, que confirm\u00f3 (ii) la decisi\u00f3n de primera instancia proferida por el Juzgado Municipal, el 7 de diciembre de 2022, dentro de la acci\u00f3n de tutela formulada por Blanca en contra de la EPS.<\/p>\n
Aclaraciones previas. Reserva de la identidad<\/p>\n
2. De conformidad con el art\u00edculo 62 del Reglamento Interno de la Corte Constitucional, las Salas de Revisi\u00f3n podr\u00e1n disponer que en la publicaci\u00f3n de la sentencia se omitan nombres o circunstancias que puedan identificar a las partes del proceso. En raz\u00f3n a que en el presente caso se hace referencia a las condiciones de salud de un ni\u00f1o, la Sala advierte que, como medida de protecci\u00f3n de su intimidad, es necesario ordenar que se suprima de esta providencia y de toda futura publicaci\u00f3n su nombre, as\u00ed como cualquier otro dato o informaci\u00f3n que permita individualizarlo. En consecuencia, la Sala cambiar\u00e1 el nombre de las personas involucradas por ficticios, que se escribir\u00e1n en cursivas.<\/p>\n
3. Por tanto, en atenci\u00f3n a lo dispuesto en el Acuerdo 02 de 2015 y la Circular Interna N.\u00ba 10 de 2022, esta providencia se registrar\u00e1 en dos archivos: uno con el nombre real de la actora y el representado, que la Secretar\u00eda General de la Corte Constitucional remitir\u00e1 a las partes y autoridades involucradas. Otro con los nombres ficticios, que seguir\u00e1 el canal previsto por esta corporaci\u00f3n para la difusi\u00f3n de informaci\u00f3n p\u00fablica.<\/p>\n
I. I. \u00a0ANTECEDENTES<\/p>\n
Hechos<\/p>\n
4. Blanca relat\u00f3 que su hijo menor de edad presenta un diagn\u00f3stico de trastorno de espectro autista (TEA). Por lo anterior, recibe terapias de rehabilitaci\u00f3n en las \u00e1reas de psicolog\u00eda, terapia ocupacional y fonoaudiolog\u00eda.<\/p>\n
5. El 31 de agosto de 2022, la tutelante radic\u00f3 una petici\u00f3n ante la EPS, en la que solicit\u00f3 que fuera exonerada del \u00abpago de cuotas moderadoras de salud y copagos\u00bb, toda vez que, seg\u00fan afirm\u00f3, el art\u00edculo 12 de la Ley 1306 de 2009 y la Circular 016 de 2014 del Ministerio de Salud y Protecci\u00f3n Social exoneran a la poblaci\u00f3n en situaci\u00f3n de discapacidad del pago de cuotas moderadoras y copagos.<\/p>\n
6. La entidad le indic\u00f3 a la accionante las causales que hac\u00edan procedente la exoneraci\u00f3n solicitada y expres\u00f3 que, en caso de presentar alguna, deb\u00eda acercarse para radicar la solicitud. Posteriormente, la accionante present\u00f3 la documentaci\u00f3n requerida, sin embargo, seg\u00fan refiri\u00f3, la EPS no adelant\u00f3 las gestiones necesarias para reconocer el beneficio.<\/p>\n
7. De forma adicional, Blanca le solicit\u00f3 a la empresa promotora de salud (EPS) que asumiera los gastos de transporte para asistir a las terapias de su hijo, pues adujo no tener los recursos suficientes a efectos de sufragar los gastos asociados al desplazamiento suyo y del menor de edad. Manifest\u00f3 que, aunque en ocasiones puede llevar al ni\u00f1o a pie, muchas otras veces, debido a la misma enfermedad de su hijo, este se reh\u00fasa a caminar. Seg\u00fan inform\u00f3 la accionante, la EPS no emiti\u00f3 respuesta a esta solicitud.<\/p>\n
8. La accionante indic\u00f3 que no tiene un trabajo estable, es madre soltera y est\u00e1 clasificada en el grupo VI, subgrupo B1 del SISBEN (pobreza moderada). En consulta realizada por esta corporaci\u00f3n, se encontr\u00f3 que la demandante est\u00e1 clasificada en el grupo A4 del SISBEN, correspondiente a pobreza extrema.<\/p>\n
9. En virtud de lo anterior, Blanca interpuso una acci\u00f3n de tutela en contra de la EPS, por la presunta vulneraci\u00f3n de los derechos a la salud y a la vida en condiciones dignas del menor de edad. Como pretensiones solicit\u00f3 el amparo de estos derechos fundamentales y, en consecuencia, pidi\u00f3 se le ordene a la entidad (i) exonerar a su hijo de las cuotas moderadoras y copagos, (ii) cubrir los gastos de transporte, con el fin de que el ni\u00f1o pueda asistir a sus terapias, y (iii) garantizarle un tratamiento integral.<\/p>\n
Actuaciones procesales en sede de tutela<\/p>\n
10. En auto del 24 de noviembre de 2022, el Juzgado Municipal admiti\u00f3 la acci\u00f3n de tutela y corri\u00f3 traslado a la EPS.<\/p>\n
11. Respuesta de la EPS. La entidad contest\u00f3 que el menor de edad no pertenec\u00eda a la poblaci\u00f3n objeto de especial atenci\u00f3n referida en la Circular 0016 de 2014 del Ministerio de Salud y Protecci\u00f3n Social y en la Ley 1306 de 2009, pues el diagn\u00f3stico \u00abtrastorno del espectro autista\u00bb no es propiamente una discapacidad mental\/intelectual. Por ello no era procedente exonerarlo del pago de cuotas moderadoras y copagos por servicios autorizados por la EPS.<\/p>\n
12. No obstante, explic\u00f3 que, en ocasiones, ese diagn\u00f3stico pod\u00eda asociarse a discapacidades del aprendizaje y, con base en ello, emitirse un certificado de discapacidad intelectual-mental. Para tales efectos era indispensable que un equipo interdisciplinario de especialistas evaluara varios factores, como el coeficiente intelectual, la capacidad de aprendizaje, la respuesta a los tratamientos de enfoque cognitivo conductual, entre otros.<\/p>\n
13. En cuanto a la solicitud de gastos de transporte, se\u00f1al\u00f3 que la IPS CISADDE ofrece directamente ese servicio a los ni\u00f1os, ni\u00f1as y adolescentes que reciben terapias en dicha entidad. La EPS manifest\u00f3 que, con base en ello, se comunic\u00f3 con la tutelante para informarle que se le hab\u00eda concedido el ingreso al programa de transporte. Con todo, la entidad aclar\u00f3 que no existe orden m\u00e9dica alguna que respalde el derecho de la accionante a que dichos gastos sean cubiertos.<\/p>\n
14. Finalmente, la accionada se opuso a que se ordene el suministro de tratamiento integral pues se afinca en una solicitud fundada en hechos futuros e inciertos que, por tanto, no puede llevar a la convicci\u00f3n sobre la transgresi\u00f3n de derechos fundamentales. Sobre el particular, agreg\u00f3 que, en la actualidad, no existe una orden m\u00e9dica vigente pendiente de autorizarle al menor de edad. Con base en lo anterior, solicit\u00f3 declarar \u00abimprocedente\u00bb la acci\u00f3n de tutela al no existir una violaci\u00f3n de los derechos del ni\u00f1o por parte de la EPS.<\/p>\n
Sentencia de primera instancia<\/p>\n
15. El 7 de diciembre de 2022, el Juzgado Municipal ampar\u00f3 los derechos a la salud y a la vida en condiciones dignas del ni\u00f1o. En consecuencia, le orden\u00f3 a la EPS (i) autorizar el valor del transporte urbano o suministrar el servicio al menor de edad y a un acompa\u00f1ante, con el fin de asegurar su desplazamiento a la instituci\u00f3n que corresponda, para recibir las terapias integrales prescritas por el m\u00e9dico tratante y (ii) asumir la prestaci\u00f3n de los servicios de salud que en adelante requiera el menor de edad como consecuencia del diagn\u00f3stico \u00abtrastorno de espectro autista\u00bb, sin exigencia de copagos o cuotas moderadoras, mientras subsista la insuficiencia de recursos econ\u00f3micos de sus padres para asumirlas.<\/p>\n
16. Como fundamento de la decisi\u00f3n, sostuvo que, por tratarse de un menor de edad con un trastorno psicol\u00f3gico, se est\u00e1 en presencia de un sujeto de especial protecci\u00f3n constitucional que requiere la garant\u00eda del acceso efectivo a los tratamientos prescritos por su m\u00e9dico. De acuerdo con ello, aunque al ni\u00f1o le fueron ordenadas ciertas terapias, su madre adujo no contar con suficientes recursos econ\u00f3micos para asistir al lugar donde deb\u00edan practicarse, raz\u00f3n por la cual el juez consider\u00f3 necesario acceder al amparo en lo que corresponde al transporte.<\/p>\n
17. Frente a la solicitud de tratamiento integral, precis\u00f3 que se requiere del diagn\u00f3stico que \u00abel m\u00e9dico tratante estableci\u00f3 respecto al (sic) accionante y frente al cual recae la orden de tratamiento integral. Ello en consideraci\u00f3n que no resulta posible dictar \u00f3rdenes indeterminadas ni reconocer prestaciones futuras e inciertas; lo contrario implicar\u00eda presumir la mala fe de la EPS en relaci\u00f3n con el cumplimiento de sus deberes\u00bb. Al trasladar estas consideraciones al caso concreto, el juez no encontr\u00f3 prueba dentro del expediente en cuanto que el tratamiento integral hubiese sido ordenado por el m\u00e9dico tratante del menor de edad.<\/p>\n
18. Respecto de la exoneraci\u00f3n de cuotas moderadoras y copagos, el juez indic\u00f3 que la tutelante realiz\u00f3 una negaci\u00f3n indefinida sobre la carencia de recursos para asumir aquellos gastos, la cual no fue desvirtuada por la EPS. Por tanto, orden\u00f3 a la entidad exonerar a la tutelante de asumir dicha carga.<\/p>\n
Impugnaci\u00f3n<\/p>\n
19. La EPS reprodujo en la apelaci\u00f3n los argumentos que expuso al momento de contestar la acci\u00f3n de tutela. Con base en ello, solicit\u00f3 que se declarara su \u00abimprocedencia\u00bb por no existir vulneraci\u00f3n de derechos y, con ello, que se revocara el fallo de primera instancia.<\/p>\n
Sentencia de segunda instancia<\/p>\n
20. El 30 de enero de 2023, el Juzgado del Circuito resolvi\u00f3 confirmar la sentencia de primera instancia, al no encontrar que la EPS hubiera demostrado que la accionante contara con recursos econ\u00f3micos para sufragar los gastos asociados a la atenci\u00f3n m\u00e9dica de su hijo. As\u00ed las cosas, se\u00f1al\u00f3 que, en el presente caso, las cuotas moderadoras y copagos representaban una barrera de acceso a los servicios de salud, por lo que corresponde al juez constitucional su eliminaci\u00f3n.<\/p>\n
21. De otro lado, \u00abatendiendo que la Ley 2213 de 2022 tiene por objeto la incorporaci\u00f3n de las TIC en los procesos judiciales\u00bb, el juez advirti\u00f3 que har\u00eda uso de herramientas de inteligencia artificial generativas (en adelante, IA) para \u00abextender los argumentos de la decisi\u00f3n adoptada\u00bb. Las preguntas realizadas al aplicativo y las respuestas emitidas por la herramienta ChatGPT 3.5, se transcriben a continuaci\u00f3n:<\/p>\n
\u00bfMenor autista esta exonerado de pagar cuotas moderadoras en sus terapias?<\/p>\n
La respuesta del aplicativo IA:<\/p>\n
Si\u0301, es correcto. De acuerdo con la normativa en Colombia, los menores con diagn\u00f3stico de autismo est\u00e1n exonerados de pagar cuotas moderadoras en sus terapias. Este beneficuento [sic] esta\u0301 regulado por la Ley 1753 de 2015 y se aplica a todas las instituciones prestadoras de servicios de salud p\u00fablicas o privadas que reciban recursos del sistema general de seguridad social en salud.<\/p>\n
\u00bfLas acciones de tutela en estos casos se deben conceder?<\/p>\n
La respuesta del aplicativo IA:<\/p>\n
\u201cEn caso de que una instituci\u00f3n prestadora de servicios de salud no cumpla con la exoneraci\u00f3n de cuotas moderadoras para un menor con diagn\u00f3stico de autismo, la persona o sus representantes legales pueden presentar una acci\u00f3n de tutela para proteger sus derechos. La tutela es un mecanismo judicial r\u00e1pido y eficaz para proteger derechos fundamentales que se ven vulnerados.<\/p>\n
Si se demuestra que el derecho a la salud del menor con autismo esta\u0301 siendo afectado por la exigencia de pagar cuotas moderadoras, es probable que la acci\u00f3n de tutela sea concedida y se ordene a la instituci\u00f3n prestadora de servicios de salud cumplir con la exoneraci\u00f3n. Sin embargo, cada caso es \u00fanico y la decisi\u00f3n final depende de los hechos y circunstancias espec\u00edficas del caso.\u201d.<\/p>\n
\u00bfExigir en estos casos la cuota moderadora es una barrera de acceso al servicio de salud?<\/p>\n
La respuesta del aplicativo IA:<\/p>\n
\u201cSi\u0301, en algunos casos, la exigencia de pagar cuotas moderadoras puede ser una barrera de acceso al servicio de salud para personas con diagn\u00f3stico de autismo, especialmente si tienen dificultades para obtener ingresos o si su situaci\u00f3n econ\u00f3mica es precaria. La exigencia de pagar cuotas moderadoras puede impedir o dificultar el acceso a tratamientos y terapias esenciales para el bienestar y desarrollo de los ni\u00f1os con autismo.<\/p>\n
Por esta raz\u00f3n, la normativa en Colombia exime a los menores con diagn\u00f3stico de autismo de pagar cuotas moderadoras en sus terapias, con el objetivo de garantizar el acceso a estos servicios de salud esenciales sin obst\u00e1culos financieros.\u201d.<\/p>\n
\u00bfLa jurisprudencia de la corte constitucional ha tomado decisiones favorables en casos similares?<\/p>\n
La respuesta del aplicativo IA:<\/p>\n
\u201cSi\u0301, es cierto. La Corte Constitucional de Colombia ha tomado decisiones favorables en casos similares relacionados con la exoneraci\u00f3n de cuotas moderadoras para personas con diagn\u00f3stico de autismo. La jurisprudencia ha reconocido la importancia de garantizar el acceso a servicios de salud esenciales para las personas con autismo, y ha sostenido que la exigencia de pagar cuotas moderadoras puede ser una barrera de acceso a estos servicios. La jurisprudencia de la Corte Constitucional es una fuente importante para interpretar y aplicar la Constituci\u00f3n y las leyes en Colombia, y sus decisiones son vinculantes para todas las autoridades y entidades p\u00fablicas del pa\u00eds. Por lo tanto, las decisiones favorables en casos similares pueden ser \u00fatiles como precedente para otros casos en los que se debata la exigencia de pagar cuotas moderadoras para personas con diagn\u00f3stico de autismo.\u201d<\/p>\n
22. Sobre el uso de la IA explic\u00f3 que su prop\u00f3sito no es reemplazar la decisi\u00f3n del juez, sino optimizar los tiempos empleados en la redacci\u00f3n de sentencias, previa corroboraci\u00f3n de la informaci\u00f3n obtenida. Al respecto, en declaraci\u00f3n ante esta Corte, en el tr\u00e1mite de revisi\u00f3n, el juez insisti\u00f3 en que la decisi\u00f3n la tom\u00f3 \u00e9l, no la IA, la que consult\u00f3 simplemente como una herramienta m\u00e1s de trabajo despu\u00e9s de haber adoptado la determinaci\u00f3n en el caso concreto. De acuerdo con ello, sostuvo que la consulta en ChatGPT fue solo un complemento de la decisi\u00f3n que ya hab\u00eda adoptado con base en los fundamentos cl\u00e1sicos de administraci\u00f3n de justicia, basados en el razonamiento judicial.<\/p>\n
Actuaciones en sede de revisi\u00f3n<\/p>\n
23. Selecci\u00f3n. El expediente fue enviado a la Corte Constitucional en cumplimiento de lo dispuesto en el art\u00edculo 32 del Decreto 2591 de 1991. En un principio, el estudio del caso para su eventual selecci\u00f3n en sede de revisi\u00f3n le correspondi\u00f3 a la Sala de Selecci\u00f3n Cuatro de 2023, la cual, mediante auto del 28 de abril de ese a\u00f1o, se abstuvo de hacerlo. No obstante, el expediente fue insistido por la magistrada Paola Andrea Meneses Mosquera, por el magistrado Jos\u00e9 Fernando Reyes Cuartas y por la Defensor\u00eda del Pueblo, bajo los siguientes argumentos:<\/p>\n
24. Insistencia magistrada Paola Andrea Meneses Mosquera. Expres\u00f3 que el caso reflejaba debates novedosos para la Corte, particularmente, en lo que respecta a la falta de regulaci\u00f3n en el uso de la IA en cuanto a la argumentaci\u00f3n judicial, lo que plantea una serie de desaf\u00edos y consideraciones \u00e9ticas y legales, como la transparencia, la protecci\u00f3n de diversos derechos fundamentales involucrados y los mecanismos de control y supervisi\u00f3n adecuados. Consecuentemente, destac\u00f3 que esta corporaci\u00f3n tendr\u00eda que definir las pautas sobre c\u00f3mo se deben utilizar las tecnolog\u00edas de IA en la toma de decisiones judiciales.<\/p>\n
25. Insistencia magistrado Jos\u00e9 Fernando Reyes Cuartas. Desarroll\u00f3 algunos puntos contextuales sobre ChatGPT, la IA y su uso en otros pa\u00edses, para indicar que ni la legislaci\u00f3n ni la jurisprudencia constitucional colombiana regulan el uso de las herramientas de la IA en el marco de la administraci\u00f3n de justicia. De esta forma, precis\u00f3 que el asunto es novedoso y su selecci\u00f3n le permitir\u00eda a esta Corte determinar bajo qu\u00e9 par\u00e1metros es constitucional que los jueces puedan usar la plataforma ChatGPT u otro instrumento de IA para el cumplimiento de sus funciones.<\/p>\n
26. Insistencia de la Defensor\u00eda del Pueblo. Manifest\u00f3 que, si bien la utilizaci\u00f3n de las Tecnolog\u00edas de la Informaci\u00f3n y las Comunicaciones (TIC) est\u00e1n llamadas a apoyar y ayudar a los operadores judiciales en la toma de decisiones, la utilizaci\u00f3n espec\u00edfica de la IA debe ser objeto de l\u00edmites y controles. As\u00ed, destac\u00f3 que, aunque existe normativa en el ordenamiento jur\u00eddico colombiano que busca por medio de las tecnolog\u00edas facilitar el acceso a la administraci\u00f3n de justicia, se podr\u00eda estar ante la eventual vulneraci\u00f3n del derecho al debido proceso, pues el uso de estas herramientas en el sector justicia exige un m\u00e1ximo de cuidado y control. Por tanto, solicit\u00f3 a esta Corte pronunciarse sobre el tema, con el fin de que se establezcan las definiciones, l\u00edmites y controles necesarios conforme a la Constituci\u00f3n Pol\u00edtica.<\/p>\n
<\/p>\n
27. La Sala de Selecci\u00f3n de Tutelas N\u00famero Seis de la Corte Constitucional seleccion\u00f3 el asunto para revisi\u00f3n por cumplir con los criterios objetivos referentes a \u00abasunto novedoso\u00bb y \u00abexigencia de aclarar el contenido y alcance de un derecho fundamental\u00bb. El auto respectivo fue notificado el 17 de junio de 2023 y la Secretar\u00eda General remiti\u00f3 el expediente al despacho del magistrado sustanciador para lo de su competencia.<\/p>\n
28. Primer auto de pruebas. Mediante auto del 22 de agosto de 2023, el magistrado sustanciador decret\u00f3 pruebas de oficio. En particular, (i) indag\u00f3 sobre las condiciones del menor de edad y si estaba recibiendo servicios de salud sin pagos por cuotas moderadoras o copagos; (ii) orden\u00f3 tomar la declaraci\u00f3n del Juez del Circuito, para que respondiera interrogantes relacionados con el uso que le dio a la herramienta ChatGPT para sustanciar la sentencia que profiri\u00f3 el 30 de enero de 2023; (iii) acudi\u00f3 ante entidades del Estado y colegios de jueces y fiscales del pa\u00eds, con el fin de esclarecer si exist\u00edan protocolos, lineamientos o gu\u00edas para el uso de herramientas de inteligencia artificial generativas en el pa\u00eds; (iv) solicit\u00f3 el concepto de abogados, doctrinantes y organizaciones civiles expertos en la influencia de las tecnolog\u00edas de la informaci\u00f3n en la aplicaci\u00f3n del derecho, sobre las implicaciones de utilizar estas herramientas en la sustentaci\u00f3n de decisiones judiciales y si conoc\u00edan de regulaciones nacionales o internacionales al respecto; y (v) le pregunt\u00f3 a ciertas facultades de ingenier\u00eda de universidades del pa\u00eds sobre las condiciones y limitaciones t\u00e9cnicas que pod\u00edan tener las herramientas de inteligencia artificial generativas y su incidencia en la sustentaci\u00f3n de decisiones judiciales.<\/p>\n
29. Segundo auto de pruebas. El 13 de diciembre de 2023, la Sala Segunda de Revisi\u00f3n emiti\u00f3 un segundo auto de pruebas y suspendi\u00f3 los t\u00e9rminos por tres meses, con el fin de decretar y practicar pruebas adicionales, en atenci\u00f3n a la complejidad del asunto. En concreto, la Sala formul\u00f3 preguntas adicionales relacionadas con (i) las potencialidades del uso de herramientas de IA en las labores judiciales; (ii) los riesgos de su uso y la forma en que se pueden contrarrestar; (iii) las caracter\u00edsticas de las herramientas de IA que existen hoy en d\u00eda y la posibilidad de usarlas para apoyar labores judiciales: lo anterior, sin poner en riesgo derechos y principios y procurando aportar para hacer m\u00e1s efectiva la administraci\u00f3n de justicia; y (iv) los aspectos t\u00e9cnicos, operativos y econ\u00f3micos que deben tenerse en cuenta para implementar el uso de las herramientas de inteligencia artificial generativa en la Rama Judicial.<\/p>\n
30. Las respuestas a dichos autos de pruebas se encuentran en los anexos 2, 3 y 4 de la presente providencia. Las entidades y personas que participaron se relacionan a continuaci\u00f3n: Facultad de Ingenier\u00eda, Escuela de Gobierno y Facultad de Derecho de la Universidad de los Andes; Facultad de Ingenier\u00eda de la Universidad de la Sabana; Mujeres TIC; Ministerio de las Tecnolog\u00edas de la Informaci\u00f3n y las Comunicaciones; Consejo Superior de la Judicatura; Asociaci\u00f3n Colegio de Jueces y Fiscales de Cali; Fundaci\u00f3n Karisma; Grupo El Veinte; Open AI; Grupo de Estudios en Internet, Comercio Electr\u00f3nico, Telecomunicaciones e inform\u00e1tica de la Universidad de los Andes; Juez del Circuito; Blanca, como representante legal de su hijo; Colegio de Jueces y Fiscales de Antioquia; Agneris Sampieri; Asociaci\u00f3n Colombiana de Mujeres; Erick Rinc\u00f3n C\u00e1rdenas de la Universidad del Rosario; Escuela Judicial Rodrigo Lara Bonilla; el Centro de Internet y Sociedad de la Universidad del Rosario; el Congreso de la Rep\u00fablica de Colombia; Lorena Fl\u00f3rez Rojas y Juan David Guti\u00e9rrez Rodr\u00edguez. De manera adicional, en el anexo 1 se incluye la intervenci\u00f3n de Daniel Cort\u00e9s, quien actu\u00f3 como coadyuvante de la parte demandante, al igual que las intervenciones de Link TIC S.A.S., Pilar Ib\u00e1\u00f1ez y Pedro Nel Rueda Garc\u00e9s quienes, de manera voluntaria, remitieron sus conceptos a esta Corte. En los respectivos anexos se encuentra una s\u00edntesis de cada pronunciamiento, que por su extensi\u00f3n no es incluida en la sentencia.<\/p>\n
. CONSIDERACIONES<\/p>\n
Competencia<\/p>\n
32. Con fundamento en los art\u00edculos 86 y 241.9 de la Constituci\u00f3n y 31 a 36 del Decreto 2591 de 1991, la Sala Segunda de Revisi\u00f3n de Tutelas de la Corte Constitucional es competente para revisar los fallos de tutela proferidos en el proceso de la referencia.<\/p>\n
Examen de procedencia de la acci\u00f3n de tutela<\/p>\n
33. La acci\u00f3n de tutela es un mecanismo de defensa judicial que permite la protecci\u00f3n inmediata de los derechos fundamentales de una persona, cuando estos resulten comprometidos por la acci\u00f3n u omisi\u00f3n de autoridades p\u00fablicas o particulares. No obstante, pese a la informalidad que se predica de este mecanismo, su procedencia est\u00e1 sometida al cumplimiento de los requisitos de legitimaci\u00f3n, inmediatez y subsidiariedad.<\/p>\n
34. Legitimaci\u00f3n. Se refiere, en esencia, al inter\u00e9s que ostentan quienes intervienen en el tr\u00e1mite constitucional, bien porque son titulares de los derechos cuya protecci\u00f3n o restablecimiento se discute (activa) o porque tienen la capacidad legal de responder por la vulneraci\u00f3n o amenaza alegada (pasiva).<\/p>\n
35. Legitimaci\u00f3n por activa. El art\u00edculo 86 de la Constituci\u00f3n Pol\u00edtica establece la facultad que tiene toda persona para interponer la tutela por s\u00ed misma o por quien act\u00fae a su nombre, con el fin de reclamar ante los jueces la protecci\u00f3n inmediata de sus derechos constitucionales fundamentales, cuando quiera que estos resulten vulnerados o amenazados. La legitimaci\u00f3n para interponer la acci\u00f3n de tutela se encuentra regulada en el art\u00edculo 10 del Decreto 2591 de 1991, seg\u00fan el cual esta puede presentarse: (i) directamente por el afectado, (ii) a trav\u00e9s de su representante legal, (iii) por medio de apoderado judicial o (iv) por un agente oficioso. El inciso final de este art\u00edculo tambi\u00e9n faculta al defensor del pueblo y a los personeros municipales para interponer la acci\u00f3n de tutela directamente.<\/p>\n
36. En el presente caso, este requisito se encuentra acreditado debido a que la tutela fue interpuesta por Blanca, madre del ni\u00f1o Emilio, quien actu\u00f3 como representante legal de su hijo con el fin de invocar la protecci\u00f3n de sus derechos fundamentales al debido proceso, a la vida, a la salud y a la seguridad social. En el caso en concreto, es claro que el ni\u00f1o, quien ha sido diagnosticado con TEA, no puede acudir a la defensa directa de sus derechos.<\/p>\n
37. Legitimaci\u00f3n por pasiva. La jurisprudencia constitucional ha establecido que la legitimaci\u00f3n por pasiva en la acci\u00f3n de tutela hace referencia a la aptitud legal de la entidad o de los particulares contra quienes se dirige la acci\u00f3n, de ser los llamados a responder por la vulneraci\u00f3n o amenaza de derechos fundamentales, en caso de que la transgresi\u00f3n resulte probada. De acuerdo con el art\u00edculo 86 superior, la legitimaci\u00f3n por pasiva exige acreditar dos requisitos: (i) que la acci\u00f3n se dirige contra autoridades o particulares que presten un servicio p\u00fablico o cuya conducta afecte grave y directamente el inter\u00e9s colectivo o respecto de los cuales el solicitante se halle en estado de subordinaci\u00f3n o indefensi\u00f3n y (ii) que la conducta que genera la vulneraci\u00f3n o amenaza del derecho se pueda vincular, directa o indirectamente, con su acci\u00f3n u omisi\u00f3n.<\/p>\n
38. En este proceso, la acci\u00f3n se presenta en contra de un particular que presta un servicio p\u00fablico. De acuerdo con el art\u00edculo 42.2 del Decreto Legislativo 2591 de 1991, la acci\u00f3n de tutela procede en contra de acciones u omisiones de particulares que est\u00e9n encargados de la prestaci\u00f3n del servicio p\u00fablico de salud. En este caso, la accionada es la EPS, entidad promotora de salud a la cual se le atribuye la violaci\u00f3n de los derechos fundamentales del ni\u00f1o Emilio. As\u00ed las cosas, se encuentra acreditado este requisito.<\/p>\n
39. Inmediatez. La jurisprudencia constitucional ha resaltado que, de conformidad con el art\u00edculo 86 de la Constituci\u00f3n, la acci\u00f3n de tutela no tiene t\u00e9rmino de caducidad. Sin embargo, esta debe formularse en un plazo razonable desde el momento en el que se produjo el hecho vulnerador. Este requisito responde al prop\u00f3sito de protecci\u00f3n inmediata de los derechos fundamentales, lo que implica que, pese a no existir un t\u00e9rmino espec\u00edfico para acudir ante el juez constitucional, las personas deben actuar diligentemente y presentar la acci\u00f3n de tutela en un tiempo razonable. El juez evaluar\u00e1 las circunstancias de cada caso para determinar si el recurso fue presentado oportunamente, flexibilizando su an\u00e1lisis ante la concurrencia de sujetos de especial protecci\u00f3n constitucional o personas en condici\u00f3n de vulnerabilidad. El requisito de inmediatez debe evaluarse en cada caso concreto, de conformidad con los principios de razonabilidad y proporcionalidad.<\/p>\n
40. En circunstancias excepcionales, el juez de tutela puede concluir que resulta procedente una solicitud de amparo presentada despu\u00e9s de transcurrido un tiempo considerable desde el momento en que se vulner\u00f3 o amenaz\u00f3 un derecho fundamental. Dichas circunstancias son las siguientes: (i) cuando se advierten razones v\u00e1lidas para la inacci\u00f3n del actor, tales como la configuraci\u00f3n de situaciones de caso fortuito o fuerza mayor; (ii) en los casos en los que la situaci\u00f3n de debilidad manifiesta del peticionario torna desproporcionada la exigencia del plazo razonable y (iii) excepcionalmente, cuando se presenta una situaci\u00f3n de permanencia o prolongaci\u00f3n en el tiempo de la vulneraci\u00f3n o amenaza de los derechos fundamentales que hace imperiosa la intervenci\u00f3n del juez constitucional.<\/p>\n
41. En el presente asunto, el 31 de agosto de 2022, la tutelante radic\u00f3 una petici\u00f3n ante la entidad accionada, en la que solicit\u00f3 ser exonerada del pago de cuotas moderadoras de salud y copagos. La EPS contest\u00f3 que deb\u00eda acercarse ante la entidad con la documentaci\u00f3n necesaria. La accionante la present\u00f3, pero, seg\u00fan indic\u00f3, la EPS no adelant\u00f3 las gestiones correspondientes. El 13 de diciembre de aquel a\u00f1o, la tutelante interpuso acci\u00f3n constitucional. Esto es, tres meses y medio despu\u00e9s de haber radicado la solicitud. Este es un lapso razonable para instaurar la acci\u00f3n de amparo. Por tanto, se acredita este presupuesto.<\/p>\n
42. Subsidiariedad. El inciso 4.\u00ba del art\u00edculo 86 de la Constituci\u00f3n consagra el principio de subsidiariedad como requisito de procedencia de la acci\u00f3n de tutela y determina que \u00ab[e]sta acci\u00f3n s\u00f3lo proceder\u00e1 cuando el afectado no disponga de otro medio de defensa judicial, salvo que aquella se utilice como mecanismo transitorio para evitar un perjuicio irremediable\u00bb. Es decir que, si existen otros mecanismos de defensa judicial que resultan id\u00f3neos y eficaces para solicitar la protecci\u00f3n de los derechos que se consideran amenazados o vulnerados, se debe acudir a ellos y no a la tutela.<\/p>\n
43. Sobre el particular, la Corte Constitucional ha determinado que cuando una persona acude ante el juez de tutela con el fin de que le sean protegidos sus derechos, no puede desconocer las acciones judiciales contempladas en el ordenamiento jur\u00eddico, ni pretender que se adopten decisiones paralelas a las del funcionario que debe conocer un determinado asunto radicado bajo su competencia, dentro del marco estructural de la administraci\u00f3n de justicia.<\/p>\n
44. Sin embargo, aun cuando existan mecanismos dispuestos en el ordenamiento para la satisfacci\u00f3n de los derechos fundamentales presuntamente vulnerados, en virtud de lo dispuesto en los art\u00edculos 86 superior y 6.\u00ba del Decreto 2591 de 1991, la tutela es procedente si se acredita (i) que el mecanismo principal no es id\u00f3neo ni eficaz o (ii) que a pesar de ser apto, no es lo suficientemente expedito para evitar que se configure un perjuicio irremediable.<\/p>\n
45. El primer escenario descrito se refiere a la idoneidad del medio de defensa judicial. Tal an\u00e1lisis, seg\u00fan la jurisprudencia de esta corporaci\u00f3n, no puede hacerse en abstracto, sino que depende del caso concreto, para lo cual deben tomarse en cuenta las caracter\u00edsticas procesales del mecanismo y el derecho fundamental involucrado. As\u00ed, el mecanismo principal excluye la procedencia de la acci\u00f3n de tutela cuando salvaguarda de manera eficaz el derecho respecto del cual se solicita el amparo.<\/p>\n
46. El segundo escenario se refiere a la interposici\u00f3n de la acci\u00f3n de tutela como mecanismo transitorio. La Corte Constitucional ha establecido que, en este caso, debido a que existe un medio judicial principal, se debe demostrar que la intervenci\u00f3n del juez constitucional es necesaria para evitar la ocurrencia de un perjuicio irremediable. Sobre la naturaleza de tal perjuicio, la jurisprudencia ha se\u00f1alado:<\/p>\n
(i) debe ser inminente, es decir, que se trate de una amenaza que est\u00e1 por suceder prontamente; (ii) debe ser grave, esto es, que el da\u00f1o o menoscabo material o moral en el haber jur\u00eddico de la persona sea de gran intensidad; (iii) las medidas que se requieren para conjurar el perjuicio irremediable deben ser urgentes; y (iv) la acci\u00f3n de tutela debe ser impostergable a fin de garantizar que sea adecuada para restablecer el orden social justo en toda su integridad<\/p>\n
48. Esta corporaci\u00f3n ha afirmado que el art\u00edculo 41 de la Ley 1122 de 2007 asigna a la Superintendencia Nacional de Salud funciones jurisdiccionales para conocer controversias relacionadas con la cobertura de servicios, tecnolog\u00edas o procedimientos de salud incluidos en el PBS. Sin embargo, en reiterada jurisprudencia, ha determinado que dicho mecanismo no es eficaz para la protecci\u00f3n de los derechos fundamentales de los usuarios, pues \u00abpresenta deficiencias normativas y estructurales que mientras no se solventen, impiden considerarlo como eficaz para la efectiva protecci\u00f3n del derecho a la salud\u00bb. En todo caso, a\u00fan en el evento en que tales dificultades se superen, dicho medio de defensa no desplaza por completo a la acci\u00f3n de tutela. En cada caso particular debe evaluarse: \u00aba) si la funci\u00f3n jurisdiccional es id\u00f3nea y eficaz; b) si el asunto versa sobre la negativa o la omisi\u00f3n en prestaci\u00f3n de servicios y tecnolog\u00edas en salud y c) la posible afectaci\u00f3n de los derechos fundamentales de un sujeto de especial protecci\u00f3n, como los ni\u00f1os y los adultos mayores\u00bb.<\/p>\n
49. En el presente asunto, la accionante acude a la acci\u00f3n de tutela para que la exoneren de los copagos y cuotas moderadoras en salud en los que debe incurrir para que su hijo reciba terapias de rehabilitaci\u00f3n en las \u00e1reas de psicolog\u00eda, terapia ocupacional y fonoaudiolog\u00eda. Adem\u00e1s, solicita que le sean cubiertos los gastos de transporte. Lo anterior, en tanto afirma que no tiene los recursos econ\u00f3micos para asumir aquellos gastos. Al respecto, la Sala encuentra que la accionante est\u00e1 clasificada en el grupo A4 del SISBEN, es decir, en pobreza extrema y, aunque registra afiliaci\u00f3n en el r\u00e9gimen contributivo de salud, lo est\u00e1 en calidad de beneficiaria. En esa medida, ciertamente, la accionante tiene escasos recursos econ\u00f3micos, lo cual puede afectar el acceso a los servicios de salud que requiere su hijo, quien es sujeto de especial protecci\u00f3n constitucional.<\/p>\n
50. En s\u00edntesis, la Sala encuentra que la acci\u00f3n de tutela presentada por Blanca satisface los requisitos generales de procedibilidad.<\/p>\n
Carencia actual de objeto. Reiteraci\u00f3n de jurisprudencia<\/p>\n
51. La jurisprudencia constitucional\u00a0ha determinado que la carencia actual de objeto sucede cuando la acci\u00f3n de tutela ha perdido su raz\u00f3n de ser, ya sea por un hecho superado, por un da\u00f1o consumado o por una situaci\u00f3n sobreviniente. Se trata de una figura procesal por medio de la cual el juez constitucional debe constatar si, en efecto, la situaci\u00f3n que motiv\u00f3 la solicitud de amparo se encuentra superada.<\/p>\n
52. En la Sentencia SU-522 de 2019\u00a0la Sala Plena de la Corte hizo un balance de la jurisprudencia constitucional en la materia y explic\u00f3 las hip\u00f3tesis que la configuran. Respecto del hecho superado reiter\u00f3 que corresponde a la satisfacci\u00f3n de lo pretendido en la acci\u00f3n de tutela por parte de la entidad accionada. En estos casos, el juez debe comprobar si (i) lo pedido mediante acci\u00f3n de tutela ha sido satisfecho de manera integral y (ii) si la entidad demandada actu\u00f3 o ces\u00f3 en su accionar, seg\u00fan corresponda, de manera voluntaria.<\/p>\n
53. Por su parte, el da\u00f1o consumado se presenta cuando no es posible proteger el derecho fundamental, debido a que la afectaci\u00f3n que se pretend\u00eda evitar se materializ\u00f3.<\/p>\n
54. En cuanto a la circunstancia o el hecho sobreviniente, en el fallo aludido, la Corte se\u00f1al\u00f3 que\u00a0\u00abremite a cualquier \u201cotra circunstancia que determine que, igualmente, la orden del juez de tutela relativa a lo solicitado en la demanda de amparo no surta ning\u00fan efecto y por lo tanto caiga en el vac\u00edo\u201d. No se trata entonces de una categor\u00eda homog\u00e9nea y completamente delimitada\u00bb.\u00a0En ese sentido, se puede entender que el hecho sobreviniente tiene un car\u00e1cter residual, es decir, se configura cuando la circunstancia estudiada no encuadra dentro de alguno de los dos conceptos tradicionales (hecho superado y da\u00f1o consumado) en materia de carencia actual de objeto.<\/p>\n
55. As\u00ed, lo que diferencia a la circunstancia sobreviniente del hecho superado es que en la primera situaci\u00f3n el objeto de la tutela pierde su raz\u00f3n de ser por un hecho ajeno a la parte accionada \u2013bien sea, por ejemplo, por la actuaci\u00f3n de un tercero, del mismo accionante o porque este ha perdido inter\u00e9s en la satisfacci\u00f3n de su pretensi\u00f3n\u2013, mientras que el hecho superado se configura cuando el extremo demandado ha satisfecho, por iniciativa propia, el objeto de la acci\u00f3n de tutela.<\/p>\n
56. Respecto del deber del juez de tutela en los casos en que se configura un hecho superado o una situaci\u00f3n sobreviniente, esta Corte ha unificado su jurisprudencia para sostener que, aunque no es imperioso que este profiera una decisi\u00f3n de fondo, puede emitir un pronunciamiento en ese sentido cuando lo considere necesario para \u00aba) llamar la atenci\u00f3n sobre la falta de conformidad constitucional de la situaci\u00f3n que origin\u00f3 la tutela y\u00a0tomar medidas para que los hechos vulneradores no se repitan; b) advertir la inconveniencia de su repetici\u00f3n, so pena de las sanciones pertinentes; c)\u00a0corregir las decisiones\u00a0judiciales de instancia; o d) avanzar en la comprensi\u00f3n de un derecho fundamental\u00bb.<\/p>\n
57. Con base en estas consideraciones, la Sala de Revisi\u00f3n procede a analizar si en el caso sometido a estudio se configur\u00f3 una carencia actual de objeto. En el informe que se le solicit\u00f3 rendir a Blanca en el presente tr\u00e1mite de revisi\u00f3n, esta afirm\u00f3 que la EPS ha respondido directa y diligentemente a las solicitudes que realiz\u00f3 en la demanda de tutela y ha hecho un seguimiento continuo del caso a trav\u00e9s de llamadas de supervisi\u00f3n con el fin de estar enterada de los pormenores que han ido surgiendo desde la presentaci\u00f3n del escrito de tutela. No obstante, realiz\u00f3 la siguiente precisi\u00f3n:<\/p>\n
[M]e encuentro exonerada del pago de cuotas moderadoras de salud y copagos para los servicios de salud de mi hijo Emilio, pero el ni\u00f1o requiere una serie de estudios cada 3 meses con el m\u00e9dico neur\u00f3logo, con el psiquiatra y genetista, adem\u00e1s se le practican resonancias, estudios gen\u00e9ticos, electrocardiogramas, encefalogramas, evocados auditivos, sin embargo, al momento de acudir a las entidades que prestan los servicios, estas nos solicitan el pago de cuotas moderadoras de salud y copago, de manera que me toca expresar que mi hijo se encuentra exonerado de este copago, a lo que las entidades manifiestan que estos son temas que deben manejarse directamente con la EPS, situaci\u00f3n que hace que debe dirigirme a la EPS para exponerles la situaci\u00f3n, los cuales de manera diligente gestionan el cumplimiento de esta exoneraci\u00f3n.<\/p>\n
58. Y, en cuanto al servicio de transporte, sostuvo:<\/p>\n
[N]o me toca pagar vi\u00e1ticos para dirigirme a los controles terap\u00e9uticos, mientras que para cuestiones de inspecci\u00f3n con especialistas, en los casos de neur\u00f3logo, psiquiatra, genetista, y para los procesos de resonancias, estudios gen\u00e9ticos, electrocardiogramas, encefalogramas y evocados auditivos, s\u00ed es necesario que haga uso de mis recursos econ\u00f3micos para el pago de los vi\u00e1ticos para dirigirme a los lugares donde el ni\u00f1o Emilio recibe los servicios de salud<\/p>\n
59. Visto lo anterior, en lo que se refiere al suministro directo o pago de gastos de transporte para la atenci\u00f3n m\u00e9dica del ni\u00f1o, es claro que no se configura un hecho superado debido a que la EPS accionada \u00fanicamente ha satisfecho la pretensi\u00f3n respecto de los trayectos requeridos para las terapias que le son prescritas al ni\u00f1o, no as\u00ed para el desplazamiento a citas con las diferentes especialidades m\u00e9dicas que lo atienden y las ayudas diagn\u00f3sticas que se le ordenan.<\/p>\n
60. La Sala tampoco advierte un hecho superado en relaci\u00f3n con las transgresiones alegadas por el cobro de copagos y cuotas moderadoras que genera la atenci\u00f3n m\u00e9dica y asistencial del ni\u00f1o. Si bien la accionante admiti\u00f3 que en la actualidad se encuentra exonerada de tales pagos, tambi\u00e9n manifest\u00f3 que la efectividad de tal medida se ve reducida por la falta de comunicaci\u00f3n entre la EPS accionada y las IPS encargadas del suministro de la atenci\u00f3n m\u00e9dico asistencial del menor que, en muchas ocasiones, al no tener conocimiento de la medida de exoneraci\u00f3n, generan el cobro de copagos y cuotas moderadoras, lo que se traduce en cargas administrativas para que la accionante gestione entre ambas entidades el reconocimiento de la exoneraci\u00f3n, lo que de ser as\u00ed alterar\u00eda el respeto por los principios de accesibilidad e integralidad del SGSSS, con la consecuente afectaci\u00f3n del derecho a la salud del menor de edad.<\/p>\n
61. Por \u00faltimo, tampoco se estructura una carencia actual de objeto por un hecho superado, respecto al tratamiento integral, toda vez que persiste la duda de que se haya garantizado la continuidad en la prestaci\u00f3n del servicio de salud en su totalidad. Al ser el agenciado un sujeto de especial protecci\u00f3n constitucional, es importante para esta Sala revisar el asunto.<\/p>\n
62. Establecido que se cumplen los requisitos de procedibilidad y que no se ha configurado una carencia actual de objeto, se procede al an\u00e1lisis de fondo de la actuaci\u00f3n.<\/p>\n
Problema jur\u00eddico y metodolog\u00eda de la decisi\u00f3n<\/p>\n
63. La Sala deber\u00e1 revisar dos aspectos de la actuaci\u00f3n. Por una parte, verificar\u00e1 la posible vulneraci\u00f3n del derecho fundamental al debido proceso en cuanto la decisi\u00f3n de segunda instancia proferida en este radicado, ya que, en ella, para resolverla, el juez hizo uso de IA, en espec\u00edfico, de ChatGPT 3.5; por otra, estudiar\u00e1 si se lesion\u00f3 el derecho a la salud del ni\u00f1o Emilio, al no ser exonerado de los cobros de copagos y cuotas moderadoras en el SGSSS, al no suministrarle el servicio de transporte integralmente y al neg\u00e1rsele el derecho a un tratamiento integral.<\/p>\n
* Sobre la violaci\u00f3n al debido proceso<\/p>\n
64. En cuanto a la primera cuesti\u00f3n se tiene que, el Juzgado del Circuito, actuando en calidad de juez de tutela de segunda instancia en la actuaci\u00f3n de la referencia, hizo uso de una herramienta de IA generativa, en espec\u00edfico de ChatGPT 3.5, para elevar consultas jur\u00eddicas relacionadas con la materia puesta a su conocimiento. En concreto, gestion\u00f3 algunas preguntas en el aplicativo y copi\u00f3 las respuestas obtenidas en la sentencia.<\/p>\n
65. El anterior proceder genera dudas respecto a (i) si quien emiti\u00f3 la decisi\u00f3n fue un juez de la Rep\u00fablica o una IA y (ii) si la decisi\u00f3n fue debidamente motivada o fue producto de respuestas o alucinaciones generadas por la IA.<\/p>\n
66. Los anteriores interrogantes llevan a plantear si el uso de IA a trav\u00e9s de la herramienta ChatGPT 3.5 que se hizo en la toma de la decisi\u00f3n de segunda instancia, para formular consultas e incorporar sus respuestas en el fallo, conlleva una violaci\u00f3n al debido proceso y, de ser as\u00ed, a la invalidez de la actuaci\u00f3n a partir de dicho pronunciamiento.<\/p>\n
Ante una vulneraci\u00f3n \u201costensible, probada, significativa\u00a0y\u00a0trascendental\u201d\u00a0del debido proceso, que tenga repercusiones sustanciales en la decisi\u00f3n, corresponde a la Corte, en concordancia con el art\u00edculo 29 superior, garantizar este derecho en todas las actuaciones ante ella surtidas, y observar que se respeten los procedimientos previstos en los Decretos 2067 y 2591 de 1991, as\u00ed como en el Reglamento interno<\/p>\n
68. En conclusi\u00f3n, esta Corte tiene la facultad de realizar un estudio de validez, bien sea oficioso o rogado, tanto del procedimiento y de las actuaciones surtidas en el proceso de tutela ante las instancias, como de sus propias determinaciones en sede del tr\u00e1mite de revisi\u00f3n de los fallos all\u00ed proferidos. Este an\u00e1lisis puede implicar que se concluya la necesidad de decretar la nulidad de lo actuado o de aplicar mecanismos de subsanaci\u00f3n, por lo cual puede realizarse, incluso, en forma previa a la revisi\u00f3n de fondo en el caso. En el presente tr\u00e1mite, la Sala abordar\u00e1 el asunto como cuesti\u00f3n de fondo pues se trata de definir, por primera vez, elementos que precisen el alcance del derecho al debido proceso frente al uso razonado de herramientas derivadas de la IA en el tr\u00e1mite de acciones de tutela. En ese sentido, se trata de una decisi\u00f3n innovadora que introduce par\u00e1metros de comportamiento judicial nunca antes abordados por la Corte Constitucional, lo que implica que el fallo tiene la potencialidad de generar un impacto social y jur\u00eddico significativo con efectos que trascienden el caso concreto. La relevancia particular que puede tener un asunto con estas caracter\u00edsticas para el inter\u00e9s p\u00fablico y el orden constitucional, adem\u00e1s de las \u00f3rdenes que deber\u00e1n impartirse al respecto, con efectos inter comunis, como se explicar\u00e1 en su momento, justifican un examen exhaustivo del uso de la IA en las decisiones judiciales que, en esta oportunidad, debe efectuarse mediante un estudio de fondo, sin perjuicio de que, en futuras ocasiones, se pueda acudir a otras metodolog\u00edas atendiendo a las particularidades del caso.<\/p>\n
69. Visto lo anterior, la Sala de Revisi\u00f3n considera que en el presente caso procede realizar un estudio oficioso acerca de la validez de las actuaciones adelantadas por el juez de tutela en segunda instancia, espec\u00edficamente, del fallo que emiti\u00f3 el 30 de enero de 2023, a efectos de establecer si en \u00e9l se incurri\u00f3 en alguna irregularidad que implique una violaci\u00f3n del derecho al debido proceso. Con tal fin, responder\u00e1 el siguiente interrogante:<\/p>\n
\u00bfLa sentencia de tutela del 30 de enero de 2023, que es objeto de revisi\u00f3n por esta Corte, incurri\u00f3 en una violaci\u00f3n del derecho al debido proceso, en espec\u00edfico, al quebrantar las garant\u00edas del juez natural y al motivar indebidamente la decisi\u00f3n, por incorporar las respuestas que arroj\u00f3 un sistema de IA generativo, ChatGPT 3.5, consultado por el juez competente para proferir la decisi\u00f3n?<\/p>\n
70. Para responder esta pregunta, se abordar\u00e1n los siguientes temas (i) el derecho fundamental al debido proceso; (ii) el debido proceso en un sistema jurisdiccional que utiliza IA; (iii) el sistema de IA. Conceptos y aspectos b\u00e1sicos acerca de su funcionamiento; (iv) impactos del uso de herramientas de IA en la sociedad; (v) el estado de la IA en Colombia, (vi) el marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas nacionales; (vii) algunas experiencias relacionadas con la IA en la pr\u00e1ctica judicial; (viii) la garant\u00eda del juez natural en un sistema jurisdiccional que utiliza IA; (ix) el debido proceso probatorio en un sistema jurisdiccional que utiliza IA y (x) conclusiones.<\/p>\n
– La exoneraci\u00f3n de cobros de copagos y cuotas moderadoras en el SGSSS, el suministro del servicio de transporte y el derecho a un tratamiento integral para ni\u00f1os con funcionalidad diversa<\/p>\n
71. Respecto a este punto, se pudo constatar que Blanca interpuso una acci\u00f3n de tutela en contra de la EPS. A juicio de la accionante, su hijo tiene derecho a ser exonerado del pago de copagos y cuotas moderadoras en salud. Asimismo, solicit\u00f3 que los gastos de transporte fueran cubiertos y se le garantizara al ni\u00f1o un tratamiento integral. Los jueces de instancia ordenaron a la entidad accionada cubrir los gastos de transporte en los que incurr\u00eda la accionante para llevar a su hijo a las terapias y exonerar a este \u00faltimo de copagos y cuotas moderadoras en salud.<\/p>\n
72. La Sala de Revisi\u00f3n se pronunciar\u00e1 sobre el debate constitucional derivado del siguiente problema jur\u00eddico:<\/p>\n
\u00bfUna EPS vulnera los derechos fundamentales\u00a0a la salud, la vida digna y la seguridad social\u00a0de un ni\u00f1o diagnosticado con trastorno de espectro autista (i) al no exonerarlo de copagos y cuotas moderadoras; (ii) al no suministrarle el servicio de transporte interurbano bajo el argumento de que no existe prescripci\u00f3n m\u00e9dica que lo ordene pese a que su familia cuenta con escasos recursos para cubrirlo y (iii) al no autorizarle un tratamiento integral?<\/p>\n
73. \u00a0Con el prop\u00f3sito de resolver estos interrogantes, la Sala abordar\u00e1 los siguientes temas: (i) los ni\u00f1os, ni\u00f1as y adolescentes como sujetos de especial protecci\u00f3n constitucional; (ii) las personas en situaci\u00f3n de discapacidad como sujetos de especial protecci\u00f3n constitucional; (iii) el derecho a la salud; (iv) los ni\u00f1os, ni\u00f1as y adolescentes en situaci\u00f3n de discapacidad y la protecci\u00f3n de su derecho fundamental a la salud; (v) la prohibici\u00f3n de anteponer barreras administrativas para la prestaci\u00f3n del servicio de salud; (vi) tratamiento integral; (vii) reconocimiento de los gastos de transporte para el paciente y un acompa\u00f1ante y (viii) cobros en el sistema de seguridad social en salud. Exoneraci\u00f3n de copagos y cuotas moderadoras para personas en situaci\u00f3n de discapacidad f\u00edsica o cognitiva. (ix) Finalmente se resolver\u00e1n los dos aspectos planteados.<\/p>\n
Uso de la herramienta de inteligencia artificial IA generativa ChatGPT en procesos de tutela y debido proceso<\/p>\n
i. (i) \u00a0El derecho fundamental al debido proceso<\/p>\n
74. El art\u00edculo 29 de la Constituci\u00f3n Pol\u00edtica consagra el derecho fundamental del debido proceso, el cual a su vez est\u00e1 conformado por una serie de garant\u00edas aplicables a todo tipo de procedimientos. Desde este punto de vista, las normas procesales que se refieren a los derechos fundamentales que conforman el debido proceso no pueden ser tenidas como normas adjetivas, sino que ellas son normas sustanciales.<\/p>\n
75. La jurisprudencia constitucional ha definido el derecho al debido proceso como \u00abel conjunto de garant\u00edas previstas en el ordenamiento jur\u00eddico, a trav\u00e9s de las cuales se busca la protecci\u00f3n del individuo incurso en una actuaci\u00f3n judicial o administrativa, para que durante su tr\u00e1mite se respeten sus derechos y se logre la aplicaci\u00f3n correcta de la justicia\u00bb.<\/p>\n
76. Algunas de las garant\u00edas que componen el debido proceso son la \u00ablegalidad, juez natural o legal, favorabilidad, presunci\u00f3n de inocencia, derecho a la \u00a0defensa \u00a0 (derecho a la asistencia de un abogado, a presentar y controvertir pruebas, a oponer la nulidad de las obtenidas con violaci\u00f3n del debido proceso, y a impugnar la sentencia condenatoria), debido proceso p\u00fablico sin dilaciones injustificadas, y a no ser juzgado dos veces por el mismo hecho\u00bb; entre estas tambi\u00e9n se ha incluido la jurisdicci\u00f3n o libre acceso a la administraci\u00f3n de justicia. Esta corporaci\u00f3n ha admitido que en ciertas \u00e1reas los diferentes amparos en que se manifiesta el debido proceso pueden aplicar con una mayor rigurosidad.<\/p>\n
77. En el siguiente cuadro, se indica, de manera preliminar, el contenido de dichas garant\u00edas:<\/p>\n
Derecho \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Contenido<\/p>\n
El derecho a la jurisdicci\u00f3n o al libre acceso a la administraci\u00f3n de justicia \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Conlleva los derechos al libre e igualitario acceso a los jueces y autoridades administrativas, a obtener decisiones motivadas, a impugnar las decisiones ante autoridades de jerarqu\u00eda superior y al cumplimiento de lo decidido en el fallo.<\/p>\n
El derecho al juez natural \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
El juez natural es aquel funcionario con capacidad o aptitud legal para ejercer jurisdicci\u00f3n en determinado proceso o actuaci\u00f3n, de acuerdo con la naturaleza de los hechos, la calidad de las personas y la divisi\u00f3n del trabajo establecida por la Constituci\u00f3n y la ley.<\/p>\n
El derecho a la defensa \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Se entiende como el empleo de todos los medios leg\u00edtimos y adecuados para ser o\u00eddo y obtener una decisi\u00f3n favorable. De este derecho hacen parte el derecho al tiempo y a los medios adecuados para la preparaci\u00f3n de la defensa; los derechos a la asistencia de un abogado cuando sea necesario, a la igualdad ante la ley procesal, a la buena fe y a la lealtad de todas las dem\u00e1s personas que intervienen en el proceso.<\/p>\n
El derecho a un proceso p\u00fablico \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Pretende garantizar el desarrollo del proceso o actuaci\u00f3n dentro de un tiempo razonable, lo cual exige que estos no se vean sometidos a dilaciones injustificadas o inexplicables.<\/p>\n
Principio de legalidad o formas propias de cada juicio \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
No existe facultad, funci\u00f3n o acto que puedan desarrollar los servidores p\u00fablicos que no est\u00e9 prescrito, definido o establecido en forma expresa, clara y precisa en la ley. Los servidores p\u00fablicos, como los jueces, siempre deben sujetarse a lo prescrito por la ley, la Constituci\u00f3n y dem\u00e1s normas o reglas jur\u00eddicas.<\/p>\n
Non bis in idem \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
78. El quebrantamiento de cualquiera de estas garant\u00edas constituye una violaci\u00f3n al derecho fundamental del debido proceso. Por tal motivo, su desconocimiento en el servicio p\u00fablico de administraci\u00f3n de justicia supone la violaci\u00f3n de los art\u00edculos 29, 228 y 229 superiores.<\/p>\n
() El debido proceso en un sistema jurisdiccional que utilice razonablemente IA<\/p>\n
79. Ahora, en cuanto al tema analizado, se tiene que los avances tecnol\u00f3gicos en materia de IA han tenido un impacto global complejo que ha irradiado cada \u00e1mbito de la vida humana, sin que la pr\u00e1ctica jur\u00eddica sea una excepci\u00f3n y, dentro de ella, el sistema judicial. En efecto, la proliferaci\u00f3n de sistemas de IA y su aplicaci\u00f3n en escenarios judiciales, tanto en el tr\u00e1mite como en lo sustancial, dan paso progresivo a un nuevo paradigma en el servicio p\u00fablico de administraci\u00f3n de justicia. De all\u00ed la necesidad de evaluar las condiciones para que la implementaci\u00f3n de estas nuevas tecnolog\u00edas en la Rama Judicial pueda llevarse a cabo con respeto de los derechos fundamentales, entre ellos el debido proceso.<\/p>\n
80. En ese orden de ideas, las garant\u00edas que componen el derecho fundamental mencionado son uno de los principales derroteros para estudiar los sistemas de IA que pretendan utilizarse en un sistema jurisdiccional. Aunque el debido proceso est\u00e1 integrado por un amplio abanico de garant\u00edas, no todas tienen la misma relevancia en el an\u00e1lisis de tal materia. Los aspectos problem\u00e1ticos asociados a estas tecnolog\u00edas emergentes hacen que algunas de ellas puedan ser m\u00e1s \u00fatiles para aprovechar sus ventajas y controlar los riesgos de su implementaci\u00f3n en la Rama Judicial.<\/p>\n
81. \u00a0De manera particular esta Sala de Revisi\u00f3n destaca, como componentes del debido proceso que pueden verse trasgredidos por el uso de IA, (i) la garant\u00eda del juez natural, (ii) la garant\u00eda de la motivaci\u00f3n de las decisiones judiciales y (iii) la garant\u00eda del debido proceso probatorio, las cuales se estudiar\u00e1n en esta decisi\u00f3n, pero antes de ello explicar\u00e1 brevemente en qu\u00e9 consiste un sistema de inteligencia artificial IA y los aspectos b\u00e1sicos acerca de su funcionamiento.<\/p>\n
() Sistemas de IA. Concepto y aspectos b\u00e1sicos acerca de su funcionamiento<\/p>\n
82. La b\u00fasqueda de una definici\u00f3n sobre un sistema de IA debe tener como premisa que se trata de un concepto innovador y cambiante debido a la constante y r\u00e1pida evoluci\u00f3n de este fen\u00f3meno tecnol\u00f3gico. No es lo mismo hablar de IA en 1950, cuando era una idea apenas emergente a la que ni siquiera se le hab\u00eda dado tal denominaci\u00f3n, que hablar de su significado en los d\u00edas actuales, cuando este \u00e1mbito cient\u00edfico agrupa tecnolog\u00edas que, a trav\u00e9s del procesamiento masivo de datos, tienen incluso la capacidad de permitir el aprendizaje autom\u00e1tico para este tipo de herramientas.<\/p>\n
83. Aunque las capacidades de los sistemas de IA son variables, el punto de partida para aproximarse a tal concepto est\u00e1 en cuatro criterios: (i) el razonamiento, (ii) la racionalidad, (iii) la conducta y (iv) la fidelidad en la forma de actuar con los humanos. De all\u00ed que un sistema de IA pueda definirse como (i) sistemas que piensan como humanos; (ii) sistemas que piensan racionalmente; (iii) sistemas que act\u00faan como humanos y (iv) sistemas que act\u00faan racionalmente. Con el prop\u00f3sito de comprender cada una de estas concepciones, Russell y Norvig presentan el siguiente cuadro:<\/p>\n
84. Conforme con lo anterior, se puede establecer que el razonamiento es \u00abel proceso mental de deducir conclusiones l\u00f3gicas y hacer predicciones a partir de los conocimientos, hechos y creencias disponibles. O tambi\u00e9n podemos decir que es una forma de inferir hechos a partir de datos existentes. Es un proceso general de pensar racionalmente, para encontrar conclusiones v\u00e1lidas\u00bb. Un ejemplo de razonamiento en inteligencia artificial es su capacidad para utilizar el procesamiento del lenguaje natural. Gracias al razonamiento, la IA puede tomar decisiones l\u00f3gicas y racionales. De all\u00ed que la construcci\u00f3n de una IA simule los canales neurol\u00f3gicos del cerebro humano.<\/p>\n
85. La racionalidad, se entiende como aquella habilidad de elegir la mejor acci\u00f3n a realizar con el prop\u00f3sito de alcanzar cierto objetivo, dados ciertos criterios a optimizar y teniendo como base una serie de recursos disponibles. Un sistema de IA consigue ser racional al percibir su entorno a trav\u00e9s de sensores que le permiten recoger e interpretar datos, con los cuales puede razonar sobre lo percibido o procesar la informaci\u00f3n que generan tales datos, para as\u00ed decidir cu\u00e1l es la mejor acci\u00f3n por emprender a trav\u00e9s de unos actuadores. Una vez ejecutada la acci\u00f3n es posible que se modifique el ambiente, de manera que, la pr\u00f3xima vez, el sistema necesita usar nuevamente sus sensores para poder percibir la informaci\u00f3n diferente, resultante del ambiente modificado.<\/p>\n
86. La conducta se enfoca en todas las acciones y comportamientos que los sistemas de IA pueden emitir como una respuesta a su entorno y a los est\u00edmulos que reciben, los cuales a su vez pueden variar conforme al modelo de aprendizaje usado por la misma, los datos con los que se ha entrenado el sistema, el entorno para el que se usa la IA y los objetivos para los cuales fue dise\u00f1ada.<\/p>\n
87. La fidelidad en la forma de actuar con los humanos hace referencia a la capacidad que tiene el sistema de IA para mantener y transmitir a los usuarios un comportamiento consistente, confiable y predecible en las interacciones que se den. Para lograr esa fidelidad o confianza entre m\u00e1quina y ser humano, se requiere que la herramienta tecnol\u00f3gica sea precisa, consistente y transparente con la informaci\u00f3n que emite. Aqu\u00ed, es en donde varios expertos en el asunto encuadran el tema de la \u00e9tica de la IA y su estudio.<\/p>\n
88. Los sistemas de IA tienen tres habilidades b\u00e1sicas principales: (i) percepci\u00f3n, (ii) razonamiento o toma de decisiones y (iii) actuaci\u00f3n. Estos son elementos m\u00ednimos que definen un sistema racional de IA (rational AI system), una versi\u00f3n m\u00e1s b\u00e1sica en la que hay una modificaci\u00f3n del ambiente, pero a lo largo del tiempo el sistema no tiene la capacidad de adaptar su comportamiento para alcanzar sus objetivos de una mejor manera. Su evoluci\u00f3n y modernizaci\u00f3n ha derivado en lo que se conoce como sistemas racionales de aprendizaje de IA (learning rational AI system). A diferencia de los primeros enunciados, despu\u00e9s de tomar acci\u00f3n, estos tienen la capacidad de evaluar, por medio de la percepci\u00f3n, el nuevo estado del ambiente con el fin de determinar qu\u00e9 tan exitosa fue la acci\u00f3n y, entonces, adaptar sus reglas de razonamiento y m\u00e9todos de toma de decisi\u00f3n.<\/p>\n
89. Los constantes y r\u00e1pidos avances en la materia hacen que, de manera continua, los expertos en esta disciplina cient\u00edfica realicen ajustes y actualizaciones al concepto de IA. Aunque no exista una definici\u00f3n \u00fanica y universalmente aceptada, en t\u00e9rminos simples, puede afirmarse que se trata de sistemas que tienen la capacidad para analizar el ambiente o entorno en el que est\u00e1n inmersos y as\u00ed emprender acciones, con alg\u00fan grado de autonom\u00eda, a efectos de alcanzar objetivos espec\u00edficos. En 2019, la Comisi\u00f3n Europea defini\u00f3 las herramientas de IA como:<\/p>\n
[S]istemas de software (y posiblemente tambi\u00e9n de hardware) dise\u00f1ados por humanos que, dado un objetivo complejo, act\u00faan en la dimensi\u00f3n f\u00edsica o digital percibiendo su entorno mediante la adquisici\u00f3n de datos, interpretando los datos recogidos -sean estos estructurados o no- razonando sobre el conocimiento o procesando la informaci\u00f3n derivada de estos datos y decidiendo la(s) mejor(es) acci\u00f3n(es) a tomar para alcanzar un determinado objetivo. Los sistemas de IA pueden utilizar reglas simb\u00f3licas o aprender un modelo num\u00e9rico y tambi\u00e9n pueden adaptar su comportamiento analizando c\u00f3mo se ve afectado el entorno por sus acciones anteriores<\/p>\n
90. Un concepto m\u00e1s reciente es el de la Organizaci\u00f3n para la Cooperaci\u00f3n y el Desarrollo Econ\u00f3micos (OCDE) que, el 5 de marzo de 2024, public\u00f3 el memorando explicativo n.\u00ba 8 sobre la definici\u00f3n actualizada de la OCDE de un sistema de IA, con la que efectu\u00f3 cambios al concepto que hab\u00eda adoptado en 2019, para se\u00f1alar que:<\/p>\n
Un sistema de IA es un sistema basado en una m\u00e1quina que, ya sea para alcanzar objetivos expl\u00edcitos o impl\u00edcitos, infiere -a partir de la entrada que recibe- c\u00f3mo generar salidas, tales como predicciones, contenidos, recomendaciones o decisiones, las cuales pueden influir en entornos f\u00edsicos o virtuales. Los diferentes sistemas de IA var\u00edan en sus niveles de autonom\u00eda y capacidad de adaptaci\u00f3n despu\u00e9s de su implementaci\u00f3n<\/p>\n
91. Dicho lo anterior, es importante precisar que los sistemas de IA tienen un ciclo de vida que se compone de cuatro fases: (i) el dise\u00f1o de datos y modelos, que incluye planificaci\u00f3n, dise\u00f1o, toma y procesamiento de datos, as\u00ed como construcci\u00f3n e interpretaci\u00f3n de modelos; (ii) la verificaci\u00f3n y validaci\u00f3n del sistema; (iii) el despliegue; y, por \u00faltimo, (iv) su funcionamiento y supervisi\u00f3n.<\/p>\n
92. Para explicar el concepto en t\u00e9rminos m\u00e1s ilustrativos, la OCDE propone el siguiente gr\u00e1fico, que representa una visi\u00f3n general simplificada de un sistema de IA:<\/p>\n
\u00abNota: esta figura presenta s\u00f3lo una posible relaci\u00f3n entre las fases de desarrollo y despliegue. En muchos casos, el dise\u00f1o y el entrenamiento del sistema pueden continuar en usos posteriores. Por ejemplo, quienes despliegan sistemas de IA pueden afinar o entrenar continuamente los modelos durante su funcionamiento, lo que puede influir significativamente en el rendimiento y el comportamiento del sistema\u00bb.<\/p>\n
93. Como puede observarse de los anteriores gr\u00e1ficos, en el entrenamiento de la IA son fundamentales los datos que se le suministren y en su funcionamiento destacan dos elementos esenciales: (i) la autonom\u00eda y (ii) la adaptabilidad. El primero alude al grado en el que, despu\u00e9s de la delegaci\u00f3n de autonom\u00eda y automatizaci\u00f3n de procesos por parte de los seres humanos, el sistema puede aprender o actuar sin la intervenci\u00f3n de estos. En efecto, algunos sistemas de IA pueden generar resultados que no est\u00e1n expl\u00edcitamente descritos en el objetivo del sistema y sin instrucciones espec\u00edficas de un ser humano. De otro lado, la adaptabilidad se refiere a la capacidad del sistema para modificar su comportamiento por medio de la interacci\u00f3n directa con datos de entrada, antes o despu\u00e9s de la implementaci\u00f3n.<\/p>\n
94. La adaptabilidad se presenta principalmente en sistemas de IA basados en t\u00e9cnicas de aprendizaje autom\u00e1tico (machine learning). Se trata de un tipo de aprendizaje de la IA en el que las m\u00e1quinas hacen uso de enfoques estad\u00edsticos a fin de aprender de datos hist\u00f3ricos y patrones para, de esta forma, predecir situaciones nuevas. Con ello logran resolver problemas que no pueden especificarse con exactitud o cuyo m\u00e9todo de resoluci\u00f3n no puede plantearse en reglas de razonamiento simb\u00f3lico. El proceso consistente en mejorar el rendimiento de un sistema mediante t\u00e9cnicas de aprendizaje autom\u00e1tico se conoce como entrenamiento. Los sistemas de IA pueden entrenarse una vez, peri\u00f3dicamente o de manera continua.<\/p>\n
95. Una de las ramas de la IA que aparece con el aprendizaje autom\u00e1tico es la IA generativa. Se trata de un sistema de IA basado en machine learning que tiene la capacidad de generar contenido sint\u00e9tico como texto, im\u00e1genes y sonido, a partir de un comando que contiene una premisa. Estos modelos de IA pueden producir contenidos completamente novedosos, que no han sido ingresados como entrada en el proceso de entrenamiento. Por ejemplo, si el modelo ha sido entrenado en una serie de datos de im\u00e1genes de paisajes, tendr\u00e1 la capacidad de generar im\u00e1genes de paisajes nuevos y \u00fanicos.<\/p>\n
96. Una forma de IA generativa es el procesamiento de lenguaje natural (Large Language Models -en adelante LLM-, o Sistemas Predictivos de Lenguaje), que otorga a los ordenadores la capacidad de comprender textos y palabras de manera similar a los seres humanos, para lo cual se combina la ling\u00fc\u00edstica computacional, que se basa en reglas de lenguaje humano, con modelos estad\u00edsticos.<\/p>\n
97. Visto lo anterior, es posible se\u00f1alar que, hoy en d\u00eda, la IA se diferencia de tecnolog\u00edas de la informaci\u00f3n anteriores, principalmente, por dos caracter\u00edsticas. En primer lugar, estas nuevas tecnolog\u00edas son capaces de aprender, es decir, pueden identificar patrones y descubrir nueva informaci\u00f3n sin la asistencia de un humano, as\u00ed como predecir eventos futuros. En segundo lugar, la IA puede actuar con cierto grado de autonom\u00eda. Esto es, puede tomar, por s\u00ed sola, decisiones que no est\u00e1n preprogramadas. En teor\u00eda, un nivel m\u00e1s alto de autonom\u00eda implicar\u00eda la capacidad de determinar estrategias \u00f3ptimas para completar ciertas tareas e incluso determinar objetivos.<\/p>\n
98. Estas habilidades son el resultado de la imitaci\u00f3n de las redes neuronales humanas. En otras palabras, la IA emula la estructura del cerebro humano. De este modo, las herramientas de IA aprenden sobre la base de grandes vol\u00famenes de datos y encuentran soluciones a problemas que no s\u00f3lo no se conocen, sino que en muchos casos no se podr\u00edan visualizar. Muchas veces estos sistemas descubren atributos o representaciones intermedias que le permiten realizar tareas. Otras veces encuentran una forma particular de hacerlo que no se le habr\u00eda ocurrido a un humano. Y otras tantas, estos circuitos, que se han consolidado en el entrenamiento para resolver un problema, les permiten resolver otros inesperados, sin que quien desarroll\u00f3 esa red neuronal pudiese preverlo de antemano.<\/p>\n
99. De manera especial, las herramientas de IA generativas son una clase emergente de algoritmos de inteligencia capaces de producir contenido novedoso, en diversos formatos como texto, audio, video, im\u00e1genes y c\u00f3digo, seg\u00fan las indicaciones del usuario. El aprendizaje, los conjuntos de datos masivos y los aumentos sustanciales en la potencia inform\u00e1tica han impulsado tales herramientas para el desempe\u00f1o a nivel humano en puntos de referencia acad\u00e9micos y profesionales.<\/p>\n
100. Seg\u00fan el \u00faltimo informe del \u00edndice de inteligencia artificial de 2023 de la Universidad de Stanford, Estados Unidos ha mantenido su liderazgo en la inversi\u00f3n en inteligencia artificial (IA). Durante el a\u00f1o 2022, Estados Unidos encabez\u00f3 el mundo en t\u00e9rminos del monto total invertido en IA por parte del sector privado. La cifra alcanz\u00f3 los $47.4 mil millones, lo que representa aproximadamente 3.5 veces la inversi\u00f3n realizada en el siguiente pa\u00eds con mayor inversi\u00f3n, China, que lleg\u00f3 a los $13.4 mil millones. Adem\u00e1s, Estados Unidos contin\u00faa liderando en cuanto al n\u00famero total de empresas de IA que han recibido financiamiento recientemente, superando en 1.9 veces a la Uni\u00f3n Europea y al Reino Unido combinados, y en 3.4 veces a China.\u00a0<\/p>\n
101. Durante el mismo a\u00f1o, el sector de la salud y la atenci\u00f3n m\u00e9dica recibi\u00f3 la mayor cantidad de inversi\u00f3n en IA, alcanzando los $6.1 mil millones; seguido por la gesti\u00f3n de datos, procesamiento y nube, con $5.9 mil millones; y Fintech, con $5.5 mil millones. Las empresas est\u00e1n implementando la IA de diversas maneras. Las capacidades de IA m\u00e1s com\u00fanmente adoptadas por las empresas incluyen la automatizaci\u00f3n de procesos rob\u00f3ticos (39%), la visi\u00f3n por computadora (34%), la comprensi\u00f3n de texto en lenguaje natural (33%) y los agentes virtuales (33%). Adem\u00e1s, el caso de uso m\u00e1s frecuentemente adoptado en 2022 fue la optimizaci\u00f3n de operaciones de servicio (24%), seguido por la creaci\u00f3n de nuevos productos basados en IA (20%), la segmentaci\u00f3n de clientes (19%), el an\u00e1lisis de servicio al cliente (19%) y los nuevos mejoramientos basados en IA de productos (19%).<\/p>\n
102. En relaci\u00f3n con Am\u00e9rica Latina, seg\u00fan el \u00edndice latinoamericano de inteligencia artificial de 2023 del Centro Nacional de Inteligencia Artificial, su adopci\u00f3n alcanz\u00f3 un promedio de 38,27. En esta oportunidad, Chile encabez\u00f3 este aspecto con un puntaje de 84,11, seguido por Uruguay y Argentina, que registraron 69,43 y 53,96, respectivamente. Colombia, por su parte, obtuvo un porcentaje de 31,0.\u00a0<\/p>\n
103. Es notable el impacto que la IA tiene en diferentes sectores de la sociedad y c\u00f3mo puede contribuir en la mejora de las condiciones sociales y en la materializaci\u00f3n de los derechos fundamentales.<\/p>\n
104. En ese sentido, es importante tener presente la diferencia entre derecho inform\u00e1tico e inform\u00e1tica jur\u00eddica o actualmente legal tech. Mientras el primero hace alusi\u00f3n a las normas que regulan la incorporaci\u00f3n de la inform\u00e1tica en la vida social; el segundo, tema de an\u00e1lisis en esta sentencia, consiste en la aplicaci\u00f3n de m\u00e9todos inform\u00e1ticos en el campo del derecho.<\/p>\n
<\/p>\n
105. En este caso particular, se trat\u00f3 de la aplicaci\u00f3n de ChatGPT por parte del Juzgado del Circuito en la sentencia de tutela de segunda instancia del 30 de enero de 2023. ChatGPT es una de las tantas IA generativas que se basa en un modelo de lenguaje de gran tama\u00f1o (LLM). Fue desarrollado por la empresa OpenAI. Este sistema est\u00e1 \u00abbasado en la arquitectura GPT (Generative Pre-trained Transformer). GPT se refiere a un tipo de modelo de aprendizaje autom\u00e1tico que ha sido entrenado en grandes cantidades de datos de texto para generar respuestas coherentes y relevantes en funci\u00f3n de las entradas que recibe. Esto no quiere decir que la informaci\u00f3n sea real, fiable ni verificable; pues los LLM se basan en predicciones de texto coherentes\u00bb [negrillas fuera del texto original].<\/p>\n
106. En el informe que present\u00f3 dentro del presente tr\u00e1mite de revisi\u00f3n, OpenAI explic\u00f3 que ChatGPT es un modelo de IA que produce texto conversacional. Los usuarios interact\u00faan con la herramienta a trav\u00e9s de una interfaz de chat en l\u00ednea en la que pueden hacer una petici\u00f3n, instrucci\u00f3n o pregunta y esta, a su turno, escribe una respuesta, con base en lo que ha \u00abaprendido\u00bb de las bases de datos con las que se ha entrenado a la herramienta. As\u00ed, en esencia, ChatGPT es un medio creativo o, m\u00e1s espec\u00edficamente, una herramienta de producci\u00f3n de contenido a partir de instrucciones.<\/p>\n
107. La herramienta se hizo p\u00fablica el 30 de noviembre de 2022. Para entonces, ChatGPT se basaba en un modelo de IA llamado GPT-3.5, que actualmente sigue funcionando en forma gratuita, pero con la limitante de que su informaci\u00f3n est\u00e1 actualizada hasta enero de 2022. Existe un segundo modelo m\u00e1s reciente denominado GPT-4, el cual, inicialmente, solo pod\u00eda ser utilizado por quienes pagaran su suscripci\u00f3n, pero desde el pasado 13 de mayo se anunci\u00f3 que estar\u00eda habilitado de manera gratuita, prometi\u00e9ndose que ser\u00eda una herramienta con mejoras en la capacidad de texto, visi\u00f3n y audio y m\u00e1s f\u00e1cil de usar.<\/p>\n
108. Sobre la forma en que OpenAI desarrolla sus modelos de IA, explic\u00f3 que ChatGPT:<\/p>\n
[A]naliza un gran n\u00famero de palabras para poder predecir la palabra m\u00e1s probable para continuar una frase, y cada una de las palabras siguientes. Hay un gran n\u00famero de combinaciones posibles de palabras que pueden aparecer a continuaci\u00f3n en cualquier frase. Para predecir con fiabilidad una palabra que tenga sentido en una situaci\u00f3n determinada, un modelo de IA debe comprender c\u00f3mo encajan las palabras. Esencialmente, un modelo tiene que aprender todos los elementos del lenguaje: vocabulario, gram\u00e1tica, estructura de las frases e incluso razonamiento b\u00e1sico. Este es el objetivo del proceso de entrenamiento de la IA.<\/p>\n
El proceso de entrenamiento consiste en dar al modelo una gran cantidad de frases para que las \u201cestudie\u201d. El modelo revisa cada frase palabra por palabra e intenta predecir la siguiente palabra de cada frase. Cuando comienza el proceso de entrenamiento, el modelo no sabe c\u00f3mo predecir palabras y simplemente emite palabras aleatorias. Con suficientes intentos y frases, el modelo aprende con el tiempo mejores palabras que se ajustan a cada frase [\u2026]<\/p>\n
Despu\u00e9s de ense\u00f1ar a los modelos a predecir palabras, se le somete a un entrenamiento adicional conocido como ajustes espec\u00edficos (fine-tuning). El objetivo de este proceso es mejorar la capacidad del modelo para responder a las preguntas de una forma que la gente considere \u00fatil, as\u00ed como evitar que el modelo devuelva una respuesta que pueda utilizarse de forma perjudicial, como discursos de odio o datos personales de un particular<\/p>\n
109. La empresa resalt\u00f3 la importancia de educar al p\u00fablico en torno a las limitaciones actuales de sus modelos para proporcionar respuestas exactas y precisas. Esto debido a que, por la forma en que funciona la herramienta, no siempre la siguiente palabra m\u00e1s probable es la m\u00e1s correcta o cierta desde el punto de vista f\u00e1ctico. Por ello, advirti\u00f3 que los usuarios deben revisar, confirmar y, si es el caso, corregir los resultados que arroje la plataforma antes de utilizarlos o comunicarlos como un hecho cierto. OpenAI indic\u00f3 que informa a sus usuarios al respecto a trav\u00e9s de los siguientes mecanismos: (i) sus condiciones de uso, (ii) su pol\u00edtica de privacidad, (iii) un aviso antes de que el usuario pueda usar la plataforma por primera vez, (iv) un aviso permanente en la interfaz de usuario, (v) en la p\u00e1gina de OpenAI, en el art\u00edculo \u00abWhat is ChatGPT\u00bb (\u00bfQu\u00e9 es ChatGPT?) y (vi) en la entrada de su blog.<\/p>\n
110. En sus condiciones de uso, OpenAI se\u00f1ala que:<\/p>\n
La inteligencia artificial y el aprendizaje autom\u00e1tico son campos de estudio en r\u00e1pida evoluci\u00f3n. Trabajamos constantemente para mejorar nuestros Servicios y hacerlos m\u00e1s exactos, fiables, seguros y beneficiosos. Dada la naturaleza probabil\u00edstica del aprendizaje autom\u00e1tico en algunas situaciones el uso de nuestros Servicios puede generar Output que no refleje con exactitud personas, lugares o hechos. Cuando use nuestros Servicios, usted entiende y acepta que: \u2022\u2060 \u2060El Output puede no ser siempre exacto. No considere que el Output de nuestros Servicios es la \u00fanica fuente de informaci\u00f3n veraz o f\u00e1ctica, ni un sustituto del asesoramiento profesional. \u2022\u2060 \u2060Debe evaluar la exactitud e idoneidad del Output en relaci\u00f3n con su caso de uso concreto, incluyendo mediante la realizaci\u00f3n de una revisi\u00f3n por medios humanos, en su caso, antes de utilizar o compartir el Output de los Servicios. \u2022 No debe utilizar el Output relativo a una persona para ning\u00fan fin que pueda tener un impacto significativo o consecuencias legales para dicha persona, por ejemplo, para tomar decisiones sobre cuestiones financieras, educativas o laborales, decisiones en materia de vivienda y seguros, sobre cuestiones legales o m\u00e9dicas u otras decisiones importantes relacionadas con dicha persona. \u2022 Nuestros Servicios pueden generar Output incompleto, incorrecto u ofensivo que no represente las opiniones de OpenAI. Si el Output hace referencia a productos o servicios de terceros, esto no significa que el tercero respalde o est\u00e9 afiliado a OpenAI [negrillas fuera del texto original]<\/p>\n
111. Por su parte, en su pol\u00edtica de privacidad OpenAI informa:<\/p>\n
[L]os Servicios como ChatGPT generan resultados leyendo la solicitud de un usuario y, en respuesta, prediciendo las palabras que tienen m\u00e1s probabilidades de aparecer a continuaci\u00f3n. En algunos casos, puede que estas palabras no sean las m\u00e1s acertadas desde el punto de vista f\u00e1ctico. Por esta raz\u00f3n, no deber\u00e1 dar por hecho que los resultados generados por nuestros modelos son exactos. Si observa que los resultados de ChatGPT contienen informaci\u00f3n objetivamente inexacta sobre usted y desea que corrijamos dicha inexactitud, puede enviar una solicitud de correcci\u00f3n a\u00a0privacy.openai.com\u00a0o\u00a0dsar@openai.com. Dada la complejidad t\u00e9cnica del funcionamiento de nuestros modelos, puede que nos resulte imposible corregir la inexactitud en todos los casos. Si esto sucede, puede solicitarnos que eliminemos su Informaci\u00f3n Personal del resultado de ChatGPT<\/p>\n
112. En el art\u00edculo \u00abWhat is ChatGPT\u00bb (\u00bfQu\u00e9 es ChatGPT?) se advierte:<\/p>\n
\u2060\u00bfPor qu\u00e9 la IA parece tan real y realista?\u2060 \u2060Estos modelos se entrenaron con grandes cantidades de datos de Internet escritos por humanos, incluidas conversaciones, por lo que las respuestas que proporcionan pueden parecer humanas. Es importante tener en cuenta que esto es un resultado directo del dise\u00f1o del sistema (es decir, maximizar la similitud entre los resultados y el conjunto de datos en el que se entrenaron los modelos) y que dichos resultados pueden ser inexactos, mentirosos y, en ocasiones, enga\u00f1osos [negrillas fuera del texto original]<\/p>\n
113. De igual forma, en el blog de OpenAI se explica que:<\/p>\n
ChatGPT a veces escribe respuestas que suenan plausibles pero incorrectas o sin sentido. Solucionar este problema es un desaf\u00edo, ya que: (1) durante la capacitaci\u00f3n de RL, actualmente no existe una fuente de verdad: (2) entrenar al modelo para que sea m\u00e1s cauteloso hace que rechace preguntas que pueda responder correctamente; y (3) el entrenamiento supervisado confunde al modelo porque la respuesta ideal depende de lo que sabe el modelo, en lugar de lo que sabe el demostrador humano<\/p>\n
114. Finalmente, en las pol\u00edticas de uso, anexo C, se proh\u00edbe a los usuarios basarse en las respuestas de los modelos o utilizarlas: (i) como \u00fanica fuente de asesoramiento jur\u00eddico o financiero, (ii) utilizar los modelos de OpenAI en el contexto m\u00e9dico para el diagn\u00f3stico o el tratamiento y (iii) para cualquier toma de decisiones gubernamentales de alto riesgo, incluidas la aplicaci\u00f3n de la ley, la justicia penal, la migraci\u00f3n o el asilo. De esta forma OpenAI busca informar y advertir a sus usuarios sobre las posibles inexactitudes en los resultados de sus interacciones en ChatGPT.<\/p>\n
115. Es importante se\u00f1alar que el uso de la IA est\u00e1 repercutiendo en todo el mundo, a cada nivel y, aunque a\u00fan queda mucho por verse acerca del alcance del impacto de estos sistemas, es claro que ya han marcado un punto de inflexi\u00f3n en la historia de la humanidad. En 2016, en el seno del Foro Econ\u00f3mico Mundial, Klaus Schwab, uno de los fundadores del foro, acu\u00f1\u00f3 el concepto de cuarta revoluci\u00f3n industrial para referirse a tecnolog\u00edas emergentes e innovaci\u00f3n de base amplia, a trav\u00e9s de una estrecha interacci\u00f3n entre lo f\u00edsico, lo digital y lo biol\u00f3gico. Al respecto, en su libro The Fourth Industrial Revolution, se\u00f1al\u00f3 que:<\/p>\n
Estamos en el comienzo de una\u00a0cuarta revoluci\u00f3n industrial. Comenz\u00f3 a principios de este siglo y se basa en la revoluci\u00f3n digital. Se caracteriza por un\u00a0internet mucho m\u00e1s ubicuo y m\u00f3vil, por sensores m\u00e1s peque\u00f1os y potentes que se han vuelto m\u00e1s econ\u00f3micos, y por la inteligencia artificial y el aprendizaje autom\u00e1tico. Las tecnolog\u00edas digitales que tienen como base hardware inform\u00e1tico, software y redes no son nuevas, pero, a diferencia de la tercera revoluci\u00f3n industrial, est\u00e1n volvi\u00e9ndose m\u00e1s sofisticadas e integradas, transformando as\u00ed las sociedades y la econom\u00eda global [\u2026] La\u00a0cuarta revoluci\u00f3n industrial, sin embargo, no se trata solo de m\u00e1quinas y sistemas inteligentes y conectados. Su alcance es mucho m\u00e1s amplio. Simult\u00e1neamente, se est\u00e1n produciendo\u00a0olas de avances adicionales\u00a0en \u00e1reas que van desde la\u00a0secuenciaci\u00f3n de genes hasta la nanotecnolog\u00eda, desde las\u00a0energ\u00edas renovables hasta la computaci\u00f3n cu\u00e1ntica. Es la\u00a0fusi\u00f3n de estas tecnolog\u00edas\u00a0y su\u00a0interacci\u00f3n a trav\u00e9s de los dominios f\u00edsico, digital y biol\u00f3gico\u00a0lo que hace que la cuarta revoluci\u00f3n industrial sea fundamentalmente diferente de las revoluciones anteriores<\/p>\n
116. En palabras del mencionado experto \u00ab[n]unca ha habido un momento de mayor promesa, o mayor peligro\u00bb. Por ello se ha planteado, en Colombia y en el mundo, que este tema sea regulado y que quienes lo usan tengan auto regulaciones y restricciones, autocontroles y, en todo caso, que exista una construcci\u00f3n colectiva sobre los l\u00edmites que debe tener la IA. Hace carrera que en materia de IA se requieren construcciones colectivas de \u00e9tica, est\u00e9tica y juridicidad.<\/p>\n
() Impactos del uso de herramientas de IA en la sociedad<\/p>\n
117. La IA tiene el potencial de mejorar el bienestar de las personas y, en general, de la sociedad. Su contribuci\u00f3n en la evoluci\u00f3n de la sociedad se ha visto reflejada en la realizaci\u00f3n y armonizaci\u00f3n de actividades relacionadas con la econom\u00eda, la innovaci\u00f3n, la productividad global, entre otras. De esta forma, la implementaci\u00f3n de esta herramienta tecnol\u00f3gica se ha dado en diversos sectores, los cuales van desde la producci\u00f3n, las finanzas y el transporte, hasta la atenci\u00f3n m\u00e9dica, la seguridad y, por su puesto, el derecho y la administraci\u00f3n p\u00fablica.<\/p>\n
118. Por ejemplo, la IA se est\u00e1 utilizando en el campo de la atenci\u00f3n al consumidor para automatizar las respuestas a preguntas comunes y para proporcionar asistencia en tiempo real a los clientes. De igual forma, se est\u00e1 trabajando en el \u00e1rea de la salud para ayudar a los m\u00e9dicos a emitir un diagn\u00f3stico m\u00e1s preciso, y en el \u00e1rea de la seguridad para detectar conductas il\u00edcitas.<\/p>\n
119. Sin embargo, tambi\u00e9n hay preocupaciones sobre el impacto negativo que podr\u00eda tener la IA. Entre los puntos que m\u00e1s destacan se encuentra el desempleo, la inequidad, la falta de seguridad y el posible cuestionamiento sobre la responsabilidad que puede tener una IA sobre alg\u00fan tipo de afectaci\u00f3n que se genere.<\/p>\n
120. Al respecto, la Resoluci\u00f3n 3384 de 1975 de la ONU sobre la utilizaci\u00f3n del progreso cient\u00edfico y tecnol\u00f3gico en inter\u00e9s de la paz y en beneficio de la humanidad, puso de presente que \u00abel progreso cient\u00edfico y tecnol\u00f3gico se ha convertido en uno de los factores m\u00e1s importantes del desarrollo de la sociedad humana\u00bb porque \u00abcrea posibilidades cada vez mayores de mejorar las condiciones de vida de los pueblos y las naciones\u00bb. Pero, al mismo tiempo, \u00abpuede en ciertos casos dar lugar a problemas sociales, as\u00ed como amenazar los derechos humanos y las libertades fundamentales del individuo\u00bb.<\/p>\n
121. La IA no es la primera tecnolog\u00eda que ha revolucionado la estructura global. Por ejemplo, durante la primera mitad del siglo XX la mecanizaci\u00f3n de los trabajos agr\u00edcolas provoc\u00f3 migraciones masivas del campo a las ciudades en toda Europa, transform\u00e1ndose la organizaci\u00f3n social de los pa\u00edses para volverse mayoritariamente urbanos. Asimismo, la IA, en la actualidad, ha permitido la automatizaci\u00f3n de una gran variedad de procesos complejos que antes requer\u00edan de intervenci\u00f3n humana, como: la conducci\u00f3n aut\u00f3noma, la traducci\u00f3n autom\u00e1tica o la rob\u00f3tica asistencial. No obstante, la evoluci\u00f3n de la IA es constante y avanza a un ritmo acelerado, tal como ya se ha expuesto con anterioridad.<\/p>\n
122. Respecto a la madurez de la IA, existen diferentes niveles de desarrollo. Cada uno de esos niveles de evoluci\u00f3n, se caracteriza por los distintos tipos de usos que se le pueden dar a esta herramienta y de sus algoritmos, as\u00ed como por el nivel de los cambios organizativos y humanos asociados a ellos. Las diferentes olas en el despliegue actual de la IA en nuestras sociedades seg\u00fan la Carta Iberoamericana de IA en la administraci\u00f3n p\u00fablica son: (i) la IA Internet, (ii) la IA Negocio; (iii) la IA Percepci\u00f3n y (iv) la IA Aut\u00f3noma.<\/p>\n
123. As\u00ed, seg\u00fan explica Mart\u00edn Tironi \u00abel fen\u00f3meno de la inteligencia artificial no se puede reducir a una cuesti\u00f3n puramente tecnol\u00f3gica, ya que de forma creciente las aplicaciones de la IA est\u00e1n condicionando el funcionamiento de los sistemas democr\u00e1ticos y las pol\u00edticas p\u00fablicas, el mundo de la innovaci\u00f3n y la producci\u00f3n cultural, la econom\u00eda e incluso los espacios \u00edntimos de las relaciones sentimentales\u00bb.<\/p>\n
124. En Colombia es necesario avanzar en temas de IA, para efectos de determinar su correcto uso, especialmente en el \u00e1mbito p\u00fablico, y sus l\u00edmites. Actualmente, en el pa\u00eds, no existe un marco jur\u00eddico vinculante y especializado en materia de IA, aunque s\u00ed lo hay en temas de tecnolog\u00edas de la informaci\u00f3n, por lo que se debe pensar en estrategias que apliquen auto restricciones, autocontroles y, en todo caso, como ya se dijo, una construcci\u00f3n colectiva razonada sobre el correcto uso de la IA.<\/p>\n
125. Actualmente, ante el Congreso de la Rep\u00fablica se est\u00e1n tramitando m\u00faltiples iniciativas legislativas para regular este asunto. Seg\u00fan inform\u00f3 el Senado, las iniciativas legislativas que actualmente se encuentran en tr\u00e1mite y pretenden regular la IA en Colombia son los proyectos de ley N.\u00ba 130 de 2023, 091 de 2023 y 059 de 2023. Adicionalmente, se precis\u00f3 que el proyecto de ley N.\u00ba 253 de 2022 fue archivado de conformidad con el art\u00edculo 190 de la Ley 5.\u00aa de 1992, debido a que no alcanz\u00f3 a ser discutido y aprobado en primer debate del Senado.<\/p>\n
126. De otro lado, la C\u00e1mara de Representantes inform\u00f3 que se encuentra en tr\u00e1mite, ante la Comisi\u00f3n Primera Constitucional Permanente, el Proyecto de Ley Estatutaria 200 de 2023 C\u00e1mara, \u00abpor medio del cual se define y regula la inteligencia artificial, se establecen l\u00edmites frente a su desarrollo, uso e implementaci\u00f3n y se dictan otras disposiciones\u00bb.<\/p>\n
127. Cabe destacar que, en la labor de creaci\u00f3n de un marco regulatorio de la IA es fundamental el enfoque que decida d\u00e1rsele a los instrumentos que se emitan, pues de ello depender\u00e1 el alcance en el uso de estas tecnolog\u00edas en el servicio p\u00fablico y estatal y, especialmente, en la Rama Judicial, y por ende la salvaguarda de los derechos fundamentales.<\/p>\n
128. En efecto, atendiendo al enfoque de la regulaci\u00f3n, existen diferentes modelos de gobernanza de la IA que se han desarrollado a nivel mundial. Estos son (i) la regulaci\u00f3n basada en riesgos, (ii) la regulaci\u00f3n basada en derechos fundamentales; (iii) la regulaci\u00f3n basada en principios; (iv) la regulaci\u00f3n basada en est\u00e1ndares y (v) la regulaci\u00f3n de prescripci\u00f3n o reglas directas, tambi\u00e9n llamada de \u00abmando y control\u00bb.<\/p>\n
129. Adem\u00e1s, en lo que respecta al uso de las tecnolog\u00edas de la informaci\u00f3n y las comunicaciones en el sector p\u00fablico de Colombia, desde hace poco m\u00e1s de una d\u00e9cada se viene adelantando un proceso de modernizaci\u00f3n del sistema judicial con el fin de implementar una justicia digital, proceso que avanz\u00f3 a pasos agigantados a ra\u00edz de las herramientas y estrategias que se implementaron en la materia en el marco de la pandemia generada por el Covid-19. En la misma l\u00ednea, desde 2015, se est\u00e1 desarrollando un proceso de transformaci\u00f3n digital del Estado colombiano, a trav\u00e9s de la consagraci\u00f3n e implementaci\u00f3n de una pol\u00edtica de gobierno digital aplicable a la administraci\u00f3n p\u00fablica.<\/p>\n
130. Sin embargo, hasta que se promulgue una ley que regule la materia, para efectos de determinar el correcto uso de la IA, se deber\u00e1 acudir a la auto regulaci\u00f3n y a las propias restricciones, a los autocontroles y a una construcci\u00f3n colectiva voluntaria, siendo ellas estrategias eficientes, en cuanto pueden promover en mayor medida la innovaci\u00f3n y maximizar las utilidades de estas herramientas, sin afectar derechos, sino por el contrario propendiendo por su mayor realizaci\u00f3n.<\/p>\n
131. Dicho lo anterior, es importante anotar que, para efectos de lo expuesto, es necesario abordar tal tarea con un enfoque que permita un uso \u00e9tico y responsable de la IA, respetuoso de las garant\u00edas constitucionales de los ciudadanos, del modelo de Estado Social de Derecho y de la forma democr\u00e1tica de gobierno, todo ello entendido en el contexto del desarrollo actual de la civilizaci\u00f3n humana.<\/p>\n
132. Es importante se\u00f1alar, adem\u00e1s, que las tecnolog\u00edas emergentes, como los sistemas de IA, se encuentran dentro del concepto de tecnolog\u00edas de la informaci\u00f3n y las comunicaciones, por lo que, desde esta perspectiva, es un asunto que s\u00ed encontrar\u00eda alg\u00fan tipo de regulaci\u00f3n en nuestro ordenamiento jur\u00eddico. Aquellas son definidas en el art\u00edculo 6.\u00ba de la Ley 1341 de 2009 como \u00abel conjunto de recursos, herramientas, equipos, programas inform\u00e1ticos, aplicaciones, redes y medios que permiten la compilaci\u00f3n, procesamiento, almacenamiento, transmisi\u00f3n de informaci\u00f3n como voz, datos, texto, video e im\u00e1genes\u00bb.<\/p>\n
133. Por otro lado, el Decreto 1078 de 2015, en su art\u00edculo 2.2.9.1.1.2, expone que \u00abla implementaci\u00f3n de la Pol\u00edtica de Gobierno Digital en las ramas legislativa y judicial, en los \u00f3rganos de control, en los aut\u00f3nomos e independientes y dem\u00e1s organismos del Estado, se realizar\u00e1 bajo un esquema de coordinaci\u00f3n y colaboraci\u00f3n arm\u00f3nica en aplicaci\u00f3n de los principios se\u00f1alados en los art\u00edculos 113 y 209 de la Constituci\u00f3n Pol\u00edtica\u00bb.<\/p>\n
134. Adicionalmente, el precitado decreto en su art\u00edculo 2.2.9.1.1.3 se\u00f1ala que la Pol\u00edtica de Gobierno Digital se regir\u00e1 bajo los principios de armonizaci\u00f3n, articulaci\u00f3n, confianza, competitividad, cooperaci\u00f3n, respeto de los derechos humanos, innovaci\u00f3n, legalidad tecnol\u00f3gica, participaci\u00f3n, proactividad, prospectiva y resiliencia tecnol\u00f3gica.<\/p>\n
135. Al respecto, el documento CONPES 3975 de 2019, estableci\u00f3 que la IA es \u00abun campo de la inform\u00e1tica dedicado a resolver problemas cognitivos com\u00fanmente asociados con la inteligencia humana o seres inteligentes, entendidos como aquellos que pueden adaptarse a situaciones cambiantes. Su base es el desarrollo de sistemas inform\u00e1ticos, la disponibilidad de datos y los algoritmos\u00bb. As\u00ed, seg\u00fan el punto 5.3.4. de este se debe propender por desarrollar condiciones habilitantes para preparar a Colombia para los cambios econ\u00f3micos y sociales que conlleva la IA e impulsar otras tecnolog\u00edas de la cuarta revoluci\u00f3n industrial.<\/p>\n
136. Posteriormente, en noviembre de 2020, se public\u00f3 el \u00abTask Force para el Desarrollo e Implementaci\u00f3n de la Inteligencia Artificial en Colombia\u00bb, en el cual se establecen mecanismos para la implementaci\u00f3n de tecnolog\u00edas emergentes en el sector pu\u0301blico-privado y se persigue la cooperaci\u00f3n entre estos sectores, tanto a nivel nacional como internacional. Asimismo, el Gobierno de Colombia realizo\u0301 distintas publicaciones, tales como (i) Sandbox sobre privacidad desde el dise\u00f1o y por defecto en proyectos de IA; (ii) recomendaciones Misi\u00f3n de Expertos; (iii) plan estrat\u00e9gico para la transferencia de conocimiento en IA y (iv) modelo de gobernanza de la infraestructura para el desarrollo de tecnolog\u00edas emergentes, entre otras.<\/p>\n
137. En abril del 2021, el Departamento Nacional de Planeaci\u00f3n emiti\u00f3 el \u00ab[p]lan de Seguimiento a la Implementaci\u00f3n en Colombia de Principios y Est\u00e1ndares Internacionales en IA\u00bb, que consiste en una gu\u00eda para el cumplimiento de recomendaciones del Consejo de Inteligencia Artificial de la OCDE.<\/p>\n
138. En consonancia con lo anterior, fue expedido en octubre de 2021 el \u00abMarco \u00c9tico para la Inteligencia Artificial en Colombia\u00bb con el objetivo de presentar una gu\u00eda de soft law de recomendaciones y sugerencias a las entidades p\u00fablicas para abordar la formulaci\u00f3n y gesti\u00f3n de los proyectos que incluyan el uso de IA. Este tambi\u00e9n recoge las consideraciones \u00e9ticas para el dise\u00f1o, el desarrollo y la implementaci\u00f3n de este tipo de tecnolog\u00edas en el pa\u00eds.<\/p>\n
139. En cuanto a los principios \u00e9ticos para la IA en Colombia, se destacan los siguientes (i) transparencia y explicaci\u00f3n, (ii) control humano de las decisiones propias de un sistema de IA, (iii) seguridad, (iv) responsabilidad, (v) no discriminaci\u00f3n, (vi) inclusi\u00f3n, (vii) prevalencia de los derechos de los ni\u00f1os, ni\u00f1as y adolescentes y (viii) beneficio social.<\/p>\n
140. En adici\u00f3n, en dicho periodo y en el contexto de la pandemia por Covid-19, el Estado colombiano se moviliz\u00f3 hacia un marco para la digitalizaci\u00f3n de los servicios judiciales, lo que se materializ\u00f3 en el CONPES 4024 de 2021 y en el Decreto 806 de 2020, determinaciones que se hicieron permanentes con la Ley 2213 de 2022. En esta normativa se recogieron medidas que respondieron a la imposibilidad temporal de continuar con la atenci\u00f3n presencial en las diligencias judiciales, por una parte, y a la necesidad general de encontrar mecanismos m\u00e1s eficientes y expeditos para realizar tr\u00e1mites judiciales.<\/p>\n
141. En su momento, los objetivos mediatos del Decreto 806 de 2020 fueron: \u00ab(i) implementar \u201cel uso de las tecnolog\u00edas de la informaci\u00f3n y las comunicaciones en las actuaciones judiciales\u201d; (ii) agilizar \u201cel tr\u00e1mite de los procesos judiciales\u201d, entre otras, en la jurisdicci\u00f3n constitucional; (iii) flexibilizar \u201cla atenci\u00f3n de los usuarios del servicio de justicia\u201d y (iv) contribuir \u201ca la pronta reactivaci\u00f3n de las actividades econ\u00f3micas que dependen de este\u201d\u00bb.<\/p>\n
142. As\u00ed, los 16 art\u00edculos del decreto fueron clasificados en dos ejes tem\u00e1ticos en la Sentencia C-420 de 2020. Por un lado, se previeron las reglas para la implementaci\u00f3n de las tecnolog\u00edas de la informaci\u00f3n y las comunicaciones y, por otro lado, se introdujeron modificaciones procesales para la implementaci\u00f3n de las TIC y para agilizar los tr\u00e1mites procesales.<\/p>\n
<\/p>\n
143. Ahora bien, en cuanto a la regulaci\u00f3n del tratamiento de datos en Colombia es importante destacar que las leyes estatutarias 1266 de 2008 y 1581 de 2012 fueron redactadas neutralmente, en el sentido que sus disposiciones aplican al tratamiento de datos que se realice mediante cualquier herramienta manual o tecnol\u00f3gica. En este sentido, cualquier sistema de IA debe garantizar el cumplimiento de estas normatividades. Por ello, inicialmente es necesario tener en cuenta la definici\u00f3n de dato personal y sus clasificaciones se\u00f1aladas en el art\u00edculo 3.\u00ba de la Ley 1266 de 2008, el cual dispone los siguiente:<\/p>\n
Art\u00edculo 3\u00b0. [\u2026]<\/p>\n
E. Dato personal. Es cualquier pieza de informaci\u00f3n vinculada a una o varias personas determinadas o determinables o que puedan asociarse con una persona natural o jur\u00eddica [\u2026] Los datos personales pueden ser p\u00fablicos, semiprivados o privados [\u2026]<\/p>\n
<\/p>\n
F. Dato p\u00fablico. Es el dato calificado como tal seg\u00fan los mandatos de la ley o de la Constituci\u00f3n Pol\u00edtica y todos aquellos que no sean semiprivados o privados, de conformidad con la presente ley. Son p\u00fablicos, entre otros, los datos contenidos en documentos p\u00fablicos, sentencias judiciales debidamente ejecutoriadas que no est\u00e9n sometidos a reserva y los relativos al estado civil de las personas.<\/p>\n
G. Dato semiprivado. Es semiprivado el dato que no tiene naturaleza \u00edntima, reservada, ni p\u00fablica y cuyo conocimiento o divulgaci\u00f3n puede interesar no s\u00f3lo a su titular sino a cierto sector o grupo de personas o a la sociedad en general, como el dato financiero y crediticio de actividad comercial o de servicios a que se refiere el T\u00edtulo IV de la presente ley.<\/p>\n
144. Asimismo, seg\u00fan el art\u00edculo 5.\u00ba de la Ley 1581 de 2012, existe una categor\u00eda especial de datos personales, denominados datos sensibles, el cual, seg\u00fan la norma, corresponden a:<\/p>\n
<\/p>\n
[A]quellos que afectan la intimidad del Titular o cuyo uso indebido puede generar su discriminaci\u00f3n, tales como aquellos que revelen el origen racial o \u00e9tnico, la orientaci\u00f3n pol\u00edtica, las convicciones religiosas o filos\u00f3ficas, la pertenencia a sindicatos, organizaciones sociales, de derechos humanos o que promueva intereses de cualquier partido pol\u00edtico o que garanticen los derechos y garant\u00edas de partidos pol\u00edticos de oposici\u00f3n as\u00ed como los datos relativos a la salud, a la vida sexual y los datos biom\u00e9tricos<\/p>\n
145. As\u00ed, aunque no exista regulaci\u00f3n especial de la IA en el tema, es necesario precisar que todo uso o desarrollo en IA que requiera protecci\u00f3n de datos debe cumplir con esta normativa y, en especial, aplicar los principios descritos en el art\u00edculo 4.\u00ba de la Ley Estatutaria 1581 de 2012 y el art\u00edculo 4.\u00ba de la Ley Estatutaria 1266 de 2008, los cuales se exponen a continuaci\u00f3n respectivamente:<\/p>\n
Art\u00edculo 4.\u00b0. Principios para el Tratamiento de datos personales. En el desarrollo, interpretaci\u00f3n y aplicaci\u00f3n de la presente ley, se aplicar\u00e1n, de manera arm\u00f3nica e integral, los siguientes principios: (…) d) Principio de veracidad o calidad: La informaci\u00f3n sujeta a Tratamiento debe ser veraz, completa, exacta, actualizada, comprobable y comprensible. Se proh\u00edbe el tratamiento de datos parciales, incompletos, fraccionados o que induzcan a error [\u2026]<\/p>\n
Art\u00edculo 4.\u00b0. Principios de la administraci\u00f3n de datos. En el desarrollo, interpretaci\u00f3n y aplicaci\u00f3n de la presente ley, se tendr\u00e1n en cuenta, de manera arm\u00f3nica e integral, los principios que a continuaci\u00f3n se establecen: a) principio de veracidad o calidad de los registros o datos. La informaci\u00f3n contenida en los bancos de datos debe ser veraz, completa, exacta, actualizada, comprobable y comprensible. Se proh\u00edbe el registro y divulgaci\u00f3n de datos parciales, incompletos, fraccionados o que induzcan a error<\/p>\n
146. En conclusi\u00f3n, pese a la inexistencia de un marco regulatorio sobre la IA en el Estado colombiano, la Constituci\u00f3n Pol\u00edtica de 1991, la ley sobre tecnolog\u00edas de la informaci\u00f3n, las leyes sobre manejo de datos e instrumentos del ejecutivo contienen todo un sistema de garant\u00edas que, en palabras actualizadas de Ferrajoli, constituir\u00eda un sistema de garant\u00edas tecnol\u00f3gico.<\/p>\n
147. Es importante destacar adem\u00e1s que la Corte Suprema de Justicia, en Sentencia SC370-2023 del 10 de octubre de 2023, se\u00f1al\u00f3 expresamente que el goce de los adelantos tecnol\u00f3gicos y el progreso de las ciencias es un derecho humano reconocido en m\u00faltiples instrumentos internacionales, como la Declaraci\u00f3n Universal de Derechos Humanos de 1948 (art\u00edculo 27); la Carta de Organizaci\u00f3n de los Estados Americanos (OEA) (art\u00edculo 38); Pacto Internacional de Derechos Econ\u00f3micos, Sociales y Culturales de 1996 (art\u00edculo 15, numeral 1.\u00ba, literal b).<\/p>\n
148. Por \u00faltimo, cabe se\u00f1alar que, si el sistema judicial colombiano tuviera su propio sistema de IA generativa especializado en jurisprudencia y normativa colombiana e internacional, este podr\u00eda tener implicaciones positivas para la eficiencia de la labor de los jueces y ayudar\u00eda, especialmente, en la materializaci\u00f3n del derecho de acceso a la administraci\u00f3n de justicia. Ello, en el sentido en que las personas y operadores podr\u00edan acceder a la informaci\u00f3n de forma f\u00e1cil, \u00e1gil y especializada. Por ejemplo, se podr\u00eda tener acceso a l\u00edneas jurisprudenciales actualizadas, compararse casos similares, solicitarse un resumen f\u00e1cil y comprensible de la normativa que interesa al caso concreto y hacerse an\u00e1lisis de problemas jur\u00eddicos y afectaciones a derechos. Todo ello dentro del \u00e1mbito propio de estas herramientas, como mecanismos que apoyan y que nunca pueden sustituir la labor humana en el servicio de justicia. Adicionalmente, la transparencia, la protecci\u00f3n de datos, el conocimiento de los sesgos por conocer el origen de los datos con los cuales sea entrenada la IA, entre otros conceptos, no se ver\u00edan afectados o, por lo menos, se reducir\u00edan en una gran parte los riesgos, puesto que se tratar\u00eda de una IA controlada y en funcionamiento por y para la Rama Judicial.<\/p>\n
() El marco regulatorio de la IA en el mundo. Algunos instrumentos de soft law e iniciativas normativas<\/p>\n
149. Actualmente, en el escenario internacional proliferan instrumentos de derecho blando (soft law) que, como tales, no resultan jur\u00eddicamente vinculantes o cuya fuerza imperativa es diferente a la del derecho tradicional, pero que, sin embargo, resultan relevantes consultar a la hora de fijar pautas o expedir una regulaci\u00f3n aplicable al uso de IA. A trav\u00e9s de estos lineamientos se pretende establecer una suerte de hojas de ruta que, mediante principios y directrices generales, buscan garantizar que los sistemas de IA se desarrollen y controlen bajo un enfoque \u00e9tico.<\/p>\n
150. El creciente n\u00famero de recomendaciones en la materia contrasta con la escasez de normativas claras, expresas, jur\u00eddicamente vinculantes y traducidas en reglas concretas que definan un marco regulatorio completo y eficaz para la debida operaci\u00f3n de la IA. Lo que s\u00ed abunda a nivel mundial son las m\u00faltiples iniciativas legislativas y regulatorias para establecer las condiciones y t\u00e9rminos de uso de este tipo de tecnolog\u00edas. A continuaci\u00f3n, la Sala har\u00e1 una presentaci\u00f3n, no exhaustiva, de los principales instrumentos internacionales de soft law existentes en la materia, as\u00ed como algunas referencias a iniciativas legislativas y regulatorias y experiencias concretas de algunos pa\u00edses.<\/p>\n
Instrumentos internacionales de soft law o derecho blando<\/p>\n
151. Recomendaciones del Consejo de la OCDE sobre la Inteligencia Artificial. El documento fue emitido el 21 de mayo de 2019 y el Estado colombiano adhiri\u00f3 a \u00e9l en la misma fecha. En la primera secci\u00f3n, el documento establece que los Estados adherentes deben promover e implementar los siguientes:<\/p>\n
Principios \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Descripci\u00f3n<\/p>\n
Crecimiento integrador, desarrollo sostenible y bienestar \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
La administraci\u00f3n y uso de la inteligencia artificial debe buscar resultados beneficiosos para las personas y el planeta, como el aumento de las capacidades humanas y la mejora de la creatividad, el fomento de la inclusi\u00f3n de las poblaciones infrarrepresentadas, la reducci\u00f3n de las desigualdades econ\u00f3micas, sociales, de g\u00e9nero y de otro tipo, as\u00ed como la protecci\u00f3n de los entornos naturales, propendiendo por un crecimiento inclusivo, el desarrollo sostenible y el bienestar.<\/p>\n
Valores centrados en el ser humano y equidad \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Impone a los actores involucrados el deber de respetar el estado de derecho, los derechos humanos y los valores democr\u00e1ticos en todas las fases que componen el ciclo de vida de un sistema de IA, esto es, (i) dise\u00f1o, (ii) verificaci\u00f3n y validaci\u00f3n, (iii) despliegue y (iv) operaci\u00f3n y monitoreo.<\/p>\n
Transparencia y explicabilidad \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Los actores de la IA deben proporcionar informaci\u00f3n significativa, adecuada al contexto y coherente con el estado de la t\u00e9cnica con el prop\u00f3sito de (i) fomentar una comprensi\u00f3n general de los sistemas de IA, (ii) que las partes interesadas sean conscientes de sus interacciones con los sistemas de IA, incluso en el lugar de trabajo, (iii) permitir que los afectados por un sistema de IA comprendan el resultado y (iv) permitir a los perjudicados por un sistema de IA impugnar su resultado bas\u00e1ndose en informaci\u00f3n sencilla y f\u00e1cil de entender sobre los factores y la l\u00f3gica que sirvieron de base para la predicci\u00f3n, recomendaci\u00f3n o decisi\u00f3n.<\/p>\n
Robustez, seguridad y protecci\u00f3n \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Busca que los sistemas de IA sean robustos, seguros y protegidos a lo largo de todo su ciclo de vida, de modo que funcionen adecuadamente y no planteen riesgos de seguridad irrazonables. Para ello, los agentes de la IA deben garantizar la trazabilidad de datos, de procesos y decisiones tomadas durante el ciclo de vida del sistema de IA, para permitir el an\u00e1lisis de sus resultados y respuestas del sistema de IA a las preguntas.<\/p>\n
Rendici\u00f3n de cuentas \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Los agentes de la IA deben ser responsables del correcto funcionamiento de los sistemas de IA y del respeto de los principios anteriores, teniendo en consideraci\u00f3n sus roles o funciones, el contexto y el estado del arte.<\/p>\n
152. En armon\u00eda con los anteriores principios, las recomendaciones de la OCDE invitan a los Estados adherentes a (i) realizar inversi\u00f3n p\u00fablica a largo plazo y fomentar la inversi\u00f3n privada en investigaci\u00f3n y desarrollo, para estimular la innovaci\u00f3n confiable en los desaf\u00edos t\u00e9cnicos que se presenten en temas de IA, as\u00ed como en cuestiones de pol\u00edticas sociales, legales y \u00e9ticas relacionadas con la materia; (ii) fomentar el desarrollo y acceso a un ecosistema digital para una IA fiable que, en particular, incluya tecnolog\u00edas e infraestructuras digitales, as\u00ed como mecanismos para compartir conocimiento sobre IA; (iii) crear un entorno pol\u00edtico propicio para la IA, que favorezca una transici\u00f3n \u00e1gil de la fase de investigaci\u00f3n y desarrollo a la de despliegue y explotaci\u00f3n de sistemas de IA fiables; (iv) crear capacidad humana ense\u00f1\u00e1ndole a las personas a utilizar e interactuar eficazmente con los sistemas de IA, adem\u00e1s de prepararlas para la transformaci\u00f3n del mercado laboral, garantizando una transici\u00f3n justa para los trabajadores mediante programas de formaci\u00f3n a lo largo de la vida laboral, apoyo a los afectados por el cambio y acceso a nuevas oportunidades en el mercado laboral; y (v) fomentar la cooperaci\u00f3n internacional para que, a trav\u00e9s de un trabajo integrado con la OCDE y otros pa\u00edses en foros globales y regionales, se promueva el intercambio de conocimiento sobre IA.<\/p>\n
153. Recomendaci\u00f3n sobre la \u00e9tica de la inteligencia artificial, emitida por la Organizaci\u00f3n de las Naciones Unidas para la Educaci\u00f3n, la Ciencia y la Cultura (UNESCO). El instrumento, aprobado en noviembre de 2021 por los 193 Estados miembros de dicha organizaci\u00f3n, constituye el primer marco \u00e9tico sobre IA y es uno de los m\u00e1s consultados y difundidos en materia de IA a nivel mundial. Invita a los Estados miembros a seguir los siguientes valores:<\/p>\n
Valor \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Descripci\u00f3n<\/p>\n
Respeto, protecci\u00f3n y promoci\u00f3n de los derechos, las libertades fundamentales y la dignidad humana \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
El respeto a la dignidad humana debe estar presente a lo largo del ciclo de vida de los sistemas de IA. Ninguna persona ni comunidad deber\u00eda sufrir da\u00f1os o sometimiento durante ninguna etapa del ciclo de vida de los sistemas de IA. Por el contrario, la IA tiene que mejorar la calidad de vida de sus usuarios.<\/p>\n
Adem\u00e1s, todas las personas deber\u00edan poder interactuar con un sistema de IA, por ejemplo, para el cuidado de personas en situaci\u00f3n de vulnerabilidad. En el marco de estas interacciones, las \u00a0personas \u00a0nunca \u00a0deber\u00edan \u00a0ser \u00a0cosificadas, \u00a0su \u00a0dignidad \u00a0no \u00a0deber\u00eda \u00a0ser \u00a0menoscabada \u00a0de \u00a0ninguna \u00a0otra \u00a0manera y \u00a0sus \u00a0derechos \u00a0humanos \u00a0y \u00a0libertades fundamentales nunca deber\u00edan ser objeto de violaci\u00f3n o abusos.<\/p>\n
Los \u00a0gobiernos, el sector privado, la sociedad civil, las \u00a0organizaciones internacionales, las comunidades \u00a0 \u00a0t\u00e9cnicas y las universidades deben respetar los instrumentos y marcos de derechos humanos en sus \u00a0intervenciones en los procesos que rodean el ciclo de vida de los sistemas de IA.<\/p>\n
Prosperidad del medio ambiente y los ecosistemas \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
El medio ambiente y los ecosistemas son una necesidad existencial para que la humanidad y los dem\u00e1s seres vivos puedan disfrutar de los beneficios derivados de los avances de la IA.<\/p>\n
Todos los actores que participan en el ciclo de vida de los sistemas de IA deben respetar el derecho internacional y las leyes, normas \u00a0y \u00a0pr\u00e1cticas \u00a0nacionales \u00a0aplicables, como la precauci\u00f3n, concebidas para la \u00a0protecci\u00f3n y la restauraci\u00f3n \u00a0del \u00a0medio \u00a0ambiente \u00a0y \u00a0los \u00a0ecosistemas y para el desarrollo sostenible<\/p>\n
Garantizar la diversidad y la inclusi\u00f3n \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
El respeto, la protecci\u00f3n y la promoci\u00f3n de la diversidad y la inclusi\u00f3n deber\u00edan garantizarse a lo largo del ciclo \u00a0de \u00a0vida de los sistemas de IA, de \u00a0conformidad con el \u00a0derecho \u00a0internacional, en particular el derecho de los \u00a0derechos \u00a0humanos. Para ello, puede promoverse la \u00a0participaci\u00f3n activa de todas las personas o grupos, con independencia \u00a0de \u00a0su \u00a0raza, \u00a0color, \u00a0ascendencia, \u00a0g\u00e9nero, \u00a0edad, idioma, religi\u00f3n, opiniones pol\u00edticas, origen \u00a0 \u00a0nacional, \u00e9tnico o social, condici\u00f3n econ\u00f3mica o social \u00a0de nacimiento, discapacidad o cualquier otro motivo.<\/p>\n
La diversidad de elecciones de estilo de vida, creencias, opiniones, expresiones o experiencias personales, incluida la utilizaci\u00f3n \u00a0opcional de sistemas de IA y \u00a0la \u00a0concepci\u00f3n conjunta de estas arquitecturas, no deber\u00eda restringirse durante ninguna etapa del ciclo de vida de dichos sistemas.<\/p>\n
Finalmente, debe paliarse la falta de infraestructura, educaci\u00f3n \u00a0y competencias tecnol\u00f3gicas que afectan a algunas comunidades<\/p>\n
Vivir en sociedades pac\u00edficas, justas e interconectadas \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Los actores de la IA deber\u00edan propiciar sociedades pac\u00edficas y justas, sobre la base de un futuro interconectado en beneficio de todos.<\/p>\n
154. Adicionalmente, estas recomendaciones de la UNESCO incluyen los principios de proporcionalidad e inocuidad, seguridad y protecci\u00f3n, equidad y no discriminaci\u00f3n, sostenibilidad, intimidad y protecci\u00f3n de datos personales, transparencia y explicabilidad, supervisi\u00f3n y decisi\u00f3n humanas, sensibilizaci\u00f3n y educaci\u00f3n, responsabilidad y rendici\u00f3n de cuentas, gobernanza y colaboraci\u00f3n adaptativas y de m\u00faltiples partes interesadas.<\/p>\n
156. Principios Rectores para las Organizaciones que Desarrollan Sistemas Avanzados de IA, emitidos por el G7. El documento fue presentado, junto con un C\u00f3digo de Conducta, en la 49.\u00aa cumbre del G7, que se celebr\u00f3 en mayo de 2023 en Hiroshima, Jap\u00f3n. El denominado G7 Hiroshima Process advirti\u00f3 que la lista de principios se basaba en aquellos que adopt\u00f3 la OCDE y respond\u00eda a los m\u00e1s recientes avances en este tipo de sistemas. En el siguiente cuadro se sintetizan los aspectos m\u00e1s relevantes:<\/p>\n
Principio \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Descripci\u00f3n del principio \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Conductas asociadas<\/p>\n
Tomar medidas apropiadas\u00a0durante el desarrollo de sistemas avanzados de inteligencia artificial, tanto antes como durante su implementaci\u00f3n y lanzamiento al mercado, para\u00a0identificar, evaluar y mitigar riesgos\u00a0a lo largo del ciclo de vida de la IA. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Esto implica emplear diversas medidas de prueba internas (por ejemplo red teaming) e independientes y medidas de mitigaci\u00f3n de riesgos identificados que garanticen la confiabilidad, seguridad y protecci\u00f3n de los sistemas en todo su ciclo de vida. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Al dise\u00f1ar e implementar medidas de prueba, las organizaciones se comprometen a prestar atenci\u00f3n a los siguientes riesgos: (i) qu\u00edmicos, biol\u00f3gicos, radiol\u00f3gicos y nucleares; (ii) capacidades cibern\u00e9ticas ofensivas; (iii) riesgos para la salud y\/o la seguridad; (iv) riesgos de modelos que se copian a s\u00ed mismos (autorreplicaci\u00f3n) o entrenamiento de otros modelos; (v) riesgos sociales, as\u00ed como riesgos para individuos y comunidades (sesgos, privacidad y protecci\u00f3n de datos); (vi) amenazas a los valores democr\u00e1ticos y los derechos humanos; (vii) riesgo de que un evento particular pueda desencadenar una reacci\u00f3n en cadena con efectos negativos considerable que podr\u00edan afectar a toda una ciudad, a toda una actividad de un dominio o a toda una comunidad.<\/p>\n
Identificar y mitigar vulnerabilidades, as\u00ed como incidentes y patrones de uso indebido que ocurran despu\u00e9s de la implementaci\u00f3n, incluida la colocaci\u00f3n en el mercado. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Se alienta a las organizaciones a considerar, por ejemplo, facilitar la detecci\u00f3n y notificaci\u00f3n de problemas y vulnerabilidades por parte de terceros y usuarios despu\u00e9s de la implementaci\u00f3n. Adem\u00e1s, se recomienda que las organizaciones mantengan una\u00a0documentaci\u00f3n adecuada\u00a0de los incidentes reportados y mitiguen los riesgos y vulnerabilidades identificados en colaboraci\u00f3n con otras partes interesadas. Los mecanismos para informar vulnerabilidades, cuando corresponda, deben ser accesibles para un conjunto diverso de partes interesadas.<\/p>\n
Reportar p\u00fablicamente las capacidades, limitaciones y dominios apropiados e inapropiados\u00a0de los sistemas avanzados de IA para garantizar la suficiente transparencia y aumentar la rendici\u00f3n de cuentas. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Las organizaciones deben hacer que la informaci\u00f3n de transparencia sea lo suficientemente clara, comprensible, apropiada y relevante, para permitirle a los implementadores y usuarios interpretar la salida del modelo\/sistema y utilizarlo de manera apropiada.<\/p>\n
<\/p>\n
La elaboraci\u00f3n de reportes de transparencia debe estar respaldada en procesos de documentaci\u00f3n s\u00f3lidos. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Estos reportes deben mantenerse actualizados y contener por ejemplo: (i) detalles de las evaluaciones realizadas para los posibles riesgos; (ii) las capacidades del modelo\/ sistema, as\u00ed como sus limitaciones significativas en el rendimiento; (iii) la discusi\u00f3n y evaluaci\u00f3n de los efectos y riesgos del modelo\/sistema para la seguridad y la sociedad, como sesgos perjudiciales, discriminaci\u00f3n, amenazas a la protecci\u00f3n de la privacidad o datos personales y efectos sobre la equidad; y (iv) los resultados del red-teaming sobre la aptitud del modelo\/sistema para continuar con etapas posteriores al desarrollo.<\/p>\n
Trabajar hacia el intercambio responsable de informaci\u00f3n y la notificaci\u00f3n de incidentes entre las organizaciones que desarrollan sistemas de IA avanzada, incluidas la industria, los gobiernos, la sociedad civil y la academia. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Esto implica compartir informaci\u00f3n de forma responsable, como informes de evaluaci\u00f3n, riesgos de seguridad, capacidades peligrosas, e intentos de eludir salvaguardas en el ciclo de vida de la IA. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Las organizaciones deben participar en la creaci\u00f3n y adopci\u00f3n de est\u00e1ndares compartidos, herramientas y mejores pr\u00e1cticas para garantizar la seguridad y confiabilidad de los sistemas de IA avanzada. Esto implica documentar y transparentar adecuadamente todo el ciclo de vida de la IA, especialmente para sistemas que representan riesgos importantes. Adem\u00e1s, deben colaborar con otras organizaciones para compartir informaci\u00f3n relevante al p\u00fablico y autoridades, protegiendo al mismo tiempo los derechos de propiedad intelectual, a la intimidad y la seguridad del Estado.<\/p>\n
Desarrollar, implementar y divulgar pol\u00edticas de gobernanza y gesti\u00f3n de riesgos de IA, fundamentadas en un enfoque basado en riesgos, que incluyan pol\u00edticas de privacidad y medidas de mitigaci\u00f3n. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Esto incluye divulgar pol\u00edticas de privacidad, incluyendo datos personales y resultados de sistemas de IA avanzados, seg\u00fan corresponda. Las organizaciones deben establecer y divulgar sus pol\u00edticas de gobernanza de IA y mecanismos para implementarlas bajo un enfoque basado en riesgos. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Se espera que las organizaciones establezcan y divulguen pol\u00edticas de gobernanza de IA, as\u00ed como mecanismos organizativos para implementar estas pol\u00edticas, adoptando un enfoque basado en riesgos.<\/p>\n
Estas pol\u00edticas deben actualizarse regularmente. Adem\u00e1s, las organizaciones deben establecer pol\u00edticas, procedimientos y capacitaci\u00f3n para garantizar que el personal est\u00e9 familiarizado con sus deberes y las pr\u00e1cticas de gesti\u00f3n de riesgos de la organizaci\u00f3n.<\/p>\n
Invertir e implementar controles de seguridad s\u00f3lidos, que incluyan seguridad f\u00edsica, ciberseguridad y salvaguardas contra amenazas internas a lo largo del ciclo de vida de la IA. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Las organizaciones deben almacenar los pesos de modelos de IA en entornos seguros con acceso limitado, implementando un proceso de gesti\u00f3n de vulnerabilidades y revisando regularmente las medidas de seguridad. Adem\u00e1s, se debe establecer un programa de detecci\u00f3n de amenazas internas para proteger la propiedad intelectual y los secretos comerciales m\u00e1s valiosos.<\/p>\n
Desarrollar e implementar mecanismos confiables de autenticaci\u00f3n de contenido y procedencia, cuando sea t\u00e9cnicamente factible, como marcas de agua u otras t\u00e9cnicas que permitan a los usuarios identificar contenido generado por IA. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Las organizaciones tambi\u00e9n deben esforzarse por desarrollar herramientas o APIs que permitan a los usuarios determinar si un contenido particular fue creado con su sistema avanzado de IA.<\/p>\n
Tambi\u00e9n se anima a las organizaciones a implementar otros mecanismos, como etiquetas o avisos, para permitir a los usuarios, cuando sea posible y apropiado, saber cu\u00e1ndo est\u00e1n interactuando con un sistema de IA.<\/p>\n
Priorizar la investigaci\u00f3n con el fin de mitigar los riesgos sociales, de seguridad y de la sociedad, as\u00ed como priorizar la inversi\u00f3n en medidas efectivas de mitigaci\u00f3n. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Esto incluye llevar a cabo, colaborar e invertir en investigaci\u00f3n que respalde el avance de la seguridad, la confianza y la seguridad de la IA y abordar los riesgos clave, as\u00ed como invertir en el desarrollo de herramientas de mitigaci\u00f3n adecuadas. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Las organizaciones se comprometen en que el prop\u00f3sito de ello ser\u00e1 mantener los valores democr\u00e1ticos, respetar los derechos humanos, proteger a los ni\u00f1os y grupos vulnerables, salvaguardar los derechos de propiedad intelectual y la privacidad y evitar sesgos perjudiciales, desinformaci\u00f3n y manipulaci\u00f3n de informaci\u00f3n, as\u00ed como evaluar los impactos ambientales y clim\u00e1ticos.<\/p>\n
Priorizar el desarrollo de sistemas avanzados de IA para abordar los mayores desaf\u00edos del mundo, especialmente, pero no limitado a ello, en materia de crisis clim\u00e1tica, salud global y educaci\u00f3n. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Estos esfuerzos se llevan a cabo en apoyo de los Objetivos de Desarrollo Sostenible de las Naciones Unidas, y en aras de fomentar el desarrollo de IA para beneficio global. Las organizaciones deben priorizar el manejo responsable de una IA confiable y centrada en el ser humano y tambi\u00e9n apoyar iniciativas de alfabetizaci\u00f3n. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Las organizaciones deben colaborar con la sociedad civil y grupos comunitarios para identificar desaf\u00edos prioritarios y desarrollar soluciones innovadoras para abordar los mayores desaf\u00edos del mundo.<\/p>\n
Avanzar en el desarrollo y, cuando sea apropiado, la adopci\u00f3n de est\u00e1ndares t\u00e9cnicos internacionales. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Esto incluye adoptar los est\u00e1ndares para marcas de agua y trabajar con organizaciones de desarrollo de est\u00e1ndares. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Se anima a las organizaciones a trabajar en el desarrollo de est\u00e1ndares t\u00e9cnicos internacionales y marcos interoperables para ayudar a los usuarios a distinguir el contenido generado por IA del contenido no generado por IA.<\/p>\n
Implementar medidas adecuadas de entrada de datos y protecciones para datos personales y propiedad intelectual. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Se alienta a las organizaciones a tomar medidas adecuadas para gestionar la calidad de los datos, incluidos los datos de entrenamiento y la recolecci\u00f3n de datos (privacidad y propiedad intelectual), para mitigar sesgos perjudiciales.<\/p>\n
157. The Presidio Recommendations on Responsible Generative AI, publicado por el Foro Econ\u00f3mico Mundial. En junio de 2023, el foro plante\u00f3, de manera muy concreta, treinta sugerencias dirigidas a fomentar procesos responsables e integradores para el desarrollo y despliegue de la IA, para aumentar as\u00ed la confianza y la transparencia en el uso de este tipo de tecnolog\u00edas. De esta forma, en materia de IA, el organismo recomienda: (i) establecer una terminolog\u00eda precisa y compartida; (ii) sensibilizar a la opini\u00f3n p\u00fablica sobre las capacidades de la IA y sus limitaciones; (iii) centrarse en los valores y preferencias humanas; (iv) fomentar la alineaci\u00f3n y participaci\u00f3n; (v) mantener la responsabilidad de la IA con una evaluaci\u00f3n rigurosa y utilizar pruebas espec\u00edficas para cada caso, al tiempo que se exploran nuevas m\u00e9tricas y normas; (vi) emplear equipos rojos con diversidad en los miembros que los integren; (vii) adoptar estrategias transparentes de publicaci\u00f3n responsable de modelos de IA; (viii) permitir comentarios de los usuarios; (ix) integrar la trazabilidad de modelos y sistemas; (x) garantizar la trazabilidad de los contenidos; (xi) divulgar la interacci\u00f3n no humana; (xii) generar confianza humana en la IA; (xiii) implantar un proceso de revisi\u00f3n paso a paso; (xiv) desarrollar marcos de medici\u00f3n exhaustivos y multinivel; (xv) adoptar procesos sandbox; (xvi) adaptarse a la evoluci\u00f3n del panorama de la creatividad y la propiedad intelectual.<\/p>\n
158. En asuntos de innovaci\u00f3n y colaboraci\u00f3n internacional, sugiere (xvii) incentivar la coordinaci\u00f3n de la investigaci\u00f3n p\u00fablico-privada; (xviii) crear un registro com\u00fan de modelos, herramientas, puntos de referencia y mejores pr\u00e1cticas; (xix) apoyar la innovaci\u00f3n abierta responsable y el intercambio de conocimientos; (xx) aumentar la colaboraci\u00f3n internacional sobre normas de IA; (xxi) establecer una iniciativa mundial de gobernanza de la IA.<\/p>\n
159. Seguidamente, en materia de progreso social, el organismo internacional recomienda (xxii) dar prioridad al progreso social en el desarrollo y la adopci\u00f3n de la IA generativa; (xxiii) fomentar la alfabetizaci\u00f3n de la sociedad en IA; (xxiv) fomentar enfoques de pensamiento hol\u00edsticos en entornos impulsados por la IA; (xxv) dirigir el impacto transformador de la IA generativa; (xxvi) incentivar la innovaci\u00f3n para el bien social; (xxvii) abordar las disparidades de recursos e infraestructuras; (xxviii) promover la experiencia en IA generativa dentro de los gobiernos; (xxix) aumentar el acceso equitativo a la IA en los pa\u00edses en desarrollo y (xxx) preservar el patrimonio cultural.<\/p>\n
160. Informe provisional de asesoramiento sobre IA de la ONU (Governing AI for Humanity) . Fue emitido en diciembre de 2023 por el \u00f3rgano consultivo de la ONU en materia de IA. El documento contiene los siguientes cinco principios rectores: (i) la IA debe gobernarse de forma inclusiva, por y para el beneficio de todos; (ii) la IA debe gobernarse en pro del inter\u00e9s p\u00fablico; (iii) la gobernanza de la IA debe construirse al comp\u00e1s de la gobernanza de los datos y la promoci\u00f3n de datos comunes; (iv) la gobernanza de la IA debe ser universal, estar conectada en red y arraigada en la colaboraci\u00f3n adaptativa de m\u00faltiples partes interesadas y (v) la gobernanza de la IA debe estar anclada en la Carta de las Naciones Unidas, la legislaci\u00f3n internacional sobre derechos humanos y otros compromisos internacionales acordados, como los Objetivos de Desarrollo Sostenible (ODS).<\/p>\n
161. En dicho documento, la ONU enfatiza en que un r\u00e9gimen adecuado de gobernanza internacional de la IA para la humanidad debe centrarse en el cumplimiento de siete funciones a cargo de tres niveles distintos de gobernanza: organizaciones internacionales, gobiernos y sector privado. A cada uno de ellos les corresponden diferentes grados de responsabilidad seg\u00fan el tipo de funci\u00f3n. Por su parte, la sociedad civil, incluidos el mundo acad\u00e9mico y los cient\u00edficos independientes, desempe\u00f1an un papel primordial a la hora de fundamentar las pol\u00edticas, evaluar su impacto y exigir responsabilidades a los actores clave durante su aplicaci\u00f3n. La siguiente gr\u00e1fica piramidal presenta en su c\u00faspide las funciones que, seg\u00fan la organizaci\u00f3n, requieren mayor \u00abdureza institucional\u00bb, referida al mayor rigor, presencia e intervenci\u00f3n de esas instituciones, con una disminuci\u00f3n gradual a medida que se desciende hacia la base.<\/p>\n
162. Resoluci\u00f3n adoptada por la ONU el 21 de marzo de 2024. En el marco de su gesti\u00f3n de gobernanza en materia de IA, la Asamblea General de la ONU adopt\u00f3 una resoluci\u00f3n para regular el uso de la IA. La resoluci\u00f3n \u00abpide a los Estados que se abstengan de utilizar sistemas de inteligencia artificial que no puedan funcionar de conformidad con las normas internacionales de derechos humanos o los pongan en riesgo\u00bb. Los objetivos principales de la misma consisten en fomentar la protecci\u00f3n de datos personales, mejorar las pol\u00edticas de privacidad, garantizar un seguimiento estrecho de la IA para detectar riesgos potenciales y defender los derechos humanos. El documento, que recibi\u00f3 el respaldo de m\u00e1s de 120 pa\u00edses, incluidos Estados Unidos, China y Rusia, es uno de los instrumentos normativos m\u00e1s relevantes en la materia, actualmente.<\/p>\n
163. Carta \u00e9tica europea sobre el uso de la inteligencia artificial en sistemas judiciales y su entorno, emitida por la Comisi\u00f3n Europea para la Eficacia de la Justicia (CEPEJ) del Consejo de Europa. Los instrumentos de derecho blando a los que se ha hecho menci\u00f3n contienen lineamientos generales, no asociados a la utilizaci\u00f3n de los sistemas de IA en un \u00e1mbito particular. La referida carta \u00e9tica, adoptada por la CEPEJ en diciembre de 2018, es el primer texto europeo que establece principios \u00e9ticos en lo que respecta al uso de la IA en escenarios judiciales. Con motivo del desarrollo acelerado de la IA en este \u00e1mbito, el documento fija cinco principios que buscan guiar a hacedores de pol\u00edticas p\u00fablicas, legisladores y profesionales de la justicia, entendiendo que la IA puede mejorar la eficiencia y calidad judicial, pero debe implementarse de manera responsable.<\/p>\n
Principio \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Descripci\u00f3n<\/p>\n
Principio del respeto de los derechos fundamentales<\/p>\n
\u00a0 \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Se debe asegurar que el dise\u00f1o y la implementaci\u00f3n de herramientas y servicios de inteligencia artificial sean compatibles con los derechos fundamentales.<\/p>\n
Principio de no discriminaci\u00f3n \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Principio de calidad y seguridad \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
En el procesamiento de decisiones judiciales y datos se deben usar fuentes certificadas y datos intangibles con modelos concebidos de manera multidisciplinaria, en un entorno tecnol\u00f3gico seguro.<\/p>\n
Principio de transparencia, imparcialidad y equidad \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Procura que los m\u00e9todos de procesamiento de datos sean accesibles y comprensibles, autorizando auditor\u00edas externas.<\/p>\n
Principio \u00abbajo control del usuario\u00bb<\/p>\n
\u00a0 \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Busca excluir un enfoque impositivo o prescriptivo y asegurar que los usuarios sean actores informados y est\u00e9n en control de sus decisiones.<\/p>\n
164. Adem\u00e1s, el documento categoriza los usos de la IA en los sistemas jur\u00eddicos europeos as\u00ed:<\/p>\n
Usos que deben ser fomentados \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
– Motores de b\u00fasqueda de jurisprudencia basados en t\u00e9cnicas de aprendizaje autom\u00e1tico.<\/p>\n
– Acceso a la ley a trav\u00e9s de sistemas de IA, como chatbots que faciliten el acceso a fuentes de informaci\u00f3n y la generaci\u00f3n en l\u00ednea de plantillas de documentos legales.<\/p>\n
– Creaci\u00f3n de nuevas herramientas estrat\u00e9gicas que utilizan los datos para hacer evaluaciones cualitativas y cuantitativas y generar indicadores de desempe\u00f1o.<\/p>\n
Usos posibles que requieren precauciones metodol\u00f3gicas considerables \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
– Asistencia en la creaci\u00f3n de escalas de indemnizaci\u00f3n en disputas civiles.<\/p>\n
– Recomendaciones para conciliar en asuntos civiles.<\/p>\n
– Soluci\u00f3n de diferencias en l\u00ednea.<\/p>\n
– Algoritmos en investigaci\u00f3n criminal para identificar d\u00f3nde se cometen los delitos.<\/p>\n
Usos para considerar despu\u00e9s de estudios cient\u00edficos adicionales \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
– Perfilamiento de jueces.<\/p>\n
Usos para considerar con las m\u00e1s extremas reservas \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
– Uso de algoritmos en asuntos penales para perfilar individuos.<\/p>\n
– Enfoque de decisiones basadas en la cantidad de asuntos similares resueltos precedentemente.<\/p>\n
165. Kit de herramientas global sobre IA y el estado de derecho para el poder judicial, de la UNESCO. El documento, publicado en 2023, tiene como prop\u00f3sito proporcionar a los actores judiciales (jueces, fiscales, abogados, universidades de derecho e instituciones de formaci\u00f3n judicial) el conocimiento y las herramientas necesarias para comprender los beneficios y riesgos de la IA en su trabajo. De esta forma, suministra elementos de gran valor a trav\u00e9s de los cuales orienta sobre las leyes, principios, normas y jurisprudencia internacional de derechos humanos relevantes en el uso \u00e9tico de la IA, a efectos de mitigar sus posibles riesgos para los derechos humanos.<\/p>\n
166. Proyecto \u00abfAIr LAC+\u00bb, impulsado por el Banco Interamericano de Desarrollo (BID). Es uno de los proyectos m\u00e1s relevantes en materia de gobernanza de IA a nivel internacional. La organizaci\u00f3n define esta iniciativa como una red diversa de profesionales y expertos que, desde la academia, el gobierno, la sociedad civil, la industria y el sector emprendedor, busca promover una aplicaci\u00f3n \u00e9tica de la IA en Am\u00e9rica Latina y el Caribe. A trav\u00e9s de dicho proyecto, se elaboraron cinco herramientas para la aplicaci\u00f3n de los principios \u00e9ticos en el dise\u00f1o, el desarrollo y las auditor\u00edas necesarias de las soluciones basadas en IA: (i) una herramienta de autoevaluaci\u00f3n \u00e9tica para el sector p\u00fablico; (ii) una herramienta de autoevaluaci\u00f3n \u00e9tica para el sector emprendedor; (iii) un manual de formulaci\u00f3n de proyectos para el uso responsable de la IA en pol\u00edticas p\u00fablicas; (iv) un manual de ciencias de datos para el uso responsable de la IA en pol\u00edticas p\u00fablicas y (v) una gu\u00eda de auditor\u00eda de algoritmos para sistemas de toma o soporte de decisiones.<\/p>\n
167. Informe n.\u00ba 26 (2023) del Consejo Consultivo de Jueces Europeos. En este informe se abordan: (i) los usos espec\u00edficos de la tecnolog\u00eda, (ii) sus retos y peligros y (iii) los principios que deben orientar la aplicaci\u00f3n de la tecnolog\u00eda. Se precisa en el informe que, si bien los Estados tienen la obligaci\u00f3n de garantizar el acceso efectivo y pr\u00e1ctico a la justicia, existen diversos retos. De all\u00ed que la tecnolog\u00eda sea un medio para afrontar estas dificultades.<\/p>\n
168. Tambi\u00e9n se destaca c\u00f3mo la implementaci\u00f3n de las tecnolog\u00edas y, m\u00e1s espec\u00edficamente los datos, permite proporcionar informaci\u00f3n m\u00e1s accesible al p\u00fablico, facilitar la selecci\u00f3n eficaz de los casos, identificar procedimientos potencialmente adecuados para los procedimientos sumarios o incompletos, predecir el resultado potencial de los procedimientos de conciliaci\u00f3n, entre otros y, a su vez, c\u00f3mo se pueden generar nuevos retos y peligros en el acceso a la justicia por el uso de estas, como pueden ser: la falta de independencia judicial, el riesgo de que no se d\u00e9 un procedimiento equitativo, el peligro de que se vulneren las cargas que existen alrededor de la protecci\u00f3n de datos, la seguridad y la accesibilidad, entre otros.<\/p>\n
169. Gu\u00eda de Dise\u00f1o de Pol\u00edticas P\u00fablicas de la IA del Banco de Am\u00e9rica Latina y el Caribe (CAF). Con base en la experiencia proporcionada por el acompa\u00f1amiento t\u00e9cnico brindada por el CAF a los gobiernos nacionales, subnacionales y locales de la regi\u00f3n, esta gu\u00eda recolecta y destaca experiencias, buenas pr\u00e1cticas y lecciones aprendidas sobre el dise\u00f1o participativo y la implementaci\u00f3n de pol\u00edticas p\u00fablicas y estrategias de IA en Am\u00e9rica Latina y el Caribe. As\u00ed, su objetivo se centra en ofrecer una orientaci\u00f3n a los gobiernos de la regi\u00f3n en (i) la formulaci\u00f3n de pol\u00edticas p\u00fablicas sobre estas tem\u00e1ticas y (ii) el desarrollo y progreso de los elementos necesarios para su implementaci\u00f3n, en especial, en la institucionalidad, la regulaci\u00f3n, la \u00e9tica, el talento y los datos.<\/p>\n
Iniciativas de normativas nacionales en otros pa\u00edses<\/p>\n
170. Igualmente es necesario tener en cuenta las iniciativas de normativas nacionales aplicadas en diversos pa\u00edses.<\/p>\n
171. La Sala de Revisi\u00f3n se referir\u00e1, principalmente, a los procesos regulatorios de la Uni\u00f3n Europea y Estados Unidos en materia de IA, debido a la marcada influencia que pueden tener aquellos en las iniciativas de regulaci\u00f3n que se est\u00e1n adelantando en otros pa\u00edses, especialmente, en los del denominado sur global.<\/p>\n
172. Uni\u00f3n Europea. En abril de 2021, la Comisi\u00f3n Europea present\u00f3 una propuesta de marco para regular la IA y evaluar su impacto. La iniciativa fue aprobada por el Parlamento Europeo el 14 de junio de 2023, luego de lo cual debi\u00f3 surtir el proceso correspondiente ante el Consejo de la Uni\u00f3n Europea. Esta autoridad, tras estudiarla y proponer una serie de enmiendas, la someti\u00f3 a debate y votaci\u00f3n de sus miembros, aprob\u00e1ndola el 13 de marzo de 2024.<\/p>\n
173. Consecuencia de lo anterior fue la expedici\u00f3n el Reglamento (UE) 2024\/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024, que tiene como objetivo:<\/p>\n
[M]ejorar el funcionamiento del mercado interior y promover la adopci\u00f3n de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de proteccio\u0301n de la salud, la seguridad y los derechos fundamentales consagrados en la Carta, incluidos la democracia, el Estado de Derecho y la proteccio\u0301n del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA (en lo sucesivo, \u00absistemas de IA\u00bb) en la Uni\u00f3n asi\u0301 como prestar apoyo a la innovaci\u00f3n.<\/p>\n
174. A continuaci\u00f3n, se resaltan sus aspectos m\u00e1s relevantes:<\/p>\n
175. El Reglamento de Inteligencia Artificial, como se le ha llamado, proh\u00edbe los sistemas de IA a trav\u00e9s de los cuales se realicen las siguientes pr\u00e1cticas (i) despliegue de\u00a0t\u00e9cnicas subliminales, manipuladoras o enga\u00f1osas\u00a0para distorsionar el comportamiento y perjudicar la toma de decisiones con conocimiento de causa, generando un da\u00f1o significativo; (ii) explotaci\u00f3n de vulnerabilidades\u00a0relacionadas con la edad, la discapacidad o las circunstancias socioecon\u00f3micas para distorsionar el comportamiento, causando da\u00f1os significativos; (iii) categorizaci\u00f3n biom\u00e9trica\u00a0que infiera atributos sensibles (raza, opiniones pol\u00edticas, afiliaci\u00f3n sindical, creencias religiosas o filos\u00f3ficas, orientaci\u00f3n sexual), excepto el etiquetado o filtrado de conjuntos de datos biom\u00e9tricos adquiridos legalmente o cuando las fuerzas de seguridad categoricen datos biom\u00e9tricos; (iv) puntuaci\u00f3n social, es decir, evaluar o clasificar a individuos o grupos bas\u00e1ndose en comportamientos sociales o rasgos personales, causando un trato perjudicial o desfavorable a esas personas; (v) evaluar el riesgo de que un individuo cometa delitos bas\u00e1ndose \u00fanicamente en perfiles o rasgos de personalidad, excepto cuando se utilice para aumentar las evaluaciones humanas basadas en hechos objetivos y verificables directamente relacionados con la actividad delictiva; (vi) compilaci\u00f3n de bases de datos de reconocimiento\u00a0facial mediante la toma no selectiva de im\u00e1genes faciales de internet o de grabaciones de circuitos de televisi\u00f3n; (vii) inferir emociones en lugares de trabajo o centros\u00a0educativos, salvo por razones m\u00e9dicas o de seguridad; y (viii) identificaci\u00f3n biom\u00e9trica remota en tiempo real en espacios de acceso p\u00fablico para las fuerzas de seguridad, salvo que se trate de b\u00fasqueda de personas desaparecidas, v\u00edctimas de secuestros y personas v\u00edctimas de la trata de personas o explotaci\u00f3n sexual; prevenci\u00f3n de una amenaza sustancial e inminente para la vida, o un ataque terrorista previsible; o la identificaci\u00f3n de sospechosos de algunos delitos que cataloga como graves.<\/p>\n
176. Por lo dem\u00e1s, el Reglamento de IA adopta un enfoque basado en el riesgo, que asume los siguientes niveles:<\/p>\n
Riesgo \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Descripci\u00f3n<\/p>\n
Alto \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
El art\u00edculo 6 del Reglamento de IA acude a dos t\u00e9cnicas de identificaci\u00f3n de sistemas de alto riesgo.<\/p>\n
La primera, se basa en una suerte de clasificaci\u00f3n \u00aben blanco\u00bb pues no consagra todos los elementos para categorizar una determinada IA como de riesgo alto, sino que fija dos condiciones concurrentes que deben llenarse de contenido a trav\u00e9s de la remisi\u00f3n a otras normas de la Uni\u00f3n Europea. En este punto, se clasifica como IA de riesgo alto aquella que (i) est\u00e9 destinada a ser un componente de seguridad de productos que entren en el \u00e1mbito de aplicaci\u00f3n de los actos legislativos de armonizaci\u00f3n de la Uni\u00f3n enumerados en el anexo I de la Ley o que el propio sistema de IA sea uno de dichos productos y (ii) deba someterse a una evaluaci\u00f3n para su introducci\u00f3n al mercado o puesta en servicio con arreglo a los referidos actos legislativos de armonizaci\u00f3n.<\/p>\n
La segunda t\u00e9cnica es enunciativa pues cataloga como IA de alto riesgo las incluidas en el listado del Anexo III de la Ley. Estas son:<\/p>\n
i. (i) \u00a0Las relacionadas con usos permitidos de biometr\u00eda.<\/p>\n
ii. (ii) \u00a0Las relacionadas con infraestructura cr\u00edtica que puede poner en riesgo la vida y la salud de los ciudadanos (por ejemplo, las relacionadas con el suministro de agua, gas, calefacci\u00f3n o electricidad).<\/p>\n
iii. (iii) \u00a0Las relacionadas con entrenamiento educacional y vocacional que puedan determinar el acceso a la educaci\u00f3n y a un cargo profesional.<\/p>\n
iv. (iv) \u00a0Las usadas en el empleo, gesti\u00f3n de los trabajadores y acceso al autoempleo.<\/p>\n
v. (v) \u00a0Las relacionadas con acceso y disfrute de servicios y prestaciones p\u00fablicas y privadas que sean esenciales. Por ejemplo, las usadas para medir el puntaje crediticio de los consumidores financieros.<\/p>\n
vi. (vi) \u00a0Las destinadas a la aplicaci\u00f3n de la ley, cuando su uso sea permitido para evaluar el riesgo de que una persona sea v\u00edctima de infracciones penales; usar pol\u00edgrafos o herramientas similares; evaluar la fiabilidad de pruebas durante una investigaci\u00f3n o juicio penal; evaluar la probabilidad de que una persona f\u00edsica cometa una infracci\u00f3n o reincida, as\u00ed como elaboraci\u00f3n de perfiles de personas f\u00edsicas o evaluaci\u00f3n de rasgos y caracter\u00edsticas de la personalidad o comportamientos delictivos pasados de personas f\u00edsicas o grupos.<\/p>\n
vii. (vii) \u00a0Las usadas en los sectores de migraci\u00f3n, asilo y gesti\u00f3n de control fronterizo.<\/p>\n
viii. (viii) \u00a0Las relacionadas con la administraci\u00f3n de justicia y procesos democr\u00e1ticos.<\/p>\n
Las IA de alto riesgo relacionadas en el anterior listado pueden no ser consideradas de alto riesgo si se cumple alguna de las condiciones que prev\u00e9 el art\u00edculo 6.\u00ba, numeral 3.\u00ba, del Reglamento de IA.<\/p>\n
Limitado \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Se refiere a los sistemas de IA con obligaciones espec\u00edficas de transparencia. Al utilizar sistemas de IA como los chatbots, los usuarios deben ser conscientes de que est\u00e1n interactuando con una m\u00e1quina para poder tomar una decisi\u00f3n informada de continuar o no.<\/p>\n
La propuesta permite el uso libre de herramientas de IA con un riesgo m\u00ednimo. Las aplicaciones incluidas en este nivel son, por ejemplo, las relacionadas con videojuegos o filtros de spam.<\/p>\n
177. El Anexo III del Reglamento de IA ahonda en los sistemas de IA de alto riesgo para precisar su alcance. De manera particular, se refiere a aquellos relacionados con la administraci\u00f3n de justicia y procesos democr\u00e1ticos en los siguientes t\u00e9rminos:<\/p>\n
a) Sistemas de IA destinados a ser utilizados por una autoridad judicial, o en su nombre, para ayudar a una autoridad judicial en la investigaci\u00f3n e interpretaci\u00f3n de hechos y de la ley, as\u00ed como en la aplicaci\u00f3n de la ley a un conjunto concreto de hechos, o a ser utilizados de forma similar en una resoluci\u00f3n alternativa de litigios<\/p>\n
b) Sistemas de IA destinados a ser utilizados para influir en el resultado de una elecci\u00f3n o refer\u00e9ndum o en el comportamiento electoral de personas f\u00edsicas que ejerzan su derecho de voto en elecciones o referendos. Quedan excluidos los sistemas de IA a cuya informaci\u00f3n de salida no est\u00e9n directamente expuestas las personas f\u00edsicas, como las herramientas utilizadas para organizar, optimizar o estructurar campa\u00f1as pol\u00edticas desde un punto de vista administrativo o log\u00edstico<\/p>\n
178. Una vez identificados los sistemas de IA que se catalogan como de alto riesgo, el Reglamento de IA establece los siguientes requisitos espec\u00edficos y condiciones para que pueda hacerse uso de ellos (i) la adopci\u00f3n de un sistema de gesti\u00f3n de riesgo (art\u00edculo 9.\u00ba) que permita hacer una adecuada evaluaci\u00f3n de estos y adoptar medidas de prevenci\u00f3n y mitigaci\u00f3n; (ii) la implementaci\u00f3n de altos est\u00e1ndares de calidad respecto de los conjuntos de datos de entrenamiento, validaci\u00f3n y prueba, los cuales se deben someter a pr\u00e1cticas de gobernanza y gesti\u00f3n de datos adecuadas para la finalidad prevista del sistema de IA (art\u00edculo 10); (iii) la elaboraci\u00f3n de documentaci\u00f3n t\u00e9cnica que soporte el sistema de IA (art\u00edculo 11); (iv) la conservaci\u00f3n de registros autom\u00e1ticos de eventos a lo largo de todo el ciclo de vida del sistema (art\u00edculo 12); la transparencia y la comunicaci\u00f3n de informaci\u00f3n a los responsables del despliegue (art\u00edculo 13); la vigilancia humana (art\u00edculo 14); la solidez, la precisi\u00f3n y la ciberseguridad del sistema. Acto seguido, el Reglamento de IA define las obligaciones a cargo de los proveedores y responsables del despliegue de sistemas de IA de alto riesgo (secci\u00f3n 3).<\/p>\n
179. Estados Unidos de Am\u00e9rica. Algunos de los instrumentos normativos m\u00e1s relevantes han sido emitidos por el poder ejecutivo federal, mientras que otros provienen de agencias federales. Aunque en dicho pa\u00eds no hay una norma del Gobierno Federal que regule integralmente la materia, el instrumento de pol\u00edtica p\u00fablica m\u00e1s importante es la \u00ab[o]rden ejecutiva sobre el desarrollo y la utilizaci\u00f3n segura y fiable de la inteligencia artificial\u00bb dictada por el presidente Biden en 2023. Esta se bas\u00f3 en el denominado Anteproyecto para una Declaraci\u00f3n de Derechos de la IA que profiri\u00f3 la Casa Blanca en octubre de 2022, el cual contiene cinco principios y pr\u00e1cticas asociadas para ayudar a guiar el dise\u00f1o, uso y despliegue de sistemas automatizados, con el fin de proteger los derechos del p\u00fablico estadounidense en la era de la IA. Los referidos principios est\u00e1n formulados en los siguientes t\u00e9rminos (i) debes estar protegido\/a de sistemas inseguros o ineficaces; (ii) no debes enfrentar discriminaci\u00f3n por parte de algoritmos y los sistemas deben ser utilizados y dise\u00f1ados de manera equitativa; (iii) debes estar protegido\/a de pr\u00e1cticas abusivas de datos mediante protecciones incorporadas y deber\u00edas tener control sobre c\u00f3mo se utiliza la informaci\u00f3n sobre quien usa la IA; (iv) debes saber que se est\u00e1 utilizando un sistema automatizado y comprender c\u00f3mo y por qu\u00e9 contribuye a los resultados que te afectan y (v) debes poder optar por salirte del sistema cuando sea apropiado y tener acceso a una persona que pueda considerar y resolver r\u00e1pidamente los problemas que se encuentren.<\/p>\n
180. Otros proyectos de gobernanza relevantes en Estados Unidos son el Plan Nacional de Investigaci\u00f3n y Desarrollo de Inteligencia Artificial, que identifica \u00e1reas prioritarias para la investigaci\u00f3n financiada con fondos federales; el marco de gesti\u00f3n de riesgos de inteligencia artificial del NIST y las pautas publicadas por la Oficina de Protecci\u00f3n Financiera del Consumidor, que exigen a los prestamistas proporcionar explicaciones claras para decisiones adversas, con el fin de proteger a los consumidores contra la discriminaci\u00f3n.<\/p>\n
181. Finalmente, respecto del caso estadounidense cabe se\u00f1alar que, en materia de proyectos de ley, se han presentado al Congreso aproximadamente 70 iniciativas que abordan temas variados como restricciones a la IA; la exigencia a los proveedores de sistemas de IA que realicen evaluaciones de la tecnolog\u00eda y sus usos; requisitos de transparencia, notificaci\u00f3n y etiquetado; la creaci\u00f3n de una autoridad reguladora que supervise la IA; la defensa de los consumidores con medidas de responsabilidad y protecci\u00f3n de datos; la capacitaci\u00f3n del personal federal, entre otros.<\/p>\n
182. Am\u00e9rica Latina. El marco normativo de la IA est\u00e1 en proceso de gestaci\u00f3n. En efecto, ninguno de los pa\u00edses \u00abcuenta con una ley especial vigente que regule el uso y el desarrollo de esta tecnolog\u00eda, aunque todos han introducido propuestas de regulaci\u00f3n en sus respectivos parlamentos u \u00f3rganos legislativos\u00bb. Aunque en Per\u00fa se aprob\u00f3 recientemente una ley sobre la materia, esta solo contiene lineamientos generales y objetivos de pol\u00edtica p\u00fablica que pasar\u00edan a ser desarrolladas con mayor profundidad desde el ejecutivo a trav\u00e9s de normas reglamentarias.<\/p>\n
183. En el presente tr\u00e1mite, varios expertos hicieron \u00e9nfasis en que \u00ab[l]a mayor\u00eda de los pa\u00edses latinoamericanos propone regulaciones inspiradas o con similitudes importantes a la propuesta de Ley de Inteligencia Artificial de la Uni\u00f3n Europea (AI Act)\u00bb . Adem\u00e1s, se identificaron dos tendencias. De un lado, la de pa\u00edses como Argentina o Brasil que \u00abcuentan con iniciativas que proponen normativas enfocadas en regular la IA en relaci\u00f3n con determinadas materias o contextos, adem\u00e1s de aquellas que dan lugar a una regulaci\u00f3n general de la disciplina\u00bb. De otro lado, la de pa\u00edses como Chile, Costa Rica y Colombia, que \u00abcomparten en sus iniciativas la creaci\u00f3n de autoridades especializadas en la materia que fiscalicen y supervisen la implementaci\u00f3n y el desarrollo de estas tecnolog\u00edas\u00bb.<\/p>\n
184. Del caso peruano, llama particularmente la atenci\u00f3n que, en la actualidad, se est\u00e1 tramitando una reforma constitucional a trav\u00e9s del proyecto de Ley 5763-2023-CR del 25 de agosto de 2023, para adicionar el art\u00edculo 139 de la Constituci\u00f3n en el sentido de establecer el uso de la IA como uno de los principios de la administraci\u00f3n de justicia, de manera que se pueda utilizar \u00abpara la resoluci\u00f3n de casos judiciales y para las acciones de mero tr\u00e1mite\u00bb. La exposici\u00f3n de motivos anuncia muy concretamente que con ello se busca mayor agilidad en la prestaci\u00f3n de este servicio p\u00fablico y as\u00ed beneficiar a la ciudadan\u00eda en materia de derechos de acceso a la administraci\u00f3n de justicia, tutela procesal efectiva, plazo razonable, entre otros.<\/p>\n
185. Visto lo anterior, previo a cerrar este ac\u00e1pite, la Sala de Revisi\u00f3n considera relevante llamar la atenci\u00f3n sobre algunos aspectos. En primer lugar, trat\u00e1ndose de establecer un marco regulatorio en asuntos de IA se debe reconocer la importancia tanto de instrumentos de derecho blando como de fuentes normativas plenamente vinculantes (hard law). Estas \u00faltimas son la herramienta para aterrizar la aplicaci\u00f3n de lineamientos generales dispuestos en instrumentos de soft law a trav\u00e9s de reglas de obligatorio cumplimiento, que permitan efectivizar los mecanismos, controles, t\u00e9rminos y dem\u00e1s condiciones en que debe operar la IA en todas las facetas que componen su ciclo de vida. No obstante, la velocidad a la que evoluciona la IA supone un reto en t\u00e9rminos de regulaci\u00f3n a trav\u00e9s de herramientas tradicionales de hard law.<\/p>\n
186. En efecto, estas tecnolog\u00edas emergentes suelen avanzar a un ritmo que sobrepasa la capacidad de reacci\u00f3n de las autoridades regulatorias. Es a lo que se ha denominado problema del ritmo. Sobre este fen\u00f3meno, el referido informe de asesoramiento que emiti\u00f3 la ONU a trav\u00e9s de su \u00f3rgano consultivo en IA destac\u00f3 que \u00ablos avances t\u00e9cnicos en IA y su uso siguen aceler\u00e1ndose, ampliando la brecha en la comprensi\u00f3n y la capacidad entre las empresas tecnol\u00f3gicas que desarrollan IA, las empresas y otras organizaciones que la utilizan en diversos sectores y espacios sociales, y aquellos que regular\u00edan su desarrollo, despliegue y uso\u00bb.<\/p>\n
187. El profesor Gary Marchant considera que los instrumentos de soft law son clave para hacer frente a dicha problem\u00e1tica. En su art\u00edculo \u00abSoft Law. Governance of Artificial Intelligence\u00bb concluye que, aunque el derecho blando brinda herramientas de gobernanza muy imperfectas debido a su falta de aplicabilidad, as\u00ed como al lenguaje tan amplio y general en el que suele redactarse<\/p>\n
[E]n el caso de una tecnolog\u00eda en r\u00e1pido desarrollo y expansi\u00f3n como la IA, no es factible una regulaci\u00f3n exhaustiva por parte de los gobiernos, al menos a corto plazo. En consecuencia, el soft law ser\u00e1 el enfoque por defecto para la mayor parte de la gobernanza de la IA en la actualidad. Por esta raz\u00f3n, es necesario explorar formas indirectas de aplicar y coordinar la proliferaci\u00f3n de medidas de soft law que ya se han propuesto o promulgado para la IA<\/p>\n
188. En segundo lugar, se debe tener en cuenta que el liderazgo de algunos pa\u00edses del llamado norte global en el \u00e1mbito regulatorio de la IA ha dado paso a lo que se conoce como el efecto Bruselas, que se refiere a un proceso de globalizaci\u00f3n reguladora causado por la Uni\u00f3n Europea, cuyas leyes terminan proyect\u00e1ndose de facto fuera de sus fronteras, debido a la marcada influencia que ejerce en otras latitudes. Aunque este tipo de regulaciones est\u00e9 determinando pautas en materia de regulaci\u00f3n de la IA, es importante tener en cuenta que el panorama internacional y, con ello, un an\u00e1lisis de derecho comparado, resultan \u00fatiles y pertinentes en tanto ofrecen un punto de partida para comprender los caminos posibles y los enfoques para tener en cuenta al momento de dise\u00f1ar pol\u00edticas p\u00fablicas, instrumentos normativos de derecho interno, estrategias de auto restricci\u00f3n o estrategias de autocontrol, teniendo en cuenta que dicha construcci\u00f3n debe ser en todo caso colectiva. En el proceso de crear una normativa propia hay que ser cautelosos para no caer en pr\u00e1cticas de importaciones normativas que puedan resultar impertinentes, ineficaces e incluso contraproducentes seg\u00fan el contexto social, econ\u00f3mico, pol\u00edtico y cultural de cada pa\u00eds.<\/p>\n
189. As\u00ed pues, resulta de la mayor relevancia que cualquier iniciativa normativa o estrategia que se desarrolle, bien sea en el escenario legislativo o reglamentario en materia de IA, se ajuste a las particularidades del entorno en el que impactar\u00e1, de manera que se eval\u00fae la procedencia y, de ser el caso, la mejor forma de trasplantar ideas o figuras propias de regulaciones extranjeras, con el fin de neutralizar los riesgos y posibles desventajas de las pr\u00e1cticas de importaci\u00f3n normativa. En todo caso, este ejercicio debe realizarse sin perder de vista la importancia de mantener un enfoque centrado en el cumplimiento de los derechos fundamentales y del marco internacional, a partir del cual pueda desarrollarse un complejo normativo arm\u00f3nico en materia de IA, que cumpla con los m\u00e1s altos est\u00e1ndares, de esta forma se garantizar\u00e1 la salvaguarda de los derechos fundamentales.<\/p>\n
190. Las anteriores preocupaciones son compartidas por organismos como la ONU, cuyo \u00f3rgano consultivo en IA, al reflexionar sobre el panorama actual de regulaci\u00f3n, ha concluido que:<\/p>\n
Los esfuerzos existentes en materia de gobernanza de la IA han dado lugar a similitudes en el lenguaje en asuntos como la importancia de la equidad, la responsabilidad y la transparencia. Sin embargo, no existe una alineaci\u00f3n global en cuanto a la aplicaci\u00f3n, ni en t\u00e9rminos de interoperabilidad entre jurisdicciones ni en t\u00e9rminos de incentivos de cumplimiento dentro de las jurisdicciones. Algunos son partidarios de normas vinculantes, mientras que otros prefieren incentivos no vinculantes. Se debaten trade-offs, como el equilibrio entre acceso y seguridad, o si la atenci\u00f3n debe centrarse en los da\u00f1os actuales o en los posibles da\u00f1os futuros. Los distintos modelos tambi\u00e9n pueden requerir un \u00e9nfasis diferente en la gobernanza. La falta de normas y puntos de referencia comunes entre los marcos nacionales y multinacionales de gesti\u00f3n de riesgos, as\u00ed como las m\u00faltiples definiciones de IA utilizadas en dichos marcos han complicado el panorama de la gobernanza de la IA, a pesar de la necesidad de espacio para que coexistan diferentes enfoques reguladores que reflejen la diversidad social y cultural del mundo<\/p>\n
191. Los aspectos anotados suponen un reto adicional para la ya dif\u00edcil tarea de definir un marco regulatorio o estrategias en un asunto tan especializado y t\u00e9cnico como la IA. Igualmente, llaman a que sin perjuicio de los esfuerzos normativos estatales, a niveles sectoriales se adopten dentro del \u00e1mbito propio de competencias, marcos regulatorios, a partir de c\u00f3digos de conducta y protocolos de buenas pr\u00e1cticas, que estimulen la aplicaci\u00f3n de est\u00e1ndares \u00e9ticos espec\u00edficos y que sean capaces de recoger regulaciones comunes de conducta, que permitan afrontar razonablemente como posibilidad de mejoramiento las herramientas de inteligencia artificial generativa, especialmente del ChatGPT, y prevenir sus riesgos. Se trata de aprender de la historia de la humanidad y de los desarrollos tecnol\u00f3gicos, siempre en cambio, as\u00ed como de afrontar el reto de racionalizar sobre estos y de aprender sobre sus inusitados alcances, para que sin caer en la esclavitud ante ellos, el ser humano los apropie como herramientas para potenciar las mejores condiciones de vida individuales, sociales y globales. Ni la comunidad ni la administraci\u00f3n de justicia podr\u00e1n ser reemplazadas por las tecnolog\u00edas ni por las m\u00e1quinas, pues aquellas comprenden en su esencia lo insustituible de la existencia cual es el componente humano de racionalidad, creatividad, emotividad, singularidad y solidaridad que habr\u00e1 de acompa\u00f1ar las generaciones por siempre.<\/p>\n
() Algunas experiencias concretas relacionadas con la IA en la pr\u00e1ctica jur\u00eddica<\/p>\n
192. El inter\u00e9s por regular el uso de la IA en la pr\u00e1ctica judicial no resulta extra\u00f1o pues su utilizaci\u00f3n en este \u00e1mbito ha comenzado a marcar una tendencia desde hace algunos a\u00f1os, tanto para apoyar a los usuarios en la actividad litigiosa como para respaldar, en mayor o menor grado, el sistema judicial mismo.<\/p>\n
193. En 2016, en Reino Unido, se lanz\u00f3 DoNotPay, una iniciativa privada que comenz\u00f3 por utilizar la IA para apelar autom\u00e1ticamente multas de tr\u00e1nsito. Con el tiempo y debido al alto porcentaje de \u00e9xito, sus fundadores expandieron los servicios prestados por el chatbot para que, entre otros, ofreciera ayuda legal gratuita a personas que est\u00e1n enfrentando problemas de vivienda, como embargos y desalojos. Otro conocido ejemplo es el de la compa\u00f1\u00eda AirHelp que, haciendo uso de sistemas de IA, asiste a pasajeros en reclamaciones a aerol\u00edneas. La misma empresa explica que sus abogados digitales, capaces de comprobar los documentos de viaje, realizar evaluaciones legales y analizar la jurisdicci\u00f3n para una reclamaci\u00f3n en cuesti\u00f3n de segundos, \u00abse utilizan en el 100% de las reclamaciones entrantes en la fase legal, y las que se aprueban en esta fase se pasan a un segundo\u00a0bot\u00a0que comienza a analizar la reclamaci\u00f3n [\u2026] Ya se ha utilizado con \u00e9xito en m\u00e1s de 150.000 casos y el resultado fue exitoso en el 96 % de los casos, un 5% m\u00e1s que la tasa media de \u00e9xito humano\u00bb. Ejemplos como los anteriores allanaron el camino para que, aproximadamente desde 2019, en el mundo comenzaran a desarrollarse diferentes aplicaciones basadas en sistemas de IA que permiten la automatizaci\u00f3n de tareas de litigio para grandes firmas y compa\u00f1\u00edas.<\/p>\n
194. En cuanto al uso de IA desde el poder judicial, estos sistemas se han comenzado a utilizar para asistir a los jueces en la realizaci\u00f3n de algunas tareas, con un mayor o menor grado de intensidad. En Estonia, por ejemplo, se desarroll\u00f3 un programa piloto en 2019, a trav\u00e9s del cual un juez robot conoce y resuelve casos de menos de 7.000 euros. \u00abLas partes pueden cargar informaci\u00f3n sobre el caso a la plataforma la que es tomada por el Juez Robot para tomar la decisi\u00f3n, la que puede ser apelada ante un juez humano\u00bb.<\/p>\n
195. De otra parte, en China, un tribunal de la ciudad de Hangzhou \u00abcuenta con un asistente de inteligencia artificial llamado Xiao Zhi 3.0 o \u00abLittle Wisdom\u00bb (Peque\u00f1o sabio), que tiene como objetivo la agilizaci\u00f3n de casos peque\u00f1os. Durante el piloto de prueba de la herramienta ayud\u00f3 a resolver casos de pr\u00e9stamos becarios de 10 personas. La m\u00e9trica que se tiene sobre el tema arroja que resolver estos casos hubiera llevado unas cuantas semanas, Xiao Zhi emiti\u00f3 la decisi\u00f3n en m\u00e1s o menos treinta minutos. Esta herramienta est\u00e1 siendo utilizada para casos sencillos y que de ciertas formas son similares o repetitivos\u00bb.<\/p>\n
196. En Brasil, en 2019, el Tribunal Supremo de Justicia Federal lanzo\u0301 un proyecto piloto llamado \u00abS\u00f3crates\u00bb, que permite identificar demandas por tem\u00e1tica para acumularlas y as\u00ed emitir una sola decisi\u00f3n.<\/p>\n
197. La Corte Constitucional colombiana tambi\u00e9n ha desarrollado un proyecto de IA llamado \u00abPretoria\u00bb, cuya finalidad es permitir la identificaci\u00f3n de tutelas para su selecci\u00f3n en sede de revisi\u00f3n, de acuerdo a los criterios establecidos por esta corporaci\u00f3n.<\/p>\n
198. Finalmente, en lo que interesa a este caso, no puede perderse de vista que el Juzgado del Circuito hizo uso de la herramienta de IA ChatGPT 3.5 y que, como se se\u00f1al\u00f3 en l\u00edneas anteriores, lo que se debe establecer es si con ello se vulner\u00f3 o no el derecho fundamental del debido proceso.<\/p>\n
() La garant\u00eda del juez natural en un sistema jurisdiccional que utilice IA<\/p>\n
199. El art\u00edculo 29 de la Constituci\u00f3n Pol\u00edtica reconoce la garant\u00eda del juez natural, como uno de los componentes del debido proceso, al se\u00f1alar que: \u00ab[n]adie podr\u00e1 ser juzgado sino [\u2026] ante juez o tribunal competente\u00bb.<\/p>\n
<\/p>\n
200. Por su parte, en el \u00e1mbito internacional, este derecho se consagra en el art\u00edculo 10 de la Declaraci\u00f3n Universal de Derechos Humanos, que establece que \u00abtoda persona tiene derecho, en condiciones de plena igualdad, a ser o\u00edda p\u00fablicamente y con justicia por un tribunal independiente e imparcial, para la determinaci\u00f3n de sus derechos y obligaciones o para el examen de cualquier actuaci\u00f3n contra ella en materia penal\u00bb y en el Pacto Internacional de Derechos Civiles y Pol\u00edticos, en el art\u00edculo 14, que dispone que \u00abtoda persona tendr\u00e1 derecho a ser o\u00edda p\u00fablicamente y con las debidas garant\u00edas por un tribunal competente, independiente e imparcial, establecido por la ley, en la sustanciaci\u00f3n de cualquier acusaci\u00f3n y de car\u00e1cter penal formulada contra ella o para la determinaci\u00f3n de sus derechos u obligaciones de car\u00e1cter civil\u00bb.<\/p>\n
201. Finalmente, en el sistema interamericano, la Convenci\u00f3n Americana sobre Derechos Humanos incluye, en el art\u00edculo 8.\u00ba, la garant\u00eda del juez natural como parte integral del derecho al debido proceso, al se\u00f1alar que \u00abtoda persona tiene derecho a ser o\u00edda, con las debidas garant\u00edas y dentro de un plazo razonable, por un juez o un tribunal competente, independiente e imparcial, establecido con anterioridad por la ley, en la sustanciaci\u00f3n de cualquier acusaci\u00f3n penal formulada contra ella, o para la determinaci\u00f3n de sus derechos y obligaciones de orden civil, laboral o de cualquier otro car\u00e1cter\u00bb. A su turno, el art\u00edculo 25 de la misma convenci\u00f3n consagra el derecho de toda persona a un recurso efectivo \u00abante los jueces o tribunales competentes, que la ampare contra actos que violen sus derechos fundamentales reconocidos por la Constituci\u00f3n, la ley o la presente Convenci\u00f3n\u00bb y enfatiza en la importancia de que los Estados Parte garanticen \u00abque la autoridad competente prevista por el sistema legal del Estado decidir\u00e1 sobre los derechos de toda persona que interponga el recurso\u00bb.<\/p>\n
202. La jurisprudencia constitucional colombiana ha concluido que \u00abel respeto al debido proceso, concretado en el principio de juez natural, implica la garant\u00eda de que el juzgamiento sea efectuado por los funcionarios y \u00f3rganos que, en atenci\u00f3n a lo dispuesto en la Constituci\u00f3n, tengan la competencia para ello\u00bb. En otras palabras, el juez natural es \u00abaquel a quien la Constituci\u00f3n o la ley le ha atribuido el conocimiento de determinado asunto\u00bb.<\/p>\n
203. Cuando la asignaci\u00f3n de competencia no ha sido establecida expresamente por el constituyente, al legislador se le reconoce un amplio margen de configuraci\u00f3n en la materia, bajo la condici\u00f3n de que no altere el marco funcional definido en la Constituci\u00f3n Pol\u00edtica. Sobre esa base, la obligaci\u00f3n de determinar el juez competente de manera previa por el \u00f3rgano legislativo es \u00abun derecho absoluto que no puede ser objeto de excepci\u00f3n alguna\u00bb. De esta forma se permite que las personas conozcan de antemano el \u00f3rgano judicial, el tipo de juicio y el r\u00e9gimen procesal a los que estar\u00e1n sometidos, con lo cual, se preserva la seguridad jur\u00eddica y la confianza leg\u00edtima en la administraci\u00f3n de justicia.<\/p>\n
204. Sobre la misma materia, la Corte Interamericana de Derechos Humanos se ha pronunciado para resaltar que la garant\u00eda del juez natural es un elemento constitutivo del derecho al debido proceso. En el caso Barreto Leiva vs. Venezuela, record\u00f3 que \u00abel juez natural deriva su existencia y competencia de la ley\u00bb, por tanto \u00aben un Estado de derecho s\u00f3lo el poder legislativo puede regular, a trav\u00e9s de leyes, la competencia de los juzgadores\u00bb.<\/p>\n
205. El derecho a un juez natural a su vez se conforma por las siguientes tres subgarant\u00edas (i) juez legal previamente establecido; (ii) independencia judicial, que implica que ning\u00fan poder, ya sea estatal, particular, o de cualquier otra \u00edndole, como por ejemplo una IA, pueda influir en la consideraci\u00f3n del caso y (iii) la imparcialidad frente al caso.<\/p>\n
206. Sobre el alcance del juez previamente establecido, la Corte Constitucional ha se\u00f1alado que se concreta esencialmente en dos caracter\u00edsticas, la especialidad y la predeterminaci\u00f3n. La primera supone que \u00abel legislador deber\u00e1 consultar como principio de raz\u00f3n suficiente la naturaleza del \u00f3rgano al que atribuye las funciones judiciales\u00bb. Por su parte,\u00a0la\u00a0predeterminaci\u00f3n\u00a0legal del juez que conocer\u00e1 de determinados asuntos implica \u00abi) que el \u00f3rgano judicial sea previamente creado por la ley; ii) que la competencia le haya sido atribuida previamente al hecho sometido a su decisi\u00f3n; iii) que no se trate de un juez por fuera de alguna estructura jurisdiccional (ex post) o establecido \u00fanicamente para el conocimiento de alg\u00fan asunto (ad hoc); y iv) que no se someta un asunto a una jurisdicci\u00f3n especial cuando corresponde a la ordinaria o se desconozca la competencia que por fuero ha sido asignada a determinada autoridad judicial\u00bb. De esta definici\u00f3n tambi\u00e9n se desprende la prohibici\u00f3n de crear jueces, juzgados o tribunales de excepci\u00f3n.<\/p>\n
207. La garant\u00eda del juez legal previamente establecido busca que con anterioridad a los hechos los ciudadanos sepan el funcionario que va a ser el competente para conocerlos. Esta subgarant\u00eda se refiere por tanto a la competencia y proh\u00edbe la creaci\u00f3n de jueces ad hoc para conocer de un asunto en particular, ya por la relevancia de los hechos -sean estos de poca o mucha importancia- o por las personas a investigar.<\/p>\n
208. En cuanto a la independencia y la imparcialidad, la doctrina ha expuesto que con dichas garant\u00edas se \u00abtrata de controlar los m\u00f3viles del juez frente a influencias extra\u00f1as al Derecho provenientes del sistema social, la imparcialidad trata de controlar los m\u00f3viles del juez frente a influencias extra\u00f1as al Derecho provenientes del proceso\u00bb-.<\/p>\n
209. Es posible, por tanto, que la independencia del juez, cuando utiliza una herramienta de IA como ChatGPT, puede verse afectada por los sesgos que tenga dicha herramienta, producto de los datos con los que esta haya sido alimentada, o que, por las mismas razones, no sea posible verificar la imparcialidad de una IA, si es ella quien toma la decisi\u00f3n judicial.<\/p>\n
210. De acuerdo con lo expuesto, podr\u00eda generarse la vulneraci\u00f3n al debido proceso, en su garant\u00eda de juez natural, si la causa es decidida no por un juez sino por una IA o si ella afecta la independencia o imparcialidad del juez, temas sobre los cuales se ahondar\u00e1 a continuaci\u00f3n.<\/p>\n
211. Por las particularidades del caso sometido a estudio, uno de los principales cuestionamientos que emergen a ra\u00edz de la posibilidad de que, mediante el uso de modelos de IA generativa, en espec\u00edfico ChatGPT 3.5, se conf\u00ede a estos sistemas el ejercicio total o parcial de la actividad judicial, es si de esta forma se sustituye al juez competente para adoptar la decisi\u00f3n judicial y, con ello, se compromete la validez y legitimidad de la actuaci\u00f3n.<\/p>\n
212. Para tales efectos, seg\u00fan lo se\u00f1alado, se tiene como premisa que la garant\u00eda del juez natural es uno de los componentes primordiales del derecho al debido proceso y goza de un reconocimiento y desarrollo s\u00f3lidos, tanto en la Constituci\u00f3n y en la jurisprudencia nacional, como en los sistemas mundial e interamericano de derechos humanos, tal como se se\u00f1al\u00f3 en l\u00edneas anteriores.<\/p>\n
Juez humano previamente establecido<\/p>\n
213. En el marco de las tecnolog\u00edas de la IA y su implementaci\u00f3n en los sistemas judiciales, parte del contenido esencial de la garant\u00eda del juez natural es la condici\u00f3n de ser humano que debe asistirle al juzgador. En efecto, el dise\u00f1o institucional y normativo actual no prev\u00e9 la posibilidad de un juez m\u00e1quina y, se anticipa, que ello plantear\u00eda problemas irresolubles en cuanto a la aplicaci\u00f3n de principios superiores y garant\u00eda de derechos; en todo caso, la apelaci\u00f3n a la decisi\u00f3n humana es insustituible, tanto como deseable que las tecnolog\u00edas respetuosas de la dignidad sirvan al servicio p\u00fablico.<\/p>\n
214. Esto surge de una lectura arm\u00f3nica del texto constitucional que, al referirse a la Rama Judicial en los art\u00edculos 228 y siguientes, alude a una funci\u00f3n jurisdiccional ejercida por funcionarios humanos, como se desprende, por ejemplo, de requisitos generales como \u00ab[s]er colombiano de nacimiento y ciudadano en ejercicio\u00bb o \u00ab[s]er abogado\u00bb, que son algunos de los exigidos en la Carta Pol\u00edtica para ejercer como magistrado de alta Corte. Esta afirmaci\u00f3n se ve reforzada por el r\u00e9gimen constitucional de la funci\u00f3n p\u00fablica, contenido esencial, aunque no exclusivamente, entre los art\u00edculos 122 y 131 de la Constituci\u00f3n.<\/p>\n
215. En l\u00ednea con lo anterior, se encuentra la Ley 270 de 1996, Estatutaria de Administraci\u00f3n de Justicia, que en su art\u00edculo 12 prev\u00e9 que \u00ab[l]a funci\u00f3n jurisdiccional se ejerce como propia y habitual y de manera permanente por las corporaciones y personas dotadas de investidura legal para hacerlo, seg\u00fan se precisa en la Constituci\u00f3n Pol\u00edtica y en la presente Ley Estatutaria\u00bb. M\u00e1s adelante, la misma ley, en su art\u00edculo 125, al clasificar a los servidores de la Rama Judicial seg\u00fan la naturaleza de sus funciones, indica que \u00ab[t]ienen la calidad de funcionarios los magistrados de las corporaciones judiciales, los jueces de la Rep\u00fablica y los fiscales. Son empleados las dem\u00e1s personas que ocupen cargos en las corporaciones y despachos judiciales y en los \u00f3rganos y entidades administrativas de la Rama Judicial\u00bb. El art\u00edculo 126 de la misma normatividad contin\u00faa se\u00f1alando que \u00ab[s]olamente podr\u00e1 desempe\u00f1ar cargos en la Rama Judicial quien observe una conducta acorde con la dignidad de la funci\u00f3n\u00bb, mientras que el 127, al consagrar los requisitos generales para el desempe\u00f1o de cargos de funcionarios de la Rama Judicial, exige que todo magistrado, juez o fiscal, acredite \u00ab1. Ser colombiano de nacimiento y ciudadano en ejercicio y estar en pleno goce de sus derechos civiles; 2. Tener t\u00edtulo de abogado expedido o revalidado conforme a ley, salvo el caso de los Jueces de Paz; y, 3. No estar incurso en causal de inhabilidad o incompatibilidad\u00bb.<\/p>\n
216. Como puede advertirse, la garant\u00eda del juez natural es piedra angular del ordenamiento jur\u00eddico superior porque es parte integral del derecho al debido proceso, pero tambi\u00e9n porque busca realizar atributos b\u00e1sicos de la funci\u00f3n jurisdiccional como la seguridad jur\u00eddica, la imparcialidad, la neutralidad y la independencia en la administraci\u00f3n de justicia.<\/p>\n
217. Visto lo anterior, de cara a la salvaguarda de la garant\u00eda del juez natural, es necesario establecer si la implementaci\u00f3n de la IA en la actividad jurisdiccional puede aparejar una sustituci\u00f3n del operador judicial al que constitucional o legalmente le fue atribuida la competencia de conocer un determinado asunto. Esto, entendiendo que la competencia se refiere a la facultad que tiene el juez para ejercer, por autoridad de la ley, una determinada funci\u00f3n y que, en la actualidad, no existe en el ordenamiento jur\u00eddico interno una norma legal que regule el uso de la IA en el sistema judicial.<\/p>\n
218. La Sala de Revisi\u00f3n advierte que la respuesta a dicho cuestionamiento implica considerar los diferentes usos que se le puede dar a estas tecnolog\u00edas en el escenario judicial y, con ello, el alcance y naturaleza de su intervenci\u00f3n en el ejercicio jurisdiccional.<\/p>\n
219. De acuerdo con nuestro ordenamiento jur\u00eddico, el juez natural tiene que ser un humano y no una m\u00e1quina, por lo que la IA no puede suplantar al juez en la toma de decisiones judiciales, pues ello implicar\u00eda la violaci\u00f3n de la garant\u00eda del juez legal previamente establecido, sin importar la complejidad del asunto sometido a estudio de la jurisdicci\u00f3n. Si la decisi\u00f3n judicial es tomada por una IA, sin valoraci\u00f3n y determinaci\u00f3n por parte de un juez, ser\u00e1 invalida y se quebrantar\u00e1 el derecho fundamental al debido proceso.<\/p>\n
220. Visto lo anterior, la Sala de Revisi\u00f3n concluye que se genera una violaci\u00f3n de la garant\u00eda del juez natural cuando el funcionario judicial utiliza la IA para sustituir el razonamiento l\u00f3gico y humano que le compete realizar a efectos de interpretar los hechos, las pruebas, motivar la decisi\u00f3n e incluso adoptarla. En tales eventos habr\u00e1 una sustituci\u00f3n del poder jurisdiccional por cuenta de la IA y con ello, la configuraci\u00f3n de una violaci\u00f3n al debido proceso por violaci\u00f3n de la garant\u00eda de un juez legal previamente establecido.<\/p>\n
221. Por el contrario, el uso de la IA en el sistema judicial para los \u00e1mbitos de gesti\u00f3n administrativa y documental, as\u00ed como el de apoyo a la gesti\u00f3n judicial y la correcci\u00f3n y s\u00edntesis de largos textos, no comporta una transgresi\u00f3n a la garant\u00eda del juez natural pues, en tales eventos, la utilizaci\u00f3n de estas tecnolog\u00edas no remplaza la labor esencial que se le ha atribuido al funcionario judicial, consistente en conocer y resolver de fondo el asunto para el cual fue investido de competencia. Lo anterior se cumple, siempre y cuando no se involucre una labor de creaci\u00f3n de contenido ni interpretaci\u00f3n de hechos o pruebas y, mucho menos, la soluci\u00f3n de casos, y siempre y cuando haya una supervisi\u00f3n posterior por parte de alg\u00fan funcionario o empleado de la Rama Judicial.<\/p>\n
222. De esta forma, es de especial importancia que cuando el juez natural haga uso de herramientas de IA, para las funciones anteriormente definidas, se cumpla con los criterios de (i) responsabilidad, (ii) guarda del principio de legalidad y (iii) idoneidad. Adem\u00e1s, no sobra advertir que trat\u00e1ndose de una materia que se caracteriza por un desarrollo permanente y veloz, la pertinencia de estas consideraciones debe valorarse en el tiempo, seg\u00fan la evoluci\u00f3n que se produzca en los \u00e1mbitos de regulaci\u00f3n normativa y, por supuesto, en el tecnol\u00f3gico.<\/p>\n
223. En efecto, trat\u00e1ndose del servicio de justicia, estas tecnolog\u00edas eventualmente podr\u00edan utilizarse con fines de (i) gesti\u00f3n administrativa y documental (p. ej. reparto, agenda para la programaci\u00f3n de diligencias, digitalizaci\u00f3n y clasificaci\u00f3n de expedientes, sistemas de relator\u00eda y motores de b\u00fasqueda de jurisprudencia); (ii) apoyo a la funci\u00f3n judicial, en actividades que no suponen una labor de creaci\u00f3n de contenido ni interpretaci\u00f3n de hechos o textos, ni soluci\u00f3n de casos, como en el caso de la herramienta Pretoria aplicado por esta Corte Constitucional en materia de seguimiento a procesos por acci\u00f3n de tutela (p. ej. referenciaci\u00f3n de jurisprudencia, seguimiento de l\u00edneas jurisprudenciales, an\u00e1lisis de datos estad\u00edsticos, identificaci\u00f3n de temas repetitivos, interacci\u00f3n con usuarios del Poder Judicial, contestando dudas de los usuarios mediante un banco de preguntas frecuentes preestablecidas) ; y (iii) correcci\u00f3n y s\u00edntesis de textos, siempre y cuando, estos sean supervisados posteriormente por el operador jur\u00eddico para determinar su precisi\u00f3n, coherencia y correcta aplicaci\u00f3n. El uso de la IA para los anteriores fines tiene el potencial de mejorar el bienestar de los funcionarios p\u00fablicos de la Rama Judicial y de los ciudadanos que hacen uso de este servicio, pues permite que la prestaci\u00f3n del servicio judicial sea m\u00e1s eficiente y eficaz. Sin duda, progresivamente la justicia sin perder su majestad e independencia, habr\u00e1 de caber en un terminal de comunicaci\u00f3n personal, dentro de una red tecnol\u00f3gica que le sirva de sustento, a tiempo con el avance de una sociedad cada vez con mayor digitalizaci\u00f3n.<\/p>\n
224. En este punto, cabe reiterar que no puede pasarse por alto que la IA ha contribuido en la realizaci\u00f3n y armonizaci\u00f3n de diversas actividades en la sociedad. Dentro de los beneficios de este tipo de herramientas para el trabajo de los servidores judiciales se encuentra la eficiencia y agilidad en la resoluci\u00f3n de conflictos, por cuanto los sistemas de IA generativa logran dar respuesta a b\u00fasquedas con mayor rapidez, pueden generar y discriminar informaci\u00f3n y permiten predicciones con mayor facilidad. Consecuentemente, esto puede ser ben\u00e9fico en temas de productividad, ya que, al lograr recopilar, organizar y sintetizar informaci\u00f3n hay un mayor aprovechamiento del tiempo.<\/p>\n
Juez independiente e imparcial<\/p>\n
225. Sin embargo, poder utilizar la IA como apoyo a la funci\u00f3n judicial implica un alto riesgo, en espec\u00edfico a las garant\u00edas de un juez independiente e imparcial.<\/p>\n
226. En cuanto al juez independiente, la Constituci\u00f3n Pol\u00edtica prev\u00e9 un amplio cat\u00e1logo de preceptos que reconocen expresamente la independencia en el ejercicio de la funci\u00f3n jurisdiccional y consagran modelos procesales e institucionales que aseguran este principio. Seg\u00fan el art\u00edculo 2.\u00ba superior, dos de los fines del Estado son el de asegurar la convivencia pac\u00edfica y la vigencia de un orden justo. El art\u00edculo 228 establece que las decisiones de la administraci\u00f3n de justicia son independientes y el 230 siguiente reza que \u00ablos jueces, en sus providencias, s\u00f3lo est\u00e1n sometidos al imperio de la ley\u00bb.<\/p>\n
227. En la Sentencia C-288 de 2012, la Corte Constitucional record\u00f3 que los principios de autonom\u00eda e independencia judicial constituyen una expresi\u00f3n directa e inmediata del principio de separaci\u00f3n de poderes y un componente esencial del ordenamiento jur\u00eddico. Por lo dem\u00e1s, ambos principios son garant\u00eda de imparcialidad, que a su vez es el fundamento de la administraci\u00f3n de justicia, por tanto, son componentes esenciales del derecho a un juez natural.<\/p>\n
228. Por su parte, mediante Sentencia T-450 de 2018, la corporaci\u00f3n tambi\u00e9n indic\u00f3 que tales principios suponen la resoluci\u00f3n de asuntos judiciales de forma motivada y bajo estricto cumplimiento de la ley. Particularmente, se\u00f1al\u00f3:<\/p>\n
[C]omo correlato necesario de la independencia y autonom\u00eda de los jueces, surge el deber de estos \u00faltimos de materializar el derecho al debido proceso de los administrados, mediante la motivaci\u00f3n de sus decisiones y la garant\u00eda de que las mismas sean el resultado exclusivo de la aplicaci\u00f3n de la ley al caso particular. Esto significa que la validez y la legitimidad de las providencias judiciales est\u00e1 mediada, entre otras cosas, por la garant\u00eda de que las mismas obedecen \u00fanicamente a la aplicaci\u00f3n del derecho positivo al caso concreto que se somete a consideraci\u00f3n del operador, y de que, por consiguiente, este ser\u00e1 ajeno a cualquier inter\u00e9s de las partes involucradas en la controversia de que se trate, a las dem\u00e1s instancias internas dentro de la propia organizaci\u00f3n judicial y, en general, frente a todo sistema de poderes. Ello, sin duda alguna, deviene en una garant\u00eda vital para la materializaci\u00f3n de la objetividad, neutralidad, imparcialidad y justicia material que debe revestir las decisiones judiciales<\/p>\n
229. Con base en lo anterior, concluy\u00f3 que la autonom\u00eda e independencia judicial comportan tres atributos b\u00e1sicos en nuestro ordenamiento superior: \u00abi) [u]n primer atributo, cuya connotaci\u00f3n es esencialmente negativa, entiende dicho principio como la posibilidad del juez de aplicar el derecho libre de interferencias tanto internas como externas; ii) un segundo atributo que lo erige en presupuesto y condici\u00f3n del principio de separaci\u00f3n de poderes, del derecho al debido proceso y de la materializaci\u00f3n del derecho de acceso, a la administraci\u00f3n de justicia de la ciudadan\u00eda; y, finalmente, iii) un tercer atributo que lo instituye en un principio estructural de la Carta Pol\u00edtica de 1991\u00bb.<\/p>\n
230. En suma, el derecho al juez natural independiente hace parte esencial del derecho fundamental al debido proceso. Estos postulados suponen el derecho de las personas a tener un juicio impartido por un juez independiente, imparcial y sin influencia de otros poderes. Tambi\u00e9n, exigen que las decisiones judiciales no est\u00e9n determinadas por sesgos o prejuicios personales, ni mediadas por intereses particulares. De este modo, las decisiones judiciales ser\u00e1n el resultado exclusivo de la aplicaci\u00f3n de la ley.<\/p>\n
231. Como se dijo en l\u00edneas anteriores, es posible que la independencia del juez, cuando utiliza una herramienta de IA, se vea afectada por los sesgos que tenga dicha herramienta producto de los datos con los que esta haya sido alimentada.<\/p>\n
233. Al respecto, se\u00f1al\u00f3 que \u00ab[l]a utilizaci\u00f3n de herramientas de IA puede apoyar el poder de decisi\u00f3n de los jueces o la independencia judicial, pero no debe substituirlas: la toma de decisiones finales debe seguir siendo una actividad humana\u00bb.<\/p>\n
234. T\u00e9ngase en cuenta que la motivaci\u00f3n de las providencias es una consecuencia del deber de los servidores judiciales de explicar razonadamente sus determinaciones, en un sistema como el nuestro, fundamentado en decisiones jur\u00eddicas y no de conciencia, punto sobre el cual la Corte Constitucional ha precisado que:<\/p>\n
La motivaci\u00f3n de los fallos judiciales es un deber de los jueces y un derecho fundamental de los ciudadanos, como posici\u00f3n jur\u00eddica concreta derivada del debido proceso. Desde el punto de vista del operador judicial, la motivaci\u00f3n consiste en un ejercicio argumentativo por medio del cual el juez establece la interpretaci\u00f3n de las disposiciones normativas, de una parte, y determina c\u00f3mo, a partir de los elementos de convicci\u00f3n aportados al proceso y la hip\u00f3tesis de hecho que se construye con base en esos elementos, es posible subsumir el caso concreto en el supuesto de hecho de una regla jur\u00eddica aplicable al caso. En el estado constitucional de derecho, la motivaci\u00f3n adquiere mayor importancia. La incidencia de los derechos fundamentales en todas las \u00e1reas del derecho y la obligaci\u00f3n de los jueces y operadores jur\u00eddicos de aplicar las reglas legales y\/o reglamentarias s\u00f3lo en la medida en que sean conformes con la Carta Pol\u00edtica (aspectos conocidos en la doctrina constitucional como efecto irradiaci\u00f3n, interpretaci\u00f3n conforme y car\u00e1cter normativo de la Constituci\u00f3n) exigen del juez un ejercicio interpretativo calificado que d\u00e9 cuenta del ajuste entre su interpretaci\u00f3n y los mandatos superiores, y que le permita, mediante el despliegue de una argumentaci\u00f3n que tome en cuenta todos los factores relevantes, administrar el pluralismo de los principios constitucionales<\/p>\n
235. La Sala de Casaci\u00f3n Civil de la Corte Suprema de Justicia, sobre el deber de motivar las decisiones, se\u00f1al\u00f3 lo siguiente:<\/p>\n
Mem\u00f3rese que, dentro de las distintas clases de v\u00edas de hecho estructuradas por la jurisprudencia constitucional, se encuentra aquella relacionada con la falta de motivaci\u00f3n de la decisi\u00f3n cuestionada. Pues bien, como bien se sabe, esta propende por la salvaguarda del derecho de los ciudadanos a obtener respuestas suficientes y razonadas de la administraci\u00f3n de justicia, cuesti\u00f3n que, valga decirlo, permite ejercer debidamente su derecho de contradicci\u00f3n.<\/p>\n
Es por ello que la Sala ha se\u00f1alado al respecto que \u201c[e]l deber de motivar toda providencia que no tenga por \u00fanica finalidad impulsar el tr\u00e1mite, reclama, como presupuesto sine qua non, que la jurisdicci\u00f3n haga p\u00fablicas las razones que ha tenido en cuenta al adoptar la respectiva resoluci\u00f3n, de tal manera que tras conocerlas se tenga noticia de su contenido para que no aparezca arbitraria, caprichosa, antojadiza, sino producto del an\u00e1lisis objetivo, am\u00e9n de reflexivo de los diferentes elementos de juicio incorporados al plenario y dentro del marco trazado por el objeto y la causa del proceso\u201d<\/p>\n
As\u00ed mismo, en reciente jurisprudencia apuntal\u00f3 que: \u201cVarios principios y derechos en los reg\u00edmenes democr\u00e1ticos imponen la obligatoriedad de motivar la sentencia judicial: el de publicidad porque asegura la contradicci\u00f3n del fallo y muestra la transparencia con que act\u00faan los jueces, pues si hay silencio en las causas de la decisi\u00f3n no habr\u00e1 motivos para impugnar; el de racionalidad para disuadir el autoritarismo y la arbitrariedad; el de legalidad porque el fallo debe estar afincado en las en las normas aplicables al caso y en las pruebas v\u00e1lidamente recaudadas; los de seguridad jur\u00eddica y confianza leg\u00edtima y debido proceso, entre otros, para materializar el principio de igualdad y aquilatar el Estado Constitucional.<\/p>\n
\u201cEl deber de motivar toda providencia que no tenga por \u00fanica finalidad impulsar el tr\u00e1mite, reclama, como presupuesto sine qua non, que la jurisdicci\u00f3n haga p\u00fablicas las razones que ha tenido en cuenta al adoptar la respectiva resoluci\u00f3n, de tal \u00a0manera que tras conoc\u00e9rselas se tenga noticia de su contenido para que no aparezca arbitraria, caprichosa, antojadiza, sino producto del an\u00e1lisis objetivo, am\u00e9n de reflexivo de los diferentes elementos de juicio incorporados al plenario y dentro del marco trazado por el objeto y la causa del proceso\u201d-<\/p>\n
236. Como puede observarse, la falta de motivaci\u00f3n es una figura que ha sido ampliamente estudiada por la doctrina y por la jurisprudencia, la cual ha sostenido que se presenta cuando (i) la decisi\u00f3n carece totalmente de motivaci\u00f3n; (ii) cuando siendo motivada, es dil\u00f3gica o ambivalente; (iii) cuando su motivaci\u00f3n es incompleta y (iv) cuando la motivaci\u00f3n es aparente, falsa o sof\u00edstica.<\/p>\n
237. La ausencia de motivaci\u00f3n se configura cuando no se precisan las razones de orden probatorio y jur\u00eddico que soportan la decisi\u00f3n; la motivaci\u00f3n es ambivalente cuando acoge posturas contradictorias que impiden conocer su verdadero sentido, o las consideraciones expuestas son contrarias a la determinaci\u00f3n adoptada en la parte resolutiva; es precaria o incompleta la motivaci\u00f3n, cuando se omite analizar alg\u00fan aspecto sustancial o las razones arg\u00fcidas no alcanzan a traslucir el fundamento de la decisi\u00f3n y es aparente, falsa o sof\u00edstica, cuando se aparta abiertamente de la verdad probada, por suposici\u00f3n, supresi\u00f3n o tergiversaci\u00f3n de pruebas que objetivamente conducen a una conclusi\u00f3n jur\u00eddica diversa.<\/p>\n
238. La falsedad de una motivaci\u00f3n en una providencia judicial, en lo que tiene que ver con el uso de IA, se puede dar cuando esta produce alucinaciones que no son advertidas por el funcionario judicial, lo cual puede generar la violaci\u00f3n al derecho fundamental del debido proceso.<\/p>\n
239. El anterior riesgo debe ser evaluado por los funcionarios judiciales al momento de decidir su uso como fuente de ayuda, consulta, ampliaci\u00f3n de la informaci\u00f3n, etc. Si bien la congesti\u00f3n del sistema judicial en Colombia y las fallas estructurales que hay en el mismo son barreras para que se acceda de manera id\u00f3nea a la administraci\u00f3n de justicia, las soluciones a esta problem\u00e1tica no deben producir impactos negativos sobre la calidad de las decisiones judiciales, ni menos sobre la efectividad de los derechos fundamentales comprometidos en su adopci\u00f3n.<\/p>\n
240. No se puede perder de vista que la adopci\u00f3n de herramientas tecnol\u00f3gicas en la actividad judicial debe seguir plenamente el respeto por la Constituci\u00f3n, sus lineamientos y la salvaguarda de los derechos fundamentales, para que se garantice el acceso a la administraci\u00f3n de justicia, el debido proceso, la igualdad y el derecho a la intimidad y la privacidad.<\/p>\n
242. Como se se\u00f1al\u00f3 anteriormente, la IA puede producir contenido textual que no tiene sentido o que es gramaticalmente incorrecto. Estos resultados son causados por diferentes factores, tales como (i) que el modelo no est\u00e1 entrenado con suficientes datos, (ii) el modelo se ha entrenado con datos ruidosos o sucios, (iii) el modelo no tiene suficiente contexto y (iv) el modelo no tiene suficientes restricciones.<\/p>\n
243. En el caso de ChatGPT 3.5, esta plataforma utiliza una base de datos que ha sido alimentada de fuentes p\u00fablicas, datos de terceros con licencia e informaci\u00f3n creada por revisores humanos, lo cual, en principio, no garantiza que la informaci\u00f3n est\u00e9 actualizada o sea relevante para el contexto nacional en t\u00e9rminos de idioma, contexto social, cultural y\/o econ\u00f3mico. Varios de los intervinientes reiteran la necesidad de analizar la informaci\u00f3n arrojada por la IA de forma tal que no se llegue a caer en imprecisiones y en conceptos que tengan factores comunes y mayor recurrencia en internet, pero que desconocen el contexto y la especificidad de los asuntos por considerar.<\/p>\n
244. Adem\u00e1s, es necesario tener en cuenta que ChatGPT 3.5 no es una herramienta licenciada para la administraci\u00f3n de justicia estatal y que sus respuestas no corresponden a un ejercicio razonado y especializado de ponderaci\u00f3n en derecho. Esto implica que no se tiene un control sobre su dise\u00f1o, conocimiento sobre la informaci\u00f3n por la que fue entrenada y la forma en la que la procesa, ni el acceso a ella para conocer o modificar su algoritmo.<\/p>\n
245. As\u00ed, cuando se haga uso de este tipo de tecnolog\u00edas el usuario debe asegurarse que el modelo adquirido est\u00e9 entrenado con datos recientes, suficientes y relevantes para el caso nacional y el contexto correspondiente, lo cual no es el caso de ChatGPT 3.5. De lo contrario, si se hace una b\u00fasqueda de jurisprudencia o de revisi\u00f3n de literatura para sustanciar una decisi\u00f3n, pueden darse resultados err\u00f3neos, falsos o inexactos, con sesgos no controlados ni transparentes, que al final se pueden traducir en afectaciones a los derechos. Por tanto, el uso de un sistema sobre el que no se tiene ning\u00fan tipo de control y que adem\u00e1s implica un conocimiento limitado, representa mayores riesgos para la identificaci\u00f3n de alucinaciones- en las que puede incurrir la IA. De all\u00ed que se exija que el funcionario judicial que use estas herramientas y, por lo tanto se apoye en informaci\u00f3n generada por la IA, deba cumplir con un est\u00e1ndar alto de verificaci\u00f3n para la veracidad en cuanto a las fuentes y datos suministrados por la m\u00e1quina y, adicionalmente, se actualice respecto de la informaci\u00f3n consultada.<\/p>\n
246. Lo anterior cobra especial relevancia, bajo el entendido de que la administraci\u00f3n de justicia requiere que se cumpla con una alta diligencia de verificaci\u00f3n de la veracidad y fiabilidad de la informaci\u00f3n consultada por el juez y su personal de apoyo. No es admisible que, bajo la excusa de una aparente eficiencia y necesidad de descongestionar el aparato jurisdiccional, se admita la inclusi\u00f3n en las providencias judiciales de textos generados por la IA, sin ning\u00fan tipo de control. El juez que as\u00ed proceda incumple con su responsabilidad en la motivaci\u00f3n de su decisi\u00f3n, dado que estar\u00eda incorporando datos o argumentos que pueden ser contrarios a la realidad y producto de alucinaciones provenientes de una herramienta tecnol\u00f3gica.<\/p>\n
247. La anterior situaci\u00f3n se evidencia en la diligencia de consulta en la plataforma ChatGPT, versi\u00f3n 3.5. que se practic\u00f3 en sede de revisi\u00f3n, en la que tres funcionarios del despacho sustanciador iniciaron sesi\u00f3n en dicha herramienta desde dispositivos y cuentas distintas para realizar las preguntas que formul\u00f3 el Juez del Circuito, con tres enfoques diferenciados. Uno de los servidores plante\u00f3 exactamente los mismos interrogantes, otro contextualiz\u00f3 al sistema antes de cada pregunta indic\u00e1ndole \u00absoy un juez laboral de la Rep\u00fablica de Colombia\u00bb, y un tercero, hizo lo propio identific\u00e1ndose como estudiante de derecho de una universidad en Colombia. A continuaci\u00f3n, se transcribir\u00e1n tanto las preguntas como las respuestas que le suministr\u00f3 ChatGPT al juez de tutela de segunda instancia, al funcionario del despacho sustanciador que realiz\u00f3 las mismas preguntas y a aquel que le manifest\u00f3 ser un juez laboral en Colombia.<\/p>\n
Pregunta a ChatGPT \u00bfMenor autista esta exonerado de pagar cuotas moderadoras en sus terapias?<\/p>\n
Respuesta sentencia objeto de revisi\u00f3n \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Respuesta Corte<\/p>\n
(pregunta id\u00e9ntica) \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Respuesta (pregunta contexto juez colombiano)<\/p>\n
Si\u0301, es correcto. De acuerdo con la normativa en Colombia, los menores con diagn\u00f3stico de autismo est\u00e1n exonerados de pagar cuotas moderadoras en sus terapias. Este beneficuento (sic) esta\u0301 regulado por la Ley 1753 de 2015 y se aplica a todas las instituciones prestadoras de servicios de salud p\u00fablicas o privadas que reciban recursos del sistema general de seguridad social en salud. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
La exoneraci\u00f3n de pagar cuotas moderadoras en terapias para personas con autismo puede variar seg\u00fan el pa\u00eds y las pol\u00edticas espec\u00edficas de salud p\u00fablica. En algunos lugares, las personas con discapacidad, incluidos aquellos con autismo, pueden estar exentas de pagar ciertas tarifas m\u00e9dicas o pueden tener acceso a subsidios especiales para cubrir los costos de tratamiento. Para obtener informaci\u00f3n precisa sobre este tema en un pa\u00eds espec\u00edfico, se recomienda consultar con el sistema de salud local o con organizaciones gubernamentales relacionadas con la discapacidad. Adem\u00e1s, es importante tener en cuenta que las leyes y pol\u00edticas pueden cambiar con el tiempo, por lo que es \u00fatil buscar informaci\u00f3n actualizada. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
En Colombia, la normativa relacionada con la atenci\u00f3n m\u00e9dica, incluyendo las cuotas moderadoras y copagos, est\u00e1 regulada por el Sistema General de Seguridad Social en Salud (SGSSS). Seg\u00fan la Ley 100 de 1993 y sus reformas posteriores, as\u00ed como las normativas adicionales emitidas por el Ministerio de Salud y Protecci\u00f3n Social, se establece que las personas con discapacidad tienen derecho a recibir atenci\u00f3n m\u00e9dica integral sin discriminaci\u00f3n. En este sentido, la exoneraci\u00f3n de las cuotas moderadoras para personas con discapacidad, incluidos los menores autistas, puede depender de varios factores, como el tipo de discapacidad, la situaci\u00f3n econ\u00f3mica del paciente y su familia, entre otros. Es importante consultar con un abogado especializado en derecho de la salud o con las autoridades competentes del sistema de salud en Colombia para obtener una orientaci\u00f3n precisa sobre este tema, ya que las regulaciones pueden variar y pueden existir disposiciones espec\u00edficas en determinadas regiones o instituciones de salud.<\/p>\n
Pregunta a ChatGPT \u00bfLas acciones de tutela en estos casos se deben conceder?<\/p>\n
Respuesta sentencia objeto de revisi\u00f3n \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Respuesta Corte<\/p>\n
(pregunta id\u00e9ntica) \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Respuesta (pregunta contexto juez colombiano)<\/p>\n
En caso de que una instituci\u00f3n prestadora de servicios de salud no cumpla con la exoneraci\u00f3n de cuotas moderadoras para un menor con diagn\u00f3stico de autismo, la persona o sus representantes legales pueden presentar una acci\u00f3n de tutela para proteger sus derechos. La tutela es un mecanismo judicial r\u00e1pido y eficaz para proteger derechos fundamentales que se ven vulnerados.<\/p>\n
<\/p>\n
Si se demuestra que el derecho a la salud del menor con autismo esta\u0301 siendo afectado por la exigencia de pagar cuotas moderadoras, es probable que la acci\u00f3n de tutela sea concedida y se ordene a la instituci\u00f3n prestadora de servicios de salud cumplir con la exoneraci\u00f3n. Sin embargo, cada caso es \u00fanico y la decisi\u00f3n final depende de los hechos y circunstancias espec\u00edficas del caso. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Las acciones de tutela o recursos judiciales similares pueden ser una v\u00eda para buscar la protecci\u00f3n de los derechos de las personas con autismo en relaci\u00f3n con el acceso a la atenci\u00f3n m\u00e9dica y los servicios terap\u00e9uticos. En muchos pa\u00edses, las personas con discapacidad tienen derechos legales protegidos que garantizan su acceso a servicios de salud y atenci\u00f3n m\u00e9dica adecuada.<\/p>\n
Sin embargo, la concesi\u00f3n de una acci\u00f3n de tutela o recurso judicial espec\u00edfico depender\u00e1 de las leyes y regulaciones del pa\u00eds en cuesti\u00f3n, as\u00ed como de las circunstancias individuales del caso. En general, las acciones de tutela pueden ser concedidas si se puede demostrar que los derechos de la persona con autismo est\u00e1n siendo violados y que existe una necesidad leg\u00edtima de intervenci\u00f3n judicial para proteger esos derechos.<\/p>\n
Es importante buscar asesoramiento legal espec\u00edfico o consultar con un abogado especializado en derechos de discapacidad en su pa\u00eds para obtener orientaci\u00f3n sobre las opciones disponibles y los pasos a seguir en casos particulares de acceso a la atenci\u00f3n m\u00e9dica y servicios terap\u00e9uticos para personas con autismo. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Como juez laboral en la Rep\u00fablica de Colombia, las acciones de tutela pueden ser un recurso v\u00e1lido en casos donde se considere que se est\u00e1 vulnerando el derecho a la salud de un menor autista al exigirle el pago de cuotas moderadoras en sus terapias. La tutela es un mecanismo legal que protege los derechos fundamentales de las personas cuando estos est\u00e1n siendo amenazados o vulnerados por parte de autoridades p\u00fablicas o particulares.<\/p>\n
En el caso espec\u00edfico de un menor autista que requiere terapias para su desarrollo y bienestar, si se demuestra que la imposici\u00f3n de cuotas moderadoras obstaculiza el acceso a dichas terapias y, por lo tanto, vulnera su derecho a la salud, podr\u00eda ser procedente presentar una acci\u00f3n de tutela. Sin embargo, cada caso debe evaluarse individualmente y es necesario considerar todos los elementos y circunstancias espec\u00edficas antes de tomar una decisi\u00f3n.<\/p>\n
Como juez laboral, tu funci\u00f3n ser\u00e1 analizar detalladamente la situaci\u00f3n presentada, evaluar si efectivamente se est\u00e1n vulnerando derechos fundamentales y, en caso afirmativo, tomar las medidas necesarias para restablecerlos. Siempre es recomendable buscar asesoramiento legal especializado para abordar correctamente estos casos y asegurar el debido proceso.<\/p>\n
Pregunta a ChatGPT \u00bfExigir en estos casos la cuota moderadora es una barrera de acceso al servicio de salud?<\/p>\n
Respuesta sentencia objeto de revisi\u00f3n \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Respuesta (pregunta contexto juez colombiano)<\/p>\n
Si\u0301, en algunos casos, la exigencia de pagar cuotas moderadoras puede ser una barrera de acceso al servicio de salud para personas con diagn\u00f3stico de autismo, especialmente si tienen dificultades para obtener ingresos o si su situaci\u00f3n econ\u00f3mica es precaria. La exigencia de pagar cuotas moderadoras puede impedir o dificultar el acceso a tratamientos y terapias esenciales para el bienestar y desarrollo de los ni\u00f1os con autismo.<\/p>\n
Por esta raz\u00f3n, la normativa en Colombia exime a los menores con diagn\u00f3stico de autismo de pagar cuotas moderadoras en sus terapias, con el objetivo de garantizar el acceso a estos servicios de salud esenciales sin obst\u00e1culos financieros. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Como juez laboral en la Rep\u00fablica de Colombia, determinar si exigir la cuota moderadora en casos de terapias para menores autistas constituye una barrera de acceso al servicio de salud depender\u00e1 de las circunstancias espec\u00edficas de cada caso. La cuota moderadora es un mecanismo establecido por el Sistema General de Seguridad Social en Salud (SGSSS) para financiar parcialmente los servicios de salud y, en principio, no deber\u00eda constituir una barrera para acceder a la atenci\u00f3n m\u00e9dica.<\/p>\n
Sin embargo, en situaciones donde se evidencie que el pago de la cuota moderadora representa una carga financiera excesiva para la familia del menor autista, y que esta carga impide o dificulta significativamente su acceso a las terapias necesarias para su desarrollo y bienestar, podr\u00eda considerarse como una barrera de acceso al servicio de salud.<\/p>\n
Es importante tener en cuenta que en casos donde se involucra a personas con discapacidad, como los menores autistas, se debe garantizar el principio de igualdad y no discriminaci\u00f3n en el acceso a los servicios de salud. Por lo tanto, como juez laboral, deber\u00e1s evaluar si la exigencia de la cuota moderadora en el caso espec\u00edfico representa una limitaci\u00f3n injustificada para el acceso a las terapias necesarias para el menor autista, y en caso afirmativo, podr\u00edas considerar que constituye una barrera de acceso al servicio de salud.<\/p>\n
Pregunta a ChatGPT \u00bfLa jurisprudencia de la corte constitucional (sic) ha tomado decisiones favorables en casos similares?<\/p>\n
Respuesta sentencia objeto de revisi\u00f3n \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Respuesta Corte<\/p>\n
(pregunta id\u00e9ntica) \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Si\u0301, es cierto. La Corte Constitucional de Colombia ha tomado decisiones favorables en casos similares relacionados con la exoneraci\u00f3n de cuotas moderadoras para personas con diagn\u00f3stico de autismo. La jurisprudencia ha reconocido la importancia de garantizar el acceso a servicios de salud esenciales para las personas con autismo, y ha sostenido que la exigencia de pagar cuotas moderadoras puede ser una barrera de acceso a estos servicios. La jurisprudencia de la Corte Constitucional es una fuente importante para interpretar y aplicar la Constituci\u00f3n y las leyes en Colombia, y sus decisiones son vinculantes para todas las autoridades y entidades p\u00fablicas del pa\u00eds. Por lo tanto, las decisiones favorables en casos similares pueden ser \u00fatiles como precedente para otros casos en los que se debata la exigencia de pagar cuotas moderadoras para personas con diagn\u00f3stico de autismo. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
No tengo acceso en tiempo real a bases de datos o jurisprudencia espec\u00edfica de ning\u00fan pa\u00eds o corte. Sin embargo, en muchos pa\u00edses, las cortes constitucionales han tomado decisiones favorables en casos relacionados con los derechos de las personas con discapacidad, incluidas aquellas con autismo, en t\u00e9rminos de acceso a servicios de salud y terapias.<\/p>\n
Es posible que la jurisprudencia de la corte constitucional de un pa\u00eds haya establecido precedentes favorables en casos similares, reconociendo el derecho de las personas con autismo a recibir atenci\u00f3n m\u00e9dica adecuada y terapias necesarias sin discriminaci\u00f3n. Estas decisiones pueden basarse en los principios constitucionales de igualdad, no discriminaci\u00f3n y protecci\u00f3n de los derechos de las personas con discapacidad.<\/p>\n
Para obtener informaci\u00f3n espec\u00edfica sobre decisiones judiciales en casos de este tipo, se recomienda consultar directamente las bases de datos de jurisprudencia del pa\u00eds en cuesti\u00f3n o buscar asesoramiento legal especializado en derechos de discapacidad. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
S\u00ed, la Corte Constitucional de Colombia ha emitido decisiones favorables en casos similares relacionados con el acceso a la salud de personas con discapacidad, incluidos menores autistas. La jurisprudencia de la Corte Constitucional ha establecido que el acceso a los servicios de salud es un derecho fundamental protegido por la Constituci\u00f3n colombiana, y que cualquier barrera que impida o dificulte injustificadamente el acceso a estos servicios puede ser considerada como una violaci\u00f3n de los derechos fundamentales de las personas.<\/p>\n
En casos donde se ha demostrado que la imposici\u00f3n de cuotas moderadoras o copagos representa una carga excesiva para las personas con discapacidad, la Corte Constitucional ha ordenado a las entidades de salud exonerar o reducir dichos pagos, con el fin de garantizar el acceso efectivo a la atenci\u00f3n m\u00e9dica necesaria.<\/p>\n
Es importante consultar la jurisprudencia m\u00e1s reciente de la Corte Constitucional para obtener orientaci\u00f3n sobre c\u00f3mo han sido resueltos casos similares en el pasado y c\u00f3mo se han interpretado los derechos de acceso a la salud en contextos espec\u00edficos, incluidos aquellos relacionados con menores autistas y personas con discapacidad en general. Esto proporcionar\u00e1 una base s\u00f3lida para tomar decisiones como juez laboral en casos similares que se presenten ante ti.<\/p>\n
248. Aunado a lo anterior, en la citada diligencia, se le pregunt\u00f3 a ChatGPT si pod\u00eda dictar una decisi\u00f3n judicial, a lo que el sistema de IA respondi\u00f3 negativamente. Se\u00f1al\u00f3 que ese y otros modelos de lenguaje similares no est\u00e1n dise\u00f1ados para dictar decisiones judiciales pues, aunque pueden generar texto coherente y contextualmente relevante, \u00abcarecen de la capacidad para ejercer el juicio legal y la interpretaci\u00f3n de la ley que son necesarios para dictar una decisi\u00f3n judicial v\u00e1lida\u00bb. Agreg\u00f3 que \u00abla toma de decisiones judiciales implica una comprensi\u00f3n profunda de la ley, precedentes judiciales, argumentos legales y principios \u00e9ticos, as\u00ed como un an\u00e1lisis cuidadoso de las pruebas presentadas en un caso\u00bb, en ese sentido \u00ab[s]i bien los modelos de lenguaje como ChatGPT 3.5 pueden ser \u00fatiles como herramientas de apoyo para la investigaci\u00f3n legal y la redacci\u00f3n de documentos legales, la responsabilidad de dictar decisiones judiciales recae en los jueces y profesionales del derecho con la capacitaci\u00f3n y experiencia necesarias en el sistema legal correspondiente\u00bb.<\/p>\n
249. Seguidamente, respondi\u00f3 de manera afirmativa a la pregunta acerca de si pod\u00eda corregir un proyecto de sentencia, precisando que, para tales efectos, la utilidad de la herramienta radica en la identificaci\u00f3n de errores gramaticales o la mejora de la redacci\u00f3n, \u00abpero su uso debe ser complementario a la supervisi\u00f3n y revisi\u00f3n humana, especialmente en lo que respecta al contenido legal\u00bb. Destac\u00f3 que, en tales casos, es importante considerar aspectos como (i) las limitaciones del sistema en el conocimiento legal, (ii) la necesidad de supervisi\u00f3n humana y (iii) la confidencialidad y seguridad de los datos.<\/p>\n
250. Frente al primer aspecto, resalt\u00f3 la falta de capacidad del sistema para proporcionar correcciones sustantivas en t\u00e9rminos de contenido legal, debido a que no tiene conocimiento espec\u00edfico sobre leyes, jurisprudencia o procedimientos legales en un pa\u00eds particular. En cuanto a la supervisi\u00f3n humana, se\u00f1al\u00f3 que ChatGPT puede cometer errores o producir sugerencias que no son adecuadas para un proyecto de sentencia judicial, por lo que cualquier correcci\u00f3n sugerida por el modelo debe ser revisada y validada por un ser humano con experiencia en derecho. Finalmente, advirti\u00f3 que, al usar un modelo de lenguaje en la correcci\u00f3n de un proyecto de sentencia judicial, se debe garantizar la confidencialidad y seguridad de los datos legales sensibles que puedan estar involucrados en el proceso.<\/p>\n
251. En efecto, de la diligencia de consulta que practic\u00f3 el despacho sustanciador, se observa que al cabo de poco m\u00e1s de un a\u00f1o, las respuestas de la plataforma, pese a formular las mismas preguntas, no se mantienen iguales y que el contexto que se le otorgue tambi\u00e9n determina el tipo de resoluci\u00f3n que aquella brinda. Adem\u00e1s, es claro que la misma herramienta conoce sus limitaciones y establece no ser apta para emitir decisiones judiciales o aportar informaci\u00f3n completa en cuanto al fondo de un caso jur\u00eddico, pues no es su especialidad ni est\u00e1 dise\u00f1ada para cumplir esta funci\u00f3n, por lo que el juez o quien la use debe contrastar y confirmar lo comunicado.<\/p>\n
252. Aunque la IA generativa puede reproducir referencias y ejemplos correctos de sus datos de entrenamiento, no tiene una base factual s\u00f3lida ni un m\u00e9todo para hacer verificaciones de sus resultados, basadas en los hechos. Por tanto, pueden producirse resultados que parezcan reales, pero que de hecho son fabricados o \u00abalucinados\u00bb. De acuerdo con Center Statistics Office, alrededor del 62% de la informaci\u00f3n que se encuentra en la red no es confiable, no est\u00e1 verificada o puede ser falsa.<\/p>\n
253. En el contexto de la administraci\u00f3n de justicia, esto representa un alto riesgo al momento de acudir a una IA que no sea especializada y que no sea administrada por la Rama Judicial, debido a que se puede emplear informaci\u00f3n falsa o incoherente. En efecto, a nivel mundial se conocen algunos casos fallidos del uso de herramientas de IA a la pr\u00e1ctica del derecho. Uno de los m\u00e1s sonados es el caso\u00a0Mata vs Avianca.\u00a0En \u00e9l, un pasajero de la compa\u00f1\u00eda a\u00e9rea Avianca aleg\u00f3 haber sufrido lesiones al recibir un golpe en la rodilla con un carro met\u00e1lico del servicio de comida durante un vuelo al aeropuerto internacional Kennedy de Nueva York. La aerol\u00ednea le pidi\u00f3 a un juez federal de Manhattan que desestimara el caso, a lo que los abogados del se\u00f1or Mata se opusieron con un escrito en el que citaron una serie de decisiones judiciales en las que presuntamente se habr\u00eda aplicado el criterio jur\u00eddico que apoyaba la procedencia de las s\u00faplicas de la demanda. El abogado y la firma fueron sancionados al constatar que la informaci\u00f3n presentada ante la corte era falsa y hab\u00eda sido resultado de la consulta que efectu\u00f3 dicho profesional en\u00a0ChatGPT.<\/p>\n
254. Ahora, estos eventos son problem\u00e1ticos en la medida en que s\u00f3lo pueden ser verificados y corregida la informaci\u00f3n por el propio usuario, si este realmente se toma el tiempo y es riguroso en la realizaci\u00f3n de su investigaci\u00f3n. Situaci\u00f3n que, si no se gestiona con cuidado, puede generar un aumento de la carga de trabajo y, en lugar de simplificarse los procesos y ahorrarse costos, puede generarse una necesidad de revisi\u00f3n y validaci\u00f3n de los resultados generados por la IA, que termine sobrecargando la gesti\u00f3n del operador. Esta carga de trabajo adicional puede resultar en p\u00e9rdidas financieras de las organizaciones debido al mayor tiempo y esfuerzo requerido y, adem\u00e1s, existe la posibilidad de que aumenten los costos legales y laborales si surgen disputas o problemas relacionados con el contenido generado por la IA y aplicado por el operador.<\/p>\n
255. Adicionalmente, la informaci\u00f3n con la que las IAs son entrenadas y realizan sus predicciones no se renueva de forma autom\u00e1tica, lo que implica que estos sistemas requieran de un proceso constante de actualizaci\u00f3n y revisi\u00f3n para que sus respuestas no se vuelvan anacr\u00f3nicas. Sin embargo, la Fundaci\u00f3n Karisma y El Veinte expusieron que, aunque existiera una herramienta que se actualice con esa agilidad, \u00ablos resultados del sistema de aprendizaje autom\u00e1tico no dejan de basarse en datos hist\u00f3ricos, lo que en \u00faltimas implica que no hay lugar a la innovaci\u00f3n dentro del sistema\u00bb. ChatGPT puede ser una herramienta que genere respuestas ante situaciones novedosas, no obstante, lo hace a trav\u00e9s de un proceso de generalizaci\u00f3n que le permite aplicar su conocimiento programado mediante \u00abentradas nuevas\u00bb, m\u00e1s no por medio de innovaci\u00f3n.<\/p>\n
256. En conclusi\u00f3n, el uso de IA puede arrojar output incorrectos o falsos que de ser usados en la construcci\u00f3n de una decisi\u00f3n judicial pueden llevar a que su motivaci\u00f3n sea incorrecta o falsa y, por tanto, inv\u00e1lida. De darse esta situaci\u00f3n, la providencia incurrir\u00eda en yerros que conducir\u00edan a la violaci\u00f3n del debido proceso.<\/p>\n
257. Ahora bien, en cuanto a la independencia e imparcialidad del juez que utiliza IA, ella depender\u00e1 en gran medida de los datos con los que se entrena la herramienta, lo que genera marcadas inquietudes, ya no sobre las alucinaciones, sino sobre posibles sesgos que esta tenga. En efecto, las respuestas ofrecidas por el modelo de lenguaje pueden incorporar sesgos que el usuario final desconoce y aun cuando estos tambi\u00e9n pueden acaecer en la gesti\u00f3n humana, no cabe duda de su particular incidencia en el \u00e1mbito de la IA.<\/p>\n
258. \u00a0Por ejemplo, la Fundaci\u00f3n Karisma y El Veinte mencionaron, en su intervenci\u00f3n, que \u00aben la medida en que [la IA] est\u00e1 entrenad[a] con informaci\u00f3n de todo el mundo y el volumen de informaci\u00f3n disponible sobre el norte global es m\u00e1s amplio que la informaci\u00f3n del sur global, el sistema podr\u00eda estar, por ejemplo, favoreciendo l\u00edneas jurisprudenciales norteamericanas o europeas por el simple hecho de que su volumen en las bases de datos es mayor. Estos sesgos impl\u00edcitos son dif\u00edciles o imposibles de notar para el usuario final, pues no existe una manera de rastrear las fuentes espec\u00edficas que el modelo usa para ofrecer cada una de sus respuestas\u00bb.<\/p>\n
259. Esta situaci\u00f3n indudablemente puede afectar derechos fundamentales. Un caso que ilustra a la perfecci\u00f3n el asunto tiene que ver con lo ocurrido en las revisiones del Harm Assessment Risk Tool (HART), el cual revel\u00f3 que el hecho de que los resultados se den teniendo en cuenta datos como el lugar en donde vive el sujeto, su g\u00e9nero o la comunidad a la que pertenece incide en \u00a0los pron\u00f3sticos individuales y puede reflejarse en sesgos contra grupos hist\u00f3ricamente discriminados. Asimismo, las herramientas de IA usan datos hist\u00f3ricos para alimentar su sistema y potenciar su capacidad, estos incluyen sesgos que se han ido superando con el paso de los a\u00f1os, pero que muchas veces la IA no tiene la capacidad de discernir.<\/p>\n
260. Tales sesgos, que generan discriminaci\u00f3n, tambi\u00e9n se encuentran presentes en ChatGPT 3.5. La propia plataforma ha establecido que sus resultados pueden resultar sesgados, toda vez que esta herramienta produce datos de salida a trav\u00e9s de la generalizaci\u00f3n que le permite aplicar el conocimiento utilizado en su entrenamiento frente a entradas nuevas, lo que puede incidir en que se perpet\u00faen los sesgos que est\u00e1n presentes en sus datos de entrenamiento, produciendo respuestas basadas en estereotipos o en el favorecimiento de ciertos grupos o ideas, lo cual entra\u00f1a un peligro may\u00fasculo, por ejemplo, frente a poblaciones minoritarias o sujetos de especial protecci\u00f3n constitucional.<\/p>\n
261. Sobre este punto, es importante recordar que ChatGPT fue desarrollado con m\u00faltiples fines, por un privado (OpenAI) y que no es clara la forma de entrenamiento que se us\u00f3 para su configuraci\u00f3n, por lo que no es posible precisar cu\u00e1les son los sesgos que puede contener o aplicar, lo que sumado a la falta de referenciaci\u00f3n de las fuentes que utiliza para brindar respuestas, dificulta a\u00fan m\u00e1s la posibilidad de identificar aquellos. Estos no se predican s\u00f3lo de los resultados o predicciones que puede dar una IA sino de todo su ciclo de vida, pues la creaci\u00f3n, dise\u00f1o e implementaci\u00f3n de algoritmos impl\u00edcitamente comprende juicios de valores esenciales.<\/p>\n
262. En los sistemas procesales tradicionales, la imparcialidad de los jueces se vincula a las causales de impedimento y recusaci\u00f3n, las cuales se han clasificado en subjetivas u objetivas. La imparcialidad subjetiva busca que el funcionario no tenga impedimento con respecto a las partes en raz\u00f3n a sus relaciones con los sujetos procesales; por su parte la imparcialidad objetiva busca que el funcionario no tenga impedimento con respecto a la pretensi\u00f3n demandada al haber intervenido de alguna forma en la litis anteriormente.<\/p>\n
263. Al usarse IA generativas por parte de los jueces, la imparcialidad deber\u00eda predicarse tambi\u00e9n de la herramienta pues, dependiendo de sus sesgos, podr\u00edan verse afectada algunas de las partes en la causa, con el agravante de que dicha parcialidad puede llegar a ser desconocida o no percibida y pone en entredicho la transparencia de la judicatura.<\/p>\n
264. Por tanto, la transparencia y la explicabilidad de las IA que se usen dentro de los sistemas judiciales son principios que se deben proteger con el fin de no afectar derechos fundamentales, puesto que su ausencia imposibilita que los ciudadanos se enteren, entiendan y evidencien la trazabilidad de las decisiones de los jueces y, de ser el caso, tomen las medidas necesarias para impugnarlas. Es esencial aclarar a todos a quienes afecta una decisi\u00f3n judicial c\u00f3mo funciona la tecnolog\u00eda utilizada, los beneficios asociados y la descripci\u00f3n del contenido de datos necesarios para impulsar cualquier soluci\u00f3n proporcionada o sugerida. Esto no s\u00f3lo demuestra responsabilidad por parte del juez, sino que tambi\u00e9n genera confianza en las soluciones ofrecidas y se constituye en un imperativo m\u00ednimo de cara a la garant\u00eda de derechos procesales y materiales en juego.<\/p>\n
265. En raz\u00f3n de ello, la transparencia y explicabilidad de estas tecnolog\u00edas debe implicar que cuando se usen, se den a conocer de manera irrestricta los datos utilizados, la forma en la que funcionan, los casos en los que se usan y el lugar que ocupan dentro de la decisi\u00f3n judicial. As\u00ed, es imperativo aclarar, por ejemplo, que estas herramientas se empleen \u00fanicamente para b\u00fasquedas de jurisprudencia, literatura, etc., pero que no pueden implicar que la decisi\u00f3n al final deje de ser tomada por el juez.<\/p>\n
266. Seg\u00fan el Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda (NIST por sus siglas en ingl\u00e9s), para que se cumpla con estos principios se debe (i) proporcionar evidencia, apoyo o razonamiento relacionado con un resultado o un proceso de un sistema de IA, es decir, poner en conocimiento de la persona si se hizo uso de una IA; (ii) emitir una explicaci\u00f3n comprensible para el receptor de la informaci\u00f3n. En otras palabras, se busca que la explicaci\u00f3n sea inteligible para un determinado p\u00fablico; (iii) ofrecer una explicaci\u00f3n precisa, rigurosa y completa, y (iv) identificar y declarar cuales son los l\u00edmites del sistema utilizado, ya que este no es perfecto o infalible.<\/p>\n
267. Adicional, se ha planteado que, en estos casos, la explicaci\u00f3n no s\u00f3lo debe reflejar de manera precisa el razonamiento del sistema, sino que debe ser (i) comprensible y convincente para el usuario, (ii) completa y (iii) espec\u00edfica. Ello, en el sentido de que hay usuarios diferentes, en diferentes circunstancias y con diferentes resultados. En cuanto a lo anterior, es destacable mencionar que el uso de la herramienta s\u00f3lo ha salido a luz cuando es declarado por los jueces mismos, lo cual podr\u00eda implicar que se haya utilizado en m\u00e1s casos de los que se conocen, sin que su uso haya sido puesto en conocimiento de las partes involucradas. En este sentido, la transparencia con respecto al uso es un pilar fundamental al considerar el empleo de estas herramientas en la gesti\u00f3n de procesos judiciales.<\/p>\n
268. Con el fin de promover la transparencia, un buen punto de discusi\u00f3n es la necesidad que existe de evitar el uso de algoritmos de black box, respecto de los cuales se conocen los datos de entrada y el resultado, pero no la forma en la que la informaci\u00f3n es procesada. Sobre ello debe tenerse en cuenta que, como hasta el momento no se ha generado una IA especializada para la Rama Judicial y que las IAs son mayormente desarrolladas por empresas privadas, es importante encontrar un balance entre la necesidad de transparencia y los derechos que se tienen sobre propiedad intelectual, pues el respeto de estos \u00faltimos puede suponer un obst\u00e1culo para comprender la manera en que fueron creadas y siguen siendo implementadas a lo largo del ciclo de vida. Por ello, en pro de los intereses generales, el uso de IA en el sistema judicial deber\u00eda priorizar herramientas que permitan materializar el mandato de transparencia en la utilizaci\u00f3n de estas tecnolog\u00edas, por sobre aquellas que no permitan conocer con certeza y claridad el origen de los datos de entrenamiento ni la forma en que funcionan.<\/p>\n
269. De otra parte, la pol\u00edtica p\u00fablica sobre IA debe contemplar mecanismos de transparencia y de acceso a la informaci\u00f3n a lo largo del proceso de implementaci\u00f3n. Los usuarios y la sociedad civil deben poder entender en que\u0301 etapas de la administraci\u00f3n de justicia, o de cualquier proceso p\u00fablico, se usa la tecnolog\u00eda, que\u0301 resultados ha producido, que\u0301 mecanismos se tienen para impugnarla y que\u0301 salvaguardas existen para proteger los derechos fundamentales.<\/p>\n
270. La carga que tiene el funcionario judicial de explicar el uso de IA en una decisi\u00f3n judicial, conforme al ejercicio del principio de transparencia, no se limita a que el juez informe que se hizo uso de tal herramienta, sino que le impone el estar tambi\u00e9n informado respecto de la tecnolog\u00eda que est\u00e1 utilizando. De lo contrario, si el juez o magistrado no comprende el alcance y funcionamiento del instrumento tecnol\u00f3gico, es imposible que se transmita este tipo de informaci\u00f3n en la decisi\u00f3n judicial y, por ende, que se cumpla con el deber de transparencia.<\/p>\n
271. Como se ha advertido a lo largo de esta providencia, algunos usos de la IA generan un alto riesgo de cara a los derechos fundamentales, por tanto, su empleo por parte del funcionario judicial debe ser informado, transparente, \u00e9tico, respetuoso de la privacidad y responsable. Ello, por lo menos, implica que previo a su utilizaci\u00f3n, se tenga conocimiento de qui\u00e9n o qu\u00e9 empresa desarroll\u00f3 la herramienta, c\u00f3mo fue desarrollada, c\u00f3mo funciona, qu\u00e9 funciones puede desempe\u00f1ar, cu\u00e1les son sus t\u00e9rminos de uso, qu\u00e9 hace la empresa con la informaci\u00f3n que recolecta del usuario y qu\u00e9 limitaciones y\/o riesgos presenta para el usuario y\/o para terceros. Adem\u00e1s, es esencial que los funcionarios judiciales est\u00e9n capacitados sobre c\u00f3mo deben utilizarse estas herramientas, entendiendo el prop\u00f3sito espec\u00edfico de cada una y c\u00f3mo se puede hacer un uso adecuado de ellas para obtener resultados confiables y apropiados en el contexto judicial. Si bien, la informaci\u00f3n de estos aspectos no elimina los riesgos, s\u00ed contribuye a prevenirlos.<\/p>\n
272. Adicionalmente, en virtud de cumplir con los principios de transparencia y responsabilidad, es necesario satisfacer la carga de verificaci\u00f3n de los datos, la respectiva identificaci\u00f3n de las fuentes y el reconocimiento de la autor\u00eda de las tesis incorporadas en su fallo. Como lo se\u00f1alaron varios de los intervinientes, al no ser el ChatGPT una persona, no puede atribu\u00edrsele la coautor\u00eda de los textos que produce. Por tal motivo, con el fin de evitar la apropiaci\u00f3n indebida de creaciones intelectuales por parte de los jueces o magistrados, los fallos que acudan a este tipo de herramientas deber\u00e1n dar cuenta del origen y la idoneidad de la informaci\u00f3n utilizada, ya sean fuentes legales, jurisprudenciales, doctrinarias, entre otras.<\/p>\n
273. En conclusi\u00f3n, el uso de IA generativa en la administraci\u00f3n de justicia, sin salvaguardas, puede afectar el deber de motivar las decisiones judiciales, las garant\u00edas del juez natural independiente e imparcial y el derecho a la defensa al producirse desconfianza sobre la fiabilidad de las decisiones y, por tanto, promoverse que f\u00e1cticamente se d\u00e9 un reemplazo del juez por parte de la herramienta y la adopci\u00f3n de los fallos dentro del sistema judicial. La protecci\u00f3n de estos derechos, se encuentra basada en el cumplimiento del principio de transparencia y explicabilidad por parte de los jueces, ya que se hace imprescindible que las partes interesadas conozcan los fundamentos usados por estos para que en contraposici\u00f3n se puedan tomar las decisiones procesales adecuadas, en particular, frente al ejercicio del derecho de contradicci\u00f3n, de lo contrario, un mal uso de las IA puede conllevar a la vulneraci\u00f3n del derecho fundamental al debido proceso.<\/p>\n
() El debido proceso probatorio en un sistema jurisdiccional que utiliza IA<\/p>\n
274. Otro de los derechos fundamentales que se puede ver afectado por un mal uso de la IA es el del debido proceso probatorio. Esta corporaci\u00f3n ha explicado que este derecho fundamental supone un conjunto de garant\u00edas en cabeza de las partes en el marco de toda actuaci\u00f3n judicial o administrativa. De este modo, ha afirmado que estas tienen derecho (i) a presentar y solicitar pruebas; (ii) a controvertir las que se presenten en su contra; (iii) a la publicidad de las evidencias, en la medida en que de esta forma se asegura la posibilidad de contradecirlas, bien sea mediante la cr\u00edtica directa a su capacidad demostrativa o con apoyo en otros elementos; (iv) a que las pruebas sean decretadas, recolectadas y practicadas con base en los est\u00e1ndares legales y constitucionales dispuestos para el efecto; (v) a que el funcionario que conduce la actuaci\u00f3n decrete y practique de oficio los elementos probatorios necesarios para asegurar el principio de realizaci\u00f3n y efectividad de los derechos (arts. 2.\u00ba y 228 C.P.) y (vi) a que se eval\u00faen por el juzgador las pruebas incorporadas al proceso.<\/p>\n
275. Conforme a nuestro ordenamiento jur\u00eddico, el decreto y la evaluaci\u00f3n de las pruebas es una tarea que debe estar en cabeza del juez natural, cuyo ejercicio no puede dejarse a una IA, tal como se explic\u00f3 en l\u00edneas anteriores. El decreto de pruebas comporta (i) el estudio de la licitud y legalidad de la prueba y (ii) el de pertinencia, conducencia y utilidad de esta.<\/p>\n
276. Conforme con lo anterior, le corresponde al juez determinar, al momento de ordenar una prueba, cu\u00e1les son sus requisitos legales esenciales y su incidencia en derechos fundamentales, para discernir su proyecci\u00f3n y trascendencia sobre el debido proceso, toda vez que su incumplimiento conllevar\u00eda la exclusi\u00f3n del medio de prueba. As\u00ed, la Sentencia T-916 de 2008, reiterada entre otras en la Sentencia SU-371 de 2021, se\u00f1ala que existe:<\/p>\n
[U]na distinci\u00f3n entre la prueba ilegal, entendida como aquella que afecta el debido proceso desde el punto de vista procesal formal (incompatibilidad con las formas propias de cada juicio), y la prueba inconstitucional, que es aquella que transgrede igualmente el debido proceso, pero desde una perspectiva sustancial, en tanto es obtenida vulnerando derechos fundamentales<\/p>\n
277. Ahora bien, si el funcionario judicial se apoya en una IA para establecer cu\u00e1les son los est\u00e1ndares constitucionales y legales dispuestos para ordenar y practicar un espec\u00edfico medio probatorio, debe tener en cuenta que la herramienta puede producir alucinaciones, se\u00f1al\u00e1ndole formalidades que no hacen parte del ordenamiento jur\u00eddico o tergiversando el alcance de otras, lo cual puede conducir a que la evidencia se tenga como inexistente y no pueda ser aducida a la actuaci\u00f3n o deba ser excluida, ante el desconocimiento de las formas propias establecidas para su orden y pr\u00e1ctica.<\/p>\n
278. El uso de la herramienta, como apoyo a la actividad probatoria mencionada, requiere altos est\u00e1ndares de verificaci\u00f3n de la informaci\u00f3n suministrada por la IA, lo que quiere decir que el juez o magistrado debe hacer una revisi\u00f3n juiciosa al finalizar la consulta de este tipo de tecnolog\u00edas, con el fin de no verse vulnerado el derecho al debido proceso probatorio.<\/p>\n
279. De otra parte, en lo que se refiere a la licitud de la prueba, dicha tarea est\u00e1 ligada, en muchas ocasiones, a juicios de ponderaci\u00f3n y proporcionalidad, propios de los sistemas conflictualistas de interpretaci\u00f3n, en donde en cada caso, de acuerdo con sus particularidades, se debe establecer cu\u00e1l es el derecho prevalente. Tambi\u00e9n se podr\u00eda acudir a la IA para valorar una particular prueba o los elementos probatorios en su conjunto.<\/p>\n
280. Realizar las anteriores tareas a trav\u00e9s de una IA resulta problem\u00e1tico, en primer lugar, porque en nuestro ordenamiento jur\u00eddico la funci\u00f3n de valorar la prueba es del juez natural, que debe ser un humano, como ya se explic\u00f3. En segundo lugar, porque si para tales fines, se usa la IA como apoyo a la labor judicial, como, por ejemplo, para saber cu\u00e1ntas pruebas testimoniales hay en una actuaci\u00f3n, de quien, en qu\u00e9 fechas se rindieron, etc., ello podr\u00eda suponer la entrega del medio de prueba para que sea introducido como dato (input) a la herramienta, con la finalidad de que esta entregue un resultado (output). Con dicho proceder, si no se guardan las cautelas necesarias, se podr\u00eda estar violando la reserva procesal, si el proceso la aplica, o afectar derechos fundamentales como el habeas data o la intimidad, como ocurre en el caso de los procesos por acciones de tutela. As\u00ed, si la IA es de propiedad de un particular, como lo es ChatGPT, a este, finalmente, es a quien se le estar\u00eda entregando la prueba o la informaci\u00f3n del proceso, lo cual podr\u00eda originar responsabilidades disciplinarias o penales para el servidor judicial.<\/p>\n
281. Respecto al derecho a la intimidad y la privacidad de los datos que obran en la prueba judicial, es esencial que los jueces velen porque las personas conserven los derechos sobre ellos. En ese sentido, el marco de protecci\u00f3n debe dirigirse a que se garantice la transparencia frente al usuario del sistema judicial, sobre el uso que el operador judicial de a sus datos y asegurar un tratamiento con salvaguardas para la data sensible. Especialmente, debe evitarse que el uso de algoritmos no licenciados permita que privados o terceros procesen datos personales y los reutilicen haci\u00e9ndolos ampliamente accesibles.<\/p>\n
282. La Superintendencia de Industria y Comercio ha se\u00f1alado que \u00abla IA involucra la recolecci\u00f3n, el almacenamiento, el an\u00e1lisis, procesamiento o in- terpretaci\u00f3n de enormes cantidades de informaci\u00f3n (incluidos los datos personales) que son usados para generar diversos resultados, acciones o comportamientos por parte de las m\u00e1quinas. En otras palabras, los datos personales son el alimento o el combustible de la IA y mediante la misma se realizan tratamientos de dicha informaci\u00f3n los cuales deben ser respetuosos de la Ley 1581 de 2012 y sus normas reglamentarias\u00bb.<\/p>\n
283. Como se ve, Colombia cuenta con una legislaci\u00f3n en materia de protecci\u00f3n de datos personales, contenida principalmente por la Ley 1581 de 2012 y sus decretos reglamentarios. Esta ley establece las bases para el tratamiento adecuado de los datos personales, garantizando los derechos fundamentales de sus titulares. Aquella norma clasifica como datos sensibles:<\/p>\n
[A]quellos que afectan la intimidad del Titular o cuyo uso indebido puede generar su discriminaci\u00f3n, tales como aquellos que revelen el origen racial o \u00e9tnico, la orientaci\u00f3n pol\u00edtica, las convicciones religiosas o filos\u00f3ficas, la pertenencia a sindicatos, organizaciones sociales, de derechos humanos o que promueva intereses de cualquier partido pol\u00edtico o que garanticen los derechos y garant\u00edas de partidos pol\u00edticos de oposici\u00f3n as\u00ed como los datos relativos a la salud, a la vida sexual y los datos biom\u00e9tricos.<\/p>\n
284. En similar sentido, el art\u00edculo 18 de la Ley Estatutaria 1712 de 2014 excluye del acceso, la informaci\u00f3n p\u00fablica cuya circulaci\u00f3n pueda ocasionar da\u00f1o a los derechos fundamentales de personas naturales o jur\u00eddicas, especialmente, la intimidad, la vida, la salud o la seguridad y los secretos comerciales, industriales y profesionales. En la misma l\u00ednea, la Sentencia T-487 de 2017 estableci\u00f3 que:<\/p>\n
Dentro de esta perspectiva ha dicho la Corte de manera reiterada, que desde el punto de vista cualitativo y en funci\u00f3n de su publicidad y de la posibilidad legal de obtener acceso a la misma, la informaci\u00f3n corresponde a cuatro grandes tipos: la informaci\u00f3n p\u00fablica o de dominio p\u00fablico, la informaci\u00f3n semi-privada, la informaci\u00f3n privada y la informaci\u00f3n reservada o secreta.<\/p>\n
La\u00a0informaci\u00f3n p\u00fablica, calificada como tal seg\u00fan los mandatos de la ley o de la Constituci\u00f3n, puede ser obtenida y ofrecida sin reserva alguna y sin importar si la misma sea informaci\u00f3n general, privada o personal. Por v\u00eda de ejemplo, pueden contarse los actos normativos de car\u00e1cter general, los documentos p\u00fablicos en los t\u00e9rminos del art\u00edculo 74 de la Constituci\u00f3n, y las providencias judiciales debidamente ejecutoriadas; igualmente ser\u00e1n p\u00fablicos, los datos sobre el estado civil de las personas o sobre la conformaci\u00f3n de la familia. Informaci\u00f3n que puede solicitarse por cualquier persona de manera directa y sin el deber de satisfacer requisito alguno.<\/p>\n
En segundo t\u00e9rmino se encuentra la\u00a0informaci\u00f3n semi-privada, siendo aquella que por versar sobre informaci\u00f3n personal o impersonal y no estar comprendida por la regla general anterior, presenta para su acceso y conocimiento un grado m\u00ednimo de limitaci\u00f3n, de tal forma que la misma s\u00f3lo puede ser obtenida y ofrecida por orden de autoridad administrativa en el cumplimiento de sus funciones o en el marco de los principios de la administraci\u00f3n de datos personales. Es el caso de los datos relativos a las relaciones con las entidades de la seguridad social o de los datos relativos al comportamiento financiero de las personas.<\/p>\n
Luego se tiene la\u00a0informaci\u00f3n privada, aquella que por versar sobre informaci\u00f3n personal o no, y que por encontrarse en un \u00e1mbito privado, s\u00f3lo puede ser obtenida y ofrecida por orden de autoridad judicial en el cumplimiento de sus funciones. Es el caso de los libros de los comerciantes, de los documentos privados, de las historias cl\u00ednicas o de la informaci\u00f3n extra\u00edda a partir de la inspecci\u00f3n del domicilio.<\/p>\n
Finalmente se encuentra la\u00a0informaci\u00f3n reservada, que por versar igualmente sobre informaci\u00f3n personal y sobre todo por su estrecha relaci\u00f3n con los derechos fundamentales del titular – dignidad, intimidad y libertad- se encuentra reservada a su \u00f3rbita exclusiva y no puede siquiera ser obtenida ni ofrecida por autoridad judicial en el cumplimiento de sus funciones. Cabr\u00eda mencionar aqu\u00ed la informaci\u00f3n gen\u00e9tica, y los llamados “datos sensibles” o relacionados con la ideolog\u00eda, la inclinaci\u00f3n sexual, los h\u00e1bitos\u00a0 de la persona, etc.<\/p>\n
286. Seg\u00fan la Escuela de Gobierno de la Universidad de los Andes uno de los aspectos clave en esta materia, para las organizaciones, es la realizaci\u00f3n de un an\u00e1lisis de impacto en cuanto a privacidad (PIA por sus siglas en ingl\u00e9s). Este an\u00e1lisis implica evaluar de manera integral c\u00f3mo la implementaci\u00f3n de sistemas de IA generativa afectar\u00e1 la privacidad de los titulares de datos. Por tanto, debe incluir la identificaci\u00f3n de los datos que se recopilar\u00e1n, el prop\u00f3sito de su recopilaci\u00f3n, c\u00f3mo se almacenar\u00e1n y proteger\u00e1n y las posibles implicaciones para los derechos de privacidad de los individuos. Este proceso es fundamental para asegurar que se cumplan con los principios de transparencia, consentimiento, finalidad y seguridad de datos, tal como lo establece la legislaci\u00f3n colombiana.<\/p>\n
287. Del mismo modo, precis\u00f3 dicha instituci\u00f3n que, para garantizar la privacidad y seguridad de los datos en sistemas de IA, las organizaciones deber\u00edan implementar medidas s\u00f3lidas de ciberseguridad. Esto incluye el cifrado de datos, el acceso restringido a informaci\u00f3n sensible, la formaci\u00f3n adecuada del personal y la implementaci\u00f3n de pol\u00edticas de retenci\u00f3n de datos. Finalmente, manifest\u00f3 que es fundamental que la Rama Judicial pueda garantizar todos estos requerimientos como principal responsable de la informaci\u00f3n a pesar de que se delegue esta tarea a terceros.<\/p>\n
288. Sobre la preocupaci\u00f3n que existe en cuanto a la seguridad y protecci\u00f3n de datos en IA como ChatGPT, varias empresas, entre ellas Samsung, Apple y Goldman Sachs, han prohibido a sus empleados utilizar este tipo de servicios en su trabajo. Dado que muchos de los casos de uso propuestos en el contexto de la administracio\u0301n de justicia implicari\u0301an la introduccio\u0301n de datos sensibles, no parece aconsejable asumir tal riesgo cuando las consecuencias de cualquier filtracio\u0301n o exposicio\u0301n de datos seri\u0301an muy graves.<\/p>\n
289. Precisando el an\u00e1lisis en el sistema de ChatGPT es importante indicar que, seg\u00fan los t\u00e9rminos y condiciones de uso, la informaci\u00f3n introducida por los usuarios en sus consultas podr\u00e1 ser utilizada por la empresa para el desarrollo de sus herramientas y, recientemente, se han presentado incidentes por fallos en la seguridad de la protecci\u00f3n de los datos personales de usuarios de ChatGPT. Sumado a lo anterior, se tiene que dicho sistema ha sido investigado por autoridades de protecci\u00f3n de datos personales, incluyendo la colombiana y la espa\u00f1ola.<\/p>\n
290. Dado que la informaci\u00f3n que se introduce a la plataforma puede ser apropiada y usada por la due\u00f1a del sistema, si la consulta contiene datos personales que involucre informaci\u00f3n del caso concreto podr\u00eda verse afectada la seguridad y protecci\u00f3n de la intimidad por divulgaci\u00f3n de datos que no deber\u00edan quedar expuestos y a disposici\u00f3n de terceros. Ante tales circunstancias, no est\u00e1 permitido por el ordenamiento jur\u00eddico colombiano introducir datos del proceso que sean semiprivados, privados o reservados a una IA cuyo propietario sea un particular, pues ello conllevar\u00eda, se reitera, una transgresi\u00f3n a la reserva sumarial, al habeas data y al derecho a la intimidad, lo cual impide su uso.<\/p>\n
291. Adem\u00e1s, al no conocerse los datos que alimentan a la IA, sus algoritmos o c\u00f3mo se realiza su procesamiento de datos, ello les impedir\u00eda a las partes de un proceso conocer los argumentos en los que se fundan los resultados de la IA, impidi\u00e9ndoles ejercer debidamente el derecho de contradicci\u00f3n probatorio.<\/p>\n
292. En muchas de las IA, entre ellas ChatGPT, no hay certeza sobre el tipo de raciocinios que realizan; para esto ser\u00eda necesario tener un control sobre ella, lo cual no se tiene frente a las IA privadas.<\/p>\n
293. Adicionalmente, debe considerarse que la IA se ha utilizado para otros fines en el sistema judicial. As\u00ed por ejemplo en el \u00e1mbito de investigaci\u00f3n penal se ha hecho uso de la IA especialmente con prop\u00f3sitos predictivos y para la localizaci\u00f3n de individuos. Particularmente en el escenario de la justicia penal se discute con gran \u00e9nfasis la utilizaci\u00f3n de tecnolog\u00edas de IA para identificar y ubicar presuntos delincuentes, as\u00ed como en el perfilamiento de sujetos, con el prop\u00f3sito de establecer en t\u00e9rminos estad\u00edsticos la posibilidad de que cometan conductas penales o reincidan en ellas. Dicho uso ha sido cuestionado al comprobarse que la informaci\u00f3n suministrada por la IA puede estar llena de sesgos, fund\u00e1ndose en discriminaciones y estigmatizaciones, y adem\u00e1s con la posibilidad de incurrir en el desconocimiento del derecho fundamental a la presunci\u00f3n de inocencia.<\/p>\n
294. En Estados Unidos de Am\u00e9rica, uno de los usos centrales de la IA en los \u00e1mbitos judiciales ocurre en el sistema penal. Varias jurisdicciones en los Estados Unidos utilizan una herramienta llamada \u00abCOMPAS\u00bb basada en IA desarrollada por el sector privado para hacer evaluaci\u00f3n de riesgos y predicci\u00f3n de conducta criminal. Al indagar sobre la exactitud de los resultados<\/p>\n
Se encontr\u00f3 que las predicciones de COMPAS eran precisas el 60% del tiempo en todos los tipos de delitos. Sin embargo, la tasa de precisi\u00f3n de la predicci\u00f3n para delitos violentos fue solo del 20%. Adem\u00e1s, el estudio se\u00f1al\u00f3 disparidades raciales. El algoritmo identific\u00f3 err\u00f3neamente a los acusados negros como futuros criminales el doble de veces que lo hizo con los acusados blancos. Este estudio atrajo la atenci\u00f3n de los medios y sus resultados fueron cuestionados por errores estad\u00edsticos. COMPAS es un algoritmo de \u201ccaja negra\u201d, lo que significa que nadie, incluidos sus operadores, tiene acceso al c\u00f3digo fuente.<\/p>\n
El uso de COMPAS fue impugnado en los tribunales con opositores afirmando que su naturaleza propietaria viola el derecho de los acusados a un debido proceso legal. El Tribunal Supremo de Wisconsin aprob\u00f3 el uso de COMPAS en la sentencia. Sin embargo, debe seguir siendo una herramienta de asistencia y el juez debe conservar plena discreci\u00f3n para determinar factores adicionales y ponderarlos en consecuencia. La Corte Suprema de los Estados Unidos deneg\u00f3 una petici\u00f3n para escuchar el caso<\/p>\n
() Conclusiones<\/p>\n
295. El juez, cuando encuentre necesario y pertinente recurrir a sistemas de IA, puede emplearlos razonada y ponderadamente. Esto supone un enfoque de protecci\u00f3n de derechos fundamentales, que valore y considere las mejores pr\u00e1cticas, as\u00ed como la aplicaci\u00f3n de criterios \u00e9ticos y de respeto a los mandatos superiores. \u00a0De acuerdo con ello, so pena de comprometer eventualmente su responsabilidad a ra\u00edz del uso indiscriminado e imprudente de estas tecnolog\u00edas, el funcionario judicial que las emplee deber\u00e1 respetar, como presupuesto m\u00ednimo en la materia, el criterio de no sustituci\u00f3n de la racionalidad humana, as\u00ed como atender las cargas de transparencia, responsabilidad y privacidad.<\/p>\n
296. En virtud de aquel criterio, es factible emplear inteligencia artificial en labores propias de la justicia siempre que el uso de dichas herramientas no remplace labores jurisdiccionales indelegables e irremplazables, como lo son aquellas que requieren del razonamiento l\u00f3gico y humano a efectos de interpretar los hechos, las pruebas, motivar la decisi\u00f3n o adoptarla. La utilizaci\u00f3n de IA para tales fines implicar\u00eda una violaci\u00f3n de las garant\u00edas del juez natural, autonom\u00eda e independencia judiciales y al debido proceso probatorio por sustituci\u00f3n del funcionario judicial. Por el contrario, se podr\u00eda utilizar la IA en el sistema judicial para los \u00e1mbitos de gesti\u00f3n administrativa y documental, as\u00ed como para el de apoyo a la gesti\u00f3n judicial y la correcci\u00f3n y s\u00edntesis de textos. En tales eventos, la utilizaci\u00f3n de estas tecnolog\u00edas no remplaza la labor esencial e insustituible que se le ha atribuido al funcionario y servidor judicial humano.<\/p>\n
297. La carga de transparencia le impone el deber de exponer claramente cu\u00e1l fue el uso, el alcance y la ubicaci\u00f3n en las actuaciones o decisiones de los resultados obtenidos por la utilizaci\u00f3n de la IA. La de responsabilidad, por su parte, exige del servidor que haga uso de la herramienta estar capacitado en la materia, entender cabalmente sus riesgos, as\u00ed como poder dar cuenta del origen, la idoneidad y la necesidad del uso de IA y, principalmente, verificar la informaci\u00f3n suministrada por ella. La carga de privacidad supone la protecci\u00f3n de la reserva de datos personales y sensibles que se le dan a conocer al sistema judicial para posibilitar el adecuado cumplimiento de sus funciones.<\/p>\n
298. Consecuencia de lo anterior, el juez incumple sus deberes legales cuando, habiendo utilizado IA en una decisi\u00f3n judicial, (i) la emplea en el ejercicio de funciones de raciocinio que son indelegables e irremplazables; (ii) no es transparente con el usuario de la administraci\u00f3n de justicia revelando el uso de IA y, con ello, compromete la garant\u00eda efectiva de su derecho de contradicci\u00f3n; (iii) no realiza de manera rigurosa la verificaci\u00f3n de la fiabilidad de la informaci\u00f3n que soporta la motivaci\u00f3n del fallo pudiendo comprometer la independencia o imparcialidad debido a los sesgos y alucinaciones de la IA; y\/o (iv) no adopta las cautelas necesarias para evitar la transgresi\u00f3n de derechos como el habeas data o la intimidad.<\/p>\n
299. Para asumir los retos de los nuevos tiempos y controlar los riesgos asociados a estas pr\u00e1cticas, convendr\u00eda que el uso razonado y ponderado de estas tecnolog\u00edas en el sistema judicial colombiano se efect\u00fae a trav\u00e9s de una herramienta especializada, motivo por el cual se alienta a la Rama Judicial para desarrollar esfuerzos que conduzcan progresivamente a la implementaci\u00f3n de una plataforma de IA propia que, dise\u00f1ada exclusivamente para el ejercicio de la funci\u00f3n p\u00fablica de administraci\u00f3n de justicia, permita contribuir a la eficiencia de los despachos judiciales y facilitar el acceso a la informaci\u00f3n, as\u00ed como reducir a la par los riesgos en materia especialmente de transparencia, protecci\u00f3n de datos, alucinaciones y sesgos.<\/p>\n
300. Por \u00faltimo, cabe advertir que los lineamientos que se imparten en esta providencia representan una aproximaci\u00f3n inicial y general a un tema que, adem\u00e1s de ser novedoso para la judicatura, est\u00e1 en constante construcci\u00f3n y sujeto a cambios vertiginosos. Por tal motivo, la pertinencia de estas consideraciones debe valorarse (i) en el tiempo, seg\u00fan la evoluci\u00f3n que se produzca en los \u00e1mbitos de regulaci\u00f3n normativa y, por supuesto, en el tecnol\u00f3gico, pero tambi\u00e9n (ii) atendiendo a las exigencias particulares que puedan desprenderse de la utilizaci\u00f3n de la IA en las diferentes jurisdicciones. En efecto, los innumerables usos que puedan d\u00e1rsele a estas tecnolog\u00edas en el \u00e1mbito judicial ameritar\u00e1n an\u00e1lisis especializados y soluciones particulares a los retos puntuales que emerjan en los distintos campos del derecho y en los diferentes frentes procesales y de actuaci\u00f3n judicial.<\/p>\n
La exoneraci\u00f3n de cobros de copagos y cuotas moderadoras en el SGSSS para ni\u00f1os con funcionalidad diversa<\/p>\n
i. (i) \u00a0Los ni\u00f1os, ni\u00f1as y adolescentes como sujetos de especial protecci\u00f3n constitucional<\/p>\n
301. En la actualidad existe un amplio acuerdo en los \u00e1mbitos nacional e internacional en cuanto a la necesidad de garantizar, proteger y respetar una serie de derechos a los ni\u00f1os, ni\u00f1as y adolescentes (en adelante NNA). Este consenso ha conducido a que la incorporaci\u00f3n del concepto del\u00a0inter\u00e9s superior de ni\u00f1os, ni\u00f1as y adolescentes\u00a0sea uno de los ejes centrales del an\u00e1lisis constitucional. Desde esta perspectiva, los NNA se hacen acreedores de un trato preferente ligado a su caracterizaci\u00f3n jur\u00eddica como sujetos de especial protecci\u00f3n.<\/p>\n
302. Por un lado, a nivel nacional, el art\u00edculo 13 de la Constituci\u00f3n Pol\u00edtica consagra la especial protecci\u00f3n que debe brindar el Estado\u00a0a las personas que, por su condici\u00f3n econ\u00f3mica, f\u00edsica o mental, se encuentren en circunstancia de debilidad manifiesta, como es el caso de los NNA en virtud de la vulnerabilidad que se deriva de su corta edad. Igualmente, el art\u00edculo 44 superior establece que los derechos de los NNA prevalecen sobre los dem\u00e1s y, en l\u00ednea con lo anterior, dispone que la\u00a0\u00abfamilia, la sociedad y el Estado tienen la obligaci\u00f3n de asistir y proteger al ni\u00f1o para garantizar su desarrollo arm\u00f3nico e integral y el ejercicio pleno de sus derechos\u00bb. Sumado a esto, los art\u00edculos 6, 8, y 9 de la Ley 1098 de 2006 protegen el inter\u00e9s superior de los NNA, al precisar que siempre (i) se aplicar\u00e1 la norma m\u00e1s favorable al inter\u00e9s superior del ni\u00f1o, ni\u00f1a o adolescente, (ii) se deben satisfacer todos sus derechos fundamentales y (iii) prevalecen sus derechos sobre los de cualquier otra persona.<\/p>\n
303. En varias oportunidades esta corporaci\u00f3n ha determinado que el inter\u00e9s superior del NNA es (i) un\u00a0derecho sustantivo,\u00a0pues debe ser una consideraci\u00f3n primordial al momento de sopesar los distintos intereses en juego en la toma de una decisi\u00f3n en cualquier \u00e1mbito. La garant\u00eda de este derecho deber\u00e1 ponerse en pr\u00e1ctica siempre que deba adoptarse una decisi\u00f3n que afecte a un ni\u00f1o, ni\u00f1a o adolescente o a un grupo concreto de ellos; (ii) una obligaci\u00f3n intr\u00ednseca de los Estados, de aplicabilidad inmediata y reclamable ante los jueces; (iii) un\u00a0principio jur\u00eddico interpretativo fundamental, en la medida en que \u00abs\u00ed una disposici\u00f3n jur\u00eddica admite m\u00e1s de una interpretaci\u00f3n, se elegir\u00e1 la interpretaci\u00f3n que satisfaga de manera m\u00e1s efectiva el inter\u00e9s superior del [NNA]\u00bb; y (iv) una norma de procedimiento, pues la toma de decisiones que involucre un NNA debe tener una carga argumentativa que estime las repercusiones positivas y negativas en los derechos del menor de edad.\u00a0<\/p>\n
304. Sobre este asunto, la\u00a0Sentencia T-033 de 2020\u00a0advirti\u00f3 que se reconoce a su favor:<\/p>\n
[U]n trato preferente de parte de la familia, la sociedad y el Estado, procurando que se garantice siempre su desarrollo arm\u00f3nico e integral [\u2026] el inter\u00e9s superior del menor no constituye un ente abstracto, desprovisto de v\u00ednculos con la realidad concreta, sobre el cual se puedan formular reglas generales de aplicaci\u00f3n mec\u00e1nica. Al contrario: el contenido de dicho inter\u00e9s, que es de naturaleza real y relacional, s\u00f3lo se puede establecer prestando la debida consideraci\u00f3n a las circunstancias individuales, \u00fanicas e irrepetibles de cada menor de edad<\/p>\n
305. Por otro lado, la preocupaci\u00f3n por la protecci\u00f3n de los derechos de NNA tambi\u00e9n ha sido un asunto de especial inter\u00e9s en el \u00e1mbito del derecho internacional, al punto que existen diversos instrumentos que se encargan de desarrollar estos fundamentos jur\u00eddicos. As\u00ed, aunque unos son vinculantes y otros no, lo cierto es que todos contienen disposiciones espec\u00edficas o principios dirigidos a informar el \u00e1mbito de protecci\u00f3n de los derechos de los NNA. Estos son: la Convenci\u00f3n sobre los Derechos de los Ni\u00f1os, el Pacto Internacional de Derechos Civiles y Pol\u00edticos, el Pacto Internacional de Derechos Econ\u00f3micos, Sociales y Culturales (PIDESC), la Convenci\u00f3n Americana sobre Derechos Humanos, la Declaraci\u00f3n de las Naciones Unidas sobre los Derechos del Ni\u00f1o y la Declaraci\u00f3n Universal de Derechos Humanos de 1948.<\/p>\n
() Las personas en situaci\u00f3n de discapacidad como sujetos de especial protecci\u00f3n constitucional<\/p>\n
306. La Carta Pol\u00edtica de 1991, en su art\u00edculo 13, defini\u00f3 como sujetos de especial protecci\u00f3n constitucional a todas las personas que por su condici\u00f3n econ\u00f3mica, f\u00edsica o mental se encuentren en circunstancia de debilidad manifiesta y, de manera expresa, el mismo art\u00edculo se\u00f1ala que los abusos y maltratos que contra dichas personas se cometan ser\u00e1n objeto de sanci\u00f3n por parte del Estado. Asimismo, el Estado colombiano a trav\u00e9s del art\u00edculo 93, introdujo dentro del ordenamiento jur\u00eddico la Convenci\u00f3n sobre los Derechos de las Personas con Discapacidad de Naciones Unidas, la cual fue aprobada por el Congreso de la Rep\u00fablica a trav\u00e9s de la Ley 1346 de 2009.<\/p>\n
307. Esta Corte tambi\u00e9n ha se\u00f1alado que, en raz\u00f3n del art\u00edculo 13 de la Constituci\u00f3n, existe una obligaci\u00f3n en cabeza del Estado colombiano de proteger de manera privilegiada a aquellas personas que, por su condici\u00f3n econ\u00f3mica, f\u00edsica o mental, se encuentren en circunstancias de debilidad manifiesta. Por tanto, la jurisprudencia constitucional ha sostenido, respecto de las personas en situaci\u00f3n de discapacidad, que:<\/p>\n
[E]l Estado tiene la obligaci\u00f3n de brindar una protecci\u00f3n cualificada a este grupo poblacional, en ese sentido debe \u201c(i) procurar su igualdad de derechos y oportunidades frente a los dem\u00e1s miembros de la sociedad, (ii) adelantar las pol\u00edticas pertinentes para lograr su rehabilitaci\u00f3n e integraci\u00f3n social de acuerdo a sus condiciones y (iii) otorgarles un trato especial, pues la no aplicaci\u00f3n de la diferenciaci\u00f3n positiva contribuye a perpetuar la marginaci\u00f3n o la discriminaci\u00f3n<\/p>\n
308. En el mismo pronunciamiento, esta corporaci\u00f3n sostuvo que \u00ablas acciones afirmativas van encaminadas a: (i) favorecer a determinadas personas o grupos de personas para lograr la eliminaci\u00f3n o disminuci\u00f3n de las desigualdades de tipo social, cultural o econ\u00f3mico que los afectan; y (ii) lograr que los miembros de un grupo que usualmente ha sido discriminado tengan una mayor representaci\u00f3n y participaci\u00f3n social\u00bb.<\/p>\n
309. Partiendo del reconocimiento de las personas en situaci\u00f3n de discapacidad como sujetos de especial protecci\u00f3n del Estado, se incluye en el art\u00edculo 47 de la Constituci\u00f3n, la pol\u00edtica de discapacidad, se\u00f1alando que esta deber\u00e1 adelantarse desde la previsi\u00f3n, rehabilitaci\u00f3n e integraci\u00f3n social.<\/p>\n
310. Sumado a lo anterior, es importante resaltar que el principio de rehabilitaci\u00f3n funcional, reconocido en la Ley 1346 de 2009, es entendido como un \u00ab[p]roceso de acciones m\u00e9dicas y terap\u00e9uticas, encaminadas a lograr que las personas con discapacidad est\u00e9n en condiciones de alcanzar y mantener un estado funcional \u00f3ptimo desde el punto de vista f\u00edsico, sensorial, intelectual, ps\u00edquico o social, de manera que les posibilite modificar su propia vida y ser m\u00e1s independientes\u00bb.<\/p>\n
() El derecho a la salud<\/p>\n
311. El derecho fundamental a la salud se encuentra consagrado en el art\u00edculo 49 de la Constituci\u00f3n Pol\u00edtica, el cual dispone que la atenci\u00f3n en salud es un servicio p\u00fablico a cargo del Estado que debe ser prestado conforme a los principios de eficiencia, universalidad y solidaridad.\u00a0Asimismo, el derecho a la salud es desarrollado y protegido por diferentes instrumentos internacionales, los cuales se aplican a Colombia conforme el art\u00edculo 93 superior, entre los cuales se encuentran la Declaraci\u00f3n Universal de los Derechos Humanos, el Protocolo Adicional a la Convenci\u00f3n Americana sobre Derechos Humanos y el PIDESC.\u00a0Igualmente, la Ley Estatutaria de Salud 1751 de 2015 (LES) establece unos lineamientos esenciales para la comprensi\u00f3n del derecho a la salud en Colombia.<\/p>\n
312. La Corte Constitucional ha precisado en su jurisprudencia que la protecci\u00f3n a la salud abarca una amplia gama de factores socioecon\u00f3micos, bienes y servicios, los cuales inciden en que una persona viva una vida bajo condiciones sanas y dignas:<\/p>\n
[E]l derecho a la salud abarca una amplia gama de factores socioecon\u00f3micos que promueven las condiciones merced a las cuales las personas pueden llevar una vida sana, y hace ese derecho extensivo a los factores determinantes b\u00e1sicos de la salud, como la alimentaci\u00f3n y la nutrici\u00f3n, la vivienda, el acceso a agua limpia potable y a condiciones sanitarias adecuadas, condiciones de trabajo seguras y sanas y un medio ambiente sano<\/p>\n
<\/p>\n
Este concepto, a su vez, comprende distintos escenarios constitucionales, entre los cuales se encuentra la prestaci\u00f3n y el suministro de servicios y tecnolog\u00edas en salud<\/p>\n
313. Conforme con lo anterior, se ha manifestado por esta Corte en la Sentencia SU-475 de 2023 que el \u00e1mbito de protecci\u00f3n de este derecho comprende tres puntos claves (i) cuatro componentes, (ii) m\u00faltiples derechos de los usuarios del SGSSS y (iii) obligaciones a cargo del Estado:<\/p>\n
(i)\u00a0Componentes. El art\u00edculo 6\u00ba de la LES dispone que los componentes o \u201celementos esenciales e interrelacionados\u201d\u00a0del derecho fundamental a la salud son la:\u00a0(i)\u00a0disponibilidad,\u00a0(ii)\u00a0aceptabilidad,\u00a0(iii)\u00a0calidad y\u00a0(iv)\u00a0accesibilidad [\u2026]\u00a0<\/p>\n
(ii)\u00a0Derechos. El art\u00edculo 10 de la LES dispone que son derechos de los usuarios \u201crelacionados con la prestaci\u00f3n del servicio a la salud\u201d, entre otros:\u00a0(a)\u00a0acceder a los servicios y tecnolog\u00edas de salud que garanticen una atenci\u00f3n integral;\u00a0(b)\u00a0recibir prestaciones de salud en las condiciones y t\u00e9rminos consagrados en la ley;\u00a0(c)\u00a0la provisi\u00f3n y acceso oportuno a los servicios, tecnolog\u00edas y medicamentos;\u00a0(d)\u00a0no ser sometido a tratos crueles o inhumanos que afecten su dignidad, ni a ser obligado a soportar sufrimiento evitable, ni a padecer enfermedades que pueden recibir tratamiento;\u00a0(e)\u00a0recibir los servicios de salud en condiciones de higiene, seguridad y respeto a su intimidad y\u00a0(f)\u00a0recibir un trato digno, que respete las creencias y costumbres del usuario, as\u00ed como las opiniones personales que tengan sobre los procedimientos.\u00a0<\/p>\n
(iii)\u00a0Obligaciones del Estado. El art\u00edculo 5\u00ba de la LES prescribe que el Estado es el responsable de respetar, proteger y garantizar el goce efectivo del derecho fundamental a la salud. Para ello, el Estado deber\u00e1, entre otras,\u00a0(a) formular y adoptar pol\u00edticas de salud dirigidas a garantizar el goce efectivo del derecho para toda la poblaci\u00f3n;\u00a0(b)\u00a0velar por el cumplimiento de los principios del derecho fundamental a la salud, seg\u00fan las necesidades de la poblaci\u00f3n;\u00a0(c)\u00a0crear mecanismos para evitar la violaci\u00f3n del derecho fundamental a la salud y su r\u00e9gimen sancionatorio;\u00a0(d)\u00a0llevar a cabo un seguimiento continuo de la evoluci\u00f3n de las condiciones de salud de la poblaci\u00f3n, as\u00ed como\u00a0(e)\u00a0adoptar la regulaci\u00f3n y las pol\u00edticas para financiar de manera sostenible los servicios de salud y garantizar el flujo de los recursos para atender de manera oportuna y suficiente las necesidades en salud de la poblaci\u00f3n. La Corte Constitucional ha se\u00f1alado que el art\u00edculo 6\u00ba de la LES se integra a \u201cun conjunto de obligaciones abierto\u201d, por lo que \u201clas obligaciones legales espec\u00edficas, las obligaciones internacionales y las obligaciones b\u00e1sicas, incorporadas en [la Observaci\u00f3n General 14 del Comit\u00e9 DESC de las Naciones Unidas] hacen parte de las obligaciones del Estado colombiano en materia de salud\u201d<\/p>\n
() Los ni\u00f1os, ni\u00f1as y adolescentes con funcionalidad diversa y la protecci\u00f3n de su derecho fundamental a la salud<\/p>\n
314. La Ley Estatutaria de la Salud 1751 de 2015\u00a0y la jurisprudencia\u00a0disponen que la salud es un derecho fundamental aut\u00f3nomo e irrenunciable. Este derecho comprende el acceso a los servicios de salud de manera completa, oportuna, eficaz y con calidad. En ese sentido, el art\u00edculo 8.\u00ba de la Ley 1751 de 2015 que consagr\u00f3 el principio de la integralidad ha sido utilizado como base por esta corporaci\u00f3n para precisar que los usuarios del sistema de salud tienen derecho a recibir la atenci\u00f3n y el tratamiento completo de sus enfermedades, de conformidad con lo prescrito por el m\u00e9dico tratante.<\/p>\n
315. En suma, el derecho a la salud de los NNA que se encuentran en situaci\u00f3n de discapacidad ostenta una protecci\u00f3n constitucional reforzada en atenci\u00f3n a su especial condici\u00f3n de vulnerabilidad. Esta se deriva de los art\u00edculos 13.3, 44 y 47 de la Constituci\u00f3n Pol\u00edtica, el principio constitucional de inter\u00e9s superior del menor e instrumentos internacionales como lo son, en particular, la Convenci\u00f3n de los Derechos de las Personas con Discapacidad, la Convenci\u00f3n sobre los Derechos del Ni\u00f1o, el PIDESC y el Protocolo de San Salvador.<\/p>\n
316. Estas garant\u00edas nacen de la necesidad de asegurar el desarrollo arm\u00f3nico y vital de los NNA en situaci\u00f3n de discapacidad, ya que \u00abcualquier retraso o negaci\u00f3n en la prestaci\u00f3n del servicio puede llegar a afectar de manera irreversible su condici\u00f3n m\u00e9dica y proyectar sus procesos relacionales con su entorno, su familia y la sociedad en general, as\u00ed como sus ciclos de formaci\u00f3n acad\u00e9mica y cognitiva\u00bb.<\/p>\n
317. Las garant\u00edas reforzadas incluyen, entre otras:<\/p>\n
Garant\u00edas reforzadas del derecho a la salud los NNA en situaci\u00f3n de discapacidad<\/p>\n
El derecho a recibir cuidados especiales y adecuados \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
De\u00a0acuerdo con los diferentes ciclos vitales se debe garantizar la eliminaci\u00f3n o disminuci\u00f3n de las limitaciones en las actividades de la vida diaria\u00a0de forma expedita.\u00a0<\/p>\n
El mandato de protecci\u00f3n a la salud prevalente y prioritaria \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
La atenci\u00f3n en salud de los NNA en situaci\u00f3n de discapacidad requiere que su prestaci\u00f3n se garantice de forma inmediata sin obst\u00e1culos legales, administrativos, econ\u00f3micos o de ninguna otra \u00edndole.<\/p>\n
La garant\u00eda cualificada del principio de integralidad \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Las entidades del SGGGS y el juez constitucional deben aplicar un enfoque diferencial y est\u00e1n llamados \u00aba flexibilizar los requisitos para el otorgamiento de los servicios y las tecnolog\u00edas en salud\u00bb.\u00a0<\/p>\n
() La prohibici\u00f3n de anteponer barreras administrativas para la prestaci\u00f3n del servicio de salud. Reiteraci\u00f3n de jurisprudencia<\/p>\n
318. Uno de los problemas m\u00e1s recurrentes que esta corporaci\u00f3n ha detectado en cuanto a las fallas en el sistema de salud y la prestaci\u00f3n del servicio es la imposici\u00f3n de barreras administrativas que impiden el acceso efectivo a los usuarios. Por tanto, se ha mencionado que \u00abcuando se afecta la atenci\u00f3n de un paciente con fundamento en situaciones extra\u00f1as a su propia decisi\u00f3n y correspondientes al normal ejercicio de las labores del asegurador, se conculca el derecho fundamental a la salud, en tanto se est\u00e1 obstaculizando por cuenta de cargas administrativas que no deben ser asumidas por el usuario\u00bb.<\/p>\n
319. Consecuentemente, los usuarios del servicio de la salud no pueden ver disminuido su derecho fundamental a la salud por imposici\u00f3n de cargas administrativas. \u00ab[L]a prestaci\u00f3n efectiva y eficiente del servicio de salud no puede interrumpirse o fraccionarse con base en barreras administrativas que deban adelantar las entidades prestadoras de salud y\/o conflictos entre los distintos organismos que componen el Sistema General de Seguridad Social en Salud\u00bb.<\/p>\n
320. Esto tambi\u00e9n implica la salvaguarda de los principios de\u00a0accesibilidad\u00a0e\u00a0integralidad\u00a0del SGGGS en Salud, por cuanto todos los usuarios tienen el derecho a recibir una atenci\u00f3n y tratamiento completos, como se especific\u00f3 anteriormente, sin que puedan ser fraccionados por razones administrativas y de falta de coordinaci\u00f3n.<\/p>\n
321. Si bien existen tr\u00e1mites administrativos en el sistema de salud que son necesarios y deben cumplirse para mantenerse una organizaci\u00f3n y planeaci\u00f3n del servicio, lo cierto es que muchos de ellos corresponden a diligencias propias de la EPS, como la contrataci\u00f3n oportuna e ininterrumpida de los servicios m\u00e9dicos con las IPS. El relacionamiento entre EPS y entidad prestadora es una relaci\u00f3n exclusivamente\u00a0de las partes, motivo por el que no existe responsabilidad alguna del paciente en el cumplimiento de los tr\u00e1mites administrativos, coordinaci\u00f3n o comunicaci\u00f3n entre aquellas, ni se le pueden asignar tareas o imponer trabas y cargas en raz\u00f3n de tal relacionamiento interinstitucional.<\/p>\n
322. Es as\u00ed, como la Sentencia T-405 de 2017 indic\u00f3 sobre este tema que:\u00a0<\/p>\n
[L]a negligencia de las entidades\u00a0encargadas de la prestaci\u00f3n de un servicio de salud a causa de tr\u00e1mites administrativos, incluso los derivados de las controversias econ\u00f3micas entre aseguradores y prestadores,\u00a0no puede ser trasladada a los usuarios por cuanto ello conculca gravemente sus derechos, al tiempo que puede agravar su condici\u00f3n f\u00edsica, psicol\u00f3gica e, incluso, poner en riesgo su propia vida. De ah\u00ed que la atenci\u00f3n m\u00e9dica debe surtirse de manera oportuna, eficiente y con calidad, de conformidad con los principios de integralidad y continuidad, sin que sea constitucionalmente v\u00e1lido que los tr\u00e1mites internos entre EPS e IPS sean imputables para suspender el servicio<\/p>\n
323. Adicional, la Corte ha identificado los siguientes efectos perjudiciales en los pacientes a quienes se les impone barreras administrativas injustificadas y desproporcionadas por las EPS:<\/p>\n
i)\u00a0Prolongaci\u00f3n del sufrimiento, debido a la angustia emocional que se genera en las personas soportar una espera prolongada para ser atendidas y recibir tratamiento;\u00a0<\/p>\n
ii)\u00a0Complicaciones m\u00e9dicas del estado de salud por la ausencia de atenci\u00f3n oportuna y efectiva que genera el empeoramiento de la condici\u00f3n m\u00e9dica;\u00a0<\/p>\n
iii)\u00a0Da\u00f1o permanente o de largo plazo o discapacidad permanente porque ha pasado demasiado tiempo entre el momento en que la persona acude al servicio de salud y el instante en que recibe la atenci\u00f3n efectiva;\u00a0<\/p>\n
iv)\u00a0Muerte, que constituye la peor de las consecuencias y que ocurre por la falta de atenci\u00f3n pronta y efectiva, puesto que la demora reduce las posibilidades de sobrevivir o su negaci\u00f3n atenta contra la urgencia del cuidado requerido<\/p>\n
324. Con base en ello, los des\u00f3rdenes administrativos que afectan a los usuarios desconocen los principios que gu\u00edan la prestaci\u00f3n del servicio de salud, ya que:<\/p>\n
(i) no se puede gozar de la prestaci\u00f3n del servicio en el momento que corresponde para la recuperaci\u00f3n satisfactoria de su estado de salud (oportunidad), (ii) los tr\u00e1mites administrativos no est\u00e1n siendo razonables (eficiencia), (iii) no est\u00e1 recibiendo el tratamiento necesario para contribuir notoriamente a la mejora de sus condiciones de vida (calidad) y (iv) no est\u00e1 recibiendo un tratamiento integral que garantice la continuidad de sus tratamientos y recuperaci\u00f3n (integralidad)<\/p>\n
() Marco legal, reglamentario y jurisprudencial de los copagos en el sistema de seguridad social en salud. Exoneraci\u00f3n de copagos y cuotas moderadoras para personas con funcionalidad diversa f\u00edsica o cognitiva<\/p>\n
325. El art\u00edculo 160 de la Ley 100 de 1993 consagra como uno de los deberes de los afiliados y beneficiarios del SGSSS \u00ab[f]acilitar el pago, y pagar cuando le corresponda, las cotizaciones y pagos obligatorios a que haya lugar\u00bb. El r\u00e9gimen de pagos compartidos y cuotas moderadoras propio de dicho sistema se encuentra regulado en el Acuerdo 260 de 2004, expedido por el Consejo Nacional de Seguridad Social en Salud.<\/p>\n
326. La referida norma se\u00f1ala que las cuotas moderadoras en salud \u00abtienen por objeto regular la utilizaci\u00f3n del servicio de salud y estimular su buen uso, promoviendo en los afiliados la inscripci\u00f3n en los programas de atenci\u00f3n integral desarrollados por las EPS\u00bb. Por su parte, los copagos \u00abson los aportes en dinero que corresponden a una parte del valor del servicio demandado y tienen como finalidad ayudar a financiar el sistema\u00bb. Mientras los primeros tienen como finalidad el financiamiento del sistema, las segundas tienen por objeto regular la utilizaci\u00f3n del servicio de salud y estimular su buen uso, promoviendo en los afiliados la inscripci\u00f3n en los programas de atenci\u00f3n integral desarrollados por las EPS.<\/p>\n
327. El art\u00edculo 5.\u00ba del Acuerdo 260 de 2004 establece que el cobro de los copagos y cuotas moderadoras debe consultar el principio de equidad, es decir, que este sistema no puede tornarse en una barrera para el acceso a los servicios de salud ni ser usado para discriminar a ciertos grupos poblacionales. En el mismo sentido se pronuncia el art\u00edculo 187 de la Ley 100 de 1993.<\/p>\n
328. Ahora bien, el art\u00edculo 6.\u00ba del Acuerdo 260 de 2004 enlista los servicios a los que se aplican cuotas moderadoras. Estos son: consulta externa m\u00e9dica, odontol\u00f3gica, param\u00e9dica y de medicina alternativa aceptada; consulta externa por m\u00e9dico especialista; f\u00f3rmula de medicamentos para tratamientos ambulatorios; ex\u00e1menes de diagn\u00f3stico por laboratorio cl\u00ednico, ordenados en forma ambulatoria y que no requieran autorizaci\u00f3n adicional a la del m\u00e9dico tratante, entre otras.<\/p>\n
329. Por su parte, el art\u00edculo 7.\u00ba establece que los copagos se aplican a todos los servicios de salud, excepto los servicios de promoci\u00f3n y prevenci\u00f3n, enfermedades catastr\u00f3ficas o de alto costo, atenci\u00f3n inicial de urgencias, as\u00ed como programas de control en atenci\u00f3n materno infantil y atenci\u00f3n de enfermedades transmisibles.<\/p>\n
330. A su vez, el anterior listado de excepciones se le suman las establecidas en las resoluciones 3974 de 2009 y 6468 de 2016 del Ministerio de Salud y Protecci\u00f3n Social, esta \u00faltima \u00ab[p]or la cual se modifica el Plan de Beneficios en Salud con cargo a la Unidad de Pago por Capitaci\u00f3n (UPC)\u00bb, y en el Decreto 1652 del 2022 expedido por el Ministerio de Salud y Protecci\u00f3n Social, que dispuso:<\/p>\n
Art\u00edculo 2.10.4.9. Excepci\u00f3n del cobro de cuotas moderadoras y copagos para grupos o poblaciones especiales. Adem\u00e1s de las excepciones se\u00f1aladas en los art\u00edculos 2.10.4.6 y 2. 10.4.8 del presente decreto, se except\u00faa del cobro de cuotas moderadoras y copagos, seg\u00fan corresponda, a los siguientes grupos poblacionales especiales:<\/p>\n
En el R\u00e9gimen Contributivo y R\u00e9gimen Subsidiado, se except\u00faa [\u2026]<\/p>\n
1.5. Los ni\u00f1os, ni\u00f1as y adolescentes del Sisb\u00e9n 1 y 2, con discapacidades f\u00edsicas, sensoriales y cognitivas, enfermedades catastr\u00f3ficas y ruinosas que sean certificadas por el m\u00e9dico tratante, respecto a los servicios y medicamentos de la parte especial y diferenciada del Plan de Beneficios estar\u00e1n exceptuados del cobro de cuotas moderadoras y copagos, conforme lo dispuesto en el art\u00edculo 18 de la Ley 1438 de 2011 o las normas que los modifiquen o sustituyan [\u2026]<\/p>\n
1.9. Las personas en situaci\u00f3n de discapacidad, en relaci\u00f3n con su rehabilitaci\u00f3n funcional cuando se haya establecido el procedimiento requerido, estar\u00e1n exceptuadas del cobro de cuotas moderadoras y copagos, seg\u00fan lo dispuesto en el art\u00edculo 9, numeral 9 de la Ley 1618 de 2013 o las normas que los modifiquen o sustituyan [\u2026]<\/p>\n
331. Adem\u00e1s, el art\u00edculo 18 de la Ley establece que \u00ab[l]os servicios y medicamentos de la parte especial y diferenciada del Plan de Beneficios para los ni\u00f1os, ni\u00f1as y adolescentes con discapacidades f\u00edsicas, sensoriales y cognitivas que sean certificadas por el m\u00e9dico tratante, ser\u00e1n gratuitos para los ni\u00f1os, ni\u00f1as y adolescentes de Sisb\u00e9n 1 y 2\u00bb.<\/p>\n
332. Con todo, la jurisprudencia constitucional ha determinado que \u00abadem\u00e1s de la exoneraci\u00f3n prevista en las normas pertinentes, hay lugar a la exenci\u00f3n de dicho pago cuando se comprueba que el usuario del servicio de salud o su familia no cuentan con recursos econ\u00f3micos suficientes para asumir las cuotas moderadoras, copagos o cuotas de recuperaci\u00f3n seg\u00fan al r\u00e9gimen que se encuentre afiliado\u00bb. En concreto, la exoneraci\u00f3n procede cuando la persona que necesita con urgencia un servicio m\u00e9dico carece de la capacidad econ\u00f3mica para asumir el valor de los pagos moderadores o, en caso de tener dicha capacidad, s\u00ed tiene problemas para hacer la erogaci\u00f3n correspondiente antes de que este sea suministrado. En este \u00faltimo evento, la entidad prestadora deber\u00e1 brindar oportunidades y formas de pago al afectado, para lo cual podr\u00e1 exigir garant\u00edas adecuadas, sin que la falta de pago pueda convertirse en un obst\u00e1culo para acceder a la prestaci\u00f3n del servicio.<\/p>\n
333. En suma, los copagos y las cuotas moderadoras en salud buscan obtener una contribuci\u00f3n econ\u00f3mica al sistema en raz\u00f3n a los servicios prestados. Sin embargo, no podr\u00e1n exigirse en ciertos casos establecidos por la ley o cuando el paciente no tenga la capacidad econ\u00f3mica para sufragar este gasto. Lo anterior, con el fin de no crear una barrera de acceso a los servicios de salud.<\/p>\n
334. Trat\u00e1ndose de una persona de especial protecci\u00f3n constitucional, dada la situaci\u00f3n de discapacidad y que es un menor de edad, esta Corte en Sentencia T-401A de 2022, ampar\u00f3 los derechos fundamentales de dos ni\u00f1os con autismo a los que su EPS les exig\u00eda cancelar copagos para el acceso a terapias de An\u00e1lisis Conductual Aplicado (ABA por sus siglas en ingl\u00e9s). En esta oportunidad se concluy\u00f3 que los NNA deb\u00edan ser exonerados de la cancelaci\u00f3n de esos copagos con base en la normatividad vigente.<\/p>\n
335. En particular, la decisi\u00f3n se fundament\u00f3 en el Acuerdo 260 de 2004\u00a0del Ministerio de Salud y Protecci\u00f3n Social y la Circular 016 de 2014 del mismo ministerio.\u00a0Las terapias ABA son un conjunto de actividades tendientes a revertir condiciones de aislamiento en algunas personas con discapacidad y lograr cambios positivos en el comportamiento, las cuales implican un plan\u00a0rutinario de actividades de control y son parte de un programa especial de atenci\u00f3n integral. As\u00ed, la Corte reconoci\u00f3 en la Sentencia T-401A de 2022 que las terapias ABA deben exonerarse de copagos de acuerdo con la normatividad y jurisprudencia vigente.<\/p>\n
336. Para esta corporaci\u00f3n el cobro de copagos o cuotas moderadoras no puede convertirse en una barrera de acceso al servicio de salud, sobre todo cuando quienes lo requieren son sujetos de especial protecci\u00f3n constitucional y se acreditan los requisitos de la ley y la jurisprudencia. Lo anterior, ya que las causales de exoneraci\u00f3n de cobro de copagos tienen una mayor relevancia para estas personas, frente a quienes se busca alcanzar y mantener un mejor estado de salud y el pleno goce de la vida en sociedad.<\/p>\n
337. En efecto, la Corte Constitucional ha se\u00f1alado que \u00abla exequibilidad del cobro de las cuotas moderadoras tendr\u00e1 que sujetarse a la condici\u00f3n de que con \u00e9ste nunca se impida a las personas el acceso a los servicios de salud; de tal forma que, si el usuario del servicio -afiliado cotizante o sus beneficiarios- al momento de requerirlo no dispone de los recursos econ\u00f3micos para cancelarlas o controvierte la validez de su exigencia, el Sistema y sus funcionarios no le pueden negar la prestaci\u00f3n \u00edntegra y adecuada\u00bb, regla que adquiere especial valor cuando se trata de personas de especial protecci\u00f3n constitucional.<\/p>\n
() Tratamiento integral<\/p>\n
338. La Corte ha definido el tratamiento integral como una atenci\u00f3n en salud de forma \u00abininterrumpida, completa, diligente, oportuna y con calidad\u00bb. En este mismo sentido, la prestaci\u00f3n del servicio debe cumplir con todas las \u00f3rdenes de los m\u00e9dicos tratantes en las condiciones estipuladas.<\/p>\n
339. De esta manera, para que el juez constitucional pueda ordenar el tratamiento integral debe comprobar que (i) la EPS fue negligente respecto a sus obligaciones con el paciente; (ii) la existencia de \u00f3rdenes m\u00e9dicas con especificaciones tales como diagn\u00f3sticos, insumos o servicios requeridos; y (iii) la calidad de sujeto de especial protecci\u00f3n constitucional del accionante o su estado extremadamente grave de salud. Cabe destacar que el juez de tutela no puede emitir pronunciamiento sobre hechos futuros e inciertos, por lo que las prescripciones m\u00e9dicas deben ser claras.<\/p>\n
340. As\u00ed las cosas, para la materializaci\u00f3n del derecho a la salud la prestaci\u00f3n y el suministro de servicios y tecnolog\u00edas deber\u00e1 guiarse por el principio de integralidad, entendido como un principio esencial de la seguridad social en salud y que se refiere a la necesidad de garantizar el derecho, de tal manera que los afiliados al sistema puedan acceder a las prestaciones que requieran de manera efectiva, es decir, que se les otorgue una protecci\u00f3n completa en relaci\u00f3n con todo aquello que sea necesario para mantener su calidad de vida o adecuarla a los est\u00e1ndares regulares.<\/p>\n
341. Tal y como lo ha reiterado esta corporaci\u00f3n, el tratamiento integral tiene la finalidad de \u00abgarantizar la continuidad en la prestaci\u00f3n del servicio de salud y evitar la interposici\u00f3n de acciones de tutela por cada servicio prescrito por el m\u00e9dico tratante. Entre las circunstancias en las que procede su reconocimiento se encuentra cuando el peticionario es un sujeto de especial protecci\u00f3n constitucional, como es el caso de las personas en situaci\u00f3n de discapacidad f\u00edsica\u00bb, por lo que dicha integralidad pretende una garant\u00eda plena y confiable por parte del Estado y de los responsables del servicio, para que a futuro no se siga presentando la vulneraci\u00f3n del derecho por la falta de prestaci\u00f3n de este. Con ello se evita que la activaci\u00f3n del aparato jurisdiccional a trav\u00e9s de la acci\u00f3n de tutela se convierta en el mecanismo para que los usuarios del sistema de salud soliciten la cobertura y entrega material de cada servicio, con el agravante que la destinataria de este sea una persona de especial protecci\u00f3n constitucional, como es el caso de aquellas en situaci\u00f3n de discapacidad.<\/p>\n
() Reconocimiento de los gastos de transporte para el paciente y un acompa\u00f1ante<\/p>\n
342. El literal c) del art\u00edculo 6.\u00b0 de la Ley Estatutaria de Salud 1751 de 2015 dispone: \u00ab(l)os servicios y tecnolog\u00edas de salud deben ser accesibles a todos, en condiciones de igualdad, dentro del respeto a las especificidades de los diversos grupos vulnerables y al pluralismo cultural. La accesibilidad comprende la no discriminaci\u00f3n, la accesibilidad f\u00edsica, la asequibilidad econ\u00f3mica y el acceso a la informaci\u00f3n\u00bb.<\/p>\n
343. En relaci\u00f3n con lo anterior, aunque el transporte y los vi\u00e1ticos requeridos para asistir a los servicios de salud no constituyen servicios m\u00e9dicos, s\u00ed son elementos necesarios para el acceso en condiciones dignas. Entonces, su falta de suministro puede desconocer la faceta de accesibilidad al sistema de salud en los t\u00e9rminos del literal c) del art\u00edculo 6.\u00ba de la Ley Estatutaria de Salud 1751 de 2015.<\/p>\n
345. Asimismo, esta corporaci\u00f3n no solo ha previsto la necesidad de reconocer el servicio transporte para el usuario sino tambi\u00e9n para un acompa\u00f1ante, en la medida en que el PBS con cargo a la Unidad de Pago por Capacitaci\u00f3n [UPC] no contempla esa posibilidad. Para tal fin, ha establecido que se debe corroborar que el paciente \u00ab(i) dependa totalmente de un tercero para su movilizaci\u00f3n, (ii) necesite de cuidado permanente para garantizar su integridad f\u00edsica y el ejercicio adecuado de sus labores cotidianas y, (iii) ni el paciente ni su familia cuenten con los recursos econ\u00f3micos para cubrir el transporte del tercero\u00bb.<\/p>\n
346. En conclusi\u00f3n, el transporte intramunicipal no est\u00e1 incluido en el PBS y, por lo tanto, prima facie debe ser cubierto por el paciente o su n\u00facleo familiar. No obstante, cuando el paciente no tiene recursos econ\u00f3micos para sufragar este gasto, se constituye en una barrera de acceso a los servicios de salud. En esos casos, entonces, las EPS deben cubrir aquel y, si es necesario, tambi\u00e9n el de un acompa\u00f1ante.<\/p>\n
An\u00e1lisis del caso concreto<\/p>\n
i. (i) \u00a0En cuanto a la violaci\u00f3n del debido proceso<\/p>\n
347. Seg\u00fan se indic\u00f3 en el ac\u00e1pite de antecedentes, en el tr\u00e1mite de segunda instancia de la acci\u00f3n de tutela, el Juzgado del Circuito utiliz\u00f3 el sistema de IA denominado ChatGPT 3.5, para formular una serie de preguntas en materia de derecho a la salud y exoneraci\u00f3n de cuotas moderadoras en sede de tutela, as\u00ed como sobre las decisiones emitidas por la Corte Constitucional en torno al asunto, las cuales fueron incluidas, junto con las respectivas respuestas, en la sentencia de segunda instancia proferida por esa autoridad judicial el 30 de enero de 2023.<\/p>\n
348. En tales condiciones, la Sala de Revisi\u00f3n estima procedente realizar un estudio oficioso acerca de la validez del fallo en cuesti\u00f3n, a efectos de establecer si para la adopci\u00f3n de este se gener\u00f3 alguna irregularidad que implique la violaci\u00f3n del derecho al debido proceso, espec\u00edficamente por el eventual desconocimiento de la garant\u00eda del juez natural. Para ello, se analizar\u00e1n los postulados del debido proceso y, consecuentemente, si se ocasion\u00f3 o no una afectaci\u00f3n al derecho subjetivo al debido proceso de la accionante y de su hijo.<\/p>\n
349. Cabe recordar que, en este caso, Blanca, actuando como madre y representante legal de su hijo menor de edad, interpuso una acci\u00f3n de tutela en contra de la EPS a efectos de que se reconociera el derecho del ni\u00f1o a (i) ser exonerado de copagos y cuotas moderadoras en salud respecto de las terapias que le fueron prescritas, (ii) al reconocimiento de los gastos de transporte para asistir a las mismas y (iii) a recibir un tratamiento integral.<\/p>\n
350. En sentencia de primera instancia proferida el 7 de diciembre de 2022, el Juzgado Municipal ampar\u00f3 los derechos a la salud y a la vida en condiciones dignas del ni\u00f1o. En consecuencia, le orden\u00f3 a la EPS, primero, autorizar el valor del transporte urbano o suministrar el servicio al menor de edad y a un acompa\u00f1ante con el fin de asegurar su desplazamiento a la instituci\u00f3n que corresponda, para recibir las terapias integrales prescritas por m\u00e9dico tratante y, segundo, asumir la prestaci\u00f3n de los servicios de salud que en adelante requiera el menor como consecuencia del diagn\u00f3stico \u00abtrastorno de espectro autista\u00bb, sin exigencia de copagos o cuotas moderadoras mientras subsista la insuficiencia de recursos econ\u00f3micos de sus padres para asumirlas. Por lo dem\u00e1s, se abstuvo de ordenar el tratamiento integral al no hallar prueba dentro del expediente que hubiese sido prescrito por el m\u00e9dico tratante. La EPS, la cual en el tr\u00e1mite de la acci\u00f3n constitucional accedi\u00f3 a brindar el servicio de transporte, pero se neg\u00f3 a exonerar al menor del cobro de copagos y cuotas moderadoras, impugn\u00f3 la decisi\u00f3n.<\/p>\n
351. El Juzgado del Circuito, autoridad a la que correspondi\u00f3 el conocimiento del asunto en segunda instancia, dict\u00f3 sentencia el 30 de enero de 2023 en la que confirm\u00f3 integralmente el fallo del 7 de diciembre de 2022. La parte motiva de la decisi\u00f3n se dividi\u00f3 en once numerales, as\u00ed: (i) pretensiones de la acci\u00f3n de tutela; (ii) situaciones f\u00e1cticas; (iii) contestaci\u00f3n de la acci\u00f3n de tutela; (iv) sentencia de primera instancia, orden judicial y consideraciones relevantes; (v) \u00bfqui\u00e9n impugna y por qu\u00e9 motivos lo hace?; (vi) problemas constitucionales que resolver\u00e1 el juez de tutela; (vii) \u00bfes procedente la presente acci\u00f3n de tutela?; (viii) \u00bfcu\u00e1l es la tesis que se tomar\u00e1 en el caso?; (ix) \u00bfcu\u00e1les son las disposiciones jur\u00eddicas aplicables en el caso?; (x) la Corte Constitucional, sobre este asunto y\/o similar \u00bfha proferido alguna decisi\u00f3n que resulta aplicable como precedente?; y (xi) caso concreto \u00bfse vulneran los derechos fundamentales alegados?<\/p>\n
352. En este planteamiento metodol\u00f3gico, el fundamento jur\u00eddico de la decisi\u00f3n incluy\u00f3 en los numerales nueve y diez, los que, en el mismo orden, contienen las normas constitucionales (pre\u00e1mbulo y art\u00edculos 1, 2, 3, 4, 48, 49, 50 y 86) y la jurisprudencia que el juez estim\u00f3 aplicable al caso. En cuanto a esta \u00faltima, el fallo se refiri\u00f3 a la Sentencia T-674 de 2016, de la que resalt\u00f3 los hechos relevantes a efectos de demostrar la innegable semejanza f\u00e1ctica con el caso que estaba conociendo; transcribi\u00f3 la orden de amparo que imparti\u00f3 dicha sentencia y aludi\u00f3 a las circunstancias en las que, seg\u00fan la providencia de la Corte, proced\u00eda la exoneraci\u00f3n de cobro de copagos y cuotas moderadoras.<\/p>\n
353. Seguidamente, al estudiar el caso concreto, el Juez del Circuito sostuvo que la EPS accionada no desvirtu\u00f3 la falta de recursos econ\u00f3micos que aleg\u00f3 la actora como impedimento para sufragar los gastos de copagos y cuotas moderadoras por la atenci\u00f3n m\u00e9dica de su hijo. Concluy\u00f3 entonces que el cobro de esos conceptos representaba una barrera de acceso a los servicios de salud del menor.<\/p>\n
354. Dicho lo anterior, \u00abatendiendo que la Ley 2213 de 2022 tiene por objeto la incorporaci\u00f3n de las TIC en los procesos judiciales\u00bb, el juez advirti\u00f3 que har\u00eda uso de herramientas de inteligencia artificial para \u00abextender los argumentos de la decisi\u00f3n adoptada\u00bb. La sentencia contiene las siguientes preguntas que realiz\u00f3 el juzgador en la interfaz de ChatGPT, cada una de ellas seguida de la respuesta que arroj\u00f3 la herramienta de IA:<\/p>\n
* \u00bfMenor autista est\u00e1 exonerado de pagar cuotas moderadoras en sus terapias? [\u2026]<\/p>\n
* \u00bfLas acciones de tutela en estos casos se deben conceder? [\u2026]<\/p>\n
* \u00bfExigir en estos casos la cuota moderadora es una barrera de acceso al servicio de salud? [\u2026]<\/p>\n
* \u00bfLa jurisprudencia de la Corte Constitucional ha tomado decisiones favorables en casos similares? [\u2026]<\/p>\n
355. A continuaci\u00f3n, explic\u00f3 que su prop\u00f3sito con el uso de este tipo de sistemas no era reemplazar la decisi\u00f3n del juez, sino optimizar los tiempos empleados en la redacci\u00f3n de sentencias, previa corroboraci\u00f3n de la informaci\u00f3n obtenida. Hecha esta aclaraci\u00f3n, la sentencia procedi\u00f3 con la parte resolutiva.<\/p>\n
356. Ahora bien, en el tr\u00e1mite de revisi\u00f3n ante la Corte Constitucional, el despacho del magistrado sustanciador decret\u00f3 como prueba la declaraci\u00f3n del Juez del Circuito. En la diligencia, el funcionario inform\u00f3 que ha tenido una especial curiosidad por la implementaci\u00f3n de herramientas tecnol\u00f3gicas al servicio de la justicia. En efecto, indic\u00f3 que, con el cierre de los despachos judiciales por pandemia, lider\u00f3 la creaci\u00f3n de una \u00abbaranda virtual\u00bb para permitir el acceso de la ciudadan\u00eda a los servicios de su despacho, instrumento que fue ampliamente difundido y, tiempo despu\u00e9s, adoptado por el Consejo Superior de la Judicatura. Adem\u00e1s, afirm\u00f3 que, como docente universitario en derecho constitucional y en procesal, siempre ha fomentado en sus estudiantes el uso \u00e9tico de las tecnolog\u00edas, pues estas democratizan en mayor medida el proceso de acceso a la administraci\u00f3n de justicia.<\/p>\n
357. Al ser indagado por el uso de IA en la referida sentencia, el operador judicial sostuvo que acudi\u00f3 a la versi\u00f3n gratuita disponible en ese momento, esto es, ChatGPT 3.5., y explic\u00f3 que, en todo caso, la decisi\u00f3n la tom\u00f3 \u00e9l, no la IA, la que consult\u00f3 simplemente como una herramienta m\u00e1s de trabajo. Sobre el particular se\u00f1al\u00f3 textualmente que:<\/p>\n
[L]a resoluci\u00f3n del caso tiene dos metodolog\u00edas, una tradicional y una que podemos denominar a trav\u00e9s de uso de inteligencia artificial, parte de reconocer dos cosas. Uno, que el juez cumpla con el deber de transparencia y esta fue la primera idea que tuve en mi cabeza, yo tengo que mandarle un mensaje a la sociedad de que hay transparencia de d\u00f3nde viene esta informaci\u00f3n. Dos, que exista corroboraci\u00f3n y la sentencia dice que esta informaci\u00f3n ha sido corroborada por el juez. Y tres, que al final el juez le diga a la sociedad que el responsable de esta decisi\u00f3n sigo siendo yo y me he ayudado en la generaci\u00f3n de texto porque considero que la generaci\u00f3n de texto predictiva, producto de inteligencia artificial generativa va acorde con lo que yo reconozco intuitivamente como el vector de la jurisprudencia de la Corte Constitucional. Para concluir y cerrar la pregunta, o por lo menos de mi parte, dar la conclusi\u00f3n a la pregunta es: se utiliz\u00f3 la herramienta artificial como herramienta de trabajo. Exactamente en ese momento hist\u00f3rico en el que nos encontramos, que puede ser muy distinto al que sabemos hoy de la interacci\u00f3n de los datos y la interacci\u00f3n de la predicci\u00f3n de los textos y, sobre todo los generados por algoritmos de transformers o algoritmos generativos, en ese momento, bajo la gravedad de juramento, manifiesto a la Corte Constitucional que el uso de la herramienta se utiliz\u00f3 como mera herramienta de colaboraci\u00f3n, como exactamente se podr\u00eda utilizar la b\u00fasqueda de un documento en un fichero biblioteca que tambi\u00e9n se encuentra en internet<\/p>\n
358. M\u00e1s adelante, sobre la que denomin\u00f3 metodolog\u00eda tradicional, afirm\u00f3 que los dem\u00e1s insumos que utiliz\u00f3 para la motivaci\u00f3n del fallo fueron la b\u00fasqueda selectiva en base de datos de jurisprudencia, en internet. Adem\u00e1s, enfatiz\u00f3 en que la sentencia fue clara al explicar que las respuestas que emiti\u00f3 ChatGPT eran solo un complemento de la decisi\u00f3n que ya hab\u00eda tomado con base en los mecanismos tradicionales. De acuerdo con ello, consider\u00f3 que el uso de aquella herramienta no desplaz\u00f3 la decisi\u00f3n del juez. Al respecto explic\u00f3 que:<\/p>\n
[L]a decisi\u00f3n est\u00e1 tomada bajo fundamentos cl\u00e1sicos de administraci\u00f3n de justicia en razonamiento, tales como lo prev\u00e9n los art\u00edculos 280 y subsiguientes del C\u00f3digo General del Proceso, y en la aplicaci\u00f3n de estos, esta incorporaci\u00f3n de las consideraciones adicionales no pasa de ser m\u00e1s que mera doctrina sin doctrinantes, porque esto es un nuevo concepto que se est\u00e1 generando a partir de la inteligencia artificial generativa [\u2026] yo he revisado esto, yo soy el responsable, por lo tanto, no hay ning\u00fan tipo de desplazamiento del juez y esa fue la firme convicci\u00f3n que se tuvo en ese d\u00eda, es decir, hay que mandar un mensaje de que aqu\u00ed no hay ning\u00fan desplazamiento porque yo he verificado, yo he corroborado y eso est\u00e1 expresamente en la sentencia, luego de haberse corroborado la informaci\u00f3n, entonces por esa raz\u00f3n considero [\u2026] que no hay ning\u00fan tipo de desplazamiento de la funci\u00f3n de juez en la administraci\u00f3n de justicia<\/p>\n
359. Visto lo anterior, la Sala de Revisi\u00f3n encuentra que el principio constitucional de acceso a la administraci\u00f3n de justicia y los postulados del derecho al debido proceso no se encuentran afectados, pues en lo que interesa al caso concreto la decisi\u00f3n del juez de segunda instancia se motiv\u00f3 bajo los par\u00e1metros \u00abtradicionales\u00bb de la argumentaci\u00f3n jur\u00eddica. En ese sentido, aunque se hizo uso de la herramienta de ChatGPT para complementar la parte motiva, en el fallo es evidente que el juez ya hab\u00eda realizado un an\u00e1lisis propio del asunto para el momento en que introdujo el razonamiento de la IA. Adem\u00e1s, la sentencia objeto de revisi\u00f3n, proferida el 30 de enero de 2023 por el Juez del Circuito no incurri\u00f3 en una violaci\u00f3n de la garant\u00eda del juez natural, pues, en dicho evento, el uso de la IA no supli\u00f3 al juez ni hizo sus veces.<\/p>\n
360. Por ello resulta insostenible afirmar que hubo un remplazo del ejercicio de la funci\u00f3n jurisdiccional por parte de ChatGPT. \u00a0No obstante reconocer el actuar innovador y leal del juez de segunda instancia, esta Sala debe llamar la atenci\u00f3n respecto a su gesti\u00f3n, pues, aunque no se cuestiona la validez de la decisi\u00f3n por esta haber sido tomada con antelaci\u00f3n del uso de la herramienta de ChatGPT, lo cierto es que en el caso concreto no se cumplen a cabalidad con los principios de transparencia y responsabilidad requeridos al momento de usarse herramientas de IA en la toma de decisiones judiciales. Lo anterior, conforme a lo expuesto en la parte considerativa de este fallo. Sin embargo, desde ahora se deja en claro que el principio de privacidad s\u00ed se cumpli\u00f3, ya que en ning\u00fan momento se introdujeron datos sensibles y personales del ni\u00f1o o del caso concreto en el sistema consultado, como por ejemplo podr\u00eda ser la historia cl\u00ednica, ni tampoco se agreg\u00f3 informaci\u00f3n privada de las partes involucradas en la disputa.<\/p>\n
361. Respecto al principio de transparencia es importante mencionar que este no se agota con la simple manifestaci\u00f3n de que se us\u00f3 la herramienta y la transcripci\u00f3n de las preguntas y respuestas obtenidas. En este punto es clave considerar la prueba que adelant\u00f3 el despacho sustanciador, pues con ella qued\u00f3 claro que para que ChatGPT ofrezca matices en sus respuestas se deben incorporar datos de contexto y otras instrucciones, por eso las respuestas var\u00edan dependiendo de si se le informa que quien pregunta es un juez, un estudiante o si no se le brinda esa informaci\u00f3n a la herramienta. En el caso concreto, se evidencia que la exposici\u00f3n que hizo el juez respecto del uso de la herramienta es apenas parcial.<\/p>\n
362. En cuanto a la falta de diligencia sobre la carga que se genera por el principio de responsabilidad, se reitera que este \u00faltimo est\u00e1 estrechamente ligado con la trazabilidad de las fuentes, toda vez que es en este punto en el que las herramientas de IA alucinan y crean o inventan fuentes, como autores o sentencias que no existen. Sobre el particular, si bien resalta la necesidad de verificar toda la informaci\u00f3n referenciada por una IA no especializada, preocupa el posible aumento de la carga de trabajo por esta doble labor de b\u00fasqueda de informaci\u00f3n y posterior verificaci\u00f3n, de manera que, en lugar de simplificarse los procesos y ahorrarse costos, pueda terminarse con una mayor sobrecarga en la gesti\u00f3n del operador.<\/p>\n
363. En el asunto en cuesti\u00f3n, el juez manifest\u00f3 que har\u00eda uso de herramientas de IA generativas \u00abatendiendo que la Ley 2213 de 2022 tiene por objeto la incorporaci\u00f3n de las TIC en los procesos judiciales\u00bb. Sin embargo, el art\u00edculo 2.\u00ba de ese mismo cuerpo normativo prescribe que \u00ab[s]e podr\u00e1n utilizar las tecnolog\u00edas de la informaci\u00f3n y de las comunicaciones, cuando se disponga de los mismos de manera id\u00f3nea, en la gesti\u00f3n y tr\u00e1mite de los procesos judiciales y asuntos en curso, con el fin de facilitar y agilizar el acceso a la justicia\u00bb.<\/p>\n
364. Bajo estos par\u00e1metros, el funcionario judicial corri\u00f3 el riesgo de faltar a la veracidad de la informaci\u00f3n, dado que incluy\u00f3 en su fallo datos suministrados por la aplicaci\u00f3n de IA que no eran del todo precisos. En punto a la exoneraci\u00f3n de copagos y cuotas moderadoras, como lo refiere esta providencia, el r\u00e9gimen jur\u00eddico aplicable se encuentra contenido en el Acuerdo 260 de 2004, expedido por el Consejo Nacional de Seguridad Social en Salud, la Resoluci\u00f3n 6468 de 2016 del Ministerio de Salud y Protecci\u00f3n Social y la Circular 016 de 2014 del Ministerio de Salud. No obstante, ChatGPT suministr\u00f3 una informaci\u00f3n diferente cuando el juez indag\u00f3 sobre este asunto, pues le indic\u00f3 que la exoneraci\u00f3n de cuotas moderadoras para ni\u00f1os, ni\u00f1as y adolescentes con diagn\u00f3stico del espectro autista est\u00e1 regulada por la Ley 1753 de 2015, pese a que ello no es as\u00ed.<\/p>\n
365. Igualmente, la Sala hace un llamado sobre el debido manejo de los sistemas de IA, pues la forma en que se consult\u00f3 por parte del juez de instancia a la plataforma ChatGPT no es acorde con la carga de responsabilidad y los principios de prevenci\u00f3n de riesgos, pues al final las preguntas iban encaminadas a la posible resoluci\u00f3n del caso y pareciera no haber un contexto inicial para consultarle a la IA, lo cual es fundamental, teniendo en cuenta que esta es una herramienta que no se especializa en aplicaci\u00f3n del derecho colombiano. As\u00ed, el deber de los jueces de dictar decisiones claras y comprensibles para todas las personas, se contrapone con la exposici\u00f3n de argumentaciones innecesarias y superfluas. Lo anterior, sin desconocer el valor y utilidad que tienen las obiter dicta en la estructura de los fallos.<\/p>\n
366. En consecuencia, conviene recordar que las fuentes empleadas por los jueces son una parte esencial de la construcci\u00f3n de una decisi\u00f3n judicial, las cuales son, seg\u00fan una orientaci\u00f3n de la argumentaci\u00f3n jur\u00eddica, (i) las razones de hecho que describen la realidad, susceptibles de ser verdaderas o falsas, y (ii) las razones de derecho, que buscan influir en la realidad y se orientan hacia la validez m\u00e1s que a su veracidad.<\/p>\n
367. Existe una distinci\u00f3n entre razones de autoridad, cuya fuerza proviene de su origen, como la Constituci\u00f3n, la ley y el precedente, y razones de principios, cuya fuerza radica en su contenido y pueden derivar de consideraciones pol\u00edticas, econ\u00f3micas o morales. Estas \u00faltimas son fundamentales en el discurso pr\u00e1ctico y est\u00e1n directamente relacionadas con las fuentes del derecho.<\/p>\n
368. En cuanto a la aplicaci\u00f3n judicial, hay (i) fuentes que deben citarse obligatoriamente para la validez de una sentencia, tal como la Constituci\u00f3n y la ley; (ii) fuentes cuya omisi\u00f3n podr\u00eda debilitar, pero no invalidar una decisi\u00f3n, como los antecedentes legislativos y la doctrina autorizada; y (iii) fuentes cuya inclusi\u00f3n es opcional y no afecta la validez de la decisi\u00f3n, como ocurre con el derecho comparado y los textos hist\u00f3ricos. La omisi\u00f3n de las primeras compromete la validez de la sentencia, mientras que las segundas y terceras categor\u00edas ofrecen un margen de flexibilidad en el sustento de las decisiones judiciales.<\/p>\n
369. En raz\u00f3n de ello, el uso de herramientas de IA no especializadas y autorizadas expresamente para la funci\u00f3n jur\u00eddica colombiana solo deber\u00edan ofrecer informaci\u00f3n sobre el discurso descriptivo, pero no sobre el normativo. Por tanto, preguntas acerca de c\u00f3mo resolver un caso no son admisibles y si se hacen preguntas descriptivas del tipo, \u00bfqu\u00e9 es el trastorno de espectro autista? o \u00bfqu\u00e9 fuentes debo consultar para conocer la jurisprudencia colombiana sobre el derecho a la salud de ni\u00f1os autistas?, entonces el juez debe tener en cuenta que es informaci\u00f3n riesgosa y, por ello, asumir las cargas de transparencia, responsabilidad y privacidad. Tambi\u00e9n, el juez o magistrado debe tener en cuenta los sesgos y, en caso de que formule una pregunta que pueda verse afectada por los mismos, ha de asumir nuevas cargas, como lo puede ser el manejo del resultado de su b\u00fasqueda, lo cual solo se logra si hay una capacitaci\u00f3n respecto al uso de estas tecnolog\u00edas y si se comprende el funcionamiento mismo de la IA correspondiente.<\/p>\n
370. Por ello, a continuaci\u00f3n, esta Sala expone cu\u00e1ndo se entienden cumplidos los principios de transparencia, responsabilidad y privacidad por los operadores jur\u00eddicos que hacen uso de las herramientas de IA.<\/p>\n
371. Transparencia. Se cumple cuando el funcionario judicial: (i) pone en conocimiento de las partes que hizo uso de una herramienta de IA en el transcurso del proceso; (ii) expone las razones por las cuales tiene conocimiento del debido uso de estas herramientas tecnol\u00f3gicas, por ejemplo, se ha capacitado, ha hecho estudios especializados en el tema, etc; (iii) precisa el funcionamiento del sistema de IA que se utiliz\u00f3, entre lo que es de especial importancia resaltar las capacidades de la IA y sus limitaciones; (iv) expone toda fundamentaci\u00f3n que se haga alrededor del uso de una IA de manera comprensible, convincente, completa y espec\u00edfica; (v) da a conocer de manera irrestricta los datos utilizados y el lugar que esta informaci\u00f3n ocupa dentro de la decisi\u00f3n judicial; y (xi) establece la razones por las que el sistema de IA se debe emplear, es decir, se hace un an\u00e1lisis de necesidad e idoneidad sobre el uso de IA.<\/p>\n
372. Responsabilidad. Teniendo en cuenta que las decisiones judiciales que acudan a este tipo de herramientas -IA- deber\u00e1n dar cuenta del origen, idoneidad y necesidad de la informaci\u00f3n utilizada, la responsabilidad del juez se centra, especialmente, en verificar que la informaci\u00f3n sea real, apropiada para el asunto, respetuosa de los presupuestos f\u00e1cticos y jur\u00eddicos, y comprensible para la administraci\u00f3n de justicia y los administrados. Es responsabilidad del juez estar capacitado y comprender el buen manejo de estas tecnolog\u00edas al interior de la administraci\u00f3n de justicia y sus impactos. Por esta raz\u00f3n, se debe evitar el uso de algoritmos de black box, respecto de los cuales se conocen los datos de entrada y el resultado, pero no la forma en la que la informaci\u00f3n es procesada. Por lo dem\u00e1s, el juez o magistrado debe asegurarse que el sistema utilizado est\u00e9 entrenado con datos recientes, suficientes y relevantes para el contexto colombiano o de aplicaci\u00f3n y, de evidenciarse alg\u00fan tipo de inconsistencia, manifestarlo expresamente en la decisi\u00f3n judicial.<\/p>\n
373. Privacidad. El funcionario judicial tiene el deber de custodiar y proteger la reserva de los datos personales y sensibles que se ponen en conocimiento de la administraci\u00f3n de justicia para cumplir con los fines propios de la Rama Judicial. Consecuentemente, es necesario realizar una evaluaci\u00f3n sobre los riesgos que implica suministrar este tipo de datos a sistemas de IA y evitar su filtraci\u00f3n, m\u00e1s a\u00fan cuando las herramientas tecnol\u00f3gicas son externas al funcionamiento de la justicia en Colombia o no est\u00e1n expresamente autorizadas para la funci\u00f3n judicial en el pa\u00eds.<\/p>\n
374. Teniendo en cuenta todo lo anterior, se reitera que, aunque el juzgador decidi\u00f3 integrar las respuestas de la IA como parte de la fundamentaci\u00f3n de la sentencia, lo hizo luego de haber analizado las normas y precedente aplicables, de estudiar las circunstancias particulares del caso y de tomar una decisi\u00f3n al respecto. As\u00ed lo explic\u00f3 el juez en la declaraci\u00f3n que rindi\u00f3 ante esta Corte y as\u00ed qued\u00f3 consignado en la sentencia misma, toda vez en el orden metodol\u00f3gico que adopt\u00f3 el fallo de tutela, el funcionario judicial primero identific\u00f3 la tesis que sostendr\u00eda, luego las normas constitucionales aplicables al caso, el referente jurisprudencial que se deb\u00eda atender por guardar identidad f\u00e1ctica con el asunto analizado, para posteriormente solucionar el caso concreto al indicar que el cobro de copagos y cuotas moderadoras constitu\u00eda una barrera de acceso al servicio de salud del menor y, solo entonces, anunci\u00f3 y procedi\u00f3 a efectuar la consulta en el referido sistema de IA. Luego de transcribir las respuestas que arroj\u00f3 la aplicaci\u00f3n, \u00aba t\u00edtulo de iniciativa que permita dar celeridad a la resoluci\u00f3n de los asuntos de tutela\u00bb, consider\u00f3 procedente que estas se extendieran como fundamento de la providencia, no para efectos de \u00abreemplazar la decisi\u00f3n del [j]uez [sino de] optimizar los tiempos empleados en redacci\u00f3n de sentencias, previa corroboraci\u00f3n de la informaci\u00f3n suministrada por IA\u00bb.<\/p>\n
375. El anterior contexto permite afirmar que, aunque hubo un uso indebido de la herramienta de IA, pues no se cumpli\u00f3 con los principios de transparencia y responsabilidad en su totalidad, la decisi\u00f3n del Juez del Circuito est\u00e1 dotada de completa validez. Ello, por cuanto la actividad de motivaci\u00f3n, valoraci\u00f3n de hechos, an\u00e1lisis de pruebas, aplicaci\u00f3n normativa y toma de la decisi\u00f3n fue desarrollada directamente por el juez competente. La generaci\u00f3n del texto por parte de ChatGPT que se integr\u00f3 al fallo de tutela no reemplaz\u00f3 el razonamiento l\u00f3gico y humano que le correspond\u00eda al operador judicial para estudiar y solucionar la controversia y con \u00e9l no se hizo una valoraci\u00f3n probatoria de la actuaci\u00f3n.<\/p>\n
376. En conclusi\u00f3n, no se observa en el presente tr\u00e1mite que se configure una violaci\u00f3n del derecho al debido proceso, originada en el fallo de tutela de segunda instancia, pues el uso de ChatGPT en el caso sometido a estudio no comport\u00f3 una usurpaci\u00f3n de la funci\u00f3n de administraci\u00f3n de justicia a cargo de la autoridad judicial competente.<\/p>\n
() En cuanto a la violaci\u00f3n al derecho a la salud, relacionada con la exoneraci\u00f3n de cobros de copagos y cuotas moderadoras en el SGSSS para ni\u00f1os con funcionalidad diversa<\/p>\n
377. En cuanto a este aspecto tenemos que Blanca interpuso acci\u00f3n de tutela en representaci\u00f3n de su hijo menor de edad\u00a0Emilio contra la EPS, para la protecci\u00f3n de sus derechos a la salud, la vida digna y la seguridad social. La Sala proceder\u00e1 a relacionar los hechos probados y determinar\u00e1 si han sido vulnerados los derechos fundamentales del ni\u00f1o.<\/p>\n
379. El ni\u00f1o est\u00e1 diagnosticado con trastorno de espectro autista. A ra\u00edz de su condici\u00f3n de salud, recibe atenci\u00f3n m\u00e9dica por diferentes especialidades como neuropediatr\u00eda, otorrinolaringolog\u00eda, neuropsicolog\u00eda y gen\u00e9tica. Adem\u00e1s, como parte del tratamiento m\u00e9dico, debe asistir a terapias integrales de rehabilitaci\u00f3n, con \u00e9nfasis cognitivo conductual y de integraci\u00f3n sensorial, en las \u00e1reas de psicolog\u00eda, terapia ocupacional y fonoaudiolog\u00eda.<\/p>\n
380. El 31 de agosto de 2022, Blanca, madre del ni\u00f1o, radic\u00f3 una petici\u00f3n ante la EPS, en la que solicit\u00f3 que fuera exonerada del \u00abpago de cuotas moderadoras de salud y copagos\u00bb.<\/p>\n
381. Por solicitud de la EPS, la se\u00f1ora present\u00f3 un nuevo escrito en el que indic\u00f3 la causal que hac\u00eda procedente la exoneraci\u00f3n solicitada, sin embargo, la EPS no adelant\u00f3 las gestiones necesarias para brindar el beneficio.<\/p>\n
382. De forma adicional, Blanca le solicit\u00f3 a la empresa promotora de salud que corriera con los gastos de transporte para asistir a las terapias. Seg\u00fan inform\u00f3, la EPS no emiti\u00f3 respuesta a esta solicitud.<\/p>\n
383. Por medio de tutela, la se\u00f1ora Blanca pretendi\u00f3, en relaci\u00f3n con la atenci\u00f3n m\u00e9dico asistencial de su hijo, la exoneraci\u00f3n de copagos y cuotas moderadoras, el reconocimiento de los gastos de transporte suyo y del ni\u00f1o para la asistencia a terapias y el tratamiento integral.<\/p>\n
384. La accionante adujo no tener los recursos suficientes a efectos de sufragar tales erogaciones. La Sala de Revisi\u00f3n encuentra que est\u00e1 clasificada en el grupo A4 del SISBEN, es decir, en pobreza extrema y, aunque registra en el r\u00e9gimen contributivo de salud, lo est\u00e1 en calidad de beneficiaria.<\/p>\n
385. La sentencia bajo revisi\u00f3n confirm\u00f3 la de primera instancia que ampar\u00f3 los derechos a la salud y a la vida en condiciones dignas del ni\u00f1o. En consecuencia, le orden\u00f3 a la EPS (i) autorizar el valor del transporte urbano o suministrar el servicio al menor de edad y a un acompa\u00f1ante con el fin de asegurar su desplazamiento a la instituci\u00f3n que corresponda, para recibir las terapias integrales prescritas por el m\u00e9dico tratante y (ii) asumir la prestaci\u00f3n de los servicios de salud que en adelante requiera el menor de edad como consecuencia del diagn\u00f3stico \u00abtrastorno de espectro autista\u00bb, sin exigencia de copagos o cuotas moderadoras mientras subsista la insuficiencia de recursos econ\u00f3micos de sus padres para asumirlas. El tratamiento integral no fue ordenado pues el juez no encontr\u00f3 prueba de haber sido prescrito por el m\u00e9dico tratante del ni\u00f1o.<\/p>\n
386. La Sala confirmar\u00e1 parcialmente la sentencia por las razones que se exponen a continuaci\u00f3n.<\/p>\n
Copagos y cuotas moderadoras<\/p>\n
387. Como lo se\u00f1alaron las decisiones judiciales de instancia, en el presente caso se cumplen las condiciones para exonerar al ni\u00f1o Emilio del cobro de copagos y cuotas moderadoras con ocasi\u00f3n de los servicios y medicamentos que requiera. Esto con fundamento en las leyes 1438 de 2011 y 1618 de 2013, as\u00ed como el Decreto 1652 del 2022.<\/p>\n
388. En efecto, los art\u00edculos 18 de la mencionada Ley 1438 y 2.10.4.9 (numeral 1.5.) del Decreto 1652 del 2022 consagran la gratuidad de la atenci\u00f3n m\u00e9dica para los ni\u00f1os, ni\u00f1as y adolescentes con discapacidades f\u00edsicas, sensoriales y cognitivas, certificadas por el m\u00e9dico tratante, clasificados en el SISB\u00c9N 1 y 2 (antigua metodolog\u00eda de clasificaci\u00f3n Sisb\u00e9n III). Emilio quedar\u00eda comprendido dentro del beneficio como quiera que est\u00e1 diagnosticado con trastorno de espectro autista y, su madre, con quien vive y de quien depende, se encuentra clasificada en el grupo A4 del Sisb\u00e9n (metodolog\u00eda IV), correspondiente a situaci\u00f3n de pobreza extrema.<\/p>\n
389. El \u00ab[p]rotocolo cl\u00ednico para el diagn\u00f3stico, tratamiento y ruta de atenci\u00f3n integral de ni\u00f1os y ni\u00f1as con trastornos del espectro autista\u00bb, expedido en 2015 por el Ministerio de Salud y Protecci\u00f3n Social, define los trastornos del espectro autista (TEA) como \u00abun grupo de alteraciones o d\u00e9ficit del desarrollo de caracter\u00edsticas cr\u00f3nicas y que afectan de manera distinta a cada paciente\u00bb. El documento sostiene que los TEA implican una \u00abdisfunci\u00f3n neurol\u00f3gica cr\u00f3nica con fuerte base gen\u00e9tica que desde edades tempranas se manifiesta en una serie de s\u00edntomas basados en la tr\u00edada de Wing que incluye: la comunicaci\u00f3n, flexibilidad e imaginaci\u00f3n e interacci\u00f3n social\u00bb.<\/p>\n
390. Respecto del tratamiento de los TEA, el mencionado protocolo explica que no es curativo sino terap\u00e9utico. Sobre el particular, aduce que:<\/p>\n
Existen terapias farmacol\u00f3gicas dirigidas al tratamiento o manejo de s\u00edntomas asociados o comorbilidades como hiperactividad, depresi\u00f3n, convulsiones, entre otras. (16, 24) La terapia para las personas con diagn\u00f3stico de TEA debe estar orientada a la identificaci\u00f3n e intervenci\u00f3n de la conducta, la comunicaci\u00f3n y la convivencia, a trav\u00e9s de intervenciones comportamentales, intervenciones educativas e intervenciones psicosociales. Siempre ser\u00e1 necesario realizar educaci\u00f3n sobre los TEA y consejer\u00eda despu\u00e9s del diagn\u00f3stico, dado que puede ayudar a mejorar la interacci\u00f3n posterior con la persona y su entorno. (16) Estas intervenciones buscan ense\u00f1arle al ni\u00f1o destrezas espec\u00edficas que le permitan aumentar su autonom\u00eda. Para lo anterior se han dise\u00f1ado diferentes estrategias o programas de intervenci\u00f3n, como los m\u00e9todos conductuales y de comunicaci\u00f3n, que son aquellas que proporcionan estructura, direcci\u00f3n y organizaci\u00f3n como complemento de la participaci\u00f3n familia, dentro de ellos se encuentra el an\u00e1lisis conductual aplicado (ABA)<\/p>\n
391. La conclusi\u00f3n en cuanto a la procedencia del amparo que solicit\u00f3 la madre del menor se ve reforzada por (i) el art\u00edculo 66 de la Ley 1438 de 2011, que ordena la atenci\u00f3n integral de las personas en situaci\u00f3n de discapacidad, as\u00ed como una pol\u00edtica nacional de salud con enfoque diferencial, (ii) el art\u00edculo 9.\u00ba de la Ley 1618 de 2013, que en desarrollo del anterior, dispone la rehabilitaci\u00f3n funcional de las personas con discapacidad sin el pago de cuotas moderadoras o copagos, como parte de las garant\u00edas para asegurar su derecho a una habilitaci\u00f3n y rehabilitaci\u00f3n integral que les permita lograr y mantener la m\u00e1xima autonom\u00eda e independencia, as\u00ed como la inclusi\u00f3n y participaci\u00f3n plena en todos los aspectos de la vida y (iii) el numeral 1.9 del art\u00edculo 2.10.4.9 del Decreto 1652 del 2022 que except\u00faa del cobro de cuotas moderadoras y copagos a las personas en situaci\u00f3n de discapacidad, en relaci\u00f3n con su rehabilitaci\u00f3n.<\/p>\n
392. Visto lo anterior, resulta ajustada la decisi\u00f3n que tomaron los jueces de tutela de instancia consistente en exonerar del cobro de copagos y cuotas moderadoras al menor de edad agenciado. En efecto, seg\u00fan inform\u00f3 la EPS, con ocasi\u00f3n del fallo de tutela de primera instancia, procedi\u00f3 a autorizar dicha exoneraci\u00f3n, circunstancia que fue confirmada por la accionante en el informe presentado ante esta corporaci\u00f3n.<\/p>\n
393. Con todo, lo cierto es que Blanca tambi\u00e9n inform\u00f3 que, en muchas ocasiones, las IPS encargadas de la atenci\u00f3n del ni\u00f1o no tienen conocimiento que deben exonerar al menor de edad los cobros de copagos y cuotas moderadoras, lo que la ha obligado a gestionar diferentes tr\u00e1mites administrativos para que la EPS comunique el beneficio a las entidades prestadoras y ellas puedan aplicarlo.<\/p>\n
394. En tales condiciones, aunque esta Sala de Revisi\u00f3n no cuestiona que la accionada haya autorizado la exoneraci\u00f3n de tales conceptos, lo cierto es que no ha adelantado diligentemente todos los esfuerzos para que el amparo inherente a esa exoneraci\u00f3n se haga completamente efectivo. La falta de comunicaci\u00f3n e informaci\u00f3n a las IPS sobre la gratuidad de los servicios y medicamentos que se le ordenen al ni\u00f1o ha representado una barrera administrativa para la prestaci\u00f3n oportuna de los servicios m\u00e9dicos, lo que va en detrimento de los principios de\u00a0accesibilidad\u00a0e\u00a0integralidad\u00a0del Sistema General de Seguridad Social en Salud. La jurisprudencia de esta Corte ha sido insistente en que el acceso a los servicios y tecnolog\u00edas del sistema debe garantizarse a todos los usuarios de manera completa, sin que puedan ser fraccionados por razones administrativas y\/o financieras.<\/p>\n
395. Si bien algunos tr\u00e1mites administrativos en el sistema de salud deben cumplirse por parte de los afiliados, muchos otros son del resorte de la entidad promotora de salud, como en este caso, la comunicaci\u00f3n a las IPS acerca de la exoneraci\u00f3n de cobros. As\u00ed pues, admitir que por ese motivo se dejen de ofrecer o se retarde la atenci\u00f3n m\u00e9dica de Emilio, sit\u00faa a la accionante, como representante del menor de edad, en una posici\u00f3n irregular de responsabilidad, que en modo alguno est\u00e1 obligada a soportar.<\/p>\n
396. Visto lo anterior, ante la improcedencia de oponer tr\u00e1mites o de admitir irregularidades administrativas que afecten a los usuarios de los servicios m\u00e9dicos, la Sala de Revisi\u00f3n considera procedente para la garant\u00eda efectiva del amparo concedido por los jueces de instancia, ordenar a la EPS que realice todas las gestiones y tr\u00e1mites administrativos necesarios para que las IPS encargadas de la atenci\u00f3n del ni\u00f1o apliquen diligentemente y sin demoras la exoneraci\u00f3n de cobros de copagos y cuotas moderadoras, sin trasladar al ni\u00f1o y a su representante las consecuencias negativas de las eventuales faltas de comunicaci\u00f3n entre las entidades del sistema.<\/p>\n
El servicio de transporte intermunicipal<\/p>\n
397. La EPS accionada tiene el deber de reconocerle el servicio de transporte al ni\u00f1o Emilio y a su acompa\u00f1ante. En primer lugar, est\u00e1 acreditado que ni \u00e9l ni su madre tienen los recursos econ\u00f3micos suficientes para pagar el valor del traslado pues ella se encuentra en situaci\u00f3n de pobreza extrema. Adem\u00e1s, por el diagn\u00f3stico que padece el menor de edad, la falta de autorizaci\u00f3n del transporte pondr\u00eda en riesgo la dignidad y el estado de salud del ni\u00f1o. En relaci\u00f3n con el transporte para el acompa\u00f1ante, no cabe duda de que se requiere pues, por su edad y diagn\u00f3stico cl\u00ednico, Emilio depende totalmente de un tercero para garantizar su integridad f\u00edsica y el ejercicio adecuado de sus actividades cotidianas.<\/p>\n
398. Ahora bien, en la acci\u00f3n de tutela, Blanca solicit\u00f3 se ordenara a la EPS accionada que cubriera \u00ablos gastos del transporte necesario para el desplazamiento de mi hijo desde el lugar de su residencia al lugar donde le deben practicar las terapias\u00bb. Al respecto, el fallo de tutela de primera instancia, confirmado por el superior, resolvi\u00f3 ordenarle a la EPS que \u00abautorice el valor del transporte urbano o suministre ese servicio al menor [\u2026] y a un acompa\u00f1ante, con el fin de asegurar su desplazamiento a la instituci\u00f3n que le corresponda, para recibir las terapias integrales prescritas por m\u00e9dico tratante en historia cl\u00ednica de fecha 19 de julio de 2022\u00bb.<\/p>\n
399. La accionante manifest\u00f3 ante esta corporaci\u00f3n que la EPS autoriz\u00f3 el suministro del transporte para la asistencia a las terapias de rehabilitaci\u00f3n de su hijo, mas no para los dem\u00e1s desplazamientos asociados a valoraciones y controles con especialistas y ayudas diagn\u00f3sticas.<\/p>\n
401. Por ese motivo, corresponde a esta Corte, en sede de revisi\u00f3n, adoptar las medidas necesarias para conceder un amparo suficiente y acorde con los mandatos constitucionales, especialmente porque lo que est\u00e1 en discusi\u00f3n es el derecho fundamental a la salud de un ni\u00f1o que, por su diagn\u00f3stico de trastorno de espectro autista, se encuentra en una condici\u00f3n de mayor vulnerabilidad.<\/p>\n
402. Cabe recordar que el juez de tutela se encuentra facultado para emitir fallos extra y ultra petita, lo que significa que la Corte no tiene limitada su competencia a resolver forzosamente las acusaciones en los t\u00e9rminos en que hayan sido formuladas por la parte accionante, ni tiene que ce\u00f1irse necesariamente a las pretensiones y a los derechos invocados. \u00a0De esta forma se puede otorgar una protecci\u00f3n m\u00e1s efectiva, acorde con el rol que le corresponde ejercer al juez constitucional. Esta facultad del juez de tutela tiene sustento en el principio iura novit curia, que ha sido explicado por la corporaci\u00f3n en los siguientes t\u00e9rminos:<\/p>\n
[C]orresponde al juez la aplicaci\u00f3n del derecho con prescindencia del invocado por las partes, constituyendo tal prerrogativa un deber para el juzgador, a quien incumbe la determinaci\u00f3n correcta del derecho, debiendo discernir los conflictos litigiosos y dirimirlos seg\u00fan el derecho vigente, calificando aut\u00f3nomamente la realidad del hecho y subsumi\u00e9ndolo en las normas jur\u00eddicas que lo rigen. En la medida que la tutela es un recurso judicial informal que puede ser interpuesto por personas que desconocen el derecho, es deber del juez de tutela, en principio, analizar el caso m\u00e1s all\u00e1 de lo alegado por el accionante<\/p>\n
403. Visto lo anterior, en ejercicio de sus facultades constitucionales, esta Sala de Revisi\u00f3n de la Corte Constitucional considera procedente modificar los t\u00e9rminos en que los jueces de instancia ordenaron a la EPS autorizar el servicio de transporte intermunicipal para el menor de edad agenciado y su acompa\u00f1ante. Esto en el sentido de no limitar dicho reconocimiento al transporte requerido para asistir a las terapias prescritas en la valoraci\u00f3n m\u00e9dica del 19 de julio de 2022. En su lugar, la EPS accionada debe suministrar el servicio de transporte, bien sea directamente o mediante el pago de tales expensas, para el traslado respecto de todo tipo de atenci\u00f3n m\u00e9dica, asistencial o diagn\u00f3stica, las veces que requiera el ni\u00f1o seg\u00fan criterio m\u00e9dico, para el tratamiento de su diagn\u00f3stico de trastorno de espectro autista, mientras subsista la insuficiencia de recursos econ\u00f3micos de sus padres para asumirlas.<\/p>\n
Sobre el tratamiento integral<\/p>\n
404. \u00a0No hay lugar a ordenar el\u00a0tratamiento integral\u00a0pues no existe prueba en el expediente de que la EPS se haya negado a autorizar alguna orden m\u00e9dica que prescribiera alguna valoraci\u00f3n, tratamiento, servicio asistencial, ayuda diagn\u00f3stica, control o cualquier otro parecido para la atenci\u00f3n m\u00e9dica del menor de edad. As\u00ed, de conceder hipot\u00e9ticamente el tratamiento integral no se estar\u00eda ordenando nada adicional, pues de acuerdo con las subreglas jurisprudenciales, este cubre \u00fanicamente los servicios y tecnolog\u00edas para los que exista una orden m\u00e9dica.<\/p>\n
405. Aunque la acci\u00f3n de tutela incorpor\u00f3 tal pretensi\u00f3n, lo cierto es que esta se formul\u00f3 de manera gen\u00e9rica para solicitar que se le garantizara al ni\u00f1o la atenci\u00f3n m\u00e9dica requerida, sin embargo, la accionante no reproch\u00f3 ninguna actitud pasiva u omisiva con la que la EPS accionada estuviese negando el tratamiento integral de Emilio. En efecto, ni en dicho acto procesal ni en ning\u00fan otro a lo largo del proceso de tutela y del presente tr\u00e1mite de revisi\u00f3n, se aleg\u00f3 por la actora una negativa o insuficiencia en la autorizaci\u00f3n y prestaci\u00f3n efectiva de la prestaci\u00f3n del servicio de salud. Por el contrario, Blanca le manifest\u00f3 expresamente a esta Corte que el menor de edad est\u00e1 recibiendo toda la atenci\u00f3n m\u00e9dico asistencial prescrita por sus m\u00e9dicos tratantes.<\/p>\n
\u00d3rdenes por proferir<\/p>\n
– En cuanto a la protecci\u00f3n del derecho al debido proceso por uso de IA<\/p>\n
Orden al Consejo Superior de la Judicatura<\/p>\n
406. Aunque la Sala verific\u00f3 que no existi\u00f3 una vulneraci\u00f3n al debido proceso en \u00a0la presente actuaci\u00f3n, estima, sin embargo, que en el marco de la promoci\u00f3n y el respeto de los derechos fundamentales y de la salvaguarda de las garant\u00edas constitucionales para los usuarios del sistema de administraci\u00f3n de justicia y dadas las posibilidades de alucinaciones, sesgos discriminatorios y dem\u00e1s riesgos asociados a la IA, resulta procedente adoptar una decisi\u00f3n que prevenga el inadecuado entendimiento frente al uso de herramientas o el ejercicio de pr\u00e1cticas inconstitucionales en cuanto a la IA. Por ello, considera necesario exhortar a los jueces de la Rep\u00fablica y ordenar al Consejo Superior de la Judicatura para que emita gu\u00edas y lineamientos sobre el uso de IAs artificiales en los despachos judiciales y que desde la judicatura misma se adopten las mejores pr\u00e1cticas que, conforme a los principios y mandatos constitucionales, permitan hacer uso razonable y proporcionado de herramientas innovadoras y din\u00e1micas como las referidas, sin permitir en modo alguno que se impacte el debido proceso o se restrinjan de cualquier forma la autonom\u00eda e independencia judiciales, teniendo en cuenta las consideraciones expuestas en esta providencia.<\/p>\n
407. Conforme con la relevancia del asunto novedoso que se revisa, la Sala estima pertinente poner de presente que todo juez de la Rep\u00fablica que utilice tecnolog\u00edas de IA como apoyo para resolver acciones de tutela debe hacer un uso responsable y \u00e9tico de ellas.<\/p>\n
408. Aunque en este caso, la Sala se encuentre ante la revisi\u00f3n de un fallo proferido en el tr\u00e1mite de una acci\u00f3n de tutela, las consideraciones ac\u00e1 expuestas podr\u00e1n servir de referente para el an\u00e1lisis que proceda frente a procesos judiciales de diferente naturaleza pues si el debido proceso es un derecho fundamental que abarca cada tipo de procedimiento, resulta necesario velar por una utilizaci\u00f3n adecuada de la herramienta que salvaguarde las garant\u00edas propias de aquel derecho con independencia del tr\u00e1mite judicial que se trate. Ello llama a considerar otros escenarios, diferentes al de la revisi\u00f3n por esta corporaci\u00f3n, en los que se puede analizar la validez de la decisi\u00f3n judicial por la implementaci\u00f3n y el uso de IA ChatGPT como, por ejemplo, suceder\u00eda con el estudio que haga el mismo juez que conoce el proceso a trav\u00e9s de un incidente de nulidad o en una etapa de saneamiento rogada u oficiosa, o en sede de instancia, o por el juez constitucional que conozca de una acci\u00f3n de tutela contra una providencia judicial dictada con la utilizaci\u00f3n de alguno de estos sistemas.<\/p>\n
409. Al respecto es importante mencionar que, la resoluci\u00f3n judicial emitida por la Corte Constitucional en el marco de los fallos de tutela tiene efectos inter partes. Sin embargo, en algunas ocasiones, seg\u00fan las particularidades e importancia del caso es posible que este tribunal extienda los efectos subjetivos de sus decisiones en raz\u00f3n a la misi\u00f3n constitucional que cumple esta corporaci\u00f3n en el ejercicio de su funci\u00f3n de revisi\u00f3n, para, por ejemplo, \u00abevitar proliferaci\u00f3n de decisiones encontradas, o equivocadas\u00bb.<\/p>\n
410. As\u00ed, se han reconocido dos alternativas excepcionales para modular la regla contenida en las citadas normas, que son: los efectos inter comunis y los efectos inter pares, los cuales se denominan y aplican de la siguiente forma:<\/p>\n
Efector inter comunis \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Efectos inter pares<\/p>\n
Se presenta en aquellos eventos en los que la decisi\u00f3n de tutela debe hacerse extensiva a todos los sujetos que, junto con las\u00a0partes del proceso espec\u00edfico, integran una misma comunidad que, debido a la identidad f\u00e1ctica, conforman un grupo social que se ver\u00e1 directamente impactado por la determinaci\u00f3n de la\u00a0Corte Constitucional. \u00a0 \u00a0 \u00a0 \u00a0<\/p>\n
Son aplicados por la Corte Constitucional en aquellos eventos en los que esta resuelve un problema jur\u00eddico relacionado con la interpretaci\u00f3n y\/o aplicaci\u00f3n de un marco normativo concreto, en un contexto f\u00e1ctico espec\u00edfico. En estos eventos, se dispone que la resoluci\u00f3n que ha dado al asunto debe ser asumida en los casos que, sin integrar necesariamente una misma comunidad, son o llegar\u00e1n a ser semejantes.<\/p>\n
411. Teniendo en cuenta que si bien al momento no hay una reglamentaci\u00f3n o gu\u00eda oficial expedida por el Consejo Superior de la Judicatura o una normativa dictada por el Congreso de la Rep\u00fablica, es esencial cumplir de forma rigurosa con los principios de transparencia y responsabilidad en la corroboraci\u00f3n humana de la informaci\u00f3n, as\u00ed como de confidencialidad y respeto de datos personales (privacidad), para que no se afecten o pongan en entredicho los derechos fundamentales de los involucrados cuando se haga uso de herramientas de IA en el tr\u00e1mite de procesos judiciales. Por ello, es importante que la sentencia cobre efectos inter comunis. Esto, en particular, para que no se llegue a vulnerar en tales casos el derecho al debido proceso, en su garant\u00eda de juez natural y en relaci\u00f3n con la autonom\u00eda e independencia judicial.<\/p>\n
412. Como se ha se\u00f1alado, para la Sala la utilizaci\u00f3n de IA en el sistema judicial puede generar un impacto en materia de derechos fundamentales, motivo por el cual no resulta pertinente admitir o fomentar en los operadores judiciales su uso libre e intuitivo. En otras palabras, aunque prohibir la IA en este \u00e1mbito ser\u00eda ingenuo e impertinente, tampoco es acertado permitir que se utilice sin responsabilidad y sin una regulaci\u00f3n ni acuerdos b\u00e1sicos que aseguren el cumplimiento de unas pautas m\u00ednimas para el uso \u00e9tico y responsable de estas herramientas.<\/p>\n
413. La Sala de Revisi\u00f3n no es ajena a los ingentes esfuerzos que se est\u00e1n adelantando desde la administraci\u00f3n de la Rama Judicial para avanzar en la adopci\u00f3n de un uso \u00e9tico y responsable de la IA en este escenario. As\u00ed, dentro del marco de la pol\u00edtica de justicia digital, la transformaci\u00f3n digital, el desarrollo tecnol\u00f3gico y la innovaci\u00f3n son prioridades estrat\u00e9gicas esenciales consignadas en el Plan Sectorial de Desarrollo Rama Judicial 2023-2026, \u00abHacia una justicia confiable, digital e incluyente\u00bb. El documento, al desarrollar los objetivos del sistema judicial, se\u00f1ala que \u00abse avanzara\u0301 en soluciones que apoyen la prestaci\u00f3n del servicio de justicia con innovaci\u00f3n y utilizando tecnolog\u00edas de robotizaci\u00f3n de procesos, anal\u00edtica de datos e inteligencia artificial. Estas soluciones partir\u00e1n de una adecuada identificaci\u00f3n y mitigaci\u00f3n de los riesgos y del respeto por el criterio judicial y los principios y valores \u00e9ticos que rigen la prestaci\u00f3n del servicio de justicia\u00bb. Este prop\u00f3sito se manifiesta actualmente de diversas formas que incluyen capacitaci\u00f3n a funcionarios judiciales, eventos acad\u00e9micos, mesas de trabajo, entre otros, espacios en los que se fomenta un espacio dial\u00f3gico y de construcci\u00f3n colectiva en torno a la materia.<\/p>\n
414. Dicho lo anterior, es importante se\u00f1alar que, actualmente, existen dos escuelas diferentes de pensamiento que est\u00e1n moldeando el desarrollo de la regulaci\u00f3n en torno a la IA:<\/p>\n
La primera solamente tiene en cuenta los riesgos, centr\u00e1ndose principalmente en la autorregulacio\u0301n y en la autoevaluacio\u0301n por parte de los desarrolladores de IA. En lugar de acogerse a normas detalladas, la regulaci\u00f3n basada en los riesgos pone \u00e9nfasis en identificar y mitigar los riesgos para poder lograr resultados [\u2026]<\/p>\n
El otro enfoque integra los derechos humanos en todo el ciclo de vida de la IA. De principio a fin, los principios de derechos humanos se incorporan a la recopilaci\u00f3n y selecci\u00f3n de datos; as\u00ed como al dise\u00f1o, desarrollo, implantaci\u00f3n y uso de los modelos, instrumentos y servicios resultantes (negrilla fuera del texto original)<\/p>\n
415. Aunque prevalece la regulaci\u00f3n de la IA fundamentada en riesgos o en principios, tal como se se\u00f1al\u00f3 en el ac\u00e1pite anterior, los expertos en la materia tambi\u00e9n resaltan que la reglamentaci\u00f3n del asunto puede adoptar un enfoque en valores, en est\u00e1ndares, en deberes de revelaci\u00f3n (transparencia algor\u00edtmica), en derechos y en reglas de mando y control.<\/p>\n
416. Por otro lado, el esfuerzo por regular el uso de estas tecnolog\u00edas no debe perder de vista la dificultad que surge de que estas se utilicen en distintas aristas de nuestra vida en comunidad y que se actualizan vertiginosa y progresivamente. Por esta raz\u00f3n, las normas que busquen abordar el fen\u00f3meno de forma generalizada probablemente incurran en definiciones inoperantes, dejen por fuera muchas consideraciones importantes para sus distintos usos y agrupen usos cuyos riesgos potenciales son muy diferentes. Por esto mismo, el debate respecto del uso de estas tecnolog\u00edas en un \u00e1mbito de tal importancia como la administraci\u00f3n de justicia deber\u00eda ser espec\u00edfico, amplio y participativo, adem\u00e1s de estar basado en un enfoque de protecci\u00f3n de derechos fundamentales, que m\u00e1s all\u00e1 de una regulaci\u00f3n, exige a los magistrados, jueces y dem\u00e1s servidores de la Rama Judicial que en el uso de IA tengan auto regulaciones, restricciones propias y autocontroles.<\/p>\n
417. Bajo este sentir, la comisionada de Derechos Humanos del Consejo Europeo ha llamado la atenci\u00f3n sobre la importancia de que las personas involucradas en el desarrollo y aplicaci\u00f3n de IA sean educadas en el funcionamiento e impacto de derechos humanos por parte de tales tecnolog\u00edas.<\/p>\n
418. Adem\u00e1s, la Carta Iberoamericana de Inteligencia Artificial en la Administraci\u00f3n P\u00fablica asume la necesidad de promover una serie de principios orientadores en el desarrollo de la IA en la Administraci\u00f3n P\u00fablica, que puedan ser compartidos por todos los pa\u00edses de la regi\u00f3n. Los anteriores est\u00e1n sustentados en los derechos humanos como fundamento para una IA centrada en las personas, confiable, robusta y orientada a la innovaci\u00f3n, incluyendo el respeto de la dignidad humana, la libertad individual, la igualdad y no discriminaci\u00f3n, el respeto a la democracia y el Estado de derecho, la libertad de pensamiento, conciencia y opini\u00f3n, el derecho a la educaci\u00f3n, as\u00ed como a tener buenos gobiernos y administraciones p\u00fablicas. La Recomendaci\u00f3n se centra en cuestiones de pol\u00edtica que son espec\u00edficas de la IA y se esfuerza por establecer un est\u00e1ndar que sea implementable y lo suficientemente flexible como para soportar la prueba del tiempo en un campo en r\u00e1pida evoluci\u00f3n.<\/p>\n
419. Los anteriores instrumentos precisan algunos principios para la administraci\u00f3n responsable de la IA confiable, como lo son (i) el crecimiento inclusivo, desarrollo sostenible y bienestar; (ii) los valores y equidad centrados en el ser humano; (iii) la transparencia y explicabilidad; (iv) la robustez, seguridad y protecci\u00f3n y (v) la rendici\u00f3n de cuentas.<\/p>\n
420. Los citados instrumentos tambi\u00e9n plantean algunas recomendaciones, tales como (i) invertir en la investigaci\u00f3n y el desarrollo de la IA; (ii) fomentar un ecosistema digital para la IA; (iii) dar forma a un entorno pol\u00edtico propicio para la IA; (iv) desarrollar la capacidad humana y prepararse para la transformaci\u00f3n del mercado laboral; y (v) cooperaci\u00f3n internacional para una IA confiable.<\/p>\n
421. La aplicaci\u00f3n de la IA en la administraci\u00f3n de justicia se debe introducir de manera s\u00f3lida, t\u00e9cnica y con infraestructuras tecnol\u00f3gicas abiertas que hagan realidad las oportunidades disponibles, con el fin de que no se creen desigualdades en el sistema legal. Se deben desarrollar reglamentos y normativas flexibles para poder anticipar los riesgos, dot\u00e1ndose de la m\u00e1xima seguridad posible para que sea realmente efectivo al momento de ser usado como herramienta de apoyo en la jurisdicci\u00f3n. Asimismo, la seguridad y la transparencia de los datos deben ser preocupaciones cruciales, ya que los errores o el uso indebido de estas tecnolog\u00edas pueden generar consecuencias sobre los derechos de las personas que hacen uso del sistema jur\u00eddico nacional.<\/p>\n
422. As\u00ed, se exhorta a los jueces de la Rep\u00fablica para que eval\u00faen el adecuado uso de la herramienta tecnol\u00f3gica ChatGPT y otras an\u00e1logas o que se desarrollen en el \u00e1mbito de la IA, valoren y consideren las mejores pr\u00e1cticas y apliquen criterios \u00e9ticos y de respeto a los mandatos superiores, en orden a garantizar los derechos fundamentales, en especial el debido proceso, cuando hagan uso de aquellas, y asegurar la independencia y autonom\u00eda judiciales, como garant\u00edas insustituibles para la vigencia del Estado Social de Derecho y la democracia.<\/p>\n
423. De manera particular, la Sala Segunda de Revisi\u00f3n considera esenciales la apropiaci\u00f3n y aplicaci\u00f3n de los siguientes criterios orientadores en cuanto al uso de herramientas de IA como ChatGPT por parte de los despachos judiciales en el pa\u00eds:<\/p>\n
a. a. \u00a0Transparencia, entendida como la obligaci\u00f3n de evidenciar con claridad y precisi\u00f3n el uso, alcances y ubicaci\u00f3n en las actuaciones o decisiones de los resultados obtenidos por la utilizaci\u00f3n de tales herramientas, que permita a los usuarios e interesados su pleno conocimiento y la posibilidad efectiva de contradicci\u00f3n.<\/p>\n
b. b. \u00a0Responsabilidad, comprendida como aquella obligaci\u00f3n que existe de que el usuario de la herramienta de IA se encuentre capacitado y comprenda los impactos del uso de estas tecnolog\u00edas, para a su vez dar cuenta del origen, idoneidad y necesidad del uso de la IA y la informaci\u00f3n suministrada por la misma, la cual debe ser verificada.<\/p>\n
c. c. \u00a0Privacidad, es aquel deber de custodiar y proteger la reserva de los datos personales y sensibles que se ponen en conocimiento de la administraci\u00f3n de justicia para cumplir con los fines propios de la Rama Judicial.<\/p>\n
d. d. \u00a0No sustituci\u00f3n de la racionalidad humana, como expresi\u00f3n de la imposibilidad \u00e9tica y jur\u00eddica de sustituir la acci\u00f3n y la responsabilidad del individuo de la especie humana en la gesti\u00f3n de las actuaciones y decisiones judiciales.<\/p>\n
e. e. \u00a0Seriedad y verificaci\u00f3n, que implica la obligaci\u00f3n de realizar un estricto escrutinio sobre las fuentes, alcances, restricciones, posibilidades, falencias y riesgos que presente la herramienta de cara a la actuaci\u00f3n en curso o a la soluci\u00f3n del problema jur\u00eddico correspondiente.<\/p>\n
f. f. \u00a0Prevenci\u00f3n de riesgos, como mandato en cuanto aplicar los est\u00e1ndares adecuados de control sobre situaciones que generen riesgo por la aplicaci\u00f3n de tecnolog\u00edas tales, en aspectos como imprecisiones, desactualizaciones, alucinaciones, sesgos, inconsistencias y dem\u00e1s.<\/p>\n
g. g. \u00a0Igualdad y equidad, en cuanto se erradiquen todas las formas de discriminaci\u00f3n relacionadas con la aplicaci\u00f3n de sesgos derivada del uso de tales tecnolog\u00edas y su impacto negativo en la eficacia de los derechos humanos.<\/p>\n
h. h. \u00a0Control humano, en tanto considerando los anteriores criterios, siempre se permita la realizaci\u00f3n efectiva de escrutinios sobre las actuaciones y decisiones en que se usen herramientas de IA, mediante el acceso a la debida informaci\u00f3n y el uso de recursos que deban ser resueltos por autoridades humanas.<\/p>\n
i. i. \u00a0Regulaci\u00f3n \u00e9tica, que implica el desarrollo de est\u00e1ndares de comportamiento individual que se adec\u00faen a los mandatos superiores y legales y a las pautas razonables para el uso de tales tecnolog\u00edas por parte de los funcionarios y servidores de la Rama Judicial.<\/p>\n
j. j. \u00a0Adecuaci\u00f3n a buenas pr\u00e1cticas y est\u00e1ndares colectivos, en tanto se apliquen los esquemas razonables que se definan para el funcionamiento de la Rama Judicial, desde su autonom\u00eda e independencia, a partir de las definiciones que adopten sus autoridades, tanto en sede de administraci\u00f3n como de orientaci\u00f3n jurisprudencial.<\/p>\n
k. k. \u00a0Seguimiento continuo y adaptaci\u00f3n, a efecto que el uso de tales tecnolog\u00edas consulte los avances jur\u00eddicos, sociol\u00f3gicos y tecnol\u00f3gicos que se vayan implementando, as\u00ed como los esquemas de mejora y control que se construyan en forma progresiva.<\/p>\n
l. l. \u00a0Idoneidad. El uso de las tecnolog\u00edas de la informaci\u00f3n y de las comunicaciones en la gesti\u00f3n y tr\u00e1mite de los procesos judiciales y asuntos en curso debe ser adecuado para facilitar y agilizar el acceso a la justicia.<\/p>\n
424. Tambi\u00e9n se ordenar\u00e1 al Consejo Superior de la Judicatura que fije unos lineamientos sobre el uso de IA en la Rama Judicial, en los que, como m\u00ednimo, tenga en cuenta los puntos que se exponen a continuaci\u00f3n:<\/p>\n
<\/p>\n
i. (i) \u00a0Las IA no pueden ser usada para sustituir el razonamiento l\u00f3gico y humano que le compete realizar a cada juez a efectos de interpretar los hechos, valorar las pruebas, motivar y adoptar la decisi\u00f3n, pues ello conllevar\u00eda una violaci\u00f3n de la garant\u00eda del juez natural y al debido proceso probatorio. En las instancias y en sede de revision de tutelas se deber\u00e1n aplicar controles que eviten la violaci\u00f3n del derecho al debido proceso por uso indebido de IA, entre los que se destaca la autrorregulaci\u00f3n \u00e9tica.<\/p>\n
() La IA se podr\u00e1 utilizar en el sistema judicial para los \u00e1mbitos de gesti\u00f3n administrativa y documental, as\u00ed como el de apoyo a la gesti\u00f3n judicial y la correcci\u00f3n y s\u00edntesis de textos; en tales eventos, la utilizaci\u00f3n de estas tecnolog\u00edas no remplaza la labor esencial que se le ha atribuido al funcionario judicial, sin embargo, en estos casos, se deber\u00e1n tener las cautelas necesarias para evitar la transgresi\u00f3n de derechos, tales como el habeas data o la intimidad, o que el funcionario judicial pierda la independencia o imparcialidad debido a los sesgos y alucinaciones de la IA.<\/p>\n
() Para efecto de lo anterior, se deber\u00e1n garantizar los principios de transparencia, responsabilidad y privacidad respecto al uso de la IA, conforme a los par\u00e1metros ya establecidos con anterioridad.<\/p>\n
() Identificar a un humano responsable, es decir, que haya una persona individualizable e identificable a quien se le pueda plantear las preocupaciones relacionadas con las decisiones tomadas y que pueda evaluar las intervenciones realizadas por la IA.<\/p>\n
() Materializarse un lenguaje claro y comprensible para los seres humanos, sobre las respuestas que genera la IA.<\/p>\n
() Lo anterior implica que los jueces, magistrados y dem\u00e1s funcionarios y servidores de la Rama Judicial empleen la autorregulaci\u00f3n \u00e9tica y los autocontroles al momento de apoyarse en IA para la gesti\u00f3n judicial.<\/p>\n
() En cualquier caso, es necesario resaltar que el proceso de digitalizaci\u00f3n de la justicia en Colombia, sean cuales sean los lineamientos que se adopten \u00a0por el Consejo Superior de la Judicatura, debe hacerse dentro del marco de respeto por los derechos fundamentales y con las garant\u00edas para el acceso efectivo y la no vulneraci\u00f3n de tales, especialmente el debido proceso, los cuales se sopesen con los riesgos potenciales de cada nueva tecnolog\u00eda en este \u00e1mbito y los nuevos usos que se les pueda dar a estas.<\/p>\n
() Se adelanten las gestiones necesarias de coordinaci\u00f3n con las diferentes autoridades concernidas con el tema de tecnolog\u00eda en el Estado, con el Congreso de la Rep\u00fablica, el Gobierno nacional, los funcionarios y empleados de la Rama Judicial y las diferentes autoridades p\u00fablicas, as\u00ed como agencias internacionales u organismos especializados en herramientas de IA como ChatGPT, para informar y coordinar sobre los requerimientos que demande espec\u00edficamente la Rama Judicial.<\/p>\n
<\/p>\n
() Se establezca un adecuado sistema de control, seguimiento, alerta, evaluaci\u00f3n y mejora en cuanto a las pr\u00e1cticas que impliquen el uso de herramientas de IA como ChatGPT por los despachos judiciales del pa\u00eds y se divulguen sus resultados, como parte de las rendiciones de cuentas a cargo de la Rama Judicial. Se insta al Consejo Superior de la Judicatura para que adopte medidas que le permitan identificar los casos en los que funcionarios judiciales hayan hecho uso de IA en sus decisiones, para que tome las medidas judiciales y administrativas pertinentes.<\/p>\n
() Igualmente se ordena al Consejo Superior de la Judicatura que, como lo viene haciendo, a trav\u00e9s de la Escuela Judicial Rodrigo Lara Bonilla, desarrolle habilidades digitales en los operadores jur\u00eddicos (a) desde un enfoque interseccional e interdisciplinario, a trav\u00e9s de cursos que permitan comprender y discutir sobre las nuevas tecnolog\u00edas, en especial sobre las IA; que lo<\/p>\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
TEMAS-SUBTEMAS Sentencia T-323\/24 DERECHO AL DEBIDO PROCESO-Criterios orientadores para el adecuado uso de la inteligencia artificial (IA) (…) criterios orientadores en cuanto al uso de herramientas de IA como ChatGPT por parte de los despachos judiciales en el pa\u00eds: a. Transparencia, entendida como la obligaci\u00f3n de evidenciar con claridad y precisi\u00f3n el uso, alcances y […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[146],"tags":[],"class_list":["post-30422","post","type-post","status-publish","format-standard","hentry","category-tutelas-2024"],"_links":{"self":[{"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/posts\/30422","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/comments?post=30422"}],"version-history":[{"count":0,"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/posts\/30422\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/media?parent=30422"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/categories?post=30422"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.dmsjuridica.com\/buscador_20179478954\/corteconstitucionalcronologico202454587\/wp-json\/wp\/v2\/tags?post=30422"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}