Abinader aprueba Código de Ética para regular el uso de la inteligencia artificial en las instituciones públicas

La disposición establece controles para el uso de sistemas de inteligencia artificial en el Estado, prohíbe determinadas aplicaciones, exige supervisión humana y otorga a los ciudadanos el derecho a solicitar explicaciones y revisiones de decisiones apoyadas por estas tecnologías.

Santo Domingo. – El presidente Luis Abinader aprobó, mediante el Decreto núm. 787-26, el Código de Ética de la Inteligencia Artificial para los Servicios Públicos de la República Dominicana, una normativa que establece principios, responsabilidades y mecanismos de supervisión para regular el diseño, adquisición e implementación de estas tecnologías en las instituciones del Estado.

La disposición busca garantizar que el uso de la inteligencia artificial (IA) en la Administración Pública se realice de manera responsable, transparente y respetando los derechos fundamentales, la privacidad y la protección de los datos personales de los ciudadanos.

El decreto abarca las instituciones de la Administración Pública centralizada y descentralizada, empresas públicas y demás entidades estatales que utilicen sistemas de inteligencia artificial para prestar servicios, desarrollar funciones administrativas o apoyar la adopción de decisiones oficiales.

También incluye las herramientas de IA utilizadas por los servidores públicos, como asistentes de redacción y sistemas de análisis, cuando su aplicación tenga incidencia en el ejercicio de funciones públicas o en la producción de actos administrativos.

¿Qué cambia con esta disposición?

Uno de los principales aspectos del Código es que establece que las decisiones apoyadas por inteligencia artificial no pueden quedar fuera de la responsabilidad de las autoridades públicas.

En ese sentido, las instituciones deberán informar a los ciudadanos cuando un trámite, servicio o decisión que les afecte haya sido apoyado por un sistema de IA. También tendrán que explicar su finalidad, los factores relevantes que intervinieron y las vías disponibles para solicitar aclaraciones o una revisión humana.

Esto significa que una persona podrá cuestionar una decisión en la que haya intervenido la inteligencia artificial y solicitar que sea examinada por un funcionario, además de utilizar los recursos administrativos correspondientes.

Asimismo, las entidades públicas deberán establecer mecanismos de supervisión humana y monitoreo continuo para identificar posibles errores, sesgos, fallos de seguridad o situaciones que puedan afectar los derechos de las personas.

Usos de inteligencia artificial que quedan prohibidos

El documento establece una serie de restricciones para impedir que estas herramientas sean utilizadas de manera contraria a los derechos humanos y las garantías constitucionales.

Entre las prácticas expresamente prohibidas en el sector público figuran:

• Clasificación social de ciudadanos: utilizar sistemas de puntuación o clasificación generalizada para determinar el acceso de las personas a derechos y servicios públicos o darles un trato diferenciado.
• Vigilancia biométrica indiscriminada: emplear reconocimiento facial, de voz o de marcha de manera masiva en espacios públicos sin las garantías legales establecidas.
• Predicción de conductas criminales: clasificar personas como posibles infractores por su lugar de residencia, origen étnico o condición socioeconómica.
• Decisiones judiciales automatizadas: utilizar IA para recomendar, determinar o ejecutar sentencias penales, medidas de coerción o privaciones de libertad sin intervención humana directa.
• Manipulación ciudadana: utilizar estas tecnologías para propaganda política, desinformación institucional o mecanismos encubiertos de influencia desde el Estado.
• Armas autónomas: permitir que sistemas de inteligencia artificial decidan causar daños físicos o letales sin intervención humana directa y responsable.

El Código también establece protecciones especiales para niños, niñas y adolescentes. Los sistemas de IA dirigidos a esta población estarán sujetos a una evaluación reforzada de riesgos, mientras que queda absolutamente prohibido generar, facilitar o distribuir contenido sexualizado, abusivo, denigrante o discriminatorio contra menores de edad.

Evaluaciones antes de implementar sistemas de IA

Otro de los puntos centrales de la normativa es la creación de las Evaluaciones de Impacto Ético y de Derechos (EIED), que deberán realizarse antes de poner en funcionamiento sistemas capaces de afectar derechos, acceso a servicios esenciales, asignación de recursos públicos o el ejercicio de facultades sancionadoras.

Estas evaluaciones deberán identificar posibles riesgos para la privacidad, la seguridad, la inclusión y los derechos fundamentales, además de establecer medidas para reducirlos.

Los sistemas clasificados como de alto impacto no podrán entrar en funcionamiento sin completar la evaluación, obtener la revisión correspondiente del órgano supervisor y publicar un resumen accesible para la ciudadanía.

Si durante su funcionamiento se detectan errores, discriminación o afectaciones desproporcionadas, las instituciones podrán verse obligadas a limitar, suspender o retirar la herramienta tecnológica.

¿Qué instituciones supervisarán el cumplimiento?

El decreto distribuye las responsabilidades entre varias entidades del Estado.

La Dirección General de Ética e Integridad Gubernamental (DIGEIG) tendrá a su cargo la supervisión de los aspectos éticos, la transparencia, la rendición de cuentas y el cumplimiento de las evaluaciones de impacto.

Por su parte, la Oficina Gubernamental de Tecnologías de la Información y Comunicación (OGTIC) ofrecerá asistencia técnica, establecerá estándares tecnológicos y tendrá responsabilidades en el desarrollo y mantenimiento del asistente virtual del Estado dominicano, conocido como TAINA.

El Ministerio de Administración Pública (MAP) establecerá los lineamientos relacionados con la incorporación de la inteligencia artificial a la gestión institucional, la mejora de los servicios y la transformación digital.

Además, se crea el Consejo Nacional de Ética de la Inteligencia Artificial, como órgano consultivo y de coordinación, integrado por representantes de la DIGEIG, la OGTIC, el Ministerio de la Presidencia, INDOTEL, el MAP y representantes de la sociedad civil, el sector privado y el ámbito académico.

El decreto también contempla la creación de un registro de los sistemas de inteligencia artificial utilizados por las instituciones públicas y un portal de transparencia donde se publicarán informaciones sobre estas herramientas y los resultados de sus evaluaciones, respetando las disposiciones sobre protección de datos y seguridad.

¿Cuánto tiempo tienen las instituciones para cumplir?

El artículo 14 establece un plazo de 180 días calendario, contados a partir de la publicación del decreto, para que las instituciones adecuen sus políticas, procedimientos, sistemas y procesos de contratación a las nuevas disposiciones.

Durante ese período deberán identificar y registrar los sistemas de inteligencia artificial que ya utilizan, designar responsables institucionales y adoptar las medidas necesarias para cumplir con el Código.

Los sistemas que estén funcionando y sean clasificados como de alto impacto también deberán someterse a las evaluaciones correspondientes dentro del plazo que establezca la DIGEIG.

Asimismo, el Consejo Nacional de Ética de la Inteligencia Artificial tendrá que evaluar anualmente la implementación del Código y realizar una revisión integral de su contenido, al menos cada dos años, tomando en cuenta los avances tecnológicos y las observaciones de distintos sectores de la sociedad.

En definitiva, el Decreto 787-26 establece un marco de responsabilidad para la incorporación de la inteligencia artificial en los servicios públicos dominicanos, procurando que la modernización del Estado no comprometa los derechos de los ciudadanos ni sustituya la responsabilidad de los funcionarios en las decisiones administrativas.