ANTEPROYECTO DE RECOMENDACIÓN SOBRE LA ÉTICA DE LA INTELIGENCIA ARTIFICIAL

ANTEPROYECTO DE RECOMENDACIÓN SOBRE LA ÉTICA DE LA INTELIGENCIA ARTIFICIAL

1.  Antecedentes.

El documento desarrollado por la Unesco establece los criterios generales que deben orientar la implementación y regulación de la IA en el ámbito mundial, permitiendo aprovechar las ventajas de esta tecnología y reducir los riesgos derivados, garantizando el respeto de los derechos humanos y contribuyendo a la consecución de los Objetivos de Desarrollo Sostenible (ODS) , “centrado en la dignidad humana y los derechos humanos, así como en la igualdad de género, la justicia social y económica, el bienestar físico y mental, la diversidad, la interconexión, la inclusión y la protección del medio ambiente y de los ecosistemas, puede dar una orientación responsable a las tecnologías de la IA” (pág. 1).

Se establecen valores de respeto, protección y promoción de la dignidad humana, los derechos humanos y las libertades fundamentales; prosperidad del medio ambiente y los ecosistemas; diversidad e inclusión y de vivir en armonía y paz como ideales de regulación de los sistemas de IA, y  como una manera de concretar dichos valores se instituyen los siguientes principios: 1) Proporcionalidad e inocuidad, 2)  Seguridad y protección, 3) Equidad y no discriminación, 4) Sostenibilidad, 5) Privacidad, 6) Supervisión y decisión humana, 7) Transparencia y explicabilidad, 8) Responsabilidad y rendición de cuentas, 9) Sensibilización y alfabetización y 10) Gobernanza y colaboración adaptativas y de múltiples partes interesadas. (Conferencia General de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), 2020, págs. 11-14)

2.  Relación con otros instrumentos internacionales.

2.1 Principios de la OCDE sobre la Inteligencia Artificial

La OCDE estableció un grupo de expertos en inteligencia artificial para instaurar un conjunto de cinco principios basados en valores para el despliegue responsable de una IA fiable y cinco recomendaciones en materia de políticas públicas y cooperación internacional, los mismos que de forma concisa, afirman lo siguiente:

La IA debe estar al servicio de las personas y del planeta, impulsando un crecimiento inclusivo, el desarrollo sostenible y el bienestar.

Los sistemas de IA deben diseñarse de manera que respeten el Estado de derecho, los derechos humanos, los valores democráticos y la diversidad, e incorporar salvaguardias adecuadas —por ejemplo, permitiendo la intervención humana cuando sea necesario— con miras a garantizar una sociedad justa y equitativa.

Los sistemas de IA deben estar presididos por la transparencia y una divulgación responsable a fin de garantizar que las personas sepan cuándo están interactuando con ellos y puedan oponerse a los resultados de esa interacción.

Los sistemas de IA han de funcionar con robustez, de manera fiable y segura durante toda su vida útil, y los potenciales riesgos deberán evaluarse y gestionarse en todo momento.

Las organizaciones y las personas que desarrollen, desplieguen o gestionen sistemas de IA deberán responder de su correcto funcionamiento en consonancia con los principios precedentes  (Organización para la Cooperación y el Desarrollo Económicos (OCDE), 2019).

Los Principios de IA de la OCDE son los primeros principios de este tipo suscritos por los gobiernos. Más allá de los miembros de la OCDE, otros países, incluidos Argentina, Brasil, Costa Rica, Malta, Perú, Rumania y Ucrania, ya se han adherido a los Principios de IA (IA LATAM, 2019).

2.2 Directrices Éticas para una IA Fiable

La finalidad de este documento es instaurar las bases de la normativa regulatoria en la Unión Europea (UE) que permita el desarrollo seguro de la IA, incluyendo sus algoritmos, respetando plenamente los valores y los derechos de los ciudadanos de la UE. El objetivo es alcanzar una IA fiable que se fundamente en tres componentes: debe ser lícita, por cuanto debe cumplir todas las leyes y reglamentos aplicables; debe ser ética y que se garantice el respeto de los principios y valores éticos; y debe ser robusta tanto desde el punto de vista técnico como social, de manera que se puedan prever medidas de contingencia para evitar cualquier efecto adverso imprevisto en su uso. (Comisión Europea, 2019, págs. 7-8)

El Capítulo I ratifica el fundamento ético de la IA, determinando que los derechos, principios y valores fundamentales que debe cumplir deben tener como meta el bienestar del ser humano; basado en los derechos fundamentales, los valores sociales, respeto de la autonomía humana, prevención del daño, equidad y explicabilidad. (Comisión Europea, 2019, págs. 11-17)

El Capítulo II de las Directrices éticas para una IA fiable detalla los requisitos para la IA fiable: acción y supervisión humanas; solidez técnica y seguridad; gestión de la privacidad y de los datos; transparencia; diversidad, no discriminación y equidad; bienestar ambiental y social; y rendición de cuentas. Finalmente el Capítulo III ofrece “una lista no exhaustiva para la evaluación de la fiabilidad de la IA (versión piloto) con el fin de poner en práctica la IA fiable (págs. 17-32).

Como podemos apreciar, ambas propuestas internacionales al igual que la Recomendación sobre la Ética de la IA tienen como objetivo común la determinación que se debe trabajar con una concepción de que la IA siempre al servicio de la humanidad, tratando de evitar que el uso de ésta tecnología suponga cualquier trato indigno hacia el ser humano, enfocadas en el  desarrollo sostenible y el bienestar,  fomentando la libertad, la dignidad y la autonomía, la privacidad y la protección de datos, la igualdad, la no discriminación, la diversidad y los derechos sociales reconocidos internacionalmente, así como garantizar que quienes diseñen y gestionen sistemas de IA deban responder por su correcto funcionamiento.

3. Relación con el marco legislativo ecuatoriano.

3.1 Con la Constitución de 2008.

El principio de Equidad y no discriminación redactado en el Anteproyecto de Recomendación sobre la ética de la Inteligencia Artificial (2020) señala que:

En el plano nacional, los gobiernos están obligados a demostrar equidad entre las zonas rurales y urbanas y entre todas las personas sin distinción de sexo, género, idioma, religión, opiniones políticas o de otra índole, origen nacional, étnico, indígena o social, orientación sexual e identidad de género, bienes, nacimiento, discapacidad, edad u otra condición, en lo que respecta al acceso al ciclo de vida de los sistemas de IA y la participación en él (pág. 10).

...