ISSN: 2695-4621
EDITORIAL. Sentido común
SENTIDO COMÚN
Al cierre de la presente edición se han producido dos novedades de suma importancia.
La primera en la Organización Colegial; culminado el mandato anterior ha tenido lugar la renovación de la Presidencia y Comisión Ejecutiva del Consejo General. Se ha presentado una única candidatura de renovación. Asume la presidencia María del Pilar Ortega Jiménez, Viceinterventora de la Diputación de León, a quien en próximos números tendremos la ocasión de entrevistar.
Ha de significarse que es la primera mujer en la historia de nuestra Organización Colegial, institución cercana a los cien años, que asume esta responsabilidad en el Consejo General. Siendo muchas las vicepresidentas y vocales en la Comisión Ejecutiva que la han precedido y presidentas en los Colegios Territoriales y Autonómicos, quedaba este último hito, que debe destacarse como tal. Por lógica, en un futuro y con esta elección, ya no será “noticiable” sino algo natural y en línea con la ya mayoritaria presencia de la mujer en la profesión.
La segunda en el ámbito europeo, cual es la publicación en el Diario Oficial de la Unión Europea del Reglamento Europeo de Inteligencia Artificial. El Reglamento tiene “vacatio legis” general de 20 días, y tras la entrada en vigor, en dos años y posteriormente a estos, varios plazos de aplicación que pueden alcanzar hasta 36 meses.
No es descabellado afirmar que la IA y el cambio climático son los principales retos de la humanidad en nuestro tiempo. De cómo se gestione la primera y de cómo se afronte el segundo depende el devenir de este Siglo XXI, que ya se nos antoja antiguo, cuando aún no ha transcurrido un cuarto del mismo, en todos los órdenes de la existencia.
Tuvimos ocasión de contar con la presencia en el Congreso del Centenario de Moisés Barrio Andrés, uno de los mayores expertos en nuestro país en IA, como su currículo acredita; y de nuevo tenemos la suerte de contar con él, ahora en estas páginas, en la entrevista que nos ha concedido y en la que nos ilustra con precisión, a pesar del breve espacio que podemos dedicar, de los múltiples aspectos de la IA, mencionando el Reglamento Europeo que ha visto la luz. La IA, sus retos éticos, los medios y consecuencia de su implantación en las Administraciones Públicas serán objeto también en números futuros.
No siempre se aceptan de buen grado las novedades; más bien se las teme. El ser humano es en general perezoso y aprensivo ante las exigencias y servidumbres que conllevan, también ante lo desconocido de su aplicación. Temores a veces fundados porque no se pueden prever, ni por ello controlar, en su totalidad las consecuencias de dicha aplicación; pero muchas veces imaginados y paralizantes.
Por eso nos permitimos destacar una afirmación de la entrevista: la falsa dicotomía que supone creer que la IA sustituirá a valores humanos como la empatía, la creatividad, o sobre todo, que sustituirá al sentido común.
Aunque es un valor escaso, a él apelamos para cerrar estas líneas, si se utiliza sabremos usar y aprovechar los inmensos recursos de la IA. Si se utiliza se afrontarán con un buen tino los problemas de la habilitación nacional.
EL REGLAMENTO DE INTELIGENCIA ARTIFICIAL Y LAS ENTIDADES LOCALES. APLICABILIDAD Y PRIORIDADES DE LA HABILITACIÓN NACIONAL
En el Diario Oficial de la Unión Europea (DOUE) se publicó el día 12 de julio corriente el relevante Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) nº 300/2008, (UE) nº 167/2013, (UE) nº 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial).
El objetivo principal del Reglamento es mejorar el funcionamiento del mercado interior y promover la adopción de una Inteligencia Artificial (IA en lo sucesivo) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA en la Unión, así como prestar apoyo a la innovación.
El impacto que el Reglamento de Inteligencia Artificial (RIA en lo sucesivo) tendrá en las relaciones jurídicas afectadas por los sistemas de IA dependerá de la eficacia de este novedoso marco regulatorio, basado en la armonización y concebido como una especie de manual de instrucciones para los proveedores y personas responsables del despliegue, importadoras y distribuidoras, entre otras intervinientes.
1. DEFINICIONES PARA ENTENDER EL ECOSISTEMA DE LA INTELIGENCIA ARTIFICIAL
Para entender el lenguaje de la IA, entre las definiciones reguladas en el artículo 3 del RIA, se destacan las siguientes definiciones:
«Sistema de IA»: un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.
«Riesgo»: la combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicio.
«Responsable del despliegue»: una persona física o jurídica, o autoridad pública, órgano u organismo que utilice un sistema de IA bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesional.
«Datos de entrenamiento»: los datos usados para entrenar un sistema de IA mediante el ajuste de sus parámetros entrenables.
«Datos de validación»: los datos usados para proporcionar una evaluación del sistema de IA entrenado y adaptar sus parámetros no entrenables y su proceso de aprendizaje para, entre otras cosas, evitar el subajuste o el sobreajuste.
«Datos de prueba»: los datos usados para proporcionar una evaluación independiente del sistema de IA, con el fin de confirmar el funcionamiento previsto de dicho sistema antes de su introducción en el mercado o su puesta en servicio.
«Datos de entrada»: los datos proporcionados a un sistema de IA u obtenidos directamente por él a partir de los cuales se produce un resultado de salida.
«Datos biométricos»: los datos personales obtenidos a partir de un tratamiento técnico.
Complementariamente incluimos una definición fundamental vinculada con los mayores riesgos de la IA, cual es la de:
«Sesgos»: presencia de prejuicios sistemáticos en los resultados generados por sistemas de IA. Estos prejuicios pueden manifestarse de varias maneras: como discriminación racional, de género, edad u otros tipos de discriminación.
2. FECHAS DE APLICACIÓN DEL RIA
|
FECHA |
PROCESO DE APLICACIÓN EN DIFERENTES FASES |
|
1 de agosto de 2024 |
Entrada en vigor, salvo la aplicación progresiva que se relaciona a continuación. |
|
2 de febrero 2025 |
Disposiciones generales y prohibiciones |
|
1 de mayo de 2025 |
Publicación códigos de conducta |
|
2 de agosto de 2025 |
Aplicación obligaciones a los sistemas de IA, así como el régimen sancionador.
|
|
2 de agosto de 2026 |
Entrará en vigor la mayor parte del RIA a los sistemas de IA de alto riesgo recién comercializados o modificados sustancialmente |
|
2 de agosto de 2027 |
De aplicación a los proveedores de modelos IA de uso general, puestos en el mercado antes del primer año de la entrada en vigor del RI y otras determinaciones. |
|
1 de agosto de 2030 |
De aplicación a las obligaciones de obligaciones a proveedores y responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por las autoridades públicas. |
|
Antes del 31 de diciembre de 2030
|
De aplicación a todos los sistemas informáticos de gran magnitud con determinaciones concretas. |
3. LA TÉCNICA NORMATIVA DEL RIA BASADA EN LA PREVENCIÓN DE LOS RIESGOS
4. PRIORIDADES EN LAS ENTIDADES LOCALES ANTE LA IA
Las obligaciones y tareas establecidas para las Entidades Locales dependerán del diferente rol que ocupe, principalmente será el de responsable del despliegue, como organismo que utiliza la IA bajo su propia autoridad, detallándose a continuación las más significativas:
-Identificación y clasificación de los sistemas de IA y sus riesgos, conforme a los artículos 9 (sistemas de gestión de riesgos) y artículo 61 (evaluación ex post de la conformidad).
-Informe de legalidad sobre la adecuación de los expedientes de contratación al RIA.
-Garantía de la transparencia y rendición de cuentas (artículo 13, transparencia y suministro de información a las personas usuarias; artículo 52, obligaciones de transparencia para determinados sistemas de IA).
-Cumplimiento con la normativa en materia de protección de datos.
-Evaluación de riesgos y gestión de la calidad.
-Registro y documentación.
-Supervisión humana (artículo 22 RGPD).
-Alfabetización.
-Notificación de incidentes.
-Adaptación de procesos y políticas.
-Evaluación de proveedores.
-Auditorías de los sistemas.
Así como otra infinidad de obligaciones y necesidades relacionadas en el RIA y otras que se irán generando tras la implantación efectiva de los sistemas de IA y la eventual regulación estatal, autonómica y de desarrollo reglamentario.
5. LAS PRIORIDADES DE LA HABILITACIÓN NACIONAL EN TORNO A LA IA
Los sistemas de IA tendrán un impacto extraordinario en todos los ámbitos y especialmente en el sector público local donde el personal con habilitación nacional ha de salvaguardar tanto el desarrollo de sus funciones legalmente reservadas como su desarrollo y potenciación profesional, debiendo asumir las siguientes prioridades:
-Formación especializada y alfabetización en materia de Administración Digital y de los sistemas de IA.
-Participación activa en el gobierno del dato.
-Participación activa en los sistemas de despliegue de la IA para su correcta ejecución.
-Participación activa en los sistemas de auditoría de IA para prevenir riesgos y sesgos.
Las prioridades sintetizadas anteriormente, han de confluir en la corrección en el entrenamiento de datos de los sistemas de IA, en los registros y en toda la información municipal relacionada con las funciones de secretaría, intervención y tesorería, con una finalidad primordial: proteger los límites legales, la prevención de riesgos y de los sesgos en general, por el uso de los algoritmos.
Desde el Consejo General de Cosital, se considera fundamental la formación en materia de Transformación Digital e Inteligencia Artificial, así como la planificación estratégica del nuevo escenario de los servicios públicos locales, donde nuestras funciones legalmente reservadas son esenciales.
COSITAL próximamente publicará un monográfico especial de la Revista de Estudios Locales CUNAL dedicado exclusivamente a estas materias con la participación de reconocidas firmas especializadas.
COSITAL
Antonio Aragón Román
TIC e IA
ESTUDIOS II. ELEMENTOS DE ANÁLISIS SOBRE EL IMPACTO FINANCIERO Y APLICACIÓN PRÁCTICA DEL ARTÍCULO 11 DE LA LEY 7/2022 DE RESIDUOS PARA LA ECONOMÍA CIRCULAR. LA PRESTACIÓN PATRIMONIAL DE CARÁCTER PÚBLICO POR LA PRESTACIÓN DE SERVICIO DE GESTIÓN DE RESIDUOS
REL 276 JULIO 2024. ELEMENTOS DE ANÁLISIS SOBRE EL IMPACTO FINANCIERO Y APLICACIÓN PRÁCTICA DEL ARTÍCULO 11 DE LA LEY 7/2022 DE RESIDUOS PARA LA ECONOMÍA CIRCULAR. LA PRESTACIÓN PATRIMONIAL DE CARÁCTER PÚBLICO POR LA PRESTACIÓN DE SERVICIO DE GESTIÓN DE RESIDUOS DE COMPETENCIA MUNICIPAL
Emiliano Sanz Rubio. Interventor-Tesorero.
Continuar leyendo aquí.
SOLO PARA SUSCRIPTORES. ¿Todavía no eres suscriptor? Hazte suscriptor de la
ESTUDIOS I. EL CONTROL DE LA GESTIÓN ECONÓMICOFINANCIERA MUNICIPAL EN LAS REPÚBLICAS IBEROAMERICANAS
REL 276 JULIO 2024. EL CONTROL DE LA GESTIÓN ECONÓMICO-FINANCIERA MUNICIPAL EN LAS REPÚBLICAS IBEROAMERICANAS
Valentín Merino Estrada. Doctor en Derecho. Secretario de Administración Local, categoría superior.
Continuar leyendo aquí.
SOLO PARA SUSCRIPTORES. ¿Todavía no eres suscriptor? Hazte suscriptor de la
ESTUDIOS III. Personal temporal al servicio de las Administraciones Públicas: el estado de la cuestión
REL 276 JULIO 2024. PERSONAL TEMPORAL AL SERVICIO DE LAS ADMINISTRACIONES PÚBLICAS: EL ESTADO DE LA CUESTIÓN
F. Javier Fuertes López. Profesor de la Universidad de Navarra.
Continuar leyendo aquí.
SOLO PARA SUSCRIPTORES. ¿Todavía no eres suscriptor? Hazte suscriptor de la