La Comisión Europea publica su primer borrador de principios éticos para la Inteligencia Artificial
19 dic, 2018 17:02
La Comisión Europea ha publicado su primer borrador de principios éticos “para una Inteligencia Artificial confiable”, un texto provisional que establece una “Inteligencia Artificial centrada en el ser humano”, mediante una serie de principios rectores como la supervisión por parte de seres humanos y el respeto por la privacidad y la transparencia.
El texto, que se ha publicado este martes, es la primera versión de una iniciativa en la que trabaja el grupo de alto nivel de expertos en Inteligencia Artificial (IA) de la Comisión Europea, integrado por 52 expertos independientes procedentes del ámbito académico, empresas y de la sociedad civil.
En primer lugar, la UE ha establecido una serie de derechos básicos en el desarrollo de la Inteligencia Artificial que se dirigen a todos los actores del sector, entre los que destaca que la IA “debería ser desarrollada, desplegada y utilizada con un propósito ético”.
CINCO DERECHOS BÁSICOS
A través de lo que se ha conocido como “IA centrada en el ser humano”, la UE ha defendido que estas tecnologías deben estar basadas en varios derechos fundamentales, resumidos en cinco: hacer el bien, no hacer el mal, autonomía de los humanos, justicia y que sus acciones sean explicables.
Estos principios se aplican de manera general, aunque especialmente en las situaciones con grupos vulnerables, como niños, discapacitados y minorías, así como a empleados y consumidores. La Comisión Europea ha reconocido que “aunque puede traer beneficios a los individuos y la sociedad, la IA también puede tener un impacto negativo”.
MEDIDAS PARA EL DESARROLLO DE LA IA
En cuanto a medidas concretas para desarrollar una IA de confianza, el borrador de la Comisión Europea ha apuntado que estos sistemas deben ser capaces de rendir cuentas –es decir, deben ser responsables–, contar con un diseño para todas las personas y respetar la autonomía del ser humano.
Entre el resto de principios básicos de desarrollo se encuentra también la ausencia de discriminación, la necesidad de que siempre sea posible una supervisión por parte de seres humanos, y el respeto a la privacidad de los mismos.
El texto apunta también la necesidad de que las tecnologías sean robustas, seguras y transparentes. Los sistemas de IA deben así asegurar la trazabilidad de sus acciones y decisiones, así como ser realistas sobre sus capacidades y limitaciones.
De cara a las empresas, la UE recomienda el uso de códigos deontológicos sobre la IA, y aconseja que las que desarrollen o prueben este tipo de tecnologías lo hagan a través de equipos humanos con diversidad y que faciliten las auditorías externas.
PUBLICACIÓN DEFINITIVA EN MARZO DE 2019
La guía ética definitiva de la Comisión Europea sobre Inteligencia Artificial se publicará el mes de marzo de 2019, y hasta entonces se ha abierto un periodo en el que el grupo de expertos responsable recibirá sugerencias, hasta el 18 de enero, de cara a redactar la versión final.
Este plan sigue al anuncio realizado por la Unión Europea el pasado 7 de diciembre de una declaración de cooperación entre los estados miembros en relación a la IA, acompañada por una inversión de 7.000 millones de euros de los programas Horizon Europe y Digital Europe.
Según la investigadora Nuria Oliver, los cambios tecnológicos hacen necesario estimular el desarrollo de conocimientos y también el de la inteligencia emocional
Cuando el pasado martes recogió su medalla de ingreso a la Real Academia de Ingeniería, Nuria Oliver se convirtió en la cuarta mujer de esta institución conformada por 60 miembros, así que nuestra primera pregunta es obligada: ¿Le gustaría que los titulares no tuvieran que recalcar esta cuestión de género? “Aún es importante resaltarlo porque uno de los factores de esta brecha es que las mujeres tenemos una falta de reconocimiento y visibilidad en las carreras técnicas”, responde esta investigadora en ciencias de datos, experta en inteligencia artificial (IA), licenciada en Ingeniería de Telecomunicaciones y doctora por el Media Lab del Instituto Tecnológico de Massachusetts (MIT).
Por esta misma razón, se muestra satisfecha de que existan cinco mujeres y cuatro hombres en el Grupo de Sabios en el que participa para asesorar al Gobierno en materia de big data e IA a través de la elaboración de un Libro Blanco, aunque destaca que esas nueve personas representan una diversidad más allá del género, dado que pertenecen a diferentes generaciones, proceden de todo tipo de organizaciones —universidades, empresas, ONGs…— y cuentan con experiencia en distintas disciplinas.
“Cuando contactaron conmigo para formar parte de este grupo insistí mucho en que debíamos ser un colectivo muy diverso dado que estas tecnologías son absolutamente transversales y tienen el poder de transformar todos los ámbitos de la realidad, así que si íbamos a recomendar cómo crear una estrategia nacional en IA, teníamos que ser una amplia representación de la sociedad”, comenta a EL PAÍS Retina tras su intervención en una conferencia internacional sobre IA organizada en Madrid por el Instituto Santalucía y Afi.
Un asunto crítico
En principio, ese Libro Blanco iba a publicarse el pasado 31 de julio, pero el cambio de Gobierno del 1 de junio trastocó los planes y de momento no ha trascendido ninguna otra fecha para que vea la luz. “No sé cuándo saldrá finalmente, pero la Comisión Europea hizo un comunicado la semana pasada sobre IA y uno de los mandatos a los estados miembros es que deben tener su estrategia nacional en esta materia para mediados de 2019, así que urge que España tome medidas”, apunta Oliver.
En su opinión, estamos hablando de un asunto “crítico” y “lo fuerte” es que tanto países de nuestro entorno como otros en desarrollo ya hayan publicado documentos con sus planes en lo referente a estas tecnologías, mientras nosotros “seguimos sin salir en la foto”. A nivel comunitario, esta investigadora también colabora en los grupos de trabajo de los expertos de la Comisión Europea que preparan el plan para todos los estados miembros, que podría lanzarse a principios de 2019.
Por lo que respecta a España, las recomendaciones de ese Libro Blanco cubren cinco dimensiones “fundamentales” de la IA: la tecnológica, la legal y ética, la laboral, la económica y la social. Según Oliver, este enfoque transversal incide en ver la disrupción como una oportunidad y aprovechar todo su potencial en beneficio de todos los ciudadanos. Por ejemplo, según la consultora PwC, en 2030 la inteligencia artificial provocará un incremento adicional de 15,7 billones de dólares (15,7 trillones americanos) del PIB mundial y los datos que maneja Oliver señalan que a nivel nacional esto puede traducirse en un incremento adicional del 0,8% de nuestro PIB. “Lo ideal es que seamos capaces de redistribuir esa riqueza extra para aumentar la calidad de vida de todos, no solo de unos pocos. Tenemos la oportunidad de repercutir ese impacto económico en un empoderamiento social, pero debemos estar bien preparados para ello”, según Oliver.
Para lograrlo, una de las claves es que exista “un compromiso” por parte del Gobierno para implementar las recomendaciones de los expertos. Asimismo, al igual que sucede en otros países, con el fin de asegurar un impacto positivo de la IA debe existir un amplio conocimiento en las propias administraciones públicas para que entiendan dónde están las oportunidades y tomen “decisiones informadas” sobre estas tecnologías: “Se podría crear algún tipo de departamento o centro neutral sin ninguna afiliación política, con expertos y expertas que asesoren a los gobiernos”, según Oliver.
La importancia de la emoción
Oliver también apunta la necesidad de una transformación educativa que prepare a los profesionales ante la demanda laboral que generará la tecnología. A corto plazo se estima que en la Unión Europea hará falta cubrir unas 900.000 vacantes. En su opinión, la inversión en esa formación debe tener en cuenta tanto la impartición de conocimientos como el desarrollo de la inteligencia emocional, sobre todo en aquellos adultos que tengan que reinventarse para desempeñar tareas que hasta ahora les eran desconocidas: “Al ser humano nos cuesta cambiar y más aún a medida que envejecemos, por lo que hay que cuidar mucho la parte emocional de estos profesionales”.
Por lo que respecta a la educación obligatoria de los más pequeños, Oliver remarca la necesidad de impartir una asignatura troncal de pensamiento computacional con cinco áreas de conocimiento: algoritmos, programación, hardware, datos y redes. “Todos los niños y adolescentes deberían ser competentes en esas materias y, al mismo tiempo, desarrollar habilidades como la creatividad, la inteligencia emocional y la inteligencia social, que cada vez serán más importantes para adaptarnos al cambio constante y para coexistir tanto con la tecnología como con el planeta y entre nosotros mismos”.
De momento, Oliver cree que el nivel de conocimientos tecnológicos del ciudadano medio es “alarmante”, por lo que, parafraseando a Marie Curie, remarca que si normalmente los humanos tememos lo que no entendemos, es el momento de entender más para temer menos. “Hay que educar mucho más para cambiar los sentimientos negativos con respecto a muchos aspectos tecnológicos que son alimentados por un desconocimiento combinado con titulares apocalípticos, cuando en realidad existe una visión mucho más positiva y constructiva”, concluye Oliver.
Los chinos se saltan dos pasos
El equipo de He Jiankui ha elegido un concepto de frontera entre la cura y la mejora
creará un laboratorio internacional en microscopias avanzadas, en colaboración con la Universidad Científico Tecnológica de Hong Kong (HKUST), cuyo acto de presentación tendrá lugar el próximo lunes 19 de noviembre
La Universidad de Zaragoza y la Universidad Científico Tecnológica de Hong Kong (HKUST) crean una Laboratorio internacional referente en microscopías avanzadas
Ambas instituciones firman un convenio de colaboración que potenciará las investigaciones en nanociencia de cada institución
El alto nivel del Laboratorio de Microscopías Avanzadas (LMA), instalación científico técnica singular, posiciona al Instituto de Nanociencia de Aragón como referente europeo y, desde ahora, asiático
El INA, seleccionado para formar parte de un consorcio europeo de microscopía electrónica con 20 socios, que Europa financia con 10 M€
(Zaragoza, lunes, 19 de noviembre de 2018). Zaragoza y Hong Kong se posicionarán a partir de ahora como referentes mundiales en microscopías avanzadas para el estudio de nuevos materiales destinados a la fabricación de sensores y de nanopartículas para aplicaciones en nanobiomedicina, alimentación y detección de contaminantes en el medio ambiente, gracias a la constitución de un laboratorio internacional cuyo convenio se ha firmado hoy entre la Universidad de Zaragoza y la Universidad Científico Tecnológica de Hong Kong (HKUST, Hong Kong University of Science and Technology).
La creación de dicho laboratorio surge del alto nivel de la microscopía del Laboratorio de Microscopías Avanzadas (LMA) - instalación científico técnica singular—ubicado en el Instituto de Nanociencia de Aragón (INA) y la estrecha relación de trabajo que mantiene con una de las mejores Universidades asiáticas referente además encaracterización de materiales.
De hecho, el Laboratorio de Microscopías Avanzadas (LMA) es uno de los centros de referencia de un consorcio europeo formado por 15 centros europeos de microscopía electrónica y 5 empresas, lo que posiciona al Instituto de Nanociencia de Aragón a la cabeza de Europa en este ámbito.
Por su parte, la Universidad Científico Tecnológica de Hong Kong (HKUST), a pesar de su juventud (se creó hace 25 años), cuenta con un amplio abanico de grados y másteres muy competitivos y una división de estudios medio ambientales interdisciplinar, con una plataforma experimental puntera en el análisis profundo de la materia.
“La firma de este convenioconstituye una iniciativa pionera en este campo, que permite una vinculación estrecha con el sudeste asiático”, ha destacado el rector del campus público aragonés, José Antonio Mayoral en la firma del convenio, que ha sido suscrito además por el Profesor King Lun Yeung, co-director del mencionado Instituto, en representación de la universidad de Hong Kong.Y ha añadido que: “Ambas instituciones se posicionan así a la cabeza mundial en la detección de contaminantes mediante las más avanzadas técnicas de microscopía”.
A la firma del convenio, que ha tenido lugar esta mañana en el Paraninfo, han asistido el secretario general técnico del Departamento de Innovación, Investigación y Universidad del Gobierno de Aragón, Fernando Beltrán, el vicerrector de Política Científica, Luis Miguel García Vinuesa, el director del Instituto de Nanociencia de Aragón, Ricardo Ibarra y la investigadora y secretaria de la Fundación INA, Pilar Cea.
La finalidad de este Laboratorio conjunto es compartir las infraestructuras y establecer colaboraciones en un campo interdisciplinar. Por eso, además del intercambio de expertos, se promoverán programas conjuntos de formación de investigadores y de atracción de empresas de ambos continentes. Y para lograrlo,se ha estipulado que la utilización de ambas infraestructuras científicas estará amparada por las mismas condiciones de acceso, la promoción de intercambios de científicos y la realización de trabajos conjuntos de investigación.
Aplicaciones del LMA, una de las 5 ICTS de Aragón
Aragón ha visto ampliado su potencial investigador, a nivel científico y empresarial en el ámbito de la nanotecnología y los materiales avanzados, desde la inauguración del Laboratorio de Microscopías Avanzadas en el 2010, ubicado en el Instituto de Nanociencia de Aragón, bajo la dirección del profesor Ricardo Ibarra. El Gobierno de Aragón ha participado en la Fundación Instituto de Nanociencia desde el año 2015, apoyando económicamente el trabajo en este ámbito, la colaboración con empresas y la retención de talento.
Los servicios de microscopía que ofrece el LMA, que permiten la caracterización y manipulación de los materiales a nivel atómico, han sido utilizados por multitud de centros de investigación nacionales e internacionales y por más de una treintena de empresas de muy diversos sectores: textil, electrónica, bioquímica, salud y agroalimentaria, entre otras.
El Laboratorio de Microscopias Avanzadas (LMA) es una de las cinco Instalaciones Científicas y Técnicas Singulares(ICTS) que se hallan en Aragón y una de las cuatro en las que participa la Universidad de Zaragoza. El campus público aragonés forma parte delLaboratorio Subterráneo de Canfranc (LSC), la Red Española de Supercomputación (RES), y el centro de Producción y caracterización de Nanomateriales, Biomateriales y Sistemas en Biomedicina (NANBIOSIS). Así consta en la última actualización ministerial del mapa de estas instalaciones, donde también aparece el Observatorio Astronómico de Javalambre.
Proyecto europeo INA-Ricardo Ibarra
A todo este potencial conseguido por el Instituto de Nanociencia de Aragón, se une la reciente consecución de un proyecto europeo de gran nivel, que refuerza su papel de liderazgo en la investigación de nanociencia a nivel mundial.
Se trata del proyecto ESTEEM3 (European Network for Electron Microscopy) para la creación de un consorcio recientemente aprobado por la Comunidad Europea que tiene por finalidad situar los centros más avanzados en microscopía en Europa –como el INA- y financiar a los investigadores de toda Europa para que presenten sus proyectos de investigación para la realización de observaciones en los mismos.
Para ello realiza un aporte económico de 10 millones de euros a ciertas infraestructuras avanzadas y consolidadas en microscopia. La finalidad es la optimización de recursos e infraestructuras científicas. El centro aragonés (que recibirá un presupuesto de 446.000€ dentro de este proyecto europeo)dará acogida durante los próximos cuatro años a investigadores provenientes de laboratorios europeos que necesiten de sus instalaciones, por lo que el LMA pasa a ser un centro neurálgico de la microscopia electrónica en Europa.
Es por ello que la nueva alianza con la Universidad de Hong Kong adquiere un mayor relieve en el proceso de internacionalización de nuestras infraestructuras, dado que Aragón servirá de puente entre Europa y el sudeste asiático en el campo de la nanociencia y nanotecnología.
email UZ 19 nov 2018
____
“Hallamos que las dendritas son híbridos que hacen procesos tanto análogos como digitales, por lo cual son fundamentalmente distintas de las computadoras puramente digitales pero algo parecidas a las computadoras cuánticas, que son análogas”, analizó Mehta. También esto trastorna las bases de la neurociencia, que daba por sentado que las neuronas eran digitales: o bien generaban un impulso determinado, o bien no lo hacían. Pero no mostraban fluctuaciones analógicas.
La actividad neuronal in vivo se mide principalmente mediante puntas somáticas extracelulares, que proporcionan información limitada sobre el cálculo neural. Por lo tanto, es necesario grabar a partir de dendritas neuronales, que generan potenciales de acción dendríticos (DAP) e influyen profundamente en la computación neural y la plasticidad. Medimos el potencial de membrana dendrítica (DMP) sub y supraumbral neocortical de las dendritas más distales putativas utilizando tetrodos en ratas de comportamiento libre durante varios días con un alto grado de estabilidad y resolución temporal inferior al milisegundo. Las tasas de disparo DAP fueron varias veces mayores que las tasas somáticas. Las tasas de DAP se modularon por fluctuaciones de DMP por debajo del umbral que eran mucho más grandes que la amplitud de DAP, lo que indica una codificación híbrida analógica-digital en las dendritas. La DAP y DMP parietales exhibieron mapas espaciales egocéntricos comparables a las neuronas piramidales. Estos resultados tienen implicaciones importantes para la codificación neural y la plasticidad.
La Carta Magna de Tim Berners-Lee tiene tres ejes principales:
El primero se encuentra del lado de los gobiernos, quienes deberán garantizar que sus ciudadanos tengan acceso completo a internet y que se respete su privacidad para que tengan la posibilidad de estar en línea libremente, de forma segura y sin miedo.
Las empresas deben comprometerse a hacer que internet sea asequible y accesible para todos, respetando la privacidad del consumidor y los datos personales. También a desarrollar tecnologías que aseguren que la web sea un bien público que pone a las personas primero.
Por último, los usuarios de internet deberían tener la responsabilidad de crear contenido web que sea relevante, construir comunidades que respeten el discurso civil y la dignidad humana. Además de luchar por una web abierta que sea un recurso público global para personas de todo el mundo.