Por qué la transparencia de los modelos IA ayuda a desarrollar una IA segura. Y some news…

Forwarded this email? Subscribe here for more Por qué la transparencia de los modelos IA ayuda a desarrollar una IA segura. Algunos famosos fatalistas IA se han reunido en Londres para saludar al público y hacer parecer listo a Rishi Sunak (con dudoso éxito). Fernando Polo Nov 5   READ IN APP   En la semana de la cumbre sobre seguridad IA, Meta y Demócrata organizaban en Madrid un desayuno de trabajo con Carlos Romero y Markus Reinisch. El primero es el responsable de transformación digital de la representación permanente española en Europa, y participa en el comité que asesora al Parlamento Europeo en la elaboración de la ley IA de la UE. El segundo, VP de Asuntos Públicos en Europa de Meta. Yo acudía en calidad de presidente del Foro IA. El lunes se publicarán las conclusiones. Por mi parte, creo que la intervención que cambió el paso fue la de David Llorente de Narrativa, que señaló que de regular habría que hacerlo para que el próximo OpenAI fuera europeo, y no poner trabas y evitar que se creen empresas de referencia de IA europeas. Desayuno Demócrata y Meta. Cumbre sobre el desarrollo seguro de la IA. En la primera edición de la AI Safety Summit, líderes tecnológicos, políticos y académicos debatieron en Londres sobre oportunidades y riesgos asociados a la IA. Varios países firmaron la declaración de Bletchley Park para el desarrollo seguro y responsable. Pero lo cierto es que con EE.UU. regulando por su cuenta, la UE a punto de definir su propio marco jurídico, China en su propio contexto y Rusia defendiendo la no regulación, no deberíamos engañarnos: este ha sido un evento más simbólico que vinculante. Primer párrafo de la declaración: La Inteligencia Artificial (IA) presenta enormes oportunidades globales: tiene el potencial de transformar y mejorar el bienestar humano, la paz y la prosperidad. Para lograrlo, afirmamos que, por el bien de todos, la IA debe diseñarse, desarrollarse, desplegarse y utilizarse de forma segura, centrada en el ser humano, fiable y responsable. Acogemos con satisfacción los esfuerzos realizados hasta ahora por la comunidad internacional para cooperar en materia de IA con el fin de promover el crecimiento económico integrador, el desarrollo sostenible y la innovación, proteger los derechos humanos y las libertades fundamentales, y fomentar la confianza pública en los sistemas de IA para que desarrollen plenamente su potencial. Autor desconocido, visto en la cuenta X de Elon Musk. Como se comenta en The Guardian, la idea de que la inteligencia artificial presenta un riesgo existencial para la humanidad es algo que sigue dividiendo la opinión de científicos científicos y no parece que la cumbre haya cambiado nada sobre esto. El pasado lunes, uno de los padrinos de las redes neuronales y director científico IA de Meta, Yann LeCun acusaba duramente en X a algunas cabezas muy visibles de meter miedo para generar regulación que beneficie a las grandes corporaciones: He argumentado muchas veces que los escenarios catastrofistas que teméis son absurdos. No voy a repetirlos aquí. Pero la cuestión principal es que si los sistemas de IA potentes se guían por objetivos (que incluyen "guardrails"), serán seguros y controlables porque *nosotros* fijamos esas barreras y objetivos. Junto a Andrew Ng (otro padrino, la criatura tiene varios) se han convertido en las figuras más relevantes frente a Geoffrey Hinton o Yoshua Bengio (padrinos ambos también) que sí han decidido optar por avisarnos del lobo que podría venir. La Orden Ejecutiva del gobierno americano. Esta misma semana, Joe Biden ha publicado una Orden Ejecutiva que establece "nuevas normas de seguridad y protección de la IA, protege la intimidad de los estadounidenses, fomenta la equidad y los derechos civiles, defiende a los consumidores y a los trabajadores, promueve la innovación y la competencia, impulsa el liderazgo estadounidense en el mundo, etc". Destaco las normas de seguridad IA: Exigir que los desarrolladores de los sistemas de IA más potentes compartan los resultados de sus pruebas de seguridad y otra información crítica con el gobierno de EE.UU. Desarrollar normas, herramientas y pruebas que ayuden a garantizar que los sistemas de IA son seguros y fiables. Proteger contra los riesgos de utilizar la IA para diseñar materiales biológicos peligrosos. Proteger a los estadounidenses del fraude y el engaño posibilitados por la IA estableciendo normas y mejores prácticas para detectar contenidos generados por la IA y autenticar contenidos oficiales. Establecer un programa avanzado de ciberseguridad para desarrollar herramientas de IA que permitan detectar y corregir vulnerabilidades en software crítico. Ordenar el desarrollo de un Memorándum de Seguridad Nacional que dirija nuevas acciones sobre IA y seguridad. Algunos piensan que esta Orden Ejecutiva es un conjunto de aportaciones políticas de muchas partes interesadas y que sin ser ley, parece sobre todo querer poner puertas a la IA sin consenso científico (como sí ocurre con el cambio climático) y que terminará estrangulando el desarrollo de la inteligencia artificial. En palabras de Steven Sinofsky "es mucho menos un documento sobre lo que debería hacerse con el potencial de la tecnología que uno que busca los límites de lo que puede hacerse legalmente para frenar la innovación". Tim O'Reilly tiene una visión más positiva sobre OE, aunque piensa que se centra más en unos hipotéticos riesgos existenciales futuros que en los problemas que experimentamos ya hoy (una postura cercana a LeCun). Transparencia y apertura de los modelos: antídoto, no veneno. Stanford's Center for Research on Foundation Models (CRFM) ha creado el Foundation Model Transparency Index, que puntúa a los creadores de modelos según 100 indicadores. Puedes leer el paper completo, o ir a directo a los resultados. "El modelo mejor puntuado obtiene sólo 54 puntos sobre 100. Ninguno está cerca de ofrecer una transparencia adecuada, lo que revela una falta de transparencia fundamental en la industria de la IA."  Hace un mes, Github, Creative Commons y otras organizaciones elaboraron un documento explicando cómo la defensa de estos modelos abiertos debería quedar reflejada en la ley europea que se avecina. Y esta semana se ha hecho otra declaración coordinada por Mozilla y firmada por cientos de profesionales y científicos (Andrew Ng, LeCun y O'Reilly entre muchos otros), para defender la apertura de modelos fundacionales. Yo también he firmado: Los modelos abiertos conllevan riesgos y vulnerabilidades: actores malintencionados pueden abusar de ellos o ser desplegados por desarrolladores ineptos. Sin embargo, hemos muchas veces que lo mismo ocurre con las tecnologías patentadas, y que aumentar el acceso público y el escrutinio hace que la tecnología sea más segura, no más peligrosa. […] La historia demuestra que precipitarse hacia el tipo equivocado de regulación puede conducir a concentraciones de poder que perjudiquen la competencia y la innovación. Los modelos abiertos pueden informar un debate público y mejorar la elaboración de políticas. Si nuestros objetivos son la seguridad y la rendición de cuentas, la apertura y la transparencia son ingredientes esenciales para alcanzarlos. ¿Puede la regulación matar la innovación? Con la Orden Ejecutiva de Biden, como con la anticipada ley IA de la UE, el problema es que estamos en una fase demasiado incipiente para legislar sobre algo tan general como la IA. Pero al mismo tiempo, no queremos que un exceso de laissez-faire haga que el desarrollo se escape fuera del control humano. La IA tiene demasiadas aristas y evoluciona demasiado rápido. Nos estamos centrando en los riesgos, pero cuesta poner foco en el desarrollo de los beneficios (muchos). Le decía a Carlos Romero en el desayuno de Meta que me alegraba de no estar en su piel. Prefiero ir a dar mi punto de vista, que verme con la responsabilidad de forzar una legislación en los próximos dos meses (en parte porque acaba la presidencia española) cuando aún no estamos preparados para anticipar lo que viene. No tiene por qué ser permanente o definitiva, pero la regulación que llegue tendrá un impacto en el desarrollo tecnológico, la innovación y el desarrollo de startups y en el progreso social de los próximos años. Buena suerte a todos. El próximo domingo, vuelvo a tu buzón. Fernando. Jugando con DALL-E 3 para ilustrar un experimento sonoro. La semana que viene lanzamos Rebel Intel: The podcast, una colaboración entre Business+ y Good Rebels para dotar a este newsletter de versión sonora. Cada semana, Isabel Benítez y servidor haremos lo posible para olvidar que una cámara convierte el podcast en videopodcast. Disponible en sus plataformas favoritas de podcast, en Business+ y en YouTube. Rebel Intel: The Podcast. Gracias por leer Rebel Intel! Suscríbete para recibir el boletín en tu correo. Enlaces de interés para el profesional MCX. Esta semana, mi amigo y colaborador Carlos Corredor ha sido de gran ayuda ayudándome a seleccionar varios enlaces relevantes. Cada vez hay más, y junto al grano, también crece la paja: Meta, Google, TikTok, Amazon están poniendo a disposición de los anunciantes herramientas de IA para generar los anuncios y mejorar las fotografías. Para el anunciante, supone un ahorro de costes (sesiones de shooting, creatividad, etc) y ayuda a hacer más atractivas las imágenes. Lo que ocurre es que rápidamente se llenará todo de imágenes algo "impostadas". ¿Buscará el comprador contexto en otros sitios online en búsqueda de la "autenticidad perdida"? ¿Irá a leer reseñas, mirar fotos reales de otros compradores, buscando otras webs con referencias…? ¿O nos acostumbraremos y seguiremos la ley del mínimo esfuerzo? NYMAG Un ejemplo de uso de la IA conversacional en la investigación de mercado: Avery es un bot que se adapta a las características demográficas de los clientes para hacerles sugerencias personalizadas. Ha sido entrenado a partir de los hábitos de compra de 1.000 usuarios de la Generación Z. BUSINESS INSIDER 7 casos de uso de la IA generativa aplicada a mejorar la experiencia de cliente: desde asistentes de voz contextuales, IA que analiza y mejora el customer journey hasta respuestas de FAQs personalizadas. CXNETWORK Por cada dólar que las empresas invierten en IA, obtienen un rendimiento medio de 3,5 dólares, y un 5% de las organizaciones obtienen un rendimiento medio de 8 dólares. El 92% de las implantaciones de IA están tardando 12 meses o menos. Infografía del estudio de IDC sobre el valor empresarial de la IA (ojo, está patrocinada por Microsoft :) IDC Frente a la tormenta que se avecina, un magnífico informe sobre el marco regulatorio y consideraciones a tener en cuenta. El panorama regulatorio global de la IA, según EY Genie, desarrollado por Luna, es una aplicación que genera diseños en 3D a partir de texto. Escribes un prompt y Genie genera cuatro modelos 3D diferentes, que se pueden descargar en formato GLB. Permite detallar los materiales, texturas y estilos de los modelos, y verlos en realidad aumentada. Está disponible gratis en Discord. ¿Un game changer para industrias como los videojuegos? THE DECODER Los nativos digitales parecen unos buenos aliados para la IA. El 88% de los jóvenes (Gen Z) considera que la IA mejorará la experiencia de compra, gracias a funcionalidades como las comparativas de precios (47%), la búsqueda de ofertas (45%), la recepción de ofertas relevantes y sugerencias de productos (41%), la asistencia personalizada (37%) y la búsqueda de opiniones (28%). RETAIL CX El uso de herramientas IA en la "creator economy". Cómo suben y bajan de popularidad las herramientas, como Midjourney permite ahora mezclar dos imágenes, datos de uso y mucho, mucho más en un largo e interesante artículo de Rex Woodbury. PIXEL PERFECT Cómo la IA le ha cambiado el paso al marketing en 2023: "Los días de las campañas creativas de marketing y publicidad al estilo de Mad Men han quedado atrás. Tras años de lo que los consultores llevan tiempo llamando "transformación digital", el marketing "ha pasado de ser un campo principalmente creativo a otro profundamente basado en los datos", especialmente para quienes venden a empresas, afirma Kelsey Havens, responsable de marketing de Upbound." VENTURE BEAT LinkedIn incorpora funcionalidades IA: leen el feed del usuario y crean resúmenes personalizados; también detectan qué contactos están hablando de determinado tema, y prestan asistencia para redactar, tanto contenidos como propuestas de candidatos buscando empleo. De momento, solo para usuarios premium. FAST COMPANY Apple no ha dejado nunca de trabajar en IA (y en IA generativa), pero parece que todo este frenesí del 2023 le haya pillado un poco fuera de juego. Pero a su ritmo, y sin darnos cuenta, ya tenemos en el mercado los nuevos chips M3 optimizados para el uso de IA generativa en los mac y progresivamente, se van conociendo detalles de cómo la IA irá permeando progresivamente en el software de Apple y de los desarrolladores para sus sistemas operativos. BLOOMBERG, CHIPS Chat GPT lidera las descargas de apps IA en dispositivos móviles: 23 millones en septiembre, y 38,8 millones de usuarios activos. Sin embargo, no es la app que más ingresos genera; estas son Chat & Ask AI y ChatOn. TECHCRUNCH Ojito con los detectores de contenido creado por IA. AUTHORY Gracias por leer Rebel Intel! Suscríbete para recibir el boletín en tu correo.

La Declaración de Bletchley: el primer paso de consenso global para regular los riesgos de la inteligencia artificial

(Diario elEspañol)

La Declaración de Bletchley: el primer paso de consenso global para regular los riesgos de la inteligencia artificial

Resumen con Claude2:

El texto analiza la Declaración de Bletchley, firmada por las principales potencias mundiales, como un primer paso hacia la regulación global de los riesgos de la inteligencia artificial (IA). La declaración reconoce el potencial de la IA pero también la necesidad de desarrollarla de forma segura y responsable.

Destaca la importancia histórica de la firma por parte de Estados Unidos y China, dos rivales tecnológicos que se comprometen a cooperar internacionalmente en este tema. También participaron la UE, representada por España, y otros países como Emiratos Árabes, India, Japón, etc.

La declaración identifica riesgos como la ciberseguridad, desinformación y uso de IA en áreas sensibles. Hace un llamado a la transparencia y la cooperación internacional para gestionar estos riesgos. Propone desarrollar regulaciones nacionales y códigos de conducta, así como una red global de investigación sobre seguridad de IA.

Señala el liderazgo de la UE en regulación de IA, con la próxima aprobación de la AI Act para gestionar riesgos y proteger derechos fundamentales. China también avanza hacia una ley nacional de IA. Estados Unidos da pasos con orden ejecutiva y participación en foros internacionales.

En resumen, el texto analiza el hito que significa este consenso global inicial sobre la necesidad de regular la IA para gestionar sus riesgos y aprovechar sus beneficios de forma ética.

Texto completo:

Un análisis en profundidad de la declaración firmada ayer por las principales potencias mundiales arroja la necesidad de abordar de forma internacional los riesgos y oportunidades asociadas a la IA. Bletchley Park, en Reino Unido, ha sido el escenario escogido para celebrar una de las jornadas que se presumen históricas a futuro.

En ella, ha tenido lugar la primera cumbre mundial sobre seguridad alrededor de la inteligencia artificial (IA) que ha alineado a buena parte de la comunidad internacional en torno a las amenazas relativas a esta nueva tecnología. La reunión ha sido más que fructífera y ha dado como resultado, tras más de 24 horas de reuniones, la llamada Declaración de Bletchley, con la que los participantes se comprometen a impulsar la cooperación para evitar los futuros riesgos derivados sobre la aplicación de la IA. [La presidencia española del Consejo de la UE: seis meses para reescribir las leyes de la era digital] Este documento no es solo reseñable en sí mismo, ya que existen diferentes comunicaciones conjuntas en este sentido entre distintas regiones, sino que se apunta como un movimiento transgresor, especialmente, por los 29 países firmantes del mismo . Entre ellos, Alemania, Australia, Brasil, Canadá, Chile, Emiratos Árabes Unidos, España, Filipinas, Francia, India, Indonesia, Irlanda, Israel, Italia, Japón, Kenia, Nigeria, Países Bajos, Arabia Saudí, Reino Unido, Corea, Ruanda Singapur, Suiza, Turquía, Ucrania o la Unión Europea. A ellos se suman, además, China y Estados Unidos, las dos regiones que hacen de esta cumbre algo novedoso e histórico, ya que se trata de dos potencias conocidas como rivales, especialmente en lo que refiere al ámbito tecnológico. Ambas, no obstante, han suscrito las conclusiones recogidas en este encuentro, alineándose con la comunidad internacional para legislar y profundizar en el despliegue de la inteligencia artificial. La importancia de la cumbre celebrada en Reino Unido también viene respaldada por la asistencia de importantes actores del ecosistema tecnológico como Elon Musk. 

El magnate estadounidense, responsable de empresas como Tesla o X (antes Twitter) y fundador de OpenAI, la empresa impulsora del famoso ChatGPT, concebida como la herramienta que democratizó el uso de la IA, afirmó tras la cita que "la seguridad de la IA es vital para el futuro de la civilización". 

Por parte de España, a la cita acudió la secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, apenas días después de que se conociese que copresidirá el nuevo órgano anunciado por la ONU para la gobernanza alrededor de la inteligencia artificial. Durante sus intervenciones en el encuentro en Bletchley Park, Artigas ha compartido la experiencia española en la puesta en marcha de la Agencia Española de Supervisión de la Inteligencia Artificial , que empezará a operar en diciembre , así como los avances relativos a la negociación del futuro reglamento europeo de IA , donde el país tiene un papel fundamental como presidente del Consejo de la Unión Europeo. [EEUU quiere regular la inteligencia artificial pero no sabe cómo: "Europa va por delante. Necesitamos liderar"] A lo largo del evento, la secretaria de Estado española ha compartido en X instantáneas de las personas con las que ha podido mantener conversaciones y encuentros, entre ellas, Musk; la secretaria de Comercio de Estados Unidos, Gina Raimondo, con la que ha hablado sobre el futuro de la IA, pero también de otras igual de relevantes como los chips; o el secretario de Estado de Economía Digital, IA y Aplicaciones de Trabajo a Distancia de Emiratos Árabes Unidos, Omar AlOlama, con el que ha intercambiado opiniones sobre la digitalización. Artigas ha destacado que este summit ha ocurrido en "un momento muy oportuno", ya que existe una conciencia extendida de la necesidad de controlar los riesgos que entraña el despliegue de la IA. Según ha afirmado, si se espera a regular esta tecnología, los daños causados serán irreversibles. La declaración servirá de base para la celebración de diferentes cumbres globales sobre la seguridad en la IA que tendrán lugar cada seis meses. Tras Reino Unido, Corea del Sur será la encargada de albergar la próxima y, a continuación, será el turno de Francia. Según ha apuntado el primer ministro de Reino Unido, Rishi Sunak, anfitrión de la primera versión de esta reunión, el objetivo es crear un panel que evalúe periódicamente los avances y amenazas en este campo. 

La Declaración de Bletchley, publicada el 1 de noviembre, reconoce, en primer lugar, el potencial relativo a la inteligencia artificial como una herramienta capaz de "mejorar el bienestar humano, la paz y la prosperidad". Aún así, precisa que, para avanzar en este camino, es necesario que la IA se desarrolle de forma segura, con una perspectiva humanista y responsable, especialmente en sectores críticos como la salud o la educación. "Es un momento único para actuar y garantizar que todas las oportunidades transformadas de esta tecnología se usen para el bien", afirman en la misiva los firmantes. Ante este escenario, la declaración desgrana algunos de los riesgos más importantes en este campo, derivados de un mal uso intencional o de la ausencia de control, y celebra un acuerdo internacional para mitigarlos o eliminarlos, destacando su importancia "crítica" y la urgencia que suscitan. Entre ellos, destacan los relativos a ámbitos como la ciberseguridad o la biotecnología, así como la amplificación de la desinformación. "Dado el rápido e incierto ritmo de cambio de la IA, y en el contexto de la aceleración de la inversión en tecnología, es especialmente urgente profundizar en la comprensión de estos riesgos potenciales y de las acciones para abordarlo", apuntan. [La biometría en tiempo real en espacios públicos, el escollo a superar para la adopción de la Ley de Inteligencia Artificial] En este camino, precisan que los desafíos relacionados con esta herramienta son eminentemente internacionales, por lo que la mejor manera de abordarlos es mediante la cooperación. El objetivo, precisan, es avanzar hacia una IA humanista, fiable, responsable y segura respaldada por un entorno regulatorio y de gobernanza "proporcionado" y que garantice, a su vez, la innovación. Aquí, proponen desarrollar clasificaciones o categorizaciones de riesgo basadas en las circunstancias nacionales y los marcos legales aplicables, más allá de los códigos de conducta comunes. Asimismo, la declaración pide a todos los actores relevantes en este campo que sean transparentes y rindan cuenta apropiadas para medir, monitorizar y mitigar las capacidades potencialmente dañinas y los efectos asociados que puedan surgir de su aplicación. 

Los firmantes avanzan sus acciones en dos ramas distintas , por un lado, en la identificación de los riesgos de seguridad de la IA de interés compartido y, por otro, en la construcción de políticas basadas en ellos en los diferentes países que garanticen la seguridad. Así, proponen una red de investigación internacional sobre la seguridad de la IA que, a través de la colaboración, facilite la formulación de políticas y el bien público en este campo. El encuentro auspiciado por el gobierno británico supone la culminación de un ejercicio de realismo multinacional en el que las distintas potencias globales han ido acercándose a las posiciones que ha marcado desde un inicio la Unión Europea y que veremos a continuación. 

Uno de los países más celosos de imponer, vía regulatoria, límites al desarrollo de la inteligencia artificial ha sido Estados Unidos. Sus temores, ligados a un posible frenazo a la innovación y al respeto a los códigos de autocumplimiento de las grandes multinacionales tecnológicas, han ido cayendo en saco roto ante el avance y la demostración de los peligros de la IA en los últimos meses. [ España formará parte del organismo de la ONU que regulará el futuro de la inteligencia artificial ] Sin embargo, la Administración Biden ha ido dando pasos poco a poco en la dirección del consenso que ahora conocemos. En la última reunión del G7 , el gobierno estadounidense aceptó sumarse a esta ola, pero por una tercera vía, la que lidera Japón con el conocido como 'Proceso de Hiroshima' . Se trata de un foro que aspira a crear estándares internacionales para la IA, con reglas mucho más genéricas que las que propone Europea, más pragmáticas y ligadas a problemáticas concretas ya identificadas como la privacidad o los derechos de autor. En esa cumbre del G7, Estados Unidos aceptó de hecho un código de conducta -sin valor punitivo, eso sí, para favorecer la transparencia, la mitigación de los riesgos o el intercambio de información entre distintas organizaciones. Un código que se verá ampliado, como se anunció hace apenas una semana, con una orden ejecutiva para regular la inteligencia artificial. Un salto adelante, empleando esta técnica legal que permite evitar al Congreso y acelerar los plazos de implementación, con que Estados Unidos busca recuperar el tiempo perdido en cuanto a regulación tecnológica se refiere. Esta cumbre ha sido histórica no sólo por el consenso planteado respecto al futuro de la inteligencia artificial, sino también por la participación de China en estas reflexiones. El gigante asiático ha sido considerado de forma reiterada como uno de los actores más aventajados de esta industria, pero con enormes dudas y suspicacias acerca de las limitaciones y el marco normativo en que los algoritmos eran entrenados y usados por parte del gobierno comunista. Sin embargo, este país está mostrando importantes avances para alinearse con la visión occidental de este reto. De hecho, tal y como analizamos en D+I - EL ESPAÑOL , la regulación en inteligencia artificial en China se acerca a un punto de inflexión. Después de pasar varios años explorando, debatiendo y promulgando regulaciones que abordan aplicaciones específicas de IA . Ahora el siguiente paso es redactar una ley nacional integral sobre esta tecnología. Desde 2017, las autoridades en China han ido publicando diferentes normas, documentos y propuestas de regulación en torno a la inteligencia artificial. Muchas de estos textos se publicaron mucho antes del auge de ChatGPT, aunque es cierto que el ritmo se ha acelerado de forma exponencial desde el estallido de esta tecnología. De cara al futuro, no hay plazos firmes para una ley nacional de IA, pero se podría publicar una versión preliminar a finales de 2023 o 2024 , seguida de seis a 18 meses dedicados a revisar la ley. Y, como tercer eslabón en esta aventura y el más notorio en estos momentos, encontramos a la Unión Europea . Bruselas está ultimando los detalles para aprobar la AI Act, una ley a escala comunitaria para regular el uso de la inteligencia artificial y evitar sus efectos más indeseados sobre la sociedad al mismo tiempo que se utiliza esta tecnología como motor económico y de amplificación de los valores europeos. El nuevo reglamento -que entrará en vigor el 1 de enero de 2024, según anunció Carme Artigas, Secretaria de Estado de Digitalización e IA en los D+I Innovation Awards 2023 - se basa en un enfoque basado en el riesgo , tanto para la seguridad como para los derechos fundamentales de los ciudadanos. En el peldaño más alto de la pirámide se encuentran el número muy limitado de aplicaciones de inteligencia artificial que según Bruselas plantean un "riesgo inadmisible" y que se prohibirán de forma terminante . En esta lista negra, la Eurocámara ha pedido incluir la prohibición total de los sistemas de identificación biométrica remota , en tiempo real o no, en espacios públicos. En este punto, los eurodiputados se distancian de la posición común adoptada por los Gobiernos, que prevé toda una serie de excepciones por motivos de seguridad o aplicación de la ley. Será el principal escollo en las negociaciones finales. También entran en esta lista negra los sistemas que usan técnicas subliminales para eludir la voluntad de los usuarios; los modelos que permitan la "puntuación social" de los ciudadanos ; los sistemas de categorización biométrica que utilizan datos sensibles (género, raza, etnia, estado de ciudadanía, religión, orientación política); los sistemas policiales predictivos (basados en perfiles, ubicación o conducta delictiva pasada); los sistemas de reconocimiento de emociones o la recopilación indiscriminada de datos biométricos procedentes de redes sociales o cámaras de vigilancia para crear bases de datos de reconocimiento facial, como contaba nuestro corresponsal en Bruselas Juan Sanhermelando. Estos sistemas de alto riesgo estarán sujetos a una serie de obligaciones estrictas antes de poder comercializarse. Entre ellos, procedimientos adecuados de evaluación y mitigación de riesgos, garantías de alta calidad de los datos empleados, registros de actividad, información clara y adecuada a los usuarios y medidas apropiadas de supervisión humana.

Aitana López, la modelo creada por IA

Aitana López, la modelo que gana 4.000 euros al mes... creada por IA
https://www.marca.com/tiramillas/actualidad/2023/11/02/65436686e2704e55458b457f.html