Acuerdo global para una Inteligencia Artificial segura y protegida

Introducción al acuerdo global para una IA segura y protegida

En una sociedad cada vez más sumergida en lo digital y en la continua dependencia de la tecnología, es crucial disponer de regulaciones que salvaguarden nuestra seguridad. En una gesta sin precedentes, 18 actores destacados a nivel global, liderados por Estados Unidos y Reino Unido, han presentado el primer acuerdo internacional IA para garantizar que la Inteligencia Artificial segura(IA) no caiga en manos que pudieran hacer un uso indebido de ella.

Podríamos comparar este pacto a una especie de malla protectora en la jungla digital en la que la IA se erige tanto como soberano indiscutible como depredador supremo. Este pacto, que algunos han tildado de «primera barrera defensiva» frente a los de mala fe, ha propiciado un llamado a las empresas y desarrolladores de sistemas de IA a adoptar un enfoque de «IA segura por diseño«.

• En términos más comunes, esto implica que, desde el initial stage del desarrollo, se debe prever cómo proteger sistemas IA de un mal uso de la tecnología.

• Jen Easterly, la directora de la Agencia de Ciberseguridad e Infraestructuras de Seguridad de Estados Unidos, enfatiza la relevancia de contar con tantos aliados en esta «batalla por la seguridad».

• Según Easterly, el hecho de que tantos actores internacionales respalden esta iniciativa subraya que, además de ser simplemente atractivos y lucrativos, los sistemas de IA deben considerar la seguridad como un elemento fundamental desde el comienzo Raramente hemos presenciado una declaración conjunta donde se asegura que la seguridad es el factor clave en cualquier nueva tecnología que se quiere llevar al mercado, independientemente de cuánto pueda reducir costos o potenciar beneficios.

• Este panorama nos induce a reflexionar. Si cada vez dependemos más de la tecnología, este tipo de acuerdos pasan a ser una necesidad y no solo un beneficio adicional. Aunque no sea vinculante, este documento de 20 páginas es el primer escalón de un camino que todos acabaremos transitando, tarde o temprano.

• Un camino que establece recomendaciones fundamentales, como la necesidad de supervisión sistemas IA para prevenir su mal uso, protección datos IA frente a amenazas, y verificar la fiabilidad de los proveedores de software.

Como en todo, no todo son luces en este camino. Existen numerosos retos pendientes. ¿Cómo protección IA hackers? ¿Cómo diseñar pautas de seguridad IA adecuadas para los modelos IA y pruebas de seguridad antes de su lanzamiento?

• Este marco intenta responder a estas y otras interrogantes pero evita embarrarse en las conflictivas cuestiones de cómo se recopilación de datos IA que alimentan a los modelos de IA y qué usos apropiados IA son considerados «apropiados» para la tecnología.

• No hay duda que este acuerdo no abarca todos los aspectos de la IA y dejará a muchos insatisfechos que esperan respuestas más concretas y normativas más rigurosas.

Pero, ¿cómo se determinarían los «usos adecuados de la IA«? ¿Cómo se trazarían las líneas rojas en un campo tan mutable y evolutivo como es la tecnología de IA?

Asimismo, ¿será posible alguna vez garantizar una protección completa? No solo las empresas, sino también nosotros, los usuarios. Los que día tras día hacemos uso de la IA a menudo sin ser conscientes de su presencia en nuestras vidas. Los que admiramos las maravillas de la IA, pero que también somos conscientes de sus peligros.

Aquellos para quienes la IA puede presentar preocupaciones IA a la democracia, facilitar el fraude o poner en riesgo nuestros empleos.

Por el momento, dejemos las reflexiones filosóficas para otro día y celebramos este primer paso en la regulación IA Europa. Un primer paso que es un salto gigantesco para la humanidad. Un salto cada vez más necesario en un mundo donde la IA no es solo el futuro, sino también el presente.

Y es reconfortante saber que hay naciones preocupadas por nuestra seguridad. Hoy han sido 18 las que han dado ese primer paso. Mañana, quién sabe, quizá sean todas.

Directrices y recomendaciones clave

Bajo un salto audaz digno del mismísimo Felix Baumgartner, nos encontramos con que Estados Unidos, el Reino Unido y 16 países más dan el pistoletazo de salida y lanzan el «pionero» pacto internacional para mantener la inteligencia artificial (IA) fuera del alcance de los piratas informáticos. Nuestros valientes defensores proponen que las empresas diseñen sistemas de IA que sean «seguros desde su creación». Sólo esperamos que no implique la inclusión de un código críptico que sólo ellos puedan descifrar, ¿no es así?

• Este pacto, más basado en el respeto que explosivo y liderado por un documento de tipo tesis doctoral -esas 20 páginas que nos han mantenido en vilo como una final de la Copa del Mundo-, incita a las empresas de IA a desarrollar e implementar esta tecnología de tal manera que nos proteja, los simples humanos, de su mal uso. No sé por ustedes, pero creo sentirme un poco más resguardado ya.

• Ahora, veamos la parte fundamental, esas sugerencias que llenan de colorido todo este archivo. Para evitar despliegues catastróficos cual King Kong en Nueva York, plantean supervisar los sistemas de IA. También, es crucial mantener los datos a salvo de cualquier alteración, como si de preciados tesoros del Círculo Dorado se tratasen. Además, se hará necesario confirmar la identidad de los proveedores de software, para evitar las criaturas indeseables del ciberespacio.

• ¿Y quiénes son los que avalan todo esto? Bueno, figuras notables como Jen Easterly, directora de la Agencia de Ciberseguridad e Infraestructuras de Seguridad de Estados Unidos, quien subraya la importancia de dar prioridad a la seguridad en los sistemas de IA. No se trata de una carrera de velocidad ni de ser el mercadona de la IA, se trata de seguridad, queridos amigos.

• A su vez, se asoman al escenario los nombres de las grandes potencias que lideran esta iniciativa, desde el tío Sam hasta Singapur. Pero cuidado, porque no todo es purpurina y aclamaciones. El marco de este acuerdo no aborda una serie de desafíos enérgicos relacionados con los usos adecuados de la IA ni cómo se recopilan los datos que abastecen estos modelos.

• Mientras nos regocijamos con la idea de una IA protegida, cabe recordar que su auge ha despertado temores diversos, desde alteraciones en los procesos democráticos hasta pérdidas notables de empleos. En Europa, seguimos siendo pioneros en lo que a regulaciones de IA se refiere, con Dinamarca, Alemania e Italia a la cabeza.

• Con estas reflexiones claves, por el momento nos despedimos. Mantendremos un ojo puesto en esta flamante aventura de la IA. Que el espíritu tecnológico acompañe a estos valientes. Y no olviden, fieles lectores, «seguro desde el diseño» será el nuevo lema. Pero en la espera, no olviden actualizar sus contraseñas frecuentemente.

Compromiso global y firmantes del acuerdo

Desde las ondulantes colinas teutonas a las soleadas playas australes, pasando por el abundante legado histórico italiano, la pizpireta cultura polaca y las montañas de soberbia majestuosidad chilena, es evidente que nuestro globo, nuestro rincón en el universo es una pintoresca amalgama de contrastes y singularidades. Y aun así, existen ocasiones, efímeras e inspiradoras, en las que, a pesar de nuestras singulares fronteras y culturas, confluye en una decisión unánime. Uno de tales claros ejemplos radica en el muy reciente acuerdo global sobre Inteligencia Artificial segura.

• ¡Un brindis por este unificado conglomerado global de creyentes! Se ha presentado concorde en la defensa de una creencia: la seguridad no es una alternativa, sino una obligación en el progreso de la IA. Parece ser que los sistemas de IA no deben tener solo como horizonte la superioridad en funciones y la velocidad de llegada al mercado, sino que -y esto merece enfatizar- todos parecen estar de acuerdo que lo verdaderamente primordial es la seguridad desde la fase inicial de diseño. Una perspectiva tan revolucionaria podría hacer que perdamos de vista el verdadero significado de la rúbrica de tantas potencias mundiales en este acuerdo.

• Podría haberse pensado que tal coordinación entre naciones tan dispares habría encontrado obstáculos, pero no ha sido el caso. Las tensiones habituales de los vínculos diplomáticos fueron obviadas para respaldar este pacto en busca de una IA más segura, estableciendo así un fuerte precedente que promueve la concepción y el uso de la IA con la garantía de proteger a los clientes y al público de su erróneo uso. Con todos a bordo de esta nave, navegamos hacia un futuro en que la IA se presenta como un baluarte de seguridad.

• Encomiable y curiosamente estimulante resulta la diversidad de signatarios del acuerdo. No presumimos en vano al decir que tenemos todos los colores del arco iris, ¡en absoluto! Norteamérica y el Reino Unido llevaron la batuta en la firma, seguidos por una variopinta escena de naciones como Alemania con su rigurosa excelencia técnica, Italia y su perpetua pasión por la belleza, Polonia con su espíritu indomable, Australia impulsado por su innovación constante y Chile fiel a su ambición invicta. Y esto no es sino la punta del iceberg.

• Este acuerdo global, este acto majestuoso de colaboración a una escala planetaria, envía un potente mensaje. Nos ratifica que, más allá de nuestras diferencias, todos coincidimos en un principio: el futuro de la IA debe ser seguro. No se trata simplemente de huecas promesas, sino de un llamado a la acción para que las empresas instauren sistemas de IA que sean «seguros desde el diseño«. No cabe duda de que este es un magnífico reflejo de nuestra colaboración global y de nuestro incansable esfuerzo por garantizar un futuro salvaguardado para la inteligencia artificial.

Limitaciones y controversias del acuerdo

Estamos frente a un avance inédito en la senda reguladora de la Inteligencia Artificial (IA), ciertamente impresionante. No obstante, como en todo, encuentra sus peros en algunas limitaciones que no pueden ser ignoradas.

• Ante los hechos, y pese a ser fervientes defensores de la innovación y el progreso tecnológico, resulta imposible pasar por alto que este acuerdo se asemeja más a un emmental que a un mapa conciso para el manejo de la IA. ¿Las razones? Son varias.

• En primer lugar, nos topamos con un documento ensalzado como el mesías de la IA, pero que no posee carácter vinculante. Así es, no estás leyendo mal. Entre los firmantes no ha habido, al parecer, un compromiso suficiente para elaborar un acuerdo que obligue realmente a acatar lo que en él se propone. Más que un pacto, se asemeja a un listado de deseos idealistas. Un tanto parecido a las propósitos de Año Nuevo que todos planteamos… y nunca cumplimos.

• Sumado a esto, parece haber una «pequeña, o quizás no tan pequeña, omisión». No debemos olvidar que hablamos de IA, entidades que tienen un impacto significativo en nuestra vida diaria. Nos referimos a temas tan sensibles como nuestra democracia, las finanzas y el empleo. No obstante, el acuerdo internacional IA no plantea un debate acerca de los usos apropiados de la IA, ignorando así la discusión ética sobre cómo y dónde se debería implementar esta tecnología. Algo inquietante, ¿verdad?

• Otro detalle, casi insignificante para la mirada conveniente de los políticos, es el modo en el que estos sistemas obtienen datos. ¿No consideraron la posibilidad de que nuestras privacidades puedan ser violadas? De poco nos vale un blindaje sobre la IA segura por diseño, si los datos con los que se nutre han sido recolectados sin respetar nuestras libertades individuales.

Por todo lo anterior, aunque valiosa la intención, en este caso no podemos quedarnos solo con un mero intento. Esperaremos a ver si en el futuro se encaran seriamente estos temas, y se plantea un pacto que cumpla con su propósito: proteger sistemas IA, y protegernos a nosotros. Por ahora, este primer intento nos parece más un regate que un gol. ¿Quién sabe? Quizás en la segunda jugada nos sorprendan. Mientras tanto, mantendremos nuestro escepticismo.

Conclusión: La importancia de proteger la IA

En esta era de acelerado avance tecnológico, nos vemos inmersos en una realidad digital que podría ser el argumento de una película de ciencia ficción. Un escenario en el que una entidad intangible, la Inteligencia Artificial (IA), procesa enormes cantidades de información, aprende de ella e incluso toma decisiones. Impactante, ¿no crees?

Este no es solo un relato de ficción. La IA ya forma parte integral de nuestras vidas y se vuelve fundamental protegerla frente a los ciberpiratas que buscan su oportunidad. Ahora se nos presenta un acuerdo global que busca establecer, por primera vez en la historia, un marco común y estratégico para salvaguardar a nuestras máquinas aliadas y garantizar que su evolución no se parezca a un guion malicioso de «Yo Robot» o «Terminator».

• La seguridad, que con frecuencia ha sido considerada como un buzón rojo insignificante en un cielo repleto de estrellas fulgurantes, cada vez cobra mayor importancia.
• La seguridad de la IA va mucho más allá de ser un asunto secundario; es, sin duda, un eje esencial de desarrollo, tan trascendental como la inteligencia de la IA en sí.
• Este acuerdo se erige como un faro que guía a la IA segura en este hipercosmos repleto de amenazas.
• Claro, el texto no aborda los aspectos más controvertidos, como los usos apropiados de la IA o el manejo correcto de los datos que la nutren.

Pero tampoco podemos pedir milagros. Ahora, con 20 países, liderados por Estados Unidos y Reino Unido, se proponen directrices claras para proteger a la IA de la interferencia de los hackers. Todo un logro, si tenemos en cuenta que hasta ahora muchos se limitaban a hacer la vista gorda mientras los maleantes digitales actuaban a sus anchas.

El cambio de actitud de Estados Unidos es reflejo de un deseo creciente de convertir a la IA en un entorno seguro, firme y de confianza. Al final del día, no es solo una cuestión de tecnología. También trata sobre sostenibilidad, economía e incluso humanidad.

Está claro: proteger la IA no es una opción, es un deber fundamental para garantizar un desarrollo satisfactorio. Por tanto, aunque no sea vinculante, este acuerdo representa un gran paso en la dirección correcta. Y eso, amigos míos, habla volúmenes sobre el futuro de nuestra era digital.

Así que, mejor que estemos preparados… los Ramsay Bolton del mundo digital no lo tendrán fácil. ¿Hasta dónde llegaremos? ¿Cómo será el futuro? La incertidumbre es la única certeza aquí. Pero de algo estoy convencido: aún queda mucho por hacer para proteger el futuro de la IA y, en efecto, el nuestro. Mientras tanto, debemos seguir observando y aprendiendo. Recordemos siempre: más vale prevenir que lamentar.