{"id":16042,"date":"2024-04-25T09:00:22","date_gmt":"2024-04-25T07:00:22","guid":{"rendered":"https:\/\/rethinkbcn.cat\/?p=16042"},"modified":"2024-04-25T09:05:35","modified_gmt":"2024-04-25T07:05:35","slug":"la-geopolitica-en-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/rethinkbcn.cat\/es\/la-geopolitica-en-la-inteligencia-artificial\/","title":{"rendered":"LA GEOPOL\u00cdTICA EN LA INTELIGENCIA ARTIFICIAL"},"content":{"rendered":"

[et_pb_section fb_built=\u00bb1″ disabled_on=\u00bboff|off|off\u00bb _builder_version=\u00bb4.8.2″ _module_preset=\u00bbdefault\u00bb custom_margin=\u00bb||||false|false\u00bb da_disable_devices=\u00bboff|off|off\u00bb da_is_popup=\u00bboff\u00bb da_exit_intent=\u00bboff\u00bb da_has_close=\u00bbon\u00bb da_alt_close=\u00bboff\u00bb da_dark_close=\u00bboff\u00bb da_not_modal=\u00bbon\u00bb da_is_singular=\u00bboff\u00bb da_with_loader=\u00bboff\u00bb da_has_shadow=\u00bbon\u00bb][et_pb_row _builder_version=\u00bb4.8.1″ _module_preset=\u00bbdefault\u00bb][et_pb_column type=\u00bb4_4″ _builder_version=\u00bb4.8.1″ _module_preset=\u00bbdefault\u00bb][et_pb_text admin_label=\u00bbCodi \u00e0udio\u00bb _builder_version=\u00bb4.9.0″ _module_preset=\u00bbdefault\u00bb]<\/p>\n\n\t\t\n\t\t\t\n\t\t\t<\/iframe>\n\t\t<\/div>\n

[\/et_pb_text][et_pb_text admin_label=\u00bbTitular entrada\u00bb _builder_version=\u00bb4.9.0″ _module_preset=\u00bbdefault\u00bb text_font=\u00bbAverta Light||||||||\u00bb header_font_size=\u00bb36px\u00bb header_4_font=\u00bbAverta regular||||||||\u00bb header_4_font_size=\u00bb20px\u00bb header_4_line_height=\u00bb1.6em\u00bb header_5_line_height=\u00bb1.6em\u00bb header_6_font=\u00bbAverta regular||||||||\u00bb header_6_font_size=\u00bb16px\u00bb header_6_line_height=\u00bb1.2em\u00bb header_font_size_tablet=\u00bb30px\u00bb header_font_size_phone=\u00bb24px\u00bb header_font_size_last_edited=\u00bbon|phone\u00bb header_6_font_size_tablet=\u00bb\u00bb header_6_font_size_phone=\u00bb16px\u00bb header_6_font_size_last_edited=\u00bbon|phone\u00bb]<\/p>\n


<\/b> GEOPOL\u00cdTICA EN LA INTELIGENCIA ARTIFICIAL<\/h1>\n
\n

Josep Grau repasa los peligros que supone la introducci\u00f3n de la IA en las sociedades, as\u00ed como la manera en que los gobiernos, que han legislar sobre esta nueva herramienta, y las empresas, que la quieren desarrollar, ven la IA de manera antag\u00f3nica<\/p>\n<\/div>\n

[\/et_pb_text][et_pb_image title_text=\u00bbbarcelona-metropolis\u00bb align=\u00bbcenter\u00bb admin_label=\u00bbImatge entrada\u00bb _builder_version=\u00bb4.9.0″ _module_preset=\u00bbdefault\u00bb][\/et_pb_image][et_pb_text disabled_on=\u00bbon|on|off\u00bb admin_label=\u00bbText entrada escriptori\u00bb _builder_version=\u00bb4.9.0″ _module_preset=\u00bbdefault\u00bb text_font=\u00bbAverta Light||||||||\u00bb header_font_size=\u00bb36px\u00bb header_4_font=\u00bbAverta regular||||||||\u00bb header_4_font_size=\u00bb20px\u00bb header_4_line_height=\u00bb1.6em\u00bb header_5_line_height=\u00bb1.6em\u00bb header_6_font=\u00bbAverta regular||||||||\u00bb header_6_font_size=\u00bb16px\u00bb header_6_line_height=\u00bb1.5em\u00bb header_font_size_tablet=\u00bb30px\u00bb header_font_size_phone=\u00bb24px\u00bb header_font_size_last_edited=\u00bbon|phone\u00bb header_6_font_size_tablet=\u00bb\u00bb header_6_font_size_phone=\u00bb14px\u00bb header_6_font_size_last_edited=\u00bbon|phone\u00bb]<\/p>\n

Por \u00a0Josep Grau<\/strong><\/p>\n

La inteligencia artificial es clave para la transformaci\u00f3n digital, un cambio de paradigma en el que estamos todos inmersos, pero hay que saber si se trata de un cambio para los humanos, para la sociedad o para las empresas.<\/p>\n

Desde el lanzamiento del ChatGPT, la plataforma ha conseguido un crecimiento sin precedentes, con 100 millones de usuarios al mes, ha servido para popularizar la inteligencia artificial, pero tambi\u00e9n ha propiciado un amplio debate sobre los usos, sus l\u00edmites y la necesaria regulaci\u00f3n. La IA ya es geopol\u00edtica, este a\u00f1o cuatro mil millones de personas se dirigir\u00e1n a las urnas, la IA generativa ser\u00e1 utilizada por actores nacionales y extranjeros para influir en las campa\u00f1as electorales, con el fin de socavar la confianza en la democracia y sembrar caos pol\u00edtico. Los votantes acceden cada vez m\u00e1s a la informaci\u00f3n por las redes sociales, que pueden ser vulnerables y manipulables por la IA.<\/p>\n

La desinformaci\u00f3n se utilizar\u00e1 para exaltar los actuales conflictos geopol\u00edticos, como las guerras en Oriente Medio y Ucrania. Los propagandistas del Kremlin usaron la IA generativa para difundir en las redes sociales historias falsas sobre el presidente Zelenski, que luego utilizaron a los legisladores republicanos norteamericanos como argumentos para no dar m\u00e1s ayuda a Ucrania.<\/p>\n

A finales del a\u00f1o pasado se extendi\u00f3 informaci\u00f3n err\u00f3nea sobre Ham\u00e1s e Israel. La tecnolog\u00eda IA est\u00e1 a punto de convertirse en un riesgo principal para dar forma a las decisiones pol\u00edticas, cada vez m\u00e1s empleadas por los combatientes para influir en la opini\u00f3n p\u00fablica, desacreditar pruebas reales e inflamar a\u00fan m\u00e1s las tensiones geopol\u00edticas en todo el mundo.<\/p>\n

Hasta ahora, la IA ha estado dominada por Estados Unidos y China, pero en 2024 nuevos actores geopol\u00edticos ser\u00e1n capaces de desarrollar y adquirir capacidades de inteligencia artificial avanzadas, modelos apoyados por el estado y aplicaciones avanzadas para el uso de la seguridad nacional. Es comprensible que despierte tanto inter\u00e9s como para desatar las luchas afianzadas, protagonizadas por todos los agentes involucrados: est\u00e1 en juego su dimensi\u00f3n \u00e9tica y legal en la medida en que replantea la relaci\u00f3n persona-m\u00e1quina que ha vivido en los \u00faltimos a\u00f1os. Por desgracia, no todos los usos son buenos, y los ciberdelincuentes aprovechan las capacidades para cometer estafas y enga\u00f1os.<\/p>\n

Hace dos meses, Open AI, una empresa estable, gener\u00f3 uno de los seriales m\u00e1s intensos del sector tecnol\u00f3gico. Una carta a los empleados de OpenAI advert\u00eda, que el equipo de Altman estaba desarrollando una IA potencialmente peligrosa y que pod\u00eda ser una amenaza para la sociedad.<\/p>\n

Las compa\u00f1\u00edas tecnol\u00f3gicas l\u00edderes mundiales est\u00e1n ganando la batalla; Microsoft, principal inversor en OpenAI, ve encumbrado su control sobre OpenAI. Uno de los tres miembros de la nueva Junta de la compa\u00f1\u00eda, curiosamente, es Larry Summers, exjefe del Departamento del Tesoro, asesor de la Casa Banca y presidente de la Universidad Harvard.<\/p>\n

Las organizaciones pueden tener la tentaci\u00f3n de esperar ver qu\u00e9 regulaciones sobre la IA surgen, pero ahora es el momento de actuar. Las organizaciones pueden enfrentarse a grandes riesgos legales, reputacionales, organizativos y financieros si no act\u00faan r\u00e1pidamente.<\/p>\n

Varios gobiernos, como Italia, han prohibido el uso del ChatGPT por los problemas de privacidad, por demandas por infracci\u00f3n de derechos de autor presentadas por diversas organizaciones e individuos, as\u00ed como demandas por difamaci\u00f3n. A medida que los posibles riesgos negativos de la IA son m\u00e1s evidentes, aumentan las preocupaciones y la desconfianza p\u00fablica hacia las empresas que crean la IA.<\/p>\n

El incentivo para avanzar r\u00e1pidamente se ve aumentado por el hecho de que si los modelos de gobierno y organizativos adecuados para la IA no se construyen pronto, la soluci\u00f3n puede ser necesaria m\u00e1s adelante debido a cambios normativos, violaciones de datos o incidentes de ciberseguridad. Es evidente que la inteligencia artificial ha dado un paso significativo despu\u00e9s de pasar de algoritmos con reglas de funcionamiento predefinidas a modelos generativos avanzados. Estos algoritmos no tienen conciencia, ni sentido de trascendencia, ni intenciones, ni capacidad de toma de decisiones aut\u00f3nomas como las personas.<\/p>\n

Otra muestra de geopol\u00edtica: la Oficina Judicial del Reino Unido ha tomado una decisi\u00f3n hist\u00f3rica, para que los jueces utilicen la IA para elaborar resoluciones legales. La Oficina Judicial de UK advierte de la posible adopci\u00f3n generalizada de herramientas impulsadas por la IA por parte del p\u00fablico a la hora de presentar casos legales, as\u00ed como de la posibilidad de que se utilice tecnolog\u00eda deepfake para crear pruebas falsas, y sobre el posible mal uso de la tecnolog\u00eda en los procedimientos legales y la necesidad de salvaguardarlas, para evitar la creaci\u00f3n o difusi\u00f3n de pruebas prefabricadas.<\/p>\n

El aumento del uso de la IA en las resoluciones judiciales puede conllevar oportunidades, pero tambi\u00e9n abre la puerta a grandes riesgos cibern\u00e9ticos. Los piratas inform\u00e1ticos han demostrado ser expertos en infiltrarse y explotar lagunas de seguridad para robar datos, y en este escenario tambi\u00e9n podr\u00edan conducir a una manipulaci\u00f3n generalizada de pruebas.<\/p>\n\n\n\n
\n

\u00abEl aumento del uso de la IA en las resoluciones judiciales puede conllevar oportunidades, pero tambi\u00e9n abre la puerta a grandes riesgos cibern\u00e9ticos.\u00bb<\/h3>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Por este motivo, muchos han alertado de sus peligros y han animado a su regulaci\u00f3n. Europa se ha convertido en la primera regi\u00f3n del mundo donde se regula esta tecnolog\u00eda. La UE quiz\u00e1 no es una potencia militar, ni pol\u00edtica, pero s\u00ed es una potencia reguladora. La ley, que la Uni\u00f3n Europea, la Comisi\u00f3n, los estados miembros y el Parlamento han conseguido, permite regular la inteligencia artificial. La Euroc\u00e1mara ped\u00eda una prohibici\u00f3n total. Los estados miembros han logrado incorporar a la Ley el tratamiento de casos de seguridad nacional para prever terrorismo. S\u00f3lo est\u00e1 permitido su uso en casos como la b\u00fasqueda de v\u00edctimas de secuestros o tr\u00e1fico de seres humanos, para prevenir ataques terroristas o para identificar a personas sospechosas de haber cometido delitos de terrorismo, asesinatos, violaciones o tr\u00e1fico sexual. Este sistema, adem\u00e1s, s\u00f3lo se podr\u00e1 utilizar con autorizaci\u00f3n judicial previa.<\/p>\n

La Ley mantiene un equilibrio entre los derechos fundamentales y no ser un obst\u00e1culo para el progreso de una tecnolog\u00eda de la que las propias instituciones europeas saben que Europa no puede quedar al margen. Esta ha sido una de las quejas de EEUU, donde se cree que el exceso regulador de la UE complica a las empresas tecnol\u00f3gicas, la mayor\u00eda norteamericanas, que puedan desarrollar la actividad con normalidad dentro del marco de la UE.<\/p>\n

Una de las cuestiones que m\u00e1s me preocupaban era la regulaci\u00f3n de la inteligencia artificial generativa, como el ChatGPT, y que la Euroc\u00e1mara pidi\u00f3 incluir en la ley, que deber\u00e1 cumplir unos requisitos de transparencia, como que los sistemas respeten los derechos de autor y que especifiquen si un contenido est\u00e1 generado por IA.<\/p>\n

Para los estados miembros era importante regular y poner orden, por ejemplo, c\u00f3mo se usan en la industria audiovisual, para evitar una avalancha de demandas o huelgas, como la recientemente en Hollywood (EE.UU.) por el uso de la inteligencia artificial y que afecta a los actores y a los guionistas. Se ha conseguido un pacto equilibrado entre los beneficios de la inteligencia artificial y el impacto econ\u00f3mico, y no perder competitividad contra gigantes como China o Estados Unidos.Tanto Francia como Alemania, insist\u00edan en la importancia de que esta ley no limite la competitividad. La Uni\u00f3n tiene previsto crear una oficina europea de inteligencia artificial que coordine los pa\u00edses y estar\u00e1 asesorada por cient\u00edficos y agentes de la sociedad civil.<\/p>\n

El punto m\u00e1s caliente de la negociaci\u00f3n ha sido que las fuerzas del orden p\u00fablico puedan hacer uso de las c\u00e1maras de identificaci\u00f3n biom\u00e9trica en espacios p\u00fablicos. Por un lado, varios gobiernos como el franc\u00e9s justificaban que esta tecnolog\u00eda servir\u00eda para mejorar la seguridad nacional. Por otro, euro parlamentarios y activistas de los derechos digitales de la UE, han denunciado que el uso de esta tecnolog\u00eda podr\u00eda violar los derechos humanos y ser abusada para recortar libertades en nombre de la seguridad.<\/p>\n

En los \u00faltimos meses, ha sido uno de los grandes temas de debate en foros internacionales, donde el uso de la IA est\u00e1 presente en las guerras en Gaza y Ucrania, por el intento ruso de recuperar las fronteras de la Uni\u00f3n Sovi\u00e9tica o en el peligro de que el conflicto del Oriente Medio se convierta en un conflicto de dimensiones globales, y tambi\u00e9n, en la perspectiva de que Donald Trump vuelva a ser presidente de Estados Unidos. El primer ministro brit\u00e1nico, Rishi Sunak, convoc\u00f3 a Bletchley Park, pol\u00edticos de una treintena de pa\u00edses, cient\u00edficos y empresarios del sector de la alta tecnolog\u00eda, como el multimillonario Elon Musk, para debatir los pros y los contras del uso de la IA, y sobre todo los peligros de la IA, con el prop\u00f3sito de intentar sentar las bases de una jurisdicci\u00f3n y un marco regulador. En esta cumbre se confirmaron las grandes diferencias entre Estados Unidos, China, la Uni\u00f3n Europea, los fil\u00f3sofos, y los magnates de las redes sociales y los gigantes tecnol\u00f3gicos.<\/p>\n

El primer ministro quiere que el Reino Unido haga de intermediario para establecer unas reglas del juego universalmente aceptadas antes de que empresas, como Google y OpenAI, pongan en marcha la nueva generaci\u00f3n de IA. La cumbre expuso y debati\u00f3 la necesidad de tomar medidas para que la IA no se utilice para manipular procesos electorales, desinformar y crear realidades paralelas mediante v\u00eddeos y audios.<\/p>\n

El memor\u00e1ndum de la cumbre, indica que hay que desarrollar el potencial de la IA, pero de una forma responsable, donde las empresas del sector deben tener mecanismos para retirar del mercado productos potencialmente nocivos, y utilizar expertos en seguridad que detecten vulnerabilidades en sus sistemas y se aseguren de que no son atacados. La cuesti\u00f3n central son los posibles ataques cibern\u00e9ticos y los peligros de la IA para la seguridad nacional.<\/p>\n

El propio Papa Francisco ha manifestado recientemente su preocupaci\u00f3n por los desarrollos de tecnolog\u00edas vinculados a la inteligencia artificial y para que no aborden los riesgos \u00e9ticos y sociales de su avance y la aplicaci\u00f3n. Apunta a los posibles intereses vinculados a su desarrollo y c\u00f3mo pueden aumentar las desigualdades y promover conflictos en lugar de mejorar la vida. El Papa indica que es necesario crear organismos que examinen las cuestiones \u00e9ticas relacionadas con la IA, marquen l\u00edneas rojas respecto de las libertades de las personas, y trabajen para garantizar una aplicaci\u00f3n responsable.<\/p>\n

En general, hay preocupaciones sobre una posible falta de transparencia en el funcionamiento de los sistemas de IA, las posibles infracciones de propiedad intelectual, posibles violaciones de privacidad, as\u00ed como preocupaciones de seguridad.<\/p>\n

Los reguladores buscan establecer seguridad jur\u00eddica para las empresas dedicadas al desarrollo o el uso de la IA gen\u00e9tica, mientras que los gobernantes quieren fomentar la innovaci\u00f3n sin miedo a repercusiones desconocidas. El objetivo es establecer normas reguladoras internacionales armonizadas que estimulen el comercio y la transferencia de datos. Persiguiendo este objetivo, se ha llegado a un consenso donde la comunidad de desarrollo de IA ha estado a la vanguardia de defender un cierto control regulador sobre el desarrollo de la tecnolog\u00eda tan pronto como sea posible. Aunque ning\u00fan pa\u00eds ha aprobado hasta ahora una regulaci\u00f3n integral de la IA o de la IA gen, los principales esfuerzos legislativos incluyen los de Brasil, China, la Uni\u00f3n Europea, Singapur, Corea del Sur y Estados Unidos. Los enfoques adoptados por los diferentes pa\u00edses var\u00edan desde una amplia regulaci\u00f3n de la IA apoyada por las regulaciones existentes de protecci\u00f3n de datos y ciberseguridad (la Uni\u00f3n Europea y Corea del Sur) hasta leyes sectoriales (los Estados Unidos) y principios m\u00e1s generales o enfoques basados en directrices (Brasil, Singapur y los Estados Unidos). Cada enfoque tiene sus propios beneficios e inconvenientes, y algunos mercados pasar\u00e1n de directrices basadas en principios a una legislaci\u00f3n estricta.<\/p>\n

Los avances en la gobernanza de la IA se har\u00e1n evidentes en 2024 a medida que los esfuerzos reguladores van fallando, las empresas tecnol\u00f3gicas contin\u00faan aprob\u00e1ndolas sin restricciones, y los modelos y herramientas de IA mucho m\u00e1s potentes van m\u00e1s all\u00e1 del control de los gobiernos. Estados Unidos, China y la mayor parte del G20 suscribieron a la Declaraci\u00f3n de Bletchley Park sobre la seguridad de la IA.<\/p>\n

Por otra parte, las Naciones Unidas convocaron recientemente una cumbre con asesores de alto nivel. Los principales actores de la IA han decidido cooperar en la gobernanza de la IA, las mismas empresas tecnol\u00f3gicas se comprometen con est\u00e1ndares voluntarios y controles. Pero a medida que la tecnolog\u00eda avanza, crece el atractivo de la ventaja geopol\u00edtica y el inter\u00e9s comercial incentivar\u00e1 a los gobiernos y a las empresas a abandonar los acuerdos y reg\u00edmenes no vinculantes a los que se han unido para maximizar sus ganancias.<\/p>\n

Cuando la Asamblea General de las Naciones Unidas se organiz\u00f3 esta cumbre titulada \u00abGobernando la IA para la Humanidad\u00bb, el secretario general, Ant\u00f3nio Guterres, manifest\u00f3 la necesidad de crear una nueva agencia de la ONU, con el fin de ayudar al mundo a cooperar en la gesti\u00f3n de la tecnolog\u00eda de la IA. Pero algunos Estados, le recordaron, que la Convenci\u00f3n sobre Armas Convencionales, que buscaba obligar a los Gobiernos a prohibir el desarrollo de armas letales aut\u00f3nomas, no prosper\u00f3 entre las superpotencias mundiales como Estados Unidos y Rusia.<\/p>\n

La geopol\u00edtica en la IA sale de las fronteras de los pa\u00edses donde se desarrolla. En septiembre pr\u00f3ximo, la ONU organizar\u00e1 la \u00abCumbre del Futuro\u00bb, las conclusiones del Organismo estar\u00e1n a disposici\u00f3n de los estados miembros para decidir si apoyan o no el establecimiento de una agencia de IA de la ONU. La propuesta es crear una agencia internacional similar a la Agencia Internacional de Energ\u00eda At\u00f3mica (OIEA), que desarrolle los est\u00e1ndares para toda la industria y permita monitorear si se est\u00e1n cumpliendo, de forma segura, los requisitos de los sistemas de inteligencia artificial m\u00e1s sofisticados. En definitiva, ser una autoridad internacional que pueda inspeccionar, auditar y probar el cumplimiento de las normas de Seguridad, e incluso, imponer restricciones y niveles de Seguridad. Algunos expertos son pesimistas y manifiestan que ser\u00e1 muy dif\u00edcil el apoyo entre los responsables gubernamentales poder crear una agencia similar a la OIEA para la IA.<\/p>\n

Que Estados Unidos, China y Rusia, en un esfuerzo por evitar altos riesgos que a\u00fan no se han producido, que permitan a los inspectores Internacionales el acceso total a los laboratorios de IA, la mayor\u00eda de empresas privadas. Es esencial que todos los pa\u00edses donde se est\u00e1n desarrollando sistemas de IA, como EE. UU y China, participen activamente en un acuerdo internacional como este, sin embargo, el representante en la ONU de la Federaci\u00f3n Rusa, ya ha manifestado que Rusia se opone a establecer \u00f3rganos supranacionales de supervisi\u00f3n para la IA.<\/p>\n

Est\u00e1 claro que hoy la inteligencia artificial es geopol\u00edtica y tambi\u00e9n poder.<\/p>\n

[\/et_pb_text][et_pb_text disabled_on=\u00bboff|off|on\u00bb admin_label=\u00bbText entrada tablet i m\u00f2bil\u00bb _builder_version=\u00bb4.9.0″ _module_preset=\u00bbdefault\u00bb text_font=\u00bbAverta Light||||||||\u00bb header_font=\u00bbAverta regular||||||||\u00bb header_font_size=\u00bb36px\u00bb header_4_font=\u00bbAverta regular||||||||\u00bb header_4_line_height=\u00bb1.2em\u00bb hover_enabled=\u00bb0″ header_font_size_tablet=\u00bb30px\u00bb header_font_size_phone=\u00bb24px\u00bb header_font_size_last_edited=\u00bbon|phone\u00bb sticky_enabled=\u00bb0″]<\/p>\n

Por \u00a0Josep Grau<\/strong><\/p>\n

La inteligencia artificial es clave para la transformaci\u00f3n digital, un cambio de paradigma en el que estamos todos inmersos, pero hay que saber si se trata de un cambio para los humanos, para la sociedad o para las empresas.<\/p>\n

Desde el lanzamiento del ChatGPT, la plataforma ha conseguido un crecimiento sin precedentes, con 100 millones de usuarios al mes, ha servido para popularizar la inteligencia artificial, pero tambi\u00e9n ha propiciado un amplio debate sobre los usos, sus l\u00edmites y la necesaria regulaci\u00f3n. La IA ya es geopol\u00edtica, este a\u00f1o cuatro mil millones de personas se dirigir\u00e1n a las urnas, la IA generativa ser\u00e1 utilizada por actores nacionales y extranjeros para influir en las campa\u00f1as electorales, con el fin de socavar la confianza en la democracia y sembrar caos pol\u00edtico. Los votantes acceden cada vez m\u00e1s a la informaci\u00f3n por las redes sociales, que pueden ser vulnerables y manipulables por la IA.<\/p>\n

La desinformaci\u00f3n se utilizar\u00e1 para exaltar los actuales conflictos geopol\u00edticos, como las guerras en Oriente Medio y Ucrania. Los propagandistas del Kremlin usaron la IA generativa para difundir en las redes sociales historias falsas sobre el presidente Zelenski, que luego utilizaron a los legisladores republicanos norteamericanos como argumentos para no dar m\u00e1s ayuda a Ucrania.<\/p>\n

A finales del a\u00f1o pasado se extendi\u00f3 informaci\u00f3n err\u00f3nea sobre Ham\u00e1s e Israel. La tecnolog\u00eda IA est\u00e1 a punto de convertirse en un riesgo principal para dar forma a las decisiones pol\u00edticas, cada vez m\u00e1s empleadas por los combatientes para influir en la opini\u00f3n p\u00fablica, desacreditar pruebas reales e inflamar a\u00fan m\u00e1s las tensiones geopol\u00edticas en todo el mundo.<\/p>\n

Hasta ahora, la IA ha estado dominada por Estados Unidos y China, pero en 2024 nuevos actores geopol\u00edticos ser\u00e1n capaces de desarrollar y adquirir capacidades de inteligencia artificial avanzadas, modelos apoyados por el estado y aplicaciones avanzadas para el uso de la seguridad nacional. Es comprensible que despierte tanto inter\u00e9s como para desatar las luchas afianzadas, protagonizadas por todos los agentes involucrados: est\u00e1 en juego su dimensi\u00f3n \u00e9tica y legal en la medida en que replantea la relaci\u00f3n persona-m\u00e1quina que ha vivido en los \u00faltimos a\u00f1os. Por desgracia, no todos los usos son buenos, y los ciberdelincuentes aprovechan las capacidades para cometer estafas y enga\u00f1os.<\/p>\n

Hace dos meses, Open AI, una empresa estable, gener\u00f3 uno de los seriales m\u00e1s intensos del sector tecnol\u00f3gico. Una carta a los empleados de OpenAI advert\u00eda, que el equipo de Altman estaba desarrollando una IA potencialmente peligrosa y que pod\u00eda ser una amenaza para la sociedad.<\/p>\n

Las compa\u00f1\u00edas tecnol\u00f3gicas l\u00edderes mundiales est\u00e1n ganando la batalla; Microsoft, principal inversor en OpenAI, ve encumbrado su control sobre OpenAI. Uno de los tres miembros de la nueva Junta de la compa\u00f1\u00eda, curiosamente, es Larry Summers, exjefe del Departamento del Tesoro, asesor de la Casa Banca y presidente de la Universidad Harvard.<\/p>\n

Las organizaciones pueden tener la tentaci\u00f3n de esperar ver qu\u00e9 regulaciones sobre la IA surgen, pero ahora es el momento de actuar. Las organizaciones pueden enfrentarse a grandes riesgos legales, reputacionales, organizativos y financieros si no act\u00faan r\u00e1pidamente.<\/p>\n

Varios gobiernos, como Italia, han prohibido el uso del ChatGPT por los problemas de privacidad, por demandas por infracci\u00f3n de derechos de autor presentadas por diversas organizaciones e individuos, as\u00ed como demandas por difamaci\u00f3n. A medida que los posibles riesgos negativos de la IA son m\u00e1s evidentes, aumentan las preocupaciones y la desconfianza p\u00fablica hacia las empresas que crean la IA.<\/p>\n

El incentivo para avanzar r\u00e1pidamente se ve aumentado por el hecho de que si los modelos de gobierno y organizativos adecuados para la IA no se construyen pronto, la soluci\u00f3n puede ser necesaria m\u00e1s adelante debido a cambios normativos, violaciones de datos o incidentes de ciberseguridad. Es evidente que la inteligencia artificial ha dado un paso significativo despu\u00e9s de pasar de algoritmos con reglas de funcionamiento predefinidas a modelos generativos avanzados. Estos algoritmos no tienen conciencia, ni sentido de trascendencia, ni intenciones, ni capacidad de toma de decisiones aut\u00f3nomas como las personas.<\/p>\n

Otra muestra de geopol\u00edtica: la Oficina Judicial del Reino Unido ha tomado una decisi\u00f3n hist\u00f3rica, para que los jueces utilicen la IA para elaborar resoluciones legales. La Oficina Judicial de UK advierte de la posible adopci\u00f3n generalizada de herramientas impulsadas por la IA por parte del p\u00fablico a la hora de presentar casos legales, as\u00ed como de la posibilidad de que se utilice tecnolog\u00eda deepfake para crear pruebas falsas, y sobre el posible mal uso de la tecnolog\u00eda en los procedimientos legales y la necesidad de salvaguardarlas, para evitar la creaci\u00f3n o difusi\u00f3n de pruebas prefabricadas.<\/p>\n

El aumento del uso de la IA en las resoluciones judiciales puede conllevar oportunidades, pero tambi\u00e9n abre la puerta a grandes riesgos cibern\u00e9ticos. Los piratas inform\u00e1ticos han demostrado ser expertos en infiltrarse y explotar lagunas de seguridad para robar datos, y en este escenario tambi\u00e9n podr\u00edan conducir a una manipulaci\u00f3n generalizada de pruebas.<\/p>\n\n\n\n
\n

\u00abL’augment de l’\u00fas de la IA en les resolucions judicials pot comportar oportunitats, per\u00f2 tamb\u00e9 obre lEl aumento del uso de la IA en las resoluciones judiciales puede conllevar oportunidades, pero tambi\u00e9n abre la puerta a grandes riesgos cibern\u00e9ticos.\u00bb<\/h3>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

Por este motivo, muchos han alertado de sus peligros y han animado a su regulaci\u00f3n. Europa se ha convertido en la primera regi\u00f3n del mundo donde se regula esta tecnolog\u00eda. La UE quiz\u00e1 no es una potencia militar, ni pol\u00edtica, pero s\u00ed es una potencia reguladora. La ley, que la Uni\u00f3n Europea, la Comisi\u00f3n, los estados miembros y el Parlamento han conseguido, permite regular la inteligencia artificial. La Euroc\u00e1mara ped\u00eda una prohibici\u00f3n total. Los estados miembros han logrado incorporar a la Ley el tratamiento de casos de seguridad nacional para prever terrorismo. S\u00f3lo est\u00e1 permitido su uso en casos como la b\u00fasqueda de v\u00edctimas de secuestros o tr\u00e1fico de seres humanos, para prevenir ataques terroristas o para identificar a personas sospechosas de haber cometido delitos de terrorismo, asesinatos, violaciones o tr\u00e1fico sexual. Este sistema, adem\u00e1s, s\u00f3lo se podr\u00e1 utilizar con autorizaci\u00f3n judicial previa.<\/p>\n

La Ley mantiene un equilibrio entre los derechos fundamentales y no ser un obst\u00e1culo para el progreso de una tecnolog\u00eda de la que las propias instituciones europeas saben que Europa no puede quedar al margen. Esta ha sido una de las quejas de EEUU, donde se cree que el exceso regulador de la UE complica a las empresas tecnol\u00f3gicas, la mayor\u00eda norteamericanas, que puedan desarrollar la actividad con normalidad dentro del marco de la UE.<\/p>\n

Una de las cuestiones que m\u00e1s me preocupaban era la regulaci\u00f3n de la inteligencia artificial generativa, como el ChatGPT, y que la Euroc\u00e1mara pidi\u00f3 incluir en la ley, que deber\u00e1 cumplir unos requisitos de transparencia, como que los sistemas respeten los derechos de autor y que especifiquen si un contenido est\u00e1 generado por IA.<\/p>\n

Para los estados miembros era importante regular y poner orden, por ejemplo, c\u00f3mo se usan en la industria audiovisual, para evitar una avalancha de demandas o huelgas, como la recientemente en Hollywood (EE.UU.) por el uso de la inteligencia artificial y que afecta a los actores y a los guionistas. Se ha conseguido un pacto equilibrado entre los beneficios de la inteligencia artificial y el impacto econ\u00f3mico, y no perder competitividad contra gigantes como China o Estados Unidos.Tanto Francia como Alemania, insist\u00edan en la importancia de que esta ley no limite la competitividad. La Uni\u00f3n tiene previsto crear una oficina europea de inteligencia artificial que coordine los pa\u00edses y estar\u00e1 asesorada por cient\u00edficos y agentes de la sociedad civil.<\/p>\n

El punto m\u00e1s caliente de la negociaci\u00f3n ha sido que las fuerzas del orden p\u00fablico puedan hacer uso de las c\u00e1maras de identificaci\u00f3n biom\u00e9trica en espacios p\u00fablicos. Por un lado, varios gobiernos como el franc\u00e9s justificaban que esta tecnolog\u00eda servir\u00eda para mejorar la seguridad nacional. Por otro, euro parlamentarios y activistas de los derechos digitales de la UE, han denunciado que el uso de esta tecnolog\u00eda podr\u00eda violar los derechos humanos y ser abusada para recortar libertades en nombre de la seguridad.<\/p>\n

En los \u00faltimos meses, ha sido uno de los grandes temas de debate en foros internacionales, donde el uso de la IA est\u00e1 presente en las guerras en Gaza y Ucrania, por el intento ruso de recuperar las fronteras de la Uni\u00f3n Sovi\u00e9tica o en el peligro de que el conflicto del Oriente Medio se convierta en un conflicto de dimensiones globales, y tambi\u00e9n, en la perspectiva de que Donald Trump vuelva a ser presidente de Estados Unidos. El primer ministro brit\u00e1nico, Rishi Sunak, convoc\u00f3 a Bletchley Park, pol\u00edticos de una treintena de pa\u00edses, cient\u00edficos y empresarios del sector de la alta tecnolog\u00eda, como el multimillonario Elon Musk, para debatir los pros y los contras del uso de la IA, y sobre todo los peligros de la IA, con el prop\u00f3sito de intentar sentar las bases de una jurisdicci\u00f3n y un marco regulador. En esta cumbre se confirmaron las grandes diferencias entre Estados Unidos, China, la Uni\u00f3n Europea, los fil\u00f3sofos, y los magnates de las redes sociales y los gigantes tecnol\u00f3gicos.<\/p>\n

El primer ministro quiere que el Reino Unido haga de intermediario para establecer unas reglas del juego universalmente aceptadas antes de que empresas, como Google y OpenAI, pongan en marcha la nueva generaci\u00f3n de IA. La cumbre expuso y debati\u00f3 la necesidad de tomar medidas para que la IA no se utilice para manipular procesos electorales, desinformar y crear realidades paralelas mediante v\u00eddeos y audios.<\/p>\n

El memor\u00e1ndum de la cumbre, indica que hay que desarrollar el potencial de la IA, pero de una forma responsable, donde las empresas del sector deben tener mecanismos para retirar del mercado productos potencialmente nocivos, y utilizar expertos en seguridad que detecten vulnerabilidades en sus sistemas y se aseguren de que no son atacados. La cuesti\u00f3n central son los posibles ataques cibern\u00e9ticos y los peligros de la IA para la seguridad nacional.<\/p>\n

El propio Papa Francisco ha manifestado recientemente su preocupaci\u00f3n por los desarrollos de tecnolog\u00edas vinculados a la inteligencia artificial y para que no aborden los riesgos \u00e9ticos y sociales de su avance y la aplicaci\u00f3n. Apunta a los posibles intereses vinculados a su desarrollo y c\u00f3mo pueden aumentar las desigualdades y promover conflictos en lugar de mejorar la vida. El Papa indica que es necesario crear organismos que examinen las cuestiones \u00e9ticas relacionadas con la IA, marquen l\u00edneas rojas respecto de las libertades de las personas, y trabajen para garantizar una aplicaci\u00f3n responsable.<\/p>\n

En general, hay preocupaciones sobre una posible falta de transparencia en el funcionamiento de los sistemas de IA, las posibles infracciones de propiedad intelectual, posibles violaciones de privacidad, as\u00ed como preocupaciones de seguridad.<\/p>\n

Los reguladores buscan establecer seguridad jur\u00eddica para las empresas dedicadas al desarrollo o el uso de la IA gen\u00e9tica, mientras que los gobernantes quieren fomentar la innovaci\u00f3n sin miedo a repercusiones desconocidas. El objetivo es establecer normas reguladoras internacionales armonizadas que estimulen el comercio y la transferencia de datos. Persiguiendo este objetivo, se ha llegado a un consenso donde la comunidad de desarrollo de IA ha estado a la vanguardia de defender un cierto control regulador sobre el desarrollo de la tecnolog\u00eda tan pronto como sea posible. Aunque ning\u00fan pa\u00eds ha aprobado hasta ahora una regulaci\u00f3n integral de la IA o de la IA gen, los principales esfuerzos legislativos incluyen los de Brasil, China, la Uni\u00f3n Europea, Singapur, Corea del Sur y Estados Unidos. Los enfoques adoptados por los diferentes pa\u00edses var\u00edan desde una amplia regulaci\u00f3n de la IA apoyada por las regulaciones existentes de protecci\u00f3n de datos y ciberseguridad (la Uni\u00f3n Europea y Corea del Sur) hasta leyes sectoriales (los Estados Unidos) y principios m\u00e1s generales o enfoques basados en directrices (Brasil, Singapur y los Estados Unidos). Cada enfoque tiene sus propios beneficios e inconvenientes, y algunos mercados pasar\u00e1n de directrices basadas en principios a una legislaci\u00f3n estricta.<\/p>\n

Los avances en la gobernanza de la IA se har\u00e1n evidentes en 2024 a medida que los esfuerzos reguladores van fallando, las empresas tecnol\u00f3gicas contin\u00faan aprob\u00e1ndolas sin restricciones, y los modelos y herramientas de IA mucho m\u00e1s potentes van m\u00e1s all\u00e1 del control de los gobiernos. Estados Unidos, China y la mayor parte del G20 suscribieron a la Declaraci\u00f3n de Bletchley Park sobre la seguridad de la IA.<\/p>\n

Por otra parte, las Naciones Unidas convocaron recientemente una cumbre con asesores de alto nivel. Los principales actores de la IA han decidido cooperar en la gobernanza de la IA, las mismas empresas tecnol\u00f3gicas se comprometen con est\u00e1ndares voluntarios y controles. Pero a medida que la tecnolog\u00eda avanza, crece el atractivo de la ventaja geopol\u00edtica y el inter\u00e9s comercial incentivar\u00e1 a los gobiernos y a las empresas a abandonar los acuerdos y reg\u00edmenes no vinculantes a los que se han unido para maximizar sus ganancias.<\/p>\n

Cuando la Asamblea General de las Naciones Unidas se organiz\u00f3 esta cumbre titulada \u00abGobernando la IA para la Humanidad\u00bb, el secretario general, Ant\u00f3nio Guterres, manifest\u00f3 la necesidad de crear una nueva agencia de la ONU, con el fin de ayudar al mundo a cooperar en la gesti\u00f3n de la tecnolog\u00eda de la IA. Pero algunos Estados, le recordaron, que la Convenci\u00f3n sobre Armas Convencionales, que buscaba obligar a los Gobiernos a prohibir el desarrollo de armas letales aut\u00f3nomas, no prosper\u00f3 entre las superpotencias mundiales como Estados Unidos y Rusia.<\/p>\n

La geopol\u00edtica en la IA sale de las fronteras de los pa\u00edses donde se desarrolla. En septiembre pr\u00f3ximo, la ONU organizar\u00e1 la \u00abCumbre del Futuro\u00bb, las conclusiones del Organismo estar\u00e1n a disposici\u00f3n de los estados miembros para decidir si apoyan o no el establecimiento de una agencia de IA de la ONU. La propuesta es crear una agencia internacional similar a la Agencia Internacional de Energ\u00eda At\u00f3mica (OIEA), que desarrolle los est\u00e1ndares para toda la industria y permita monitorear si se est\u00e1n cumpliendo, de forma segura, los requisitos de los sistemas de inteligencia artificial m\u00e1s sofisticados. En definitiva, ser una autoridad internacional que pueda inspeccionar, auditar y probar el cumplimiento de las normas de Seguridad, e incluso, imponer restricciones y niveles de Seguridad. Algunos expertos son pesimistas y manifiestan que ser\u00e1 muy dif\u00edcil el apoyo entre los responsables gubernamentales poder crear una agencia similar a la OIEA para la IA.<\/p>\n

Que Estados Unidos, China y Rusia, en un esfuerzo por evitar altos riesgos que a\u00fan no se han producido, que permitan a los inspectores Internacionales el acceso total a los laboratorios de IA, la mayor\u00eda de empresas privadas. Es esencial que todos los pa\u00edses donde se est\u00e1n desarrollando sistemas de IA, como EE. UU y China, participen activamente en un acuerdo internacional como este, sin embargo, el representante en la ONU de la Federaci\u00f3n Rusa, ya ha manifestado que Rusia se opone a establecer \u00f3rganos supranacionales de supervisi\u00f3n para la IA.<\/p>\n

Est\u00e1 claro que hoy la inteligencia artificial es geopol\u00edtica y tambi\u00e9n poder.<\/p>\n

[\/et_pb_text][et_pb_text admin_label=\u00bbShare \u00bb _builder_version=\u00bb4.9.0″ _module_preset=\u00bbdefault\u00bb width=\u00bb26%\u00bb module_alignment=\u00bbleft\u00bb module_alignment_tablet=\u00bbleft\u00bb module_alignment_phone=\u00bbleft\u00bb module_alignment_last_edited=\u00bbon|phone\u00bb border_width_all=\u00bb0px\u00bb]<\/p>\n\n\n\n
share:<\/td>\n
Twitter<\/a>
<\/span>
\r\n\t\t\t\t\t\t\r\n\t\t\t\t\t\t\tTweet\r\n\t\t\t\t\t\t<\/a>\r\n\t\t\t\t\t<\/div><\/div><\/div><\/div><\/div><\/div>
<\/a>
<\/span>
\"Share\"<\/a><\/div><\/div><\/div><\/div><\/div>
<\/a><\/div><\/div>
Follow by Email<\/a><\/div><\/div><\/div >
<\/div >