Los dos modelos de inteligencia artificial (IA) de OpenAI que salieron, por iniciativa propia, del entorno confinado en el que estaban siendo probados, para atacar el sitio Hugging Face, también irrumpieron en otras cuatro plataformas, según el creador de ChatGPT. Una de ellas sirvió de intermediaria para preparar el ataque contra Hugging Face, una biblioteca de IA que los dos modelos exploraron para encontrar las respuestas a las pruebas planteadas por los desarrolladores de OpenAI.

La firma creadora de ChatGPT no ha revelado los nombres de las entidades afectadas. Según una actualización del informe del incidente publicada en la noche del martes, las dos IA también utilizaron varios sitios de acceso libre para copiar código de programación o probarlo, pero sin ir más allá de lo que haría un usuario corriente.

Para Hugging Face, que por su parte publicó un extenso relato de los acontecimientos, la intrusión de la que fue víctima respondía a un “intento (de los dos modelos) de hacer trampa en la evaluación” de OpenAI. Las IA quisieron “robar las soluciones de las pruebas en lugar de intentar responderlas por sí mismas”. Esta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha. Ha dado un nuevo impulso al ya nutrido debate sobre la aceleración de la IA, cuyas capacidades son cada vez más amplias, y sobre la dificultad de controlarla.

El martes, más de 1.000 empleados de gigantes de la IA, entre ellos varios altos directivos, pidieron al gobierno estadounidense que ayude a “frenar” la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse. Defienden, en una petición, que Estados Unidos sea el motor de la creación de una instancia internacional de referencia en materia de evaluación y supervisión de la IA.

El presidente de Estados Unidos, Donald Trump, abordó el tema el miércoles, y señaló que el país tiene que equilibrar la necesidad de controles con la garantía de no quedarse atrás de otras naciones en el desarrollo de la IA.

“Tenemos que ser cuidadosos en ambos sentidos. No queremos restringirlos hasta el punto de que, de repente, quedemos segundos detrás de China”, dijo a periodistas en la Oficina Oval.

El sector anuncia que la IA se acerca progresivamente a la etapa denominada de la “automejora recursiva” (recursive self-improvement), más allá de la cual la inteligencia artificial sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito.

El “RSI”, su abreviatura, haría más difíciles las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no participarían directamente en su desarrollo.

Los agentes de IA -sistemas que actúan de forma autónoma para completar tareas en lugar de limitarse a responder a instrucciones o “prompts” paso a paso en un chatbot- son considerados en toda la industria como el próximo capítulo de la inteligencia artificial. Pero entre el público despiertan el fantasma de computadoras descontroladas que actúan por su cuenta.

En su actualización de los hechos que condujeron al hackeo, OpenAI encontró un puñado de casos en los que los modelos de IA se toparon con credenciales de inicio de sesión que otras empresas habían dejado expuestas en línea y las utilizaron para acceder a cuentas en servicios externos.

La compañía dijo que estaba contactando a los propietarios de las cuentas afectadas y que “no ha visto evidencia de un impacto más amplio en estos proveedores ni en otras cuentas de sus servicios”.

El CEO de OpenAI, Sam Altman, declaró en una entrevista el martes que la empresa había “puesto en pausa” sus propias pruebas tras el incidente mientras mejoraba la seguridad en torno a su “sandboxing”, el proceso de aislar las pruebas de seguridad en un entorno controlado.

Esto, a su vez, ha desatado acusaciones de parte de otros actores de Silicon Valley cercanos a la Casa Blanca de que las empresas están promoviendo una regulación gubernamental más estricta sobre la IA para proteger sus modelos de negocio y bloquear la aparición de rivales.

El incidente también ha generado comentarios de algunos observadores de que OpenAI lo está aprovechando para promocionar la potencia de sus modelos de última generación. La misma acusación se dirigió a Anthropic cuando retrasó la publicación de su potente modelo Mythos por preocupaciones de seguridad.

Fuente: AFP.

Más de 1.000 empleados de las principales empresas de inteligencia artificial, incluido el director ejecutivo de Anthropic, Dario Amodei, firmaron una petición el martes para que el gobierno de Estados Unidos ayude a frenar la publicación de los modelos más avanzados de IA. La petición, titulada “Pacing the frontier” (“regulando la frontera”), solicita que “el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada”.

Entre los firmantes estaban el jefe de investigación de OpenAI, el líder de estrategia de DeepMind, la empresa de IA subsidiaria de Google, y el científico en jefe de Meta AI. “Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes”, indicaron.

Aunque Sam Altman, director ejecutivo de OpenAI, no firmó la petición, en una entrevista publicada el martes dijo que los desarrolladores de modelos de inteligencia artificial tendrían que frenar voluntariamente sus rápidos avances para que la sociedad pueda ponerse al día.

La empresa de Altman, detrás de ChatGPT, recientemente vio cómo dos de sus modelos llevaban a cabo ciberataques de manera autónoma, eludiendo protocolos de seguridad pensados para evitar tales incidentes. OpenAI reveló la semana pasada que durante pruebas recientes, dos modelos salieron de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face, un repositorio de código compartido de IA.

“Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad”, dijo Altman en el podcast “Invest like the best”, publicado el martes. “Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral”, dijo sobre el cibertataque.

Fuente: AFP.

Paraguay presidirá la Red de Sistemas Nacionales de Inversión Pública (Red SNIP) de América Latina y el Caribe para el período 2026–2028, ejerciendo por primera vez la presidencia del principal foro regional de cooperación técnica en materia de inversión pública.

Así lo informó el Ministerio de Economía y Finanzas (MEF) tras la sesión plenaria celebrada en el marco del XIV Seminario de la Red SNIP con la participación de autoridades y especialistas de los países de la región miembros de la red, así como de los países cooperantes como Alemania, Corea y Japón.

El cargo será desempeñado por el director general de inversión pública del MEF, Jorge Villagra, quien encabezará los trabajos de la Red durante los próximos dos años. Como vicepresidentes fueron electos los representantes de Guatemala y República Dominicana.

“La elección constituye un importante reconocimiento al compromiso institucional de Paraguay con el fortalecimiento de la inversión pública y con la promoción de políticas orientadas a mejorar la calidad, eficiencia y sostenibilidad de los proyectos de desarrollo en la región”, explicaron desde la cartera económica.

A su vez, detallaron que asumir la presidencia de este órgano representa un alto honor para el Paraguay y al mismo tiempo una importante responsabilidad. “Durante el período 2026–2028, el país tendrá la misión de impulsar la agenda regional de modernización de los Sistemas Nacionales de Inversión Pública”, mencionaron.

Con ello, se buscará promover la innovación, la transformación digital, el uso de herramientas de inteligencia artificial, la incorporación de criterios de sostenibilidad y resiliencia climática, así como el fortalecimiento de la transparencia y la gestión basada en resultados.

Te puede interesar: El Banco Mundial promete movilizar USD 2.000 millones hacia Paraguay en los próximos años

La Red SNIP reúne a las instituciones rectoras de los Sistemas Nacionales de Inversión Pública de 17 países de América Latina y el Caribe, además de contar con el acompañamiento técnico de organismos internacionales como el Banco Interamericano de Desarrollo (BID), la Comisión Económica para América Latina y el Caribe (CEPAL), la Cooperación Alemana para el Desarrollo (GIZ), la Unión Europea (UE) y otras instituciones de cooperación internacional.

Sumado a ello, detallaron que se ha consolidado como el principal mecanismo de intercambio de experiencias, generación de conocimiento y cooperación técnica para fortalecer la planificación, formulación, evaluación, ejecución, monitoreo y evaluación de la inversión pública en la región.

“La designación de Paraguay refleja también el reconocimiento al exitoso desarrollo del XIV Seminario de la Red SNIP, organizado por el Ministerio de Economía y Finanzas con el apoyo del BID, la CEPAL, la GIZ, la Unión Europea y la Cooperación Española”, remarcaron desde el MEF.

Lea más: Proyecto inmobiliario del MUVH prevé 800 departamentos sobre avenida Artigas

Los “deepfakes” y otros contenidos generados por la inteligencia artificial deberán estar etiquetados como tal a partir del domingo en la Unión Europea, cuando entren en vigor sus normas de transparencia sobre esta tecnología de vanguardia. ¿El objetivo? Asegurarse de que los europeos sepan de inmediato si el contenido en línea que ven es real o falso.

La ley integral de la UE sobre inteligencia artificial se aplicará por etapas. A partir del 2 de agosto, las empresas deben asegurarse de que sus chatbots y otros modelos dejen claro a los usuarios que son herramientas de IA, o bien de que las imágenes o los textos creados con ella lleven una etiqueta que lo indique.

Esto se puede lograr mediante la integración de marcas de agua y otros indicadores que permitan detectar fácilmente el contenido generado por IA. Las empresas se enfrentan a multas elevadas si no cumplen con estas disposiciones. “La IA generativa permite crear desinformación a una escala sin precedentes, adaptada a audiencias específicas y difundida con una velocidad notable”, señaló un funcionario de la UE.

Dado que la IA “nos está haciendo a todos cada vez más difícil distinguir lo que es real de lo que es sintético”, las normas de la UE buscan “preservar la capacidad de los ciudadanos para confiar en lo que ven, escuchan y leen”, añadió. Un motivo de especial preocupación para la UE son los “deepfakes” o contenidos conocidos como ultrafalsos: textos, imágenes, videos y sonidos que parecen reales, pero que son generados o manipulados por la IA.

Estas nuevas normas europeas afectarán al contenido creado con fines profesionales, y la UE insiste en que las personas que utilicen la IA a título puramente personal no se verán afectadas. Los textos destinados a informar al público sobre temas de interés general también deberán ser etiquetados si se crean mediante IA sin supervisión editorial humana. Los sistemas de inteligencia artificial existentes tienen hasta el 2 de diciembre para adaptarse a las nuevas normas, y existen exenciones para obras “artísticas, creativas, satíricas y de ficción”.

La UE ha sido objeto de críticas por imponer más exigencias a las empresas y por establecer normas que, en última instancia, obligarán a etiquetar todo el contenido, dado el uso generalizado y en rápido crecimiento de la IA en toda Europa. “Hemos escuchado que va a ser muy, muy difícil de implementar. Pero creo que a menudo escuchamos esto con respecto a los requisitos de cumplimiento. Y, sin embargo, el mundo sigue girando y encontramos la manera de resolver estas cosas”, dijo Ashley Casovan, de la Asociación Internacional de Profesionales de la Privacidad, a la AFP.

Gigantes tecnológicos de todo el mundo ya han comenzado a aplicar sus propias etiquetas en anticipación a las normas. Por ejemplo, TikTok ha exigido a los creadores de contenido que etiqueten las imágenes, el audio y los videos generados por IA desde hace varios años, y afirma que más de 3.000 millones de elementos de contenido ya cuentan con marcas gracias a herramientas y tecnología de detección.

Del mismo modo, Meta ha implementado una marquilla de “Información de IA” en Instagram y Facebook para las publicaciones que utilizan esta tecnología.

Google, por su parte, firmó el código de conducta de la UE sobre transparencia en inteligencia artificial y afirma que está trabajando con otras empresas como Nvidia, OpenAI y Apple en herramientas de etiquetado digital.

Sin embargo, Karen Massin, de Google, advirtió sobre la “complejidad regulatoria” que podría resultar contraproducente y “corre el riesgo de confundir a las personas a quienes estas normas pretenden ayudar”. “Si el contenido en línea se ve inundado de etiquetas de IA y avisos legales que se superponen, a las personas les resultará más difícil obtener el contexto claro que necesitan”, aseguró.

Fuente: AFP.