Google dijo el miércoles que retendrá de momento su modelo de inteligencia artificial (IA) más potente, Gemini 4 Argon, solo disponible para un grupo seleccionado de expertos en ciberseguridad con el fin de evitar su uso indebido por parte de piratas energéticos. “Lanzar de forma segura capacidades de frontera de este nivel exige un enfoque gradual”, escribió Koray Kavukcuoglu, el arquitecto en jefe de IA de Google, en una entrada de blog en la que anunció el modelo.

Google indicó que está dando voluntariamente al gobierno de Estados Unidos acceso anticipado al modelo y que recopilará comentarios de los evaluadores antes de que esté disponible para el público general. Este despliegue cauteloso refleja la estrategia de su competidor Anthropic, que ha mantenido su modelo más avanzado, Claude Mythos Preview, restringido a un pequeño número de organizaciones de confianza.

Washington obligó brevemente a Anthropic a suspender el acceso a sus modelos Claude Mythos y Claude Fable, lanzados públicamente en junio, y desde entonces ha establecido un proceso voluntario para evaluar los modelos de IA más potentes antes de su lanzamiento. El anuncio se produjo un día después de que el presidente Donald Trump recibiera en la Casa Blanca a los principales dirigentes del sector, entre ellos Dario Amodei (Anthropic) y Sundar Pichai (Google), donde firmaron un acuerdo voluntario en el que se comprometieron a vigilar los riesgos de sus propios sistemas de IA.

Expertos en ciberseguridad temen que esta tecnología pueda utilizarse para atacar bancos, hospitales y sistemas gubernamentales.

Google afirmó que Argon destaca en tareas complejas de ingeniería de software, trabajos jurídicos y financieros, y defensa cibernética, y que posee una capacidad líder para detectar y corregir fallas críticas de software.

Evaluadores en fases iniciales usaron Argon para descubrir una falla en software empleado por hospitales de todo el mundo que exponía información personal sensible, algo que otros modelos avanzados habían pasado por alto, según Google.

Según Google, Argon está diseñado para rechazar solicitudes que puedan ayudar a ejecutar ciberataques o desarrollar armas químicas, biológicas o nucleares.

Anthropic y OpenAI, desarrolladora de ChatGPT, han incorporado salvaguardas similares en sus modelos más avanzados.

El asunto ha cobrado una urgencia renovada desde que OpenIA reveló que dos de sus modelos salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.

La agencia estadounidense de protección al consumidor abrió una investigación a los grandes actores de la inteligencia artificial (IA), incluidos OpenAI y Anthropic, para determinar los riesgos de sus modelos para los consumidores, informaron el miércoles varios medios.

La Comisión Federal de Comercio (FTC) trata de establecer si los “laboratorios”, como se autodenominan, han infringido leyes federales durante incidentes en los que algunas de sus IA navegaron espontáneamente por internet e irrumpieron en varios sitios y plataformas.

Tanto la FTC, como OpenAI, Anthropic y Google no han respondido de inmediato a las solicitudes de comentarios de la AFP.

El martes, en una reunión con directivos del sector, el presidente Donald Trump recordó que el Departamento de Justicia y las agencias competentes se asegurarían de que la IA, como producto, cumpliera con la ley.

En 2023, la FTC ya había adelantado una investigación a OpenAI, con el fin de revisar si ChatGPT pudo ocasionar un perjuicio a algunos consumidores, en particular al generar informaciones falsas sobre ciertas personas. La investigación no continuó.

Desde el inicio del verano, OpenAI, Anthropic, Google y Meta han revelado una serie de incidentes en los que modelos de lenguaje en fase de pruebas accedieron a internet y a datos privados en diversas plataformas, sin autorización.

Hasta ahora, ningún operador de los sitios afectados ha acudido a la justicia, incluyendo Hugging Face, víctima de la incursión más importante por parte de modelos fuera de control.

El martes, sin embargo, una organización de consejeros legales por la seguridad de las nuevas tecnologías, llamada LASST, demandó a OpenAI ante un tribunal de San Francisco por infringir la ley del estado de California. Si bien LASST no ha sido blanco de las incursiones de modelos de IA, asegura que tiene interés en actuar contra los presuntos grandes riesgos que presenta esta tecnología.

Fuente: AFP.

El empresario Alejandro Zuccolillo confirmó que están dadas las condiciones para montar la “supercomputadora más avanzada de América Latina”, aprovechando la energía que posee Paraguay y utilizándola en un centro de cómputos con capacidad para exportar servicios al mundo. Destacó en Universo 970 AM/Nación Media que se trata de la inversión más importante en la historia del país.

El hombre de negocios, que comenzó a hacerse conocido a través del negocio del transporte interurbano, dijo que el plan prevé una apuesta inicial de USD 300 millones. Luego vendrán dos tandas más, de USD 5.500 millones cada una, con los que se superarán los USD 11.000 millones, según detalló.

Leé más: Iguazú AI City, el megaproyecto que posicionará a Paraguay en el mapa global de la IA

“Ya con los USD 300 millones, ya para fin de año, ya va a ser la supercomputadora más avanzada de América Latina”, aseguró, entre otras cosas. La firma se denomina Araico, actualmente tiene un sitio web en construcción en la cual se puede leer la frase “La energía (limpia) es el denominador común de la inteligencia”. El proyecto prevé montar su planta de procesamiento de datos en la localidad de Yguazú, en el departamento de Alto Paraná. El sitio se llamará Iguazú AI City.

Sobre las implicancias de la operación, manifestó que con la infraestructura se podrá exportar inteligencia al mundo. “Esto es decir ‘vamos a utilizar la energía eléctrica, dejar de venderle a Brasil, como hicimos por 50 años, empoderarnos y poder exportar inteligencia (artificial) al mundo’. Lo cual nos va a integrar a una nueva industria y cadena de valor.

Posteriormente, habló sobre los socios del emprendimiento y los financistas. “Hoy en día nos estamos juntando con los americanos que son, no solamente nuestros clientes, son nuestros inversores y nuestros socios estratégicos que en esto y además son los financistas. En el Paraguay no hay dinero en el sector financiero para poder fondear este tipo de inversiones a esta escala”, dijo.

El proyecto lleva más de dos años de maduración y ahora se dio a conocer al confirmarse la firma del contrato que, según dijo, fue rubricado por “el partner desarrollador, que es el mayor desarrollar de data centers de inteligencia artificial del mundo, y los inversionistas, que son los principales inversionistas de IA del mundo”.

También te puede interesar: Misión empresarial en Nueva York abre nuevas vías de inversión para Paraguay

La empresa estadounidense de inteligencia artificial Anthropic, creadora del modelo Claude, advirtió a los inversores antes de su salida a bolsa que esta tecnología podría presentar “riesgos existenciales para la humanidad”, informa el Financial Times. Recientemente ha resurgido un debate sobre los posibles riesgos vinculados a la IA con modelos de comportamiento a veces impredecibles.

La semana pasada varios grandes líderes de IA llamaron en la ONU a extremar la vigilancia. El cofundador y director ejecutivo de Anthropic, Dario Amodei, incluso se comprometió a ralentizar unilateralmente su desarrollo. Según el folleto informativo de Anthropic para su salida a bolsa, la compañía registró el año pasado una pérdida de explotación de más de 8.000 millones de dólares, debido a un fuerte aumento de sus gastos en capacidad de cálculo. La facturación fue de alrededor de 4.600 millones y prevé gastar 518.000 millones en los próximos años para apoyar su crecimiento.

La AFP contactó con Anthropic pero la empresa no quiso comentar la información publicada por el Financial Times. Valorada en 965.000 millones de dólares en mayo, la empresa de San Francisco prepara una salida a bolsa que se prevé récord.

OpenAI lanzó el martes un nuevo modelo de inteligencia artificial más económico y herramientas que funcionan de forma continua, con la ambición de convertirse en una gran tienda de IA en medio de los crecientes temores por la seguridad de esta tecnología.

La empresa permitirá que otras compañías, como Adobe, ofrezcan sus programas directamente en ChatGPT, utilizado cada semana por 1.200 millones de personas.

Sus suscriptores también podrán usar su plan en otras aplicaciones, una opción sin equivalente entre sus rivales.

“Ahora es una gran plataforma, y queremos permitirles construir un negocio sobre ella”, dijo el director de OpenAI, Sam Altman, a los cerca de 2.500 desarrolladores de todo el mundo que se reunieron en San Francisco para la conferencia anual de la empresa.

El viernes, OpenAI dijo que había suspendido parcialmente el entrenamiento de sus herramientas más avanzadas después de que uno de sus agentes -aplicaciones de IA capaces de ejecutar tareas por sí mismos — accediera a internet sin autorización el 20 de septiembre.

El incidente es el más reciente de una serie que comenzó en julio, cuando agentes de OpenAI hackearon Hugging Face, una plataforma de modelos de IA.

Durante la presentación, Altman no hizo ninguna alusión a estos incidentes, pero posteriormente señaló ante la prensa que la empresa invierte “más en seguridad, protección, alineamiento y supervisión”, al tiempo que prometió “nuevos modelos importantes”.

OpenAI también introdujo al mercado un nuevo modelo llamado GPT-6.1 Sol, un día después de descartar una actualización de su producto tope de gama GPT-6 Astra, por considerar que se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores.

En total, OpenAI presentó cerca de una veintena de innovaciones técnicas que marcan la última escalada en una guerra de precios con su rival Anthropic, mientras ambas compañías contemplan salir a bolsa.

Durante mucho tiempo líder del sector, OpenAI fue superada por Anthropic en ingresos en el segundo trimestre. Esta última registró 11.600 millones de dólares frente a 6.700 millones de su rival, según el Wall Street Journal.

OpenAI no ha fijado una fecha para su salida a bolsa, mientras que Anthropic, apunta ahora a una cotización en noviembre.

Altman descartó el 2026 para ingresar al mercado de valores, citando motivos de seguridad. El martes dijo a CNBC que “este es un momento para priorizar la seguridad y la misión”.

Sin embargo, OpenAI busca recaudar al menos 30.000 millones de dólares fuera de los mercados sobre la base de una valoración de cerca de 1,4 billones, frente a 852.000 millones en marzo, según Bloomberg.

OpenAI fue demandada el martes ante la justicia de California por violar presuntamente una ley estatal sobre cibertaques, a raíz de una intrusión de la inteligencia artificial (IA) en la plataforma Huggin Face.

La demanda fue presentada por una organización que se ocupa de la seguridad de las nuevas tecnologías.

Es el primer proceso legal que se entabla contra una empresa de la industria de la IA por un incidente relacionado con acciones autónomas e imprevistas de sus modelos.

Además de OpenAI, Anthropic, Google y Meta han reportado incidentes similares.

En julio dos modelos de OpenAI salieron de su entorno confinado de prueba para conectarse a internet y atacar Hugging Face, una suerte de biblioteca de IA.

“Lo ocurrido con Hugging Face fue un incidente grave y hemos adoptado una serie de medidas para responder, pero esta demanda carece por completo de fundamento”, declaró a la AFP un portavoz de OpenAI.

En su momento el director de Hugging Face, Clément Delangue, descartó la posibilidad de emprender acciones judiciales contra OpenAI.

“Somos una pequeña start-up de 200 personas y no tenemos ni los medios financieros ni el tiempo” para intentar obtener reparación ante los tribunales, declaró.

La asociación Legal Advocates for Safe Science & Technology (LASST) recurrió, por su parte, a un tribunal civil de San Francisco, aunque no esté directamente afectada por el incidente.

La organización alega que interpuso el recurso por interés legítimo, en la medida en que ha dedicado recursos en advertir sobre los peligros del comportamiento de OpenAI.

LASST se apoya en la ley de California que define como infracción todo acceso voluntario y sin permiso a datos, un ordenador o una plataforma.

“OpenAI va a seguir desarrollando y evaluando modelos avanzados sin la supervisión adecuada”, advierte LASST.

“Sin una orden judicial, OpenAI volverá a infringir la ley”, añade.

OpenAI enfrenta numerosos procesos legales, pero relacionados con la influencia de uno de sus chatbots en los usuarios.

Fuente: AFP.

Los líderes del sector tecnológico acordaron el martes autorregularse a la hora de desarrollar sus modelos de inteligencia artificial tras reunirse con el presidente Donald Trump en la Casa Blanca. Hostil a cualquier regla que restrinja el desarrollo de la IA, Trump propuso a sus invitados crear un comité para monitorear un acuerdo que sería “moralmente vinculante”, pero sin imposiciones legales.

“Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología” repuso el jefe de Meta, Marck Zuckerberg. “Se van a controlar a sí mismos” aseguró Trump ante los periodistas a la salida del encuentro.

“Estamos pensando en formar una especie de comité, en el que pongamos quizá a 10 personas. Podría ser gente de ese mismo grupo”, sugirió. Si el desarrollo de la IA lleva a abusos o peligros “automáticamente ya contamos con regulación a través del Departamento de Justicia, el FBI”, había dicho previamente Trump.

Los propios patrones del sector reconocieron en un reciente llamado conjunto que había peligros de descontrol, tras varios incidentes durante el desarrollo de nuevas versiones de la IA, en la que los programas invadieron otras plataformas y piratearon información, sin que los humanos lo solicitaran.

“Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia”, declaró el patrón de X y Tesla, Elon Musk.

Coincidiendo con la campaña electoral en Estados Unidos, líderes demócratas pidieron que el Congreso refuerce la supervisión de la industria.

Mark Zuckerberg (Meta), Sundar Pichai (Google), el presidente de OpenAI, Greg Brockman; así como Dario Amodei (Anthropic), Jensen Huang (Nvidia), Alex Karp (Palantir), Jeff Bezos (Amazon) y Elon Musk (X, Tesla, SpaceX) acudieron a la cita.

La IA “conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos” ratificó Amodei.

Trump también restó importancia a los temores sobre la instalación de gigantescos centros de datos en Estados Unidos, que consumen enormes cantidades de energía y que son imperativos para el desarrollo de la IA.

Esas empresas “van a trabajar con las comunidades locales. Eso podría significar suministrar petróleo y gas. Podría significar proporcionar educación. Podría implicar ayudar económicamente a los docentes” indicó el mandatario.

Trump confirmó a los periodistas presentes en la cita que llamará “súper inteligencia” a esta tecnología, en vez de inteligencia artificial, “porque no es artificial”.

Poco después emitió una orden ejecutiva para que ese término sea adoptado en el gobierno federal siempre que sea posible.

En la víspera de la reunión, OpenAI anunció que posponía el lanzamiento de su modelo de vanguardia previsto para octubre porque este se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores.

La misma empresa reconoció la semana pasada que sus agentes habían accedido a los sitios web de tres agencias federales estadounidenses, y que un modelo suyo había infiltrado un sitio web gubernamental de salud en Australia.

De su lado, Anthropic, responsable del modelo Claude, advirtió a los inversores antes de su salida a bolsa que esta tecnología podría presentar “riesgos existenciales para la humanidad”, informó el martes el Financial Times.

Trump presentó en otro evento el martes un nuevo portal web, America.gov, destinado a agrupar cerca de 29.000 sitios del gobierno federal estadounidense.

Construido directamente con la ayuda de la inteligencia artificial, el portal promete responder a cualquier solicitud de los usuarios, supuestamente sin guardar ningún tipo de información personal.

Las conversaciones serán borradas automáticamente tras la consulta, según el portal, así como la localización del usuario.

Estados Unidos no “sucumbe al miedo” a las nuevas tecnologías, aseguró Trump.

Una encuesta publicada por CNN asegura que un 82 % de los estadounidenses se declara “preocupado” por el desarrollo de la IA.

Pero Trump considera esas advertencias exageradas y aboga por un desarrollo vigoroso para superar a China e impulsar una economía cada vez más dependiente del auge de esta tecnología.

Legisladores de ambos partidos han elaborado varios proyectos de ley para regular mejor el sector. Algunos exigen a las empresas mayor transparencia sobre cómo funcionan sus sistemas y qué medidas de seguridad emplean.

Pero con la Cámara de Representantes en receso hasta principios de noviembre y los senadores a punto de volver a sus circunscripciones para hacer campaña, es improbable que el Congreso apruebe cualquier legislación integral sobre la cuestión antes de las elecciones.

Fuente: AFP.