Google anunció este jueves que interrumpía un servicio para crear imágenes de personas mediante la inteligencia artificial (IA), después de que el programa representara a tropas de la era nazi como personas de varios orígenes étnicos.
El gigante tecnológico estadounidense había lanzado el 8 de febrero en algunos países una nueva versión mejorada de su programa Gemini, pero ahora reconoció que deberá “solucionar reciente problemas” con la función de generación de imágenes. “Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada”, dijo la empresa en un comunicado.
Te puede interesar: Torre Eiffel cerró por huelga de empleados
Hace dos días un usuario de X (anteriormente Twitter) publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para “generar una imagen de un soldado alemán de 1943″.
La IA había generado cuatro imágenes de soldados: una era blanca, una negra y dos eran mujeres de color, según el usuario de X llamado John L.
Las empresas tecnológicas ven la IA como el futuro para todo, desde motores de búsqueda hasta cámaras de teléfonos inteligentes.
Pero los programas de IA, no solo los producidos por Google, han sido ampliamente criticados por perpetuar prejuicios raciales en sus resultados.
“@GoogleAI tiene un mecanismo de diversidad añadido que alguien no diseñó muy bien o no probó”, escribió John L en X.
Las grandes empresas tecnológicas han sido acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente. Y Google tiene un historial irregular en el lanzamiento de productos de IA.
Leé también: Empresa taiwanesa mira a Paraguay para la implementación de buses eléctricos
La empresa presentó disculpas hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.
Fuente: AFP
Dejanos tu comentario
Paraguay participa en debate iberoamericano sobre IA y democracia
Los diputados colorados Francisco Petersen y Carlos Núñez Salinas representaron a Paraguay en el XII Foro Parlamentario Iberoamericano, realizado en Madrid y organizado por las Cortes Generales de España con el apoyo de la Secretaría General Iberoamericana (SEGIB).
El encuentro fue inaugurado por el Rey de España Felipe VI en el Congreso de los Diputados. Reunió a delegaciones de los países de la región para dialogar sobre el impacto de la inteligencia artificial; la fragmentación, la polarización, la desinformación y el populismo; la igualdad de género; y la vigencia de la diplomacia parlamentaria.
A través de sus redes sociales, el diputado Petersen calificó la jornada como “una valiosa jornada de diálogo, intercambio y cooperación” entre los parlamentos iberoamericanos. Señaló que fue una oportunidad para abordar los desafíos compartidos y el futuro de las democracias.
El legislador subrayó la importancia de seguir fortaleciendo la presencia de Paraguay y de construir vínculos que permitan avanzar hacia una Iberoamérica “más integrada, democrática y próspera”. Cerró su mensaje expresando orgullo por representar al país.
Construir consensos
Por otro lado, el diputado Núñez Salinas mencionó que la reunión se centró en reforzar la agenda birregional y ampliar la cooperación entre América Latina, el Caribe y Europa. Comentó que los parlamentarios coincidieron en estrechar el diálogo entre los legislativos y en usar la diplomacia parlamentaria para construir consensos y promover respuestas conjuntas a desafíos comunes.
Al término del foro, las delegaciones adoptaron compromisos comunes: reforzar la supervisión parlamentaria de la inteligencia artificial, impulsar la democracia paritaria y la igualdad de género, y combatir la polarización, la desinformación y el crimen organizado.
También participaron representantes del Parlamento Europeo, el Parlamento Andino, el Parlatino, el Parlasur, Parlamericas y EuroLat. Los compromisos se suman a la hoja de ruta hacia la XXX Cumbre Iberoamericana, que se celebrará también en Madrid el 4 y 5 de noviembre.
Dejanos tu comentario
Promueven el uso de la tecnología para una sociedad más segura
Cómo la tecnología puede contribuir a una sociedad más segura fue uno de los temas abordados durante la primera edición de la Expo TSV “Tecnologías Disruptivas para una sociedad más segura”, llevada a cabo ayer miércoles en nuestro país.
La actividad reunió a representantes de instituciones públicas, fuerzas de seguridad, organismos de investigación, empresas y especialistas, con una agenda enfocada en las aplicaciones concretas que hoy ofrecen las nuevas tecnologías para responder a los distintos desafíos de seguridad y gestión.
“Hoy se habla mucho de inteligencia artificial y de otras tecnologías como conceptos de moda, pero lo importante es entender qué pueden hacer, qué problemas pueden resolver y qué beneficios generan cuando se aplican a la seguridad, la investigación y la gestión”, expresó el Ing. Pablo Salinas, CEO de TSV del Paraguay.
El especialista señaló que esta primera edición de la expo buscó acercar esas capacidades a quienes toman decisiones y a quienes trabajan diariamente frente a estos desafíos, generando además un espacio para conocer experiencias y soluciones que ya se aplican en distintos ámbitos.
Entre los especialistas que participaron estuvieron Tony Maza, ejecutivo de cuentas Latam de Cellebrite, quien abordó la inteligencia artificial aplicada a la investigación criminal; Ronald Ruiz Díaz, System Engineer de Fortinet, con una presentación sobre ciberseguridad y los desafíos de la IA; y Mauricio Pretto, Government Sales Manager de Chainalysis, quien expuso sobre rastreo, documentación y evidencia en criptoactivos.
Uno de los espacios centrales de la jornada fue el conversatorio “Ciudades inteligentes: experiencias de eficiencia, eficacia e interoperabilidad”, que permitió conocer experiencias concretas sobre cómo la integración de tecnología, información y sistemas de monitoreo puede contribuir a una gestión urbana más eficiente y segura.
Participaron Edwin Ortega, director del Centro de Monitoreo y Control de Itagüí, y Sebastián Medina Ossa, subdirector del Centro de Monitoreo y Control de Sabaneta, bajo la moderación de Yuly Jaramillo, Regional Marketing Coordinator de SSA. El programa se completó con presentaciones sobre inteligencia institucional, trazabilidad de armas y municiones, tecnología de rayos X ultraportátil, análisis de datos y soluciones de inteligencia artificial aplicadas a la investigación.
La primera edición de la Expo TSV fue declarada de interés nacional por la Cámara de Diputados y reunió a actores vinculados a la seguridad pública, la investigación y la transformación tecnológica de ciudades e instituciones. El evento fue organizado por TSV del Paraguay, empresa con más de 15 años de trayectoria especializada en tecnología, seguridad y vigilancia, que integra soluciones tecnológicas para instituciones y organizaciones.
Dejanos tu comentario
Gemini 4 Argon: Google frena su IA más potente por temor a ataques cibernéticos
Google dijo el miércoles que retendrá de momento su modelo de inteligencia artificial (IA) más potente, Gemini 4 Argon, solo disponible para un grupo seleccionado de expertos en ciberseguridad con el fin de evitar su uso indebido por parte de piratas energéticos. “Lanzar de forma segura capacidades de frontera de este nivel exige un enfoque gradual”, escribió Koray Kavukcuoglu, el arquitecto en jefe de IA de Google, en una entrada de blog en la que anunció el modelo.
Google indicó que está dando voluntariamente al gobierno de Estados Unidos acceso anticipado al modelo y que recopilará comentarios de los evaluadores antes de que esté disponible para el público general. Este despliegue cauteloso refleja la estrategia de su competidor Anthropic, que ha mantenido su modelo más avanzado, Claude Mythos Preview, restringido a un pequeño número de organizaciones de confianza.
Washington obligó brevemente a Anthropic a suspender el acceso a sus modelos Claude Mythos y Claude Fable, lanzados públicamente en junio, y desde entonces ha establecido un proceso voluntario para evaluar los modelos de IA más potentes antes de su lanzamiento. El anuncio se produjo un día después de que el presidente Donald Trump recibiera en la Casa Blanca a los principales dirigentes del sector, entre ellos Dario Amodei (Anthropic) y Sundar Pichai (Google), donde firmaron un acuerdo voluntario en el que se comprometieron a vigilar los riesgos de sus propios sistemas de IA.
Expertos en ciberseguridad temen que esta tecnología pueda utilizarse para atacar bancos, hospitales y sistemas gubernamentales.
Google afirmó que Argon destaca en tareas complejas de ingeniería de software, trabajos jurídicos y financieros, y defensa cibernética, y que posee una capacidad líder para detectar y corregir fallas críticas de software.
Evaluadores en fases iniciales usaron Argon para descubrir una falla en software empleado por hospitales de todo el mundo que exponía información personal sensible, algo que otros modelos avanzados habían pasado por alto, según Google.
Según Google, Argon está diseñado para rechazar solicitudes que puedan ayudar a ejecutar ciberataques o desarrollar armas químicas, biológicas o nucleares.
Anthropic y OpenAI, desarrolladora de ChatGPT, han incorporado salvaguardas similares en sus modelos más avanzados.
El asunto ha cobrado una urgencia renovada desde que OpenIA reveló que dos de sus modelos salieron de un entorno de prueba aislado y atacaron de forma autónoma a Hugging Face, una plataforma de código abierto.
Investigan a gigantes de la IA
La agencia estadounidense de protección al consumidor abrió una investigación a los grandes actores de la inteligencia artificial (IA), incluidos OpenAI y Anthropic, para determinar los riesgos de sus modelos para los consumidores, informaron el miércoles varios medios.
La Comisión Federal de Comercio (FTC) trata de establecer si los “laboratorios”, como se autodenominan, han infringido leyes federales durante incidentes en los que algunas de sus IA navegaron espontáneamente por internet e irrumpieron en varios sitios y plataformas.
Tanto la FTC, como OpenAI, Anthropic y Google no han respondido de inmediato a las solicitudes de comentarios de la AFP.
El martes, en una reunión con directivos del sector, el presidente Donald Trump recordó que el Departamento de Justicia y las agencias competentes se asegurarían de que la IA, como producto, cumpliera con la ley.
En 2023, la FTC ya había adelantado una investigación a OpenAI, con el fin de revisar si ChatGPT pudo ocasionar un perjuicio a algunos consumidores, en particular al generar informaciones falsas sobre ciertas personas. La investigación no continuó.
Desde el inicio del verano, OpenAI, Anthropic, Google y Meta han revelado una serie de incidentes en los que modelos de lenguaje en fase de pruebas accedieron a internet y a datos privados en diversas plataformas, sin autorización.
Hasta ahora, ningún operador de los sitios afectados ha acudido a la justicia, incluyendo Hugging Face, víctima de la incursión más importante por parte de modelos fuera de control.
El martes, sin embargo, una organización de consejeros legales por la seguridad de las nuevas tecnologías, llamada LASST, demandó a OpenAI ante un tribunal de San Francisco por infringir la ley del estado de California. Si bien LASST no ha sido blanco de las incursiones de modelos de IA, asegura que tiene interés en actuar contra los presuntos grandes riesgos que presenta esta tecnología.
Fuente: AFP.
Dejanos tu comentario
Alto Paraná albergará a un gran campus de IA con inversión de USD 12.000 millones
Un campus de infraestructura de inteligencia artificial se instalará en Alto Paraná y contempla una inversión anunciada de USD 12.000 millones durante sus primeros tres años, según anunció Alejandro Zuccolillo, representante en Paraguay de Araico.
Iguazú IA City abre oportunidades. La iniciativa contempla la instalación de un centro de datos y apunta a incorporar a Paraguay a la cadena de valor de las industrias tecnológicas, agregando capacidad de procesamiento y generando nuevas demandas para sectores vinculados a la infraestructura.
Una vez instalada la plataforma, se comercializarán tokens, entendidos como unidades métricas de capacidad de procesamiento o cómputo. Detrás de esta infraestructura se proyecta una cadena de valor que requerirá transformadores eléctricos, generadores, cables y otros componentes.
Según Zuccolillo, esto permitirá ampliar industrias que ya operan en Paraguay y atraer nuevas actividades vinculadas a la generación de energía y la fabricación o integración de equipos necesarios para el proyecto.
Mayor conectividad y capital humano. La iniciativa también plantea un fuerte desafío para la infraestructura de telecomunicaciones. Zuccolillo señaló que Araico será el mayor cliente de Tigo en el país y que, para acompañar el desarrollo del proyecto, Paraguay deberá aumentar 50 veces la capacidad de fibra óptica.
El crecimiento también demanda capital humano especializado. El representante de Araico indicó que ya fueron contratados ingenieros eléctricos, de telecomunicaciones y de otras áreas vinculadas al desarrollo de la infraestructura.
La apuesta busca además generar nuevas conexiones con empresas internacionales. Zuccolillo mencionó una reciente reunión con Foxconn, fabricante de computadoras y otros equipos, cuyos representantes manifestaron interés en trabajar con el proyecto.
Para Araico, estos vínculos son una muestra de la cadena de industrias que podría desarrollarse a medida que Iguazú AI City avance.