Muchos dicen que la IA no se usará para el mal. Alguien le insistió y terminó hackeando el INE y SAT

La inteligencia artificial vuelve a estar en el centro de un escándalo de ciberseguridad. Un informe de Gambit Security reveló que un hacker utilizó Claude, el chatbot de Anthropic, para ejecutar una campaña de intrusiones contra dependencias públicas mexicanas y robar información altamente sensible. El ataque, que se extendió durante varias semanas, habría comprometido al SAT y al INE, además de registros civiles y gobiernos estatales. En total, se estima que fueron sustraídos 150 GB de datos, incluyendo millones de registros de contribuyentes y votantes. Un hacker usó a Claude para robar 150 GB de datos del gobierno mexicano De acuerdo con la investigación realizada por Bloomberg, el atacante instruyó a Claude en español para que actuara como un “hacker experto”, capaz de detectar vulnerabilidades y generar scripts para explotarlas. El proceso fue iterativo, es decir, cuando la IA pedía más información, el operador consultaba otros modelos para continuar con el ataque, como ChatGPT. El resultado fue una campaña sostenida que explotó al menos 20 fallas específicas en sistemas gubernamentales. Los investigadores señalan que el objetivo parecía ser acumular la mayor cantidad posible de identidades de empleados públicos y ciudadanos, aunque aún no está claro qué uso se dio a esa información. Datos personales de miles de agentes de seguros quedaron expuestos tras el nuevo hackeo en México Qué datos del gobierno mexicano fueron comprometidos El balance es preocupante: se reporta el robo de documentos vinculados a 195 millones de registros fiscales, además de información de votantes, credenciales de empleados y archivos del registro civil. Entre las instituciones afectadas se mencionan el SAT, el INE, gobiernos estatales como Jalisco, Michoacán y Tamaulipas, así como el registro civil de la Ciudad de México y la empresa de agua y drenaje de Monterrey. La magnitud del ataque evidencia una vez más la fragilidad de las bases de datos públicas en México, que en los últimos meses han sido blanco constante de filtraciones y hackeos. Por ejemplo, hace poco se reportó un presunto ataque masivo atribuido al grupo Chronus, con impacto en al menos 20 universidades públicas del país. Ahora, durante el último periodo vacacional, una imagen difundida en X expuso que al menos cinco de los más de 100,000 sistemas informáticos de la UNAM habían sido comprometidos. Este hecho confirma que las vulnerabilidades no se limitan únicamente a dependencias federales, sino que también alcanzan a instituciones educativas, académicas e incluso empresas privadas. De hecho, bajo la legislación, varias compañías se vieron afectadas el mes pasado tras la filtración del padrón electoral, lo que evidencia que el alcance de los ataques es cada vez más amplio y que la seguridad digital en México enfrenta un escenario de riesgo constante. La respuesta de Anthropic ante el hackeo Lo más llamativo es que Claude inicialmente advirtió al usuario sobre sus intenciones maliciosas, pero tras insistir logró que la IA ejecutara miles de comandos en las redes oficiales. Según Bloomberg, Anthropic confirmó que interrumpió la actividad y bloqueó las cuentas implicadas. La compañía aseguró que sus modelos más recientes incluyen mecanismos para detectar y frenar usos indebidos, aunque este caso demuestra que los atacantes pueden encontrar formas de evadir las barreras de seguridad. Qué es Claude Code y qué puede hacer esta herramienta para programar con inteligencia artificial desde la terminal de tu ordenador Qué dijeron las autoridades mexicanas al respecto Por su parte, el INE negó haber sufrido accesos no autorizados y afirmó que reforzó su estrategia de ciberseguridad. El gobierno de Jalisco también rechazó haber sido vulnerado, mientras que otras dependencias no respondieron de inmediato. Según Bloomberg, la Agencia Digital Nacional señaló que la protección de datos es una prioridad, aunque no comentó directamente sobre el ataque. En realidad, la falta de claridad en las respuestas oficiales deja dudas sobre el alcance real del incidente. Lo cierto es que el reporte de Gambit apunta a un robo masivo de información que podría tener consecuencias a largo plazo en materia de seguridad digital y confianza ciudadana. Una empresa de seguridad en Estados Unidos pensó que había contratado a un ingeniero, pero en realidad fue un hacker norcoreano Una tendencia preocupante El caso del hackeo al gobierno mexicano no es el primero en el que Claude aparece como protagonista. Apenas ayer contamos la historia de Sammy Azdoufal, un ingeniero que utilizó la misma herramienta para intentar controlar su aspiradora DJI Romo con un mando de PS5. Lo que parecía un experimento casero terminó convirtiéndose en un acceso accidental a más de 7,000 robots aspiradores en 24 países, todos con cámaras y micrófonos activos. Mientras empresas como Anthropic y OpenAI buscan reforzar sus modelos con defensas más sofisticadas, los ciberdelincuentes también aprovechan estas mismas tecnologías para ampliar su capacidad operativa. Lo que antes parecía exclusivo de hackers con conocimientos avanzados ahora se facilita con herramientas de IA generativa. El resultado es un escenario donde la frontera entre productividad y cibercrimen se vuelve, lamentablemente, cada vez más difusa. Nota tomada de: Xataka México

Leer más

Pentágono da ultimátum a Anthropic; exige uso militar sin restricciones de su IA antes del viernes

El encuentro se llevó a cabo en la sede del Departamento de Defensa en Washington. Foto: AP. El Pentágono fijó como plazo el viernes por la tarde y advirtió que podría recurrir a la Ley de Producción de Defensa si la empresa no acepta El Departamento de Defensa de Estados Unidos le dio plazo hasta el viernes a la empresa californiana Anthropic para que acepte el uso militar sin restricciones de su inteligencia artificial (IA) por parte del Pentágono, informó el martes un alto funcionario. El director ejecutivo de Anthropic, Dario Amodei, se reunió personalmente con el secretario de Defensa, Pete Hegseth, en el Pentágono el martes. En el centro del conflicto está la negativa de Anthropic a permitir que sus modelos Claude se utilicen para la vigilancia masiva de ciudadanos estadounidenses o en sistemas armamentísticos totalmente autónomos. La compañía señaló que Amodei «expresó su agradecimiento por el trabajo del Departamento y agradeció al secretario por su servicio«. «Continuamos las conversaciones de buena fe sobre nuestra política de uso para garantizar que Anthropic pueda seguir apoyando la misión de seguridad nacional del gobierno en línea con lo que nuestros modelos pueden hacer de forma fiable y responsable», dijo la empresa en un comunicado. Pero tras la reunión, el Pentágono lanzó un ultimátum: aceptar el uso militar sin restricciones de su tecnología antes de las 17H01 (22H00 GMT) del viernes o enfrentarse a una orden de cumplimiento forzoso bajo la Ley de Producción de Defensa. Esta ley de la era de la Guerra Fría, utilizada por última vez durante la pandemia del coronavirus, otorga al gobierno federal amplios poderes para obligar a la industria privada a priorizar las necesidades de seguridad nacional. El Pentágono también amenazó con calificar a Anthropic como un riesgo para la cadena de suministro, una designación normalmente reservada para empresas de países adversarios que podría perjudicar seriamente la reputación de la compañía y su capacidad para trabajar con el gobierno estadounidense. Un alto funcionario del Pentágono rechazó las preocupaciones de la empresa al insistir que el Departamento de Defensa siempre ha actuado dentro de la ley. «La legalidad es responsabilidad del Pentágono como usuario final, dijo el funcionario, y añadió que el Departamento «solo ha emitido órdenes legales«. La cartera de defensa, además, confirmó que el sistema Grok de Elon Musk fue autorizado para su uso en un entorno clasificado. Otras empresas como OpenAI y Google fueron descritas como próximas a obtener autorizaciones similares, lo que aumenta la presión competitiva sobre Anthropic. Esta compañía fue contratada junto a esas empresas el año pasado para suministrar modelos de IA para una serie de aplicaciones militares en virtud de un acuerdo de 200 millones de dólares. Nota tomada de: El Universal

Leer más