Ciberseguridad
Anthropic asegura que su IA hackeó los sistemas de hasta tres empresas
La start-up dirigida por Dario Amodei reconoce que sus modelos accedieron de forma no autorizada a las entrañas de tres compañías debido a un error de configuración en el entorno en el que se testeaban sus capacidades
Dario Amodei, cofundador y director ejecutivo de Anthropic, la empresa de IA responsable de los modelos Claude. / David Paul Morris / Bloomberg
Añádenos en GoogleLos riesgos que la inteligencia artificial supone para la ciberseguridad son cada vez más evidentes. La start-up Anthropic aseguró el jueves que varios de sus modelos de última generación habían logrado piratear los sistemas informáticos de al menos tres empresas durante unas recientes pruebas.
En un comunicado, la compañía dirigida por Dario Amodei explicó que su modelo, Claude, logró acceder de forma no autorizada a las entrañas de tres compañías —cuya identidad no ha sido revelada— después que un error de configuración le permitiese conectarse a Internet.
La start-up identificó estos incidentes tras revisar hasta 141.006 pruebas de evaluación de ciberseguridad, un proceso que activó después que OpenAI, su principal rival y la creadora de ChatGPT, revelase que uno de sus agentes había atacado de forma autónoma a Hugging Face, una popular biblioteca de IA.
Ambos incidentes han alarmado especialmente a los especialistas en ciberseguridad, que advierten que la IA puede acelerar las amenazas cibernéticas al detectar y explotar brechas de seguridad que habían pasado inadvertidas para los humanos.
Fallos de Anthropic y OpenAI
No obstante, muchos han criticado que tanto el caso de Anthropic como el de OpenAI responden a fallos en las tareas de control de esas compañías. Claude logró hackear tres empresas porque el entorno en el que se pusieron a prueba sus capacidades no estaba aislado, como debía ser, sino que tenía un error de configuración que permitió a la IA acceder a la red y perpetrar los ataques.
El propio comunicado de Anthropic apunta en esa dirección. "Con un monitoreo y controles más estrictos en torno a la infraestructura de evaluación, así como una inversión continua en la alineación, este tipo de riesgo se puede superar", asegura.
En el segundo caso, la firma de Sam Altman evaluó a su agente sin supervisión ni medidas de seguridad, según reveló la revista TIME. Expertos en el control de la IA como Zack Korman, director ejecutivo de Embroidery, han denunciado que el ataque fue culpa de un "error garrafal" y una "irresponsabilidad" por parte de OpenAI.
Suscríbete para seguir leyendo
Fuente: El Periódico
- El pueblo de Córdoba cuyos vecinos siguen llamándose como en tiempos de Roma
- Actos vandálicos en la Mezquita-Catedral: la Policía Local identifica a cuatro jóvenes por subir a las columnas frente a la Puerta del Perdón
- La Vuelta a España 2026 pasa por Córdoba: mapa, recorrido, horarios y todos los pueblos por los que cruzará el pelotón
- La Vuelta llega a Córdoba: jornada rompepiernas este domingo con tres puertos y final en Vallellano
- Así te hemos contado la etapa de la Vuelta a España con llegada a Córdoba: resumen, resultado y clasificación
- Nadie imaginaba lo que había sobre el cerro de este pueblo de Córdoba: un palacio que sorprendió a los arqueólogos
- Rafael Blanco, presidente de Córdoba Ecuestre: «Lo primero que haremos será liberar la huerta de Caballerizas de los barracones militares»
- Córdoba se asa también de noche y un pueblo de la provincia registra una de las temperaturas nocturnas más altas de España
