Un equipo de investigadores ha descubierto lo que afirman es el primer uso documentado de inteligencia artificial para dirigir una campaña de piratería informática de forma mayormente automatizada.
La empresa de inteligencia artificial Anthropic anunció esta semana que desarticuló una operación cibernética que sus investigadores vinculan con el gobierno chino. Dicha operación implicaba el uso de un sistema de inteligencia artificial para dirigir las campañas de pirateo informático, lo que los investigadores calificaron como un preocupante avance que podría ampliar considerablemente el alcance de los piratas informáticos equipados con IA.
Aunque las preocupaciones sobre el uso de la IA para impulsar las operaciones cibernéticas no son nuevas, lo que resulta preocupante de esta nueva operación es el grado en que la IA ha podido automatizar parte del trabajo, según indicaron los investigadores.
“Si bien predijimos que estas capacidades continuarían evolucionando, lo que nos ha llamado la atención es la rapidez con la que lo han hecho a gran escala”, escribieron en su informe .
La operación fue de alcance modesto y solo afectó a unas 30 personas que trabajaban en empresas tecnológicas, instituciones financieras, empresas químicas y agencias gubernamentales. Anthropic detectó la operación en septiembre y tomó medidas para desmantelarla y notificar a las partes afectadas.
Según Anthropic, los hackers solo tuvieron éxito en un número reducido de casos. La empresa señaló que, si bien los sistemas de IA se utilizan cada vez más en diversos ámbitos, tanto laborales como de ocio, también pueden ser utilizados como armas por grupos de hackers que trabajan para adversarios extranjeros. Anthropic, creadora del chatbot de IA generativa Claude, es una de las muchas empresas tecnológicas que ofrecen «agentes» de IA con capacidades superiores a las de un chatbot, capaces de acceder a herramientas informáticas y realizar acciones en nombre de una persona.
“Los agentes son valiosos para el trabajo diario y la productividad, pero en manos equivocadas pueden aumentar sustancialmente la viabilidad de los ciberataques a gran escala”, concluyeron los investigadores. “Es probable que la efectividad de estos ataques siga creciendo”.
Un portavoz de la embajada china en Washington no respondió de inmediato a un mensaje en el que se solicitaban comentarios sobre el informe.
Microsoft advirtió a principios de este año que los adversarios extranjeros estaban adoptando cada vez más la IA para hacer que sus campañas cibernéticas fueran más eficientes y menos laboriosas.
Los adversarios de Estados Unidos, así como las bandas criminales y las empresas de piratería informática , han explotado el potencial de la IA, utilizándola para automatizar y mejorar los ciberataques, difundir desinformación incendiaria e infiltrarse en sistemas sensibles. La IA puede, por ejemplo, traducir correos electrónicos de phishing mal redactados a un inglés fluido, además de generar clones digitales de altos funcionarios gubernamentales .