En el dinámico mundo de la ciberseguridad, la integración de la inteligencia artificial (IA) se presenta como un factor crucial que redefine las estrategias tanto de atacantes como de defensores.
Hoy, la IA actúa como un multiplicador de fuerza, su capacidad para mejorar la eficiencia y la rapidez a escala es innegable, pero también plantea desafíos significativos en manos de los atacantes. Estos pueden operar con mayor eficacia, ejecutando campañas altamente específicas que abarcan desde el phishing hasta la creación de falsificaciones profundas, comprometiendo así la integridad de las empresas.
Actualmente, los ataques tienen la capacidad de crear campañas masivas, muy específicas, en grandes cantidades y que son muy efectivas, e incluso el poder de hacer que un modelo de IA realice acciones en su nombre que no estaban planificadas.
Sin embargo, esto no es una novedad, desde hace un tiempo se sabe que los atacantes utilizan IA. Un ejemplo reciente que resalta la utilización maliciosa de la IA, es el informe donde Corea del Sur reportó que Corea del Norte está utilizando IA y Gen AI en sus ataques y, específicamente, utilizando IA generativa para diversas misiones de espionaje, como la búsqueda de objetivos y las tecnologías necesarias para la piratería. Corea del Norte estableció el Instituto de Investigación de Inteligencia Artificial en 2013 y se sabía que usaba IA incluso antes de esto.
Asimismo, desde Check Point, compartimos cómo la IA generativa se convirtió en el orgullo de los servicios contra el cibercrimen. A través de la IA generativa, estos servicios ofrecen suplantación de identidad en redes sociales, campañas de spam y servicios de verificación KYC. Hay un aumento de plataformas impulsadas por IA y los creadores de plataformas comparten y muestran con orgullo su uso de IA.
Ante este panorama, surge la pregunta crucial: ¿cómo pueden las empresas y gobiernos utilizar la IA para defender sus activos?
La respuesta es clara: adoptar la IA como parte integral de las estrategias de ciberseguridad. La prevención se erige como el pilar fundamental, y la educación a todos los niveles organizativos se presenta como un componente esencial. La unificación del acceso a los datos dentro de las corporaciones y la aplicación de la IA en la cúspide son pasos inevitables para proteger los activos frente a las amenazas cibernéticas.
Por otro lado, las corporaciones deben preocuparse por las alucinaciones de la IA y asegurarse de que la IA que emplean esté alineada con los valores de su empresa, sea útil e inofensiva. Es imprescindible afianzar que la IA esté entrenada con buenos datos, realizar pruebas de sesgo y alineación y decidir quién controlará la validación y cómo. Se debe decidir si usará un modelo abierto o cerrado y si utilizarán sus propios datos. Y por último garantizar que se cumplan las normas de privacidad de datos y, en algunas jurisdicciones, como Europa, con el derecho al olvido. Esto es problemático para modelos de lenguaje grandes. Es como pedirle que le diga a su cerebro que olvide algo.
A medida que las empresas se sumergen en esta nueva era tecnológica, la pregunta sobre las oportunidades que la IA presenta se vuelve inevitable. Estamos en un momento equiparable a los inicios de la era de los teléfonos móviles e Internet, y la gente intentaba predecir cómo cambiaría nuestras vidas. A corto plazo, existe una buena oportunidad para automatizar y simplificar utilizando los mismos conceptos que hoy. Pero un día, en un futuro no muy lejano, las startups que permanecerán en este campo de juego quedarán obsoletas. Aquellos que utilicen la IA para pensar en cómo hacer las cosas de maneras completamente nuevas (incluida la ciberseguridad) serán los ganadores.
Por: Dorit Dor, directora de tecnología de la empresa de ciberseguridad Check Point Software Technologies. para Tecno Newsroom.