Aportaciones y amenazas de la Inteligencia Artificial para la seguridad

La mesa redonda ‘Inteligencia Artificial (IA) en seguridad’ tuvo lugar el pasado miércoles 8 de mayo en el marco de la celebración de la III edición de TECNOSEC DRONExpo.

Estuvo moderada por la inspectora jefe Marlene Álvarez, de la Unidad Central de Apoyo Tecnológico de la Policía Nacional, y en ella intervinieron María Muñoz Ferrer, directora de Desarrollo de Negocio de Telefónica Tech, David Ríos Morentin, gerente de Negocios de Seguridad de Vicomtech y Antonio Fernández, director de Operaciones de DLT Code y director de Evidencias Digitales de PETEC.

Durante la mesa redonda se abordaron, principalmente, temáticas relacionadas con la automatización de procesos ante el delito, el soporte en los ámbitos criminalístico y forense, y el tratamiento de grandes volúmenes de información.

Ideas clave de la mesa redonda sobre ‘Inteligencia Artificial en Seguridad’

Durante las diferentes intervenciones, hubo una serie de ideas clave, de conclusiones, que se pusieron sobre la mesa, en relación con lo que aporta la Inteligencia Artificial al ámbito de la seguridad.

Gracias a la IA se pueden efectuar mapeos delictivos para bajar la criminalidad, y también es posible identificar a autores y a víctimas de esta actividad delictiva, o. por ejemplo, rastrear la aparición de menores en vídeos de pedófilos.

Sin embargo, esta tecnología conlleva una serie de riesgos, como cuando llegó Internet, porque también proporciona ventajas a los delincuentes, que la emplean, precisamente, para mejorar sus técnicas para delinquir. Y se citaron ejemplo como el phishing, las campañas de desinformación que se pueden difundir de forma masiva gracias a la IA, y la pornografía infantil, puesto que la IA generativa es capaz de desnudar a un menor, con el consiguiente daño moral que eso conlleva.

María Muñoz: «La IA tiene una importancia creciente en los Cuerpos de Seguridad»

Durante su intervención, María Muñoz (Telefónica Tech) puso en valor que la Inteligencia Artificial «tiene una importancia creciente en los Cuerpos de Seguridad», porque «aporta capacidades de análisis predictivo para la seguridad ciudadana, la investigación criminalística o la lucha contra los delitos económicos y el narcotráfico”.

Muñoz, que recordó que ya en 1935 el matemático Alan Turing estableció las bases de lo que ahora conocemos como Inteligencia Artificial, también recordó que «quien tiene la información es quién tiene el poder».

La IA permite, y así lo puso de manifiesto la experta de Telefónica Tech, «acelerar la identificación facial, al comparar de forma más rápida las caras, o crear datos sintéticos, con una mayor probabilidad de acierto».

David Ríos: «Europa está promoviendo la I+D para mejorar la oferta tecnológica»

David Ríos (Vicomtech), por su parte, se refirió al «interés manifiesto» que ha despertado la IA en las políticas de seguridad, tanto a nivel europeo como a nivel internacional. Recordemos que recientemente la ONU ha adoptado por primera vez una resolución histórica sobre el desarrollo y el empleo de sistemas de IA, o que la Unión Europea también aprobó el pasado mes de marzo una Ley de Inteligencia Artificial.

En este sentido, Ríos subrayó la «mejora que está teniendo la oferta tecnológica» por parte de las empresas implicadas en el ámbito de la IA y la ciberseguridad, y citó algunos de los programas puestos en marcha a nivel europeo (Horizonte o GRACE, por ejemplo) para fortalecer y promover la I+D en el tejido empresarial, de cara a favorecer la implantación de la Inteligencia Artificial en sus procesos, como todas las herramientas posibles para garantizar la seguridad de los sistemas.

Antonio Fernández: «Hay que cuidar de manera diferente los distintos tipos de evidencias»

Finalmente, Antonio Fernández (DLT Code y PETEC) indicó la importancia de «cuidar de manera diferente los distintos tipos de evidencias«, puesto que, como experto pericial en nuevas tecnologías, subrayó la idea de que es necesario precisar «cómo se pueden detectar, o no» dichas evidencias.

También recordó que, en casos como el de la Inteligencia Artificial, «el desconocimiento de la ley no exime de su cumplimiento«, en clara alusión a la nueva Ley de IA aprobada en marzo por el Parlamento Europeo.

Y se refirió a los organismos que, como las Fuerzas y Cuerpos de Seguridad o el Instituto Nacional de Ciberseguridad (INCIBE), «están para ayudarnos». En este sentido, cabe recordar que precisamente el INCIBE publicó el pasado mes de abril su ‘Balance de Ciberseguridad de 2023‘, en el que se reflejaba un incremento del 24 % de los incidentes de ciberseguridad respecto al año anterior, destacando los relacionados con contenido abusivo.