Email
- Google, Meta y Microsoft han adquirido estos servicios para protegerse de delitos informáticos desde el avance de la inteligencia artificial. Foto principal: iStock.
Así como la llegada de la inteligencia artificial (IA) ha ayudado a optimizar algunos roles en el campo laboral, diversos estudios también han alertado que, con ayuda de la IA, han aumentado los casos de delitos informáticos en todo el mundo. Ante esta situación, muchas empresas optaron por reforzar a su equipo de seguridad con los denominados hackers de sombrero rojo.
Este tipo de especialistas en ciberseguridad basan sus estudios en poner a prueba las vulnerabilidades que pueda sufrir el software y que, por ende, representan un peligro para la información sensible (como datos de usuarios, por ejemplo).
Los hackers de sombrero rojo desempeñan un papel primordial en la protección de las empresas líderes en la era de la IA como Microsoft, Google, Nvidia y Meta.
Estas compañías compiten ferozmente por incorporar a sus equipos a un selecto grupo de estos profesionales debido a su conocimiento y experiencia en el ámbito de la seguridad informática, de acuerdo con un análisis del sitio web Computer Hoy, publicado el lunes 4 de septiembre.
Aumento de ciberataques
En los últimos meses han surgido numerosos informes sobre ciberataques y amenazas que pueden poner en riesgo a gigantes tecnológicos.
Ante esta realidad, los hackers de sombrero rojo se han convertido en un activo invisible pero esencial para garantizar la seguridad y el funcionamiento óptimo de estas empresas, especialmente en el contexto del crecimiento exponencial de la inteligencia artificial.
En el transcurso de 2023, América Latina ha sido testigo de notables cambios en su panorama cibernético y el aumento de delitos, según reveló el informe Visión General de las Amenazas en América Latina emitido por Kaspersky Lab a finales de agosto.
Estos expertos en seguridad informática tienen una larga historia que se remonta a la década de 1960, cuando se comenzaron a simular ataques con el fin de poner a prueba la resistencia de los sistemas.
Vigilancia permanente
A través de pruebas exhaustivas de penetración y análisis minuciosos, estos expertos se esfuerzan por garantizar que los sistemas sean capaces de resistir cualquier tipo de ataque.
Un ejemplo reciente de la participación de los hackers de sombrero rojo está en la experiencia de OpenAI con la prueba de sus modelos de IA, como ChatGPT. Antes de lanzar públicamente sus productos, la empresa contrató a un experto para verificar la presencia de estereotipos perjudiciales en las respuestas generadas por la IA, con el objetivo de evitar que los modelos perpetúen prejuicios o generen contenido peligroso.
Otro ejemplo es el de Facebook (Meta) en julio de 2023, cuando contrató a 350 empleados adicionales para asegurarse de que su nuevo modelo de lenguaje, Llama 2, estuviera libre de fallos y no representara ninguna amenaza potencial.
Daniel Fabian, líder del nuevo equipo de IA de Google dedicado a esta tarea, prueba productos como Bard (creado para competir con ChatGPT) para detectar contenido ofensivo antes de que la compañía los implemente.
“El lema de nuestro equipo rojo de IA es ‘Cuanto más sudas en el entrenamiento, menos sangras en la batalla'”, comentó Fabian.
Los equipos de ciberseguridad en empresas como Meta o Google están compuestos por profesionales especializados que se dedican a explorar las vulnerabilidades en los sistemas de inteligencia artificial y el software.
La labor del experto en seguridad informática va más allá de la simple detección de problemas evidentes, debido a que emplean tácticas avanzadas como la inyección de datos de identificación personal para evaluar cómo los modelos de IA manejan información sensible.
Cristian Canton, líder de ingeniería de IA en Meta, explicó a la revista Forbes parte de sus prácticas para la vigilancia online.
“Más allá de consultar un modelo de IA para generar respuestas tóxicas, los equipos de sombrero rojo usan tácticas como extraer datos de entrenamiento que revelan información de identificación personal como nombres, direcciones y números de teléfono”, comentó Canton.
Este proceso, conocido como poisoning (envenenamiento), les permite identificar fallos en el modelo para corregirlos y así evitar posibles riesgos de seguridad.
Además, expertos en tecnología coinciden en que el auge de la inteligencia artificial ha generado nuevas oportunidades laborales.
“Cuanto más útil puedas hacer un modelo, más posibilidades tendrás de aventurarte en algún área que pueda terminar produciendo una respuesta insegura”, dijo Canton. Ahí es donde interviene el profesional de la ciberseguridad.
La demanda de profesionales con experiencia en ciberseguridad y pruebas de penetración está en constante crecimiento, debido a la amplia exposición, hoy en día, de los datos personales y privacidad del usuario.
