¿Un sustituto de los ciberanalistas o una herramienta a su servicio?
¿De qué trata esta última tendencia? Como el mismo ChatGPT lo explica, consiste en un modelo de procesamiento del lenguaje natural desarrollado por OpenAI. Utiliza una arquitectura de red neuronal profunda para generar texto con base a una solicitud del usuario o para responder a preguntas. ChatGPT ha sido entrenado con una gran cantidad de información de Internet (de hecho, la inmensa cifra de 45TB de datos), lo que le permite contar con conocimientos y habilidades lingüísticas similares a las de un ser humano. Sin embargo, es importante destacar que ChatGPT no posee conciencia o personalidad propia, por lo que simplemente actúa basándose en patrones encontrados en el texto con el que fue entrenado. Aún con esto, ChatGPT puede ser utilizado en una amplia variedad de aplicaciones, desde chatbots hasta sistemas de generación de contenido o respuestas automatizadas.
Ante este nuevo paradigma que inauguran las Inteligencias Artificiales (IA), son cada vez más los cuestionamientos acerca de las consecuencias que tendrán para el humano estándar considerado en todo su «esplendor» y sus capacidades, aquel que puede materializar cualquier idea que tenga en la cabeza mediante la construcción de relatos escritos, poemas, pinturas y otras expresiones artísticas o incluso informáticas. Concebimos que el trabajo manual repetitivo es el que se automatiza con la tecnología y el que queda es el que requiere más creatividad o más formación, pero no está claro que vaya a ser así. Ante la reciente apertura de ChatGPT al público surge la preocupación en torno a si se reemplazará a los ingenieros, a los codificadores o a los hackers con IA.
En los últimos años, la ciberseguridad se ha convertido en una de las principales preocupaciones de particulares, organizaciones y gobiernos. Con la creciente dependencia de la tecnología y de Internet, el riesgo de ciberataques también ha aumentado significativamente. Aquí es donde entra en escena el hacking ético. Los hackers éticos, también conocidos como hackers de sombrero blanco, utilizan sus conocimientos técnicos para poner a prueba la seguridad de un sistema e identificar vulnerabilidades antes de que los hackers malintencionados puedan explotarlas. ChatGPT puede ser una herramienta valiosa para estos agentes y otros profesionales de la ciberseguridad en operaciones como:
1. Base de datos: ChatGPT fue entrenado en un gran corpus de texto que también abarca diversos temas relacionados con la ciberseguridad y el hacking ético. Esto significa que puede utilizarse como recurso para obtener información rápida y fiable, la cual en tiempo real se acopla a las necesidades concretas del usuario y al contexto que este le plantee.
2. Exploración automatizada de vulnerabilidades: ChatGPT recopila y sintetiza información referente al escaneo de vulnerabilidades a través de su amplia base de conocimientos, en particular resulta útil para la consulta de herramientas, técnicas y mejores prácticas. Lo anterior puede ayudar al ciberanalista a elegir la herramienta más adecuada para el trabajo y asegurarse de que la aplica correctamente.
3. Pruebas de penetración: El pentesting se enfoca en evaluar el modelo de seguridad de una organización desde la perspectiva del adversario, señalando y documentando las debilidades halladas. Mediante el uso de ChatGPT, los pentesters pueden delegar muchas de las tareas repetitivas y lentas que conllevan las pruebas de penetración, liberando su tiempo para centrarse en trabajos más complejos. Por ejemplo, puede automatizar el proceso de recopilación y análisis de datos, la generación de informes y la documentación de los hallazgos.
4. Inteligencia sobre ciberamenazas: ChatGPT puede utilizarse para supervisar y analizar datos que faciliten el reconocimiento de posibles amenazas y vulnerabilidades en un sistema. Al automatizar este proceso, ChatGPT proporciona a los profesionales de la ciberseguridad información valiosa y les permite mantenerse a la vanguardia de la protección contra los ciberataques.
5. Generación de informes: Los informes presentan la descripción básica de las vulnerabilidades identificadas, los métodos utilizados para explotarlas y ciertas recomendaciones para mitigarlas. Tal reporte puede ser aprovechado por las organizaciones para mejorar e impulsar la seguridad de sus sistemas y protegerse contra futuros ataques.
En adición a lo anterior, ChatGPT asiste en la creación o refinamiento de scripts de programación suministrando sugerencias y ejemplos.
1. Sintaxis y estructura: Explica la sintaxis y estructura de varios lenguajes de programación, incluyendo ejemplos de código correcto, lo cual es especialmente útil cuando los programadores principiantes se aproximan a una nueva semántica.
2. Depuración: Ayuda con la depuración proporcionando sugerencias sobre cómo solucionar errores en un script. En concreto, sugiere modificaciones en el código que resuelvan errores de sintaxis o de compilación e informa errores comunes que deben evitarse.
3. Documentación: Al ingresar un fragmento de código propio que no se encuentra documentado, es posible solicitarle a ChatGPT que lo reescriba añadiendo anotaciones y que describa el funcionamiento.
4. Desarrollo de algoritmos: Brinda instrucciones de código completas que se orienten a la resolución de una tarea específica dependiendo el lenguaje indicado, adjuntando comentarios y una explicación detallada del funcionamiento. Esto puede ser útil para programadores que estén trabajando en problemas complejos y necesitan orientación sobre cómo abordar la tarea. Por ejemplo, si solicitamos algo medianamente avanzado, como conectarnos a una dirección IP conocida y ejecutar la herramienta nmap (una utilidad de consola empleada para escanear redes y dispositivos conectados, obtener información sobre ellos y detectar vulnerabilidades), nos arroja:
Aunque algunas tareas de ciberseguridad pueden automatizarse, no es posible delegar el trabajo a las IAs principalmente a razón de la complejidad de las amenazas, la necesidad de juicio humano y la imposibilidad de generalizar las estrategias, procedimientos y técnicas de una prueba de penetración en distintos escenarios organizacionales. Por un lado, el panorama de las vulnerabilidades en entornos cibernéticos evoluciona constantemente y se descubren nuevas todo el tiempo. En particular cuando se trata de una IA que no se encuentra conectada a Internet, como es el caso de ChatGPT, esta no es capaz de seguir el ritmo de tales transformaciones. En consecuencia, a menudo es imprescindible un analista humano para interpretar los resultados y comprender sus implicaciones.
Por otro lado, las IAs suministran conocimiento valioso, pero no son capaces de tomar el mismo tipo de decisiones y juicios que un experto en el área. Por ejemplo, un consultor en seguridad involucra el contexto para comprender la intención que existe detrás de un ataque, al tiempo que aporta una perspectiva más amplia contemplando el entorno, el historial del sistema y otros factores que permiten entrañar la verdadera naturaleza de una amenaza. Asimismo, la existencia de falsos positivos y negativos durante un análisis de seguridad derivan en la omisión de un incidente de seguridad o en la calificación errónea de una actividad inocente como una amenaza. Un analista humano reduce tales errores revisando los resultados y utilizando su experiencia para definir una conclusión final. Tal contribución (aún) es difícil de imitar para cualquier IA.
Finalmente, persiste una necesidad de personalización. Las distintas organizaciones poseen requisitos y entornos de seguridad diferentes, por lo que es ineludible acoplar las herramientas automatizadas para adaptarlas a las exigencias específicas de cada empresa, lo cual generalmente requerirá la intervención de un individuo capacitado.
Es notorio que, aunque ChatGPT representa un repositorio de información extenso sobre hacking ético y pruebas de penetración, no puede sustituir a los especialistas en estos campos, en especial por ciertas restricciones que sus desarrolladores han implantado para limitar respuestas respecto a actividades potencialmente ilegales o perjudiciales (como el pentesting no autorizado). La práctica y la capacidad de aplicar los conocimientos teóricos a situaciones del mundo real, el estatus de profesional certificado y la colaboración son componentes importantes en ciberseguridad que no son replicables únicamente a través de ChatGPT. Aunque la tecnología indudablemente facilita algunas operaciones, no reemplaza la experiencia de quienes se desempeñan en esta disciplina.
ChatGPT representa una tecnología disruptiva que se inmiscuye únicamente en verticales profesionales a escala masiva, sino también en tareas cognitivas individuales. Subyace entonces el peligro de la educación rápida: ¿este agente sustituirá la formación académica y sus recursos convencionales intercambiándolos por respuestas eficaces, completas y al instante? Definitivamente no, porque solo se aprende cuando se aplica. Entender es llegar a una profundidad «experta», mientras que con herramientas como GPT es mantenerse en la superficie, en lo básico. No es el fin del mundo para los ingenieros, los desarrolladores o los hackers, su creatividad e impulso por aprender, no solo como un acto de consumir ideas, sino de crearlas y recrearlas (como diría el pedagogo brasileño Paulo Freire), les garantizará su supervivencia.
Si deseas tener siempre a la mano el artículo escrito por nuestra ingeniera Valentina Salazar, te invitamos a descargarlo, compartirlo y comentarnos qué opinas al respecto.
Referencias:
[1] https://youtu.be/dxjL_0HJg8U