ChatGPT: ¿Un nuevo aliado para el cibercrimen o para los equipos de defensa cibernética?
Imagen: Zdzisław Beksiński
Por Víctor Ruiz, fundador de SILIKN, Instructor Certificado en Ciberseguridad — CSCT™, EC-Council Ethical Hacking Essentials (EHE) Certified, Ethical Hacking Certified Associate (EHCA) y líder del Capítulo Querétaro de la Fundación OWASP.
Un modelo de Inteligencia Artificial generador de lenguaje llamado ChatGPT, disponible de forma gratuita, está causando revuelo en Internet. Si bien ChatGPT tiene el potencial de ayudar a los equipos de tecnología y seguridad a ser más eficientes, también permite que los cibercriminales desarrollen malware.
Pero, ¿realmente tenemos que preocuparnos? Todo depende.
La industria de la tecnología se ha centrado en crear Inteligencia Artificial generativa que responda a un comando o consulta para producir contenido de texto, video o audio, pero en términos generales, este tipo de Inteligencia Artificial no puede analizar ni contextualizar datos e información para brindar comprensión.
Sin embargo, el valor de ChatGPT podría transformar a esta Inteligencia Artificial en una herramienta que pudieran utilizar los ciberdelincuentes. pues ChatGPT brinda exactamente lo que se le solicita, lo cual es útil cuando se elaboran correos electrónicos de phishing. En este sentido, la seguridad de la información necesita Inteligencia Artificial que pueda recabar información, mejorarla con contexto adicional y llegar a una conclusión basada en su comprensión.
Esta es la razón por la cual los casos de uso de ChatGPT son extremadamente atractivos para los delincuentes y, por ello, una preocupación obvia con respecto a la aplicación de la Inteligencia Artificial tiene que ver con la ingeniería social, pues por ejemplo, ChatGPT puede crear un enorme volumen de correos electrónicos de phishing sofisticados con un mínimo esfuerzo. También puede crear perfiles falsos increíblemente realistas. Incluso lugares que anteriormente se consideraban razonablemente libres de bots, como LinkedIn, ahora tienen perfiles convincentes que incluso incluyen imágenes de perfil.
Una situación que se está presentando en la actualidad es que los ciberdelincuentes están usando ChatGPT para desarrollar malware. Si bien hay resultados mixtos sobre la calidad de la capacidad de escritura de código de ChatGPT, esta tecnología se especializa en el desarrollo de código, lo cual puede acelerar el desarrollo de malware. Eventualmente, podríamos encontrar que ayudará a explotar las vulnerabilidades más rápido, quizá minutos (o segundos) después de la divulgación de una vulnerabilidad.
Por otro lado, la ChatGPT tiene el potencial de ayudar a los equipos de seguridad y de tecnología a ser más eficientes y efectivos, lo que permite la detección y corrección de vulnerabilidades automatizadas y semiautomatizadas, así como la priorización basada en riesgos. Eso hace que la capacidad de analizar datos de ChatGPT sea muy prometedora para el personal de ciberseguridad que enfrenta limitaciones de recursos, pero desafortunadamente, este tipo de herramienta aún no funciona como se necesita y, cuando lo haga, puede ser complicado de implementar debido a la capacitación requerida para que comprenda los datos en un contexto particular.
La industria ahora debe centrar su atención en la creación de Inteligencia Artificial para ayudar a los defensores a analizar e interpretar grandes cantidades de datos. Hasta que veamos grandes mejoras en la capacidad de comprensión de las herramientas de Inteligencia Artificial, los atacantes seguirán teniendo la ventaja porque, desafortunadamente, las herramientas actuales sí cumplen con sus requerimientos.
Y si bien es cierto que ChatGPT tiene comprobaciones implementadas para evitar el uso de acciones ilegales, incorrectas o nocivas, estos controles no han sido suficientemente buenos para controlar a los ciberdelincuentes.
Por ejemplo, se ha descubierto que la forma en que se hace una pregunta a ChatGPT cambia significativamente su respuesta, incluida su efectividad para rechazar solicitudes maliciosas. Dependiendo de los comandos que se le indiquen, es posible combinar diferentes pasos para ensamblar un ataque de malware.
Esto podría cambiar el enfrentamiento entre los desarrolladores de malware y los proveedores de sistemas de seguridad, ya que ChatGPT se puede enfocar en la manipulación de código para cambiar el diseño de forma más sustancial que los sistemas de empaquetado de malware tradicionales.
Otro punto a señalar es que ChatGPT reducirá drásticamente el costo de entrada basado en habilidades para los ciberdelincuentes. Actualmente, la sofisticación de una amenaza está más o menos ligada a la sofisticación del mismo cibercriminal, pero ChatGPT ha abierto el espacio del malware a un nivel completamente nuevo de delincuentes novatos que algún día podrán vulnerar más fácilmente a grandes organizaciones muy por encima de sus capacidades actuales.
Esto es alarmante, porque expande no solo el volumen de amenazas potenciales y la cantidad de criminales potenciales, sino que también hace que sea más probable que las personas que tienen poca o ninguna idea de lo que están haciendo, se integren del lado de los ciberatacantes.
Además, el mundo de la ciberseguridad ya enfrenta desafíos para mantener el control sobre la gran cantidad de vulnerabilidades de código, por lo que se espera que la Inteligencia Artificial aumente aún más estos números porque es más rápida e inteligente para encontrar vulnerabilidades.
En el futuro, tendremos que la Inteligencia Artificial podrá desplegar una cadena de ataque completa, comenzando con la redacción de un correo electrónico de phishing. No es descabellado que la Inteligencia Artificial pueda usar herramientas fácilmente disponibles para explorar un entorno e identificar rápidamente el mejor camino hacia la vulneración de una organización, mediante un ataque de ransomware. Podrá determinar la red, el diseño y la arquitectura y luego manipular la cadena de herramientas para diseminar las cargas útiles y evitar que los defensores las detecten. Todo esto sin la intervención de la cantidad de humanos que hoy en día se requieren para realizar este tipo de acciones.
Definitivamente es un entorno complejo, por lo que en este momento nos corresponde concentrarnos en saber cómo nos defenderemos contra esta nueva amenaza.
Para más información, visite: https://www.silikn.com/
Pero, ¿realmente tenemos que preocuparnos? Todo depende.
La industria de la tecnología se ha centrado en crear Inteligencia Artificial generativa que responda a un comando o consulta para producir contenido de texto, video o audio, pero en términos generales, este tipo de Inteligencia Artificial no puede analizar ni contextualizar datos e información para brindar comprensión.
Sin embargo, el valor de ChatGPT podría transformar a esta Inteligencia Artificial en una herramienta que pudieran utilizar los ciberdelincuentes. pues ChatGPT brinda exactamente lo que se le solicita, lo cual es útil cuando se elaboran correos electrónicos de phishing. En este sentido, la seguridad de la información necesita Inteligencia Artificial que pueda recabar información, mejorarla con contexto adicional y llegar a una conclusión basada en su comprensión.
Esta es la razón por la cual los casos de uso de ChatGPT son extremadamente atractivos para los delincuentes y, por ello, una preocupación obvia con respecto a la aplicación de la Inteligencia Artificial tiene que ver con la ingeniería social, pues por ejemplo, ChatGPT puede crear un enorme volumen de correos electrónicos de phishing sofisticados con un mínimo esfuerzo. También puede crear perfiles falsos increíblemente realistas. Incluso lugares que anteriormente se consideraban razonablemente libres de bots, como LinkedIn, ahora tienen perfiles convincentes que incluso incluyen imágenes de perfil.
Una situación que se está presentando en la actualidad es que los ciberdelincuentes están usando ChatGPT para desarrollar malware. Si bien hay resultados mixtos sobre la calidad de la capacidad de escritura de código de ChatGPT, esta tecnología se especializa en el desarrollo de código, lo cual puede acelerar el desarrollo de malware. Eventualmente, podríamos encontrar que ayudará a explotar las vulnerabilidades más rápido, quizá minutos (o segundos) después de la divulgación de una vulnerabilidad.
Por otro lado, la ChatGPT tiene el potencial de ayudar a los equipos de seguridad y de tecnología a ser más eficientes y efectivos, lo que permite la detección y corrección de vulnerabilidades automatizadas y semiautomatizadas, así como la priorización basada en riesgos. Eso hace que la capacidad de analizar datos de ChatGPT sea muy prometedora para el personal de ciberseguridad que enfrenta limitaciones de recursos, pero desafortunadamente, este tipo de herramienta aún no funciona como se necesita y, cuando lo haga, puede ser complicado de implementar debido a la capacitación requerida para que comprenda los datos en un contexto particular.
La industria ahora debe centrar su atención en la creación de Inteligencia Artificial para ayudar a los defensores a analizar e interpretar grandes cantidades de datos. Hasta que veamos grandes mejoras en la capacidad de comprensión de las herramientas de Inteligencia Artificial, los atacantes seguirán teniendo la ventaja porque, desafortunadamente, las herramientas actuales sí cumplen con sus requerimientos.
Y si bien es cierto que ChatGPT tiene comprobaciones implementadas para evitar el uso de acciones ilegales, incorrectas o nocivas, estos controles no han sido suficientemente buenos para controlar a los ciberdelincuentes.
Por ejemplo, se ha descubierto que la forma en que se hace una pregunta a ChatGPT cambia significativamente su respuesta, incluida su efectividad para rechazar solicitudes maliciosas. Dependiendo de los comandos que se le indiquen, es posible combinar diferentes pasos para ensamblar un ataque de malware.
Esto podría cambiar el enfrentamiento entre los desarrolladores de malware y los proveedores de sistemas de seguridad, ya que ChatGPT se puede enfocar en la manipulación de código para cambiar el diseño de forma más sustancial que los sistemas de empaquetado de malware tradicionales.
Otro punto a señalar es que ChatGPT reducirá drásticamente el costo de entrada basado en habilidades para los ciberdelincuentes. Actualmente, la sofisticación de una amenaza está más o menos ligada a la sofisticación del mismo cibercriminal, pero ChatGPT ha abierto el espacio del malware a un nivel completamente nuevo de delincuentes novatos que algún día podrán vulnerar más fácilmente a grandes organizaciones muy por encima de sus capacidades actuales.
Esto es alarmante, porque expande no solo el volumen de amenazas potenciales y la cantidad de criminales potenciales, sino que también hace que sea más probable que las personas que tienen poca o ninguna idea de lo que están haciendo, se integren del lado de los ciberatacantes.
Además, el mundo de la ciberseguridad ya enfrenta desafíos para mantener el control sobre la gran cantidad de vulnerabilidades de código, por lo que se espera que la Inteligencia Artificial aumente aún más estos números porque es más rápida e inteligente para encontrar vulnerabilidades.
En el futuro, tendremos que la Inteligencia Artificial podrá desplegar una cadena de ataque completa, comenzando con la redacción de un correo electrónico de phishing. No es descabellado que la Inteligencia Artificial pueda usar herramientas fácilmente disponibles para explorar un entorno e identificar rápidamente el mejor camino hacia la vulneración de una organización, mediante un ataque de ransomware. Podrá determinar la red, el diseño y la arquitectura y luego manipular la cadena de herramientas para diseminar las cargas útiles y evitar que los defensores las detecten. Todo esto sin la intervención de la cantidad de humanos que hoy en día se requieren para realizar este tipo de acciones.
Definitivamente es un entorno complejo, por lo que en este momento nos corresponde concentrarnos en saber cómo nos defenderemos contra esta nueva amenaza.
Para más información, visite: https://www.silikn.com/