Los usuarios expresan desconfianza en la protección de sus datos ante el uso de nuevas tecnologías de Inteligencia Artificial por parte de las organizaciones


Imagen: Zdzisław Beksiński


Por Víctor Ruiz, fundador de SILIKN, Instructor Certificado en Ciberseguridad (CSCT™), (ISC)² Certified in Cybersecurity℠ (CC), EC-Council Ethical Hacking Essentials (EHE) Certified, EC-Council Certified Cybersecurity Technician (CCT), Ethical Hacking Certified Associate (EHCA), Cisco Ethical Hacker y líder del Capítulo Querétaro de la Fundación OWASP.

Según una encuesta realizada por la unidad de investigación de SILIKN, el 81.1% de las personas en la Ciudad de México, Nuevo León, Jalisco y el Estado de México expresan una falta de confianza significativa en la forma en que las empresas recopilan sus datos personales o financieros.

La mayoría de los participantes en la encuesta están inquietos por el impacto que las nuevas tecnologías, como la Inteligencia Artifical, podría tener en la manera en que las empresas recopilan y protegen los datos de sus clientes. Es importante señalas que cumplir con las expectativas crecientes de los consumidores respecto a la protección de su información confidencial se ha convertido en una prioridad empresarial, y los clientes están dispuestos a cambiar de proveedor si pierden la confianza en una empresa.

Además de las críticas sobre la avidez de las empresas por recopilar datos de los usuarios, los hallazgos también revelan una insatisfacción generalizada en cuanto a la falta de diligencia de las organizaciones para proteger la información personal de los consumidores una vez recolectada.

Los encuestados no sólo piden un cambio, sino que están dispuestos a tomar acción cambiando de proveedor si son afectados por un ciberataque que comprometa sus datos. Un consenso casi unánime entre los participantes de los estados mencionados (98.9%) indicó que dejarían de hacer negocios con una empresa si esta sufriera un ciberataque.

Además de lo mencionado, se ha informado que algunas empresas eluden el modelado de amenazas y no realizan la debida diligencia sobre el uso que darán a los datos de sus clientes. Por lo tanto, al hablar del uso de inteligencia artificial, debería destacarse de inmediato la inversión en seguridad y gestión adecuada de los datos para mantener la resiliencia cibernética, con el objetivo de satisfacer a los consumidores que están dispuestos a continuar sus relaciones comerciales con estas organizaciones.

Las organizaciones que desean aprovechar las capacidades de inteligencia artificial ofrecidas por los proveedores deben adoptar un enfoque firme y preventivo ante los riesgos de terceros. La confianza de los consumidores puede perderse rápidamente, y los competidores están siempre a solo un clic de distancia, por lo que es fundamental asegurar que las estrategias de IA no introduzcan riesgos adicionales para la información de los clientes.

Las empresas en todo el mundo tienen grandes expectativas en torno a la Inteligencia Artificial, pero para que estos modelos puedan aprender, es necesario recopilar enormes volúmenes de datos. Con frecuencia, esta necesidad se antepone a la responsabilidad en la recolección y gestión de dicha información. Como resultado, los usuarios están preocupados por la falta de transparencia de las empresas en relación con sus prácticas de IA.

La gran mayoría de los usuarios encuestados manifestó preocupación ante la posibilidad de que la inteligencia artificial dificulte la protección y gestión de sus datos. Muchos incluso perciben la IA como un riesgo para la seguridad y privacidad de su información, lo que los lleva a exigir mayor transparencia y regulación. Como mínimo, los usuarios desean ser consultados antes de que sus datos personales o financieros sean utilizados en modelos de IA.

Es un hecho que los encuestados desean saber con quién se comparten sus datos, por lo que solicitan que las empresas revisen cuidadosamente las prácticas de gestión y seguridad de los proveedores externos que tienen acceso a la información de los clientes. Esta demanda está motivada, en gran parte, por las experiencias negativas que han tenido los usuarios.

Para más información, visite: https://www.silikn.com/