La seguridad en IA se ha convertido en uno de los grandes desafíos de la transformación digital. A medida que herramientas como ChatGPT y Claude ganan capacidades para consultar información, interactuar con archivos y ejecutar tareas, también surgen nuevas preguntas: ¿qué información pueden ver?, ¿qué acciones están autorizadas a realizar? y ¿cómo podemos evitar que una respuesta aparentemente confiable termine exponiendo nuestros datos?
Para responder a estos riesgos surge Norton Safe AI, un nuevo conjunto de funciones integrado en Norton 360 que busca ofrecer mayor protección y control durante el uso de aplicaciones de inteligencia artificial. La propuesta consiste en supervisar determinadas acciones de estas herramientas en el dispositivo, bloquear operaciones no autorizadas, administrar el acceso a archivos personales y advertir sobre enlaces potencialmente peligrosos.
La iniciativa parte de una realidad: aprovechar las ventajas de la inteligencia artificial no debería significar entregar el control de nuestra información personal.
Los asistentes de IA también pueden convertirse en una puerta de entrada a nuevas amenazas
Los asistentes inteligentes simplifican tareas que antes exigían más tiempo y conocimientos. Sin embargo, esa comodidad también puede traer consecuencias cuando no existen suficientes mecanismos de protección.
Una recomendación generada por IA podría incluir un enlace malicioso; una instrucción manipulada podría inducir a una herramienta a ejecutar acciones que comprometan información personal, y los archivos conectados a una aplicación podrían quedar expuestos más allá de lo que el usuario tenía previsto.
Los datos de Gen Threat Labs, el laboratorio de investigación de amenazas de Gen, muestran que el problema está creciendo. Según sus registros, durante los últimos 90 días el contenido malicioso entregado a usuarios de Gen a través de chatbots de inteligencia artificial como ChatGPT y Claude aumentó un 54 % a nivel global.
La preocupación también está presente entre los usuarios. Una investigación de Gen encontró que más de dos tercios de las personas manifiestan inquietud por la privacidad, las filtraciones de datos o la pérdida de control al utilizar asistentes autónomos de IA capaces de actuar en su nombre.
Este escenario pone sobre la mesa la importancia de reforzar la privacidad digital y establecer límites claros sobre lo que estas plataformas pueden hacer con nuestros datos.
Dagim Girma, gerente general de Norton, señaló que muchas herramientas de inteligencia artificial están diseñadas para ejecutar tareas, pero no necesariamente para hacerlo de manera segura. Desde su perspectiva, las personas no deberían necesitar conocimientos especializados en ciberseguridad para utilizar estas tecnologías con confianza.
Norton Safe AI trae 3 herramientas para reforzar la seguridad en IA
Integrado en las capacidades avanzadas de protección contra estafas de Norton 360, Safe AI incorpora tres funciones que buscan actuar en diferentes momentos de la interacción con los asistentes inteligentes.
1. Action Shield: bloquear acciones de IA no autorizadas
A medida que los asistentes inteligentes adquieren mayor autonomía, también aumenta el riesgo de que reciban instrucciones maliciosas o sean manipulados mediante técnicas conocidas como inyección de instrucciones (prompt injection).
Este tipo de ataques puede intentar modificar el comportamiento de una herramienta de IA para inducirla a realizar acciones que el usuario no solicitó.
Para enfrentar ese escenario, Action Shield ayuda a detener acciones no deseadas e instrucciones potencialmente dañinas antes de que se ejecuten. Su objetivo es añadir una barrera de protección entre las órdenes que recibe el asistente y las operaciones que intenta realizar en el dispositivo.
2. Safe Zone: decidir a qué archivos puede acceder la inteligencia artificial
Conectar documentos, carpetas y otros contenidos personales a una herramienta de IA puede resultar útil para trabajar, investigar o automatizar tareas. Sin embargo, también es importante saber qué información queda disponible para estos sistemas.
Safe Zone permite administrar los permisos de acceso de las herramientas de IA a los archivos y contenidos conectados. El usuario puede elegir entre tres niveles:
- Acceso completo: permite a la IA acceder a los archivos autorizados.
- Solo lectura: permite consultar el contenido, sin modificarlo.
- Bloqueado: impide el acceso a los archivos seleccionados.
Esta función busca dar mayor capacidad de decisión sobre la información personal y evitar que la comodidad de conectar documentos termine convirtiéndose en una exposición innecesaria de datos.
3. Safe Links: identificar enlaces peligrosos antes de abrirlos
No todos los enlaces que aparecen en una conversación con inteligencia artificial son necesariamente confiables. Una respuesta puede parecer correcta y profesional, pero dirigir al usuario hacia una página fraudulenta o un destino potencialmente riesgoso.
Safe Links ayuda a identificar enlaces potencialmente dañinos compartidos a través de ChatGPT y Claude antes de que el usuario haga clic en ellos.
La función apunta a reducir los riesgos de phishing, páginas fraudulentas y otros engaños que pueden aprovechar la confianza que las personas depositan en las respuestas generadas por IA.
En conjunto, estas tres capacidades buscan cubrir diferentes puntos de riesgo: los enlaces que recibimos, las acciones que ejecutan los asistentes y la información personal a la que pueden acceder.
Inteligencia artificial y privacidad digital: una responsabilidad compartida
El anuncio de Safe AI también forma parte de una estrategia más amplia de Gen para comprender y enfrentar los nuevos desafíos de seguridad asociados con la inteligencia artificial.
La compañía trabaja a través de su Agent Trust Hub, un espacio orientado a impulsar una mayor comprensión de las amenazas relacionadas con los agentes de IA y los retos que aparecen a medida que estas herramientas se vuelven más capaces y autónomas.
Esta iniciativa se complementa con la investigación de Gen Threat Labs, cuyos hallazgos sirven como referencia para desarrollar nuevas soluciones de protección. La intención es convertir el conocimiento sobre las amenazas emergentes en herramientas prácticas que ayuden a las personas a desenvolverse con mayor confianza en el entorno digital.
Safe AI representa una respuesta a una preocupación creciente: la inteligencia artificial puede facilitar el trabajo, mejorar la productividad y abrir nuevas oportunidades, pero su adopción también exige prestar atención a la seguridad de los datos y al nivel de autonomía que concedemos a estas plataformas.
Disponibilidad
Norton Safe AI está integrado en Norton 360 y, según el anuncio de la compañía, se encuentra disponible para equipos con Windows y Mac.
El verdadero avance de la IA también consiste en mantener el control
La inteligencia artificial está evolucionando hacia herramientas que no solo responden preguntas, sino que también pueden acceder a información, ejecutar instrucciones y realizar tareas en nombre de sus usuarios. Esa evolución trae oportunidades importantes, pero también obliga a replantear cómo protegemos nuestra identidad, nuestros documentos y nuestra actividad digital.
La seguridad no debería ser un complemento que recordamos después de un problema. Debe formar parte de la experiencia desde el momento en que decidimos utilizar estas tecnologías. Al final, el mejor asistente de IA no es únicamente el que hace más cosas, sino aquel que podemos utilizar con confianza, entendiendo y controlando sus límites.
🌎 Punto de encuentro
0 comentarios