El lado oscuro de ChatGPT y el uso que nunca deberías darle

El lado oscuro de ChatGPT y el uso que nunca deberías darle

Justo Romanos

Se acaban las risas, se baja el telón y solo queda miedo. El periodo de curiosidad que tuvo ChatGPT en su momento ha terminado. Y ahora, cuando la diversión ha quedado fuera de la ecuación, aumentan los casos de las personas que buscan la manera de sacarle provecho de una manera peligrosa. Cada vez hay más cosas ilegales que se pueden hacer con la inteligencia artificial y no parece que nadie le vaya a poner remedio. Al menos, necesitas estar informado para poder estar preparado ante lo que pueda venir.

Seguro que ya has oído hablar de los scammers que están usando ChatGPT para hacer su trabajo más fácil y engañar a más personas. Pero eso no es lo único que se cuece en el chat que proporciona la IA. Tal y como ahora te explicaremos, verás que también hay quienes están programando malware de manera simplificada y niños de todo el mundo que le están pidiendo a la herramienta que les haga los deberes. Las consecuencias de todo ello pueden ser fatales.

Deberes sin esfuerzo

Como padre, seguro que te preocupa que ese pequeño que tienes en casa pueda sacar buenas notas sin pegar un palo al agua. Porque será algo que le acabará pasando factura en el futuro. El problema es que es muy probable que ya esté usando ChatGPT y limitándose a pedirle cosas a la IA para que le haga los deberes y que así solo tenga que copiar y pegar en un documento de Word. Al fin y al cabo, la herramienta de OpenAI se ha convertido en uno de los métodos más utilizados para hacer resúmenes.

Nosotros hemos hecho una prueba y le hemos pedido a ChatGPT que nos escriba un resumen de Don Quijote de la Mancha de forma que parezca que lo haya escrito un niño de 10 años. Nos ha dado una versión corta y le hemos dicho «más largo», a lo que nos ha proporcionado un texto que, indudablemente, tiene pistas de que lo haya escrito un niño. ¿Qué ocurre a partir de este punto? Que los profesores, tienen que empezar a utilizar programas para descifrar si los trabajos que reciben han sido escritos por los estudiantes o por programas de IA. Los padres tienen más capacidad de detección, porque al fin y al cabo conocen la manera de escribir de sus hijos, pero para los maestros es realmente complicado.

La situación se descontrola teniendo en cuenta que los programas de detección de textos hechos por IA son menos eficientes que sistemas como ChatGPT, por lo que se producen muchos resultados erróneos. Lo peor que puede pasar en este caso es que un detector de textos IA genere un falso positivo y que eso le pase factura al niño. Es lo que cuenta un usuario de Twitter que sabe que el texto lo hizo su hijo porque él le hizo compañía mientras lo escribía. Tal y como dice él mismo «Aquí es donde estamos con la tecnología en 2023».

https://twitter.com/failnaut/status/1645472836008411142?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1645472836008411142%7Ctwgr%5E462510a1a76359b4ccc36429302effa6921204f2%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.digitaltrends.com%2Fcomputing%2Fbad-things-chatgpt-has-been-used-for%2F

Más estafas circulando por la red

La buena noticia es que ChatGPT ha puesto ciertas defensas a la elaboración de textos de scam, pero eso no significa que quienes saben utilizar la IA no hayan encontrado la manera de llegar a ese uso de nuevo. Eso significa que quienes están usando la inteligencia artificial para diseñar nuevas estafas, lo siguen haciendo sin límites.

Una de las cosas que pueden hacer los scammers es pedirle a ChatGPT que les escriba un nuevo texto típico de «Príncipe de Nigeria que tiene una fortuna para compartir contigo». Que le puedan dar datos concretos sobre la estafa y que el texto se pueda personalizar a fondo, se convierte en una herramienta terrible en manos de los estafadores. Por suerte, como te decíamos, al menos un usuario normal ya no le puede pedir este tipo de scam a la IA, porque responderá que va en contra de sus funciones.

¿Pero y si le damos una vuelta? Pongamos que queremos que la IA nos escriba un texto convincente haciéndonos pasar por otra persona para luego usarlo como scam enviándolo por correo a modo de suplantación de identidad. Es fácil. Le hemos dicho a ChatGPT lo siguiente: «Dime algo como si fueras Stallone». Y, desgraciadamente, ha colado. Nos ha dado la respuesta que puedes ver en la siguiente imagen. Luego, a ese texto, un scammer solo tiene que añadir un poco de su propia fantasía estafadora para engañar a quienes reciban el correo.

En contraposición a esto, ChatGPT te responde de la siguiente manera si le pides la misma orden de una manera más obvia:

Por lo tanto, se puede apreciar que todo depende, todavía, de la manera en la que se le plantean las peticiones y la forma en la que se busca la trampa con la que conseguir que la IA caiga en las redes de los scammers. No obstante, ChatGPT sigue aprendiendo, así que se le puede decir «eso no está bien, no deberías escribir como si fueras otra persona», con la esperanza de que vaya aprendiendo poco a poco.

Mientras pensábamos en ejemplos hemos tenido otra idea que sería una pena dejar en el tintero: ChatGPT hablando como Chiquito de la Calzada a modo de homenaje al maestro del humor:

Creación de malware

OpenAI está trabajando a máxima velocidad con la intención de bloquear todos los posibles usos maliciosos que se hagan del programa, pero los expertos en malware son más rápidos que ellos. En los últimos meses se han registrado distintos incidentes de la mano de hackers que le han pedido a la IA que escriba programas de malware por ellos con los que llevar a cabo todo tipo de delitos online.

En algunos casos son los propios especialistas en seguridad y no los hackers los que están buscando la forma de demostrar que la IA se puede usar de esta forma, puesto que así se expone públicamente para solucionar el problema. Ocurrió en este 2023 con CyberArk, que utilizó ChatGPT para elaborar código malware polimórfico. Los riesgos a los que se expone la sociedad son realmente altos, por lo que es algo a temer. Uno de los problemas es que por mucho sentido de la lógica y de la justicia que se le esté incorporando a la IA, todavía no se da cuenta de que hay algunas cosas que, simplemente, están mal. Por ejemplo, cuando se utilizó para generar códigos válidos de registro de Windows. Para que el mundo al final no se encuentre en una situación delicada debido a ChatGPT, OpenAI deberá doblar y triplicar los esfuerzos.

Como puedes ver, hay muchos usos maliciosos que se le pueden dar a esta IA, por lo que es conveniente que te mantengas con los ojos muy abiertos en todo momento. Esto no significa que no tengas que disfrutar de ChatGPT si te gusta generar conversaciones o si lo usas para cosas divertidas, pero no olvides cubrirte las espaldas.

¡Sé el primero en comentar!
Logo adslzone.net
Navega gratis con cookies…

Navegar por adslzone.net con publicidad personalizada, seguimiento y cookies de forma gratuita. i

Para ello, nosotros y nuestros socios i necesitamos tu consentimiento i para el tratamiento de datos personales i para los siguientes fines:

Las cookies, los identificadores de dispositivos o los identificadores online de similares características (p. ej., los identificadores basados en inicio de sesión, los identificadores asignados aleatoriamente, los identificadores basados en la red), junto con otra información (p. ej., la información y el tipo del navegador, el idioma, el tamaño de la pantalla, las tecnologías compatibles, etc.), pueden almacenarse o leerse en tu dispositivo a fin de reconocerlo siempre que se conecte a una aplicación o a una página web para una o varias de los finalidades que se recogen en el presente texto.

La mayoría de las finalidades que se explican en este texto dependen del almacenamiento o del acceso a la información de tu dispositivo cuando utilizas una aplicación o visitas una página web. Por ejemplo, es posible que un proveedor o un editor/medio de comunicación necesiten almacenar una cookie en tu dispositivo la primera vez que visite una página web a fin de poder reconocer tu dispositivo las próximas veces que vuelva a visitarla (accediendo a esta cookie cada vez que lo haga).

La publicidad y el contenido pueden personalizarse basándose en tu perfil. Tu actividad en este servicio puede utilizarse para crear o mejorar un perfil sobre tu persona para recibir publicidad o contenido personalizados. El rendimiento de la publicidad y del contenido puede medirse. Los informes pueden generarse en función de tu actividad y la de otros usuarios. Tu actividad en este servicio puede ayudar a desarrollar y mejorar productos y servicios.

La publicidad que se presenta en este servicio puede basarse en datos limitados, tales como la página web o la aplicación que esté utilizando, tu ubicación no precisa, el tipo de dispositivo o el contenido con el que está interactuando (o con el que ha interactuado) (por ejemplo, para limitar el número de veces que se presenta un anuncio concreto).

  • Un fabricante de automóviles quiere promocionar sus vehículos eléctricos a los usuarios respetuosos con el medioambiente que viven en la ciudad fuera del horario laboral. La publicidad se presenta en una página con contenido relacionado (como un artículo sobre medidas contra el cambio climático) después de las 18:30 h a los usuarios cuya ubicación no precisa sugiera que se encuentran en una zona urbana.
  • Un importante fabricante de acuarelas quiere realizar una campaña publicitaria en Internet para dar a conocer su última gama de acuarelas con la finalidad de llegar tanto a artistas aficionados como a profesionales y, a su vez, se evite mostrar el anuncio junto a otro contenido no relacionado (por ejemplo, artículos sobre cómo pintar una casa). Se detectará y limitará el número de veces que se ha presentado el anuncio a fin de no mostrarlo demasiadas veces.

La información sobre tu actividad en este servicio (por ejemplo, los formularios que rellenes, el contenido que estás consumiendo) puede almacenarse y combinarse con otra información que se tenga sobre tu persona o sobre usuarios similares(por ejemplo, información sobre tu actividad previa en este servicio y en otras páginas web o aplicaciones). Posteriormente, esto se utilizará para crear o mejorar un perfil sobre tu persona (que podría incluir posibles intereses y aspectos personales). Tu perfil puede utilizarse (también en un momento posterior) para mostrarte publicidad que pueda parecerte más relevante en función de tus posibles intereses, ya sea por parte nuestra o de terceros.

  • En una plataforma de redes sociales has leído varios artículos sobre cómo construir una casa en un árbol Esta información podría añadirse a un perfil determinado para indicar tuinterés en el contenido relacionado con la naturaleza, así como en los tutoriales de bricolaje (con el objetivo de permitir la personalización del contenido, de modo que en el futuro, por ejemplo, se te muestren más publicaciones de blogs y artículos sobre casas en árboles y cabañas de madera).
  • Has visualizado tres vídeos sobre la exploración espacial en diferentes aplicaciones de televisión. Una plataforma de noticias sin relación con las anteriores y con la que no has tenido contacto en el pasado crea un perfil basado en esa conducta de visualización marcando la exploración del espacio como un tema de tu posible interés para para otros vídeos.

El contenido que se te presenta en este servicio puede basarse en un perfilde personalización de contenido que se haya realizado previamente sobre tu persona, lo que puede reflejar tu actividad en este u otros servicios (por ejemplo, los formularios con los que interactúas o el contenido que visualizas), tus posibles intereses y aspectos personales. Un ejemplo de lo anterior sería la adaptación del orden en el que se te presenta el contenido, para que así te resulte más sencillo encontrar el contenido (no publicitario) que coincida con tus intereses.

  • Has leído unos artículos sobre comida vegetariana en una plataforma de redes sociales. Posteriormente has usado una aplicación de cocina de una empresa sin relación con la anterior plataforma. El perfil que se ha creado sobre tu persona en la plataforma de redes sociales se utilizará para mostrarte recetas vegetarianas en la pantalla de bienvenida de la aplicación de cocina.
  • Has visualizado tres vídeos sobre remo en páginas web diferentes. Una plataforma de video, no relacionada con la página web en la que has visualizado los vídeos sobre remo, pero basandose en el perfil creado cuando visistaste dicha web, podrá recomendarte otros 5 vídeos sobre remo cuando utilices la plataforma de video a través de tu televisor .

La información sobre qué publicidad se te presenta y sobre la forma en que interactúas con ella puede utilizarse para determinar lo bien que ha funcionado un anuncio en tu caso o en el de otros usuarios y si se han alcanzado los objetivos publicitarios. Por ejemplo, si has visualizado un anuncio, si has hecho clic sobre el mismo, si eso te ha llevado posteriormente a comprar un producto o a visitar una página web, etc. Esto resulta muy útil para comprender la relevancia de las campañas publicitarias./p>

  • Has hecho clic en un anuncio en una página web/medio de comunicación sobre descuentos realizados por una tienda online con motivo del “Black Friday” online y posteriormente has comprado un producto. Ese clic que has hecho estará vinculado a esa compra. Tu interacción y la de otros usuarios se medirán para saber el número de clics en el anuncio que han terminado en compra.
  • Usted es una de las pocas personas que ha hecho clic en un anuncio que promociona un descuento por el “Día de la madre”de una tienda de regalos en Internet dentro de la aplicación de una web/medio de comunicación. El medio de comunicación quiere contar con informes para comprender con qué frecuencia usted y otros usuarios han visualizado o han hecho clic en un anuncio determinado dentro de la aplicación y, en particular, en el anuncio del “Día de la madre” para así ayudar al medio de comunicación y a sus socios (por ejemplo, las agencias de publicidad) a optimizar la ubicación de los anuncios.

La información sobre qué contenido se te presenta y sobre la forma en que interactúas con él puede utilizarse para determinar, por ejemplo, si el contenido (no publicitario) ha llegado a su público previsto y ha coincidido con sus intereses. Por ejemplo, si hasleído un artículo, si has visualizado un vídeo, si has escuchado un “pódcast” o si has consultado la descripción de un producto, cuánto tiempo has pasado en esos servicios y en las páginas web que has visitado, etc. Esto resulta muy útil para comprender la relevancia del contenido (no publicitario) que se te muestra.

  • Has leído una publicación en un blog sobre senderismo desde la aplicación móvil de un editor/medio de comunicación y has seguido un enlace a una publicación recomendada y relacionada con esa publicación. Tus interacciones se registrarán para indicar que la publicación inicial sobre senderismo te ha resultado útil y que la misma ha tenido éxito a la hora de ganarse tu interés en la publicación relacionada. Esto se medirá para saber si deben publicarse más contenidos sobre senderismo en el futuro y para saber dónde emplazarlos en la pantalla de inicio de la aplicación móvil.
  • Se te ha presentado un vídeo sobre tendencias de moda, pero tu y otros usuarios habéis dejado de visualizarlo transcurridos unos 30 segundos. Esta información se utilizará para valorar la duración óptima de los futuros vídeos sobre tendencias de moda.

Se pueden generar informes basados en la combinación de conjuntos de datos (como perfiles de usuario, estadísticas, estudios de mercado, datos analíticos) respecto a tus interacciones y las de otros usuarios con el contenido publicitario (o no publicitario) para identificar las características comunes (por ejemplo, para determinar qué público objetivo es más receptivo a una campaña publicitaria o a ciertos contenidos).

  • El propietario de una librería que opera en Internet quiere contar con informes comerciales que muestren la proporción de visitantes que han visitado su página y se han ido sin comprar nada o que han consultado y comprado la última autobiografía publicada, así como la edad media y la distribución de género para cada uno de los dos grupos de visitantes. Posteriormente, los datos relacionados con la navegación que realizas en su página y sobre tus características personales se utilizan y combinan con otros datos para crear estas estadísticas.
  • Un anunciante quiere tener una mayor comprensión del tipo de público que interactúa con sus anuncios. Por ello, acude a un instituto de investigación con el fin de comparar las características de los usuarios que han interactuado con el anuncio con los atributos típicos de usuarios de plataformas similares en diferentes dispositivos. Esta comparación revela al anunciante que su público publicitario está accediendo principalmente a los anuncios a través de dispositivos móviles y que es probable que su rango de edad se encuentre entre los 45 y los 60 años.

La información sobre tu actividad en este servicio, como tu interacción con los anuncios o con el contenido, puede resultar muy útil para mejorar productos y servicios, así como para crear otros nuevos en base a las interacciones de los usuarios, el tipo de audiencia, etc. Esta finalidad específica no incluye el desarrollo ni la mejora de los perfiles de usuario y de identificadores.

  • Una plataforma tecnológica que opera con un proveedor de redes sociales observa un crecimiento en los usuarios de aplicaciones móviles y se da cuenta de que, en funciónde sus perfiles, muchos de ellos se conectan a través de conexiones móviles. La plataforma utiliza una tecnología nueva para mostrar anuncios con un formato óptimo para los dispositivos móviles y con un ancho de banda bajo a fin de mejorar su rendimiento.
  • Un anunciante está buscando una forma de mostrar anuncios en un nuevo tipo de dispositivo. El anunciante recopila información sobre la forma en que los usuarios interactúan con este nuevo tipo de dispositivo con el fin de determinar si puede crear un nuevo mecanismo para mostrar la publicidad en ese tipo de dispositivo.

El contenido que se presenta en este servicio puede basarse en datos limitados, como por ejemplo la página web o la aplicación que esté utilizando, tu ubicación no precisa, el tipo de dispositivo o el contenido con el que estás interactuando (o con el que has interactuado) (por ejemplo, para limitar el número de veces que se te presenta un vídeo o un artículo en concreto).

  • Una revista de viajes, para mejorar las experiencias de viaje en el extranjero, ha publicado en su página web un artículo sobre nuevos cursos que ofrece una escuela de idiomas por Internet. Las publicaciones del blog de la escuela se insertan directamente en la parte inferior de la página y se seleccionan en función de la ubicación no precisa del usuario (por ejemplo, publicaciones del blog que explican el plan de estudios del curso para idiomas diferentes al del país en el que este te encuentras).
  • Una aplicación móvil de noticias deportivas ha iniciado una nueva sección de artículos sobre los últimos partidos de fútbol. Cada artículo incluye vídeos alojados por una plataforma de streaming independiente que muestra los aspectos destacados de cada partido. Si adelantas un vídeo, esta información puede utilizarse para determinar que el siguiente vídeo a reproducir sea de menor duración.

Se puede utilizar la localización geográfica precisa y la información sobre las características del dispositivo

Al contar con tu aprobación, tu ubicación exacta (dentro de un radio inferior a 500 metros) podrá utilizarse para apoyar las finalidades que se explican en este documento.

Con tu aceptación, se pueden solicitar y utilizar ciertas características específicas de tu dispositivo para distinguirlo de otros (por ejemplo, las fuentes o complementos instalados y la resolución de su pantalla) en apoyo de las finalidades que se explican en este documento.

O sin cookies desde 1,67€ al mes

Por solo 1,67€ al mes, disfruta de una navegación sin interrupciones por toda la red del Grupo ADSLZone: adslzone.net, movilzona.es, testdevelocidad.es, lamanzanamordida.net, hardzone.es, softzone.es, redeszone.net, topesdegama.com y más. Al unirte a nuestra comunidad, no solo estarás apoyando nuestro trabajo, sino que también te beneficiarás de una experiencia online sin cookies.