ChatGPT español rebate el discurso de odio en redes: “Ningún humano lo haría mejor”

Su objetivo es mejorar la capacidad de las autoridades para identificar discursos de odio en línea y fortalecer las contranarrativas.

Ofrece mejores resultados crear otro mensaje de respuesta, en este caso “positivo, informativo y veraz”, que “contrarreste” ese discurso de odio. (editor de 'El País')

La Universidad española de Jaén creó un sistema generativo del lenguaje -al estilo ChatGPT- entrenado para responder los discursos de odio en redes sociales para desmontarlos, un modelo que se presentará ante la Comisión Europea como parte de un proyecto europeo liderado por el Gobierno español.

“Ningún humano sería capaz de hacerlo mejor”, asegura en una entrevista con la Agencia EFE la catedrática de Informática María Teresa Martín, una de las impulsoras de este sistema, el primero de estas características en español.

Este modelo es una de las ramas del proyecto Real-Up, dirigido por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones, con la Oficina Nacional de Lucha Contra los Delitos de Odio y las universidades de Barcelona (UB) y de Valencia (UV), entre sus socios.

Su objetivo es mejorar la capacidad de las autoridades para identificar discursos de odio en línea y fortalecer las contranarrativas hacia estos mensajes motivados por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo.

La aportación del grupo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén consiste en una herramienta de inteligencia artificial basada en sistemas de procesamiento del lenguaje natural.

Responder mejor que “censurar”

Surgió desde la observación, desde el punto de vista sociológico, de que la práctica habitual de las plataformas de eliminar los mensajes de odio o colocar una etiqueta de ‘contenido inapropiado’ no resulta la más adecuada.

“Muchas veces las personas que están leyendo el hilo de Twitter (ahora denominado X), cuando ven que al ‘hater’ se le censura automáticamente, aunque ni siquiera esté de acuerdo con él, se pone de su parte”, explica Martín.

Ofrece mejores resultados crear otro mensaje de respuesta, en este caso “positivo, informativo y veraz”, que “contrarreste” ese discurso de odio.

Por ejemplo, ante la afirmación “los inmigrantes vienen a quitarnos el trabajo”, esta herramienta responde destacando el valor de la población extranjera en el mercado de trabajo del país, en muchas ocasiones asumiendo puestos que los ciudadanos locales rechazan, y resalta los aspectos positivos de la diversidad.

“Hemos comparado lo que hace un humano con esto y en el 80% de las ocasiones la contranarrativa generada por nuestro sistema tiene mejor calidad: son más informativas, más descriptivas y más específicas”, asegura Martín.

Esta herramienta la podrían incorporar las propias redes sociales, algo que Martín duda que pueda interesar a las empresas que las dirigen, y (más probablemente) autoridades o entidades sociales que buscan combatir el odio en redes, algo que hoy en día hacen de forma manual.

“Muchos voluntarios acaban con unos problemas mentales horrorosos de estar leyendo barbaridades y contestar una y otra vez las mismas cosas”, explica Martín, para quien esta herramienta resolvería parte del problema.

 

Día Mundial de la Contraseña: cuatro consejos para mantener tus cuentas seguras

De acuerdo a Fortinet, empresa de ciberseguridad, en 2023, se detectaron en Perú 5,000 millones de intento de ciberataques.

No es sorpresa que los ciberdelincuentes están en constante búsqueda de vulnerabilidades fáciles de explotar, siendo las contraseñas débiles. (Foto: Fortinet)

De acuerdo a Fortinet, empresa de ciberseguridad, en 2023, se detectaron en Perú 5,000 millones de intentos de ciberataques. Y es que, actualmente, no es sorpresa que los ciberdelincuentes están en constante búsqueda de vulnerabilidades fáciles de explotar, siendo las contraseñas débiles, las que más acechan.

Por su lado, Kaspersky, indicó que casi un cuarto de los peruanos (23%) admite haber sufrido un hackeo de por lo menos una de sus cuentas en línea. Asimismo, informó que se realizaron más de 32 millones de intentos de ataques a usuarios con ladrones de contraseñas en 2023, seguido de más de 40 millones de incursiones en 2022.

“Los cibercriminales están en búsqueda constante de nuevas formas de comprometer las credenciales de los usuarios, haciendo que sea casi imposible crear una lista completa de cómo pueden robar una contraseña. Es por eso que necesitamos aprender a mantenernos a nosotros y nuestros datos seguros en línea. Un buen lugar para empezar es implementando contraseñas que sean difíciles de robar en todas nuestras cuentas” asegura Arturo Torres, estratega de ciberseguridad de FortiGuard Labs para América Latina y el Caribe.

Debido a ello, y en el marco del Día Mundial de la Contraseña, el experto en ciberseguridad de Fortinet, comparte cuatro consejos para mantener nuestras cuentas y activos digitales a salvo.

Descubre las peores claves que puedes elegir en el Día Mundial de la Contraseña.

• Crear contraseñas que sean imposibles de olvidar, pero difíciles para otros de adivinar: para que sea más fácil crear contraseñas fuertes se puede utilizar el método mnemotécnico, como por ejemplo la segunda letra de cada palabra en una oración que conoces o de la letra de una canción, haciendo un mix de letras mayúsculas, y caracteres especiales.
• Evitar utilizar nombres específicos, números o frases en las contraseñas: es vital mantener la información personal, junto con el destino favorito de vacaciones, universidad o equipo de deportes, fuera de las contraseñas. Evitando sobre todo: fechas de cumpleaños, números de teléfono, información de la compañía, nombres, incluyendo títulos de películas o equipos deportivos, entre otros.
• Utilizar diferentes contraseñas para cada cuenta: imaginemos que una de las cuentas se ve comprometida y un nombre de usuario y contraseña son posteados en la dark web. En ese caso, los cibercriminales que saben que es muy común que las contraseñas sean reutilizadas, van a empezar a usar esa información en otras cuentas hasta que logren desbloquear las que tienen la misma combinación.
• Usar un password manager para generar contraseñas, únicas, largas, complejas y que sean fáciles de cambiar para todas tus cuentas: este te permitirá generar contraseñas únicas para cada una de tus cuentas (o puedes utilizar una propia), encriptarlas y almacenarlas en una bóveda local o basada en la nube. Estas aplicaciones hacen que sea mucho más fácil asegurar que estés usando las combinaciones más fuertes.

Por su parte, Kaspersky recomendó cuatro pasos para mejorar la seguridad de las contraseñas:

1. El método de asociación ayuda a crear contraseñas fuertes y fáciles de recordar: Una contraseña puede basarse en una cita favorita, una letra de canción memorable o una combinación única de objetos. Esta técnica genera contraseñas fuertes sin requerir una memorización compleja, lo que ayuda a mantener la seguridad al tiempo que reduce el riesgo de olvidarla. Por ejemplo, una frase como “Visitaba París por primera vez en 2008″ podría transformarse en una contraseña como “VpPp1v2008″.
2. ¿Las contraseñas regulares son demasiado aburridas? ¿Qué tal emojis?: Si usar la misma contraseña en todas partes se vuelve demasiado y te falta imaginación para inventar algo nuevo, las contraseñas con emojis podrían ser una opción no estándar y segura. Dado que son parte del estándar Unicode, potencialmente es posible usarlos como contraseñas.
3. La opción más obvia no es la más segura: Una contraseña fuerte y complicada incluye una mezcla de letras, números y símbolos, evitando además información personal como nombres o fechas de nacimiento. Además, existen servicios públicos gratuitos en línea que permiten a todos verificar qué tan fuertes son sus contraseñas para mitigar posibles riesgos.
4. Viejo pero valioso: una cuenta, una contraseña: Esta práctica asegura que, si una cuenta se ve comprometida, las demás permanezcan seguras. Al crear una contraseña única para cada cuenta, se minimiza el daño que un hacker puede hacer si logra robar una. Este enfoque aísla las brechas de seguridad y ayuda a proteger datos sensibles.

¿Cuáles son las modalidades comunes para robar contraseñas de un usuario?

Existen numerosas tácticas que se pueden utilizar para robar las contraseñas de un usuario. Estas van desde ingeniería social o phishing, en el cual los cibercriminales engañan a un usuario para que les de su credenciales a través de un correo o mensajes de texto, hasta intercepción de tráfico, en donde los atacantes utilizan software como packet sniffers, para monitorear el tráfico de la red que contiene información de contraseñas y capturarlas.

 

La IA seguirá moviendo más fronteras en el mundo digital en 2024, según GlobalLogic

La inteligencia artificial está redefiniendo sectores clave como las telecomunicaciones, el financiero y los servicios. A medida que la IA generativa impulsa la innovación, surgen desafíos de seguridad.

La automatización robótica de procesos suprime tareas manuales. Foto: Vos

Tal vez como en ninguna época anteriormente, la tecnología está provocando disrupciones en tiempo récord, y la Inteligencia Artificial (IA) es la impulsora de la mayoría de ellas. Dentro de ese universo, la IA generativa es la que ha provocado que se abran más fronteras en el mundo digital para un uso masivo.

Las telecomunicaciones el sector financiero, los servicios y hasta la contratación de personal se están viendo influidas por el empuje de la IA generativa, con resultados palpables.

Pero el uso de esta herramienta suscita preocupaciones y preguntas sobre su uso en un mundo en el que los avances cibernéticos también plantean desafíos de seguridad.

“Ha habido filtración de información, mal uso de los resultados obtenidos y modelos que han sido corrompidos con el fin de generar perjuicios”, explica a EFE Gabriel Arango, director de Tecnología de GlobalLogic, una empresa de servicios digitales con sede en San José (California, EE.UU.).

Esta compañía, propiedad de Hitachi, instruye obligatoriamente a todos sus ingenieros en el uso de la IA generativa.

El objetivo es calibrar “cuál es el principal impacto de utilizar ese tipo de herramientas”, detalla Arango, quien también prestó sus servicios para TTEC, una compañía de tecnología y servicios con sede en Greenwood Village (Colorado, EE.UU.).

La acumulación masiva de datos, crítica para el desarrollo de la IA

La IA se desarrolla mediante la acumulación de datos. Al igual que los seres humanos están sometidos a un proceso de socialización, la IA absorbe de todo el ecosistema de datos.

“Grandes cantidades de datos no estructurados, considerados previamente inútiles, se transformarán en herramientas cruciales para comprender tendencias de compra, comportamientos de clientes y mucho más”, asegura este experto.

“Los datos son la base, pero también uno de los puntos débiles de la IA, porque si se entrena mal un modelo, el resultado no será el correcto”.

Por eso se emplean advertencias del tipo: “estos datos son generados por IA, úselos con precaución, no son una fuente de verdad”, agrega Arango, ingeniero de Sistemas de la Universidad Tecnológica Nacional de Buenos Aires y MBA de la UADE Business School.

La revolución IA de la computación cuántica

Era un término de ciencia ficción, pero ya se está viendo su significado real: la IA y el ‘cloud computing’ aprovechan las ventajas del cálculo cuántico en casi todos los campos, desde la fabricación de aviones hasta la modelación de estructuras moleculares en medicina.

Pero, ¿cómo veremos ese impacto en América Latina?

La computación cuántica está en pleno desarrollo, la producción de computadoras cuánticas para tareas de uso general todavía es muy cara.

“Pero en áreas como, por ejemplo, los laboratorios clínicos permite hacer millones de modelos de análisis de medicamentos y drogas, probarlas una y otra vez hasta entrenarse, y así evitar años de trabajo”, asevera Arango, quien llama la atención sobre el binomio IA y velocidad de transmisión de información.

“En menos de veinte años hemos pasado del 3G al 5G, y en países como China ya se están haciendo pruebas con 5.5G e incluso 6G, y ya se ve en el futuro el 7G”, vaticina.

En América Latina, el sector público podría beneficiarse de estos avances para agilizar “procesos que actualmente son muy engorrosos y en los que la exagerada intervención humana cuesta mucho tiempo y dinero”.

La automatización robótica de procesos (RPA, por sus siglas en inglés) suprime tareas manuales. “Eso es lo que podrían utilizar los Gobiernos o las industrias que todavía siguen muy dependientes del papel y los trámites”, concluye.