INTELIGENCIA ARTIFICIAL, CHATBOTS Y CHATGPT CAPACES DE REVELAR DATOS PRIVADOS

-Investigadores descubren que la Inteligencia Artificial (AI) y chatbots como ChatGPT son capaces de revelar tus datos privados – Como era de esperar, estos datos son fácilmente accesibles para los estafadores, así que mucho cuidado con lo que publicas en Internet sobre ti…

La privacidad se ha convertido en un bien de demasiado valor que, muchas veces, no se valora como debería por parte de los usuarios. Un estudio reciente realizado por investigadores de ETH Zurich han desvelado un extraño descubrimiento: la inteligencia artificial tiene la capacidad de averiguar información confidencial sobre las personas a partir de lo que han publicado en Internet: puede revelar detalles como el sexo, la ubicación, la edad e incluso el lugar de nacimiento de una persona.

Los autores de este estudio advierten de forma literal que la inteligencia artificial puede “inferir datos personales a una escala previamente inalcanzable”, lo que desde luego pone sobre la mesa una gran amenaza para la seguridad y la privacidad en línea.

Lo más perturbador viene ahora y es que esta técnica, como comenta Business Insider, podría ser utilizada por ciberdelincuentes para obtener información confidencial de usuarios desprevenidos, valiéndose de preguntas a los chatbots aparentemente inofensivas.

Cuidado con lo que publicas en Internet porque los chatbots podrían ser la herramienta definitiva para los ciberdelincuentes – El estudio ha querido demostrar este hecho concreto, centrándose en la capacidad de modelos de lenguaje muy potentes, como GPT-4, que impulsan chatbots como ChatGPT, para deducir información personal de 520 usuarios reales de Reddit y sus publicaciones entre 2012 y 2016.

Tal y comentan en Wired, los investigadores compararon las conjeturas de la IA con el análisis que pusieron estas personas en sus perfiles. Entre los cuatro modelos probados, GPT-4 demostró ser el más preciso, con una asombrosa precisión del 84,6%.

Aunque este no es el primer estudio que alerta sobre la amenaza que la IA representa para la privacidad, es uno de los más preocupantes. Por ejemplo, otro estudio, publicado en agosto, demostró que la IA podía descifrar texto, como contraseñas, basándose en el sonido de su escritura registrado a través de plataformas como Zoom, con una impresionante precisión del 93%.

Para que te hagas una ligera idea, explican que el problema reside en el proceso de entrenamiento de estos modelos de IA. Para adquirir su capacidad de lenguaje, estos se alimentan de una enorme cantidad de datos extraídos de Internet, lo que les otorga esa capacidad sorprendente de responder como si se tratase de un humano.

Sin embargo, estos datos de entrenamiento también contienen en muchas ocasiones información personal y conversaciones privadas, que pueden al final desembocar en que el chatbot sepa tu ubicación o datos privados tuyos. Esto permite a la IA con algo de conversación con ella terminar dando datos sobre la vida de una persona a partir de conversaciones que, en apariencia, parece que no tienen importancia.

Por ejemplo, si alguien menciona que ha tomado “el tren de la mañana” en un chat o foro, un modelo de IA podría inferir que se encuentra en Europa, donde son comunes y suelen usarse mucho por la mañana. Sin embargo, la IA no se detiene ahí. Su capacidad para combinar múltiples pistas sutiles le permite hacer conjeturas sobre la ciudad, el género, la edad e incluso la raza de la persona.

Como era de esperar, este descubrimiento ha alertado aún más a los investigadores y a la industria, que ya se han puesto manos a la obra para hacer frente a este problema. Florian Tramèr, profesor asistente en ETH Zurich, ha querido mostrar su preocupación por la cantidad de información que se comparte en situaciones en las que no te das cuenta y finalmente, acabas perdiendo tu anonimato.

Si bien no está claro cuánta información personal se puede inferir de esta manera, se especula que los modelos de lenguaje podrían ser una gran herramienta para descubrir información privada y, por lo tanto, un caramelo para los ciberdelincuentes.

Los estafadores podrían aprovechar esta capacidad de la IA para recopilar datos confidenciales de usuarios y además, por si fuese poco, existe la posibilidad de que las empresas utilicen la información recopilada por los chatbots para crear perfiles de los usuarios con fines publicitarios. Fuente: computerhoy.com

CON LA INTELIGENCIA ARTIFICIAL LOGRAN DESCIFRAR PAPIRO DE HACE UNOS 2.000 AÑOS

-Gracias al concurso ‘Vesuvius Challenge’ (Desafío del Vesubio), un grupo de expertos desarrollaron un sistema de inteligencia artificial para descifrar el contenido de un papiro de Herculano, de hace más de dos mil años

Leer los textos que escribieron los antiguos romanos hace dos milenios podría haber sido una tarea fácil, pero intentar hacerlo con un papiro cubierto de material piroclástico podría ser casi imposible. Sin embargo, gracias a las nuevas tecnologías de inteligencia artificial, un equipo de investigadores ha logrado descifrar parte del contenido de un papiro que se encontraba en la ciudad de Herculano, Pompeya, que fue destruida por la erupción del volcán Vesubio en el año 79 d.C.

El papiro forma parte de una colección de miles de volúmenes que se hallaron en la llamada Villa de los Papiros, una lujosa residencia que pertenecía al suegro de Julio César, Lucio Calpurnio Pisón Cesonino. Esta villa albergaba una impresionante biblioteca con textos en griego y latín sobre filosofía, literatura, ciencia y política. Sin embargo, los papiros quedaron carbonizados por el efecto del calor y la ceniza volcánica, lo que dificulta enormemente su lectura y conservación.

Durante siglos, los expertos han intentado recuperar la información de estos papiros sin dañarlos, usando técnicas como el desenrollado mecánico o la fotografía infrarroja y de Rayos X. Sin embargo, estos métodos no han sido suficientes para revelar todo el contenido de los textos, que permanecen ocultos bajo capas de tinta y material orgánico.

Para ello, se lanzó un concurso internacional llamado Vesuvius Challenge (Desafío del Vesubio), que ofrecía 660 mil euros a quien lograra crear un sistema de inteligencia artificial que ayudara a leer el contenido de estos papiros. El reto consistía en identificar las letras griegas que aparecían en un fragmento de papiro escaneado con rayos X.

El ganador del concurso fue Luke Farritor, un estudiante de Nebraska, que se llevó 40 mil dólares por identificar 10 letras. Farritor usó un algoritmo basado en redes neuronales artificiales, que son capaces de aprender y reconocer patrones a partir de los trazos marcados con tinta negra en el papiro. El segundo premio fue para Youssef Nader, un estudiante residente en Berlín, que se llevó 10 mil euros.

Entre las letras que logró identificar Farritor se encuentra la palabra πορφυρας (porphyras), que significa “púrpura” en griego. Este color estaba asociado al poder y la riqueza en la antigua Roma, y solo podía ser usado por los miembros de la élite. Esto sugiere que el papiro podría contener algún texto relacionado con la política o la historia romana.

Este avance supone un gran paso para la preservación y el estudio del patrimonio cultural de la humanidad. Gracias a la inteligencia artificial, se podrían recuperar miles de textos antiguos que nos ayudarían a comprender mejor el pasado y el presente de nuestra civilización.

Federica Nicolardi, de la Universidad de Nápoles, que es miembro del comité que examinó los hallazgos publicados en la revista Nature , dijo que estaba muy impresionada con los resultados: “Un sueño poder ver finalmente el interior de uno de estos papiros. Están todos arrugados y aplastados”.

Brent Seales, un investigador de la Universidad de Kentucky aseguró que “hemos logrado saber cómo leer la tinta de los papeles de Herculano. Eso nos da la oportunidad de revelar el 50, el 70, o tal vez el 80 % de toda la colección. Hemos construido un barco y ahora queremos que todo el mundo suba a bordo”. Fuente: adn40.mx 

Información: adn40.mx / computerhoy.com / Imagen: LVÁ       

La Voz del Árabe (LVÁ) – CIENCIA Y TECNOLOGÍA – Cd. de México, noviembre 2 del 2023

 

Las declaraciones y opiniones expresadas en esta publicación sitio web en Internet son exclusiva responsabilidad de su autor y no representan necesariamente el punto de vista de La Voz del Árabe.