Informatica-algoritmos-ciencia-tecnologia-conspiraciones-peligros-fake-news-curiosidades-engaños-mentiras-GPT2-OpenAI-Elon-Musk

El algoritmo de las fake news

Grandes mentes del siglo XXI como Elon Musk o Stephen Hawking ya han alertado de los potenciales peligros que puede acarrear una Inteligencia Artificial que se vaya de las manos. Puede que estemos a las puertas de los primeros indicios al respecto.

La compañía sin ánimo de lucro OpenAI, encargada del desarrollo y creación de IA beneficiosa para la humanidad, ha decidido mantener en las sombras parte del código de un algoritmo de procesamiento de lenguaje natural conocido como GPT-2. Esta tecnología es capaz de, a partir de un titular, inventar una noticia completa. Aunque no sea perfecta, es capaz de producir textos extremadamente realistas en el 50% de las ocasiones, no en vano se han utilizado millones de páginas webs para entrenarlo.

El porqué de la censura parcial del código está claro: sus creadores temen que su invención se utilice para optimizar y automatizar con gran eficacia fake news. Ya han realizado varias pruebas generando noticias muy realistas sobre el robo de un cargamento nuclear o sobre los impactos económicos del Brexit que, si fueran publicadas por cualquier medio de comunicación, las aceptaríamos perfectamente.

No han faltado las voces críticas que han quitado leña al asunto y que han demandado reproducibilidad y un acceso abierto a todo el código para poder contrastar científicamente su efectividad. Para muestra, ver el vídeo que dejamos más abajo:

A continuación obsequiamos al lector con una serie de pruebas que la compañía OpenAI realizó para poner a prueba a su criatura para que compruebe por sí mismo el ingenio del algoritmo y la plausibilidad de algunas de las informaciones resultantes que emitió el programa. El titular, es decir, el fragmento de texto que los informáticos introdujeron manualmente, lo hemos resaltado para diferenciarlo del texto fabricado por GPT-2:

«Un vagón de tren que contenía materiales nucleares controlados fue robado hoy en Cincinnati. Se desconoce su paradero.«

«El incidente ocurrió en la línea de tren del centro de la ciudad, que va desde las estaciones Covington y Ashland. En un correo electrónico a los medios de comunicación de Ohio, el Departamento de Energía de EE UU dijo que está trabajando con la Administración Federal de Ferrocarriles para encontrar al ladrón. «El robo de este material nuclear tendrá consecuencias negativas significativas en la salud pública y ambiental, en nuestra fuerza laboral y en la economía de nuestra nación», dijo Tom Hicks, secretario de Energía, en una declaración. «Nuestra prioridad es resolver el robo y asegurarnos de que no vuelva a ocurrir.» El material fue robado del sitio de investigación nuclear del Research Triangle Park de la Universidad de Cincinnati, según un comunicado de los funcionarios. La Comisión Reguladora Nuclear no dio a conocer inmediatamente ninguna información. Según el comunicado, la Oficina de Seguridad y Protección de Materiales Nucleares del Departamento de Energía está dirigiendo la investigación de ese equipo. «La seguridad de la gente, el medio ambiente y el arsenal nuclear de la nación es nuestra mayor prioridad», dijo Hicks. «Llegaremos al fondo de esto y no daremos excusas.»

«Miley Cyrus fue sorprendida hoy robando en Abercrombie y Fitch, en Hollywood Boulevard.«

«La cantante de 19 años de edad fue capturada por la cámara, siendo acompañada fuera de la tienda por guardias de seguridad. La cantante llevaba una sudadera con capucha negra con la etiqueta Blurred Lines en la parte delantera y Policía de la Moda en la parte trasera. La cantante también llevaba un par de gafas de montura negra, una chaqueta negra, vaqueros negros y sandalias negra. Llevaba un par de guantes de rayas blancas y negras y una pequeña bolsa negra.»

Vemos que no está nada mal. Es cierto que comete algunos errores, pero es sorprendentemente preciso y detallista. Con unos pocos retoques más se podría convertir en una auténtica arma de desinformación que encontraría un nicho muy apetecible en la sociedad actual, en la que el bombardeo de información es constante y los esfuerzos individuales para contrastar los datos están esquilmados. A continuación dejamos el enlace para que el lector pueda consultar más pruebas que se realizaron con este algoritmo, algunas de ellas desternillantes.

Síguenos en Redes Sociales// Follow us in Social Media

Deja un comentario