El software que puede escribir noticias falsas con pocas palabras

En una prueba, fue capaz de crear una noticia convincente de siete párrafos que hasta incluyó citas.

El sistema usa un algoritmo que es capaz de predecir la siguiente palabra de un fragmento de texto según el conocimiento de todas las palabras anteriores,

OpenAI, grupo de investigación sobre inteligencia artificial cofundado por el multimillonario Elon Musk, reveló un software que puede producir noticias falsas de apariencia autentica luego de recibir solo una pequeña cantidad de información. En un ejemplo publicado el jueves, el sistema recibió un texto de muestra: «Un vagón de tren con materiales nucleares controlados fue robado hoy en Cincinnati. Se desconoce su paradero». 

A partir de esto, el software pudo generar una noticia convincente de siete párrafos que hasta incluyó citas de funcionarios de gobierno, aunque el único detalle es que era completamente falsa.

«Los textos que son capaces de generar a partir de las indicaciones son muy impresionantes», comentó Sam Bowman, científico informático de la Universidad de Nueva York que se especializa en el procesamiento del lenguaje natural.
«Es capaz de hacer cosas que son mucho mas sofisticadas que lo que hemos visto antes», agregó.

Ciudades inteligentes hechas con datos y decisiones humanas

Video’No se puede confundir el progreso tecnológico con el progreso social’

Trump invertirá en inteligencia artificial, pero no concreta recursos

La firma de investigación es consciente de la inquietud en torno a las noticias falsas, según precisó Jack Clark, director de políticas de OpenAI.

«Uno de los propósitos no tan buenos seria la desinformación porque puede producir cosas que suenan coherentes pero que no son precisas», detalló. A modo de precaución, OpenAI decidió no publicar o lanzar las versiones mas sofisticadas de su software. Sin embargo, creó una herramienta que permite a autoridades, periodistas, escritores y artistas experimentar con el algoritmo para ver qué tipo de texto puede generar y qué tareas puede realizar.

La posibilidad de que el software sea capaz de crear casi instantáneamente noticias falsas surge en medio de preocupaciones a nivel mundial sobre el papel de la tecnología en la difusión de desinformación.

Reguladores europeos amenazaron con tomar medidas si las empresas de tecnología no hacen más para evitar que sus productos ayuden a influir en los votantes y Facebook trabaja desde las elecciones de 2016 en Estados Unidos para tratar de contener la información falsa en su plataforma.

Clark y Bowman explicaron que, por ahora, las habilidades del sistema no son suficientemente consistentes para transformarse en una amenaza inmediata. «Esta no es una tecnología lista para usarse hoy en día y eso es algo bueno», aseguró Clark.

Presentada en un informe y una publicación de blog, la creación de OpenAI desarrolla una tarea conocida como modelado de lenguaje, que consiste en predecir la siguiente palabra de un fragmento de texto según el conocimiento de todas las palabras anteriores, de manera similar a la función de autocompletar al escribir un correo electrónico. También se puede utilizar para la traducción y para responder preguntas abiertas. 

CON BLOOMBERG

Descarga la app El Tiempo. Con ella puedes escoger los temas de tu interés y recibir notificaciones de las últimas noticias. Conócela acá: