Ciencia y Tecnología

Un software puede escribir noticias falsas con un puñado de palabras

"Es capaz de hacer cosas que son mucho más sofisticadas que lo que hemos visto antes", afirmó un especialista acerca del programa revelado por un grupo de investigación cofundado por Elon Musk.

Fotografía referencial

Por Jeremy Kahn

Jueves 14 de Febrero de 2019

A+ A-

OpenAI, grupo de investigación sobre inteligencia artificial cofundado por el multimillonario Elon Musk, reveló un software que puede producir noticias falsas de apariencia auténtica luego de recibir solo una pequeña cantidad de información.

En un ejemplo publicado el jueves por OpenAI, el sistema recibió un texto de muestra: "Un vagón de tren con materiales nucleares controlados fue robado hoy en Cincinnati. Se desconoce su paradero". A partir de esto, el software pudo generar una noticia convincente de siete párrafos que hasta incluyó citas de funcionarios de gobierno, aunque el único detalle es que era completamente falsa.

"Los textos que son capaces de generar a partir de las indicaciones son muy impresionantes", comentó Sam Bowman, científico informático de la Universidad de Nueva York que se especializa en el procesamiento del lenguaje natural y que no participó en el proyecto OpenAI, aunque recibió información sobre el mismo. "Es capaz de hacer cosas que son mucho más sofisticadas que lo que hemos visto antes".

OpenAI es consciente de la inquietud en torno a las noticias falsas, precisó Jack Clark, director de políticas de la organización. "Uno de los propósitos no tan buenos sería la desinformación porque puede producir cosas que suenan coherentes pero que no son precisas", detalló.

A modo de precaución, OpenAI decidió no publicar o lanzar las versiones más sofisticadas de su software. Sin embargo, creó una herramienta que permite a autoridades, periodistas, escritores y artistas experimentar con el algoritmo para ver qué tipo de texto puede generar y qué otro tipo de tareas puede realizar.

La posibilidad de que el software sea capaz de crear casi instantáneamente noticias falsas surge en medio de preocupaciones a nivel mundial sobre el papel de la tecnología en la difusión de desinformación. Reguladores europeos amenazaron con tomar medidas si las empresas de tecnología no hacen más para evitar que sus productos ayuden a influir en los votantes y Facebook trabaja desde las elecciones de 2016 en Estados Unidos para tratar de contener la información falsa en su plataforma.

Clark y Bowman explicaron que, por ahora, las habilidades del sistema no son suficientemente consistentes para transformarse en una amenaza inmediata. "Esta no es una tecnología lista para usarse hoy en día y eso es algo bueno", aseguró Clark.

Presentada en un informe y una publicación de blog el jueves, la creación de OpenAI desarrolla una tarea conocida como modelado de lenguaje, que consiste en predecir la siguiente palabra de un fragmento de texto según el conocimiento de todas las palabras anteriores, de manera similar a la función de autocompletar al escribir un correo electrónico en un teléfono móvil. También se puede utilizar para la traducción y para responder preguntas abiertas.

A+ A-

Para recibir el newsletter de Pauta ingresa tu correo

Relacionados

Ciencia y Tecnología

Apple Watch ayuda a detectar problemas cardiacos

Un estudio arrojó que el artefacto puede detectar en ocasiones pacientes con problemas de ritmo cardíaco no diagnosticados.

Ciencia y Tecnología

Salida de alto ejecutivo de Facebook pone fin a complicada era de noticias

Chris Cox trabajó en la red social durante 13 años, en los cuales ayudó a inventar y desarrollar el servicio de noticias.

Ciencia y Tecnología

Breve historia de la edición genética

Desde un monje que experimentó con plantas de arvejas a bebés genéticamente modificados en China, la edición genética se ha convertido en un tema que crea gran expectativa y temor.

Ciencia y Tecnología

Este juguete de Musk se agotó antes de llegar al espacio

Un tuit del fundador de SpaceX y Tesla fue suficiente para disparar la venta de un peluche con forma del planeta tierra.