Ciencia y Tecnología

Un software puede escribir noticias falsas con un puñado de palabras

"Es capaz de hacer cosas que son mucho más sofisticadas que lo que hemos visto antes", afirmó un especialista acerca del programa revelado por un grupo de investigación cofundado por Elon Musk.

Fotografía referencial

Por Jeremy Kahn

Jueves 14 de febrero de 2019

A+ A-

OpenAI, grupo de investigación sobre inteligencia artificial cofundado por el multimillonario Elon Musk, reveló un software que puede producir noticias falsas de apariencia auténtica luego de recibir solo una pequeña cantidad de información.

En un ejemplo publicado el jueves por OpenAI, el sistema recibió un texto de muestra: "Un vagón de tren con materiales nucleares controlados fue robado hoy en Cincinnati. Se desconoce su paradero". A partir de esto, el software pudo generar una noticia convincente de siete párrafos que hasta incluyó citas de funcionarios de gobierno, aunque el único detalle es que era completamente falsa.

"Los textos que son capaces de generar a partir de las indicaciones son muy impresionantes", comentó Sam Bowman, científico informático de la Universidad de Nueva York que se especializa en el procesamiento del lenguaje natural y que no participó en el proyecto OpenAI, aunque recibió información sobre el mismo. "Es capaz de hacer cosas que son mucho más sofisticadas que lo que hemos visto antes".

OpenAI es consciente de la inquietud en torno a las noticias falsas, precisó Jack Clark, director de políticas de la organización. "Uno de los propósitos no tan buenos sería la desinformación porque puede producir cosas que suenan coherentes pero que no son precisas", detalló.

A modo de precaución, OpenAI decidió no publicar o lanzar las versiones más sofisticadas de su software. Sin embargo, creó una herramienta que permite a autoridades, periodistas, escritores y artistas experimentar con el algoritmo para ver qué tipo de texto puede generar y qué otro tipo de tareas puede realizar.

La posibilidad de que el software sea capaz de crear casi instantáneamente noticias falsas surge en medio de preocupaciones a nivel mundial sobre el papel de la tecnología en la difusión de desinformación. Reguladores europeos amenazaron con tomar medidas si las empresas de tecnología no hacen más para evitar que sus productos ayuden a influir en los votantes y Facebook trabaja desde las elecciones de 2016 en Estados Unidos para tratar de contener la información falsa en su plataforma.

Clark y Bowman explicaron que, por ahora, las habilidades del sistema no son suficientemente consistentes para transformarse en una amenaza inmediata. "Esta no es una tecnología lista para usarse hoy en día y eso es algo bueno", aseguró Clark.

Presentada en un informe y una publicación de blog el jueves, la creación de OpenAI desarrolla una tarea conocida como modelado de lenguaje, que consiste en predecir la siguiente palabra de un fragmento de texto según el conocimiento de todas las palabras anteriores, de manera similar a la función de autocompletar al escribir un correo electrónico en un teléfono móvil. También se puede utilizar para la traducción y para responder preguntas abiertas.

A+ A-

Para recibir el newsletter de Pauta ingresa tu correo

Relacionados

<p>Space ha lanzado más de 1.000 satélites para su servicio de internet. Amazon no ha lanzado ninguno. Créditos: Bloomberg.</p>
tipo de contenido
Ciencia y Tecnología

No les bastó la disputa en tierra: Bezos y Musk se enfrentan por órbitas para sus satélites

SpaceX solicitó permiso para operar sus satélites en una órbita más baja. Amazon se opuso.

<p>La aparición de variantes más contagiosas ha saturado los hospitales del país. Créditos: Bloomberg.</p>
tipo de contenido
tipo de contenido
Ciencia y Tecnología

Las luchas paralelas en Israel: combatir nuevas variantes y conservar el liderazgo en vacunación

La tasa de contagios en Israel se redujo al 9%, con una estabilización de los pacientes en estado crítico.

<p>EE. UU. recibirá 100 millones de dosis en el primer semestre del año. Créditos: Bloomberg.</p>
tipo de contenido
tipo de contenido
Ciencia y Tecnología

Una dosis alta de ayuda: vacuna de J&J mostró 66% de eficacia en una dosis

En un estudio a más de 44.000 personas, reveló ser particularmente efectiva en cuadros graves.

<p>La empresa se negó a comentar sobre sus políticas para empleados. Créditos: Bloomberg.</p>
tipo de contenido
Ciencia y Tecnología

GameStop: la firma cuya valoración bursátil desató el caos en los mercados

La empresa ha cerrado más de mil tiendas en 2020. Sus papeles en la bolsa viven un boom debido a movimientos de usuarios de Reddit.