Temen que una IA inunde Internet de Noticias falsas

Un grupo de investigadores del instituto OpenAI ha desarrollado una inteligencia artificial que puede escribir de una forma similar a la de un ser humano. Luego de celebrar el logro los desarrolladores comenzaron a preocuparse por el uso que podría dársele a su creación. Una de las principales amenazas sería la creación de un sistema que produjera noticias falsas e inundara las redes sociales.

La inteligencia artificial en este momento es capaz de producir artículos sobre cualquier tipo de tema a partir de una premisa simple. Debe destacarse que no necesita ningún tipo de supervisión o entrenamiento previo. El contenido es generado a través de fragmentos que captura de sitios web.

Para asegurar un mínimo de calidad en el material seleccionado la IA solo considera aquellas páginas que están enlazadas al sitio Reddit y tienen un karma (puntaje) de 3 o superior. En efecto, la IA considera que Reddit es el criterio de calidad a seguir. Según los investigadores es una forma de establecer el interés, el valor educacional o el entretenimiento que brinda el material.

LA IA genera historias palabra a palabra, e intenta obtener una composición única en base a los fragmentos capturados. Como resultado los textos son generalmente coherentes pero muy rara vez verdaderos. Por ejemplo, las citas de autoridad son fabricadas.

La inteligencia artificial tiene todavía muchas fallas: oraciones mal estructuradas, repetición de pasajes, datos totalmente desacertados, etcétera.

Organización cuestionada

Muchos miembros de la comunidad científica han cuestionado el valor del trabajo realizado en OpenAI. Se ha apuntado que tienen una gran cantidad de fondos y produce pocos desarrollos de importancia. Otros han cuestionado la publicidad negativa que sus desarrollos generan para el campo de investigación. Sin embargo también se ha destacado como valiosa la preocupación mostrada por sus desarrolladores antes las posibles aplicaciones de la IA.

La entrada Temen que una IA inunde Internet de Noticias falsas aparece primero en RedUSERS.

via Internet – RedUSERS