El spam generado por IA está empezando a guatar las redes sociales. Este es el por qué

Casey Morris, un abogado del finalidad de Virginia, recientemente comenzó a consultar Facebook nuevamente luego de un extenso refrigerio. Entre las publicaciones de amigos y familiares, notó una tendencia extraña.

“El título dirá: ‘Cierra los luceros al 70% y verás hechicería’. Y sin entornar los luceros en ilimitado, es muy obviamente una especie de imagen de Jesús, pero estará compuesta por vegetales, un tractor y una pupila pequeña que están poco distorsionados”, dijo.

Esa no fue la única extrañeza en el feed de Morris. Aparecieron imágenes similares con subtítulos idénticos. Todavía lo hicieron diferentes publicaciones más emocionalmente explotadoras que mostraban a madres y niños discapacitados en el pústula o amputados sonrientes, con subtítulos pidiendo un deseo de cumpleaños.

«Ha hecho de Facebook un sitio muy extraño y espeluznante para mí», dijo Morris.

Entre el tema, las pistas estilísticas y los errores extraños, Morris rápidamente se hizo evidente que estas imágenes eran falsas: las productos de inteligencia artificial.

No los publican personas que ella conoce o sigue. En cambio, Facebook sugiere que podría estar interesada en ellos, y parecen ser muy populares.

“Están recibiendo miles de reacciones y miles de comentarios. [from] personas que parecen pensar que son reales, así que les deseamos un eficaz cumpleaños o decimos poco religioso en los comentarios”, dijo.

Morris no es el único legatario de Facebook cuyo feed ha comenzado a empacharse de spam generado por IA. Reporteros en el sitio web de tecnología. 404 Medios rastreó un aumento en aparentemente Publicaciones generadas por IA en Facebook, propiedad de Meta, en los últimos meses. Imágenes como éstas generadas por IA incluso están empezando a aparecer en otros sitios de redes sociales, incluidos Hilosque incluso es propiedad de Meta, y LinkedIn.

Spam y estafas

En Facebook, en muchos casos, parece que el propio cálculo de la plataforma es impulsando Publicaciones de IA.

Cuando los investigadores de las universidades de Georgetown y Stanford investigado En más de 100 páginas de Facebook que publican asiduamente contenido de IA (a veces decenas de veces al día) descubrieron que muchas de ellas participan en estafas y spam.

«Vimos imágenes generadas por IA de todo lo que puedas imaginar, desde cabañas de madera hasta abuelas con pasteles de cumpleaños y niños con pinturas magistrales que simplemente no podían ser reales», dijo Josh Goldstein, investigador de la Universidad de Georgetown y coautor. del estudio preimpreso, que aún no ha sido sometido a revisión por pares.

Goldstein y su coautor incluso descubrieron que Facebook recomienda activamente parte de este contenido de IA en los feeds de los usuarios, creando potencialmente un ciclo en el que las publicaciones obtienen más billete, por lo que se recomiendan a aún más usuarios. Algunas publicaciones individuales de las páginas que analizaron han acumulado cientos de miles e incluso millones de interacciones.

“Estas no eran imágenes esporádicas aquí o allá con las que sólo unas pocas personas interactuaban. Positivamente estaban obteniendo mucha tracción”, dijo Goldstein.

Su disección encontró que algunas de estas páginas son spam clásico y publican enlaces a sitios web donde pueden percibir ingresos por publicidad. Otros son estafadores que anuncian productos generados por IA que en efectividad no parecen existir.

Pero muchas de las páginas no tienen una motivación financiera clara, dijo Goldstein. Parece que simplemente están acumulando audiencia con fines desconocidos.

«Podría ser que se tratara de páginas nefastas que intentaban crear una audiencia y luego pasarían a tratar de traicionar productos o vincularse a sitios web llenos de publicidad o tal vez incluso cambiar sus temas a poco completamente político», dijo Goldstein. «Pero sospecho que lo más probable es que muchas de estas páginas fueran simplemente creadores que se dieron cuenta de que era una táctica útil para conquistar la billete de la audiencia».

Clickbait siempre ha estado en las redes sociales. Pero en los últimos primaveras, Facebook ha duplicado la cantidad de publicaciones que recomienda a los usuarios, mientras indagación mantenerse al día con los cambios en las redes sociales iniciados por Tik Tok. En una nuevo señal sobre resultados, El director ejecutivo de Meta, Mark Zuckerberg, dijo a los analistas que las publicaciones recomendadas ahora representan aproximadamente del 30% de los feeds de los usuarios.

Un cambio de las imágenes basadas en la efectividad a lo siniestro

Al mismo tiempo, ahora es más comprensible que nunca crear contenido generado por IA para cualquiera. Juntas, estas dinámicas están creando una fórmula para representaciones extrañas de Jesús, publicaciones de cumpleaños inquietantes y inmueble y artesanías imposibles de volverse virales.

“Está imitando todos los instrumentos que hicieron que poco se volviera virulento. Pero están poniendo las imágenes más extrañas que he pasado en mi vida”, dijo Brian Penny, un escritor independiente que ha estado siguiendo la IA en Facebook durante casi dos primaveras. Es parte de un rama dedicado a compartir y desacreditar imágenes de IA.

Penny ha pasado un cambio desde las imágenes que tienen cierta cojín en realidad – como la representación generada por IA de Papa Francisco con un asilo acolchado que se volvió virulento el año pasado, hasta poco mucho más extraño.

«Trabajamos para compendiar la difusión de contenido spam o sensacionalista porque queremos que los usuarios tengan una buena experiencia, por eso les ofrecemos controles sobre lo que ven en su feed», dijo un portavoz de Meta a NPR en un comunicado.

La empresa planea comenzar etiquetado de contenido generado por IA pronto se creará con algunas herramientas líderes en la industria. La semana pasada, Tik Tok comenzó a aplicar etiquetas similares a algunas publicaciones generadas por IA en su plataforma.

Mientras tanto, el aumento del spam de IA está desanimando a muchas personas.

Katrina McVay, que vive en Grand Rapids, Michigan, dice que ha tenido que disuadir a su origen de comprar carpintería y otras decoraciones para el hogar que ve en Facebook, que son claramente falsas.

“Ella decía: ‘¿No sería espléndido para tu hija?’”, dijo McVay. “Y yo digo: ‘Sin bloqueo, eso no es vivo’”.

Algunos usuarios de Facebook están considerando dejar la plataforma por completo correcto a su frustración por la recomendación de imágenes de IA spam.

“¿Se supone que debo examinar todo esto para ver que mi primo acaba de estar en el desierto del Sahara?” preguntó Borys Rzonca, un diseñador de muebles de Los Ángeles. «Ya no vale la pena para mí».

Más allá de encontrar enojoso el spam de IA en Facebook, muchas personas con las que habló NPR dicen que están preocupadas por los riesgos más grandes de que aparezcan imágenes artificiales en todas partes.

«Simplemente refuerza la incredulidad de la clan y… hace que sea más difícil ver lo que es vivo», dijo Hobey Ford, un titiritero de Carolina del Meta que ha pasado imágenes de IA aparecer en grupos de Facebook dedicados a la ciencia, afirmando representar nuevos descubrimientos.

«Y creo que eso es peligroso en nuestro mundo en este momento», dijo.