La proliferación de imágenes generadas por IA «ha hecho de Facebook un oficio muy extraño y espeluznante para mí», dijo Casey Morris, abogado del meta de Virginia.
ocultar título
relevarse título
La proliferación de imágenes generadas por IA «ha hecho de Facebook un oficio muy extraño y espeluznante para mí», dijo Casey Morris, abogado del meta de Virginia.
Casey Morris, un abogado del meta de Virginia, recientemente comenzó a consultar Facebook nuevamente luego de un espacioso alivio. Entre las publicaciones de amigos y familiares, notó una tendencia extraña.
«El título dirá: ‘Cierra los fanales al 70% y verás ocultismo’. Y sin entornar los fanales en completo, es muy obviamente una especie de imagen de Jesús, pero estará compuesta por vegetales, un tractor y una pupila que están poco distorsionados», dijo.
Esa no fue la única anomalía en el feed de Morris. Aparecieron imágenes similares con subtítulos idénticos. Igualmente lo hicieron diferentes publicaciones más emocionalmente explotadoras que mostraban a madres y niños discapacitados en el comedón o amputados sonrientes, con subtítulos pidiendo un deseo de cumpleaños.
«Ha hecho de Facebook un oficio muy extraño y espeluznante para mí», dijo Morris.
Entre el tema, las pistas estilísticas y los errores extraños, Morris rápidamente se hizo evidente que estas imágenes eran falsas: las productos de inteligencia artificial.
No los publican personas que ella conoce o sigue. En cambio, Facebook sugiere que podría estar interesada en ellos, y parecen ser muy populares.
«Están recibiendo miles de reacciones y miles de comentarios. [from] personas que parecen creer que son reales, así que deseándoles un eficaz cumpleaños o diciendo poco religioso en los comentarios», dijo.
«Estas no eran imágenes esporádicas aquí o allá con las que sólo unas pocas personas interactuaban. Verdaderamente estaban obteniendo mucha tracción», dijo Josh Goldstein, investigador de la Universidad de Georgetown.
ocultar título
relevarse título
Morris no es el único usufructuario de Facebook cuyo feed ha comenzado a empacharse de spam generado por IA. Reporteros en el sitio web de tecnología. 404 Medios rastreó un aumento en aparentemente Publicaciones generadas por IA en Facebook, propiedad de Meta, en los últimos meses. Imágenes como éstas generadas por IA además están empezando a aparecer en otros sitios de redes sociales, incluidos Hilosque además es propiedad de Meta, y LinkedIn.
Spam y estafas
En Facebook, en muchos casos, parece que el propio cálculo de la plataforma es impulsando Publicaciones de IA.
Cuando los investigadores de las universidades de Georgetown y Stanford investigado En más de 100 páginas de Facebook que publican asiduamente contenido de IA (a veces decenas de veces al día) descubrieron que muchas de ellas participan en estafas y spam.
«Vimos imágenes generadas por IA de todo lo que puedas imaginar, desde cabañas de madera hasta abuelas con pasteles de cumpleaños y niños con pinturas magistrales que simplemente no podían ser reales», dijo Josh Goldstein, investigador de la Universidad de Georgetown y coautor. del estudio preimpreso, que aún no ha sido sometido a revisión por pares.
Goldstein y su coautor además descubrieron que Facebook recomienda activamente parte de este contenido de IA en los feeds de los usuarios, creando potencialmente un ciclo en el que las publicaciones obtienen más billete, por lo que se recomiendan a aún más usuarios. Algunas publicaciones individuales de las páginas que analizaron han acumulado cientos de miles e incluso millones de interacciones.
«Estas no eran imágenes esporádicas aquí o allá con las que sólo unas pocas personas interactuaban. Verdaderamente estaban obteniendo mucha tracción», dijo Goldstein.
Su observación encontró que algunas de estas páginas son spam clásico y publican enlaces a sitios web donde pueden cobrar ingresos por publicidad. Otros son estafadores que anuncian productos generados por IA que en ingenuidad no parecen existir.
Pero muchas de las páginas no tienen una motivación financiera clara, dijo Goldstein. Parece que simplemente están acumulando audiencia con fines desconocidos.
«Podría ser que se tratara de páginas nefastas que intentaban crear una audiencia y que luego pasarían a tratar de traicionar productos o vincularse a sitios web cargados de publicidad o tal vez incluso cambiarían sus temas a poco completamente político», dijo Goldstein. «Pero sospecho que lo más probable es que muchas de estas páginas fueran simplemente creadores que se dieron cuenta de que era una táctica útil para conseguir la billete de la audiencia».
Clickbait siempre ha estado en las redes sociales. Pero en los últimos abriles, Facebook ha duplicado la cantidad de publicaciones que recomienda a los usuarios, mientras pesquisa mantenerse al día con los cambios en las redes sociales iniciados por Tik Tok. En una nuevo convocatoria sobre resultados, El director ejecutivo de Meta, Mark Zuckerberg, dijo a los analistas que las publicaciones recomendadas ahora representan rodeando del 30% de los feeds de los usuarios.
Un cambio de las imágenes basadas en la ingenuidad a lo siniestro
Al mismo tiempo, ahora es más ligera que nunca crear contenido generado por IA para cualquiera. Juntas, estas dinámicas están creando una prescripción para representaciones extrañas de Jesús, publicaciones de cumpleaños inquietantes y construcción y artesanías imposibles de volverse virales.
«Está imitando todos los medios que hicieron que poco se volviera virulento. Pero están poniendo las imágenes más extrañas que he conocido en mi vida», dijo Brian Penny, un escritor independiente que ha estado rastreando la IA en Facebook durante casi dos abriles. Es parte de un corro dedicado a compartir y desacreditar imágenes de IA.
Penny ha conocido un cambio desde las imágenes que tienen cierta pulvínulo en realidad – como la representación generada por IA de Papa Francisco con un amparo acolchado que se volvió virulento el año pasado, hasta poco mucho más extraño.
«Trabajamos para acortar la difusión de contenido spam o sensacionalista porque queremos que los usuarios tengan una buena experiencia, por eso les ofrecemos controles sobre lo que ven en su feed», dijo un portavoz de Meta a NPR en un comunicado.
Facebook dice que pronto comenzará a etiquetar algunos contenidos creados por herramientas de inteligencia fabricado.
ocultar título
relevarse título
La empresa planea comenzar etiquetado de contenido generado por IA pronto se creará con algunas herramientas líderes en la industria. La semana pasada, Tik Tok comenzó a aplicar etiquetas similares a algunas publicaciones generadas por IA en su plataforma.
Mientras tanto, el aumento del spam de IA está desanimando a muchas personas.
Katrina McVay, que vive en Grand Rapids, Michigan, dice que ha tenido que disuadir a su superiora de comprar carpintería y otras decoraciones para el hogar que ve en Facebook, que son claramente falsas.
«Ella decía: ‘¿No sería formidable para tu hija?'», dijo McVay. «Y yo digo: ‘Sin requisa, eso no es vivo'».
Algunos usuarios de Facebook están considerando desatender la plataforma por completo oportuno a su frustración por la recomendación de imágenes de IA spam.
«¿Se supone que debo examinar todo esto para ver que mi primo acaba de estar en el desierto del Sahara?» preguntó Borys Rzonca, un diseñador de muebles de Los Ángeles. «Ya no vale la pena para mí».
Más allá de encontrar inaguantable el spam de IA en Facebook, muchas personas con las que habló NPR dicen que están preocupadas por los riesgos más grandes de que aparezcan imágenes artificiales en todas partes.
«Simplemente refuerza la incredulidad de la muchedumbre y… hace que sea más difícil ver lo que es vivo», dijo Hobey Ford, un titiritero de Carolina del Ártico que ha conocido imágenes de IA aparecer en grupos de Facebook dedicados a la ciencia, afirmando representar nuevos descubrimientos. .
«Y creo que eso es peligroso en nuestro mundo en este momento», dijo.