Las oscuras implicaciones de la tecnología de filtros de intercambio facial

2021 | Lgbtq

El mes pasado, Serena Lee era solo otra estudiante universitaria de Nueva Jersey adicta al té de burbujas a quien le encantaba ver La oficina mientras buscaba a su futuro novio en Tinder.

no vuelvas a hablar conmigo ni con mi hijo nunca más

Excepto que, en realidad, no lo estaba. Lee era en realidad un estudiante de Princeton llamado Sean que 'se aburrió mientras se abarrotaba para las finales y decidió pescar gente con el nuevo filtro de Snapchat'.



Sí, que uno. El que hace que los hombres parezcan mujeres hermosas y las mujeres se parecen a los hombres que cruzarías la calle para evitar . El que es tan popular que mucha gente que dejó Snapchat lo está volviendo a descargar solo para ver de qué se trata el bombo. El filtro de 'intercambio de género' de Snapchat, que salió a la luz a principios de mayo de este año, se convirtió rápidamente en un éxito en las redes sociales. Y Lee no fue el único que lo usó de inmediato para posar en Tinder: hay toda una tendencia de pescar en busca de bromas, que consiste casi en su totalidad en hombres que fingen ser mujeres.



Si bien a nivel superficial el filtro puede parecer una diversión inofensiva, sus implicaciones, tanto conceptuales como prácticas, son profundamente preocupantes. Además de generar este fenómeno de la pesca del gato en la vida real, que no nos dice nada nuevo sobre los hombres en línea, el uso de Snapchat de la tecnología de alteración facial a lo largo del eje del género refuerza las ideas estereotipadas de las apariencias masculinas y femeninas, y plantea preguntas sobre cómo deberíamos emplear dicha alteración de identidad. (u ocultar) tecnología en primer lugar.

La tecnología de alteración facial, como el filtro de intercambio de género de Snapchat, se basa en datos relativamente recientes. GAN (red generativa adversaria) tecnología de aprendizaje automático, que puede realizar la traducción de imagen a imagen. Por el contrario, el reconocimiento facial, que no requiere traducir entre diferentes imágenes, era posible antes del desarrollo de las GAN. Jonathan Zong, un estudiante de doctorado en interacción humano-computadora en el MIT cuyo trabajo a menudo se refiere a la ética en la investigación institucional y tecnológica, dice que la tecnología detrás del filtro de Snapchat es algo con lo que la mayoría de los usuarios cotidianos probablemente no estén familiarizados en detalle. Un elemento crucial aquí es la recopilación de la entrada que se requiere para la salida del filtro: las caras que se recopilaron para crearlo en primer lugar.



relación de liv tyler y steven tyler

'Los datos provienen de los cuerpos de las personas. Y las identidades de las personas son complejas, multifacéticas y cambian con el tiempo. No se ajustan a las escalas, a diferencia de los datos, que son inherentemente numéricos '.

'La gente suele pensar que los datos están ahí fuera', dice Zong. Pero eso no es cierto. Alguien tuvo que recogerlo.

Actualmente, el conjunto de datos que se utilizó para crear el filtro no es público; investigadores y técnicos han sido tratando de resolverlo por su cuenta , pero los ingenieros de Snapchat han sido bastante reservados al respecto.

'Los datos provienen de los cuerpos de las personas', continúa Zong. Y las identidades de las personas son complejas, multifacéticas y cambian con el tiempo. No se ajustan a las escalas, a diferencia de los datos, que son inherentemente numéricos '.



Relacionados | ¿Hasta qué punto deberíamos tenerle miedo a la IA?

Lee dice que sus motivaciones para crear un nuevo alias de Tinder y mantener un método riguroso de deslizar cada tres hombres durante cuatro días fue principalmente por diversión y procrastinación, pero también porque había escuchado historias de terror de sus amigas sobre lo que era. me gusta ser una mujer en las aplicaciones de citas hoy. 'Sabía lo asquerosos que podían ser los chicos, y quería experimentarlo yo mismo ... Quería llamar a los hombres que eran así. En realidad, escucharlo por mí mismo, sin embargo, fue repugnante '', dijo.

Los hombres entienden cómo se comportan otros hombres en las plataformas de citas en línea y, sin embargo, muchos de ellos todavía quieren experimentarlo por sí mismos. Para todos los hombres que dicen: ' Lo siento por ustedes, mujeres en todas partes, si así es como se ven sus bandejas de entrada. ,' o ' Usé el filtro de Snapchat en Tinder durante 30 minutos y, en conclusión, odio a los hombres '- esto es voyerismo en su mejor y más extraño. Si bien la esperanza es que ahora que algunos hombres saben lo que es estar en el extremo receptor de tal comportamiento, evitarán que otros hombres continúen actuando de esa manera, esto es, seamos honestos, muy poco probable.

mi hijo es gay john roberts

Zong señala que el fenómeno de la pesca con gato también es paralelo lo que los miembros de las comunidades trans han estado diciendo sobre el filtro, que permite a las personas con más privilegios, tanto en la vida real como en línea, realizar otras identidades y luego regresar a un lugar seguro, mientras que las mujeres y otras personas marginadas continúan enfrentando acoso en línea y fuera de ella.

También hay algo más oscuro que el filtro de intercambio de género de Snapchat trae a la mente: deepfakes, o figuras y caras manipuladas creadas por aprendizaje automático, en videos, que en el momento de su creación fueron, como era de esperar, adoptado inmediatamente para la pornografía .

'Todo lo que sea IA no es divisible del trabajo humano. Nada es completamente sintético '.

A principios de este año, Zong presentó sobre deepfakes, específicamente, sobre lo que los cuerpos artificiales en la pornografía podrían significar para el futuro, en el Teorizando la conferencia web . A primera vista, podría parecer que la posibilidad de cuerpos artificiales en la pornografía es algo bueno: que, al reemplazar personas reales con imágenes sintéticas, esto mitiga el potencial de daño real en, por ejemplo, tráfico o explotación. Pero Zong no está de acuerdo con este punto de vista, y con razón. 'Realmente no está resolviendo el problema, es solo una versión más sutil del problema, una que se mete en problemas complicados', dice. “Estas imágenes sintéticas se hicieron a partir de cuerpos y rostros de varias personas. En realidad, cualquier cosa que sea IA no es divisible del trabajo humano. Nada es completamente sintético '.

cuantos de mis seguidores son reales

Relacionados | Deepfake AI Porn es técnicamente legal (y abusiva)

La pornografía asistida por IA y el filtro de intercambio de género de Snapchat no son lo mismo (incluso si los fundadores de Snapchat originalmente creó la aplicación con fines de sexteo .) Pero la tecnología y los problemas sociales subyacentes son similares. Nada es completamente sintético. El principal de estos problemas es la distorsión del consentimiento, ya sea para rostros y cuerpos que son cooptados activa y visiblemente con fines pornográficos, o para rostros y cuerpos que se almacenan, toman y usan de manera tan activa pero menos visible para crear un filtro. para la cara de otra persona. Para Snapchat, también estamos lidiando con una actuación no deseada de género, alarde de privilegios de género y un mayor afianzamiento de las apariencias de género estereotipadas.

Pero lo más importante, quizás, es lo que está sucediendo dentro de nosotros. Si La tecnología de reconocimiento facial del aeropuerto nos pone nerviosos. , o si la pornografía asistida por IA nos hace cuestionar nuestros estándares de consentimiento, ¿por qué no lo hacen nuestras aplicaciones móviles de redes sociales, que abrimos y cerramos tan fácilmente? Nos estamos acostumbrando a que nuestras caras se mapeen, recopilen, cambien y poseído . Y nos estamos acercando a algo cercano a estar bien con eso, si es que aún no lo estamos.

Nuestra respuesta a eso Debería ser lo que un usuario del filtro de intercambio de género dijo en Twitter , después de saber qué tipo de mensajes pueden recibir las mujeres en Tinder: 'Joder, cometí un error'.

Foto vía Gorjeo