Feature Story

Uno de los eventos más vistos del año hizo que Cynthia Weber se preguntara lo siguiente: ¿puede resultar positivo que Sky News use la inteligencia artificial (IA) en la boda del Príncipe Harry y Meghan Markle?

Por primera vez en la historia, una cadena de noticias usó la IA para el reconocimiento facial durante una emisión en directo. Cynthia, una profesora de relaciones internacionales y de estudios de género en la Universidad de Sussex, comentó que usar un software para identificar a los invitados de una boda puede resultar ingenioso, pero existe una cierta inquietud en cuanto las consecuencias.

Durante un evento por el Día Internacional contra la Homofobia que tuvo lugar en Ginebra, en la sede central de ONUSIDA, Cynthia dijo lo siguiente: “Algunos afirman que esta tecnología puede averiguar la orientación sexual de las personas”.

Mencionó un estudio de la Universidad de Stanford que analizó más de 35 000 imágenes de una página web de citas estadounidense. Las fotografías pertenecían a personas blancas, sin discapacidad de entre 18–40 años; los investigadores compararon las orientaciones sexuales generadas a través de la IA con las que encontraron en sus perfiles de la web. El estudio mostró que la tecnología de reconocimiento facial a través IA podía averiguar la orientación sexual de un individuo con un 30 % más de precisión quelas personas.

Cynthia declaró que las organizaciones de promoción de la comunidad LGBTI definieron el estudio como “ciencia basura”, ya que empleó un método de muestras sesgado en razón de raza y edad, y equiparó la orientación sexual con la actividad sexual. Cynthia dijo lo siguiente: “La conclusión es que el algoritmo del estudio sobre inteligencia artificial solo encuentra lo que está programado para encontrar: estereotipos sobre heteros, gays y lesbianas”.

Ella considera que el conocimiento de la IA podría suponer avances en diversos ámbitos, pero constata bastantes más riesgos y peligros que ventajas para las personas LGBTI.

Cuando la IA entra en contacto con la tecnología de reconocimiento facial y un algoritmo de orientación sexual, surgen, al menos, cuatro cuestiones importantes. En primer lugar, la privacidad. En derecho nacional e internacional, la imagen de una persona no está protegida por las leyes de privacidad. Eso permite que las caras puedan ser escaneadas y analizadas por todo el mundo, desde gobiernos hasta Sky News.

En segundo lugar, la exactitud. Cynthia sostenía lo siguiente: “En un mundo más allá de la boda real, la tecnología de reconocimiento facial a través de inteligencia artificial está lejos de ser ideal, incluso cuando solo intenta relacionar los nombres con las caras, y, mucho menos, cuando intenta atribuir una presunta orientación sexual según el rostro”.

Para Cynthia el elemento clave es el conocimiento. ¿Cómo consigue un algoritmo sobre orientación sexual saber mejor que una persona cuál su propia sexualidad? Cynthia opina que un enfoque binario de datos codificados y legibles por ordenador no es compatible con el amplio espectro de género y sexualidad.

En definitiva, la cuestión de para qué se va a usar la información de la IA la preocupa. De hecho, lanzó la siguiente pregunta: “Dejemos que Sky News la use para comentar sobre la boda, pero ¿y si la policía la usa en países donde la homosexualidad es ilegal?”

Para Cynthia, la IA y la orientación sexual no son necesariamente beneficiosas la una para la otra. Entiende que la IA estimula la imaginación y conduce a la innovación, pero cree que la categorización de personas suele ser más perjudicial que beneficioso.

Concluyó con estas palabras: “La gente debe asegurarse de utilizar la inteligencia artificial de manera ética, y no sólo como una herramienta tecnológica”.

El evento tuvo lugar el 16 de mayo y fue organizado por la asociación suiza LGBTI Pride@Work y por UN Globe, una de las organizaciones del conjunto de las Naciones Unidas.