Inés Binder: «IA Overview es un paso más para la privatización del conocimiento en Internet»
"Las grandes plataformas de Silicon Valley, que originalmente estaban a favor de los derechos LGTBIQ y eran progresistas, apenas asumió Trump, se alinearon por completo, empezaron a desfinanciar todos los programas de diversidad, de moderación de contenidos", sostiene la investigadora.
Un pequeño cambio en la manera en que Google muestra las búsquedas está cambiando nuestra relación con internet. En radioslibres.net fue publicada una nota que se llama «Todo lo que la IA puede hacer por vos y tu radio» que hace referencia al impacto.
En diálogo con CDM Noticias Radio, Inés Binder, comunicadora social e investigadora sobre feminismo, tecnologías y políticas de comunicación e integrante de Radios Libres analiza hacia dónde va Internet.
Algunos cuando usábamos Google buscábamos y sabíamos que teníamos que saltear las dos primeras publicaciones porque eran publicidad, y en la tercera empezábamos a encontrar la respuesta. ¿Qué cambió ahora?
Inés Binder – En los últimos dos años, prácticamente, estamos viendo el boom de la inteligencia artificial. Con cada tecnología nueva que se fue incorporando aparece una especie de pensamiento místico alrededor de esa innovación. Y ese pensamiento místico nos hace creer que va a cambiar nuestras vidas para bien. Pasó con la radio, pasó con la televisión, pasó también con internet que llevaría la democracia y el entendimiento entre los pueblos. Pasó con las redes sociales que supuestamente eran una ágora pública en el que todas podríamos defender la democracia y la libertad de expresión. Y ahora está pasando con la inteligencia artificial que se presenta como esa tecnología que va a llevar la eficiencia hacia como valor supremo y que nos va a permitir tomar decisiones y hacer un montón de tareas que ya a nosotras las humanas no nos interesa. Desde radioslibres.net lo que estamos proponiendo es que tengamos una mirada un poco crítica y inspeccionemos, dudemos, cuestionemos cuáles son como la trastienda, cuál es la trastienda de esta tecnología. En relación a este caso específico de Google, es verdad que la inteligencia artificial se está implementando en variedad de productos, servicios y plataformas. Pero Google lo que ha hecho ahora es incorporar la inteligencia artificial a las búsquedas en algo que llama IA overview o una mirada general creada con inteligencia artificial, en la que antes de presentarnos los resultados, que también ya era bastante opaco el algoritmo a través del cual rankeaba u ordenaba esos resultados, en vez de hacer eso, primero nos pone un resumen en el que sintetiza el resultado de esas búsquedas y nos ofrece un resultado ya resumido, trabajado, en el que supuestamente se interpreta cuál es la búsqueda de la usuaria y qué es lo que necesita. Con este resumen, lo que está pasando es que las personas se dan por satisfechas con eso que devuelve IA overview y ya no se entra a las páginas. Es decir, las páginas web están viendo cómo se reduce drásticamente el tráfico hacia sus propios servidores y el tráfico, las audiencias quedan atrapadas en Google porque ya no hacemos clic. Esto tiene un montón de implicancias, pero básicamente es un paso más de los que ya se venían dando en la privatización de internet. Si antes teníamos todo un ecosistema y eso era lo lindo de la web, que era un gran ecosistema distribuido de páginas web que se conectaban y se enlazaban entre sí a través de los links, los enlaces, que es la base de la web, ahora ya tenemos unas grandes plataformas que concentran todo el contenido y el tráfico y no salimos de ellas. Entonces, pasamos de un ecosistema distribuido, lo que fuera como un pueblo en el que podíamos pasear y visitar distintas casas, a un centro comercial privado del que no salimos. Entonces, una de las cosas más importantes y ya veremos cuáles son todas las problemáticas o los nudos problemáticos respecto a la inteligencia artificial, es que estamos viendo disminuido el tráfico hacia las páginas web y privatizada aún más la infraestructura digital y los contenidos.
Entrevista realizada en Una Radio Muchas Voces – Capilla del Monte.
Escuchá la radio ingresando aquí
El modelo de negocios de los buscadores. Si ellos no van a recibir patrocinios, ¿hacia dónde irá la publicidad y la sostenibilidad?
– En su momento Google revolucionó internet en el sentido de que propuso una nueva manera de monetizar y hacer publicidad. Antes las grandes empresas hacían publicidad en los grandes portales. Y la innovación que hizo Google en su momento fue apostar, no a los grandes comerciantes y los grandes portales, sino a lo que llamaba a la cola larga. Conectó pequeñas búsquedas con pequeños proveedores de contenido o páginas web. Si yo estaba en Mendoza y quería comprar flores, podía una floristería de Mendoza poner publicidad en Google y que el tráfico llegara a su página web. Eso fue muy revolucionario, algo que ahora parece una tontería. Realmente cambió las reglas del juego de la monetización de internet. Eso también hizo que se concentrara el negocio de la publicidad. Básicamente, Google acaparó toda esa manera de monetizar. Ahora, si las páginas, si las usuarias no van a las páginas web, ese modelo entra en decadencia o al menos cambian porque Google ya no lo necesita. ¿Y de qué manera gana dinero ahora Google? Por un lado, con su modelo poniendo publicidad en su propia página web. Porque, como decimos, se concentran las audiencias en su propia plataforma. Ahora Google ya no paga por clics, sino que toda la publicidad está en su propia plataforma. Y por el otro lado, todo este rastreo de datos que hace, todo este barrido y procesamiento de datos, le permite que sus motores de inteligencia artificial aprendan cada vez más y aumenten su capacidad de procesamiento con mayor cantidad de datos. Es decir, que se va perfeccionando su sistema gracias a que todo el tráfico pasa por sus propias páginas web. Y de esa manera puede vender ese servicio o ese motor de inteligencia artificial a gobiernos, empresas y hacer soluciones específicas. Entonces, una vez se concentra todo ese tráfico y toda esa audiencia y eso cambia la manera que antes era un poco más distribuida con esto que fue tan disruptivo de Google, de distribuir el modelo de publicidad, a concentrarlo en sus propias plataformas.
Inés Binder es comunicadora social. Investiga temas de feminismo, tecnologías y políticas de comunicación. Es cofundadora del Centro de Producciones Radiofónicas (CPR) y parte del espacio hackfeminista la bekka. Es coautora de Como sea: sostenibilidad económico-administrativa de las radios comunitarias en Argentina y de Cómo montar una servidora feminista con una conexión casera; y autora de Por un ciberfeminismo radiofónico. Miguitas para la producción de podcasts feministas libres.
¿Cómo manejar las alternativas y la frustración en medio de una vida de hiperpersonalización. Me refiero a los frustrante que es aveces usar otro buscador y tardar más en llegar a la respuesta, porque el buscador no me rastrea?
– Una de las cosas más importantes que tenemos que hacer nosotras como usuarias a la hora de problematizar es sacar este halo místico que tienen las tecnologías y que no sabemos cómo funcionan y materializarlas. Cuando nos empezamos a preguntar quiénes son los dueños, quiénes ponen el dinero, dónde están los servidores, de qué se alimentan, ahí ya vamos empezando a ver cuáles son estos nudos más problemáticos. Ahí tocaste uno de estos nudos que son, por un lado, el de la privacidad y por el otro lado, el de los sesgos que se reproducen. La privacidad está afectada en el sentido de que estos motores de inteligencia artificial son más potentes a medida que son capaces de procesar una base de datos más amplia de contenidos. Entonces, ¿qué es lo que hace? Como la mayoría del contenido que existe en internet tiene sesgos, tiene sesgos de género, tiene sesgos, por ejemplo, occidentales, porque muchas de las culturas indígenas son evidentemente orales, tiene sesgos idiomáticos, porque la mayoría del contenido en internet es en inglés. Entonces, todos estos sesgos que existen en la información de la que se nutren los motores, se reproducen. Entonces, cuando nosotras recibimos una respuesta, tenemos que ser conscientes de que se están reproduciendo esos sesgos. Por eso hay que estar muy atentas. Y por el otro lado, tampoco hay transparencia en cómo funcionan estos algoritmos a la hora de priorizar una información sobre otra. Algoritmos que ha diseñado un grupo con una demografía muy específica y que ven y reproducen un modo de vida y un modelo de mundo muy específico. Entonces, toda esa riqueza que tiene la interpretación que hacemos cada una de nosotras en la que podemos poner en evidencia estos sesgos, ponerlos de manifiesto y construir a partir de eso, quedan muy opacos. Creo que eso es uno de los grandes problemas que tenemos con estos motores de inteligencia artificial, que se reproducen los sesgos sexistas, etc. Hay poca transparencia y más opacidad en cómo se generan estos resúmenes o estas respuestas que ofrece la inteligencia artificial generativa. Y también, más allá de la concentración del dinero, de la propiedad, la concentración de la infraestructura crítica de Internet, que también significa una pérdida de soberanía para los estados y de autonomía para las comunidades y las personas. Y ni qué hablar, por ejemplo, de cómo la inteligencia artificial generativa se está utilizando para reproducir violencia machista sobre mujeres y disidencias de género, los impactos ambientales que tienen por el acto de consumo de agua y energía eléctrica. Es decir, tenemos que ser críticas a la hora de entender qué es esta tecnología, quién la está impulsando y cuál es la ideología que reproduce.
“Google se transforma en el ensamblador de contenido ajeno y de paso es el único que obtiene el tráfico que produce con las respuestas que ofrece. Gracias a eso, se queda con la audiencia”.
Si el modelo de negocios de las páginas web tradicionales está en declive. ¿Corre riesgo la producción de conocimiento?
– La expresión humana no va a detenerse. Y en ese sentido siempre va a haber en este mundo digitalizado contenido nuevo para que los motores de inteligencia artificial sigan rastreando y sigan aprendiendo. Acá, bueno, el problema es la sostenibilidad. El tema de la monetización también es bastante, es un tema central porque el modelo de monetización que tienen, por ejemplo, plataformas como YouTube, que también pertenecen a Google, una de las cosas que ha fomentado es la difusión de los discursos de odio. Entonces, de alguna manera se monetiza el odio. ¿Qué significa? Un contenido genera más monetización, es decir, genera más dinero a medida que genera más engagement, ¿no? A medida que la gente se involucra, interactúa con él o consume, etcétera. ¿Y qué se han dado cuenta? Que los contenidos que generan este tipo de interacción, que hacen que la gente se enoje, son los contenidos cada vez más polarizados y que generan odio. De esta manera, hay muchos, por ejemplo, youtubers que fomentan discursos de odio, que difunden violencia machista y que Google los premia. Entonces, de esta manera no se detiene la difusión de discursos de odio en internet, convirtiéndose en un espacio cada vez más hostil para las mujeres y las disidencias de género que se ven doblemente violentadas. Por un lado, porque reciben y son objeto directo de esa violencia y por el otro lado, porque la manera de responder, por lo general, es irse, anular, cerrar las cuentas y eso vulnera también su libertad de expresión. Entonces, es un tema muy sensible. Es decir, el problema de sostenibilidad de los medios, sobre todo medios comunitarios, alternativos y populares, es un tema que tenemos que debatir y que tenemos que encontrar otras soluciones y medidas alternativas para encararlo. Pero el modelo de negocio que proponen las grandes plataformas es un modelo que premia los discursos de odio y que hemos descubierto que tienen un impacto profundo y real y tangible sobre nuestras democracias.
Cómo manejar las alternativas y la frustración en medio de una vida de hiperpersonalización. Me refiero a los frustrante que es aveces usar otro buscador y tardar más en llegar a la respuesta, porque el buscador no me rastrea.
– Las grandes plataformas trabajan con equipos de psicólogos que saben cómo generar relaciones de dependencia con sus propias tecnologías. Instagram tiene sus propios equipos, incluso Facebook, bueno, Meta, que es la empresa dueña de Instagram, tiene en sus manos informes que demuestran cómo sus plataformas están generando ansiedad y están teniendo impactos negativos sobre la salud mental de los adolescentes y no hacen nada. Es decir, estamos enfrentados a unas empresas que tienen una maquinaria gigante de psicólogos orientados al diseño, de modo que nosotros estemos enganchados 24 horas a las redes sociales, por ejemplo. Entonces, eso genera una ansiedad y una expectativa respecto a la información y el consumo de datos, que es difícil de combatir. Por ejemplo, nosotras tenemos guardadas 300 gigas de fotografías de hace 15 años y queremos que estén todas disponibles inmediatamente, aunque no las necesitemos, pero queremos que esté esa disponibilidad. Y lo que a veces cuesta ver es que esa disponibilidad, primero que es generar un montón de información de la que se nutren también todas estas plataformas y motores de inteligencia artificial, y segundo también que tienen un costo, no es gratuito ese almacenamiento. Toda esa información se guarda en servidores que consumen minerales para ser construidos, energía eléctrica para funcionar, agua potable para refrigerarse. Entonces, en algún punto creo que la lucha o una de nuestras aspiraciones tiene que ser a tener otra vinculación con la tecnología y esta inmediatez. Y es verdad que podemos, respecto a las búsquedas, que decimos bueno, nos dicen no, yo no me molesta la privacidad, que se vulnere mi privacidad, porque de esa manera me llega publicidad que me interesa, de la ropa que me gusta, y es verdad que los algoritmos son tan buenos y tan específicos y procesan tanta información de nosotras, que estamos conectadas 24 horas, que lo que se nos ofrece probablemente tenga que ver con nuestros gustos y aspiraciones. Pero ahí, bueno, tenemos que tener en cuenta que los contextos políticos pueden cambiar. Ya hemos visto cómo las grandes plataformas de Silicon Valley, que originalmente estaban a favor de los derechos LGTBIQ, eran progresistas, etcétera, apenas asumió Trump, se alinearon por completo, empezaron a desfinanciar todos los programas de diversidad, de moderación de contenidos, Mark Zuckerberg dijo que su empresa necesitaba más energía masculina, entonces también es importante entender que los contextos políticos pueden cambiar y el tipo de información que nosotras brindamos y que en un momento parece inofensivo, luego puede ponernos en problemas. Entonces tenemos que sopesar, siempre parece que bueno, que no tenemos nada que esconder, que no es con nosotras, hasta que ocurre, hasta que se utilizan las redes sociales para ver si nos dejan entrar a un país o no, si apoyamos a Palestina o no, si somos inmigrantes ilegales o no. Entonces, existen otras maneras y otras alternativas, es verdad que no son tan específicas, pero otros buscadores que nos permiten acotar la información, o existen sistemas de mapas como el OpenStreetMap que nos permiten ir mapeando a nosotras mismas incluso y ayudar a este mapeo colaborativo de información para que cada una pueda encontrar información más precisa. Es verdad que requiere un poco de presencia activa en esta construcción de alternativas, pero es posible.
Vos sos investigadora sobre feminismo y tecnologías y hoy lo que más vemos es una fascinación por ser como ellos, como esos varoncitos blancos que dominan el mundo, los Elon Musk, los Sam Altman. Ser como ellos se presenta como el espejito de oro. ¿Cómo lo venís percibiendo vos?
– El Proyecto de Sociedad de la Información en realidad, que parece o se nos presentó como algo que tenía que venir, que era el único futuro posible, fue un proyecto que estuvo al servicio de la difusión del proyecto neoliberal en todo el mundo. Y en eso Estados Unidos hizo una tarea activa muy fuerte de difundir las autopistas de la información, que llevarían información a todo el mundo, la democracia en cada rincón del planeta, que los humanos se entenderían, etcétera, cuando en realidad lo que se estaba haciendo era difundir la posición dominante de las empresas estadounidenses en el mundo, en el que se entendía o se difundía la idea de que el sector privado era el único que podría impulsar las innovaciones, que estas innovaciones lo que lograrían serían un procesamiento más eficiente de la información, que habría innovación y que se generaría este nuevo modelo de economía basada en el conocimiento. Que en realidad, si vemos esos argumentos que se esgrimieron para la difusión de las infraestructuras globales de comunicación, son las mismas que se ofrecen ahora, es verdad que los conceptos son siempre los mismos, y quienes estuvieron a la vanguardia de ese modelo siempre han sido los hombres blancos del norte global, no hay ninguna novedad allí. Lo que está pasando ahora es que ha habido una difusión de los modelos de extrema derecha, en muchos lados se están ganando territorio, la difusión de los discursos de odio, y un modelo en el que frente a tanta precariedad que existe y a la que nos ha empujado el sistema capitalista, en específico el modelo neoliberal, en realidad la única salvación es pegarla y convertirnos en ricos de la noche a la mañana gracias a una economía especulativa que sabemos que genera más pobreza, que genera más concentración de la riqueza, etc. Entonces, en realidad es una ilusión que en este contexto de absoluta precarización es la única aspiración que nos ha quedado en un modelo cada vez más individualista.
Escuchá la entrevista:
