Manoj Tiwari en un acto de campaña en Nueva Delhi en 2014.
Manoj Tiwari en un acto de campaña en Nueva Delhi en 2014.
Inteligencia artificial

India se suma al uso de las deepfakes en campañas políticas

Los bulos y mediafakes han ocasionado olas de violencia en el país asiático, desde donde se acuña un nuevo término para referirse al uso de medios para crear noticias falsas de bajo coste: cheapfakes

En la política india todo vale: desinformación, mentiras y apología de la violencia. A lo que se suma el uso de la forma más avanzada de inteligencia artificial. Así ocurrió este mes, en la crispada campaña electoral a la asamblea regional de Delhi, estado al norte del país donde se ubica la capital, Nueva Delhi. Entonces, dos sorprendentes vídeos de un candidato se hicieron virales entre usuarios de WhatsApp al noreste de la ciudad.

Lo extraordinario del mensaje no fue que se difundiese un día antes de la apertura de las urnas; en contra de la norma. Ni que el contenido solo criticase a su opositor; algo común en política. Sino porque el emisor se comunicaba en dos lenguas que no sabe hablar, gracias a la creación artificial deepfake. La irrupción en India de la mediafake más sofisticada no solo pone en jaque a verificadores de datos en el contexto político, donde todo vale, sino que es un peligro para una sociedad que ha registrado decenas de muertes por las fake news.

“Nos han estafado con sus promesas. Pero Delhi puede de cambiar. Pulsa el botón de la flor de loto [símbolo del partido] el 8 de febrero para un gobierno liderado por Modi”, decía el vídeo en perfecto inglés de Manoj Tiwari, presidente en Delhi del Bharatiya Janata Party (BJP), grupo del Primer Ministro Modi que lidera India pero fue alternativa en los comicios regionales. Difundido el 7 de febrero en WhatsApp, su existencia no se conoció hasta esta semana, cuando VICE news informó del uso de algoritmos para manipular la expresión facial del vídeo original del político; confirmándolo con fuentes del partido y de The Ideaz Factory, la empresa tecnológica que lo fabricó. Contactado por El País, el jefe de estrategia de la compañía, Sagar Vishnoi, rehusa hablar del mismo por el revuelo causado. Mientras, plataformas locales de verificación de información están indignadas por el uso de esta peligrosa arma política para manipular la opinión pública.

“La historia parece muy fiable. Sería la primera vez que se usa deepfake en India, algo muy peligroso para nuestra democracia”, confirma a El País, Karen Rebelo, adjunta de BoomLive, una de las principales redes de verificación de datos del país asiático. Basado en la tecnología deep learning (inteligencia artificial), el deepkafe es un modelo computacional en el que las imágenes son generadas matemáticamente vía algoritmos a partir de fotos y vídeos de la persona a la que se quiere recrear, de forma que el resultado final muestra a una persona haciendo o diciendo algo que nunca hizo o dijo; como en el caso del político indio. “Este tipo de desarrollo es muy preocupante porque ni los periodistas ni nosotros tenemos herramientas para demostrar si es deepfake o no”, explica a este diario, Pratik Sinha, co-fundador de AltNews, la otra gran plataforma de verificación de información en India. “Aún peor, es prácticamente imposible convencer a la gente de que lo que ven no es real sino falso, incluso si tuviésemos la tecnología para hacerlo”.  

Un camino sin retorno en un terreno sin ley

“Toda organización tiene la responsabilidad de no desinformar. No existen campañas positivas con deepfake. Eso es solo una forma de marketing para que no suene tan grave”, critica Sinha, en respuesta a la unidad tecnológica partido en el gobierno de India, que justifica la fabricación del vídeo falso como parte de una campaña positiva para votantes de diferentes lenguas. Los deepfakes, según estas fuentes, se enviaron a 5.800 grupos de WhatsApp, alcanzando a 15 millones de personas de la región de Delhi, con una población de unos 20 millones. “Quizá esta vez no hayan manipulado a políticos de otro partido. Pero si lo hiciesen, nunca lo dirían”, razona Rebelo. “Además, los récords de desinformación difundida por representantes de este partido en redes nos hace pensar que incurrirán en un uso nocivo, si no lo han hecho aún”. Rebelo insiste en que una vez se abre esta caja de Pandora, es imposible volverla a cerrar. Peor aún, si cabe, en India.

El uso de deepfakes para manipular a la opinión pública -hasta ahora habían sido usados más en el ámbito del humor o de la pornografía- es un problema para todas las democracias. El estado de California prohibió su uso en las próximas elecciones estadounidenses, como también lo hizo Facebook. Sin embargo, India es terreno fértil para toda 'mediafake': al analfabetismo digital de 250 millones de nuevos internautas indios que se han sumado a otros tantos en el último lustro, se une la inmensa laguna legal e ineficacia institucional ante el uso de este tipo de desinformación. “La comisión electoral es inútil a la hora de lidiar con la inmensa cantidad de noticias falsas. La desinformación durante la campaña electoral de 2019 estaba delante de sus narices. Pero solo pidió a las compañías propietarias de redes sociales que se encargasen”, resume Rebelo; subrayando que los partidos indios no tienen obligación de publicar sus gastos en publicidad electoral.

Los informes sobre datos de Facebook, Google y Youtube indican que los partidos invirtieron 7 millones en anuncios durante las generales indias de 2019 -las más caras de la historia según los analistas. Entonces, los medios locales acuñaron el término 'cheapfake' para las noticias falsas creadas con pocos medios, que aumentaron en un 40% durante el proceso electoral. Según Pratik Sinha, hay “un esfuerzo sistemático por desinformar”. Además, el fenómeno de las fake news trasciende la política. En 2017, los linchamientos a causa de un vídeo en redes sociales causaron 20 muertos en toda India. Y hace poco menos de un año, los bulos del movimiento anti-vacunas llegaron a los usuarios de redes de este país, donde vive casi un tercio de la población infantil mundial no vacunada. Con más de 200 millones de usuarios de WhatsApp, la intrusión de la sofisticada técnica del deepfake supone el final de la noción de la realidad en India ya que, según un estudio de BBC, el 72% de estos no sabe diferenciar información básica falsa en esta red de mensajería.

Retina

29/03/2020
Normas
Entra en El País para participar