La influencia de la Inteligencia Artificial en la política

Traducci√≥n al espa√Īol del art√≠culo de Bruce Schneier sobre los Chat Bots, la inteligencia artificial y la Pol√≠tica

botsInteligencia ArtificialPol√≠ticaTraducci√≥n Espa√Īol
10 marzo, 2020 Traducci√≥n al Espa√Īol de un art√≠culo sobre inteligencia artificial
10 marzo, 2020 Traducci√≥n al Espa√Īol de un art√≠culo sobre inteligencia artificial

La Inteligencia Artificial ha revolucionado el trabajo de los traductores, como por ejemplo con la Machine Translation, una de las √°reas de mayor futuro en el sector de la traducci√≥n. En este art√≠culo ¬ęBots Are Destroying Political Discourse As We Know It¬Ľ, se habla sobre c√≥mo la Inteligencia Artificial y los Chat bots tambi√©n influyen en la pol√≠tica de Estados Unidos. Este art√≠culo es una traducci√≥n del ingl√©s del original publicado en: https://www.schneier.com/

Los bots son utilizados como portavoces para actores, grupos políticos e incluso candidatos, pero pronto no podrás darte cuenta de que lo son.

Bruce Schneier, The Atlantic, 7 de enero de 2020

* * *

Ha llegado, oficialmente, la temporada de campa√Īa pol√≠tica para la presidencia, lo que significa que es hora de enfrentarse a las extra√Īas e insidiosas formas en las que la tecnolog√≠a est√° distorsionando la pol√≠tica. Una de las mayores amenazas que acechan en el horizonte son las personas artificiales, preparadas para tomar el control del debate pol√≠tico. El riesgo surge de la uni√≥n de dos hilos: la generaci√≥n de texto basada en la inteligencia artificial y los chatbots de las redes sociales. Estas ¬ępersonas¬Ľ generadas por ordenador har√°n desaparecer las discusiones humanas en Internet.

El software de generaci√≥n de texto ya es lo suficientemente bueno como para enga√Īar a la gran mayor√≠a de personas en la mayor√≠a de los casos. El software escribe noticias, sobre todo en los √°mbitos de los deportes y las finanzas, habla con los clientes en tiendas online y escribe art√≠culos de opini√≥n de lo m√°s convincentes sobre temas que son tendencia (aunque tiene sus l√≠mites). Adem√°s, se est√° usando para aumentar el ¬ęperiodismo pink-slime¬Ľ ‚ÄĒsitios web creados para parecer medios de comunicaci√≥n locales leg√≠timos, pero que en realidad publican propaganda.

Tambi√©n hay un registro de contenido algor√≠tmico haci√©ndose pasar por personas reales. En 2017, la Comisi√≥n Federal de Comunicaciones estuvo admitiendo comentarios online sobre sus planes de derogar la neutralidad de la red durante un cierto per√≠odo de tiempo. Recibieron un total de 22 millones de comentarios. Muchos de ellos ‚ÄĒla mitad, probablemente‚ÄĒ eran falsospublicados con identidades robadas. Los comentarios, adem√°s, eran bastante simples: 1,3 millones estaban generados a partir de la misma plantilla, con algunas palabras alteradas para parecer √ļnicos, f√°ciles de detectar sin demasiado esfuerzo.

Sin embargo, estos intentos no har√°n m√°s que perfeccionarse. En un experimento reciente, Max Weiss ‚ÄĒun estudiante de √ļltimo a√Īo de Harvard‚ÄĒ us√≥ un programa de generaci√≥n de texto para publicar 1.000 comentarios en respuesta a un llamamiento del gobierno sobre un asunto de Medicaid. Todos los comentarios eran √ļnicos y sonaban de lo m√°s genuinos, abogando por posiciones pol√≠ticas espec√≠ficas, y consiguieron enga√Īar a los administradores de Medicaid.gov, que los aceptaron como preguntas reales. Al tratarse de un experimento, Weiss identific√≥ posteriormente los comentarios y pidi√≥ que se eliminaran, para evitar la imparcialidad en los debates pol√≠ticos, pero la pr√≥xima persona que intente algo as√≠ no ser√° tan honorable.

Los chatbots han estado distorsionando discusiones en las redes sociales durante a√Īos. Acerca de una quinta parte de todos los tweets sobre las elecciones presidenciales de 2016 fueron publicadas por bots, seg√ļn una estimaci√≥n, al igual que sobre una tercera parte de todos los tweets sobre el voto del Brexit de ese mismo a√Īo. El a√Īo pasado, un informe del Oxford Internet Institute encontr√≥ pruebas de que los bots se utilizaban para difundir propaganda en 50 pa√≠ses. Tend√≠an a ser simples programas que repet√≠an esl√≥ganes una y otra vez, como un cuarto de mill√≥n de tweets pro-Saud√≠ de ¬ęTodos confiamos en Mohammed bin Salman¬Ľ, despu√©s del asesinato de Jamal Khashoggi en 2018, por ejemplo. Detectar muchos bots con unos pocos seguidores es m√°s dif√≠cil que detectar unos pocos bots con muchos seguidores, y medir su efectividad es dif√≠cil. Los mejores an√°lisis indican que no afectaron a las elecciones presidenciales de EE.UU. de 2016. Lo que hacen, m√°s bien, es distorsionar el sentimiento p√ļblico y la fe de la gente en el debate pol√≠tico razonado. Estamos en medio de un novedoso experimento social.

A lo largo de los a√Īos, los robots algor√≠tmicos han evolucionado hasta tener personalidades. Tienen nombres falsos, biograf√≠as falsas y fotos falsas, a veces generadas por IA. En lugar de lanzar propaganda sin parar, solo publican ocasionalmente. Los investigadores pueden detectar que se trata de bots y no de personas bas√°ndose en sus patrones de publicaci√≥n, pero la tecnolog√≠a de los bots mejora cada vez m√°s, superando los intentos de rastreo. En el futuro, no ser√°n tan f√°ciles de identificar. Se integrar√°n mejor en los grupos sociales humanos, su propaganda ser√° sutil y entretejida en tweets sobre temas relevantes para esos grupos.

Combina estas dos tendencias y tienes la receta perfecta para que la charla no humana abrume el discurso político.

Pronto, las inteligencias artificiales podr√°n escribir cartas personalizadas a los peri√≥dicos y a los funcionarios electos, presentar comentarios individuales a los procesos de elaboraci√≥n de normas p√ļblicas y debatir inteligentemente cuestiones pol√≠ticas en las redes sociales. Podr√°n comentar en las publicaciones de redes sociales o en p√°ginas de noticias, creando personajes que parecen reales incluso para alguien que los est√° observando atentamente. Podr√°n fingir ser individuos en las redes y enviar textos personalizados, se replicar√°n por millones y se ocupar√°n de cualquier tema a todas horas, enviando miles de millones de mensajes de todo tipo. Pudiendo hacer todo eso, ser√°n capaces de ahogar cualquier debate real en Internet. No solo en las redes sociales, sino en todas las p√°ginas donde se puedan publicar comentarios.

Tal vez estos bots los controlen actores extranjeros, grupos pol√≠ticos nacionales o incluso los propios candidatos. De hecho, los podr√° controlar cualquiera. La lecci√≥n m√°s importante sobre la desinformaci√≥n de las elecciones de 2016 no es que haya ocurrido, sino lo barato y f√°cil que fue llevarla a cabo. Las futuras mejoras tecnol√≥gicas har√°n que todo sea a√ļn m√°s asequible.

Nuestro futuro consistirá en un ruidoso debate político, sobre todo de robots discutiendo con otros robots. Esto no es lo que pensamos cuando alabamos el mercado de las ideas, o cualquier proceso político democrático. La democracia requiere dos cosas para funcionar correctamente: información y voluntad. Las personas artificiales pueden hacer desaparecer ambas cosas.

Las soluciones son dif√≠ciles de imaginar. Podemos regular el uso de los bots ‚ÄĒuna propuesta de ley de California, por ejemplo, requerir√≠a que los robots se identificaran‚ÄĒ, pero eso solo es efectivo contra las campa√Īas de influencia leg√≠tima, como la publicidad. Las operaciones de influencia encubierta ser√°n mucho m√°s dif√≠ciles de detectar. La defensa m√°s obvia es desarrollar y estandarizar mejores m√©todos de autenticaci√≥n. Si las redes sociales verifican que una persona real est√° detr√°s de cada cuenta, entonces pueden eliminar mejor las personas falsas. Pero ya se crean cuentas falsas regularmente para personas reales sin su conocimiento o consentimiento, y el discurso an√≥nimo es esencial para un debate pol√≠tico s√≥lido, especialmente cuando los participantes proceden de comunidades desfavorecidas o marginadas. No tenemos un sistema de autenticaci√≥n que proteja la privacidad y que se adapte a los miles de millones de usuarios.

Esperemos que nuestra capacidad de identificar personas artificiales pueda estar a la altura de nuestra capacidad de disfrazarlas, aunque si tomamos la carrera armamentista entre los ultrafalsos y los detectores de ultrafalsos como ejemplo, sabemos que ser√° dif√≠cil. Las tecnolog√≠as de ofuscaci√≥n siempre parecen estar un paso por delante de las tecnolog√≠as de detecci√≥n, y los personajes artificiales ser√°n dise√Īados para actuar exactamente como la gente real.

Al final, cualquier solución tiene que ser no técnica. Tenemos que reconocer las limitaciones de la conversación política en línea, y nuevamente priorizar las interacciones cara a cara. Son más difíciles de automatizar, y sabemos que la gente con la que hablamos es gente real. Esto sería un cambio cultural que nos alejaría de Internet y del texto, de las redes sociales y de los hilos de comentarios. Hoy día, eso parece una solución completamente irreal.

Actualmente, los intentos de desinformaci√≥n son comunes en todo el mundo, llevados a cabo en m√°s de 70 pa√≠ses. Esta es la forma m√°s habitual de impulsar la propaganda en pa√≠ses con tendencias autoritarias, y se est√° convirtiendo en la forma de hacer campa√Īa pol√≠tica, ya sea de un candidato o de un tema concreto.

Las personas artificiales son el futuro de la propaganda, y aunque no sean eficaces para inclinar el debate hacia un lado u otro, lo ahogan por completo f√°cilmente. Lo √ļnico que sabemos del efecto de ese ruido en la democracia, por el momento, es que ser√° pernicioso e inevitable.

. . .

[Nota del Traductor]

Traducción sobre Inteligencia Artificial

Bots, granjas de bots, trolls,… hoy en d√≠a miles de servidores virtuales se encargan de crear perfiles de personas falsas en distintas redes sociales. En este art√≠culo se discute sobre el uso de esos bots para ayudar a alg√ļn pol√≠tico a tener comentarios positivos en linea, para atacar selectivamente a una persona o para desinformar a la poblaci√≥n de manera masiva, creando caos, ataques reales o cambios de pensamientos en la poblaci√≥n general sobre un tema espec√≠fico. Uno de nuestros estudiantes en pr√°cticas, ha sido el encargado de traducir este art√≠culo sobre IA. Ra√ļl realiza traducciones web sobre c√≥digo html (wordpress y otros CMS), tiendas virtuales (Magento y Prestashop), webs sencillas y tambi√©n traduce textos sobre tecnolog√≠a e inteligencia artificial. Adem√°s de estar a punto de finalizar sus estudios de traducci√≥n en ingl√©s, tambi√©n es programador y una de sus √°reas de especializaci√≥n (y hobby) es la inteligencia artificial.

Valora este artículo

Articulos relacionados


Traducci√≥n al espa√Īol del art√≠culo ÔĽŅ¬ęChina Isn‚Äôt the Only Problem With 5G¬Ľ sobre la tecnolog√≠a 5G y el mercado chino.

Traducci√≥n al espa√Īol del art√≠culo de Bruce Schneier ÔĽŅ¬ęTechnologists vs. Policy Makers¬Ľ sobre el tecnolog√≠a y pol√≠tica

Traducci√≥n al espa√Īol del art√≠culo de Bruce Schneier ÔĽŅ¬ęWe‚Äôre Banning Facial Recognition¬Ľ