martes, julio 16, 2019

Algoritmos que nos controlan, y les dejamos

Ayer comentábamos lo mucho que Google sabe de nosotros, tanto por lo que nos espía por lo que le desvelamos voluntariamente, y tranquilizaba un poco el escenario afirmando que el único objetivo de esta monitorización era sacarnos dinero, pero resulta obvio que una vez disponible la herramienta de control y seguimiento otros actores la pueden usar para fines más siniestros. Pasa lo mismo con los martillos, son ideales para clavar clavos y útiles en carpintería, pero en malas manos se convierten en un arma poderosa frente a la que los huesos de nuestra cabeza bien poco pueden hacer. Los datos y la inteligencia, humana y / o artificial que los explotan, son otro tipo de martillos.

Creo que es en China donde está teniendo lugar el gran experimento futuro que dictará hasta qué punto este tipo de tecnologías van a acabar con nuestra libertad o no. Sabido es que China es una dictadura de partido único, comunista, claro, con un sistema económico capitalista en el que el estado del bienestar está prácticamente ausente y los derechos laborales, como todos los demás derechos, brillan por su ausencia. Desde hace décadas hay una especie de pacto tácito en la sociedad china, mediante el cual el partido único acapara todo el poder y mantiene a los ciudadanos reprimidos a cambio de un imparable desarrollo económico que otorgue prosperidad a toda la población. Una especie de “me callo a cambio de que me hagas vivir muy bien”. Eso obliga a China a mantener tasas de crecimiento muy elevadas, no inferiores al 6% y ha generado su boom, convirtiéndola en la segunda potencia económica mundial y camino de ser la primera si nada descarrila. El gobierno chino saber mejor que nadie que ritmos de crecimiento de este estilo son imposibles una vez que la economía entra en una etapa de madurez, y prepara un plan B que le siga permitiendo mantener el control sobre la población, un plan B basado en datos e inteligencia artificial. El programa de crédito social, del que se ha hablado mucho, es aún experimental, cubre a pocos habitantes (unos millones, nada para ser China) y se basa en miles de cámaras, sensores y dispositivos que, en todo momento, controlan a los sujetos que son capaces de detectar. Identificados, cada uno posee una ficha informática en la que se anotan sus características y comportamientos, pudiendo estos bonificar o penalizar una cuenta de puntos, como la del carnet de conducir, con la que arrancan todos los sujetos. Las malas acciones, lo que así considere el gobierno, son penalizadas y la cuenta baja, y con pocos puntos uno empieza a ver restricciones reales. No puede sacar billetes de avión o tren, su tarjeta de crédito empieza a no pagar en comercios, los impuesto suben, etc. El sistema, como un Gran Hermano Orwelliano pero a lo bruto, lo sabe todo y logra condicionar el comportamiento de los individuos, que saben que Deben portarse bien si no quieren ser castigados. Imaginemos un sistema así en una sociedad pequeña, un país de pocos millones de habitantes en el que la tecnología actual ya sería capaz de controlar a todos. ¿Cuánto poder habríamos cedido a ese estado? ¿hasta qué punto los individuos que allí viven son libres, o actúan bajo su libre albedrío? Si el gobierno dictase que opinar unas cosas es bueno y otras malo, cosa que les encanta a todos los políticos, sabrían los ciudadanos de ese país que opinar lo malo, leer de lo malo, consumir de lo malo o expresarse de lo malo serían actos sospechosos y penalizables, y lo mismo actuar en silencio y la clandestinidad, porque se oculta el que hace algo que no quiere que se conozca. Poco a poco el poder del gobierno entraría en áreas de la vida personal que ahora mismo no somos capaces ni de imaginar, y renunciar a él supondría no sólo multas o condenas, sino también dejar de lado un estilo de vida y artilugios a los que nos hemos acostumbrado y enganchado. La dependencia ante las nuevas tecnologías puede ser el mejor aliado de aquellos que las quien usar para fines perversos y totalitarios. Y lo saben.

China invierte ahora mismo más recursos en seguridad interior que en defensa exterior, y en defensa es una barbaridad lo que se gasta. Y eso es una buena prueba de dónde ve el gobierno de Pekín el riesgo para su supervivencia. Quizás para cuando la economía no sea capaz de cumplir ese “pacto2 que rige ahora mismo en aquel país, el sistema de crédito social, ya extendido y perfeccionado, sea el arma perfecta para garantizarse la estabilidad, la paz y la seguridad de la sociedad. Y si funciona, ¿qué gobierno del mundo sería capaz de no verse tentado a implantar algo así? Si se vende como la panacea para que no haya delitos en las calles ni revueltas, ni terrorismo, ¿usted lo aprobaría? ¿aceptaría vivir en un estado de control a cambio de prosperidad y seguridad? ¿qué grado de libertad estamos dispuestos a ceder? Como ven, las preguntas se las traen, y sus respuestas definirán nuestra sociedad, ya lo hacen.

No hay comentarios: