China se enfrenta a un problema familiar para las dictaduras a lo largo de la historia: cómo establecer un equilibrio entre la innovación favorecedora del crecimiento, que prospera en una sociedad libre, y la paranoia de un Estado autoritario. El máximo dirigente chino, Xi Jinping, desea que el país se convierta en una economía hiperavanzada. Su gobierno promueve activamente la comercialización de las tecnologías avanzadas que le gustan, desde los vehículos eléctricos hasta la computación cuántica.
Al mismo tiempo, se dedica a apretar las tuercas de aquellas que no le gustan. En 2021, hundió a base de regulaciones casi de la noche a la mañana un floreciente sector de enseñanza online; al parecer, por temor a que sus elevados costes encarecieran tanto la enseñanza de los hijos que los chinos desistieran de la idea de ser padres. El 22 de diciembre, el gobierno asestó otro mazazo al sector de los videojuegos al introducir normas para, entre otras cosas, limitar el gasto los jugadores en las compras dentro de los juegos y, por lo tanto, las ganancias de los desarrolladores. El valor de mercado de Tencent, una de las compañías más innovadoras de China y que también tiene un gran negocio de juegos, se desplomó un 12%.
En ninguna parte se refleja con mayor claridad esa tensión como en la tecnología más rompedora de 2023: la inteligencia artificial. En muchos países, el control de la inteligencia artificial se considera importante desde el punto de vista económico y estratégico. En todo el mundo, los políticos temen que las máquinas se vuelvan hostiles o, de modo más realista, que sean utilizadas por agentes humanos malintencionados. En Pekín, la preocupación añadida es que la tecnología (cuyo florecimiento depende de los datos ilimitados y, en su fase actual de desarrollo, de los espacios no regulados) acabe resultando subversiva si no se mantiene bajo control. Por ello, el Estado se afana en poner a punto su Gran Cortafuegos para la época de la inteligencia artificial.
En 2000, Bill Clinton, entonces presidente de Estados Unidos, comparó el empeño de China por controlar Internet con “intentar clavar un flan de gelatina en la pared”. Hoy la gelatina parece que sigue firme en su lugar. Los servicios occidentales de Internet, desde Facebook y el buscador de Google hasta Netflix, no están disponibles para la mayoría de los chinos (salvo para quienes aceptan correr el riesgo de utilizar “redes privadas virtuales” ilegales). En las plataformas locales, todo contenido indeseable es eliminado, bien de modo preventivo por las propias plataformas mediante algoritmos y ejércitos de moderadores, bien a posteriori en cuanto es detectado por los censores estatales. En 2020, una serie de severas medidas hizo entrar en vereda a los poderosos gigantes tecnológicos chinos (como Tencent y Alibaba) y los aproximó al Estado, que ha ido adquiriendo pequeñas participaciones en las empresas y muestra un gran interés por sus operaciones cotidianas.
El resultado es una economía digital esterilizada y al tiempo próspera. WeChat, la superapp de Tencent que combina mensajería, redes sociales, comercio electrónico y pagos, genera por sí sola cientos de miles de millones de dólares en transacciones anuales. Xi espera ahora lograr un equilibrio similar con la inteligencia artificial. De nuevo, algunos expertos extranjeros predicen una situación “gelatinosa”. Y, de nuevo, el Partido Comunista está creando herramientas para demostrar que se equivocan.
Los esfuerzos del partido han empezado con el establecimiento de las normas más estrictas del mundo para los equivalentes chinos de ChatGPT (que, como era previsible, está prohibido en China) y otras inteligencias artificiales “generativas” orientadas al consumidor. Desde marzo, las empresas han tenido que registrar ante las autoridades todos los algoritmos que hacen recomendaciones o que pueden influir en las decisiones de las personas. En la práctica, eso significa básicamente todo software de este tipo dirigido a los consumidores. En julio, el gobierno promulgó normas que exigían que todos los contenidos generados por inteligencia artificial “defendieran los valores socialistas”; es decir, que no incluyeran canciones obscenas, consignas contra el partido ni, Dios nos libre, burlas a Xi. En septiembre, publicó una lista de 110 servicios registrados. Sólo sus desarrolladores y el gobierno conocen todos los pormenores del proceso de registro y los criterios precisos seguidos.
En octubre, un comité de normas para la seguridad de la información nacional publicó una lista de pautas de seguridad que exigen una detallada autoevaluación de los datos utilizados para entrenar los modelos generativos de inteligencia artificial. Una de las normas exige la comprobación manual de al menos 4.000 subconjuntos del total de datos de entrenamiento; al menos el 96% de ellos debe recibir la calificación de “aceptable”, según una lista de 31 riesgos de seguridad vagamente definidos.
El primer criterio de un contenido inaceptable es cualquier cosa que “incite a la subversión del poder estatal o al derrocamiento del sistema socialista”. Los chatbots deben negarse a responder al 95% de las consultas que susciten contenido inaceptable (y es de suponer que las que lo consigan pasar ese filtro serán censuradas a posteriori). Al mismo tiempo, no deben rechazar más del 5% de las preguntas inofensivas.
Todo lo producido por algoritmos no registrados será bloqueado, y sus creadores, sancionados. En mayo, un hombre de la provincia de Gansu fue detenido tras haber utilizado ChatGPT para producir texto e imágenes de un accidente ferroviario falso y publicarlo todo en las redes sociales. Quizás haya sido el primer chino detenido por difundir desinformación generada por inteligencia artificial. No será el último.
Semejante estrategia de mano dura ha frenado la implantación en el país de la inteligencia artificial generativa orientada al consumidor. Ernie Bot, creado por Baidu, otra compañía tecnológica, estaba listo en torno a la fecha en que se lanzó ChatGPT, pero no salió a la venta hasta nueve meses más tarde, en agosto: una eternidad si se tiene en cuenta lo rápido que evoluciona la tecnología. El chat sigue mostrándose torpe a la hora de expresar su devoción al partido. Ante preguntas delicadas relacionadas con Xi, censura obedientemente, no ofrece ninguna respuesta y borra la consulta.
Socialistas modélicos
Con algo más de trabajo, el partido quizás no sólo logre convertir los modelos de inteligencia artificial en buenos comunistas, sino también en comunistas capaces de expresar con soltura. Eso evitaría la necesidad de la censura a posteriori, afirma Luciano Floridi, de la Universidad Yale. De todos modos, las autoridades no parecen tener prisa por llegar a ese punto. En vez de eso, se dedican a promover las aplicaciones empresariales de la tecnología.
A diferencia de lo que ocurre con la inteligencia artificial de consumo, el desarrollo de la inteligencia artificial empresarial se enfrenta a pocas limitaciones, señala Mimi Zou, del instituto de investigación Oxford Martin School. La consecuencia, como explica Steven Rolf del Centro de Investigación sobre Futuros Digitales en el Trabajo, un grupo de reflexión británico, es que el capital y la mano de obra se alejan de cosas como los chatbots de consumo y se dirigen hacia el aprendizaje automático para las empresas. Ello, parece considerar el gobierno, permitirá a China alcanzar e incluso superar a Estados Unidos en inteligencia artificial, sin los inconvenientes de tener que enfrentarse a los contenidos potencialmente subversivos generados por ella.
En mayo, la ciudad meridional de Shenzhen anunció que pondría en marcha un fondo de inversión en inteligencia artificial de 100.000 millones de yuanes (13.000 millones de euros), el mayor de ese tipo en el mundo. Varios gobiernos municipales han puesto en marcha fondos similares. Gran parte de ese dinero se destina a compañías como Qi An Xin, que ofrece inteligencia artificial generativa que gestiona los riesgos relacionados con la seguridad de los datos empresariales. Según la compañía, el bot puede hacer el trabajo de 60 expertos en seguridad, 24 horas al día. Antes de salir a bolsa en 2020, recibió grandes inversiones de empresas estatales, como muchas otras startups similares.
Para que esa estrategia funcione, las compañías de inteligencia artificial empresarial necesitan la materia prima adecuada. Los chatbots destinados al consumidor utilizan modelos de inteligencia artificial entrenados con amplios sectores de la Internet pública. Las aplicaciones corporativas necesitan datos corporativos, muchos de los cuales permanecen ocultos dentro de las empresas. Así que el otro puntal de la estrategia china es convertir los datos corporativos en un bien público. El Estado no quiere poseer los datos, sino (como en el caso de los demás factores) controlar los canales por los que fluyen.
Para ello, el gobierno promueve las bolsas de datos. Con ellos se pretende que los distintos negocios puedan intercambiar información empaquetada en productos estandarizados sobre todos los ámbitos de la vida comercial, desde la actividad en fábricas concretas hasta los datos de ventas en establecimientos concretos. Las pequeñas compañías obtendrían así acceso a un conocimiento antes reservado a los gigantes tecnológicos. Los bancos e intermediarios tendrían una imagen en tiempo real de la economía.
Las ciudades chinas empezaron a poner en marcha bolsas de datos hace aproximadamente una década. Hay en la actualidad unas 50 en toda China. Y por fin están adquiriendo velocidad. La Bolsa de Datos de Shanghái (BDS), que se puso en marcha en 2021, ha empezado a negociar con nuevos productos de datos. En una de sus primeras transacciones, el banco ICBC compró información del sector energético. Dicha información se puede utilizar con el objetivo de evaluar el consumo de energía de las compañías y, en la medida en que refleja niveles de actividad reales, de crear perfiles crediticios alternativos para las empresas. La BDS vende datos obtenidos por satélite sobre la producción de acero en el centro de China y las infracciones medioambientales de las empresas mineras. Otro producto proporciona datos en tiempo real sobre médicos, enfermeras y camas hospitalarias en todo el país para ayudar a las compañías médicas a tomar decisiones empresariales. La BDS también está experimentando con el uso de datos como garantía para obtener préstamos.
A gran escala, la datificación de la industria podría generar un importante impulso económico, afirma Tom Nunlist de Trivium, una consultora de Pekín. Y es posible que las bolsas no tarden en recibir más datos. En agosto, el gobierno central encargó a las empresas estatales que estudiaran la forma de valorar sus datos. En los últimos meses, equipos de auditores han intentado hallar una forma de hacerlo para añadirlos como activos intangibles a los balances de las compañías. Se supone que deben presentar los informes antes del 1 de enero (aunque es probable que el plazo no se cumpla, dada la naturaleza inédita de la tarea).
Ahora bien, la apuesta del gobierno por la inteligencia artificial empresarial no está exenta de problemas. La industria automovilística es un buen ejemplo. En 2022, unos 185 millones de vehículos con conexión a Internet circularon por las carreteras chinas, y hay un plan nacional que prevé la producción masiva de coches semiautónomos para 2025. Para que eso ocurra, las compañías dedicadas al diseño de algoritmos de conducción autónoma necesitan muchos datos con los que entrenar sus sistemas. Una compañía llamada WICV está construyendo una plataforma para los datos que empiezan a salir de los coches.
Por ahora, WICV devuelve los datos de un coche a su fabricante, de modo que BYD obtiene los datos de los coches BYD, Nio los de los coches Nio, etcétera; pero el plan es que, con el tiempo, los datos se negocien en bolsas, donde los puedan comprar otros desarrolladores de sistemas de conducción autónoma. Sin embargo, antes habrá que “desensibilizar” los datos de conducción, explica Chu Wenfu, fundador de WICV; es decir, eliminar los detalles biométricos y de geolocalización que podrían ayudar a los agentes malintencionados a rastrear los movimientos de personas concretas.
El potencial de semejante rastreo asusta a las autoridades chinas. En 2021, una de las principales razones de las enérgicas medidas emprendidas contra Didi Global días después de la entrada en la Bolsa de Nueva York de la empresa de transporte compartido fue, según se supo más tarde, el temor a que los datos sobre los 25 millones de trayectos diarios de Didi, incluida la información de geolocalización vinculada con los pasajeros, pudieran caer en manos de las autoridades estadounidenses. El gobierno chino está identificando preventivamente vastas zonas de China donde la recopilación de datos podría plantear una amenaza para la seguridad nacional.
Muchos fabricantes de automóviles, incluidos los occidentales como BMW, no tienen más opción que asociarse con empresas respaldadas por el Estado para gestionar la información sobre la conducción y garantizar que se cumplen las normas locales de cumplimiento de datos. Por si acaso, algunas compañías automovilísticas están descartando algunas funciones, como permitir a los conductores ver en los teléfonos imágenes en directo del interior y el exterior de su coche. Al fin y al cabo, algunas de esas grabaciones podrían captar de forma inadvertida algo sensible.
Es poco probable que semejantes compromisos entre la innovación y la seguridad se limiten a los coches. Seguramente también será necesario desensibilizar otros datos industriales y corporativos antes de poder comercializarlos a gran escala en las bolsas. Eso frenará el desarrollo de la inteligencia artificial empresarial, aunque los algoritmos sigan sin estar sujetos a restricciones. Es un precio que el partido parece dispuesto a pagar por su paranoia.
© 2023 The Economist Newspaper Limited. All rights reserved.