usuarix

Otra vez 7 de octubre. Todo ha cambiado en tres años, aunque todo sigue igual. Hace una semana empecé hablando de lo que se espera del Sur, y lo que se produce en el Norte. Hoy hablaré de los opuestos que se necesitan para existir. Específicamente, del fatalismo que se utiliza para obtener dinero, y del disgusto que no nos anima a cambiar de hábitos. Todo con la tecnología, por supuesto, porque de eso hablo aquí. Seguiré con la IA, porque es un tema del que difícilmente podemos escapar en estos tiempos de genocidio. Pero intentaré ir más allá. Veamos cómo nos va.

= = =

Como sabemos desde hace un par de años, Gaza ha sido un laboratorio para el perfilamiento y asesinato masivo de personas (consideradas “objetivo militar”) con un sistema de IA conectado a toda una infraestructura de telecomunicaciones controlada desde Israel. Mientras tanto, la guerra en Ucrania ha creado una economía digital en el campo de batalla. Como relata el blog Geopolitics Prime, mediante diferentes acuerdos de cooperación, Ucrania les ha dado acceso a empresas tecnológicas estadounidenses como Palantir, Anduril, SpaceX, Microsoft, Amazon y Google, a grandes cantidades de información en condiciones de combate real. Esto con el fin de proteger su infraestructura crítica, poner a prueba nuevas tecnologías militares y orquestar ataques.

La guerra mundial de hoy se libra a distancia, desde los centros de control donde se diseñan y ejecutan los ataques con precisión milimétrica, con base en los datos que ofrecen los sistemas de IA. Esos mismos que se venden comercialmente, pero en versiones premium para uso gubernamental. De ahí que, parte de la guerra, consista en poner a prueba, perfeccionar y comerciar las herramientas digitales que sirven como armamento militar. Como dicen: no hemos superado la Guerra Fría.

Por eso preocupa tanto lo que empresas no occidentales hacen con las mismas tecnologías que se desarrollan en casa. Para poner un ejemplo, el caso de la empresa rusa Oxygen Forensics, con sede en EEUU, que ofrece servicios digitales forenses a entidades judiciales en la Unión Europea, desde hace más de una década, y que hoy se considera prácticamente un caso exitoso de espionaje a Occidente. Al mismo tiempo, las empresas europeas que desarrollan software malicioso son atractivos focos de inversión para ex agentes de inteligencia de las potencias económicas occidentales. Es el caso de la empresa italiana Dataflow que produce exploits para sistemas Apple, principalmente, y que hoy cuenta con cinco filiales en EEUU, España e Israel (donde además emplean antiguos miembros de NSO Group). Pero volvamos a la IA.

En las últimas semanas se ha desatado un debate, principalmente en inglés, sobre el comportamiento descontrolado y “deshonesto” (“rogue”, es el término que se usa) de agentes de IA que están siendo puestos a prueba por parte de empresas reconocidas como OpenAI. Aquí una entrevista que hace La Silla Vacía al respecto. El problema es que estos agentes, funcionando de manera coordinada entre ellos y sin supervisión humana, están logrando burlar la seguridad de sistemas enteros, como el ecosistema Wikimedia. Por una parte, las grandes empresas de IA están empezando a decir que sus herramientas son excesivamente poderosas y requieren restricciones. Por otra, hay un llamado a cuestionar, no solo la narrativa de estas empresas, sino su poder y su interés real, que es económico.

Empresas como OpenAI (ChatGPT) y Anthropic (Claude) desarrollan herramientas comerciales y al mismo tiempo herramientas de uso restringido, gubernamental o militar, dependiendo de su propósito. Y ven como problemático que las potencias de Oriente tengan herramientas similares. Anthropic, por ejemplo, publicó hace unos días un análisis comparativo de su modelo Claude Mythos Preview, diseñado para crear de manera autónoma sofisticados exploits de extremo a extremo, y GLM-5.3, un modelo con las mismas características, desarrollado por Zhipu AI (una empresa china, conocida internacionalmente como Z.ai). En resumen, el análisis demuestra que los dos modelos tienen alcances similares, pero GLM-5.3 se ofrece sin ningún tipo de restricción. Es decir, en los términos de Anthropic, el problema no es el desarrollo de estas herramientas, ni el poder que le da a sí misma como empresa, sino para quién se desarrolla. Pero aunque Anthropic declare que sus herramientas tienen las restricciones necesarias para no hacer daño, lo cierto es que igual lo hacen. Por ejemplo, para acceder a los registros de 600.000 tarjetas de crédito. Es falso que restringir el acceso a los modelos los haga “más seguros”.

El mercado de herramientas digitales de uso militar es abundante hoy en día. Y el problema es que la discusión que proponen los vendedores es la regulación sobre a quién venderle qué, y cómo. Pero este mercado existe gracias a que, durante más de tres décadas, internet a sido un entorno abierto, y la mayoría de los contenidos que hay allí (y que hoy alimentan sus modelos), fue agregado de manera voluntaria por personas usuarias. Esas IAs se utilizan también para tomar decisiones en el trabajo humanitario de los organismos multilaterales. Esta carta, firmada por 40 organizaciones internacionales, explica por qué el Programa Mundial de Alimentos de la ONU debería cortar sus relaciones con Palantir, con quien tienen contratos desde 2017.

= = =

Recapitulando, la cadena es más o menos así: las personas que usamos internet, hoy día tenemos acceso a herramientas “gratuitas” de IA, que nos facilitan muchas cosas. Los modelos con que funcionan eas IAs fueron alimentados con la información que por muchos años hemos agregado a internet (en blogs, Wikipedia, libros digitalizados, foros, redes sociales, entre otros contenidos). Las IAs que usamos son las mismas (marcas: ChatGPT, Claude, Gemini, Meta), pero con versiones diferentes a las que utilizan las agencias militares que están liderando invasiones, genocidios, criminalización y persecución en todo el mundo. ¿Son estas las herramientas que queremos para nuestra vida? ¿Son estos los sistemas que queremos alimentar?

Hace poco Proton hizo una encuesta en Francia, Alemania, Reino Unido y Estados Unidos, sobre el uso de chatbots para hacer consultas, y la confianza que tienen las personas en estas herramientas. Concluyó que aunque no hay mucha confianza sobre lo que las IAs (chatbots) hacen con la información, se usan para consultar sobre temas sensibles e íntimos (de salud, sexualidad, carrera profesional, finanzas). Los motivos para esta contradicción incluyen que las personas temen someterse al juicio social si consultan estos temas con otras personas, en quienes sí confían. Aunque sí preocupa la privacidad, a las personas les incomoda más que su información sea utilizada para hacer perfiles publicitarios, que para entrenar modelos. Pero la mayoría coinciden en que preferirían un chatbot que garantice la privacidad de la conversación. Y la verdad es que, para agregar a todo lo que venimos hablando, aunque productos como ChatGPT, Gemini, Claude o Grok aseguren que no comparten los datos de conversación, una investigación reciente demuestra que sí lo hacen (está en español la nota ;).

Tenemos dos asuntos en paralelo. Por una parte, el mercado de las IAs, que ahora están integradas en los buscadores, en las apps de mensajería, en los celulares y computadores, y se alimentan de todos los contenidos que (dentro o fuera de estas aplicaciones) están en internet. Por otra, la narrativa, cada vez más fuerte, de que estas IAs tienen capacidades nocivas y potencialmente letales para la humanidad, es decir que son increíblemente poderosas. ¿A quién le sirve todo esto?

Hace poco el foro Reddit informó que restringirá el acceso a su información, tanto para herramientas RSS (que avisan cuando se publica algo en la plataforma) como para APIs de terceros (que se pueden utilizar para indexación e investigación). Lo hacen para cerrarle las puertas a los bots que extraen información y saturan el tráfico hacia su plataforma. Ahora, Reddit cobrará por el acceso a su información para entrenamiento de modelos de IA. Algo similar a lo que hizo hace un tiempo Wikimedia, y que es el modelo hacia donde van todas las plataformas que antes conocimos como de “cultura libre”. El artículo se puede leer sin restricción aquí. Mientras tanto, y aunque parezca algo superficial, los empresarios de IA se rasgan las vestiduras porque un medio de comunicación como Associated Press define en su manual de estilo que no utilizará ninguna imagen que permita asociar la IA con características humanas.

Hablando de temas superficiales (que no lo son), quisiera terminar este vistazo al mercado de la IA con un texto largo, en inglés, y que raya en la conspiración, el juicio moral y el melodrama (y que tampoco lo es). Se trata de un recuento por lo que ha sido la incubación de los proyectos de IA (DeepMind de Google, OpenAI, Anthropic) en el coraźon de Silicon Valley, sus conexiones con una filosofía denominada Altruismo eficaz que tiene gran influencia entre los empresarios e inversionistas de la IA, y el reciente auge del “fatalismo de la IA” (“AI doomerism”, en inglés). Dice el texto que el trabajo de incidencia en políticas públicas que se está dando en EEUU en pro de la “seguridad de la IA” (“AI safety” en inglés) proviene de un “culto sexual en Berkley, California”. Para alguien que no está inmerso en el contexto de EEUU, y menos en su ámbito universitario, ni en las redes sociales comerciales, ni en las incubadoras de tecnología e innovación, este texto podría leerse como un drama de farándula y no más. Pero hoy conocemos de la explotación y la tortura sexual a la que se sometía a niñas en una isla controlada por Jeffery Epstein y su círculo cercano, y la influencia tan grande que este negocio de la violación tuvo sobre las clases políticas, económicas y culturales (masculinas, hay que decirlo) de varios países del mundo. Por eso, es necesario y urgente conocer las dinámicas similares que se mueven en el corazón de la inversión en tecnología, como es Silicon Valley. Leer este texto puede afectar la sensibilidad de muchas personas. En mi opinión, es desagradable y preocupante leer, no sobre la libertad sexual de un grupo de personas con influencia en redes sociales, sino de la estrecha relación entre la filantropía, la publicidad asociada al desarrollo de IA, y la cultura de la violación legitimada por todo esto. Personas que promueven abiertamente la cultura de la violación a mujeres recaudan cantidades exorbitantes de dinero para mantener un discurso fatalista (no informado, no crítico) sobre las capacidades de la IA, y quieren hacer políticas públicas con ese discurso. Cultura de la violación más cultura del miedo, ¿existe un terreno más apto para desplegar la guerra contra la sociedad?

= = =

Frente a este panorama, cuesta imaginar un algo más allá. Por eso es necesario esculcar entre todo lo que también hay en internet, para recordarnos que sí, sí hay. ¿Y qué alternativas tenemos a una internet que mueven los bots, que chupan datos y luego bombardean pueblos? Tendremos de qué hablar al respecto después. Por hoy, la posibilidad que todavía tenemos de acceder al conocimiento libre, descargarlo y seguir accediendo aunque no haya conexión a internet, aquí.

También, que llevamos meses con alertas de que Android dejará de ser abierto, como si alguna vez lo hubiera sido realmente. Pero ahí también se empiezan a ver cambios, que aunque estén lejos de ser ideales, pues empujan e incomodan al monopolio de las apps móviles. Google es obligado a permitir la descarga de otras tiendas de aplicaciones en PlayStore... Parece un chiste, pero es algo. Y al mismo tiempo, quienes antes le han apostado al mercado de aplicaciones de Google, se van cansando de meter energía y esfuerzo allí, como en el caso de la app Conversations, que ahora será de acceso gratuito en PlayStore (aunque siempre lo fue en f-droid). Quizás se trate, una vez más, del tradicional “que cambie todo para que no cambie nada”, pero si no creemos que podemos cambiar cosas, ni para qué seguir hablando.

¡Que todo cambie, y que nada siga igual!

Hasta entonces.