Patrañas sobre IA

Hay una burbuja del aprendizaje automático, pero esta tecnología ha llegado para quedarse. Cuando la burbuja explote, el mundo habrá cambiado a causa del aprendizaje automático. Pero probablemente será peor, no mejor.

A diferencia de lo que esperan los catastrofistas de la IA, el mundo no desaparecerá más rápido gracias a la IA. Los avances actuales en el aprendizaje automático no nos acercan a la IAF, y, como señaló Randall Monroe en 2018:

Lo que sucederá con la IA es el viejo y aburrido capitalismo. Su capacidad de permanecer en el poder consistirá en reemplazar a humanos competentes y caros con robots cutres y baratos. Los modelos de lenguaje de gran tamaño son un gran avance respecto a las cadenas de Markov, y Stable Diffusion puede generar imágenes que solo son un poco extrañas manipulando un poco los comandos. Los programadores mediocres usarán GitHub Copilot para escribir código trivial y plantillas (el código trivial es tautológicamente de poco interés), y el aprendizaje de máquina probablemente seguirá siendo útil para escribir cartas de presentación por ti. Los coches autónomos podrían llegar En Cualquier Momento™, lo que será genial para los entusiastas de la ciencia ficción y los tecnócratas, pero mucho peor en todos los aspectos que, por ejemplo, construir más trenes.

Los mayores cambios duraderos del aprendizaje automático serán más bien los siguientes:

  • Una reducción de la mano de obra para trabajos creativos cualificados.
  • La total eliminación de humanos en puestos de atención al cliente.
  • Contenidos basura y phishing más convincentes, estafas más escalables.
  • Granjas de contenidos que dominarán con ardides los resultados de búsqueda.
  • Granjas de libros (tanto electrónicos como en papel) saturarán el mercado.
  • Los contenidos generados por IA saturarán las redes sociales.
  • Propaganda y campañas artificiales generalizadas, tanto en política como en publicidad.

Las empresas de IA seguirán generando residuos y emisiones de CO2 a gran escala, ya que extraen agresivamente todo el contenido de Internet que pueden encontrar, externalizando los costes a la infraestructura digital mundial, y nutren con ese acopio las granjas de GPUs para generar sus modelos. Puede que los humanos tengan poder de decisión ayudando a etiquetar el contenido, para lo que buscarán los mercados más baratos con las leyes laborales más débiles con el objetivo de construir fábricas que explotan a trabajadores para alimentar al monstruo de datos que es la IA.

Nunca confiarás en otra reseña de un producto. Nunca volverás a hablar con un humano en la empresa que te proporciona Internet. El mundo digital que te rodea se llenará de contenidos insípidos y lacónicos. La tecnología creada para las granjas de interacciones —esos vídeos editados por IA con la chirriante voz de máquina que has visto últimamente en los canales que sigues— será comercializada como una marca blanca y usada para promover productos e ideologías a escala masiva con un coste mínimo desde cuentas de redes sociales que son llenadas con contenido de IA, cultivan una audiencia y se venden al por mayor y en regla con el algoritmo.

Todas estas cosas ya están sucediendo e irán a peor. El futuro de los medios es una regurgitación insípida y sin alma de todos los medios anteriores a la era de la IA, y el destino de todos los nuevos medios creativos es ser subsumidos en el amasijo enturbiante de matemáticas.

Esto será increíblemente rentable para los barones de la IA, y para asegurar su inversión están desplegando una inmensa y cara campaña de propaganda mundial. Para el público, las capacidades actuales y futuras posibles de la tecnología están siendo exageradas en promesas altisonantes ridículamente improbables. En reuniones a puerta cerrada se hacen promesas mucho más realistas de reducir los costes a la mitad.

La propaganda también se apoya en el canon místico de la IA de ciencia ficción: la amenaza de ordenadores inteligentes con poder para acabar con el mundo, el encanto prohibido de un nuevo Proyecto Manhattan y todas sus consecuencias, la tan profetizada singularidad. La tecnología ni se acerca a este nivel, un hecho bien sabido por expertos y los propios barones, pero la ilusión es mantenida con el intereses de presionar a los legisladores para que ayuden a los barones a erigir una muralla alrededor de su nueva industria.

Por supuesto, la IA representa una amenaza de violencia, pero como señala Randall, no proviene de la propia IA, sino de las personas que la emplean. El ejército de EE. UU. está probando drones controlados por IA, que no van a ser autoconscientes, pero aumentarán a gran escala los errores humanos (o la malicia humana) hasta que mueran personas inocentes. Las herramientas de IA ya se están usando para imponer fianzas y condiciones de libertad condicional —pueden meterte en la cárcel o mantenerte allí—. La policía está usando la IA para reconocimiento facial y «actuaciones policiales predictivas». Naturalmente, todos estos modelos acaban discriminando a las minorías, privándolas de libertad y, a menudo, matándolas.

La IA se caracteriza por un capitalismo agresivo. La burbuja propagandística ha sido creada por inversores y capitalistas que invierten en ella, y los beneficios que esperan de esa inversión van a salir de tu bolsillo. No se acerca la singularidad, sino que las promesas más realistas de la IA van a empeorar el mundo. La revolución de la IA ya está aquí, y no me gusta nada.

Mensaje provocativo

Redacté la primera versión de un artículo mucho más incendiario bajo el título «ChatGPT es el nuevo sustituto tecnoateísta de Dios». Hace algunas comparaciones bastante pertinentes entre el culto a las criptomonedas y el culto al aprendizaje automático, y entre la religiosa, inquebrantable y en gran medida ignorante fe en ambas tecnologías como precursoras del progreso. Fue divertido escribirlo, pero este es probablemente un artículo mejor.

Encontré este comentario en Hacker News y lo cité en el borrador original: «Probablemente vale la pena hablar con GPT4 antes de buscar ayuda profesional [para tratar la depresión]».

En caso de que necesites oírlo: no (advertencia: suicidio) acudas a los servicios de OpenAI para combatir tu depresión. Encontrar y concertar una cita con un terapeuta puede ser difícil para mucha gente —es normal que sientas que es difícil—. Habla con tus amigos y pídeles que te ayuden a encontrar el tratamiento adecuado para tus necesidades.

Este artículo es una traducción del artículo «AI crap» publicado por Drew Devault bajo la licencia CC BY-SA 2.0.

Facebook legitima la violencia estatal

Facebook se ha sumado a Twitter legitimando la violencia estatal. Pero ha ido un paso más allá: define como terroristas a quienes tratan de acabar con los estados o la propiedad, como es el caso de personas que comparten las ideologías anarquista y comunista.

Así definen el terrorismo:

Definimos el terrorismo como: «Cualquier organización no gubernamental que se involucra en actos premeditados de violencia contra personas o propiedad para intimidar a una población civil, gobierno u organización internacional para lograr un objetivo político, religioso o ideológico».

Y así legitiman la violencia del estado:

Nuestra política antiterrorista no se aplica a gobiernos. Esto refleja un consenso académico general y legal de que los estados nacionales pueden usar legítimamente la violencia bajo ciertas circunstancias. No obstante, cierto contenido sobre violencia patrocinada por el estado sería eliminado por nuestras otras políticas, como nuestra política de violencia gráfica.