Existe uma bolha da aprendizagem automática, mas a tecnologia veio para
ficar. Quando a bolha rebentar, o mundo será alterado pela aprendizagem
automática. Mas provavelmente será pior, não melhor.
Contrariamente às expectativas sobre a IA dos mais pessimistas, o mundo
não se vai afundar mais rapidamente graças à IA. Os avanços
contemporâneos na aprendizagem automática não nos estão a aproximar da
inteligência artificial geral e, como Randall Monroe referiu em 2018:
O que vai acontecer à IA é o velho e aborrecido capitalismo. A sua
capacidade de se manter no poder consistirá em substituir humanos competentes e
caros por robôs baratos e de má qualidade. Os grandes modelos de
linguagem são um bom avanço em relação às cadeias de Markov, e o Stable
Diffusion pode gerar imagens que só são um pouco estranhas com manipulação
suficiente dos comandos. Os programadores medíocres usarão o GitHub
Copilot para escrever código trivial e de base (código
trivial é tautologicamente desinteressante), e a aprendizagem automática provavelmente
continuará a ser útil para escrever cartas de apresentação. Os
carros autónomos podem aparecer A Qualquer Momento™, o que vai ser ótimo para
os entusiastas da ficção científica e para os tecnocratas, mas muito
pior em todos os aspectos do que, digamos, construir mais comboios.
As maiores mudanças duradouras na aprendizagem automática serão, antes,
as seguintes:
- Redução da mão de obra para trabalhos criativos especializados.
- A eliminação completa de humanos em funções de apoio ao cliente.
- Conteúdos de spam e phishing mais
convincentes, fraudes mais escaláveis.
- Conjuntos de servidores geradores de conteúdos optimizados para motores de busca a
dominar os resultados de pesquisa.
- Conjuntos de servidores geradores de livros (tanto eletrónicos quanto em papel).
- Conteúdos gerados por IA a inundar as redes sociais.
- Propaganda e campanhas de ativistas fictícios, tanto na política como na publicidade
As empresas de IA continuarão a gerar resíduos e emissões de
CO2 a uma escala enorme à medida que recolhem agressivamente
todo o conteúdo da Internet que conseguem encontrar, externalizando os
custos para a infraestrutura digital mundial, e alimentam os servidores
de GPU com esse tesouro para gerar os seus modelos. Os humanos talvez
tenham poder de decisão, ajudando a etiquetar os conteúdos, procurando os
mercados mais baratos com as leis laborais mais fracas com o objetivo de
construir fábricas que exploram os trabalhadores para alimentar o
monstro de dados da IA.
Nunca mais confiarás noutra avaliação de produto. Nunca mais voltarás a
falar com um ser humano do teu fornecedor de acesso à Internet. Os meios
de comunicação social insípidos e concisos encherão o mundo digital à
tua volta. A tecnologia criada para gerar engajamento em escala —
aqueles vídeos editados por IA com uma voz de máquina irritante que tens
visto nos teus canais ultimamente — será convertida numa marca
branca e utilizada para promover produtos e ideologias a uma escala
maciça com um custo mínimo a partir de contas de redes sociais que são
preenchidas com conteúdo de IA, geram uma audiência e são vendidas por
grosso e em ordem com o Algoritmo.
Todas estas coisas já estão a acontecer e vão continuar a piorar. O
futuro dos meios de comunicação social é uma regurgitação insípida e sem alma
de todos os média que vieram antes da época da IA, e o destino de todos
os novos meios de comunicação social criativos é serem subsumidos no
turbilhão matemático.
Isto será incrivelmente lucrativo para os patrões da IA e, para garantir
o seu investimento, estão a desenvolver uma imensa e dispendiosa
campanha de propaganda a nível mundial. Para o público, as capacidades
actuais e potenciais futuras da tecnologia são representadas em
promessas ridículas. Em reuniões à porta fechada, são
feitas promessas muito mais realistas de reduzir para metade os
orçamentos dos salários.
A propaganda também se apoia no cânone místico da ciência ficção
sobre a IA: a ameaça de computadores inteligentes com poder para acabar
com o mundo, o fascínio proibido de um novo Projeto Manhattan e todas as
suas consequências, a singularidade há muito profetizada. A tecnologia
não está nem perto deste nível, um facto bem conhecido dos especialistas
e dos próprios patrões, mas a ilusão é mantida no interesse de pressionar
os legisladores a ajudarem os barões a erguer um muro à volta da sua
nova indústria.
É claro que a IA representa uma ameaça de violência, mas, como refere
Randall, não é da própria IA, mas sim das pessoas que a empregam. O
exército dos EUA está a testar drones controlados por IA, que não serão
autoconscientes, mas que irão aumentar os erros humanos (ou a malícia
humana) até que pessoas inocentes sejam mortas. As ferramentas de IA já
estão a ser utilizadas para estabelecer condições de fiança e liberdade
condicional — podem colocar-te na prisão ou manter-te lá. A
polícia está a utilizar a IA para reconhecimento facial e «policiamento
preditivo». É claro que todos estes modelos acabam por discriminar as
minorias, privando-as da liberdade e, muitas vezes, levando-as à morte.
A IA é definida por um capitalismo agressivo. A exagerada bolha foi criada
por investidores e capitalistas que injectaram dinheiro nela, e os
rendimentos que esperam obter desse investimento vão sair do teu bolso.
A singularidade não está a chegar, mas as promessas mais realistas da IA
vão tornar o mundo pior. A revolução da IA chegou, e não me agrada.
Mensagem provocadora
Tinha um artigo muito mais inflamado esboçado para este tópico com o
título «ChatGPT é o novo substituto tecnoateísta de Deus». Faz
algumas comparações bastante incisivas entre o culto às
criptomoedas e o culto à aprendizagem automática e a fé religiosa,
inabalável e em grande parte ignorante em ambas as tecnologias como
precursoras do progresso. Foi divertido de escrever, mas este é provavelmente o
melhor artigo.
Encontrei este comentário no Hacker News e citei-o no rascunho original:
«Provavelmente vale a pena falar com o GPT4 antes de procurar ajuda
profissional [para lidar com a depressão]».
Caso precises de ouvir isto: não procures (aviso: suicídio) os serviços da
OpenAI para te ajudar com a tua depressão. Encontrar e marcar uma
consulta com um terapeuta pode ser difícil para muitas pessoas — é
normal que sintas que é difícil. Fala com os teus amigos e pede-lhes que te
ajudem a encontrar os cuidados adequados às tuas necessidades.
Este artigo é uma tradução de «AI crap»
publicado pelo Drew Devault sub a licença CC BY-SA 2.0.
