IA, Sociedade Algorítmica e Riscos para a Democracia

A revolução cognitiva apoiada na IA impactará em todas as dimensões da actividade humana. Abordamos aqui as emergências paradigmáticas que definem tal revolução, bem como os impactos no sistema político que enforma o espaço Geopolítico designado por “Mundo Ocidental”, e referimos a democracia representativa pluripartidária.

Novas emergências paradigmáticas

Antes dos primeiros estudos científicos sobre o suporte biológico da cognição, tomando como base de investigação lesões ocorridas nos indivíduos e respectivas consequências, tal os trabalhos conduzidos por Broca; ou partindo do estudo do comportamento animal, como os estudos conduzidos por Pavlov acerca da possibilidade de se condicionarem respostas comportamentais; ou ainda os primeiros passos da Psicologia experimental conduzidos por Wundt, a abordagem anterior à mente humana tinha o pressuposto da existência em todos nós de uma dimensão espiritual, tida como incompatível com a sua abordagem por via das ciências experimentais, ou com a construção engenheirística de artefactos sucedâneos. Postulava-se também uma ruptura entre humanos e natureza, segundo a qual os primeiros eram vistos como beneficiários da restante criação divina. A revisão dessa crença implicou que deixámos de nos percepcionar como a pedra angular da criação, e concebermos a vida e cognição de um modo integrado. Nessa integração, a mente humana ocupa, ainda e por enquanto, o topo da hierarquia mental; mas agora, enquanto o resultado de processo em evolução, o qual, atingido este patamar, permitiu que a vida e a própria cognição tomassem consciência de si, interpelando não apenas a sua origem e natureza, mas ainda suas potencialidades e limites.

Mudado o paradigma, presentemente os avanços no domínio da Psicologia Evolucionária, e o conhecimento que vamos adquirindo sobre a cognição e comportamento animal, permitem construir uma visão muito mais coesa e integrada da evolução das espécies, e da inteligência/cognição, enquanto processo igualmente evolucionário e distribuído. Acresce que toda a tecnologia aplicada ao universo das neurociências e das ciências cognitivas, tais a imagiologia por ressonância magnética, ou engenharia de interfaces cérebros/computadores, entre muitos outros recursos, servem de base a conjecturas mais rigorosas acerca dos suportes biológicos para a inteligência e cognição. Numa outra vertente, os desenvolvimentos da Inteligência Artificial (IA), associados à capacidade do que poderíamos designar por engenharia filosófica, permitem-nos simular e experimentar no computador processos que anteriormente só podiam ser objecto de especulação mediante reflexão e argumentação; pese, por vezes, com base em observações de campo, ou experiências intencionalmente conduzidas. Tais caminhos, devido ao seu potencial de explicitação e análise dos processos mentais humanos e não-humanos, permitem um olhar simultaneamente mais global e detalhado de todos os processos cognitivos. Mais global porque nos remetem para a mente enquanto faculdade detida por várias espécies, quiçá extraterrenas; e também mais detalhada, pois dispomos de conceitos e instrumentos de investigação que permitem “entrar” no domínio da mente em acção, por assim dizer. Mesmo a moral, vista como caso de investigação com recurso à teoria dos jogos evolucionários, é actualmente objecto de abordagem por via da Psicologia Evolucionária e das ciências da computação (L. M. Pereira, A. Lopes 2020, 2023).

Resumidamente, o melhor conhecimento dos processos mentais humanos, em associação com a IA empoderada com dispositivos de tratamento de grandes dados cada vez mais eficientes, formam a “tempestade perfeita” para uma abordagem muito mais cirúrgica aos processos de condicionamento das percepções políticas, e da decisão no momento do voto.

Democracia

Os procedimentos de escolha democráticos, com as nuances próprias de cada tempo histórico, sempre estiveram imputados a modelos de decisão de natureza emergente. Ou seja, é a vontade de cada cidadão, idealmente expressa sem constrangimentos, que está na base da formação de maiorias que à partida exprimirão o interesse geral. Sendo ainda certo que o termo “cidadão” já teve modalidades fortemente restritivas, como na antiga Grécia – onde a Democracia foi pela primeira vez concebida – excluindo as mulheres, os jovens, os metecos e os escravos. Muitos séculos mais tarde, em Inglaterra, os votantes eram os possuidores de terra, dado constituírem o grupo social com interesses a defender. Já nos navios dedicados ao corso, a selecção do capitão era participada por toda a tripulação, no regime “um homem, um voto”. E os votantes procuravam ser criteriosos, pois os riscos da actividade não se compadeciam com improvisos ou entendimentos espúrios; convinha que o líder fosse o mais capaz. Assim, decidir uma liderança por votação universal foi um procedimento que os humanos foram aprimorando, tendo-se revelado uma boa alternativa aos direitos de sangue, por um lado; ou às insurreições violentas, por outro. Na Europa, à medida que o pensamento social e político foi sendo revisto, reconheceu-se a imoralidade da escravatura, a paridade entre homens e mulheres e a definição de uma idade razoável para a assunção dos direitos de cidadania. Por outro lado, além do melhorar da sua componente procedimental, a democracia associou-se com naturalidade a um conglomerado ideológico, oposto à velha ordem dos direitos de sangue e da origem natural do Estado; para valorizar o contratualismo, a igualdade de oportunidades, e a expansão dos direitos de cidadania a todos os indivíduos integrados num Estado, por nascimento ou adopção, independentemente do género, raça, religião, idade, formação, ou características físicas. Dada a complexidade das sociedades humanas, e por nem todos poderem participar a todo o momento na vida pública, concebeu-se um sistema que veio a desembocar na democracia representativa pluripartidária, no qual as diversas forças políticas presentes na sociedade competem pela adesão dos cidadãos-eleitores, em ordem a serem os seus representantes.

Todavia, devido à sua complexidade, tal sistema tem exigências cujo não cumprimento pode implicar, inclusivamente, a deturpação da sua componente procedimental. O que se designa por Democracia Plena exige dispositivos reguladores da igualdade de oportunidades, acesso livre a informação, liberdade de expressão pública, liberdade de associação, e de circulação. Por fim, para que o sistema seja efectivamente democrático tem de se salvaguardar a prioridade do plano político sobre o económico, garantido que os actores políticos não se encontram reféns de poderes não escrutinados.

Presentemente, num contexto de forte instrumentalização dos poderes públicos, a IA (ou Inteligência Algorítmica) tem capacidade de deturpar o processo democrático, pois os poderes opacos, não institucionalizados, e não escrutinados de quem a produz e utiliza encontram-se sem tutela.

Por outro lado, o enfraquecimento de mediadores credíveis, como as instituições internacionais, ONGs, e comunicação social de qualidade representam sérias ameaças ao equilíbrio social desejável. Neste contexto, a IA é aproveitada com vista ao lucro monetário pela infra-estrutura mundial financeira e sua ganância, onde tudo é medido na dimensão do retorno, sendo irrelevantes os valores das suas “externalidades” e consequências. Ao invés desses lucros serem objecto de distribuição universal levando à diminuição da necessidade do tempo de trabalho individual (por as máquinas serem afinal escravas próprias de toda a humanidade), e à aceleração do ritmo de trabalho sem contestação, tornam-nos a nós mais escravizados, pela crescente competição com máquinas. Levando ao des/subemprego e tabú de o quantificar.

Por si a IA não é um mal, de contrário, é susceptível de enormes benfeitorias para a humanidade. Já a sua utilização, em prol dos interesses dos seus donos, será cada vez mais um instrumento de domínio mais geral da humanidade, designadamente quanto à estruturação e funcionamento democráticos, manipulando-os (A. C. Alexandre, L. M. Pereira, 2023). Em contraposição, distribuir por todos o lucro monetário gerado, p. ex. através de um Rendimento Básico Incondicional, e ampliar as formas de exercício da democracia através de sistemas informáticos mais flexíveis e inteligentes, seriam contributos para um mundo mais justo.

A algoritmização da opinião, por via dos instrumentos automáticos de influência social, cada vez mais individualizados e generalizados, leva-nos a “bolhas de opinião” auto-reforçantes, de isolamento social conflituoso. As redes sociais são o palco privilegiado de poderosas empresas de Big Data que, a soldo de quem as contrata, induzem e reforçam comportamentos grupais acríticos.

Em conclusão, enquanto não houver um controlo regulado, planetário, dos novos e sucessivos instrumentos da IA, não apenas a democracia se encontra ameaçada, como os desequilíbrios económicos e sociais serão cada vez mais exacerbados.

Referências:
- L. M. Pereira, A. Lopes, Máquinas Éticas: Da Moral da Máquina à Maquinaria Moral. Colecção "Outros Horizontes", NOVA.FCT Editorial (e Wook), Portugal 2020.
- A. C. Alexandre, L. M. Pereira, Ethics and Development of Advanced Technology Systems in Public Administration. In (Open Access): E. González-Esteban, R. A. Feenstra, L. Camarinha-Matos (Eds.), Ethics and Responsible Research and Innovation in Practice - The ETHNA System Project, Springer Nature AG, Suíça 2023.
- L. M. Pereira, A. Lopes, Acerca de mentes naturais e digitais, ou de promessas arriscadas. No prelo, Junho 2024, Lampião: Revista de Filosofia (Dossiê Filosofia da Mente & Ciências Cognitivas), volume 4, número, 1, Brasil, 2023.

Luís Moniz Pereira

(1947)
Professor Emérito, Universidade Nova de Lisboa. Membro da Academia Europaea.

Mais do autor

António Barata Lopes

(1964)
ANQEP – “Agência Nacional para a Qualificação e Ensino Profissional” e Agrupamento de Escolas de Alvalade

Mais do autor