Inteligência Artificial, Robótica e Armas Autónomas

A Inteligência Artificial, área científica pluridisciplinar por excelência, em acelerado desenvolvimento, vem merecendo particular atenção dos sectores empresariais civil e militar. Os avanços do conhecimento científico nesta área e as suas actuais e prospectivas aplicações têm profundas implicações sociais — políticas, económicas e culturais.

Uma das aplicações, porventura a mais conhecida do público em geral, que incorpora conhecimento científico e avanços tecnológicos nos domínios da Inteligência Artificial e da Robótica, é a das aeronaves não tripuladas correntemente chamadas “drones”. Importa dizer que estes engenhos estão a ser cada vez mais utilizados para fins úteis que interessam à sociedade, por exemplo, na distribuição de correio ou na entrega de encomendas a domicílio, na regulação do trânsito automóvel ou ainda como veículos de prestação de serviços de saúde urgentes. No entanto, na grande maioria dos casos estas aeronaves são usadas pelos militares em teatro de guerra, e também, em menor escala, por forças de segurança em missões de controlo policial, em certos casos, ao serviço de interesses que podem entrar em conflito com valores sociais fundamentais.

Aqui, uma vez mais, para nossa própria salvaguarda, é necessário e urgente distinguir as boas das más utilizações do progresso científico e tecnológico.

Há cerca de quatro anos, um grupo de investigadores e outros trabalhadores científicos da área da Inteligência Artificial, a que se juntaram humanistas e intelectuais de renome em várias áreas do conhecimento, deu a público uma “Carta Aberta” com o título “Armas Autónomas: Carta Aberta de Investigadores em Inteligência Artificial e Robótica”. A Carta, que apresentava na altura mais de um milhar de assinaturas, foi lida em Buenos Aires por ocasião da reunião nessa cidade da 24ª Conferência Internacional Conjunta sobre Inteligência Artificial[1]. Desde então a “Carta Aberta” de Buenos Aires mantem-se aberta a novos subscritores de forma que, de acordo com a informação mais recente, recolheu já, até hoje, mais de 31 000 assinaturas. Trinta e quatro subscritores são portugueses. Entre os primeiros subscritores contam-se nomes ilustres como o do físico teórico e cosmólogo britânico Stephen Hawkings, falecido em 2018, e o do linguista norte-americano Noam Chomsky. A Carta foi lançada por iniciativa do “Future of Life Institute” que é uma Organização Não-Governamental, com sede nos EUA[2]. No cimo da página da internet em que publica a Carta[3], pode ler-se: “Muitos dos benefícios da civilização nascem da inteligência. Como poderemos então valorizar esses benefícios através da inteligência artificial sem que percamos os nossos empregos ou sejamos tornados inúteis?”. Esta forte chamada de atenção vai ao encontro de preocupações já hoje presentes na sociedade e repetidamente manifestadas: os impactos sociais das aplicações da Inteligência Artificial, designadamente na esfera do trabalho e das relações capital-trabalho, serão necessariamente muito significativos e não necessariamente favoráveis à estabilidade das condições de vida e emprego dos trabalhadores.

Em princípios do ano passado, o professor e investigador Luís Moniz Pereira[4], colocava publicamente a questão desta maneira: “As grandes mudanças sociais desencadeadas pela nova automação, nomeadamente o software com capacidades cognitivas (ditas de Inteligência Artificial – IA), e também a sua articulação com sensores e manipuladores físicos (Robótica), requerem uma reflexão profunda sobre a relação capital/trabalho, e o desenho de novos modelos de contrato social que endereçam os enormes riscos de instabilidade social e descontentamento inerentes a tais mudanças.”[5]

Entretanto, os impactos já hoje mais preocupantes dos avanços do conhecimento científico nestes domínios e da sua tradução no plano das tecnologias têm a ver com o desenvolvimento de novas armas e a concepção de novas formas de fazer a guerra. É a esse aspecto que a Carta Aberta se dirige em primeira linha. Os sistemas de armas autónomas letais, designadas em inglês pela sigla LAWS ou Lethal Autonomous Weapons Systems, são assim caracterizados no “manifesto” de Buenos Aires:

“As armas autónomas identificam e atacam alvos sem intervenção humana. Aí se incluem, por exemplo, quadricópteros armados, capazes de procurar e abater pessoas que preencham determinados requisitos pré-definidos (…). As tecnologias de Inteligência Artificial atingiram um ponto em que o emprego de tais dispositivos autónomos é possível na prática ― mesmo sem suporte legal ― não dentro de décadas mas dentro de poucos anos, e a parada é alta: as armas autónomas têm sido referidas como a terceira revolução na arte da guerra, a seguir à pólvora e às armas nucleares.”

À tomada de posição formalizada na “Carta Aberta” seguiram-se várias outras iniciativas nascidas no seio da comunidade científica e envolvendo também instituições de investigação e, significativamente, um certo número de empresas tecnológicas na área da Inteligência Artificial e da Robótica. Porventura a mais recente, tem cerca de um ano, e tem a forma de um compromisso — o compromisso de não “participar nem apoiar o desenvolvimento, fabricação, comercialização ou utilização de armas autónomas letais”. À data de hoje o Compromisso conta com 247 organizações signatárias, entre as quais a OTC-Organização dos Trabalhadores Científicos, e 3250 signatários individuais de cerca de uma centena de nacionalidades[6]. A importância do que está em causa levou à constituição de um fórum de debate no quadro da Organização das Nações Unidas, associado à Convenção sobre Armas Desumanas negociada nos anos 80 e que está em vigor mas não cobre os sistemas de armas autónomas letais[7]. Em 2016, foi constituído um Grupo de Peritos com o propósito de chegar a um acordo que regulamente o uso daquelas armas não excluindo a sua proibição[8]. A última reunião do Grupo teve lugar no passado mês de Agosto na sede das Nações Unidas em Genebra. Os trabalhos prosseguem.

Um Mundo Instável e Perigoso

Um observador atento e medianamente informado terá formado a opinião de que a Paz no mundo, a própria sobrevivência da espécie e a continuidade da vida sobre a Terra, se defrontam hoje com sérias ameaças.

Poderá também ter formado a ideia de que tais ameaças estão em boa parte ligadas aos extraordinários avanços do conhecimento científico e ao desenvolvimento de uma multiplicidade de aplicações tecnológicas que aqueles proporcionam.

Entendemos que, quer as ameaças — que são reais — quer os avanços da ciência e da técnica, têm uma mesma origem: a actividade humana. E esta pode ser bem ou mal dirigida.

Daí o dizer-se que, no que toca à Ciência e à Técnica, temos nas mãos uma espada de dois gumes. A espada é manuseada ao sabor de interesses poderosos que determinam os caminhos que tomam as sociedades humanas.

Importa estar consciente de que não só não é possível como não é desejável, travar (e menos ainda impedir) a procura de conhecimento novo que é o objecto da actividade de investigação científica: a investigação que faz avançar a Ciência ― seja sobre o mundo natural seja sobre os fenómenos sociais e a evolução das sociedades humanas. Entretanto, o que é possível e absolutamente vital é estar atento ao modo como são aplicados os conhecimentos novos. Quer dizer, por um lado, o avanço imparável da Ciência, pura ou fundamental, e, por outro, as suas aplicações tecnológicas com um impacte directo nas nossas vidas. Seja um telemóvel, seja uma central nuclear.

É pois crucial saber distinguir, Ciência, factor de Paz e de desenvolvimento, de criação de riqueza e bem-estar, da Ciência, que alimenta guerras e a destruição, material e moral, do próprio Homem e da Natureza que o sustenta. Quem melhor do que os investigadores, os técnicos de investigação e outros trabalhadores científicos pode contribuir para levar junto dos seus concidadãos a informação necessária para que essa distinção seja feita? Eis uma questão decisiva dos nossos dias e que invoca a responsabilidade social dos trabalhadores científicos. Estes devem em todos os momentos ter presente a importância de contribuir para uma tomada de consciência das massas empurradas para um caminho de desastre pelos poderes dominantes.

Os montantes de recursos financeiros, humanos e materiais investidos nas guerras e nas infra-estruturas que as suportam desafiam a imaginação. São superiores ao que é investido na investigação científica, pura ou aplicada, para fins civis, na saúde ou na educação.

Em 2018, o Produto Interno Bruto mundial foi estimado em cerca de 85 milhões de milhões de dólares americanos. No que toca às despesas militares, os números divulgados pelo Stockholm International Peace Research Institute (SIPRI) para 2018 apontam para uma despesa total de cerca de US $1,8 milhões de milhões[9]. Este montante representaria assim cerca de 2,1% do PIB mundial. Entretanto, de acordo com a economista norte-americana Kimberly Amadeo, especialista em análise orçamental, a despesa militar real dos Estados Unidos no presente ano fiscal aproxima-se de 1 milhão de milhões de dólares despesa que é superior à soma das despesas militares dos nove países que se lhe seguem na escala descendente de valores da despesa militar por país [10]. Os dados do SIPRI confirmam estar em curso uma corrida aos armamentos que se traduz no crescimento regular das despesas militares para o que contribui um investimento crescente no desenvolvimento de novas tecnologias de base científica e novos sistemas de armas[11].

Com efeito, uma boa parte do investimento nas actividades de Investigação e Desenvolvimento Experimental (I&DE) é dirigida para novas armas e tecnologias militares emergentes ou “disruptivas” para usar o termo caro à Agência DARPA de que falámos em artigo anterior[12]. Aí nos referimos a alguns casos que vêm despertando a atenção mas outros há não menos relevantes que o espaço disponível não nos permite abordar: armas de energia dirigida, que assentam na utilização de lasers de alta potência; algoritmos de intrusão maliciosa — o chamado “hacking”— em sistemas informáticos, base da ciberguerra; ou, ainda, as novas versões, aperfeiçoadas, de explosivos nucleares e respectivos vectores de transporte, em que se destacam os mísseis de cruzeiro hipersónicos. De novo, o conhecimento científico e técnico ao serviço da guerra. Guerra que tem as suas raízes mais fundas na natureza predadora do capitalismo selvagem. Na pilhagem dos recursos naturais, no domínio territorial que exige.

Acresce que são muitas as instituições e grupos de investigação que hoje dependem para sobreviver de contratos com os militares, sujeitando-se, assim, de facto, a ser por eles tomados como reféns.

Tudo isto se passa num contexto em que o planeta e os povos têm pela frente outras ameaças, ligadas entre si, como os riscos associados às alterações climáticas, a desertificação e a escassez de solos férteis, o acesso à água potável, ou as grandes fontes industriais de poluição. E outros poder-se-ia referir. Importa ter consciência deles e empenharmo-nos na sua resolução.

A Federação Mundial dos Trabalhadores Científicos (FMTC), na qual a OTC-Organização dos Trabalhadores Científicos está filiada, tem dedicado particular atenção a estas ameaças globais. No seu “APELO DE DAKAR”^[13], lançado em Dezembro de 2017 a Federação Mundial afirma: “O Clima, a Biosfera, os Oceanos — o Planeta Terra ― está a entrar numa era desconhecida. As condições de vida de todos os seres vivos estão ameaçadas. A longo prazo, é a própria sobrevivência da espécie humana que está em jogo. As ameaças são globais. Requerem o envolvimento de todos e a mobilização de todas as nações, povos e sectores de actividade. A contribuição da investigação ― incluindo as ciências sociais e humanas — é decisiva para mudar de rumo.”

A construção de um futuro sustentável depende de todos e de cada um de nós — do activismo cívico, com a contribuição dos próprios trabalhadores científicos — mais do que das elites que governam para o curto prazo, promovem a pilhagem dos recursos naturais, ignorando ou fingindo ignorar que ao desprezar os equilíbrios naturais estão a cavar a sua própria sepultura.

Notas:
[1] 24th International Joint Conference on Artificial Intelligence, Buenos Aires, Julho 2015
[2] O “Instituto pelo Futuro da Vida” é uma organização de voluntários que conjuga a investigação e o activismo social e tem por objectivo contribuir para mitigar os riscos existenciais que hoje se colocam ao futuro das sociedades humanas sobre a Terra, em particular os riscos associados aos avanços da Inteligência Artificial. Na sua direcção e conselho consultivo têm assento cientistas, tecnólogos e outros intelectuais de várias nacionalidades.
[3] https://futureoflife.org/open-letter-autonomous-weapons/
[4] Luís Moniz Pereira, Professor Catedrático (Jubilado) da Faculdade de Ciências e Tecnologia da Universidade Nova de Lisboa, é um dos mais conceituados investigadores portugueses no domínio da Inteligência Artificial. A sua contribuição científica para a disciplina é reconhecida internacionalmente. Luís Moniz Pereira é membro dos Órgãos Sociais da OTC-Organização dos Trabalhadores Científicos.
[5] https://otc.pt/wp/2018/01/11/entrevista/
[6] “DECLARAÇÃO DE COMPROMISSO SOBRE ARMAS AUTÓNOMAS LETAIS”
[7] Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects
[8] Group of Governmental Experts on Lethal Autonomous Weapons Systems (LAWS)
[9] https://www.sipri.org/media/press-release/2019/world-military-expenditure-grows-18-trillion-2018
[10] Kimberly Amadeo, “US Military Budget, Its Components, Challenges, and Growth”, 22 de Abril de 2019
[11] “New technologies drive military spending: SIPRI”
[12] https://www.darpa.mil/about-us/about-darpa
[13] “Por um projecto global de investigação, urgente e excepcional. Actuemos enquanto ainda é tempo. Apelo à Acção. Aos cientistas, aos governantes e aos cidadãos do mundo”, FMTC, Dakar, Dez 2017