Da bomba atômica à IA: Oppenheimer já alertava que novas tecnologias precisam ser consideradas sob ótica social

O dilema sobre como lidar com novas tecnologias e o impacto que elas podem trazer às nossas vidas está longe de ser discussão recente: durante o desenvolvimento das tecnologias nucleares, no contexto da Segunda Guerra Mundial e depois da Guerra Fria, a participação popular já era defendida como fundamental para contrapor o uso responsável de novas tecnologias aos interesses privados de agentes de mercado, ou ao uso por estratégias de governos nacionais.

Agora, o debate retoma relevância quando uma nova tecnologia que carrega a possibilidade de revolucionar as nossas vidas começa a ganhar potência e segue sendo implementada sobretudo a partir dos interesses privados: a Inteligência Artificial.

A história de Oppenheimer

Robert Oppenheimer (1904-1967), um físico teórico norte-americano, considerado o “pai da bomba atômica”. Ele liderou o Projeto Manhattan, que desenvolveu as primeiras armas nucleares durante a Segunda Guerra Mundial. Ele também foi um dos fundadores do Instituto de Estudos Avançados de Princeton, onde trabalhou com grandes nomes da ciência, como Albert Einstein e John von Neumann.

Oppenheimer foi um dos primeiros a alertar sobre os riscos e as responsabilidades das novas tecnologias. Ele defendia que os cientistas devem ter uma consciência social e ética, e que as decisões sobre o uso das novas tecnologias deveriam envolver a participação da sociedade civil e dos governos democráticos. Ele também criticava os interesses nacionais ou privados que poderiam se sobrepor ao bem comum e à paz mundial.

Foi devido a esse posicionamento que Oppenheimer se tornou um ativista pela paz e pelo controle das armas nucleares. Ele defendia que os cientistas deveriam ter uma consciência social e ética, e que as decisões sobre o uso das novas tecnologias deveriam envolver a participação da sociedade civil e dos governos democráticos. Ele também criticava os interesses nacionais ou privados que poderiam se sobrepor ao bem comum e à paz mundial.

Ele também foi um dos primeiros a reconhecer os dilemas morais e políticos das novas tecnologias. Ele alertou para os perigos de uma corrida armamentista entre as potências mundiais, que poderia levar a uma guerra nuclear devastadora. Ele também chamou a atenção para a necessidade de uma cooperação internacional para evitar a proliferação das armas nucleares e para promover o uso pacífico da energia nuclear.

Novas tecnologias ainda carregam os mesmos dilemas

Uma das novas tecnologias que mais desafia a sociedade atualmente é a inteligência artificial, que é a capacidade de máquinas ou sistemas de realizar tarefas que normalmente requerem inteligência humana, como raciocinar, aprender, decidir e criar. A IA tem diversas aplicações benéficas em áreas como saúde, educação, transporte, comunicação e entretenimento. Mas também tem potenciais riscos e desafios em termos de privacidade, segurança, ética, emprego e governança.

A IA pode trazer benefícios para a sociedade, como:

• Aumentar a produtividade e a eficiência dos processos e serviços, reduzindo custos e erros.
• Melhorar a qualidade de vida e o bem-estar das pessoas, oferecendo soluções personalizadas e acessíveis.
• Ampliar o conhecimento e a inovação nas diversas áreas do saber, gerando novas descobertas e oportunidades.
• Resolver problemas complexos e globais, como as mudanças climáticas, as pandemias, a pobreza e a violência.

Mas a IA também pode trazer riscos para a sociedade, como:

• Perder empregos e renda para as máquinas, aumentando o desemprego e a precarização do trabalho.
• Violar a privacidade e os direitos humanos das pessoas, coletando e usando dados pessoais sem consentimento ou transparência.
• Aumentar a desigualdade e a exclusão social, criando uma elite tecnológica e uma massa marginalizada.
• Colocar em risco a segurança e a estabilidade da sociedade, podendo ser usada para fins maliciosos ou causar acidentes ou mal funcionamento.

Para lidar com os desafios da IA, é preciso desenvolver uma abordagem multidisciplinar e multidimensional, que envolva a colaboração entre cientistas, engenheiros, filósofos, juristas, políticos, educadores, empresários e cidadãos. É preciso também estabelecer princípios e normas éticas para orientar o desenvolvimento e o uso responsável da IA, respeitando os valores humanos e os direitos fundamentais. E é preciso ainda promover a educação e a conscientização sobre os benefícios e os riscos da IA, incentivando o pensamento crítico e a participação cívica.

Discutir IAs não é algo que entidades privadas e estados devem fazer sozinhos

A lição que Oppenheimer nos deixou é que as novas tecnologias precisam ser consideradas sob ótica social, levando em conta não apenas os aspectos técnicos ou econômicos, mas também os aspectos morais ou políticos. Ele nos mostrou que os cientistas têm um papel fundamental na sociedade, não apenas como criadores de novas tecnologias para defender estados ou impulsionar a economia, mas também como cidadãos conscientes das suas implicações. Ele nos alertou que os interesses nacionais ou privados podem passar por cima da sociedade, se não houver um controle democrático e participativo das novas tecnologias.

A questão que se coloca hoje é: como podemos aproveitar as oportunidades e evitar os perigos das novas tecnologias? Como podemos garantir que elas sejam usadas para o bem comum e não para o mal? Como podemos assegurar que elas sejam inclusivas e não excludentes? Como podemos preservar a dignidade humana e não ser dominados pelas máquinas?

Essas são perguntas que exigem reflexão conjunta e ação coletiva. E você, o que pensa sobre isso?