Os avanços da inteligência artificial (IA) provocam tanto fascínio quanto temor nas pessoas. Intelectuais, governos e cientistas se preocupam com o uso ético da IA buscando alternativas para mitigar seus possíveis impactos negativos, como a perda de empregos. A OpenAI, por exemplo, prevê que a superinteligência poderá surgir ainda nesta década, ultrapassando as habilidades humanas. Para tanto, a empresa criou um grupo de pesquisa destinado a direcionar 20% das soluções computacionais de IA para observar valores humanos.
Hollywood, precocemente, tem explorado essas questões em filmes como “Matrix” (1999, 2003, 2021) e “O Exterminador do Futuro” (1984, 1991, 2003, 2009), onde a supremacia das máquinas coloca a humanidade em uma luta pela sobrevivência. Em Matrix, o enredo trata da confusão entre a vida real e a vida virtual, tema que alguns cientistas da física quântica hoje tentam provar que a vida é somente uma “simulação”.
Essas preocupações são pertinentes no contexto atual, considerando que arsenais nucleares são controlados por máquinas sob supervisão humana. O ser humano pode perder o controle sobre essas armas? Muitas atividades públicas dependem da automação, como o controle de tráfego nas cidades, sistemas de trens e metrôs, e o tráfego aéreo. Qualquer falha na automação poderia causar um colapso significativo em áreas cruciais da vida cotidiana.
O artigo “A Filosofia é Fundamental na Era da Inteligência Artificial“, publicado em 5 de agosto de 2024 por Anthony Grayling, aborda o papel dos estudos filosóficos na criação da IA remontando ao desenvolvimento de programas de computador nos anos 1950, como o Logic Theorist. Pesquisas de Allen Newell e Herbert Simon buscaram provar teoremas utilizando proposições da obra Principia Mathematica (1910), de Alfred North Whitehead e Bertrand Russell, que visava restaurar a matemática sobre uma base lógica comum.
No século XIX, o filósofo alemão Gottlob Frege introduziu variáveis quantitativas na lógica moderna, separando-as das pessoas para mostrar uma determinada lógica. Pode-se dizer, por exemplo, que “Neymar é um jogador de futebol”, e sistematizar isso como “existe um X, tal X é um jogador de futebol”. O termo “existe” é um quantificador, e “X” é uma variável.
O filósofo e matemático austríaco Kurt Gödel afirmou que a verdade em qualquer sistema formal não pode ser definida dentro desse próprio sistema, uma ideia também explorada pelo matemático polonês Alfred Tarski em sua “Prova da Indefinibilidade da Verdade”. No mundo contemporâneo, a “pós-verdade” deixou a verdade em xeque, e Gödel explicou que, por exemplo, a verdade aritmética não pode ser definida apenas dentro do sistema da aritmética.
A ideia de uma máquina capaz de realizar cálculos e ajudar na elaboração de respostas para questões filosóficas e científicas foi discutida pelo filósofo alemão Gottfried Leibniz no século XVII. Essa ideia é similar ao conceito do oráculo no filme Matrix, que tinha o poder de escolha e de prever o futuro.
O ChatGPT e outras IAs generativas se baseiam em padrões estatísticos de uso da linguagem, o que se assemelha ao pensamento do filósofo austríaco Ludwig Wittgenstein: “O significado de uma palavra é seu uso na linguagem.”
O ponto crítico da automação será quando as máquinas adquirirem consciência, além da habilidade autônoma de interagir com os seres humanos e produzir trabalhos textuais, gráficos, analíticos, imagens e vozes de forma genuína. No entanto, a ciência ainda não conseguiu explicar a origem da consciência humana, e cabe à filosofia explorar questões sobre saber, existência, razão e mente.
Dada a complexidade da IA, fica claro que não se trata apenas de uma questão técnica, mas de um assunto que envolve aspectos sociais relevantes. É essencial que engenheiros e empresas de tecnologia considerem as contribuições de cientistas sociais, advogados, formuladores de políticas, pesquisadores e usuários.
Bem assim, uma comissão de juristas criada em razão do PL 2.338/2023 (Senado Federal) para discutir o uso da Inteligência Artificial e estabelecendo fundamentos e princípios gerais para o desenvolvimento e utilização dessa tecnologia. A proposta irá elaborar uma regulação sustentada em riscos e uma escultura de regras baseada em direitos.
O poder das empresas de tecnologia pode impactar até mesmo a democracia de um país, tornando a IA um instrumento de influência com potencial devastador. O advogado e autor britânico Jamie Susskind argumenta que é hora de construir uma “república digital”, que reformule o sistema político e econômico que permitiu tanta influência a essas empresas.
Com a inevitável evolução da IA, que pode vir a adquirir algum grau de consciência, é essencial que o Direito proteja os seres humanos do poder tecnológico. O controle das máquinas deve ser exclusivo do operador humano, e a automação não deve ser delegada às próprias máquinas, pois somente o ser humano pode ser responsabilizado por suas condutas e atos civis.
Além disso, a tecnologia disruptiva não deve ultrapassar os limites naturais do ser humano como programador e comandante dos programas. As empresas de tecnologia não devem ter o arbítrio de conceder às máquinas a presunção de uma consciência capaz de emoções humanas, como alegria, tristeza ou dor.
A IA, apesar de sofisticada e promissora, deve ser limitada a sua função de instrumento tecnológico a serviço do ser humano. Caso contrário, as previsões dos filmes Matrix e O Exterminador do Futuro poderiam se tornar realidade, com a humanidade servindo às máquinas, se estas não a exterminarem primeiro – uma ficção que nos lembra que o universo reduz tudo o que existe na Terra a um minúsculo grão de areia.
Assim, o Direito, como ciência social aplicada, é essencialmente humano e social, portanto, possuindo um conteúdo substancialmente sociológico e filosófico. Ele desempenha um papel indispensável na formação de padrões éticos no desenvolvimento da IA avaliando os impactos nocivos e os riscos tecnológicos de novos produtos inteligentes, e tutelando os direitos fundamentais e naturais do ser humano.
Referência
Anthony Grayling. A filosofia é fundamental na era da Inteligência Artificial. Publicado: 5 agosto 2024. Disponível em: https://theconversation.com/philosophy-is-crucial-in-the-age-of-ai-235907. Acesso em: 21.ago 2024.
Celina M. H. de Figueiredo e Luís C. Lamb. Teoria da Computação: Uma Introdução à Complexidade e à Lógica Computacional. Disponível em: https://books-sol.sbc.org.br/index.php/sbc/catalog/download/68/297/550?inline=1. Acesso em: 22.ago 2024.
Oscar Schwartz. No século XVII, Leibniz sonhava com uma máquina capaz de calcular ideias. Disponível em: https://esclarecimentofilosofico.wordpress.com/2019/11/05/no-seculo-xvii-leibniz-sonhava-com-uma-maquina-capaz-de-calcular-ideias/. Acesso em: 22.ago 2024.
Lucas Brandão. A filosofia da linguagem de Ludwig Wittgenstein. Disponível em: https://comunidadeculturaearte.com/a-filosofia-da-linguagem-de-ludwig-wittgenstein/. Acesso em 22.ago. 2024.
Projeto regula uso de IA nas práticas médica e jurídica. Agência Senado. Disponível em: https://www12.senado.leg.br/noticias/materias/2024/03/11/projeto-regula-uso-de-ia-nas-praticas-medica-e-juridica. Acesso em: 23.ago 2024.
Projeto de Lei n° 2338, de 2023. Senado Federal. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 23.ago 2024.
*Advogados autores do escritório MDR Advocacia: Rodrigo Cavalcanti, Ricardo Medeiros e Marcos Delli.
Crédito da Foto: AGÊNCIA SENADO – Getty Images/iStockphoto
Fonte: Assessoria de Imprensa
