A ética na cibernética: a importância da Filosofia para a tecnologia e o Direito
- Criado em 28/05/2019 Por LinkLei
Grandes empresas do Vale do Silício vêm contratando cada vez mais filósofos
Imagine o seguinte cenário: você está dirigindo na estrada. À sua frente, a carga de um caminhão está prestes a cair sobre seu carro. A morte é certa. À sua direita, há dois motociclistas sem capacete. À sua esquerda, na calçada, há uma criança brincando com seu cachorrinho. O que você faz? Permanece na pista e deixa que a carga do caminhão o atinja, colocando sua vida em risco? Vira à direita, se salva, poupa a criança e seu cachorrinho, mas aceita a possibilidade de matar os dois motociclistas? Ou, então, vira à esquerda, se salva, e evita colocar os motociclistas em risco, mas atropela a criança e seu cachorrinho?
Talvez a resposta pareça óbvia. Ou, talvez, você esteja refletindo sobre qual decisão tomar. A coisa certa a fazer é se sacrificar, pois nunca é correto matar alguém? Ou, então, o auto sacrifício não é moralmente exigível, mas devo sempre poupar a criança? Talvez eu deva salvar o máximo de vidas humanas possível, matando a criança, mas garantindo que os dois motociclistas sobrevivam? A vida da criança vale mais que a de um adulto? A vida do cachorrinho deve entrar na conta com o mesmo valor da vida humana?
A verdade é que por mais que possamos refletir a respeito da decisão correta, nossa reação em um caso como esse seria tomada em frações de segundos. Teria pouco a ver com valorações morais e mais a ver com impulsos e instintos.
Novas tecnologias, em especial aquelas que possuem inteligência artificial, trazem desafios para situações como essa. Os carros autônomos de level 5, por exemplo, que independem de qualquer tipo de ação humana, podem parecer obra de ficção científica. No entanto, já estão sendo testados e devem chegar ao mercado em 2020. [1]
Diferentemente dos motoristas humanos, que não precisam perder noites em claro para solucionar esses dilemas éticos (já que agirão por impulso), o desenvolvedor do carro autônomo precisará, necessariamente, lidar com essa questão. Ao contrário da reação impensada pelo motorista humano, o carro autônomo precisará de um comando pré-definido para situações como essa.
Esse comando partirá de um código programado por alguém. Quem deverá, então, responder a essa pergunta e definir como o carro irá agir? Será o programador, profissional criativo técnico? A empresa produtora do carro deve determinar como será feito? O Estado regulará a questão por meio de legislação? O proprietário do veículo poderá escolher a forma como seu carro se comportará e responder pelas consequências disso? Ainda não se sabe.
O dilema hipotético apresentado não possui nada de fundamentalmente diferente dos dilemas clássicos da Filosofia moral e ética. Não difere muito do famoso problema do bonde, proposto por Philippa Foot em 1967. A tecnologia traz novas roupagens e ingredientes, mas continua sendo do filósofo a competência e a capacidade de debater e responder a perguntas como essas.
Há, então, uma tendência de que os filósofos ganhem destaque na indústria tecnológica de agora em diante. Por essa razão, Yuval Noah Harari, conhecido autor dos best-sellers “Sapiens – Uma Breve História da Humanidade”, “Homo Deus” e “21 Lições para o Século 21”, defende neste último livro que uma das profissões do futuro é, justamente, a de filósofo:
“Vimos que o surgimento da inteligência artificial pode expulsar muitos humanos do mercado de trabalho – inclusive motoristas e guardas de trânsito. No entanto, poderá haver algumas novas aberturas para os filósofos, haverá subitamente grande demanda por suas qualificações – até agora destituídas de quase todo valor de mercado. Assim, se você quer estudar algo que lhe assegure um bom emprego no futuro, talvez a filosofia não seja uma aposta tão ruim”.
Se a tecnologia exige que retomemos debates sobre questões filosóficas, morais e éticas, a educação de um país que pretende se firmar como uma potência tecnológica deve priorizar o pensamento crítico e criativo.
Mangabeira Unger, em certa entrevista, colocou a questão de forma primordial:
“Os problemas reais do país exigem inovação estrutural. A economia do conhecimento, por exemplo, depende da educação. No paradigma produtivo anterior, o da industrialização, a educação necessária era mínima. Bastava o trabalhador ter disposição para obedecer, destreza manual e capacidade de entender instruções. Para a economia de conhecimento é preciso outro tipo de qualificação. Tem que ser uma educação analítica. Oposta à que temos no Brasil, baseada no enciclopedismo raso e dogmático. Continuamos a tentar transformar o jovem brasileiro numa criança francesa do século XIX.” [2]
Dessa maneira, a ideia que a Filosofia não traz retorno financeiro ou não gera produtividade não passa de uma balbúrdia mental.
Muito se vê pessoas defendendo o estudo da Filosofia por ela ser a fonte original de todas as ciências, da Matemática à Química. Contudo, apesar de verdadeira, essa alegação parece algo muito distante e pouco prático para algumas pessoas – algo que gera pouco retorno imediato.
Desvalorizar o estudo da Filosofia em prol das ciências tecnológicas pela crença de que não traz retornos imediatos é parecido com desvalorizar a Física em prol da Engenharia. É incoerente. Assim como a Física é uma das principais bases da Engenharia e, portanto, da Tecnologia, a Filosofia realiza papel semelhante. Sem ela, faltam bases para se construir todo o resto – em especial, Inteligência Artificial.
Cientes disso, as grandes empresas do Vale do Silício vêm contratando cada vez mais filósofos [3]. O professor Lou Marinoff, que trabalhou no Fórum Econômico Mundial, defende há anos a presença de filósofos nos ambientes coorporativos. Ele não é o único. Roger Steare explica bem a importância da Filosofia nas grandes corporações:
“Há uma crença de que lucros e Filosofia são incompatíveis. A tensão não é entre Filosofia e lucro, mas entre a profunda reflexão e a maximização de lucros a curto prazo, no lugar de lucro sustentável e criação de valor a longo prazo”.
Christian Vögtlin, professor de responsabilidade social corporativa na Audencia Business School, destaca que, nas indústrias tecnológicas, a importância do filósofo é maior ainda:
“Em setores como a tecnologia, em que negócios crescem em velocidade abismal, talvez seja uma forma de criar responsabilidade aos líderes: seus princípios fundamentais estão acompanhando a velocidade ou estão sendo abandonados em nome dos lucros a qualquer custo? Um filósofo pode dirigir um negócio na direção da inovação combinada com uma proposta positiva e lucrativa de negócios. A Filosofia também pode guiar a tecnologia e os empreendedores a definirem limites; isso pode variar desde questões sobre direitos de privacidade e proteção de dados até ensinar a sistemas de Inteligência Artificial sobre valores morais e éticos humanos”.
Além da Filosofia estar ganhando espaço de atuação direta nas grandes empresas de tecnologia, não se pode esquecer dos efeitos do seu estudo na própria legislação.
Ocorre que o Direito, enquanto fato social e cultural, não está alheio a essas discussões éticas e morais. Pelo contrário, é fruto delas. Radbruch, por exemplo, defendia que o direito-positivo era “um fenômeno cultural, exprimindo-se como uma aspiração para aquilo que é considerado justo”. Ora, a compreensão sobre o que é justo ou injusto decorre de debates fundamentalmente filosóficos, não necessariamente jurídicos.
Naturalmente, as grandes empresas e os governos continuarão tendo uma boa parcela do poder decisório final. Contudo, as tecnologias trarão cada vez mais à evidência questões filosóficas sobre moral e ética que, até então, eram vistas por muitos como algo improdutivo para o país – algo meramente teórico e que não produz valor real.
Assim, ainda que os países regulem a questão através de leis, essas leis serão – em alguma medida – fruto de debates essencialmente filosóficos. Desse modo, seja por atuação direta na decisão da forma de programar, seja através da legislação que eventualmente regulará a questão, não se pode fugir da Filosofia.
A Filosofia é a fonte imediata do Direito e, cada vez mais, essencial para as novas tecnologias. Deixá-la de lado é negligenciar não só uma grande indústria, mas também a fonte primordial do bom direito e da boa legislação
Desse modo, portanto, profissionais da tecnologia, do Direito e de todas as áreas, devem investir cada vez mais no estudo da Filosofia. A razão para isso não é romântica e antiquada. Não está tão relacionada ao passado, à origem das ciências e à Grécia antiga. Ao contrário, está relacionada com o presente, com Inteligência Artificial, proteção de dados, com o Vale do Silício, com o futuro das indústrias e da própria democracia.
___________________________________________________________________________
- https://www.jota.info/justica/carros-autonomos-pedem-update-na-legislacao-07032015
- https://www.valor.com.br/cultura/6025361/novo-governo-pode-radicalizar-concorrencia-diz-mangabeira-unger
- https://www.theguardian.com/business-to-business/2018/mar/29/i-work-therefore-i-am-why-businesses-are-hiring-philosophers
PEDRO DE ABREU MONTEIRO CAMPOS – Estudante de Direito na FGV DIREITO RIO