O Feitiço da Técnica

 

O Feitiço da Técnica (2)

            O desenfreado avanço dos instrumentos da Inteligência Artificial me faz retornar ao tema, começando por duas matérias publicadas em jornal em 2022 e comentadas em minha crônica “O Feitiço da Técnica”, publicada em 22/07/22 neste blog, objeto da presente revisão.

Começaremos pelo artigo do jornalista Leo Aversa, intitulado “5G? Prefiro o meu Nokia de volta” (1). 

     Em um artigo inteligente e bem humorado, Aversa começa por ironizar a propaganda em torno da chegada ao Rio do 5G, e que seria chegada a hora de trocar o celular. “Além da supervelocidade – como vivi antes dela, me pergunto -, ao que parece o 5G vai conectar as coisas. Todas as coisas. Elas vão conversar entre si e resolver seus problemas de forma objetiva”. “Boa sorte para as coisas”, ironiza. E prossegue citando os alardeados benefícios trazidos pelo 5G. “Os filmes, as músicas, as mensagens terão um download mais rápido, avisam os reclames. Comunicação instantânea, exultam”. E, então, faz uma crítica extremamente percuciente: o problema nos dias atuais não é a falta de comunicação, mas, sim, o excesso! E se permite preferir que voltássemos ao 3G, ao 2G, ao G original. Já seria bastante para falar com quem se precisa e mandar mensagem para quem se quer. Sustenta, mesmo, que se poderia voltar para o Nokia tijolão que, especula, seria ½ G, mais do que suficiente para situações de emergência.

    Curiosamente, diversas vezes me surpreendi fazendo esse mesmo discurso. O tijolão, que os homens podiam exibir expostos, atados ao cinto, sem qualquer preocupação com o risco de assalto, foi útil para que meus filhos, na época frequentadores das baladas, pudessem pedir socorro a mim ou a minha esposa em caso de sufoco, ou simplesmente dar notícia sobre seu paradeiro. Em galopante transformação, o tijolão foi sendo substituído por artefatos de alta tecnologia, através dos quais se pode fazer quase tudo. Literalmente condensam praticamente toda a informação sobre as nossas vidas, fazendo com que eles se tornem o objeto preferido de bandidos cada vez mais ousados. Prudentemente, muitas pessoas já utilizam um celular de reserva para usar fora de casa, contendo apenas números de telefone de contatos próximos, um aplicativo UBER ou 99 e pouca coisa mais.

     Retornando ao artigo, Aversa se pergunta se não deveria deixar de reclamar da tecnologia, pois se estivesse escrevendo seu texto à máquina teria muito mais trabalho e gastaria muito mais tempo, ainda que o tec-tec-tec do batucar das teclas fosse inspirador e memorável a cena de arrancar o papel da máquina para conferir o texto. Neste ponto, parece que o articulista travou algum contato com uma apreciação do filósofo Martin Heidegger, como veremos a seguir. 

    Assim, recorrerei a Heidegger, que se preocupou com as alterações na vida cotidiana trazidas pelo uso das inovações tecnológicas. Zimmerman, em seu livro “O Confronto de Heidegger com a Modernidade” (2) toma como exemplo a máquina de escrever, que poderia ser considerada apenas um modo mais eficiente de escrever-se, mas que, no entanto, o filósofo considerava a eficiência como sendo uma medida errada para usar-se em matéria de avaliação da escrita. Para ele, escrever era essencialmente escrita à mão:

     Sabia [Heidegger] por experiência própria que o seu pensamento ocorria através da mão, enquanto escrevia. A escrita à máquina minou tanto o pensamento como a linguagem, porquanto a palavra já não vai e vem através da escrita e da mão que age automaticamente, mas antes da pressão mecânica que ela exerce [nas teclas da máquina]. A máquina de escrever separa a escrita do domínio essencial da mão, e, acrescente-se, da palavra (1990, p.308)                                                                                                                                                            

    Para Heidegger, conforme Zimmerman, as máquinas de escrever tinham a sua utilidade, por exemplo, para reproduzir e preservar coisas já escritas à mão, mas que não havia lugar para escrita à máquina em se tratando de correspondência pessoal. O filósofo considerava que, quando as máquinas de escrever apareceram, as pessoas sentiram-se insultadas por receberem cartas datilografadas. “A escrita à máquina esconde o caráter pessoal do autor da carta, contribuindo dessa forma para a homogeneização da humanidade” (HEIDEGGER apud ZIMMERMANN, 1990, p. 308). Neste ponto eu me permito dar o meu testemunho. Coleciono em meus guardados muitas dezenas de cartas à mão escritas há muitas décadas por velhos amigos e antigas namoradas, e em todas recebo mais do que as palavras em si. O tipo de papel usado, o formato das letras, os riscados, a firmeza ou a tibieza do traço, os erros ortográficos não capturados por um corretor de textos inexistente na época, tudo isso complementa a emoção que uma carta pessoal transmitia.

     O comentador escreve que a objeção de Heidegger à prática da escrita de cartas pessoais à máquina era compartilhada por muitos dos seus contemporâneos, e que, embora a máquina de escrever seja um sintoma da era tecnológica, o filósofo concede (apud ZIMMERMAN, 1990, p.308) “que ela não é ainda uma máquina no sentido estrito de tecnologia moderna, antes é um intermediário entre a ferramenta e a máquina, um mecanismo. A sua produção, todavia, é condicionada pela tecnologia de máquinas”.

     A máquina de escrever, por sua vez, foi substituída pelo processador de textos, este um lídimo produto da tecnologia moderna, um gigantesco passo além da escrita à máquina, que já representara um considerável avanço em relação à escrita à mão. Estamos mais uma vez diante de uma radical mudança de conceito de escrever, pois até mesmo o termo “processador de texto” sugere, conforme Zimmerman (1990, p.308), “um massagear, um moldar, uma gestão de palavras, como se elas fossem matéria prima - plástica”. Embora reconhecendo as inegáveis vantagens do processador de texto sobre a escrita à mão e a escrita à máquina (com o que estou de inteiro acordo, ainda que compreendendo as considerações de Heidegger) esse autor assinala que:

 Na medida em que as palavras produzidas pelo monitor não são ainda coisa alguma de permanente, antes meros padrões de elétrons, alguns utilizadores de processador de texto alegam sentir-se menos ansiosos ao escreverem nele, por sentirem-se menos comprometidos às palavras que apenas “processaram” (ZIMMERMAN, 1990, p.308).

     Retornando ao texto de Aversa, ele deixa claro que a sua queixa do telefone é sua onipresença, quando ele virou uma prótese do corpo humano. E o 5G somente aumentará o vício, a subjugação à técnica. E quais seriam as vantagens? Fake News se espalhando mais rapidamente, vídeos sem graça do WhatsApp circulando mais lépidos, tretas rolando frenéticas pelas reses socias, exemplifica. Eu acrescentaria as tentativas de golpe, as teorias da conspiração e o patrulhamento do politicamente correto entre os fenômenos que ganharão velocidade de transmissão. E aponto para o WhatsApp como a grande ferramenta de veloz propagação de irreflexões de toda ordem, em completa distorção de uma utilização sadia, como alternativa à mídia tradicional frequentemente bastante comprometida.

     A segunda matéria, relativamente recente, assim como a primeira (ambas de 2022), que me caiu aos olhos foi “Alexa, Siri, quem foi às compras sem eu pedir?” (3). A matéria trata de uma questão bastante preocupante, assustadora, mesmo, com o subtítulo “Crescem relatos de encomendas feitas por assistentes virtuais sem o aval dos clientes. Falha preocupa especialistas”. 

    Agora vamos tratar de problemas causados pelo uso de assistentes virtuais como a Alexa, da Amazon, a Siri, da Apple e o Google Assistant. Afinal, o que são esses assistentes virtuais? Alexa, por exemplo? Vamos recorrer ao link (4)

     “Alexa é o nome da assistente virtual da Amazon, introduzida em 2014 com a Echo, sua primeira caixa de som inteligente. Diferente do que Apple, Google e Microsoft faziam até então, com Siri, Google Assistente e Cortana, a Alexa já nasceu com foco em atender o usuário nas tarefas do dia a dia, principalmente se forem compras na loja.

     Assim como suas concorrentes a Alexa é uma assistente conversacional, capaz de entender contexto até certo ponto e executar tarefas simples, como configurar alarmes, informar a situação do trânsito ou a previsão do tempo, executar uma lista de músicas ou reproduzir podcasts. 

    Mas, por não estar atrelada a um sistema operacional, a Alexa é compatível com iPhone, Android, Windows e até consoles de videogame, além de ser capaz de se conectar a uma vasta gama de dispositivos de terceiros.

     Como funciona a Alexa?

     Basicamente, é necessária uma palavra de ativação para despertar a assistente e depois pedir o comando. Essa palavra de ativação pode ser configurada para “Alexa”, “Amazon” ou “Echo”. Assim, os microfones ficam sempre atentos para ouvir se o usuário vai executar um comando.

     Então, como nas demais assistentes virtuais, quando a palavra de ativação é dita, basta prosseguir com a solicitação. Exemplo: Alexa, defina um alarme para amanhã, às 3 da tarde. 

    Esses pedidos são gravados e enviados para os servidores da Amazon, nos quais é feito o processamento da solicitação e, depois, devolvidos ao usuário. Tudo acontece rapidamente. 

    O que a assistente da Amazon consegue fazer? A Alexa pode interagir com dispositivos tais como geladeiras, lâmpadas inteligentes, micro-ondas, fechaduras, termostatos, controles remotos, TVs, sensores de movimento, interruptores, entre outros. Tanto por comandos de voz ditos pelos usuários quanto por interação com os aplicativos dedicados à automação de tarefas, como o IFTTT.

     Falando na Amazon, a Alexa é capaz de fazer pedidos de compras: caso o usuário mantenha dados financeiros em sua conta, ele pode usar comandos de voz e pedir que a assistente compre produtos cotidianos. Em 2017, ela passou a aceitar pedidos de comida em redes como Starbucks, Domino’s Pizza e Pizza Hut, entre outras.

     Além disso, no app, é possível usar algumas habilidades criadas por terceiros — as chamadas skills –, aumentando a gama de funções disponíveis nos dispositivos Echo.” Enfim, dentre muitas outras coisas, Alexa é capaz de fazer pedidos de compras... [na minha crônica original eu dava alguns exemplos comprovados da Alexa agindo por conta própria] “. E de fazer exercícios escolares para estudantes, que não aprenderão as noções mais básicas de aritmética, da língua portuguesa e do que mais seja. O que esperar dos futuros profissionais assim “ensinados”?

    A questão é séria. Está reportado que uma pesquisa recente elaborada pelo grupo americano de investimento Loup Ventures mostrou que as assistentes virtuais não compreendem parte dos comandos. Submetidas a um teste de 800 perguntas, a Google Assistant respondeu a 88% das perguntas, a Siri a 75% e, por fim, a Alexa a 72%. Quando as assistentes virtuais passam a tomar decisões por conta própria fica muito clara a necessidade de reforçar seus sistemas de segurança. Mas, ao que tudo indica, a prioridade do avanço tecnológico é com a velocidade. E surge a mais recente e assustadora novidade tecnológica, deixando Alexa e congêneres como brincadeira de criança: O ChatGPT.

            O ChatGPT é um chatbot com inteligência artificial (IA) que interage com humanos e fornece soluções em texto para diferentes questionamentos e solicitações. Desenvolvido pela OpenAI, o software é capaz de criar histórias, responder a dúvidas, aconselhar, resolver problemas matemáticos e muito mais — tudo isso com uma linguagem fluida e natural, semelhante à humana. O chatbot se tornou bem popular nos últimos meses, chegando a atingir a marca de um milhão de usuários em apenas uma semana de lançamento. É possível acessar o site do ChatGPT em navegadores do computador ou de celulares após um simples cadastro.

Diversos comandos podem ser usados com o ChatGPT a fim de explorar as milhares de possibilidades do robô. Quer saber o que é ChatGPT, como fazer login e como usar? O TechTudo preparou um guia completo sobre o chatbot da OpenAI para que você aprenda prompts úteis para serem usados com a IA e utilidades do chat no dia a dia. Conheça também perigos e controvérsias da plataforma e veja se há formas ou não de ganhar dinheiro com ela (...) (5).

“Desafio de regular inteligência artificial não tem paralelo.” Este é o título de matéria publicada na seção Opinião do GLOBO, de 26/02/23, pág. 2. A matéria discorre sobre os avanços da IA e suas implicações na sociedade, terminando por alertar que a nova realidade tornará mais salientes os dilemas éticos inerentes à IA. E questiona: “O que acontecerá se ela for usada para cometer mais crimes? A quem devem pertencer os direitos sobre o que for produzido? Como zelar por um ambiente competitivo que não reproduza a ameaça dos monopólios digitais? Como garantir a evolução da tecnologia com o mínimo de riscos para seus usuários, para a sociedade, para as instituições? Essas são apenas as questões mais evidentes. Juridicamente será preciso adotar critérios para regular os direitos autorais, a responsabilidade civil (e mesmo criminal) e o modelo de negócios subjacente ao uso dos robôs. Tal regulação impõe um teste inédito para a inteligência humana.”

Em artigo intitulado “Mary Shelley versus ChatGPT” (6), é relatada uma entrevista feita por um jornalista com este software de Inteligência Artificial (IA). Ele permite que um computador acumule informações sobre tudo e as retrabalhe, sendo capaz de escrever um artigo de jornal sobre qualquer tema. O jornalista tratou o software como um “entrevistado”, questionando-o sobre suas possibilidades e suas limitações. E ainda sobre suas respostas serem tratadas como material original ou simples plágio. O software teria se saído extremamente bem na entrevista, reconhecendo, contudo, sua vulnerabilidade caso alimentado por informações falsas. Igualmente assumiu sua incapacidade de julgar fatores subjetivos e reconhecer sua total falta de sensibilidade.

Ao pensar na entrevista, o articulista lembrou-se do célebre romance “Frankenstein”, escrito por Mary Shelley em 1818, e cujo tema é a crítica aos excessos das teses materialistas do Iluminismo e à onipotência da Razão. Um mundo super-racional perde as características de sua humanidade. Recordemos o livro, inspirador de tantas películas de Hollywood. Segue o artigo. Frankenstein é um médico que se refugia em um castelo isolado e cria, a partir de partes recolhidas de diverso cadáveres, um ser artificial que ele denomina “A Criatura”. Consegue infundir vida nele através da passagem de uma corrente elétrica, desperta a Criatura e lhe transmite todos os conhecimentos então disponíveis. O resultado é desastroso. A Criatura foge de Frankenstein e passa a cometer crimes hediondos. Frankenstein sai à sua procura e, quando finalmente a encontra dela escuta: “Você é o meu criador, mas eu sou o seu Senhor!” Eloquente metáfora, escrita há 200 anos!, para ilustrar os riscos à que estamos nos expondo. Curiosamente, a Criatura não somente cometeu crimes hediondos, acabando por causar a morte de seu criador, como roubou o seu próprio nome, pois muitas pessoas chamam a Criatura pelo nome de seu Criador, Frankenstein.

Outra matéria publicada em jornal (7), “Chat GPT gera fake news mais convincentes”, com o subtítulo “Experimento com 697 voluntários aponta que tecnologia pode produzir tanto informação precisa quanto conteúdo enganoso de forma mais eficiente que humanos; maioria não distinguiu textos da ferramenta.” Relata-se o resultado de uma experiência realizada com 697 voluntários submetidos a tuites noticiosos escritos por humanos e pelo ChatGPT. Resultado? As fake news criadas pelo robô foram avaliadas como com mais frequência.

As tecnologias de inteligência artificial, como qualquer outra inovação, podem ser usadas para fins positivos ou negativos, dependendo da maneira como são implementadas e controladas. É responsabilidade dos criadores e usuários de inteligência artificial garantir que ela seja usada de maneira ética, segura e benéfica para a sociedade como um todo.

Os debates em torno da inteligência artificial e seus impactos na sociedade são importantes e devem ser abordados de maneira cuidadosa e responsável. As preocupações legítimas sobre privacidade, segurança, emprego e outros aspectos devem ser consideradas e abordadas para garantir o uso responsável dessa tecnologia.

Resolvi consultar o próprio ChatGPT lhe dirigindo seguinte pergunta: “Você representa uma ameaça para a humanidade?”

“Como inteligência artificial, eu sou apenas um programa de computador criado para fornecer informações e responder a perguntas. Não tenho intenções, emoções ou capacidade de representar perigo para a humanidade. Minha existência é regida por código de programação e pelos princípios éticos e de segurança implementados pelos criadores.”

Impressionante como ele foi capaz de identificar prontamente quem representa a ameaça à Humanidade: o próprio ser humano, seu criador. Ele mesmo, o inventor da dinamite, o promotor da fissão nuclear, que possibilitou a fabricação das bombas atômicas (Robert Oppenheimer, considerado “O pai da bomba atômica”, após a explosão de um teste bem sucedido no deserto, exclamou:  "Agora me tornei a Morte, o destruidor de mundos", o avião, transportador de passageiros, mas, também, de artefatos explosivos e incendiários, e uma infinidade de outras criações humanas, extremamente úteis quando utilizadas para o bem, mas, escusado falar sobre os terríveis efeitos quando utilizadas com fins maléficos.

Terminando nossas considerações sobre o ChatGPT, constatamos que ele é realmente capaz de coletar informações já disponíveis nos mais diversos meios e de produzir textos a partir delas. Mas ele não é capaz de criar nada novo. Assim sendo, quando a nova geração, viciada pela Inteligência Artificial, não for mais capaz de produzir nada de novo, em qualquer ramo, o ChatGPT consequentemente não terá nada novo a acrescentar àquilo que já respondeu.

     Finalizando. São considerações de obscurantistas? De luditas? Sou eu mesmo um ludita? Se sou, estou em boa companhia. John Casti, ph.D., especializado nos estudos das teorias dos sistemas e da complexidade, e que relaciona em seu livro “O Colapso de tudo” (8) UM APAGÃO NA INTERNET entre onze alarmantes – e prováveis – situações que podem arrastar o mundo para uma idade das trevas; Martin Rees, ex-Presidente da Associação Britânica para o Avanço da Ciência, e autor de um livro com um título assustador: “Our Final Century” (9) (Nosso derradeiro século); Jaron Lanier, filósofo da computação, e um dos precursores da internet e da realidade virtual, autor do livro “Dez razões para você deletar agora as suas redes sociais” (10), naturalmente um exagero polêmico, no intuito de dramatizar a dependência da internet, de darmos um tempo para reflexão.

O que fazer? Retornemos a Martin Heidegger, que, embora veemente crítico do abuso da tecnologia, afirmava que podemos ter uma outra relação com os objetos técnicos, que podemos utilizá-los e, ao utilizá-los, permanecer ao mesmo tempo livres deles, de forma que possamos a qualquer momento largá-los, utilizá-los como devem ser utilizados: 

     Podemos dizer “sim” à utilização inevitável dos objetos técnicos e podemos ao mesmo tempo dizer “não”, impedindo que nos absorvam e, desse modo, verguem, confundam e, por fim, esgotem a nossa natureza (Wesen). SERENIDADE (11) 

     A esta atitude de deixar os objetos técnicos entrarem em nosso mundo cotidiano e, ao mesmo tempo, deixá-los fora, do sim e do não em relação a eles, o filósofo designa como a Serenidade para com as coisas. Trata-se de usufruir da tecnologia sem ficar-se restrito, dominado por ela. Simples assim, se me permitem o anglicismo.

 ----------------------------------------------------------------------------------------------------------

(1) O GLOBO. Edição de 19/07/2022. Segundo Caderno, Pag. 6.

(2) ZIMMERMAN, Michael E. Confronto de Heidegger com a Modernidade – Tecnologia/Política/ Arte. Lisboa: Instituto Piaget, 1990. Pag.308

(3) O GLOBO. Edição de 17/07/2022. Caderno Economia, Pag.22.

(4) https://tecnoblog.net/responde/o-que-e-a-alexa-ou-melhor-quem-e/

(5) https://www.techtudo.com.br/guia/2023/03/chatgpt-o-que-e-e-como-usar-veja-o-guia-completo-do-chatbot-da-openai-edsoftwares.ghtml

(6) ALQUÉRES, José Luiz. Mary Shelley versus ChaptGPT . O GLOBO, ---

(7) O GLOBO, Edição de 29/06/2021. POLÍTICA, Pag.5

(8) CASTI, John. O Colapso de Tudo. Rio de Janeiro: Editora Intrínseca ltda, 2012.

(9) REES, Martin. Our Final Century. United Kingdon: Arrow Books,2004

(10) LANIER, Jaron. Dez Argumentos para você deletar agora as suas redes sociais.

(11) HEIDEGGER, Martin. Serenidade. Lisboa: Instituto Piaget, 1959. Pag.23  

José Antonio C. Silva 31/07/2023