A Internet dos Objetos que mentem

Marcelo Rinesi, chefe de tecnologia do Institute for Ethics & Emerging Technologies, publicou um artigo preocupante no final de setembro sobre o escândalo envolvendo os carros a diesel da Volkswagen nos EUA. Rinesi afirma que o a VW não criou um automóvel com defeito, mas programou de propósito o sistema do veículo para enganar de modo inteligente os testes de emissão de poluentes.

O episódio ilustra uma tendência preocupante: até pouco tempo atrás, os códigos de regulamentação levavam em conta que os seres humanos cometem erros e delitos, dentro um universo físico confiável. As pessoas podem sentir a tentação de mentir, se os benefícios forem maiores que os riscos, mas os objetos não mentem. Pergunte a qualquer pessoa se ela sempre usa o cinto de segurança, e a resposta será sempre passível de suspeita. Por outro lado, um teste de eficiência aplicado a uma lâmpada comum sempre dá respostas honestas. É claro que as coisas quebram, e podem se comportar de modo imprevisível, mas não são estrategistas – elas não escolhem mudar de comportamento com o objetivo de enganar algum ser humano desavisado. “A matéria não é mal-intencionada”, nas palavras de Rinesi.

Agora isso mudou. Os objetos agora têm chips e sensores embutidos, e softwares que rodam algoritmos estratégicos. Rinesi argumenta que as empresas se sentirão cada vez mais tentadas a “ensinar” seus produtos a mentir estrategicamente, apesar dos riscos elevados de uma punição. As empresas vão aprender a aplicar esse golpe tecnológico de modo cada vez mais eficiente.

Como no caso da Volkswagen, as normas ambientais serão alvo preferencial de novas fraudes eletrônicas, feitas de modo estratégico e lucrativo. Mas existem muitas outras áreas com potencial para fraude. Os softwares embutidos no seu carro, TV ou balança de banheiro podem cumprir todas as regras de privacidade estabelecidas em contrato, mas basta um upgrade no software para transformar essas máquinas em espiões, enviando dados para o fabricante — que vai obter um belo lucro com suas informações pessoais. E essa lista inclui itens sensíveis como equipamentos médicos, próteses, implantes e marca-passos.

Um dos grandes problemas da Internet das Coisas (IoT) é justamente esse: todos os objetos terão softwares atualizados continuamente, sem controle, sem fiscalização. Centenas de milhões, até mesmo bilhões de objetos ao redor do mundo. E nesse mundo onde cada aparelho interage e depende de uma infinidade de outros aparelhos, o software da marca X pode fazer o aparelho da marca Y sofrer uma queda de qualidade, de propósito – mas não quando o fiscal estiver olhando. Rinesi chama isso de “comportamente dinâmico” do software, que muda de acordo com as condições percebidas pelos sensores.

Rinesi prevê um futuro onde o modo como nós experimentamos o mundo será cada vez mais um reflexo da relação das pessoas com computadores e com a internet (uma vez que todos os objetos serão computadores conectados, afinal de contas). Da mesma forma como temos a sensação de que nossos computadores são máquinas meio obscuras, cheios de programas que nós não instalamos que fazem coisas sem nosso conhecimento, para beneficiar empresas sobre as quais nunca ouvimos falar, os objetos mais prosaicos poderão executar várias tarefas sem nossa permissão ou conhecimento. A coleta furtiva e não declarada de dados pessoais será cada vez mais ampla e universalizada.

Esses programas ocultos poderão ser apenas chateações, que tornam a máquina mais lenta e ineficiente, ou ser decididamente mal-intencionados. Seu aparelho de ar-condicionado deixaria de funcionar tão bem depois que você instala um termostato de uma marca concorrente, por exemplo. Sua smart-TV é programada para reconhecer comandos por gestos, mas não é um tanto suspeito que ela só ofereça downloads de filmes da Disney quando as crianças estão na sala? Ou imagine que seu carro sem motorista reduza a velocidade para dar passagem a modelos mais caros da mesma marca em uma rua.

Essas estratégias dificilmente serão legais no sentido jurídico e regulatório, mas como serão muito lucrativas e com os softwares cada vez mais eficientes em esconder seus rastros dos agentes de fiscalização (e dos usuários), será difícil detectar as fraudes.

Os custos ambientais e para a saúde pública da fraude da VW foram bem elevados, mas podem ocorrer casos ainda piores. Rinesi diz que a falta de uma regulamentação estrita e mundial sobre a Internet das Coisas é similar ao mercado financeiro global. A comparação é assustadora: as recentes fraudes financeiras de grandes bancos jogaram o mundo inteiro em recessão, e a maioria dos seus responsáveis sequer foi multada – os culpados deixaram os cargos executivos, mas continuam livres e aproveitando a vida como bilionários.

Um outro aspecto preocupante é que as corporações (como a GM, a Apple ou a fabricante de tratores John Deere) usam a famigerada lei de copyright eletrônico “Digital Millennium Copyright Act” (DMCA) para se blindarem contra uma fiscalização mais profunda das autoridades, e mesmo contra a xeretagem legítima dos proprietários dos objetos e aparelhos, que deveriam ter todo direito de fuçar em suas máquinas e mudar o que bem entendessem.

Advogados da John Deere ameaçam processar os donos de tratores que tentarem acessar o software dos veículos – a GM fez o mesmo. A ideia das empresas é que o fato de você pagar muitos milhares de dólares por um carro ou trator não o torna dono do veículo. Você comprou uma “licença de uso” de um equipamento, que continua sendo do fabricante, e continua trabalhando para o fabricante. Um trator moderno da John Deere coleta e envia um grande volume de dados sobre solo, cultivo, umidade, uso de fertilizantes, etc. O fabricante compartilha apenas uma parte desses dados com o fazendeiro “dono” do trator. Essa atitude da empresa está fazendo muitos fazendeiros optarem por tratores “analógicos”, sem computadores. Infelizmente, são poucos os casos onde o consumidor pode optar por versões analógicas dos produtos.

Talvez haja esperança no combate a esse tipo de fraude digital cometida em escala corporativa. Em um artigo para a Wired, Kyle Wiens, co-fundador e CEO da iFixit, diz que organizações não-governamentais como a Electronic Frontier Foundation e representantes do Congresso dos EUA estão propondo mudanças na DCMA para reduzir o uso abusivo da lei pelas empresas e dar mais poder aos consumidores para saber o que se passa dentro dos objetos digitais cada vez mais presentes em nossa vida. Existem iniciativas similares na Europa e em alguns países da Ásia.

Ou talvez, como dizem os Borgs de Jornada nas Estrelas, “resistir é inútil”.

 (Ilustração: Cleido Vasconcelos)