“Alexa, qual é a temperatura hoje?”
A pergunta acima é exatamente aquela que o Amazon Echo, um smart speaker, foi criado para responder. Os smart speakers são híbridos de caixas de som e assistentes virtuais que escutam e respondem à voz do seu dono. Visando se integrar na nossa vida diária, o Echo e seus pares tecnológicos possuem a capacidade de responder e completar demandas básicas, como tocar músicas e controlar outros aparelhos eletrônicos com conexão à internet.
A ideia é fazer a nossa vida ficar mais simples, delegando a maior quantidade de tarefas possíveis a uma máquina singular ao invés de usar vários aparelhos especializados para tarefas específicas. Porém, questões sobre segurança, privacidade e uso das gravações dessas tecnologias põem em causa a promessa de simplicidade que esses aparelhos podem trazer.
Este guia, em forma de perguntas que você pode fazer ao smart speaker mais popular, é uma breve introdução ao tópico e às questões legais mais salientes em relação aos aparelhos.
“Alexa, o que o Echo é? ”
Uma “caixa de som inteligente”, nome da categoria da nova geração de aparelhos que usam inteligência artificial. Eles combinam a tecnologia IA com reconhecimento de voz e o entendimento de linguagem natural para produzir um pequeno aparelho que consegue participar em conversas rudimentares. Cada assistente responde a uma palavra ou frase que “desperta” o programa e indica que ele deve escutar a fala que segue.
Atualmente, todas as cinco maiores companhias de tecnologia do mundo — Apple, Microsoft, Google, Amazon, e Facebook — estão criando programas inteligentes capazes de conversar com humanos.
Enquanto somente 28% dos consumidores nos Estados Unidos atualmente usam algum assistente virtual, esses aparelhos que integram a tecnologia IA de um assistente de voz com um produto de casa comum tem tido grande sucesso. Vendas do Echo e Google Home aumentam em média 39% anualmente. Essa demanda está estimulando outras companhias a entrarem no mercado. A Apple, por exemplo, lançará sua caixa de som inteligente, chamada HomePod, em dezembro, e a Microsoft estabeleceu uma parceria com a companhia de speakers Harman Kardon para desenvolver o Invoke, que chegará às lojas ainda neste ano.
Particular a esses objetos, e diferentemente de celulares que têm telas e teclados, os smart speakers só interagem com você por meio da voz. Você fala e o assistente pessoal responde.
“Alexa, como você fala?”
Os smart speakers são pontos de conexão entre você e os servidores da Amazon e Google. Quando sua ordem ou pergunta chega até o servidor dessas empresas, tecnologias proprietárias de inteligência artificial são executadas para cumprir seu pedido. O servidor recebe a gravação, a cataloga na sua conta individual e processa o seu comando, formulando uma resposta apropriada que retorna à caixa de som.
Para esse sistema funcionar, as caixas de som inteligentes têm que estar te escutando. Sempre. Mas ainda que esses “ouvidos” eletrônicos estejam atentos, eles só registrarão sons depois do uso de uma palavra-chave que os desperte. Pode ser “OK, Google”, “Alexa”, “Siri” ou várias outras. O resto do que você diz é descartado, entrando “por um ouvido e saindo por outro”.
Se você quiser ter controle sobre o que de fato é gravado, tanto o Echo quanto o Home têm um botão que desliga o microfone. Entretanto, usar a função mudo reduz os benefícios que esses produtos pretendem oferecer aos seus donos porque todo pedido terá que ser iniciado religando o som do speaker. A essa altura, seria quase mais fácil completar a tarefa (por exemplo, tocar uma música) sem a ajuda do dispositivo.
“Alexa, mas se você vai me gravar, essa gravação está segura?”
Empresas com assistentes de som usam medidas diferentes para proteger as informações pessoais de seus consumidores, mas existem falhas nessas defesas. O áudio enviado para a Google e Amazon é criptografado antes de ser transmitido, deixando a troca de dados supostamente segura. Mas um pesquisador inglês da área de segurança da informação demonstrou que é possível transformar um Echo fabricado antes de 2017 em um instrumento de gravação perpetua cujo áudio pode ser transmitido a um local remoto.
O problema aparece quando alguém ganha acesso a sua conta da Google, Amazon ou Microsoft. A meta de um assistente virtual é conhecer seu dono de forma íntima para poder lhe ajudar da melhor forma possível. Por isso, essas três companhias armazenam suas palavras indefinidamente em sua conta pessoal. Um hacker poderia acessar o registro completo de todos os seus pedidos para Alexa, Google ou Cortana. Para se proteger de hackers é uma boa acessar sua conta e apagar o histórico de interações com os serviços periodicamente.
Ao invés de associar a gravação com a sua conta de usuário, a Apple associa a informação que a Siri coleta sobre você com uma série de números aleatórios. Em tese, esse sistema dificulta qualquer tentativa de hacks nos servidores da Apple para descobrir informações pessoais. Além disso, depois de seis meses, a Apple apaga o código de números e a gravação não pode mais ser atribuída a nenhum usuário.
Essas proteções não impedem acesso legal a suas conversas. Pedidos judiciais por gravações de smart speakers começam a acontecer nos Estados Unidos, onde, como parte de uma investigação de um assassinato, promotores enviaram um mandado à Amazon exigindo liberação das gravações do Echo. A princípio, a empresa resistiu ao entregar as gravações, argumentando que as gravações são uma forma de discurso protegido pela liberdade de expressão. Os promotores precisariam de mais provas antes de solicitá-las.
“Alexa, então quais são as leis que te regulam?”
Como a Amazon deixou o caso depois que o réu concordou em ceder as gravações para a polícia, não houve uma decisão judicial sobre o estatuto jurídico das gravações realizadas por assistentes virtuais. Por enquanto, não se sabe se nos Estados Unidos promotores precisarão provar que existe uma necessidade premente das matérias dos assistentes virtuais e que é impossível acessá-los de qualquer outra maneira. E a questão da natureza dos áudios gravados por assistentes virtuais não é a única questão legal provocada por essa tecnologia.
Os assistentes virtuais foram criados como o “centro neural” de uma rede de aparelhos inteligentes conectados à internet, também conhecida como “internet das coisas”. Até agora existem poucos padrões mínimos de segurança para produtos dessa categoria.
Por conseguinte, não é de surpreender que especialistas de segurança da informação já tenham demonstrado vulnerabilidades em uma enorme gama de objetos, desde bonecos até carros. Um documento publicado pelo Wikileaks alega inclusive que a CIA e o MI5 descobriram e mantiveram em segredo vulnerabilidades em uma Samsung Smart TV que permitia acessar o microfone da televisão de seu usuário.
Vamos concordar: ser espionado por um de seus objetos pessoais é um cenário bastante assustador. Mas esse quadro se torna ainda mais grave quando se considera que um dispositivo comprometido em uma rede facilita a violação a todos os outros, arriscando toda a informação contida no ecossistema. Para combater esses riscos, governos estão começando a dar os primeiros passos rumo à regulamentação. Nos Estados Unidos, quatro senadores sugeriram uma nova lei para estabelecer um padrão mínimo de cibersegurança para aparelhos com conexão à internet comprados pelo governo. A esperança é que essa lei utilize todo o poder do governo para melhorar protocolos de segurança em todos os aparelhos comerciais.
O Brasil também está trabalhando na regulamentação da internet das coisas. O BNDES financiou um estudo sobre a IoT visando criar um plano nacional para integrá-la ao governo. Essas atividades são um primeiro passo importante para nos prepararmos para a propagação iminente de dispositivos inteligentes. Estima-se que o mercado para objetos como smart speakers crescerá para cerca de $3.7 bilhões de dólares nos próximos três anos.
Mas antes que cada casa possa falar com a Alexa, temos que encontrar meios para alcançar o melhor potencial dessas tecnologias sem que isso signifique sacrificar nossa privacidade ou segurança.
*Sofia Martins estuda literatura comparada na Universidade de Columbia e é colaboradora do ITS Rio.
